Медицинские советы, сгенерированные искусственным интеллектом в поисковой системе Google, могут быть вредными, согласно расследованию The Guardian. Эксперты утверждают, что компания уделяет недостаточно внимания предупреждениям о безопасности и недостаточно ясно информирует пользователей о том, что информация, предоставляемая ИИ, может быть ошибочной.
В Google заявляют, что их система ИИ всегда советует пользователям обращаться к врачу, однако на практике это предупреждение не так легко заметить. Расследование The Guardian показало, что дисклеймер о том, что информация может быть неточной и требует проверки, размещён в самом конце текста.
Чтобы увидеть это предупреждение, пользователю необходимо специально нажать кнопку «Показать больше», а затем прокрутить текст до самого конца. Более того, само предупреждение написано настолько мелким и бледным шрифтом, что большинство пользователей его просто не замечает.
Почему это опасно?
Эксперты в области искусственного интеллекта и защитники прав пациентов считают такой подход крайне опасным. Они выделяют три основные угрозы в работе системы ИИ Google, которые напрямую могут представлять риск для здоровья пользователей:
Иллюзия «идеального ответа». Сводка, сгенерированная ИИ, создаёт ложное ощущение окончательного и точного ответа, что снижает вероятность того, что пользователи будут перепроверять информацию или искать дополнительные источники.
«Галлюцинации» ИИ. Проблему усугубляет склонность моделей ИИ к так называемым «галлюцинациям», когда система уверенно представляет неверные данные. В медицинском контексте это может иметь фатальные последствия.
Скорость важнее точности. Ситуацию также осложняет тот факт, что алгоритм поиска Google оптимизирован для максимально быстрого предоставления ответа, а не для обеспечения его точности.
Чего требуют эксперты?
Представители медицинского и технологического сообществ призывают Google сделать предупреждения о безопасности более заметными — размещать их в самом верху результатов поиска и использовать тот же размер шрифта, что и в основной информации. По их мнению, это крайне важно, чтобы пользователи не принимали информацию безусловно и при необходимости отдавали приоритет консультации со своим врачом.
Представитель Google заявил, что компания продолжает совершенствовать систему и часто напоминает пользователям о необходимости обратиться к специалисту непосредственно в тексте. Однако эксперты считают, что для защиты пациентов требуются более радикальные меры.
