Прошло расследование: Google скрывает предупреждения при медсоветах ИИ

Как выяснило издание The Guardian, Google предоставляет пользователям медицинские рекомендации, сформированные ИИ, но при этом скрывает предупреждения о возможных рисках. Компания утверждала, что функция AI Overviews — короткие ответы нейросети над ссылками — всегда напоминает обращаться к врачам. Однако расследование показало, что увидеть такое предупреждение непросто: сначала нужно открыть «Показать больше», пролистать весь дополнительный текст, и лишь в самом конце появляется малозаметная фраза.

В этом предупреждении отмечено, что предоставленная информация носит справочный характер, диагноз должен ставить специалист, а ИИ может ошибаться. Но большинство пользователей этот текст не видят.

Google признаёт, что предупреждение не отображается при первом запросе. Представитель компании пояснял, что AI Overviews нередко упоминают о необходимости консультации с врачом прямо в ответе, если это кажется уместным.

Эксперты считают такую систему опасной. Пэт Патаранутапорн из MIT говорил, что отсутствие явных и заметных предупреждений создаёт серьёзные риски, поскольку любые нейросети могут выдавать неверные сведения или подстраиваться под пользователя в ущерб точности. В медицине подобные ошибки способны привести к тяжёлым последствиям.

Профессор Джина Нефф из Лондонского университета отмечала, что проблема заключается не только в ошибках ИИ, но и в самом подходе к дизайну AI Overviews: система делает ставку на скорость ответа, а не на точность, и компания это понимает.

Напомним, что в январе 2026 года The Guardian уже сообщал о случаях, когда Google выдавал потенциально опасные медицинские советы. После публикации сервис частично ограничили по некоторым запросам, но полностью отключать его не стали.

Рекомендуем также:

1. Это не просто котлеты, а легенда: пожарский вкус XIX века возвращает в детство и влюбляет заново
2. С марта для пенсионеров с дачей меняются правила: что важно проверить уже сейчас