Google удалил часть своих ИИ-ответов в поиске после того, как выяснилось: автоматические сводки могли вводить пользователей в заблуждение по вопросам здоровья. Речь идет о функции AI Overviews, которая показывалась прямо над результатами поиска и воспринималась как достоверный источник информации.
История показательная — и, если честно, тревожная. Google официально подтвердил, что убрал некоторые ИИ-сводки, касающиеся медицинских запросов, после того как журналистское расследование выявило риск для здоровья пользователей. Ошибочные или вырванные из контекста данные могли создавать ложное ощущение, что с человеком всё в порядке, даже когда это было не так.
Речь идёт о функции AI Overviews — кратких ответах, которые формируются генеративным ИИ и показываются в самом верху поисковой выдачи. Формат удобный, быстрый, визуально «авторитетный». Проблема в том, что в случае с медицинской информацией такая уверенность может стоить слишком дорого.
В одном из примеров ИИ выдавал диапазоны «нормальных» показателей анализов печени без учёта возраста, пола, национальности и клинического контекста. Эксперты назвали такие ответы опасными: пользователь мог решить, что анализы в норме, и просто не пойти к врачу.
Почему Google пошёл на удаление
После публикации расследования компания отключила AI Overviews для ряда конкретных запросов, связанных с анализами и функцией печени. Формально — это «точечные меры». Представители Google заявили, что не комментируют отдельные случаи, но признали: если ИИ упускает важный контекст, компания вносит изменения и пересматривает работу системы.
При этом проблема оказалась глубже. Если слегка переформулировать тот же запрос, ИИ-ответы снова появлялись. То есть речь идёт не об одной ошибке, а о системной уязвимости: ИИ может выглядеть убедительно даже тогда, когда говорит неточно.
Представители медицинских организаций прямо говорят: автоматические сводки не объясняют, что нормальные показатели не всегда означают отсутствие заболевания. А это уже вопрос доверия — не только к ИИ, но и к поиску в целом.
Google подчёркивает, что AI Overviews показываются только там, где система «уверена в качестве ответа», и что внутренние команды, включая клиницистов, проверяют подобные случаи. Но сама ситуация наглядно показывает: когда ИИ становится первым источником информации, цена ошибки резко возрастает.
Для нас, как пользователей и как специалистов по поиску, это важный сигнал. Google всё активнее внедряет ИИ в выдачу, но в чувствительных темах — особенно в здоровье — автоматизация пока явно опережает здравый смысл. И, похоже, даже самому Google приходится учиться на собственных ошибках.
Источник: The Guardian
