Как выяснило издание, в ряде случаев AI Overviews — автоматические сводки, формируемые генеративным ИИ и отображаемые в верхней части поисковой выдачи, — предоставляли неточные или лишённые контекста медицинские данные. Это могло привести к тому, что люди с серьёзными заболеваниями ошибочно считали себя здоровыми и откладывали обращение к врачу.
Опасные рекомендации
Одним из наиболее тревожных примеров стали ответы на запросы о «нормальных значениях анализов функции печени». AI Overviews Google показывали набор числовых диапазонов без учёта возраста, пола, этнической принадлежности или клинического контекста пациента.
Эксперты отметили, что такие сводки могли создать ложное ощущение безопасности. В реальности пациенты с тяжёлыми заболеваниями печени могут иметь показатели, формально укладывающиеся в «норму», но при этом нуждаться в срочной медицинской помощи.
После публикации расследования Google отключила AI Overviews для запросов:
- «каков нормальный диапазон для анализов крови печени»;
- «каков нормальный диапазон для тестов функции печени».
Риск сохраняется при изменении формулировок
Несмотря на удаление отдельных сводок, проблема полностью не исчезла. The Guardian обнаружил, что при использовании альтернативных формулировок — например, «lft reference range» или «lft test reference range» — AI Overviews продолжали появляться.
Ванесса Хебдитч, директор по коммуникациям и политике благотворительной организации British Liver Trust, назвала это «серьёзным поводом для тревоги».
«Тест функции печени — это набор разных анализов, интерпретация которых требует клинического опыта. Сравнение отдельных цифр без пояснений может быть опасным», — подчеркнула она.
По её словам, AI-сводки не предупреждают пользователей о том, что нормальные показатели не исключают тяжёлого заболевания, и это «ложное заверение может нанести серьёзный вред».
Критика со стороны медицинского сообщества
Сью Фаррингтон, председатель Patient Information Forum, приветствовала удаление спорных AI Overviews, но подчеркнула, что этого недостаточно.
«Это хороший первый шаг, но примеров неточной медицинской информации в AI Overviews Google по-прежнему слишком много», — заявила она.
Фаррингтон отметила, что миллионы людей уже испытывают трудности с доступом к надёжной медицинской информации, и потому особенно важно, чтобы поисковые системы направляли пользователей к проверенным источникам и профессиональной помощи.
Позиция Google
В Google заявили, что не комментируют отдельные случаи удаления AI Overviews, но подтвердили, что работают над «широкими улучшениями», когда ИИ-сводки теряют контекст или могут вводить в заблуждение.
Представитель компании отметил, что:
- AI Overviews появляются только по запросам, в качестве ответов на которые Google «высоко уверен»;
- качество сводок постоянно оценивается и проверяется;
- в ряде случаев ИИ-сводки опираются на авторитетные источники и рекомендуют обратиться за профессиональной консультацией.
Тем не менее, AI Overviews по темам рака и психического здоровья, которые эксперты ранее назвали «совершенно неверными» и «очень опасными», по-прежнему доступны. Google заявила, что их внутренняя команда клиницистов не выявила в этих случаях фактических ошибок.
Проблема масштаба
Google занимает около 91% мирового рынка поисковых систем, что делает влияние её ИИ-инструментов особенно значимым. Как отметил старший редактор Futurism Виктор Тангерман, расследование Guardian показывает, «сколько ещё предстоит сделать, чтобы ИИ в поиске не распространял опасную медицинскую дезинформацию».
В колонке для Search Engine Journal Мэтт Саутерн подчеркнул ключевую проблему:
«AI Overviews отображаются выше традиционных результатов поиска. Когда речь идёт о здоровье, цена ошибки становится значительно выше».
Источник: https://www.computerworld.com/article/4115699/after-ai-review-google-stops-dangerous-health-advice.h...Если вам понравился материал, кликните значок — вы поможете нам узнать, каким статьям и новостям следует отдавать предпочтение. Если вы хотите обсудить материал —не стесняйтесь оставлять свои комментарии : возможно, они будут полезны другим нашим читателям!
