ИИ Google подвергает пользователей риску из-за ложных медицинских рекомендаций.
По данным The Guardian, обзоры генеративного ИИ предоставляют непроверенную информацию, которая может причинить вред. К тому же советы, сгенерированные искуственным интеллектом, отображаются наверху страницы результатов поиска, и пользователи чаще следуют им, нежели остальным рекомендациям.
В одном случае Google ошибочно рекомендовал людям с раком поджелудочной железы избегать продуктов с высоким содержанием жиров. Эксперты заявили, что это может увеличить риск смерти пациентов. Также ИИ предоставлял «совершенно неверную» информацию о раке у женщин, что может привести к случайному игнорированию опасных симптомов.
Люди обращаются к интернету в моменты беспокойства и кризиса. Если информация, которую они получают, неточна или вырвана из контекста, это может серьезно навредить их здоровью,
— цитирует издание директора по цифровым технологиям благотворительной организации «Мария Кюри» Стефани Паркер.
#Google #ИИ #рекомендации #риск
