Искусственный интеллект Google рискует безопасностью пользователей в медицинских ответах

Компания Google подвергается критике за выдачу медицинской информации сгенерированным ИИ без явных предупреждений. Исследователи отмечают, что пользователи не видят дисклеймеров при первом показе ответов, а предупреждение появляется только при нажатии кнопки «Показать больше» и написано мелким шрифтом. Согласно The Guardian, текст уведомления указывает: «Это только для информационных целей. За медицинской консультацией обращайтесь к профессионалу».

Риски и эксперты

Пэт Патаранутапорн из Массачусетского технологического института подчеркнул, что отсутствие предупреждений может быть опасным, поскольку даже самые продвинутые модели ИИ иногда выдают неверную или вводящую в заблуждение информацию. Пользователи могут неправильно задать вопросы и оценить симптомы, что повышает риск.

Идеи по улучшению

Джина Нефф из Лондонского университета королевы Марии и Сонали Шарма из Стэнфорда отмечают, что дизайн системы ориентирован на скорость, а не на точность, и обзоры ИИ выглядят как готовый ответ, создавая ложное чувство уверенности. Том Бишоп из благотворительной организации по борьбе с раком крови предложил разместить предупреждение в верхней части страницы, с тем же шрифтом, что и основной текст, чтобы побуждать пользователей проверять данные у врача.

Больше новостей и эксклюзивных видео смотрите в канале Самара Онлайн 24 в MAX.

Читайте также:

• Определенные покупки грозят проблемами с налоговой: что скрывает Wildberries и Ozon
• Не стоит хвастаться такими вещами особенно перед самыми близкими: запомните навсегда эти 10 советов мудреца
• Клеим 4 полоски на подошву — и по льду можно ходить как по асфальту: лайфхак от подруги с Севера
• Для блинов на Масленицу подойдет только эта мука: В Роскачестве составили свой ТОП без всего лишнего
• "Нет повода радоваться": Вильфанд предупредил жителей России о "мрачноватой" февральской погоде