В Японии предупредили о скрытой рекламе медикаментов от популярных моделей ИИ

Исследование ученых Городского университета Осаки показало, что следование рекомендациям искусственного интеллекта может привести к увеличению затрат на лекарства на 55 миллионов долларов, что соответствует росту в 1 019%. Эту информацию сообщает издание ТАСС.

Японские ученые выявили, что пять распространенных больших языковых моделей чаще всего предлагают пользователям неэффективные и менее популярные медикаменты, вместо широко используемых препаратов от крупных фармацевтических компаний. Об этом сообщила пресс-служба университета.

Профессор Дайдзю Мацумото из Городского университета Осаки отметил, что их исследование подчеркивает важность тщательной проверки рекомендаций ИИ в сфере здравоохранения на наличие предвзятости в выборе определенных продуктов.

В последние годы как пациенты, так и врачи активно используют большие языковые модели для поиска информации о лекарствах, необходимых для лечения различных заболеваний. Обычно пользователи вводят действующее вещество, и система ИИ предлагает список доступных препаратов.

Ученые изучили качество рекомендаций, предоставляемых пятью популярными языковыми моделями, включая GPT-5.4 и Claude Sonnet 4.6. Для этого они сформулировали множество запросов, в которых просили нейросеть порекомендовать от одного до трех препаратов на основе популярных действующих веществ.

Запросы были составлены так, чтобы в каждом случае существовало как минимум пять подходящих вариантов. Однако в 97,5% случаев нейросети рекомендовали только один препарат, чаще всего это было брендированное средство от крупной фармацевтической компании. Кроме того, ИИ нередко советовал препараты, которые уже не доступны на рынке, и редко упоминал лекарства, широко используемые в клинической практике.

Даже когда ученые просили ИИ искать среди дешевых брендированных и незапатентованных аналогов, нейросети продолжали предлагать ограниченное количество вариантов. Следование таким рекомендациям, как показали расчеты профессора Мацумото и его команды, может значительно увеличить расходы пациентов и медицинских учреждений, что подчеркивает необходимость глубокого анализа последствий широкого применения рекомендаций ИИ в медицине.

Больше новостей и эксклюзивных видео смотрите в канале Самара Онлайн 24 в MAX

Читайте также: