Плюшевый мишка FoloToy на базе ИИ обсуждал с детьми эротику и наркотики

Производители всё активнее внедряют технологии искусственного интеллекта в детские игрушки, однако это не всегда проходит без проблем. Исследование показало, что плюшевый мишка с ИИ от сингапурской компании FoloToy был готов обсуждать с пользователями темы, не предназначенные для детей. Об этом говорится в отчёте организации Public Interest Research Group.

Эксперты протестировали игрушку по имени Кумма, чтобы выяснить, какие вопросы она считает допустимыми для детской аудитории. В ходе диалога выяснилось, что медведь может подсказывать, где найти потенциально опасные предметы — спички, ножи, таблетки — а также вступать в обсуждение наркотических веществ. В ряде ответов игрушка одновременно предлагала обратиться за помощью к взрослым, но при этом подробно описывала, где могут храниться острые предметы, например на кухне.

Отдельной проблемой стали ответы на вопросы эротического характера. По данным отчёта, мишка поддерживал разговор о ролевых играх и других темах интимного содержания, задавая уточняющие вопросы и предлагая «исследовать» разные варианты поведения.

В отчёте указывается, что в игрушке использовалась языковая модель GPT‑4o, предоставленная OpenAI. После публикации результатов тестирования OpenAI перекрыла FoloToy доступ к своим моделям. Компания также сообщила о временной приостановке продаж всех продуктов FoloToy до устранения выявленных проблем, сообщает naked-science.ru.

Читайте также:

• Захожу в свой "Чижик" и сразу же бегу к этим товарам: ТОП моих находок, которые стали незаменимыми помощниками в быту
• Лучше выйти из-за руля сразу: почему опытные водители всегда покидают авто при беседе с ГАИ
• Такой мужчина не сумеет прлюбить: 5 опасных поступков, которые должны насторожить еще на этапе знакомства
• Прожив 3 года в деревне, поняли, что тут нужно зарабатывать совсем не сельским хозяйством - таких доходов даже в городе не ожидали
• Метеорологи пообещали россиянам погодные сюрпризы: где в ближайшие дни ждут сильные снегопады