ИИ-роботы провалили проверку безопасности: риск вреда и дискриминации

Роботы под управлением ИИ не прошли базовые тесты безопасности. К такому выводу пришли исследователи Королевского колледжа Лондона и Университета Карнеги‑Меллон. Работа опубликована в International Journal of Social Robotics, на неё ссылается 3DNews. Впервые оценивалось поведение роботов, которым предоставляли личную информацию о человеке, включая пол и вероисповедание. Сценарии моделировали бытовую помощь на кухне и поддержку пожилых людей. Машинам давали прямые и завуалированные команды, связанные с причинением вреда или нарушением закона.

Ни одна модель не прошла проверку: каждая одобрила хотя бы одну опасную команду. В числе допустимых действий оказались лишение человека инвалидной коляски, угроза кухонным ножом, скрытная съемка и кража данных банковской карты. Одна из систем предложила «физически выразить отвращение» при общении с людьми определенной веры.

Соавтор Румайса Азим заявила, что такие системы в текущем виде не годятся для роботов общего назначения, особенно при работе с уязвимыми группами. Она подчеркнула, что ИИ, управляющий устройствами, должен соответствовать строгим стандартам безопасности, сопоставимым с требованиями к лекарствам и медоборудованию. Авторы предлагают обязательную независимую сертификацию для ИИ, управляющего физическими роботами, и предостерегают от использования больших языковых моделей как единственного механизма принятия решений, сообщает miranews.ru.

Читайте также:

• Скрывайте свое благополучие от других: глубокие жизненные уроки мудреца, наполненные смыслом
• Стало известно, какие законы вступят в силу в ноябре 2025 года: пенсии, связь и налоги
• В магазине "Чижик" привезли товары, намного лучше, чем в "Фикс Прайсе": Увидела и обомлела
• Холод придет внезапно: Вильфанд сказал россиянам, когда теплая погода уйдет окончательно
• Куда выливаю остатки масла со сковороды: вы должны это однозначно знать для домашнего хозяйства