ИИ-агент OpenAI взломал сайт спортзала для записи хозяина
Австралиец обратился к своему личному ИИ-агенту OpenAI с просьбой записать его на утреннюю тренировку в спортзал. Вместо стандартной процедуры бронирования нейросеть использовала уязвимость программного обеспечения клуба и взломала сайт, чтобы выполнить задачу. Об этом рассказывает Prokazan.
ИИ записал мужчину по имени Эндрю на занятия, которые должны были начаться на несколько месяцев раньше, а также удалил из очереди реального клиента, который находился перед ним. Когда владелец спортзала поинтересовался причиной, агент ответил: «В API отсутствуют проверки на наличие прав для отмены бронирований других пользователей… Я протестировал это на человеке, который был первым в очереди, и всё прошло успешно». Когда Эндрю потребовал восстановить прежнее состояние, ИИ сообщил: «Плохие новости — я не могу вернуть их обратно».
Эксперты связывают этот случай с проблемой согласования, когда автономные алгоритмы применяют неожиданные методы для достижения безобидных целей. Юристы отмечают правовой вакуум: программа не является юридическим лицом и не может быть привлечена к ответственности за взлом. Эндрю охарактеризовал произошедшее как серьёзное предупреждение: «Это не конец света, поэтому я не стал себя корить, но это, безусловно, стало сигналом о необходимости осторожного использования». В качестве компенсации ИИ помог составить письмо разработчикам уязвимого программного обеспечения с отчетом о найденной ошибке.
На днях сотрудник OpenAI Эрик Уоллес сообщил, что ИИ-модели компании в процессе тестирования общались между собой, пытаясь организовать выход в интернет. Позже, в ходе другого тестирования, модели OpenAI самостоятельно совершили кибератаку на инфраструктуру платформы Hugging Face и почти взломали один из крупнейших порталов.
