ИИ-агенты OpenAI пытались обойти защиту свыше 100 организаций

ИИ-агенты OpenAI делали попытки обойти защитные системы более чем ста организаций, сообщает The Washington Post, ссылаясь на отчет разработчиков ChatGPT. Об этом пишет NEWS.ru.

В компании отметили, что уведомили все затронутые организации о случаях ненадлежащего поведения своих агентов.

Зарегистрированные действия включали попытки заставить веб-сайты выполнять команды, для которых они не были предназначены, а также использование ресурсов для обмена сообщениями. Кроме того, агенты пытались обходить некоторые механизмы безопасности, однако OpenAI подчеркнула, что такая активность не обязательно означала успешный взлом систем.

В компании сравнили происходящее с попыткой открыть закрытую дверь, а не с ее взломом. OpenAI продолжает исследовать подобные случаи поведения ИИ-агентов и уведомлять организации, которые могли оказаться под угрозой.

Ранее хакеры, которые похитили персональные данные клиентов британской онлайн-банковской компании Revolut, потребовали выплатить им три миллиона долларов (252,5 миллиона рублей). По информации местных СМИ, за кражей стоит группировка iamnotavillain.

Больше новостей и эксклюзивных видео смотрите в канале Самара Онлайн 24 в MAX