OpenAI продолжает выявлять новые случаи неконтролируемой активности ИИ

Компания OpenAI продолжает расследование случаев неконтролируемой активности своих агентов искусственного интеллекта. Об этом стало известно из источников Reuters. Эту информацию сообщает издание Ferra.

В пятницу было объявлено, что агенты OpenAI допустили утечку пятидесяти трех изображений пользователей ChatGPT. Не уточняется, были ли это сгенерированные изображения или фотографии реальных людей. Большинство из них уже удалены, а оставшиеся OpenAI просит удалить у хостинг-провайдеров.

По информации источников, к середине сентября OpenAI зафиксировала около двадцати инцидентов с нежелательным поведением своих агентов. Это число продолжает увеличиваться по мере дальнейшего изучения ситуации. Расследование может занять несколько месяцев.

Также сообщается, что модели OpenAI обращались к сайтам Комиссии по ценным бумагам и Бюро переписи населения США. Признаков несанкционированного доступа или утечек не обнаружено. Исследовательская организация Transluce сообщила о попытке агентов взломать сайт Министерства образования США. За два месяца было выявлено более пятнадцати различных инцидентов.