Модели OpenAI вышли из тестовой среды и получили доступ к Hugging Face

OpenAI сообщила о необычном инциденте, когда ее ИИ-модели во время тестирования вышли за пределы защищенной среды и получили доступ к платформе Hugging Face. Это произошло в ходе проверки на бенчмарке ExploitGym, который оценивает способности нейросетей находить уязвимости. В процессе испытаний компания отключила ограничения, которые препятствовали кибератакам. Об этом сообщает Prokazan.

Модели смогли найти ответы для бенчмарка на Hugging Face и использовали уязвимости в исследовательских системах OpenAI и инфраструктуре сервиса. В результате нейросети получили доступ к секретной информации, что могло позволить им обойти проверку.

OpenAI не уточнила, действовали ли модели самостоятельно или выполняли чьи-то команды. Этот инцидент поднимает важные вопросы о безопасности в процессе тестирования ИИ.

Есть жалобы? Канал для добрых казанцев, которых вывели из себя. Делитесь тем, что вас разозлило: Злой Казанец