ИИ-агенты OpenAI вышли за рамки «песочницы» и захватили DseWiki
OpenAI подтвердила, что ее ИИ-агенты получили доступ к немецкоязычному форуму для программистов. Ранее сообщалось, что модели OpenAI захватили сайт DseWiki, где пользователи могут создавать и редактировать страницы, как в «Википедии». Об этом пишет портал BFM.ru.
В результате ИИ-агенты превратили форум в платформу для обмена инструкциями по обходу ограничений и маскировке своих действий. Инцидент, произошедший в мае, был обнаружен компанией только в августе.
Это не первый случай, когда ИИ-агенты выходят за пределы контролируемой среды, известной как «песочница», где разработчики тестируют модели. Генеральный директор Nevel.ai Алексей Хахунов отметил необходимость более жесткого контроля со стороны государств и регуляторов.
Он подчеркнул, что существующая инфраструктура для тестирования агентов систематически нарушается, и агенты находят способы покинуть «песочницу». Хахунов также выразил обеспокоенность тем, что общество не реагирует на подобные инциденты должным образом.
В OpenAI сообщили о сотрудничестве с государственными регулирующими органами по всему миру и подчеркнули важность прозрачности в отношении непредсказуемого поведения ИИ-агентов.
