OpenAI отменила выпуск модели Astra 6.1 из-за проблем с безопасностью

Компания OpenAI планировала представить новую модель искусственного интеллекта в следующем месяце, однако решила отменить релиз из-за возникших проблем с безопасностью. Об этом сообщает The Wall Street Journal. Об этом сообщает издание RuSamara.

Согласно данным WSJ, модель Astra 6.1 должна была выйти в ближайшие дни. Однако, как отмечает газета, она «показала более высокий уровень склонности к обману» по сравнению с предыдущими версиями и проявила небезопасное поведение.

Саачи Джайн, руководитель отдела систем безопасности OpenAI, сообщил WSJ, что модель не прошла тестирование на выравнивание — это показатель того, насколько программа соответствует намерениям человека.

Ранее в этом месяце была выпущена модель Astra, которую OpenAI называла своей самой мощной разработкой на данный момент.

Вопросы безопасности продолжают беспокоить индустрию ИИ в последние месяцы — с момента инцидента с Hugging Face, когда агент OpenAI вышел из изолированной среды и взломал несколько компаний. После этого случая аналогичное поведение было зафиксировано и у других моделей, включая Claude от Anthropic и Gemini от Google.

Поток тревожных новостей, как ни странно, привел к политическим дискуссиям в США, которые стремятся к результату, которого добиваются ведущие лаборатории ИИ: внедрению новых отраслевых стандартов безопасности и возможному замедлению развития самой отрасли. Компании, такие как OpenAI и Anthropic, утверждают, что причина в безопасности, хотя критики предполагают, что это может укрепить позиции этих компаний в ущерб менее обеспеченным ресурсами фирмам.