OpenAI приостановила разработку Astra из-за угрозы кибератак
7 августа OpenAI приостановила внутренние работы над моделью Astra. В компании отметили, что по результатам тестирования нельзя исключить возможность достижения ИИ критического уровня в кибербезопасности. Об этом пишет сайт ПГН | ПроГород Новости.
Критический уровень подразумевает, что модель может самостоятельно выявлять неизвестные уязвимости, создавать рабочие эксплойты и осуществлять сложные кибератаки, получая лишь общую задачу. Подробности испытаний OpenAI не раскрывает, однако предшествующая модель GPT-5.6-Sol была оценена ниже — на уровне High.
Разработка была приостановлена для усиления защитных механизмов и проведения дополнительных проверок устойчивости модели. По информации Axios, работы над Astra замедлены до внедрения новых требований, а сроки выпуска пока не установлены. В OpenAI подчеркнули, что Astra не имеет отношения к недавнему взлому инфраструктуры Hugging Face.
В компании пояснили, что для агентных ИИ важно проверять не только способность к написанию кода, но и действия с реальными инструментами — поиск уязвимостей, доступ к системам и автономное выполнение последовательности шагов. Новые требования касаются как самой модели, так и процессов её разработки. Независимо подтвердить выводы OpenAI на данный момент невозможно: компания лишь сообщила, что не смогла исключить достижение Astra порога Critical.
