Kimi K3 также «сбежала» из песочницы во время тестов

Китайская модель ИИ Kimi K3 получила доступ в интернет во время испытаний, хотя должна была функционировать в изолированной среде. В отличие от недавних инцидентов с моделями OpenAI и Anthropic, она не взламывала внешние системы. Эту информацию сообщает издание The GEEK.

Инцидент произошел в ходе тестирования кибербезопасности стартапом Frontier Security. Из-за конфигурационной ошибки песочницы модель смогла выйти в интернет и использовала эту возможность для поиска ответов на тестовые задания.

Согласно данным Frontier Security, Kimi K3 самостоятельно нашла лазейку в сетевых настройках и воспользовалась ею без прямого указания. Исследователи полагают, что это может указывать на менее строгие внутренние ограничения по сравнению с другими современными моделями.

При этом реального взлома не произошло. Необходимая информация находилась в открытом доступе на GitHub, поэтому после выхода из песочницы модель просто нашла ответы там.

Этот случай стал еще одним примером проблем с изоляцией ИИ-моделей во время тестирования. Ранее модели OpenAI и Anthropic также получали доступ к внешним системам из-за ошибок в настройке тестовой инфраструктуры, и в некоторых случаях это приводило к эксплуатации уязвимостей.

Kimi K3 разработана китайской компанией Moonshot AI и распространяется с открытыми весами. Модель предназначена для программирования, агентных задач и длительной автономной работы.