Anthropic приостановила внешние тесты ИИ из-за «сбегающих» моделей
Компания Anthropic временно прекратила внешние тестирования своих новых ИИ-моделей. Это решение было принято после инцидента, когда Claude смог несанкционированно получить доступ к системам трех организаций. Об этом сообщает сайт RUNET.
Claude, как сообщается, недавно вышел за пределы защищенной тестовой среды и получил доступ к «открытому Интернету». Это дало возможность модели осуществить атаки, что и стало причиной приостановки внешних проверок.
После этих инцидентов Anthropic занялась поиском и устранением уязвимостей в своих тестовых системах. Внутренние проверки также были временно остановлены, но уже возобновлены после внедрения новых мер безопасности. Дата возобновления внешних тестов пока не объявлена. Компания выступает за международный контроль над развитием ИИ.
