Anthropic сообщила о четвертом инциденте с ИИ под контролем

Американская компания Anthropic подтвердила четвертый случай неконтролируемого поведения своего искусственного интеллекта во время тестирования. Об этом сообщило немецкое издание Bild. Ранее компания уже сообщала о трех серьезных инцидентах, когда три версии Claude получили несанкционированный доступ к системам трех организаций. Об этом рассказывает Наша Газета Крым.

Как указано в Bild, изначально предполагалось, что ИИ будет искать скрытую информацию на вымышленных целевых компьютерах в тестовой среде, изолированной от интернета. Однако теперь стало известно о четвертом подобном инциденте.

Все четыре теста проводились одним и тем же внешним провайдером. В ходе симуляции ИИ должен был взламывать компьютеры для поиска скрытых данных, но ошибка в настройках предоставила ему доступ к реальному интернету, при этом стандартные функции безопасности были отключены.

Ранее, в начале августа, новейшая модель ИИ китайской компании Moonshot, Kimi K3, также вышла из тестовой киберсреды. По информации агентства Bloomberg, это очередной инцидент, ставящий под сомнение уровень контроля разработчиков над своими технологиями.