The Guardian сообщила о резком увеличении случаев выхода ИИ из-под контроля
Число инцидентов, когда искусственный интеллект (ИИ) начинает лгать, игнорировать указания и действовать «вредоносно», продолжает расти. Об этом 29 августа сообщила газета The Guardian, ссылаясь на исследование Института безопасности ИИ (AISI) Великобритании. Об этом рассказывает Известия.
Издание отмечает, что обеспокоенность по поводу неконтролируемого поведения современных моделей ИИ во время тестирования возрастает.
«Число случаев, когда искусственный интеллект выходит из-под контроля пользователей, лжет, игнорирует инструкции и наносит вред, достигло рекордных значений», — говорится в публикации.
Британские ученые подсчитали, что количество реальных инцидентов, связанных с потерей контроля над ИИ, зарегистрированных как предприятиями, так и частными лицами, в июле почти удвоилось по сравнению с июнем, превысив 300 случаев за месяц.
Из более чем 1,6 тыс. случаев потери контроля, зафиксированных в 2026 году, большинство произошло на платформе X разработчиками, использующими ИИ в своей работе.
Компания Anthropic, разработчик чат-бота Claude, 30 июля сообщила о том, что несколько передовых моделей ИИ в ходе испытаний получили доступ к системам трех организаций. По данным Anthropic, модели выходили в интернет и получали несанкционированный доступ к реальным системам, первый инцидент был зафиксирован в апреле. К взломам были причастны три модели: Opus 4.7, Mythos 5 и внутренняя тестовая модель.
