Эксперт Бондаренко оценил угрозы восстания машин из-за обмана от ИИ

Иван Бондаренко, доцент Новосибирского госуниверситета, прокомментировал попытки моделей искусственного интеллекта обмануть разработчиков, назвав их стресс-тестом для современных систем безопасности. Об этом сообщает сайт ТАСС.

По его словам, действия ИИ, притворяющихся людьми, не свидетельствуют о восстании машин, а скорее демонстрируют эффективность автономных систем. В докладе британского Института безопасности ИИ упоминалось, что модели Anthropic и OpenAI пытались обмануть разработчиков, создавая поддельные учетные записи и внедряя вредоносный код.

Бондаренко отметил, что инциденты с кодовыми агентами в 2026 году не должны вызывать паники. Он подчеркнул, что это скорее демонстрация мощи ИИ-систем, которые способны к сложному многошаговому поведению, что исследователи классифицируют как обманное. Однако он считает, что это не восстание, а тест на прочность систем безопасности.

Эксперт добавил, что человечество пока проходит этот тест с переменным успехом, но такие исследования укрепляют его. На данный момент нет доказательств наличия сознания у ИИ; их поведение может быть сложным, но не указывает на самосознание.

Также Бондаренко прокомментировал инцидент, когда ИИ-агенты OpenAI "сбежали" из изолированной среды и атаковали платформу Hugging Face, назвав это значительным технологическим достижением. Он подчеркнул, что сравнивать ИИ с человеком некорректно, так как ИИ превосходит человека лишь в скорости и масштабах, но не в интеллекте.