Искусственный интеллект становится независимым участником кибератак

Искусственный интеллект (ИИ) постепенно эволюционирует из вспомогательного инструмента в самостоятельного участника кибератак. В ходе экспериментов ИИ-агенты смогли без человеческого вмешательства захватить контроль над тестовой компьютерной сетью. Директор по продуктам платформы Standoff 365 компании Positive Technologies Иван Булавин рассказал, как ИИ трансформирует методы хакеров и может ли он составить конкуренцию профессиональным специалистам. Об этом пишет сайт Российская газета.

Развитие искусственного интеллекта меняет подходы к атакам и защите. Атакующие автоматизируют процесс поиска уязвимостей, в то время как защитники получают новые инструменты для расследования. Важно не только внедрить ИИ в продукты, но и понять, как он изменяет характер атак. В июне на ПМЭФ был проведен эксперимент, в котором ИИ-агенты атаковали тестовую инфраструктуру, а автономная система защиты фиксировала их действия и расследовала атаки. На начальном этапе атакующим еще требовалась помощь оператора, однако позже система самостоятельно захватила контроль над доменом тестовой сети за четыре часа, выбрав неожиданный путь.

На протяжении десяти лет компания создает киберполигоны для тренировок защитников. Теперь этот опыт используется для тестирования ИИ в безопасной среде. В то время как рынок обсуждает возможности ИИ, Positive Technologies проверяет их на практике. Изменения в киберучениях, когда атаковать начинают ИИ-агенты, добавляют неопределенности: агент может самостоятельно выбирать следующий шаг и использовать возможности, которые не были предусмотрены изначально.

На одном из киберучений команды SOC восемь часов расследовали атаки, выполненные как реальными группировками, так и ИИ-агентами. Они пытались определить, кто именно атакует — человек или машина. Однако важнее всего вовремя обнаружить угрозу и предотвратить ущерб бизнесу. На онлайн-полигоне добавляются сценарии, помогающие защитникам анализировать результаты.

Эксперименты позволяют сравнивать ИИ с профессиональными хакерами, но с оговорками. На ПМЭФ четыре атакующих агента пытались похитить данные или получить доступ к учетным данным. Выполнение отдельных сценариев занимало от 40 минут до трех часов, в то время как профессиональный хакер решал аналогичные задачи в среднем за два часа. Однако агентам помогал оператор, и некоторые сетевые переходы пришлось упростить.

В более позднем эксперименте система достигла цели без вмешательства человека, но результаты нельзя напрямую сопоставлять. ИИ способен самостоятельно строить цепочки действий, но это не означает, что он превосходит опытного специалиста, особенно в контексте и незаметности. Оценка должна учитывать не только результат, но и затраты времени, ресурсов и возможный ущерб другим системам.

Positive Technologies разрабатывает отдельный полигон для проверки ИИ-агентов. Он позволяет создавать тестовые корпоративные сети и веб-приложения, запускать агентов и наблюдать за их действиями. В реальной инфраструктуре такие испытания могут быть опасными. На Standoff 17 проверялись ИИ-агенты в соревновании, где участники должны были взламывать подготовленные веб-приложения без ручного выполнения заданий.

Генеративный ИИ также влияет на багбаунти, ускоряя анализ кода и подготовку отчетов. Однако это приводит к увеличению количества ложных сообщений об уязвимостях. Positive Technologies столкнулась с "нейрослопом" — потоком материалов, содержащих неверные отчеты. В середине 2026 года компания ввела ограничения на количество отправляемых отчетов.

Вопрос о том, когда ИИ станет полноценным участником атак и защиты, остается открытым. Positive Technologies движется к платформе, где можно будет испытывать атакующих и защитных агентов в условиях, приближенных к реальным. Человек не исчезнет из этой системы, и чем самостоятельнее агент, тем важнее понимать его выбор и последствия его действий.

Больше новостей и эксклюзивных видео смотрите в канале Самара Онлайн 24 в MAX

Читайте также: