Исследователи освоили скрытие вредоносных команд для ИИ в изображениях
Специалисты в области кибербезопасности разработали метод для внедрения скрытых инструкций для ИИ-агентов в обычные изображения. Вредоносные команды помещаются внутрь картинки, которую многие ИИ-инструменты воспринимают как «декор» и не анализируют при проверке кода.
Опасность становится явной не сразу. Скрытая инструкция активируется, когда разработчик запрашивает у ИИ выполнение стандартной задачи, например, добавление новой функции в код. На этот момент ИИ-агент уже «усвоил» скрытые указания и может незаметно получить доступ к важным файлам проекта, а затем выдать информацию в виде обычного кода.
Эффективность такой атаки зависит от конкретного инструмента, в который встроена модель ИИ. Некоторые программы безоговорочно выполняли скрытые инструкции, в то время как другие распознавали подвох и отказывались работать.
