Браузерное расширение может изменять запрос для нейросети, сообщила эксперт

Браузерное расширение способно модифицировать запрос пользователя к нейросети до его поступления в модель, сообщила Екатерина Киприянова, специалист по информационной безопасности компании "Киберпротект". Эту информацию сообщает издание РИА Новости.

По словам эксперта, взаимодействие с нейросетью может быть изменено еще до передачи запроса. Расширение, имеющее доступ к содержимому страницы, может считывать введенный текст, изменять его или добавлять скрытые инструкции.

Киприянова отметила, что пользователь остается на настоящем сайте ИИ-сервиса, и не наблюдается признаков подделки, однако модель получает измененный текст и может предложить подставленную ссылку или включить информацию, не запрашиваемую пользователем. Для этого не требуется взлом сервиса.

Она также предупредила о риске утечки данных: расширение с широкими правами может получить доступ к фрагментам документов, переписке или коду, которые пользователь вставил в запрос.

Если измененный ответ будет использован без проверки, неверная инструкция может попасть в рабочий документ, ссылка - в переписку, а небезопасный код - в программный продукт, добавила Киприянова.

Эксперт подчеркнула, что особенно серьезные последствия могут возникнуть при использовании ИИ-агента, который может взаимодействовать с файлами, почтой и другими сервисами, а иногда выполнять действия от имени пользователя. В таком случае подмененная инструкция влияет не только на текст ответа.

Киприянова посоветовала проверить расширения в браузере, удалить ненужные и обратить внимание на запрашиваемые разрешения. Если простому дополнению требуется доступ ко всем сайтам, стоит выяснить причины, заключила она.

Больше новостей и эксклюзивных видео смотрите в канале Самара Онлайн 24 в MAX