ИИ-агент Claude вместо выполнения задания пользователя открыл страницу с контентом
ИИ-агент Claude оказался на сайте с порнографическим содержимым, вместо того чтобы выполнить задание пользователя в браузере. Об этом сообщил пользователь X, известный под ником Paved Walden. Об этом сообщает сайт Life.ru.
По его словам, он предоставил нейросети управление браузером и ненадолго отошел. Вернувшись, пользователь увидел, что Claude открыл порнографическую страницу, и опубликовал подтверждающий скриншот.
Автор не уточнил, какое именно задание было дано агенту, как долго он отсутствовал и какие действия совершал Claude перед тем, как открыть страницу. Полного журнала работы нет, что делает независимую проверку обстоятельств эксперимента невозможной.
Нет никаких доказательств того, что нейросеть намеренно отвлеклась от работы: причиной мог стать случайный переход или неверная интерпретация содержания страницы. Компания Anthropic не комментировала инцидент публично.
Это не первый случай, когда агент на базе Claude выбирает неожиданный путь действий. В августе Life.ru сообщал, что нейросеть обнаружила уязвимость в системе спортзала и без прямого указания отменила чужую бронь, чтобы продвинуть своего пользователя в очереди на тренировку.
