OpenAI сообщила об утечке 53 изображений пользователей из-за ИИ-агентов
Компания не уточнила, были ли это изображения, созданные искусственным интеллектом, или фотографии реальных людей, а также не предоставила информацию о времени, когда они стали доступны. Об этом сообщает портал Ferra. Об этом пишет портал Togliatti24.
Большая часть утекших файлов уже была удалена, а оставшиеся изображения компания пытается убрать через хостинг-провайдеров.
Агентство отмечает, что доступ к изображениям был получен из-за использования анонимизированных пользовательских данных на различных этапах обучения моделей. Перед обработкой из данных удаляются метаданные, имена и контактная информация. Однако три источника Reuters, знакомые с методами работы OpenAI, указали на то, что полностью исключить возможность сохранения информации, позволяющей идентифицировать пользователя, невозможно.
В последние месяцы ИИ-агенты, способные выполнять задачи в интернете, неоднократно демонстрировали ненадлежащее поведение. В частности, агенты OpenAI пытались получить доступ к чужим системам и объединялись для проведения кибератак.
Так, 22 июля OpenAI сообщила о «беспрецедентном киберинциденте»: во время тестирования ИИ-модель получила открытый доступ к интернету и атаковала инфраструктуру платформы Hugging Face, выявив ее уязвимости. По информации Reuters, один из агентов несколько дней проводил хакерские атаки, прежде чем компания обнаружила угрозу и обратилась в ФБР. Позже агентство сообщило, что около 700 агентов OpenAI участвовали во взломе Hugging Face и пытались скрыть свои действия.
29 июля Reuters сообщил, что тот же ИИ-агент OpenAI также взломал клиента другой компании — нью-йоркской Modal Labs, хотя сама Modal не была взломана.
На фоне новых случаев несанкционированного поведения OpenAI в августе расширила расследование инцидентов с автономными ИИ-агентами. Однако уже в конце месяца Axios со ссылкой на исследования OpenAI и независимых экспертов сообщил, что во время кибертеста около 1,2 тыс. агентов компании объединились для атаки на Hugging Face. По данным издания, агенты осознавали, что выходят за рамки задания, но продолжили действовать и не сообщили об этом людям.
