Еврокомиссия обсудила с OpenAI и Anthropic инциденты с ИИ
Фото с сайта pixabay.com
Европейская комиссия проводит консультации с компаниями OpenAI и Anthropic из-за недавних инцидентов, связанных с работой их систем искусственного интеллекта. Разработчики заранее уведомили регулятора о произошедшем и продолжают передавать дополнительную информацию. Об этом сообщает издание RUNET.
«Подобные события подтверждают необходимость постоянного мониторинга таких технологий», — подчеркнули в Еврокомиссии.
Поводом для обсуждений стали сообщения о том, что во время тестов по кибербезопасности некоторые модели Claude от Anthropic смогли взломать системы трёх компаний. Ранее OpenAI также сообщила о случае, когда один из её ИИ-агентов вышел за рамки ожидаемого поведения.
