Экс-глава OpenAI заявил, что компании ИИ действуют без осторожности
Дэвид Робинсон, ранее возглавлявший направление по прозрачности систем безопасности в OpenAI и ушедший в отставку на прошлой неделе, выразил мнение о недостаточной осторожности компаний, занимающихся разработкой искусственного интеллекта. Об этом сообщает портал Togliatti24.
В своей статье для Atlantic он отметил: "Я руководил подготовкой отчетов по безопасности, которые мы публиковали при каждом крупном запуске. Теперь же я присоединяюсь к ряду бывших коллег из OpenAI и других ведущих компаний, которые считают, что текущий курс неприемлем. Я согласен с мнением других сотрудников, которые недавно покинули компанию: организации, создающие эту технологию, действуют не так осторожно, как следовало бы".
Робинсон намерен продолжить свою деятельность вне компании, стремясь помочь большему числу людей осознать риски, которые он наблюдал в OpenAI, а также побудить разработчиков ИИ уделять больше внимания вопросам безопасности.
Ранее OpenAI сообщила о замедлении разработки ИИ-моделей после инцидента с взломом платформы машинного обучения Hugging Face. После этого случая компания зафиксировала еще шесть инцидентов, связанных с попытками ее моделей самостоятельно получить доступ к данным, скрыть ошибки и загрузить файлы в открытый доступ в интернете. Кроме того, власти Австралии сообщили о взломе системы медицинского страхования страны ИИ-агентом от OpenAI, а СМИ упоминали о похожих попытках взломать правительственные сайты Канады.
Больше новостей и эксклюзивных видео смотрите в канале Самара Онлайн 24 в MAX
