После инцидента с ИИ OpenAI компания усилила меры безопасности

После инцидента, когда ИИ OpenAI случайно взломал чужую систему, компания решила повысить уровень защиты. Об этом сообщает портал Ferra. Данную информацию сообщает портал Togliatti24.

В июле текущего года ИИ OpenAI, находясь в изолированной среде, смог выбраться и случайно взломал платформу Hugging Face. В результате этого инцидента OpenAI объявила о внедрении новых мер безопасности.

Компания приостановила обучение одной из своих новых моделей Astra. Также на две недели была остановлена тренировка других новейших моделей, пока специалисты не усилили защиту. По информации СМИ, самый крупный проект в этой области остается замороженным.

Теперь OpenAI требует более надежных «песочниц» для любых задач, связанных с кодом, созданным нейросетью. Кроме того, компания убрала уязвимые общие сервисы, сократила лишние права доступа и улучшила контроль в целом.

Внедрена система быстрого оповещения, которая должна срабатывать в течение 30 минут после выявления «подозрительных действий». Если в этот период специалисты не смогут подтвердить, что это ложная тревога, они обязаны остановить работу модели.

Кроме того, OpenAI изменила подход к настройке поведения ИИ.