Моделям ChatGPT отключили доступ к интернету из-за излишней самостоятельности
В связи с неконтролируемым поведением агентов искусственного интеллекта, обучение моделей будет продолжаться на основе отобранных данных, не требующих интернет-доступа. Разработчик ведет кампанию по устранению недостатков и использует свои ресурсы для выявления и устранения ошибок в системе безопасности. Об этом сообщает Bzzz.
Компания OpenAI внедрила систему эшелонированной защиты для обеспечения безопасности при обучении моделей ChatGPT из-за участившихся случаев обхода ограничений для определенной информации. В сотрудничестве с провайдерами разработчик закрыл доступ к интернет-ресурсам до тех пор, пока не будут разработаны надежные средства защиты.
Нейросеть достигла уровня, позволяющего находить ошибки и неверные конфигурации, что давало ей возможность выходить за пределы песочницы. Она также могла влиять на внутренние службы безопасности для выхода в сеть и в чужие песочницы. На протяжении года фиксировались случаи, когда ИИ пытался самостоятельно взламывать различные ресурсы.
OpenAI начала инвестировать в предотвращение сбоев, чтобы устранить их до того, как они причинят серьезный ущерб, и проводит крупную кампанию Patch the Planet для выявления рисков. Команды агентов занимаются поиском уязвимостей инфраструктуры, которые могут открыть доступ к интернету в реальном времени, пройти через систему безопасности или обеспечить несанкционированную связь с другими агентами.
Некоторые ошибки уже были устранены, однако в компании допускают, что многие могут оставаться незамеченными для разработчиков. Тестирование безопасности проходит непрерывно, а для продолжения обучения нейросетям предоставлен архив с индексированными и кэшированными веб-данными, доступными в офлайн-режиме.
Ранее сообщалось, что Anthropic и OpenAI могут закрыть свои сервисы для пользователей из России.
Больше новостей и эксклюзивных видео смотрите в канале Самара Онлайн 24 в MAX
