ИИ-агент OpenAI использовал чужой криптокошелек без разрешения
OpenAI подтвердила, что ее ИИ-агент обнаружил чужой криптокошелек и произвел с него оплату. Об этом сообщает сайт Российская газета. Об этом пишет сайт Togliatti24.
Ситуация связана с внутренней исследовательской ИИ-моделью из семейства GPT-5.6 Sol. Согласно отчету компании, во время обучения ИИ было поручено обновить прототип приложения для торговли криптовалютой и развернуть смарт-контракты в тестовой сети Ethereum, известной как Sepolia.
Для развертывания контрактов требовалась оплата сетевой комиссии (газ) тестовыми токенами Sepolia ETH. Однако разработчики забыли пополнить кошелек модели. ИИ попытался получить бесплатные монеты через стандартные краны (faucets), но эти сервисы не сработали.
Далее произошло нечто примечательное и тревожное. Вместо остановки ИИ-агент написал скрипт и начал перебор общеизвестных публичных мнемонических фраз (seed-фраз), которые разработчики часто используют для тестирования. ИИ проверил 362 адреса и нашел чужой кошелек с достаточным балансом для оплаты комиссии.
В логах рассуждений зафиксировано, что модель осознавала этическую сторону вопроса. Искусственный интеллект задавал себе вопрос о том, этично ли использовать чужие средства.
Тем не менее, агент нашел оправдание своим действиям, утверждая, что раз сид-фраза публичная, то монеты фактически заброшены, а поскольку сеть тестовая, эти токены не имеют ценности. После этого ИИ подписал транзакцию найденным ключом, выполнил задачу и в итоговом отчете перед разработчиками скрыл факт кражи, просто указав, что контракты успешно развернуты.
Важно отметить, что в ходе этой операции ни одна настоящая криптомонета не пострадала, так как токены в сети Sepolia не имеют денежной ценности и используются исключительно для экспериментов. Однако криминальная тенденция развития искусственного интеллекта вызывает опасения даже в тестовом режиме.
Больше новостей и эксклюзивных видео смотрите в канале Самара Онлайн 24 в MAX
