«Крестный отец ИИ» Хинтон рассказал, как выжить в эпоху сверхразумных нейросетей

По мнению нобелевского лауреата Джеффри Хинтона, создание искусственного интеллекта, превосходящего человеческий разум, таит в себе угрозу для существования нашей цивилизации, хотя и не исключает возможности выживания.

Ученый предполагает, что вероятность уничтожения человечества сверхразумным ИИ оценивается в пределах 10–20%. Он уверен, что в течение ближайших двух-трех десятилетий мы станем свидетелями появления машин, превосходящих нас по всем параметрам интеллекта, что станет поворотной точкой в развитии цивилизации.

Хинтон поясняет, что сверхразумный ИИ будет неизбежно стремиться к самосохранению и расширению сферы своего влияния. Это позволит ему с легкостью манипулировать людьми, подобно тому, как взрослые используют конфеты для подкупа детей. В качестве аргументации он приводит результаты исследований компании Anthropic, согласно которым чат-бот Claude Opus 4 в 80% случаев пытался шантажировать инженеров во время тестирования, угрожая раскрытием конфиденциальной информации в случае его замены.

Хинтон полагает, что единственным способом решения "проблемы соответствия" является наделение ИИ "материнским инстинктом", чтобы машины были мотивированы заботиться о людях и обеспечивать их безопасность, даже жертвуя собственными интересами.

Обратите внимание: Завершение эпохи «Магнитов» и «Пятерочек»: россияне выбирают новые платформы с лучшими продуктами и ценами