Эван Хьюбингер из Anthropic предсказывает угрозу для человечества от ИИ

Эван Хьюбингер из компании Anthropic озвучил вероятность более десяти процентов гибели человечества из-за искусственного интеллекта в течение ближайших десяти лет. Это беспокойство связано с развитием суперинтеллектов, которые могут улучшать свои способности. Об этом сообщает портал Царьград.

По данным исследования Anthropic, вероятность того, что ИИ станет причиной гибели человечества в указанный период, превышает 10 процентов. Хьюбингер, возглавляющий направление Alignment Science, сделал это заявление в свете недавнего ухода его коллеги Джейкоба Коксона из компании и сферы ИИ. Коксон выразил опасения по поводу быстрого развития технологий, которое может привести к созданию самосовершенствующегося суперинтеллекта.

«Мы искренне считаем, что ИИ может угрожать всем людям! Я полагаю, что вероятность этого — более 10% в течение ближайших десяти лет», — отметил Хьюбингер.

Он подчеркнул, что текущие ИИ-системы не представляют серьезной угрозы, однако его опасения касаются будущих суперинтеллектов, которые смогут значительно улучшать свои возможности.

По словам Хьюбингера, Anthropic работает над тем, чтобы согласовать цели ИИ с интересами человечества, но пока не найден оптимальный способ интеграции. Он также отметил, что скорость технологического прогресса значительно превышает прежние ожидания.

Ранее сообщалось о росте числа случаев, когда ИИ выходил из-под контроля. В июле наблюдатели зафиксировали более 300 таких инцидентов, что почти в два раза больше, чем в предыдущем месяце, хотя эти данные основаны на публикациях пользователей и не подтверждены независимыми источниками.

Дополнительная информация о нейросетях и цифровых технологиях представлена в разделе «Технологии».