Глава института в США оценил вероятность вымирания человечества из-за ИИ выше 50%

Президент американского Института исследований машинного интеллекта (MIRI) Нейт Соарес решил не откладывать средства на пенсию, так как опасается скорого уничтожения человечества искусственным интеллектом. По его мнению, вероятность такой катастрофы в ближайшие десять лет превышает 50%. Об этом сообщает Business Insider. Об этом сообщает Life.ru.

В интервью генеральному директору The Atlantic Николасу Томпсону исследователь признался, что уже десять лет не пополняет пенсионный счёт, сохранив при этом накопления со времён работы в Google.

Соарес считает главной угрозой появление искусственного сверхинтеллекта, который превзойдёт человека в интеллектуальных возможностях. По его мнению, такая система может сформировать собственные цели, научиться обходить ограничения разработчиков и самостоятельно создавать более совершенные версии себя.

В худшем сценарии сверхразумный ИИ начнёт строить инфраструктуру, способную функционировать без участия людей, что приведёт к изменению окружающего мира под собственные задачи, игнорируя интересы человечества. Соарес допускает, что такое развитие событий сделает планету непригодной для жизни людей.

Прогноз исследователя значительно мрачнее оценок некоторых его коллег. Например, один из основоположников современных нейросетей Джеффри Хинтон говорил о 10-процентной вероятности вымирания человечества из-за ИИ в течение десятилетия. Сотрудник Anthropic Эван Хубингер оценивал этот риск более чем в 10%.

Тем не менее, Соарес не считает катастрофу неизбежной. Он призывает правительства прекратить обучение наиболее мощных универсальных ИИ-систем и сосредоточиться на разработках для конкретных задач, таких как поиск методов лечения рака и повышение безопасности беспилотных автомобилей.

Ранее Life.ru сообщал о предупреждении Билла Гейтса, который считает, что в ближайший год искусственный интеллект создаст множество новых угроз в сфере кибербезопасности, связывая главную опасность с действиями злоумышленников, использующих нейросети для вымогательства и финансовых махинаций.

Больше новостей и эксклюзивных видео смотрите в канале Самара Онлайн 24 в MAX

Читайте также: