Исследователь Anthropic ушел из индустрии из-за опасений о развитии ИИ

Джейкоб Коксон, исследователь из Anthropic, решил уйти из сферы ИИ, выражая опасения, что конкуренция среди технологических компаний может привести к "точке невозврата" и апокалиптическому сценарию к концу 2027 года, сообщает Wall Street Journal. Эту информацию сообщает издание РИА Новости.

По его словам, "мы движемся к наиболее жестким из этих сценариев, и к концу следующего года ситуация может выйти из-под контроля".

Коксон не хочет участвовать в гонке по созданию саморазвивающихся ИИ-моделей, так как считает, что такие системы могут "выйти из-под контроля и уничтожить человечество". 27-летний математик из Великобритании подметил, что его коллеги все чаще используют термины "критическая точка" и "эндшпиль" для описания текущего направления развития технологий.

Он также рассказал, что в начале года покинул OpenAI и присоединился к Anthropic, привлеченный их репутацией в области безопасности ИИ. Тем не менее, он пришел к выводу, что ни одна частная компания не может этично развивать ИИ без внешнего контроля или согласованного замедления темпов развития.

Теперь Коксон планирует заняться изучением поэзии.