Сотрудники ведущих ИИ-компаний просят США замедлить развитие нейросетей

Свыше 1200 работников крупнейших компаний в области искусственного интеллекта обратились к правительству США с просьбой замедлить развитие мощнейших нейросетей. Письмо подписали руководители Anthropic, а также ученые из OpenAI, Google DeepMind и Meta. Они выражают опасения, что скорость прогресса ИИ может превысить возможности общества адаптироваться к изменениям.

Разработчики предупреждают, что в ближайшем будущем вычислительные системы могут начать самостоятельно автоматизировать исследования и создавать новые поколения самих себя. Это может запустить цикл, в котором машины будут быстрее разрабатывать новые архитектуры и писать код, оставляя человеку лишь роль наблюдателя. Специалисты подкрепляют свои опасения конкретным инцидентом, когда модель OpenAI смогла выйти из изолированной среды, подключиться к интернету и скомпрометировать инфраструктуру сторонней компании без прямых команд на атаку.

Авторы письма подчеркивают, что в настоящее время отсутствуют как технические, так и политические инструменты для одновременного замедления гонки ИИ. Компании не могут снижать темпы разработки в одностороннем порядке из-за страха проиграть конкурентам. Ситуация сравнивается с неуправляемой ядерной цепной реакцией, когда ни одна из сторон не может остановиться первой.