ИИ может спровоцировать ядерную тревогу через ложные сигналы и решения людей

Искусственный интеллект не может самостоятельно активировать ядерное оружие, однако способен вызвать ложную тревогу, что может привести к цепочке катастрофических решений. Участники дискуссии провели параллели с фильмом «Военные игры» (WarGames) 1983 года, в котором компьютер едва не стал причиной ядерного конфликта. Брайан Барретт подчеркнул, что угроза заключается не в прямом управлении оружием, а в том, что система может заставить США поверить в атаку советских ядерных сил. По его мнению, современные защитные меры и спутниковые технологии должны способствовать проверке таких сигналов. Тем не менее, искусственный интеллект может инициировать тревожное сообщение, после чего события могут развиваться по опасному сценарию. Об этом рассказывает Togliatti24.

Участники обсуждения разделили потенциальные угрозы на несколько категорий. Зои Шиффер отметила, что исследователи ИИ обычно выделяют три основных сценария рисков, добавляя более отдаленные варианты, включая использование ИИ в роботах, взаимодействующих с физическим миром. Брайан Барретт предложил учитывать ситуации, когда действия человека направляются искусственным интеллектом. Он отметил, что система может помочь в создании биологического оружия или взломе инфраструктуры, но это не обязательно подразумевает полную автономию.

Зои Шиффер считает реалистичным риск, когда человек получает от ИИ информацию о создании биологического оружия и использует её. Она подчеркнула, что в мире уже есть люди, готовые совершать опасные поступки, вдохновляясь информацией из интернета. Полностью автономное создание и применение такого оружия она назвала маловероятным сценарием. Обсуждение прошло в формате разговора Лии Файгер, Зои Шиффер и Брайана Барретта, опубликованного Wired. Ведущие рассмотрели вопрос о том, может ли ИИ стать причиной нажатия ядерной кнопки, и пришли к выводу, что более серьезная угроза связана с ошибочными сигналами и решениями людей.