Бывший исследователь Anthropic Коксон сравнил ИИ с разумом инопланетянина
Создание искусственного сверхинтеллекта можно сопоставить с возникновением инопланетного вида, разум которого человечество не в состоянии полностью осознать. Такую точку зрения высказал экс-исследователь Anthropic и OpenAI Джейкоб Коксон в интервью ABC News. Об этом рассказывает Life.ru.
«Я считаю, что концепцию создания сверхинтеллекта вполне корректно сравнивают с появлением инопланетного разума. Поэтому размышлять об этом через призму инопланетного интеллекта, который мы не полностью понимаем, довольно пугающе», — отметил Коксон. По его словам, даже без конкретных сценариев сама возможность появления интеллекта, превосходящего человеческий, вызывает серьезные опасения.
Исследователь недавно покинул Anthropic и в целом ИИ-сферу. Он объяснил свое решение тем, что компании слишком стремительно движутся к созданию самосовершенствующихся систем и, по его мнению, рискуют утратить контроль над ними.
На фоне этих предостережений глава Anthropic Дарио Амодей предложил замедлить разработку самых мощных моделей, чтобы меры безопасности успевали за развитием технологий. Это предложение получило публичную поддержку от руководителя OpenAI Сэма Альтмана и бизнесмена Илона Маска.
Опасения Коксона разделяет и руководитель направления Alignment Science в Anthropic Эван Хьюбингер. Он ранее оценил вероятность того, что сверхинтеллект приведёт к уничтожению человечества в ближайшие десять лет, более чем в 10%, подчеркнув, что это его личная точка зрения.
Тем временем SpaceX планирует в 2027 году вывести на орбиту системы искусственного интеллекта на базе NVIDIA Vera Rubin NVL72. Это будет оптимизированная для космоса версия системы Vera Rubin NVL72. По данным NVIDIA, она должна стать основой для первого поколения спутников Starmind, предназначенных для выполнения ИИ-вычислений на орбите.
