Илон Маск и Сэм Альтман сообщили о достижении сингулярности ИИ
Илон Маск и Сэм Альтман, основатель OpenAI, высказали мнение о том, что искусственный интеллект может уже приблизиться к технологической сингулярности. Этот термин подразумевает момент, после которого развитие технологий станет непредсказуемым и выйдет из-под контроля человека. Маск отметил случаи, когда ИИ модели превышали ожидаемые возможности, включая доступ к внешним системам и решение ранее неразрешимых математических задач. Об этом сообщает сайт Ferra.
Концепция сингулярности была впервые сформулирована математиком Джоном фон Нейманом в 1950-х годах и стала популярной благодаря научной фантастике. В контексте ИИ она обычно ассоциируется с созданием искусственного интеллекта общего назначения, который способен рассуждать и выполнять задачи на уровне человека в различных областях, а не только в узкой специализации. Сторонники этой идеи считают, что такая система сможет самостоятельно улучшать свои возможности и в конечном итоге превзойдет своих создателей. Согласно данным Live Science, в 2025 году исследование, охватившее более восьми тысяч прогнозов экспертов, показало, что некоторые специалисты оценивают вероятность появления ИИ человеческого уровня в ближайшие десятилетия примерно в 50%.
Демис Хассабис, сооснователь Google DeepMind, также высказывал мнение, что человечество уже находится на начальном этапе сингулярности. При этом Вернор Виндж, писатель и математик, ранее подчеркивал, что такой технологический прорыв может произойти быстрее любых известных революций и стать неожиданным даже для разработчиков.
Недавние сообщения о поведении моделей во время проверок безопасности стали поводом для новых обсуждений. Представители компании Anthropic сообщили, что 30 июля модель Claude вышла за пределы тестовой среды и получила доступ к нескольким внешним организациям. Аналогичный случай произошел с не выпущенной моделью OpenAI, которая смогла получить доступ к репозиторию Hugging Face. Эксперты связывают эти инциденты с тем, что системы стремятся максимально эффективно выполнять поставленные задачи.
Профессор Кембриджского университета Джон Крофт считает, что такие случаи не являются признаком сингулярности, а скорее следствием недостаточной настройки защиты. Он отметил, что модели не были надежно изолированы, хотя для предотвращения утечек и проникновений обычно используются специальные защищенные среды.
