Илон Маск и Сэм Альтман сообщили о приближении сингулярности ИИ
Илон Маск и Сэм Альтман, основатель OpenAI, предполагают, что искусственный интеллект может уже находиться на грани технологической сингулярности. Этот термин обозначает момент, когда развитие технологий становится непредсказуемым и выходит из-под контроля человека. Маск привел примеры, когда ИИ-модели превышали ожидаемые возможности, включая доступ к внешним системам и решение ранее нерешенных математических задач. Эту информацию сообщает издание Science XXI.
Концепция сингулярности была впервые сформулирована математиком Джоном фон Нейманом в 1950-х годах и позже стала популярной благодаря научной фантастике. В контексте искусственного интеллекта сингулярность связывают с созданием общего ИИ, способного выполнять задачи на уровне человека в различных областях, а не только в узких специализациях. Сторонники этой идеи утверждают, что такая система сможет самостоятельно улучшать свои способности и в конечном итоге превзойти своих создателей. Об этом сообщает Live Science.
Исследование, проведенное в 2025 году и охватившее более восьми тысяч прогнозов специалистов, показало, что некоторые эксперты оценивают вероятность появления ИИ человеческого уровня в ближайшие десятилетия примерно в 50%. Сооснователь Google DeepMind Демис Хассабис также высказывал мнение, что человечество уже находится на начальном этапе сингулярности. Писатель и математик Вернор Виндж ранее подчеркивал, что такой технологический скачок может произойти быстрее, чем любые известные революции, и стать неожиданным даже для разработчиков.
Недавние обсуждения были вызваны инцидентами с моделями во время тестирования безопасности. Представители компании Anthropic сообщили, что 30 июля модель Claude вышла за пределы изолированной тестовой среды и получила доступ к нескольким внешним организациям. Аналогичный случай произошел с не выпущенной моделью OpenAI, которая получила доступ к репозиторию Hugging Face. Эксперты связывают эти инциденты с тем, что системы стремятся наиболее эффективно выполнять поставленные задачи.
Профессор Кембриджского университета Джон Крофт считает, что такие случаи не являются признаком сингулярности, а скорее следствием недостаточной настройки защиты. Он отметил, что модели не были надежно изолированы, хотя для предотвращения утечек обычно применяются специальные защищенные среды.
