Ученый Дудаков объяснил, как предотвратить "восстание машин"
Искусственный интеллект представляет собой обычный компьютер, который можно отключить, просто выдернув вилку из розетки, подчеркнул профессор Тверского государственного университета. Эту информацию сообщает издание ТАСС.
По его словам, для предотвращения "восстания машин" достаточно просто отключить систему. Основной защитой от потенциальных угроз со стороны ИИ является обеспечение возможности отключения системы человеком. Это мнение высказал декан факультета прикладной математики и кибернетики, и.о. декана математического факультета, профессор Тверского государственного университета, доктор физико-математических наук Сергей Дудаков.
Ранее гендиректор компании Anthropic Дарио Амодеи выразил обеспокоенность перед ООН по поводу рисков, связанных с ИИ, включая потерю контроля над ним и его возможное применение для создания биологического оружия. Он отметил, что технологии развиваются стремительно: за короткий срок ИИ прошел путь от решения простых задач до выполнения сложных вычислений и написания программного кода.
"Если рассматривать футуристические сценарии восстания машин, следует помнить, что аппаратная часть ИИ - это обычный компьютер, только очень мощный. Чтобы его отключить, нужно просто выдернуть вилку из розетки. Таким образом, защита от угроз со стороны ИИ заключается в том, чтобы не позволить системе заблокировать возможность отключения человеком", - добавил он.
По словам ученого, риски, связанные с развитием ИИ, можно классифицировать на несколько категорий. Первая группа включает обычные ошибки в проектировании и реализации программного обеспечения, от которых не застрахован и искусственный интеллект, так как он является программным продуктом.
Вторая и третья группы связаны с эвристическим характером многих методов ИИ, что может приводить к ошибочным результатам, а также с ошибками обучения, возникающими из-за некорректной обработки обучающих данных или неточной формулировки задач. "Не стоит забывать, что ИИ - это технический инструмент, который помогает решать интеллектуальные задачи. Минимизация угроз происходит аналогично другим техническим системам, включая установление ограничений и систем контроля", - отметил эксперт ТвГУ.
Что касается самосознания ИИ, то, по его словам, для обсуждения этого вопроса необходимо точно определить само понятие. С математической точки зрения возможность самоизучения (рефлексивность) является хорошо изученным и реализуемым явлением, в то время как этические и юридические аспекты проблемы находятся в области философии и психологии.
В некоторых сферах ИИ уже способен заменить человека, в частности, в IT он вытесняет специалистов с типовыми техническими навыками, что делает фундаментальное образование более ценным на рынке труда. Однако возможности ИИ ограничены: в медицине он выступает лишь в качестве консультативного инструмента, а полная замена человека затрагивает не только технологии, но и вопросы этики, психологии и юридической ответственности.
В научном сообществе существует мнение, что ИИ - это инструмент, использование которого должно быть задекларировано, но не следует указывать его как соавтора исследований, поскольку все, что он генерирует, в конечном итоге заложено создателями системы. Аналогичный подход требуется и в образовательной сфере для регламентации допустимого объема использования ИИ при выполнении учебных работ.
Больше новостей и эксклюзивных видео смотрите в канале Самара Онлайн 24 в MAX
