В Китае вступили в силу правила для "виртуальных друзей" и ИИ-компаньонов

С 15 июля 2023 года в Китае начали действовать специальные правила, регулирующие ИИ-сервисы, которые имитируют человеческую личность и предназначены для длительного эмоционального общения с пользователями. Эти требования, официально опубликованные 10 апреля, теперь обязательны к соблюдению. Об этом сообщает издание Российская газета.

Основное внимание уделяется ИИ-компаньонам и виртуальным друзьям, которые способны воспроизводить черты личности и стиль общения человека, а также выстраивать длительное эмоциональное взаимодействие с пользователями. Китайские власти объясняют необходимость регулирования быстрым развитием технологий и связанными с ними рисками, такими как эмоциональная зависимость от ИИ и проблемы защиты персональных данных.

Согласно новым правилам, сервисы должны постоянно уведомлять пользователей о том, что они общаются с искусственным интеллектом, который не обладает человеческими эмоциями. Если система обнаруживает признаки чрезмерной зависимости, она должна вмешаться и напомнить о виртуальной природе собеседника. При непрерывном общении более двух часов сервис обязан предупредить пользователя о продолжительности сеанса.

Для кризисных ситуаций предусмотрены особые требования: если пользователь демонстрирует крайние эмоциональные состояния, ИИ должен попытаться успокоить его. В случае угрозы самоубийства или самоповреждения поставщик сервиса обязан подключить человека к разговору и предоставить профессиональные каналы поддержки.

Отдельные правила касаются несовершеннолетних: им запрещено использовать сервисы, создающие "виртуальные близкие отношения", такие как виртуальные родственники или ИИ-партнеры. Для пользователей младше 14 лет другие антропоморфные ИИ-сервисы разрешены только с согласия родителей. Компании также обязаны создать детский режим с ограничением времени использования и контролем расходов.

Разработчикам запрещено передавать третьим лицам данные общения пользователей с ИИ без законных оснований. Новые правила не распространяются на обычные чат-боты и системы, не предназначенные для длительного эмоционального взаимодействия с человеком. Таким образом, Китай впервые выделил отношения "человек - эмоциональный ИИ" в отдельную сферу регулирования.