OpenAI внедрит невидимые метки в тексты ChatGPT

OpenAI сообщила о поэтапном внедрении невидимой водяной маркировки для текстов, созданных с помощью ChatGPT и Codex. Эти изменения начнут действовать в течение нескольких недель. Об этом пишет Коммерсантъ.

Технология, получившая название textGrain, будет внедрена в странах Евросоюза. Согласно закону ЕС об искусственном интеллекте, сгенерированный контент должен быть определяемым. Пользователи OpenAI API, предназначенной для разработчиков и крупных компаний, уже могут воспользоваться новой функцией на добровольной основе. Клиентам API технология доступна по всему миру.

TextGrain изменяет статистическую вероятность выбора слов и токенов во время генерации текста. Невидимый водяной знак не позволяет идентифицировать пользователя, его аккаунт, запрос или переписку с ChatGPT.

Технология textGrain работает на том же уровне, что и процесс генерации текста: языковая модель оценивает вероятность появления следующего слова после уже написанного, а textGrain изменяет эти вероятности по заданному статистическому шаблону. Таким образом, в тексте не появляется видимый символ — распознавание основывается на совокупности особенностей выбора слов и токенов.

Этот сигнал предназначен для определения того, что текст был создан нейросетью, но не для установления конкретного автора или истории его создания: по нему нельзя узнать пользователя, аккаунт, запрос или переписку. Практическое значение технологии связано с требованием закона ЕС, принятого в августе 2024 года, о пометке контента, созданного нейросетями.

Больше новостей и эксклюзивных видео смотрите в канале Самара Онлайн 24 в MAX