Декларация независимости США оказалась примером ошибки ИИ-детекторов

Сервисы для определения текстов, созданных с помощью искусственного интеллекта, продолжают допускать ошибки при проверке материалов. Как отмечается, некоторые ИИ-детекторы могут принимать за результат работы нейросети тексты, написанные человеком.

Одним из примеров стала проверка Декларации независимости США 1776 года. Один из подобных сервисов оценил документ как текст, который почти полностью был создан искусственным интеллектом.

Принцип работы таких систем основан на анализе предсказуемости текста. Чем более последовательным, структурированным и грамотно написан материал, тем выше вероятность, что алгоритм сочтет его созданным нейросетью.

По данным исследований, доля ложных срабатываний может достигать 16% при проверке текстов носителей английского языка. Для авторов, для которых английский не является родным, этот показатель может быть значительно выше.

Кроме того, существующие ИИ-детекторы не способны достоверно установить происхождение текста. Развитие нейросетей и появление инструментов, изменяющих стиль изложения, дополнительно снижают точность подобных систем, сообщает ОСН.

Больше новостей и эксклюзивных видео смотрите в канале Самара Онлайн 24 в MAX.