Профессор MIT призвал сохранять ответственность за тексты, созданные ИИ

Искусственный интеллект может подорвать доверие к общественным дискуссиям, если высказывания, созданные им, не будут связаны с человеком, который готов за них отвечать. С таким заявлением выступил профессор медиаискусств и наук Массачусетского технологического института (MIT) Деб Рой в эссе «Кто стоит за словами?», опубликованном в Bulletin of the Atomic Scientists. Он подчеркнул, что даже при использовании ИИ в создании текста ответственность должна оставаться за конкретным человеком. Об этом пишет Science XXI.

Рой обратил внимание на эту проблему после появления ChatGPT — системы, основанной на большой языковой модели. Учёный, который ранее исследовал языковые модели, отметил, что новый сервис изменил как глубину обработки информации, так и способ взаимодействия с пользователем. Он пытался определить границы возможностей системы, но пришёл к выводу, что даже самый убедительный текст не указывает на то, кто несёт за него ответственность.

Профессор связывает этот вопрос с общественными слушаниями по проектам государственных решений. В 2017 году Федеральная комиссия по связи США получила более 22 миллионов комментариев к предложению отменить правила сетевого нейтралитета, и генеральный прокурор Нью-Йорка позже установил, что почти 18 миллионов из них были поддельными. Ранее массовую фальсификацию помогали выявлять шаблонные формулировки и повторяющиеся фрагменты, но большие языковые модели могут создавать разнообразные, грамотно написанные тексты без таких заметных признаков.

По мнению Роя, право быть услышанным должно сочетаться с обязанностью отвечать за сказанное. Он использует термин «standing» — основания для участия в обсуждении, связанного с личной заинтересованностью, и считает, что цифровые системы размывают границы, которые ранее помогали отличать участников от посторонних наблюдателей. При этом анонимность не обязательно исключает ответственность: организация может подтвердить личность автора и отвечать за его слова, не раскрывая её публично, а требования к раскрытию личности должны зависеть от влияния высказывания и уязвимости говорящего.

Учёные обнаружили необычный способ, как жизнь может создавать ДНК без самого ДНК. ИИ может составлять черновики, обобщать ответы и находить общие темы, но не должен быть последним звеном в цепочке ответственности. Если заинтересованный участник использует сгенерированный текст, принимает его как собственный и готов объяснить сказанное, такой подход допустим. В эссе Рой предлагает четыре принципа: устанавливаемое авторство, проверяемый поэтапный процесс, сохранение происхождения данных и расширение круга людей, имеющих право голоса.

Эти принципы применяются в работе Центра конструктивной коммуникации MIT и некоммерческой организации Cortico, которую Рой основал вместе с коллегами. Их проекты Real Talk и realtalk@MIT помогают проводить небольшие групповые обсуждения, выявлять общие темы и сохранять возможность участников проверить или отклонить результаты обработки. В инициативе VoiceTrace каждое итоговое утверждение связывается с конкретными высказываниями, из которых оно было получено, а проект New Social Forms изучает, как использование ИИ влияет на взаимодействие сотрудников и согласование идей в командах.

Рой также призывает внедрять технологии «со скоростью доверия», а не со скоростью их технического развития. Он пояснил, что доверие позволяет сообществам быстро принимать новые решения, тогда как попытка ускорить процесс без участия людей приводит к сопротивлению. По его словам, темпы развития ИИ и демократических процедур пока расходятся, поэтому технологии могут начать применяться раньше, чем общественные институты успеют на них отреагировать.

Больше новостей и эксклюзивных видео смотрите в канале Самара Онлайн 24 в MAX