В России создали систему выявления фейков нейросетей

Специалисты Решетневского университета представили технологию, предназначенную для выявления ошибок и недостоверной информации, которую могут генерировать нейронные сети.

Разработка направлена на повышение надежности работы систем искусственного интеллекта и может применяться в сферах, где особенно важна точность данных.

Как работает технология

В ходе исследования ученые проанализировали наиболее распространенные ошибки нейросетей и создали специальный классификатор для их обнаружения.

На основе полученных результатов была разработана система автоматизированного стресс-тестирования. Она сравнивает ответы искусственного интеллекта с эталонными данными и оценивает вероятность ошибок.

Оценка уровня доверия

Система способна в реальном времени анализировать поступающие запросы, присваивать результатам уровень достоверности и сигнализировать оператору, если уверенность в корректности ответа оказывается недостаточной.

Такой механизм позволяет дополнительно контролировать качество информации, создаваемой алгоритмами ИИ.

Перспективы внедрения

Авторы отмечают, что методика обладает высокой адаптивностью и подходит для различных моделей искусственного интеллекта. В будущем технологию планируется использовать в образовательных организациях, государственных цифровых сервисах, а также в медицинских и юридических информационных системах.

Больше новостей и эксклюзивных видео смотрите в канале Самара Онлайн 24 в MAX.