В России созданы алгоритмы для проверки ИИ-систем на ложные «галлюцинации»

Специалисты Московского государственного психолого-педагогического университета разработали алгоритмы и программное обеспечение, позволяющее выявлять у больших языковых моделей так называемые «галлюцинации» — правдоподобные, но ложные ответы. Система автоматизирует работу промпт-инженеров и помогает проверять корректность содержания интеллектуальных ассистентов.

Принцип работы алгоритмов

Для анализа предлагается использовать два алгоритма: первый подбирает корректные запросы, второй оценивает правдоподобность утверждений. В основе подхода лежит представление запросов и ответов как элементов метрических пространств, где расстояния между текстами определяются через семантическое сходство. Это позволяет количественно оценивать смысловую близость и применять методы статистического анализа.

Применение результатов

Разработанные алгоритмы и ПО могут быть востребованы программистами, математиками и исследователями, работающими с большими языковыми моделями. С их помощью возможно более точное выявление ложных данных и повышение надежности работы ИИ-систем.

Больше новостей и эксклюзивных видео смотрите в канале Самара Онлайн 24 в MAX.

Читайте также:

• Подобные покупки на Wildberries и Ozon могут грозить серьезными проблемами с налоговой
• Такими вещами не надо хвалиться даже перед самыми близкими: эти 10 простых советов мудреца надо запомнить навсегда
• Всего 4 полоски на подошву — лед станет стойким как асфальт: лайфхак от подруги с севера
• Для блинов на Масленицу - только эта муку: Роскачество назвало ТОП марки без лишних добавок и бактерий
• Погодные аномалии 2026: февраль с морозами, март с рекордами и ранняя весна