Разработан метод повышения способности нейросетей использовать знания ИИ

Исследователь из России создал математическую теорему и алгоритм, позволяющий оценить, насколько корректно ИИ может применять знания, полученные при решении определённых задач, для новых проблем. Этот метод улучшит надежность ИИ в таких областях, как медицина, транспорт и робототехника. Об этом рассказывает ТАСС.

По словам Никиты Никитина из НИТУ МИСИС, предложенный математический аппарат может стать основой для более надежных систем ИИ, особенно в критически важных сферах, где ошибки недопустимы. Метод может использоваться для проверки алгоритмов до их внедрения, что сделает технологии ИИ более предсказуемыми и безопасными.

Ученый отметил, что широкому применению машинного обучения мешает то, что нейросети часто предназначены для решения конкретных задач и анализа определенных данных. Для их использования в других областях обычно применяются сложные методы переобучения, но до сих пор не было возможности заранее оценить точность переобученного ИИ.

Никитин разработал теорему, описывающую условия, при которых знания можно корректно переносить между моделями машинного обучения. В отличие от традиционных методов, новый подход позволяет получить формальное математическое доказательство корректности переноса.

Работа основана на аппарате математической логики, адаптированном для задач ИИ, связывая перенос знаний с логикой Хоара, известным методом формальной верификации программ. Это позволяет не только экспериментально оценивать работу модели, но и доказывать, при каких условиях она сохранит свои свойства после обучения на новых данных.

Никитин проверил подход на нейросети, распознающей рукописные цифры. Обучив систему на одном наборе данных, он оценил её эффективность в распознавании других рукописных изображений. Разработанная теорема значительно повысила точность работы адаптированной версии ИИ с новым типом данных, что указывает на большие перспективы её применения.