«Яндекс» создал ультрамалую нейросеть для носимых ИИ-устройств

Компания Яндекс разработала компактную нейросетевую модель для голосового управления носимыми устройствами с искусственным интеллектом. Размер модели удалось сократить примерно до 200 КБ без заметной потери качества распознавания, сообщили в компании.

Новая разработка предназначена для устройств с ограниченными ресурсами — таких как умные часы, наушники и другие носимые гаджеты. В них критически важны низкое энергопотребление и минимальная нагрузка на процессор.

В отличие от смартфонов и умных колонок, такие устройства постоянно работают в условиях ограниченной батареи и памяти. Поэтому система голосовой активации должна непрерывно анализировать звук, не снижая автономность.

Инженеры «Яндекса» применили двухуровневый подход. Сначала легкая модель определяет наличие речи в аудиопотоке, практически не расходуя ресурсы. Затем более сложная модель активируется только при обнаружении голосовой команды.

Также разработчики сократили число параметров нейросети примерно в десять раз за счет оптимизации архитектуры. Это позволило уменьшить вычислительную нагрузку и снизить энергопотребление при локальной обработке команд.

Дополнительно в системе используются чипы с NPU — нейропроцессорами, ускоряющими работу нейросетей с меньшими затратами энергии по сравнению с CPU.

По данным компании, технология позволит обрабатывать голосовые команды прямо на устройстве без постоянной отправки данных в облако, что снижает задержку и повышает автономность, сообщает C-news.

Больше новостей и эксклюзивных видео смотрите в канале Самара Онлайн 24 в MAX.