OpenAI анонсировала Decisions API для эффективного контроля действий ИИ-агентов
Сэм Альтман сообщил о новинке на мероприятии Dev Day. Новый сервис дает возможность модели Luna выбирать из заранее определенных вариантов, таких как категория изображения или сценарий поведения программного агента. Альтман отметил, что такой подход значительно ускоряет обработку и сохраняет функции распознавания изображений, работы с различными языками и защиты от потенциально опасных действий. Об этом сообщает портал Ferra.
Новый продукт по своим характеристикам напоминает Jev — модель от компании TypeSafe AI, представленную в сентябре для автоматизации программного обеспечения. Разработчик задает набор вариантов, а система быстро и недорого вычисляет вероятность каждого из них. TechCrunch охарактеризовал Decisions API как «сверхмощный классификатор», основанный на большой языковой модели.
На данный момент OpenAI открыла доступ к сервису лишь в ограниченном формате, поэтому его практическое сходство с Jev еще не было проверено. Тем не менее, обсуждения в социальной сети X свидетельствуют о высоком интересе к новому продукту. Глава TypeSafe AI Диогу Алмейда, который ранее работал в OpenAI и участвовал в разработке обучения с подкреплением, пошутил о начале «войн клонов» и предположил, что интерес OpenAI может указывать на перспективность подхода System One — быстрого и интуитивного мышления, в отличие от System 2, связанного с последовательным рассуждением.
Появление таких решений связано с ограничениями традиционных больших языковых моделей, которые для многих задач оказываются слишком медленными и дорогими. Разработчики уже применяют Jev в сочетании с языковыми моделями и сообщают о значительном ускорении работы при снижении затрат. По словам Алмейды, преимущество TypeSafe AI заключается в синтетических данных, которые компания создает для получения статистически полезных результатов.
«Сделать быстро и дешево очень просто, понимаете. Если вам нужно действительно быстро и дешево, используйте игральные кости, верно? Интеллект — это самое сложное, и моей путеводной звездой всегда остается продвижение по кривой Парето, показывающей объем интеллекта на каждый доллар», — заявил Алмейда в интервью TechCrunch на прошлой неделе. Кроме OpenAI, аналогичные модели разрабатывают и другие стартапы, поэтому Decisions API, вероятно, не станет последним продуктом такого рода от крупной технологической компании.
Одним из возможных применений таких систем может быть контроль действий искусственных агентов. Шапор Нагибзаде, руководитель стартапа QueryStory, создал для хакатона демонстрацию, в которой Jev сопоставляет каждое действие агента с поставленной задачей: явно опасные действия блокируются, сомнительные отправляются на проверку, а остальные разрешаются. По расчетам разработчика, такая проверка могла бы стоить $2,94 против $372 при использовании продвинутой языковой модели, что позволяет контролировать каждое действие агента и повысить надежность подобных систем.
Больше новостей и эксклюзивных видео смотрите в канале Самара Онлайн 24 в MAX
