Стартап TypeSafe AI представил модель искусственного интеллекта Jev — она предназначена для общения не с людьми, а с другими машинами. Она работает значительно эффективнее и обходится существенно дешевле, чем традиционные большие языковые модели. Источник изображения: Numan Ali / unsplash.com В отличие от моделей, которые дают ответы на естественном языке, Jev формирует вероятностные решения, которые могут использовать другие программы или ИИ-системы. Такой подход полезен в сценарии, где взаимодействие с ИИ должно ограничиваться заранее определённым набором вариантов ответа. Например, модель может играть в Doom, если ей предоставить структурированные данные, описывающие состояние игрового персонажа. На практике она, однако, будет применяться для классификации обращений в службу поддержки и оптимизации других бизнес-процессов. Работа с Jev начинается с определения значения состояния — это может быть простая текстовая строка или объект JSON; после чего выбирается тип запроса: выбор, числовое значение или вероятность от 0 до 1. Для человека подобные ответы бесполезны, а для ПО они могут показаться наиболее подходящим вариантом. Jev относится к моделям типа System One на основе архитектуры обучения подкреплением для калиброванных решений (RLCD). Источник изображения: and machines / unsplash.com Самым привлекательным аспектом модели является её эффективность: если традиционные системы могут тратить на подготовку ответа до нескольких минут, то для ответа Jev требуются от 70 до 500 мс — она эффективнее на величину от 40 до 200 раз. На демонстрационном ролике Jev формирует ответ за 0,114 с, а у модели OpenAI GPT-5.6 Terra он занимает 8,566 с. Работа с Jev обходится в $0,042 за 1 млн входных токенов и бесплатно за выходные; та же GPT-5.6 Terra оценивается в $2 за 1 млн входных и $12 за 1 млн выходных токенов. По сравнению с флагманской Anthropic Fable 5.1 новая Jev обходится в 238 раз дешевле.
Источник: 3DNews — https://3dnews.ru/1148573
Комментарии