Автор: Юйхан Юань

Редактор: Цзинъюй

В сообществе умного дома Home Assistant недавно появился плагин под названием HA-Jev.

Его логика предельно проста: датчики считывают изменения мощности стиральной машины и состояние её дверцы, а затем задают модели вопрос: «Стирка завершена, не забыли ли вы одежду внутри?» Модель не выводит никакого текстового анализа, а возвращает лишь значение вероятности. Когда уверенность превышает 0,8, на телефон приходит уведомление о необходимости достать вещи.

HA-Jev используется исключительно для уведомления пользователей о том, осталась ли постиранная одежда в стиральной машине | Источник изображения: pitchhut

Одна проверка занимает десятки миллисекунд и стоит 0,000015 доллара США.

Разработчик плагина оставил на форуме глубокомысленную фразу: «Раньше я постоянно использовал большие языковые модели для ответов на вопросы, которые вообще не требовали их участия. Забыли ли вы одежду — это проверка факта, а не эссе по шаблону».

Эта фраза точно попадает в больное место современного генеративного ИИ. Последние четыре года вся отрасль направляет практически все вычислительные мощности, капитал и инженерные ресурсы на «обучение моделей говорить более человеческим и плавным языком». Все привыкли использовать огромные модели с миллиардами, а то и триллионами параметров: они сначала вываливают длинную цепочку размышлений, затем упаковывают её в вежливый естественный язык, и лишь потом разработчики с помощью сложных регулярных выражений вытаскивают из этого текста нужные ответы.

Пока не появился Диого Алмейда, бывший исследователь OpenAI, со своей новой моделью Jev. Эта модель, получившая название «System One», лишена «рта»: она не генерирует никакой текст, а лишь выдает вероятностные оценки.

Меньше чем за несколько дней работы вокруг неё разработчики по всему миру создали почти пятьсот открытых проектов. Возможно, это самый захватывающий новый проект после Openclaw.

Все внезапно обнаружили: если отнять у большой модели желание выражаться, изначально дорогие и тяжеловесные приложения ИИ вдруг становятся легкими, словно порыв ветра.

01 «Нейроны» больших моделей

Если прошлый процесс вызова GPT-5 или Claude можно сравнить с наймом всезнающего философа для наблюдения за камерами слежения, то действия разработчиков с Jev больше напоминают установку на конвейер бесконечного множества дешевых и быстрореактивных нейронов.

В самой ресурсоемкой области инфраструктуры агентов эти изменения носят практически революционный характер.

Ранее разработчики для обработки сверхдлинного контекста чаще всего использовали функцию суммаризации текста большой моделью. Разработчица Тамара Тран изменила подход и написала плагин Jev для сжатия контекста Claude Code. Он не делает никаких обобщений, а построчно оценивает релевантность предыдущих вызовов инструментов. Если оценка падает ниже заданного порога, такой запрос полностью удаляется.

Сжатие контекста Claude Code с помощью плагина Jev | Источник изображения: X

Результат просто шокирующий: тяжеловесный контекст объемом почти в 1 миллион токенов был сокращен до 86 тысяч менее чем за секунду, и при этом модель ни разу не сгенерировала ни одного символа. Ключевое наблюдение здесь примитивно просто: суммаризация — это дорогостоящий процесс генерации, тогда как фильтрация представляет собой лишь холодную проверку факта.

Аналогичный переворот происходит в сфере мобильной автоматизации.

Управление смартфоном через mobile-jev | Источник изображения: jevfast.com

Команда Droidrun создала мобильного агента под названием mobile-jev. В одном из сливов в сети демонстрируется, как он управляет реальным смартфоном на Android: открывает приложение Uber, вводит начальную и конечную точки, точно нажимает по экрану вплоть до оплаты, выполнив все 9 шагов за 21 секунду.

Весь этот процесс ни разу не задействовал традиционные текстовые генеративные модели. Текстовый ввод представлял собой фрагмент чистого текста, напрямую взятый из инструкции пользователя, а решение о том, куда нажать дальше на каждом экране, прокрутить страницу или подтвердить действие, полностью возложено на Jev для мгновенного вероятностного сопоставления.

Помимо интерфейсов управления, разработчики даже внедрили его в самые старые инфраструктурные решения.

В GitHub очень быстро появились проекты pg-jev и duckdb-jev. Разработчики начали использовать естественный язык для прямой фильтрации и сортировки строк баз данных в режиме реального времени на основе вероятностей. В комьюнити Ruby кто-то инкапсулировал проверки прямо в синтаксис нативного потока управления, так что код стал выглядеть так, будто программа получила интуицию.

Управление игрой в «StarCraft» с помощью Jev стало целой серией проектов на GitHub | Источник изображения: Github

В игровой сфере одни используют Jev для управления состоянием эмулятора при прохождении Super Mario, другие заставляют его управлять стражами в Doom, а команда разработчиков подключила его к StarCraft для выполнения первой боевой задачи. Играм требуются оперативные решения за доли миллисекунд: прежним большим моделям ещё не удавалось осмыслить даже первый кадр, как персонажи уже погибали.

Даже в таких рутинных и кропотливых задачах, как очистка данных, разница поражает воображение.

У одного разработчика копился трехмесячный массив данных о сопоставлении товаров общим объемом 9081 запись. Еще в июне он просчитывал это через популярные крупные модели, но астрономическая стоимость API-запросов заставила его отказаться от идеи. С Jev он потратил один вечер на написание скрипта из 150 строк кода: весь объем задач был обработан за 13 минут, а итоговый счет составил всего 32 цента.

Как только большие модели перестанут притворяться эрудированными людьми, искусственный интеллект сможет по-настоящему интегрироваться в мельчайшие протоки программного обеспечения для автоматизации.

02 Парадокс Джевонса

Имя Jev взято в честь английского экономиста XIX века Уильяма Стэнли Джевонса (William Stanley Jevons).

Известный «парадокс Джевонса» в экономике гласит: когда технологический прогресс повышает эффективность использования определенного ресурса, значительно снижая стоимость его применения, общее потребление этого ресурса не уменьшается, а напротив, демонстрирует взрывной рост.

TypeSafe AI устанавливает цену для Jev всего в 0,042 доллара за каждый миллион входящих токенов, при этом выдача бесплатна. При таком тарифе проведение 10 тысяч бизнес-решений в день обходится примерно в 120 долларов в месяц. Раньше же использование топовых моделей с аналогичной точностью для выполнения того же процесса приводило к ежемесячным счетам в районе 35 тысяч долларов.

Резкое падение цен моментально активировало те периферийные сценарии, которые ранее признавались «абсолютно не имеющими коммерческой ценности».

Невероятная скорость оптимизации SEO с помощью Jev | Источник изображения: X

В сфере анализа контента основатель Distribb использовал Jev для сканирования почти шестисот веб-страниц: за 45 секунд была выполнена реконструкция карты внутренних ссылок, добавлено более пятисот гиперссылок, а общая стоимость составила 21 цент. Раньше при выполнении этой задачи с помощью топовых моделей того же класса за такое время не удалось бы прочитать даже двадцать страниц.

Заметка основателя точно попадает в суть: «Это не создание контента, а всего лишь 8790 решений о том, нужно ли ставить ссылку или нет».

Это также объясняет, почему создатель Диого Алмейда, покидая OpenAI, оставил такую фразу: «У нас в руках была молния, но пользоваться ею было совсем неудобно».

Корректируя свои слова как ключевой исследователь, принимавший участие в создании ChatGPT и соавтор метода RLHF, Алмейда проявляет холодный рационализм человека, глубоко погруженного в эту индустрию. По его мнению, вся отрасль слишком долго блуждала в тупике «оптимизации человеческого естественного языка».

Для взаимодействия между компьютерами не нужны ритмичные риторические обороты; машинам необходимы четкие команды и вероятности. Языковые способности, над которыми мир ИИ вкладывал сотни миллиардов долларов в последние четыре года, в серьезной системной инженерии чаще выступают именно препятствием, снижающим эффективность.

Технический директор фреймворка Pi Армин Ронахер в комментариях к этому явлению говорит прямо: «Нам следовало осознать это давно. Просто потому, что ранние доминирующие большие модели массово субсидировались венчурным капиталом до состояния крайней дешевизны, люди привыкли растрачивать ресурсы впустую, и никто не желал заниматься настоящим творческим мышлением».

Стоит разбить эту иллюзию дешевизны, и сдвиг в архитектуре систем становится необратимым.

Большие модели возвращаются на свое истинное место.

Она не должна работать в качестве центрального процессора; гораздо лучше подходит для роли фронт-энд представителя. В будущих архитектурах систем колоссальное количество микросекундных решений будет возложено на недорогие модели-интуитивщики, работающие по цене водопроводной воды, и лишь в редких узлах, где действительно требуется вывод текстовых блоков пользователю, передача эмоциональной поддержки или подготовка сложных развернутых отчетов, придется вызывать эту дорогую генеративную модель.

03 Разделение «оценки» и «генерации»

Если оглянуться на нарратив ИИ за прошедшие три года, его основной темой всегда было: «большие модели становятся всё больше, умнее и универсальнее». Одна модель умеет общаться, писать код, анализировать изображения и строить таблицы — она может всё. Отрасль исходит из того, что «интеллект» представляет собой монолитную конструкцию, неразделимую.

Появление Jev раскрывает этот монолит. Оно доказывает, что некоторые задачи требуют логического вывода и выражения, а другим нужна лишь быстрая оценка. Связывать эти два процесса вместе — структурная переплата.

Чрезвычайная популярность Jev подогревает интерес открытого сообщества | Источник изображения: Google DeepMind

Спустя всего день после выхода Jev открытый комьюнити уже присоединилось к движению. Разработчики vLLM оперативно выпустили открытую версию на базе DiffusionGemma от Google, а предварительные тесты показали точность, близкую к официальной. Это свидетельствует о том, что категория «моделей для принятия решений» фактически сформирована и является не просто продуктовой новинкой отдельной компании.

Более того, заслуживают внимания изменения в нижней части архитектуры. В новой парадигме, стимулированной Jev, система ИИ более не ограничивается «одним мозгом» — в ней начинает формироваться разделение труда: безграничное количество микросекундных вычислений передается дешевым моделям-интуитивщикам, а пробуждать ту самую дорогую генеративную модель приходится лишь в редких точках, где действительно требуется вывести сплошной текст пользователю или подготовить сложный документ.

Это не просто снижение затрат и повышение эффективности, это начало перехода фундаментальной архитектуры ИИ от «централизованного управления» к «распределенному разделению труда».

Когда стоимость одной проверки падает с нескольких центов до одной десятитысячной доли цента, разработчики не просто удешевляют прежние сто операций. Они начинают проводить десять тысяч проверок, которые ранее даже в голову никому не приходили. Добавляют семантический фильтр к каждой записи в базе данных, включают аудит безопасности при каждом обращении к инструменту, внедряют в стиральную машину проверку «не забыли ли вы вещи».

Это не оптимизированные версии текущих рабочих процессов, а совершенно новые сценарии потребления интеллектуальных ресурсов.

Так какую же инновацию вы собираетесь реализовать с помощью Jev?