ИИ-агент выдает мусор? Проблема в том, что вам жалко сжигать токены.

Автор: Systematic Long Short

Адаптация: TechFlow

Редакционное введение TechFlow: Основной тезис данной статьи можно выразить в одном предложении: качество генерации AI-агентом напрямую пропорционально количеству затраченных токенов.

Автор не просто рассуждает о теории в общем, а предлагает два конкретных метода, которые можно начать применять уже сегодня, и четко обозначает границу того, что нельзя решить простым наращиванием токенов — «проблему новизны».

Для читателей, которые пишут код или запускают рабочие процессы с помощью агентов, статья содержит высокую плотность информации и практические рекомендации.

Введение

Признайтесь, заголовок действительно броский — но если честно, это вовсе не шутка.

В 2023 году, когда мы всё ещё использовали LLM для написания продакшн-кода, окружающие были в шоке, поскольку доминировало мнение, что LLM способны выдавать лишь негодный мусор. Однако мы знали то, чего не осознавали другие: качество вывода агента является функцией от количества затраченных вами токенов. Всё дело именно в этом.

Вы можете убедиться в этом сами, проведя несколько экспериментов. Поручите агенту выполнить сложную и достаточно нишевую программистскую задачу — например, реализовать алгоритм выпуклой оптимизации с ограничениями с нуля. Сначала выполните его на минимальном уровне «размышлений»; затем переключитесь на максимальный уровень, попросив проанализировать свой собственный код и найти количество ошибок. Протестируйте средний и высокий уровни. Вы наглядно увидите, как количество багов монотонно снижается по мере увеличения объема затраченных токенов.

Трудно в этом усомниться, правда?

Больше токенов = меньше ошибок. Эту логику можно развить дальше: она лежит в основе (упрощенной) концепции продуктов для code review. Предоставив совершенно новый контекст и внедрив огромное количество токенов (например, попросив проскролить код построчно и оценить каждую строку на наличие ошибок), вы практически сможете выявить подавляющее большинство или даже все ошибки. Этот процесс можно повторить десять или сто раз, каждый раз анализируя базу кода под «разными углами», пока вы не найдете абсолютно все недочеты.

Есть еще одно эмпирическое подтверждение тезису о том, что «дополнительное сжигание токенов повышает качество агента»: команды, которые утверждают, что могут полностью автоматизировать написание кода с последующим деплоем в продакшен, — это либо сами поставщики базовых моделей, либо компании с колоссальным бюджетом.

Так что, если вас до сих пор беспокоит невозможность получить от агента код уровня production — скажем прямо, проблема в вас. Или, точнее, в вашем кошельке.

Как понять, достаточно ли токенов я трачу

Я уже писал целую статью о том, что проблема точно не в вашей архитектуре (harness), и что подход «keep it simple» все еще позволяет создавать отличные решения; я по-прежнему придерживаюсь этого мнения. Вы прочитали её, внедрили, но результаты работы агента вас по-прежнему разочаровывают. Вы писали мне в личные сообщения, я видел прочитанные, но не отвечал.

Эта статья и есть ответ.

Плохая работа агента и неспособность решать задачи в большинстве случаев обусловлены просто недостатком затраченных токенов.

Количество токенов, необходимое для решения задачи, полностью зависит от ее масштаба, сложности и новизны.

«Сколько будет 2+2?» — здесь много токенов не нужно.

«Напиши бота, который сканирует все площадки между Polymarket и Kalshi, находит семантически связанные рынки с расчетами в один и тот же период, устанавливает арбитражные границы и автоматически совершает сделки при возникновении возможности с минимальной задержкой» — для этого понадобится огромное количество токенов.

Мы обнаружили одну интересную вещь на практике.

Если вы выделяете достаточно токенов для задач, усложненных масштабом и сложностью, агент в любом случае справится с ними. Иначе говоря, если вы хотите построить сверхсложный проект с множеством компонентов и строк кода, достаточно инвестировать достаточное количество токенов в эти проблемы — и они будут окончательно решены.

Здесь есть маленькое, но важное исключение.

Ваша задача не должна быть слишком новой. На текущем этапе любое количество токенов не способно решить «проблему новизны». Достаточного количества токенов хватит, чтобы свести к нулю ошибки, вызванные сложностью, но это не позволит агенту изобретать то, чего он не знает.

На самом деле этот вывод нас немного успокоил.

Мы потратили огромные усилия и сожгли — очень, очень много — токенов, пытаясь понять, сможем ли заставить агента воспроизвести институциональный инвестиционный процесс почти без подсказок. Отчасти это было сделано для того, чтобы выяснить, сколько лет осталось нам (как квант-исследователям) до полного вытеснения ИИ. В итоге выяснилось, что агент принципиально не способен приблизиться к нормальному институциональному процессу. Мы полагаем, что одна из причин заключается в том, что они никогда раньше такого не видели — то есть институциональные инвестиционные процессы просто отсутствуют в данных для обучения.

Так что если ваша задача новая, не рассчитывайте решить её наращиванием токенов. Вам придется самостоятельно направлять процесс поиска. Но как только вы определите план реализации, можно смело добавлять токены для выполнения — размер базы кода или сложность компонентов больше не будут проблемой.

Существует простое эвристическое правило: бюджет по токенам должен расти пропорционально количеству строк кода.

Что на самом деле делают дополнительные токены

На практике дополнительные токены обычно повышают качество инженерной разработки агента несколькими способами:

Они дают агенту больше времени на рассуждения в рамках одной попытки, позволяя ему самостоятельно обнаружить ошибочную логику. Чем глубже рассуждения = тем лучше планирование = тем выше шанс успешного результата с первого раза.

Они позволяют совершать несколько независимых попыток, пробуя разные пути решения задачи. Одни пути оказываются эффективнее других. Множество попыток дает возможность выбрать оптимальный вариант.

Аналогично, большее число независимых планов позволяет отказаться от слабых направлений и сохранить самые перспективные.

Дополнительные токены позволяют критически переоценить предыдущие результаты в совершенно новом контексте, предоставляя возможность для улучшения, вместо того чтобы застрять в «инерции рассуждений».

Конечно, есть и мой любимый пункт: больше токенов означает возможность проверки через тесты и инструменты. Фактический запуск кода для оценки работоспособности остается самым надежным способом подтверждения правильности ответа.

Эта логика работает, потому что инженерные сбои агента не случайны. Они почти всегда происходят из-за преждевременного выбора неверного пути, отсутствия проверки жизнеспособности этого пути (на ранних этапах) или недостаточного бюджета на восстановление и откат после обнаружения ошибки.

Вот и вся суть. Токены буквально означают купленное вами качество принятия решений. Представьте себе исследовательскую работу: если попросить человека ответить на сложный вопрос в реальном времени, качество ответа будет снижаться по мере возрастения временного давления.

По своей сути исследование направлено на формирование фундаментального знания («понимание правильного ответа»). Человечество тратит биологическое время для получения более точных ответов, а агенты тратят вычислительное время ради лучших результатов.

Как улучшить вашего агента

Вы, возможно, все еще сомневаетесь, но этому факту посвящено множество научных статей. Честно говоря, само наличие регулятора «рассуждений» служит полным доказательством, которое вам нужно.

Мне особенно понравилась одна статья, где исследователи обучили модель на небольшой подборке тщательно отобранных образцов рассуждений, а затем применили метод, принудительно заставляющий модель продолжать думать, когда она хочет остановиться — конкретно путем добавления команды «Wait» (подожди) там, где она планировала завершить вывод. Только эта одна мера позволила поднять результаты одного из бенчмарков с 50% до 57%.

Хочу сказать предельно прямо: если вы постоянно жалуетесь на посредственный код, сгенерированный агентом, скорее всего, одинарного пикового уровня рассуждений вам все равно мало.

Предлагаю вам два чрезвычайно простых решения.

Простой способ №1: WAIT

Самое простое, что можно внедрить уже сегодня: настроить автоматическую итерацию — после создания кода попросите агента провести N этапов ревью в новом контексте, исправляя все найденные проблемы.

Если вы заметите, что этот простой прием улучшает результаты работы агента, значит, вы хотя бы поняли, что ваша проблема заключалась исключительно в количестве токенов — добро пожаловать в клуб любителей сожженных токенов.

Простой способ №2: VERIFY

Заставляйте агента проверять свою работу как можно раньше и чаще. Пишите тесты, подтверждающие, что выбранный путь действительно работает. Это особенно полезно для высоко сложных, глубоко вложенных проектов — функция может вызываться множеством других функций downstream. Умение выявлять ошибки на раннем этапе сэкономит вам массу вычислительного времени (токенов) впоследствии. Поэтому, если есть возможность, расставьте «контрольные точки верификации» по всему процессу разработки.

Первый фрагмент готов, главный агент заявляет, что всё сделано? Пусть второй агент проверит это повторно. Независимые потоки рассуждений помогут выявить источники систематических смещений.

На этом всё. Я мог бы написать еще очень много на эту тему, но считаю, что осознание этих двух принципов и их грамотная реализация помогут решить 95% ваших проблем. Я убежден, что важно доводить простые вещи до совершенства, а сложность наращивать строго по мере необходимости.

Я уже упоминал, что «проблема новизны» не решается наращиванием токенов, и хочу подчеркнуть это еще раз, так как вы рано или поздно обязательно споткнетесь об этот барьер и придете ко мне жаловаться на бесполезность простого добавления токенов.

Когда задача, которую вы хотите решить, отсутствует в обучающей выборке, именно вы становитесь тем, кто должен предоставить решение. Следовательно, экспертиза в предметной области по-прежнему играет критически важную роль.