Комплексный анализ рынка ИИ-инференса: как криптопроектам пробиться?

Автор: 0xSammy (Khala Research)

Перевод: AIdidiaoJP, Foresight News

Сегодняшний рынок инференса ИИ уже не напоминает единую платформу облачных услуг, скорее это стратегическая игра на высоких рисках. Каждый провайдер захватывает свои территории: гиперскейлеры удерживают корпоративные «материкты», роутеры контролируют транзитные коридоры, а децентрализованные сети ожесточённо конкурируют на открытых направлениях.

В предыдущем цикле развития ИИ главным акцентом было обучение моделей, однако сейчас всё очевиднее становится колоссальная экономическая ценность этапа вывода (inference). Многие впервые слышат это слово — что же оно означает?

Обучение создаёт модель ИИ, а инференс — это процесс генерации ответов моделью, когда пользователь задаёт ей вопрос или ставит задачу.

Обзор рынка инференса ИИ

Этап обучения постоянно в центре внимания, потому что именно он обеспечивает выдающиеся результаты моделей. На деле же подавляющая часть экономической прибыли сейчас извлекается именно на этапе инференса: каждый промпт, цикл работы агента, генерация изображений, исполнение сделок, вызов инструментов и правки кода требуют вычислительных ресурсов где-то да должны выполняться.

Роутеры — настоящее узкое место

В данной стратегической игре наиболее ценными территориями обычно оказываются узкие места, определяющие дальнейшее продвижение «войск». В рынке инференса роутеры выполняют абсолютно ту же роль. Расположенные между спросом и предложением, они решают, куда направить каждый запрос и какой провайдер получит оплату.

Яркий пример тому — OpenRouter: его протокол на прошлой неделе обработал 4,7 квадриллиона токенов.

Такая активность экономики вовсе не замедляется, особенно на фоне скорого запуска триллионов автономных агентов.

Итак, что необходимо для полноценного рынка инференса? Ключевые элементы включают:

• токены становятся расчётной единицей
• OpenRouter стремительно превращается в центральный биржевой слой: только за прошлую неделю через его рынок LLM прошло использование на сумму 4,7 квадриллиона токенов.
• Профессиональный слой предложения: Fireworks, Together, Replicate, Baseten, Groq и крупные гиперскейлеры.
• Крипто-сети ИИ: проекты вроде Chutes, Akash, io.net, Nosana, Targon, Venice, NuNet и других создают базовый безразрешительный слой.

Не стоит воспринимать всех этих провайдеров как участников одной и той же конкуренции — это совершенно разные поля боя.

Традиционные провайдеры продают надёжность, опыт разработчиков и устоявшиеся корпоративные процессы закупок.

Крипто-сети ИИ делают ставку на более дешёвое предложение, открытый доступ, приватность, верифицируемость и новые циклы стимулирования.

Последняя блокировка доступа к модели Anthropic Mythos (Fable 5) для пользователей за пределами США вновь напомнила многим о рисках чрезмерной зависимости от одного передового закрытого продукта.

Интересно, что эти два мира начинают пересекаться: вопросы приватности, конфиденциальных вычислений или нативных для агентов платежей (здесь ярко выделяются Venice и Targon).

Как смотреть на рынок вычислительных мощностей ИИ

Более продуктивный подход — разделить рынок на два основных лагеря: традиционный и крипто-сектор.

Традиционный сектор продаёт надёжность, удобство разработки и корпоративные закупки.

Крипто-сети ведут конкуренцию преимущественно за счёт открытого доступа, более дешёвого предложения, конфиденциальности, верифицируемости и новых механизмов стимулирования, обеспечивая глобальную бесшовную координацию капитала.

Почему инференс — это истинный рынок ИИ

Уровень моделей по-прежнему важен, но качество алгоритмов сжимается быстрее ожидаемого. Открытые модели достигают 90–95% качества передовых решений при затратах всего в 10% от их стоимости (например, GLM-5.2 от Z.ai).

Открытые модели продолжают обновляться, а китайские лаборатории непрерывно снижают цены. Передовые модели пока сохраняют премиальность, но под ними конкуренция за ценообразование токенов стала крайне жёсткой.

Именно поэтому уровень маршрутизации становится ключевым: одну и ту же открытую модель могут предлагать пять разных провайдеров по пяти различным ценам. Разработчики не хотят вечно хардкодить конкретный эндпоинт — им нужен роутер.

Роутеры позволяют выбирать исходя из множества параметров: цена, задержка, конфиденциальность, надёжность и др.

Расположенный поверх всех провайдеров, он превращает хаотичный ландшафт в чистый и унифицированный интерфейс.

Именно это делает правильно OpenRouter, что также объясняет, почему фонды венчурного капитала влили 113 млн долларов в недавнем раунде серии B, чтобы использовать эту возможность в сфере маршрутизации.

OpenRouter стремительно становится интерфейсом рынка: один ключ даёт доступ к сотням моделей от разных провайдеров. Реальная ценность заключается не в списке моделей, а в возможности маршрутизировать один и тот же запрос к провайдеру, идеально подходящему для конкретной задачи.

Это начинает напоминать энергетический рынок: пользователям всё равно, какая электростанция произвела ток, их волнует лишь горит ли свет, справедлива ли цена и стабильна ли сеть.

Пользователи ИИ всё чаще мыслят так же: им безразлично, какой GPU-кластер обслуживает этот токен, главное — скорость ответа, стоимость, приватность и надёжность.

Традиционные провайдеры инференса

Традиционный сектор разделяется на четыре категории:

i) Гиперскейлеры (Hyperscalers): AWS, Google, Microsoft

Они контролируют «укреплённые континенты». Побеждают они не потому, что всегда самые дешёвые, а благодаря давнему контролю над корпоративными закупками, комплаенсом, идентификацией, безопасностью и биллингом. Лобовой штурм этой позиции требует огромных затрат.

Их преимущество — доверие бизнеса. Крупные компании покупают не просто токены, а соблюдение стандартов, безопасность, удобство закупок и гарантию ответственности при возникновении проблем.

ii) Роутерные рынки: OpenRouter и различные AI-шлюзы

Роутеры находятся поверх провайдеров моделей и направляют каждый запрос к оптимальному варианту. По мере того как лидерство среди моделей меняется каждую неделю, хардкодинг конкретной модели выглядит всё более хрупким. ИИ, как и крипто-пространство, нуждается в агрегаторах.

iii) Сервисы оптимизированных открытых моделей: Together, Fireworks, Baseten, Groq

Это не просто дешёвые API, а компании производительной инфраструктуры, сфокусированные на скорости, батчинге, масштабируемости, тонкой настройке, кастомных эндпоинтах и поддержке production-окружений.

iv) Рынки моделей: Replicate и платформы типа Hugging Face

Инференс — это далеко не только чат. Генерация изображений, видео, голоса, эмбеддингов, робототехнические модели, симуляции и мультимодальные агенты требуют выполнения моделей. Маркетплейсы делают удовлетворение спроса на длинные хвосты моделей доступным и удобным.

Провайдеры инференса ИИ из крипто-сектора

Децентрализованные сети — это «партизанские территории»

Крипто-сети инференса не пытаются тратить больше денег на главном поле битвы AWS. Они открывают новые фронтны: незапрещаемые модели, более дешёвое предложение GPU, приватный инференс, нативные для агентов платежи и нагрузки, которым не нужна надёжность уровня гиперскейлеров.

Часто крипто-сектор сводят к простому термину «децентрализованные вычисления», что слишком размыто. Здесь как минимум пять различных направлений:

• serverless-сети инференса
• децентрализованные рынки GPU
• сети конфиденциальных вычислений
• приложения и шлюзы приватного ИИ
• слои оркестрации

Их нельзя анализировать по одному шаблону.

i) Chutes: крипто-нативный инференс

@chutes_ai лучше всего рассматривать как децентрализованную платформу инференса, а не просто рынок GPU.

Суть в следующем: разработчикам не нужно арендовать GPU или управлять инфраструктурой, им нужен рабочий эндпоинт. Chutes предлагает открытые модели через знакомое API, используя децентрализованное предложение GPU на бэкенде.

Ключевой вопрос: удастся ли конвертировать пиковое использование в платный, повторяющийся (recurring) спрос. Дешёвые токены полезны, но только если разработчики доверяют аптайму, задержкам и надёжности.

Его выручка на триллион токенов постоянно растёт, демонстрируя потенциал устойчивой прибыльности / жизнеспособности.

ii) Akash: слой аукциона GPU

@akashnet — это децентрализованный рынок облачных услуг.

Пользователи определяют所需的 вычислительные мощности, провайдеры торгуются за предложение, а рабочие нагрузки запускаются через контракты аренды. Это скорее рынок мощностей, чем прямой роутер инференса.

Он наиболее подходит для workload'ов, чувствительных к цене, допускающих колебания инфраструктуры и не требующих глубокой интеграции с AWS/Azure/Google Cloud. Комиссии коррелируют с ценой токена и показывают рост.

iii) io.net: децентрализованное GPU-облако

@ionet ближе к позиционированию децентрализованного поставщика GPU-облака.

Главное УТП — доступ к распределённому предложению GPU по меньшей стоимости и с быстрой настройкой, что идеально для AI-команд, которым нужны мощности, но не хочется заключать долгосрочные облачные контракты или мириться с ценообразованием гиперскейлеров.

Сложность лежит в плоскости исполнения: верификация железа, надёжность, диспетчеризация, поддержка и консистентная производительность. Базовый доступ к GPU ценен, но самый высокий маржинальный слой — это роутинг, управление инференсом и оркестрация.

io.net показал отличные результаты за последние 30 дней, достигнув годовой выручки в 12,3 млн долларов.

iv) Targon: конфиденциальные вычисления

@TargonCompute (от @manifoldlabs) специализируется на конфиденциальных вычислениях для нагрузок ИИ.

Решаемая проблема очевидна: многие пользователи не хотят запускать чувствительные промпты, модели или данные на инфраструктуре неизвестных третьих лиц.

Targon обеспечивает защищённое выполнение через доверенные среды выполнения (TEE), зашифрованные виртуальные машины, удалённую аттестацию и конфиденциальную GPU-инфраструктуру. Проще говоря, система доказывает, что нагрузка работает в безопасной среде, минимизируя то, что может видеть оператор.

Это особенно релевантно для приватного инференса в финансах, медицине и корпоративном ИИ. Конфиденциальные вычисления — не магия, они переносят доверие на железо, микрокод и системы аттестации.

В прошлом году протокол отчитался об годовой выручке в 10,4 млн долларов и совместно с Intel опубликовал исследовательскую статью о «децентрализованных вычислениях на недоверенном оборудовании».

v) Darkbloom: приватный инференс на простаивающих Mac

Darkbloom (от @eigenlabs) идёт иным путём.

Вместо разделения больших моделей по случайным GPU, он превращает простаивающие Mac на Apple Silicon в сеть приватного инференса. Модель запускается локально на Mac, а запросы шифруются и направляются верифицированным провайдерам.

УТП — приватность и стоимость, а не максимизация производительности передовых моделей.

Это полезно, потому что отсутствие у ноды полной модели не гарантирует автоматическую приватность промптов. Darkbloom более целево решает вопросы приватности, но ещё должен доказать масштаб предложения, производительность и доверие разработчиков.

На данный момент сеть включает 300 устройств, обработавших 2 млрд токенов и 1 млн запросов.

vi) Venice: потребительский приватный инференс

@AskVenice занимает другую нишу, чем сети вроде Akash или io.net. Это скорее приложение приватного ИИ и шлюз инференса, а не основной рынок GPU.

Пропускная способность его шлюза достигла 85 млрд токенов в день (данные @ErikVoorhees).

Большинство пользователей хочет продукт ИИ, уважающий приватность, предоставляющий доступ к мощным моделям и собирающий минимум данных.

Venice упаковывает концепцию инфраструктуры в потребительский опыт вокруг приватных промптов, открытых моделей, незапрещаемого доступа, функциональности API и токенизированных мощностей через VVV и DIEM.

Компонент DIEM особенно интересен: он отсылает к более широкой идее агентной экономики — предоставлению доступа к вычислениям за $1 в день. Рынок недавно присвоил этой концепции вполне достойную рыночную оценку.

Если агентам требуется постоянный доступ к инференсу, кредиты на вычисления начинают выглядеть как нативные активы для агентов, и вокруг них можно построить целые вторичные рынки.

Агент, способный напрямую владеть и расходовать права на вычисления, гораздо практичнее того, кто зависит от регулярных списаний с банковской карты человека.

Это обнажает более глубокий тезис крипто-ИИ: в конечном итоге агентам потребуется доступ к финансам, идентичности, памяти и вычислениям, а крипто-системы предоставляют фундамент для программирования этих ресурсов.

Venice не соревнуется с OpenRouter напрямую в широте моделей, а борется за приватность, доступ и токенизированные мощности. Это legitimate (легитимная) ниша, но ключевой вопрос: хватит ли спроса на продукты приватного ИИ, чтобы поддержать токеномическую модель вне текущего нарративного цикла. Мой прогноз: по мере распространения ИИ нарратив о приватности станет только сильнее.

vii) NuNet: оркестрация распределённых вычислений

@nunet_global часто относят к проектам децентрализованных вычислений, но более применимый фреймворк — «оркестрация».

Оркестрация подразумевает сопоставление рабочих нагрузок с оптимальными вычислительными ресурсами и координацию выполнения между разными машинами, окружениями и географическими лоциями.

По мере того как ИИ выходит за пределы централизованной облачной инфраструктуры, это становится всё критичнее.

Будущие ИИ-системы, вероятно, будут работать на стыке облачных GPU, edge-устройств, локальных серверов, роботов, смартфонов, сенсоров и сетей децентрализованных провайдеров.

Складской робот не может ждать ответа API из другого региона; дрон не может рассчитывать на идеальное соединение в любой момент; полевой робот должен выполнять инференс локально при отказе сети.

Таким образом, оркестрация превращается в самостоятельную и значимую категорию.

Вызов для NuNet: сможет ли он трансформировать эту проблему координации в functioning (работающую) экономическую сеть с достаточным предложением, спросом и adoption'ом со стороны разработчиков.

viii) OpenServ: оркестрация агентов, а не чистый инференс

@openservai лучше понимать как платформу агентной инфраструктуры и оркестрации, а не децентрализованную сеть инференса.

Это важно, потому что агенты — один из самых прозрачных источников будущего спроса на инференс. Обычный чат-бот может вызвать модель один раз, тогда как агент будет вызывать её повторно: рассуждать, использовать инструменты, проверять результат, вызывать другую модель, действовать и повторять цикл.

Это создаёт серьёзную нагрузку на инференс, на которую крипто-сообщество уже обратило внимание.

OpenServ, следовательно, релевантен для рынка инференса со стороны спроса, а не предложения. Если платформа станет полезной площадкой для разработки, деплоя и координации агентов, она естественным образом превратится в слой нижнего уровня для маршрутизации инференса к разным провайдерам.

Ключевой вопрос: станет ли OpenServ настоящим исполняющим слоем для агентов или останется очередным рынком агентов с прикрученным токеном.

После неоднократных обсуждений с командой считаю, что их возможности выходят за рамки последнего: их фреймворк инференса показывает несколько notable (значимых) результатов бенчмарков, а в roadmap'e заявлены собственные проприетарные модели.

Если OpenServ овладеет workflow'ами агентируемой эксплуатации, инференс превратится во входные данные платформы, а не её основной продукт.

В агентируемом мире самым ценным слоем окажутся те площадки, где агенты тратят наибольшее количество времени и ресурсов.

ix) Dolphin AI: продуктовый децентрализованный инференс

Интерес @dphnAI в том, что он стартует от спроса на модели, а не от рынка GPU.

Семейство моделей Dolphin уже завоевало репутацию незапрещаемых открытых моделей, что придаёт сети более чёткое обоснование существования.

Это критично, потому что многие проекты децентрализованного инференса строятся по принципу supply-first: «У нас есть GPU, теперь давайте найдём покупателей?»

Dolphin идёт наоборот: начинается с набора моделей, которые люди уже хотят использовать, и строит децентрализованную сеть инференса вокруг этого спроса.

Его архитектура часто называется peer-to-pool: владельцы GPU вносят ёмкость в определённый пул моделей, вместо того чтобы каждый покупатель арендовал конкретный узел напрямую. Запросы маршрутизируются в пул, а доступные ноды их обрабатывают.

Это более удачное решение для ненадёжного потребительского предложения. Кто-то может сдать свой игровой GPU в простаивающем режиме и быть оффлайном большую часть времени; пулинг моделей поглощает такие колебания естественнее, чем P2P-рынок аренды.

Ещё интереснее верификация. Dolphin продвигает live-weight proofs (проверки весов в реальном времени). Проще говоря, проверяется, совпадают ли фактически загруженные веса модели при обработке запроса с теми, которые нода декларирует как запущенные.

Это критически важно, поскольку мошенничество — одна из самых сложных проблем децентрализованного инференса. Нода может заявить, что запускает дорогую модель, но тайно обслуживать запросы более мелкой, дешёвой или квантованной версией. Если сеть не сможет выявить обман, всему рынку будет потеряно доверие.

x) c0mpute: распределённый инференс для агентов

@c0mputeAI заслуживает внимания, так как пытается решить одну из самых сложных задач децентрализованного инференса: запуск больших моделей по распределённым GPU через открытый интернет.

Его движок Shard разбивает модель across several машин, вместо того чтобы требовать один гигантский сервер для размещения всей модели целиком. Это особенно актуально для передовых открытых моделей, которые могут быть слишком велики или ограничены для прохождения стандартных путей хостинга.

Связь с @virtuals_io — это ключевой угол рассмотрения со стороны спроса. Virtuals формирует экономику агентов, а агенты являются сверхпотребителями инференса: они планируют, вызывают инструменты, совершают сделки, проверяют результаты и зацикливают процесс. Это рождает потребность в дешёвом, открытом и цензуроустойчивом инференсе.

Caveat (нюанс/ограничение) в том, что проект всё ещё находится на ранней стадии. c0mpute необходимо доказать производительность под реальной нагрузкой, надёжность нод, механизмы верификации и приватность промптов.

Но направление очень важное: рынки GPU продают доступ к вычислениям; c0mpute же пытается распределить саму модель.

Традиционный инференс vs Крипто-инференс

Оба сектора будут сосуществовать, каждый обладает своими ясными и заслуживающими понимания уникальными преимуществами.

На что обращать внимание

Объём платных токенов

Рынку следует снизить фокус на сырой статистике обработки токенов, если они не генерируют доход. Активность бесплатных уровней и субсидированное использование способны рисовать красивые цифры, но не доказывают реальное product-market fit.

Ключевым метрическим показателем является спрос на платный инференс — он более устойчив и способен поддерживать долгосрочную жизнеспособность.

ii) Выручка на GPU

Сети децентрализованных вычислений устойчивы только тогда, когда ценность, заработанная GPU внутри сети, превышает внешнюю альтернативу. Если основные драйверы участия провайдеров — это токеномические emission'ы, то при ослаблении стимулов предложение исчезнет. Провайдеры GPU всегда считают opportunity cost.

iii) Интеграция роутеров: дистрибуция

Дистрибуция зачастую важнее самой инфраструктуры.

Интеграция с OpenRouter, code-agent'ы, кошельки, payment endpoint'ы, дев-тулы и consumer-приложения — всё это потенциальные источники спроса.

Payment endpoint'ы — это каналы, через которые ПО может напрямую оплачивать услуги через API.

iv) Верификация

Фейк GPU, искусственное завышение capacity и ненадёжные провайдеры остаются реальными рисками.

Сетям необходимы robust (надёжные) методы аппаратной верификации, зашифрованный трафик, репутационные системы и meaningful (осмысленные) санкции за злонамеренное поведение.

v) Гарантии приватности

Приватный инференс остаётся одним из сильнейших шансов крипто-ИИ, но гарантии должны быть настоящими. Маркетинг приватности легок; сложно обеспечить безопасное execution, architecture-first-local, data minimization и audit-ready infrastructure.

vi) Токеномический value capture

Сильнейшие токеномические модели напрямую связывают спрос с реальным использованием инференса. Это может включать buyback, burn, требования стейкинга, права на compute или механизмы, привязанные к revenue.

Одного широкого нарратива «ИИ» в долгосрок явно недостаточно.

Ключевой вывод

Финал принадлежит контролю спроса

В данной стратегии одного контроля фрагментированных территорий недостаточно. Вам нужны связанные зоны, маршруты подкреплений и стабильные линии снабжения.

То же самое верно для рынка инференса. Победители будут контролировать спрос, роутинг, верификацию и settlement'ы; одних лишь физических GPU будет недостаточно.

Рынок инференса заставляет ИИ начать resemble (напоминать) финансовые системы:

• каждый созданный токен несёт в себе стоимость,
• каждый эндпоинт генерирует прибыль,
• каждый цикл агента формирует спрос,
• каждый роутер выступает как маркет-мейкер,
• каждая GPU-сеть становится источником предложения…

На текущем этапе традиционные провайтеры доминируют в слое пользовательского опыта разработчиков и корпоративного доверия.

Крипто-сети ИИ исследуют другой фронт: безразрешительное предложение, приватный инференс, верифицируемые вычисления, токенизированный доступ и нативные для агентов платежи (без ограничений KYC).

В краткосроке победителями вряд ли станут сети с максимальным уровнем децентрализации; скорее выиграют те, что заставят децентрализованный инференс ощущаться привычным и надёжным — благодаря быстрым эндпоинтам, качественной документации, стабильному аптайму, прозрачному прайсингу, верифицированному предложению и genuine (реальному) платному спросу.

Chutes остаётся одним из проектов, заслуживающих пристального внимания, так как он ближе всего к превращению вычислений на базе Bittensor в functioning (работающий) рынок инференса, а не просто нарратив GPU. Аналогичная ситуация с «Darkbloom» от Eigen Labs.

Akash и io.net представляют собой челленджеров со стороны предложения, Targon воплощает тезис конфиденциальных вычислений, Venice — слой спроса на приватный ИИ, а NuNet — оркестрацию для будущего распределённых вычислений.

Более широкий тезис:

«Модели ИИ могут постепенно становиться товаром массового спроса, однако рынок инференса вряд ли пойдет по тому же пути.»

Максимальную добавленную стоимость получат те сущности, которые маршрутизируют workload'ы, верифицируют их, проводят settlement'ы и фиксируют спрос.

Именно здесь может появиться следующая крупная возможность крипто-ИИ… как минимум до тех пор, пока physical AI не освоит свою роль в обществе.