Неограниченный интеллект, дефицит чипов: наблюдение за дисбалансом предложения при ценообразовании вычислительных мощностей

Автор: Керман Кохли

Перевод: TechFlow

Обзор TechFlow: Когда все устремили взор на падение цен токенов и кричат о пузыре, Керман Кохли предлагает совершенно иную рамку интерпретации: спрос бесконечен, предложение ограничено, а оборудование превращается в стратегический ресурс. Эта статья поможет вам понять, почему подержанные видеокарты дорожают, почему вычислительная мощность не обесценивается и почему «обладать собственной вычислительной мощностью» трансформируется из технической задачи в вопрос выживания.

Я уже месяц не писал статьи для Substack, в первую очередь потому, что учусь слишком быстро и совсем не остается времени на написание. Эта статья — обновление того, чему я недавно научился, а также обзор новых ментальных моделей, которые формируются у меня в голове. Я намерен разделить свои выводы примерно на три части:

В первой части речь пойдет о динамике оборудования и о том, почему, на мой взгляд, большинство людей ошибаются в своих суждениях о нем. Во второй части мы рассмотрим, как эволюционируют модели и к чему это приведет в будущем. В последней части речь пойдет о взаимосвязи между локальной вычислительной мощностью и передовыми вычислениями.

Прежде чем начать, я хочу поделиться своими личными успехами в освоении оборудования, так как это напрямую связано с темой данной статьи.

Ранее в этом году я написал статью о сборе сервера для инференса за 15 000 долларов. В последнее время я обновил его, добавив еще одну GPU, и общие затраты достигли 35 000 долларов. Но самое интересное, что та самая GPU, которую я купил в начале года за 10 000 долларов, сейчас стоит 14 000 долларов, а память подорожала еще на 1 000 долларов. То есть фактическая базовая стоимость этого сервера в 35 000 долларов для меня составляет всего 30 000 долларов. Для большинства оборудования такая ситуация нехарактерна.

Кроме того, я потратил еще 35 000 долларов на покупку 6 серверов DGX Spark и подключил их через 16-портовый коммутатор 100 Гбит/с, объединив всё оптоволоконными кабелями. Благодаря этому процессу мое понимание GPU превысило то, что могут дать любые материалы в интернете. Единственный верный способ войти в этот мир — самостоятельно купить оборудование и разобраться с ним на практике.

В этом году мои личные капитальные расходы на аппаратное обеспечение для ИИ выросли по экспоненте, и мы в RouteMesh также движемся в этом направлении: кластеры GPU являются следующим логичным шагом к масштабированию. Со временем я буду делиться опытом своих исследований дата-центров.

i) Динамика оборудования

Как может машина, которая эксплуатировалась менее года, вместо этого вырасти в цене? Еще более безумно звучит тот факт, что подержанная RTX 3090 (видеокарта 2020 года) даже в 2026 году способна быть продана по первоначальной стоимости? Нельзя просто сказать «это пузырь» и закрыть тему, здесь нужно копнуть глубже.

Отправной точкой всего этого является: память! Разумеется, также чипы NVIDIA. Я подробно объясню это в данном разделе. Когда мы говорим о hardware, на самом деле речь идет о двух вещах: вычислениях и памяти.

Вычислительные мощности действительно со временем становятся все мощнее, новые поколения устройств полностью превосходят старые. Однако это имеет смысл только тогда, когда именно вычисления являются узким местом (под вычислениями здесь имеются в виду CPU/GPU/XPU). В задачах инференса узким местом выступает память. Учитывая, что память будет находиться в состоянии структурного дефицита как минимум следующие десять лет (да, я пересмотрел свой предыдущий прогноз с пяти до десяти лет), любая амортизация вычислительной части будет компенсироваться ростом стоимости памяти.

Это первый тренд. Но второй фактор, недооцененный рынком, заключается в том, что ценность чипов NVIDIA во многом определяется их обратной совместимостью. Старые чипы по-прежнему полезны, и за ними стоит обширная экосистема. Видеокарта RTX 3090 или чип A100 2020 года выпуска до сих пор способны выполнять экономически целесообразные задачи инференса, поэтому есть полное основание держать их работающими в дата-центрах!

Это огромный нарратив, но мало кто ему действительно уделяет внимание. Вы не можете шортить оборудование, новых облачных провайдеров, вычислительную мощность или память. Динамика рынка оборудования изменилась навсегда.

Я также заметил, что определенные рабочие нагрузки никогда не требуют обновления на новое поколение чипов. Рабочие нагрузки, похоже, начали жестко привязываться к конкретному оборудованию, чего в технологической сфере давно не наблюдалось.

Лично я сам сталкиваюсь с этим. Купленная мной за 10 000 долларов RTX 6000 Pro Max-Q сейчас стоит 16 000 долларов, а иногда цена доходит до 18 000 долларов! Это устойчивый тренд, а не краткосрочный дисбаланс спроса и предложения.

ii) Эволюция моделей

Недавно многие обратили внимание на снижение цен токенов и считают, что это приведет к лопанью «пузыря». Это также ошибка, поскольку они видят только сторону цены, упуская другую сторону: спрос.

Ниже представлена диаграмма от Silicon Data, демонстрирующая устойчивое падение цен токенов начиная с июня. Согласно этой логике, цены на ИИ и спрос на него, кажется, замедляются.

Поскольку крайне сложно найти единые данные по спросу на токены, я решил использовать выручку центров обработки данных NVIDIA в качестве индикатора. Если бы снижение цен токенов удовлетворяло спрос, людям следовало бы требовать меньше чипов. Но реальность показывает совершенно противоположную картину…

Как показано на рисунке, рост продолжается, и единственным ограничивающим фактором является: предложение.

То, чего люди не понимают касательно ИИ и всей этой волны строительства: спрос на самом деле бесконечен (я уже писал об этом в прошлой статье), а ограничение кроется именно в предложении. Это трудно постичь интуитивно, поскольку традиционная экономика учит нас, что предложение расширяется, чтобы удовлетворить спрос. Однако потребность в интеллекте бесконечна, а сценарии использования не имеют границ, а значит, мы никогда не сможем полностью удовлетворить спрос. Я знаю, что эту мысль трудно осмыслить, и понимаю, что она подразумевает совершенно иное будущее, но вы обязаны принять её как данность, иначе в будущем окажетесь в крайне невыгодном положении.

Наличие собственной вычислительной мощности критически важно, поскольку она превращается в стратегический ресурс. У тех, кому она недоступна, будут украдены идеи (недавно мы уже стали свидетелями решения проблемы Навье-Стокса и выигрыша призового фонда в миллион долларов).

Все идет по плану.

Тем не менее, снижение цен токенов порождает еще один интересный тренд: мы можем внедрять больший интеллект во все вещи и даже разблокировать новые рабочие процессы. В настоящее время множество персональных программ управляет моей жизнью, и с каждым улучшением модели я могу встраивать больше интеллекта, что, в свою очередь, требует ещё большего интеллекта для координации всего этого. Рекурсивный и взрывной характер спроса на агентов до сих пор поражает меня.

Это возвращает нас к ключевому вопросу из моей прошлой статьи: считаете ли вы спрос на интеллект конечным или бесконечным? Подсказка: он бесконечен.

iii) Локальная вычислительная мощность против передовых вычислений

Я видел много мнений по этой теме, большинство из которых, на мой взгляд, совершенно неверны. Начнем с фактов: в прошлом месяце в области локального ИИ произошли невероятные прорывы.

Qwen 3.8 DFlash2 и GLM 5.3 Flash Next DFlash2 обеспечили скачкообразный рост скорости оркестровки и уровня интеллекта на вашем собственном оборудовании. Мой компьютер с двумя RTX и кластер Spark из 6 узлов позволили мне практически достичь полной независимости в вычислениях. Я по-прежнему пользуюсь подпиской на передовые модели (ChatGPT за 100 долларов в месяц), но использую его только для задач на iOS, управления компьютером и действительно сложных случайных вопросов. Я готов платить за это высокую премию и делаю это с удовольствием.

Я считаю, что в конечном итоге большинство придет к аналогичной конфигурации (при условии, что они действительно готовы покупать оборудование). Означает ли это конец передовым лабораториям?

Совершенно нет. Люди часто забывают о двух характеристиках передовых лабораторий и моделей:

Цена, которую вы платите за приобретение лидирующего интеллекта, выше не на 10%, а может быть, в 10 раз. Вы же не заплатите своим лучшим сотрудникам лишь на 10% больше зарплаты, вы готовы платить несколько раз больше. К интеллекту применяется та же логика.

Лабораториям абсолютно всё равно, сможете ли вы скачать открытые модели, потому что для их запуска по-прежнему требуется вычислительная мощность! Догадаетесь, кто контролирует огромные объемы этих ресурсов: именно они!

Эти два фактора являются единственными значимыми, все остальное не имеет значения. Кроме того, они будут маркироваться как «американский бренд», что даст им премию на корпоративном рынке.

У OpenAI и Anthropic есть колоссальный объем вычислительной мощности, и ваши мысли тут не помогут, если только у вас самих нет собственных мощностей (чего у большинства нет). Цены на оборудование продолжат расти, и каждый раз, когда вы оцениваете рентабельность инвестиций в покупку оборудования, вы скорее скажете: «Что такое 200 долларов в месяц по сравнению с капитальными затратами в 20 тысяч долларов». По мере того как подписки на услуги программирования подходят к концу (подписка на ChatGPT за 200 долларов в месяц была приостановлена), а цены на оборудование становятся всё более заградительными и труднодоступными, эта проблема ударит по пользователям.

Делайте ставку на вычисления

Если в моей системе убеждений есть два надежных ориентира, то это следующие два пункта:

Это худшее возможное состояние данных моделей. Будущее станет только лучше. Оптимизм жизненно важен.

Снижение цен приведет к увеличению объема использования. Спрос бесконечен, а мир представляет собой игру с положительной суммой.

На мой взгляд, среди этих двух пунктов последний сложнее всего воспринять. Бесконечный спрос разрушает множество предположений и заставляет людей смотреть на механизмы работы рынка, конкурентную среду и способы коллективной организации человечества совершенно под другим углом.

Если вы не делаете ставку на вычисления, вы окажетесь в беде. Вы можете сделать ставку на вычисления множеством способов: через выбор профессии, инвестиционный портфель или приобретаемое оборудование (возможно, всё вместе). Но единственное, чего вы делать не должны, — это избегать ставки на вычисления.

Делайте ставку на вычисления.