IOSG｜AI на распутье: почему Уолл-стрит говорит «нет» ChatGPT и Claude?

Автор: Jeff @IOSG

Зачем нужен приватный ИИ

1 июля генеральный директор Palantir Алекс Карп дал 20-минутное интервью на CNBC, которое некоторые СМИ окрестили «нервным срывом». По словам Карпа, предприятия платят премию передовым лабораториям за токены, в то время как их собственные интеллектуальные собственность стекает к создателям моделей. Он называет такую утечку передачей альфы, причем переток происходит на архитектурном уровне: каждый запрос, отправляемый в закрытую модель, достигает серверов провайдера в виде открытого текста. Всего за несколько дней до выхода программы Palantir анонсировала партнерство с NVIDIA для запуска открытой модели Nemotron в контролируемой клиентами среде, сопроводив это девятипунктным манифестом суверенитета ИИ. После эфира на CNBC акции PLTR подскочили на 8%.

Последние двадцать лет предприятия внедряли облачное ПО, полагаясь на доверие на уровне протоколов, и это работало. Каждый вендор SaaS видит лишь фрагмент данных клиента и обычно не имеет стимула использовать эти данные для улучшения основного продукта. Salesforce видит каналы продаж, Workday — кадры, Jira — этапы разработки, а AWS предоставляет инфраструктуру хранения и вычислений. Однако современные рабочие процессы с ИИ предлагают загрузить всё сразу, вместе со структурированным контекстом, связывающим различные отделы, ради максимизации производительности. Не принимая во внимание добрые намерения, провайдеры верхнего уровня теперь могут использовать эти данные для создания новых функций, вместо того чтобы они пылились на серверах.

Никто не замедляется: годовая выручка Anthropic в мае достигла 47 млрд долларов по сравнению с резким скачком с 9 млрд долларов на конец 2025 года, а OpenAI преодолела отметку в 900 млн активных пользователей в неделю еще в феврале. Обе компании весной завершили новые раунды финансирования, приблизившись к оценке в 1 трлн долларов, и планируют провести IPO с еще более высокой оценкой. Годы обвинений в нарушениях конфиденциальности и краже интеллектуальной собственности не ослабили их темпов ни на градус.

Часть предприятий приняла меры заранее. Уже через три месяца после релиза ChatGPT в феврале 2023 года основные банки Уолл-стрит ограничили его использование. В мае 2023 года, после того как инженер Samsung случайно залил исходный код чипов в ChatGPT, компания полностью заблокировала генеративный ИИ для всех сотрудников. В ответ OpenAI запустила в августе того же года ChatGPT Enterprise, пообещав не обучать модели на коммерческих данных, а также внедрила протокол нулевого сохранения данных (zero-data-retention, ZDR), который позже стал стандартом при корпоративных закупках.

Но договоры защищают только официальные учетные записи. По данным IBM, к 2025 году теневой ИИ (когда сотрудники используют личные аккаунты для загрузки корпоративных данных в неодобренные инструменты) был вовлечен в одну пятую всех инцидентов с утечками, а интенсивное использование такого теневого ИИ увеличивало средние затраты на устранение последствий на 670 тыс. долларов. В исследовании Anagram за 2025 год четверть сотрудников признались, что ради ускорения работы готовы нарушить политику использования ИИ.

Предприятия хотя бы могут купить себе выход: контракты ZDR, тарифы без обучения, суверенные деплойменты для госсектора или клиентов Palantir. А вот для обычных пользователей, таких как мы с вами, важность приватного ИИ долго оставалась предметом дискуссий, пока к ним не пришли повестки суда.

В мае 2025 года судебное постановление обязало OpenAI хранить потребительские чаты, даже удаленные пользователями, а в ноябре судья распорядился передать 20 млн записей адвокатам The New York Times в рамках обмена доказательствами. Затем последовали уголовные дела: записи из ChatGPT подозреваемого в поджоге пожара в Палисейдс стали частью улик, а присяжное заявление по делу об убийстве двух человек во Флориде цитировало вопросы подозревателя о том, как утилизировать тела. Сэм Алтман также подтвердил в июльском интервью 2025 года, что диалоги в ChatGPT не защищены юридической тайной, и в ходе судебного разбирательства OpenAI «может быть обязан передать» историю переписки пользователей.

Речь не о том, что только преступникам нужны конфиденциальные диалоги. Диалоги людей с ИИ архивируются и могут стать предметом судебных запросов — это сторона мониторинга, о существовании которой большинство пользователей даже не подозревает. Согласно опросу Kolmogorov Law от октября 2025 года, проведенному среди 1000 американских пользователей ИИ, 50% не знали, что эти беседы могут попасть под subpoena, а две трети считали, что такие разговоры должны получать ту же защиту, что и консультации с юристом или врачом.

Модели с открытым исходным кодом, развернутые локально или в верифицируемых средах, быстро догоняют конкурентов, однако лучшие из них в задачах общего назначения все еще отстают от передовых закрытых моделей примерно на четыре месяца. Это ставит компании и отдельных пользователей, стремящихся максимизировать эффективность токенов, перед выбором: либо отказаться от нескольких месяцев качества моделей ради конфиденциальности, либо продолжать загружать чувствительные материалы на серверы Anthropic, ведь именно так конкуренты захватывают преимущество в производительности.

Пока идеального решения нет. Данный обзор анализирует усилия сторон по сокращению разрыва и оценивает, насколько далеко передовое искусство в условиях доказуемой конфиденциальности от доставки конечным пользователям и предприятиям.

Как сейчас реализуется конфиденциальность

Приватный ИИ — это не единая инженерная задача, но каждый механизм на рынке сегодня обрабатывает одно и то же событие: запрос покидает ваше устройство, проходит через сеть, попадает на машину, где выполняется модель, и возвращается ответ. Различия между механизмами заключаются в том, где именно на этом пути находится открытый текст, кто может его прочитать и чем можно гарантировать конфиденциальность ответа.

Конфиденциальность на уровне протокола

На этом уровне, помимо вас, кто-то еще читает ваш запрос в открытом виде. Что происходит дальше, полностью зависит от обещания.

• Договорное нулевое сохранение — решение для бизнеса. Провайдер знает, кто вы, обрабатывает ваш запрос и обещает не сохранять его. Контроль осуществляется на уровне договора и репутации.
• Анонимные прокси стирают информацию о вашей личности, но не шифруют содержание запроса. Провайдеры нижнего уровня по-прежнему обрабатывают открытый текст согласно своей политике. Условия различаются: например, такие прокси, как Duck.ai (продукт DuckDuckGo), договариваются с создателями моделей об удалении данных, тогда как Venice позволяет пользователям предполагать, что всё будет сохранено, однако ни одна из сторон не может этого проверить.

Каждый сегмент маршрута между машинами работает поверх TLS, который шифрует лишь канал передачи, но получатель способен прочесть всю информацию. Для разделения прав доступа используются ретрансляторы на базе Oblivious HTTP (RFC 9458). Принцип похож на просьбу передать записку другу: друг знает, от кого послание, но не читает его, а адресат читает содержимое, но не знает отправителя. ОHTTP стал стандартом IETF с января 2024 года, и сейчас множество компаний перенаправляет production-трафик через оHTTP-ретрансляторы, арендуемые у Cloudflare и Fastly.

Именно этот уровень является пределом конфиденциальности, доступным при использовании закрытых моделей. Причина кроется в простой арифметике. Стоимость тренировки флагманской модели сегодня исчисляется миллиардами долларов, а оценки лабораторий близки к триллиону долларов держится на эксклюзивности весов моделей. Пока сохраняется разрыв в возможностях, сохраняется и премиальная цена, поэтому лаборатории охраняют файлы весов как государственную тайну.

Meta уже проводила подобный эксперимент в пассивном режиме. Выпущенная в феврале 2023 года LLaMA изначально открывалась только исследователям, но уже через неделю её веса слились в 4chan. Еще через неделю библиотека llama.cpp позволила запустить самую малую версию на 7B параметров прямо на MacBook, а через три дня исследовательский центр Stanford за менее чем 600 долларов дообучил на этой же модели чат-бота Alpaca. Этот слив превратил стоимость работы Llama в расходы на электричество: любой владелец файла мог запускать её дома. В июле 2023 года Meta официально открыла исходный код Llama 2 под коммерческой лицензией с исключением пользователей 700 млн MAU. Веса разошлись — ушла и премиальная цена.

Лаборатории теоретически могли бы делать аттестацию (удаленное заверение) для вывода закрытых моделей, однако аттестация лишь доказывает, какой именно код читал запрос, но не доказывает, что он делал с этими данными. Чтобы убедиться, что сервер не сохраняет данные, необходимо аудировать код обслуживания (serving code) и реконструировать хеш, о котором сообщает оборудование. Однако передача обслуживающего кода означает передачу тех самых батчинга и кэширования, которые формируют маржу и которые будут использованы в будущих поколениях моделей. Apple и Meta способны проводить удаленное заверение для сервисных стеков iPhone и WhatsApp, поскольку их прибыль заключается в устройствах и рекламе, а публикация кода почти ничего им не стоит.

Вот почему веса и код обслуживания флагманских моделей не попадают к внешним операторам. Без внешних операторов невозможна независимая аттестация, а без аттестации проверяемая конфиденциальность возможна лишь над моделями с открытым исходным кодом.

Конфиденциальность на структурном уровне

Все механизмы этого класса заменяют обещания доверия доказательствами, основанными на оборудовании, криптографии или физике, однако за повышение конфиденциальности приходится платить по-разному. Главная особенность — возможность работы исключительно с моделями с открытым исходным кодом.

• Доверенные исполнительные среды (TEE) помещают вывод модели в аппаратный анклав (герметичную камеру на чипе, недоступную даже самому оператору). Чип подписывает аттестацию, указывающую, какая именно модель и какой код были запущены.
• Запрос шифруется только в конечном пункте. На пути через ретранслятор платформы остается узел, способный читать открытый текст. Предотвратить журналирование или подмену проксируемых данных может лишь сам протокол.
• Сквозное шифрование (E2EE) блокирует ретрансляторы, читающие содержимое. Устройство пользователя шифрует запрос ключом анклава, а каждая следующая транзитная точка несет запечатанный конверт, который может открыть только анклав.
• Уровень доверия смещается на клиентскую часть. Код, отвечающий за шифрование запроса и проверку аттестации, также обладает возможностью отзыва этой гарантии. Поэтому проверяемое скрозное шифрование требует одновременно доказанного анклава и открытого, воспроизводимого клиентского кода.
• В отличие от простоты TEE, стоимость E2EE выражается в инженерных затратах, что замедляет интеграцию функций. E2EE превращает прокси в слепого гонца, поэтому все функции, зависящие от чтения открытого текста, приходится переписывать вокруг клиентских ключей или реализовывать исключительно внутри анклава.
• Полностью гоморфное шифрование (FHE) и его варианты на базе многопартийных вычислений (MPC) полностью устраняют нужду в доверенной стороне. Сервер выполняет вычисления с шифротекстом в запертом ящике, ключи от которого никогда не попадут к нему. Ключ хранится только у пользователя. В случае MPC запрос разделяется на секретные доли между несколькими участниками, что дает идентичный эффект, если только все участники не сговорятся.
• Цена этого подхода — скорость. Изначально FHE умеет выполнять только сложение и умножение, поэтому нелинейные шаги, необходимые для работы трансформеров, придется воссоздавать с огромными затратами. Стоимость вывода на шифротексте в 10 000–100 000 раз выше, чем на открытом тексте. Даже на небольших моделях генерация одного токена займет секунды или минуты против миллисекунд в обычном режиме.
• Чипы, специально разработанные для криптографических вычислений, постепенно сокращают разрыв, но первый демонстрационный прототип появится лишь в начале 2026 года, а коммерческие версии отодвинутся еще на несколько лет.
• Локальный вывод полностью уничтожает этот путь. Модель выполняется на вашем оборудовании, без ретрансляторов, серверов, вендоров и необходимости верификации.
• Очевидная цена — финансовые затраты и возможности моделей. Версия gpt-oss-120b набирает лишь половину баллов GLM-5.2 по индексу Artificial Analysis, но ее объем составляет 65 ГБ, что превышает суммарную видеопамять двух флагманских игровых карт. Полновесная GLM-5.2 может работать только на восьмикартных дата-центровых узлах, при этом одни только GPU обойдутся свыше 300 тысяч долларов.

Вне этих структурных ограничений стоимость помещения вывода в анклав стремительно снижается. При однокартных инференсах бенчмарки Phala показывают, что потерь пропускной способности для H100 в режиме анклава в среднем меньше 7%, а на больших моделях они близки к нулю, так как основная цена идет на перемещение данных в чип, а не на вычисления внутри него. При мультикарточных инференсах новое поколение GPU NVIDIA Blackwell уже поддерживает прямое шифрование трафика между чипами, тогда как старые H100 для аналогичного эффекта теряли бы семьдесят процентов пропускной способности, перегоняя данные через процессор. Бенчмарки самой NVIDIA на архитектуре Blackwell показывают потерю пропускной способности менее 8% для модели на 397B параметров в режиме анклава. С учетом этих достижений технические издержки приватного инференса больше не являются решающим ограничением.

Собственно говоря, наличие самого анклава практически не добавляет дополнительных операционных расходов. Каждая карта H100, выпущенная после 2023 года, имеет встроенный режим анклава; дополнительная цена — это потеря пропускной способности из-за шифрования, а не покупка нового оборудования. Сейчас аренда SKU с секретной (confidential) H100 в Azure стоит 8,90 доллара в час против 6,98 доллара за обычную, что на 27% дороже стандартных облачных мощностей. Тем временем специализированные провайдеры вроде Phala предоставляют мощностимодели с включенным энклавом от 3,80 доллара в час, что ниже диапазона Lambda для обычных карт SXM (3,99–4,29 доллара). В сегменте управляемых API NEAR AI предлагает endpoint'ы с аттестацией для gpt-oss-120b по цене 0,15 доллара за вход и 0,55 доллара за выход на миллион токенов, что вполне сопоставимо с прозрачными маршрутами от Amazon Bedrock, Together и Groq. Даже для моделей, требующих параллельной работы множества чипов, NEAR AI устанавливает цены на GLM 5.2 точно такие же, как у Fireworks, а на более крупной Kimi K2.6 вход дешевле на 15%, а выход — на 4%.

Хотя новые провайдеры приватного инференса, вероятно, жертвуют прибылью ради захвата доли рынка (что справедливо для любой растущей компании на текущем этапе), структурный тренд указывает на устойчивое снижение стоимости приватности как для потребителей, так и для операторов.

Как выигрывают модели с открытым исходным кодом?

Несмотря на сокращение потери производительности, между передовыми и лучшими моделями с открытым исходным кодом все еще наблюдается заметный разрыв. Любой субъект, стремящийся к максимальной производительности, остается в позиции необходимости доверять передовым лабораториям, что они не похитят его интеллектуальную собственность.

Разрыв сохраняется, но AIA Labs от Bridgewater и Thinking Machines 30 июня продемонстрировали пример: открытая модель, дообученная на экспертных аннотациях, обошла передовые аналоги одновременно по точности и по себестоимости.

В ходе исследования команда дообучала модель Qwen3-235B в платформе Tinker (хостинговый API сервиса от Thinking Machines). Сначала были закуплены аннотации, обучена первая итерация, затем спорные образцы возвращены инвестиционным специалистам для повторной разметки. Обучение базировалось на обучении с подкреплением (GRPO) и трех модификациях: round-robin batching (очередной пакет задач), лос-CISPO (ограничивает максимальный отклоняющий эффект одного ответа) и дистилляция по текущей политике (on-policy distillation), фиксирующая лучший чекпоинт и предотвращающая обучение на более слабых копиях.

Все задачи копировались из ежедневных рабочих процессов инвесторов: оценка значимости новости для топ-менеджеров, определение направления изменения ставок по документам ЦБ, выявление начала типовой фразеологии в письмах или отчетных шаблонах. Оценки выдавались независимым тестовым набором. Передовые модели демонстрировали средний балл около 50% на простых запросах и максимум 78,2% на экспертных запросах, что ниже установленного инвестиционными командами порога в 80%. После дообучения Qwen показала 84,7%, что по методологии авторов означает снижение количества ошибок на 29,8% по сравнению с лучшим передовым аналогом и падение стоимости инференса в 13,8 раза.

https://thinkingmachines.ai/news/learning-to-replicate-expert-judgment-in-financial-tasks/

Этот кейс доказывает победу открытых моделей по точности и стоимости, однако сам процесс обучения все еще не является закрытым. Используемые экспертные аннотации представляют собой проприетарные данные Bridgewater, проходящие через сторонний сервис Tinker и попадающие на тот же уровень доверия, что и протокол ZDR. Фонд арендовал вычислительные мощности, и вся тренировка происходила на машинах, которыми фонд никогда не владел. Покупателей, желающих получить эту формулу без предположений о доверии, сегодня мало. Аренда голых GPU-кластеров оставляет процесс обучающейся видимым для облачного оператора. Покупка кластера решает проблему хостинга, но ценовой порыв становится непомерным.

Направление с аттестацией только начинает развиваться. В марте Workshop Labs и Tinfoil выпустили Silo — стек пост-тренинга, работающий внутри анклава Tinfoil на одном узловом блоке из восьми карт, где ключи находятся исключино во владении клиента. Стоимость работы внутри анклава составила: два часа тренировки потребовали дополнительных одиннадцати минут. Благодаря морозильнику базовых весов и дообучению лишь небольших адаптеров, стек уместил модель на триллион параметров (Kimi K2 Thinking). Главным препятствием остается то, что обучение с подкреплением требует многократного перемещения данных между компонентами, а именно перемещение данных и составляет основную статью издержек в анклаве.

Менее чем через месяц после релиза Silo, компания Workshop Labs была поглощена Thinking Machines. Теперь все компоненты, необходимые для организации следующего цикла RL по схеме Bridgewater внутри анклава, объединены под управлением одной компании.

Конфиденциальность на уровне Harness-а

Существует проблема, стоящая вне рамок любых механизмов приватного вывода. Эти механизмы управляют лишь путем от запроса к модели, а каждый инициированный агентом вызов внешнего инструмента открывает маршрут, совершенно не охватываемый слоем инференса. Недавний тренд в разработке harness-ов многократно усугубляет ситуацию: каждый инструмент, база памяти или источник данных, окружающий модель, становится новым пунктом назначения, который в открытом виде читает свой фрагмент рабочего процесса. Сервер календаря читает расписание, сервер базы данных читает запрос. Любой полностью локальный агент, которому потребуется что-то помимо набора данных для обучения, все равно будет вынужден передавать поисковые запросы поисковику в открытом виде. Если сервер не может прочитать открытый текст, он не сможет сформировать ответ.

Основные решения все еще базируются на уровне протокола. Такие компании, как Runlayer и MintMCP, используют центральный шлюз для контроля всего трафика инструментов, маскируя персональные данные (PII) до отправки запроса. Шлюз определяет, какие серверы получат трафик, блокирует непроверенные источники и логирует цели и содержимое каждого вызова для последующего расследования. Даже при наличии независимых аудитов (SOC 2) серверам инструментов все равно необходимо читать открытые запросы для формирования ответа; хранение копий зависит от внутренней политики, умноженной на количество инструментов в harness-е. Кроме того, сам шлюз выступает очередным узлом, требующим доверия на пути, а не проверяемым звеном.

Решения на структурном уровне бьют по промежуточному слою. Например, Phala размещает MCP-серверы непосредственно внутри TEE, охватывая кошельки, исполнение кода и источники данных. Пользователи могут верифицировать заявления о конфиденциальности с помощью аттестации, а не слепо доверяя оператору. Однако инструменты, размещенные в TEE, в итоге все равно передают запросы провайдеру услуг в открытом виде. Анклав защищает лишь курьера, но не место назначения.

Лишь немногие пункты назначения научились отвечать, не читая содержимого, но это применимо исключительно к структурированным запросам. Apple внедрила функцию частного поиска информации (Private Information Retrieval) для iPhone, позволяя сверять номера вызывающих абонентов со спам-базами без раскрытия самих номеров. Microsoft применила аналогичный подход к паролям в браузере Edge. Технология Queryable Encryption от MongoDB позволяет шифровать поля еще до их покидания клиентским устройством, благодаря чему сервер может выполнять проверки на равенство или диапазоны, оперируя исключительно шифротекстом.

Однако для поисковых запросов общего характера лучшее современное решение все еще сводится к доверию: проверяемое зашифрованное поиск пока не вышло из лабораторий. Brave заявляет об отказе от хранения данных на своем индексе из 40 миллиардов страниц (в противовес Google), но принцип реализации по-прежнему лежит на уровне протокола. Exa создала нейронный индекс, преобразующий ключевые слова пользователя в семантические эмбеддинги и ранжирующий результаты по смысловому совпадению, однако этап вычисления эмбеддингов все равно начинается с открытого текста на серверах Exa. Статья MIT 2023 года под названием Tiptoe успешно ранжировала 360 миллионов веб-страниц без раскрытия запроса, но каждый такой поиск съедал колоссальные вычислительные мощности серверов, уступая по качеству нерасшифрованному поиску. Публикация Apple Wally 2024 года маскировала реальные запросы массивом приманок, снижая объемы передаваемых данных до 31 раза, однако данная математическая модель становится экономически выгодной лишь при миллионах одновременных запросов, чего пока ни одна система частного поиска достичь не способна.

Зашифрованный поиск технически возможен, но его производительность и стоимость пока не достигли уровня коммерческой рентабельности.

Перспективы

Спрос на приватный ИИ растет. Venice AI недавно преодолела отметку в 3,5 миллиона зарегистрированных пользователей и 1,3 триллиона токенов ежемесячной пропускной способности, после чего привлекла финансирование раунда Series A с оценкой компании в 1 миллиард долларов. Proton выступает прямым конкурентом: продукт Lumo превысил рубеж в 10 миллионов пользователей за первый год работы. На инфраструктурном уровне сервис Phala ежедневно маршрутизирует от 2 до 3 миллиардов токенов только через платформу OpenRouter. Продукт Duck.ai направляет модели gpt-oss-120b и Gemma через анклав Tinfoil, предоставляя проверяемую конфиденциальность поверх стандартных пользовательских агентов. Сюда также не включено самостоятельное размещение (self-hosted), которое, вероятно, является крупнейшим каналом использования приватного вывода, поскольку модель функционирует на собственном оборудовании, не оставляя никаких следов активности.

Однако в масштабах основной волны развития искусственного интеллекта доля приватного ИИ остается ничтожно малой, и преодоление этого разрыва произойдет лишь при осознанном интересе передовых лабораторий к данному спросу. В мае Google обработал 3200 триллионов токенов по всем своим продуктам. Сообразно расчетам, месячная пропускная способность Venice эквивалентна всего восемнадцати минутам активности инфраструктуры Google. В ноябре прошлого года Google запустила службу Private AI Compute (PAC), изолируя ряд функций на базе Gemini внутри герметичных ТПУ-энклавов, отделенных от корпоративной инфраструктуры, при этом проект прошел независимый аудит от NCC Group. Проблема заключается в том, что PAC затрагивает лишь ограниченный круг функций устройств Pixel, таких как персонализированные рекомендации и аудио-саммари, и не распространяется на массовое приложение Gemini. Google рискует доверить дизайн сторонним аудитору, поскольку монетизация указанных функций базируется на продажах устройств и рекламе, а не на реализации токенов.

Текущие облачные решения далеки от совершенства. Пользователи, желающие получить максимальный уровень защиты через сквозное шифрование, вынуждены перестраивать новые функции в зоне, недоступной для чтения со стороны провайдеров. Частные harness-ы на уровне сервиса все еще опираются на протоколы обеспечения доверия. Доступные услуги пост-тренинга по-прежнему требуют доверия третьим лицам для достижения лучших результатов тонкой настройки. Самостоятельный хостинг освобождает от всех вендоров, однако эксплуатация новейших моделей с открытым исходным кодом локально может обойтись дороже, чем само помещение, в котором установлены серверные стойки.

Не смотря на существующие недостатки, приватный ИИ уже стал реально доступным решением, а зазоры между возможностями постепенно затягиваются. Для обычного потребителя: приватные беседы с открытыми моделями на платформах Lumo и Venice под обещанием отсутствия логов абсолютно бесплатны, а подписки на сервисы Venice или Tinfoil стоимостью от 18 до 20 долларов помещают эти беседы внутрь криптографического контейнера, не превышая стоимость обычной подписки на ChatGPT. В корпоративных рабочих процессах: endpoint'ы с аттестацией сегодня обходятся дешевле, чем обычные маршруты. Например,端点 E2EE от NEAR позволяют безопасно доставлять зашифрованные контексты внутрь анклавов; память, загрузка файлов и кастомные инструкции сегодня успешно функционируют на базе E2EE. Что касается пост-тренинга с аттестацией: скоро планируемый чипсет NVIDIA Vera Rubin NVL72 расширит применение вычислений в секретных окружениях с 8-картовых блоков Blackwell до стоек на 72 карты, сделав петли RL с передовыми моделями гораздо более реализуемыми без риска компрометации интеллектуальной собственности.

Однако ключевая ловля стоимости лежит вне слоев ценового давления. Там, где конфиденциальность уже доступна, она почти бесплатна, но пока не охватила массовые агентные рабочие процессы. Операторы, сдающие в аренду вычислительные среды анклава, контролируют лишь тумблер на обычных чипах, но не создают стратегической рвы. Шлюзы на уровне протокола конкурируют в поле традиционных мидлваров. Защищаемой территорией остается половина проблем, неподнятх в данном обзоре: циклы обучения внутри закрытых анклавов, полностью экранированные вызовы внешних инструментов и поисковые индексы, скрытые от индексации терминов. Тот, кто первым реализует любую из этих функций, начнет продавать продукт, который невозможно обесценить ценовыми войнами. Капиталу, преследующему рынок приватного ИИ, следует инвестировать в неразработанные участки, а не в простые переключатели.

Итак, доверие или верификация? Для задач с тяжелым выполнением и активной работой агентов следует выбрать доверие, поскольку каждый вызов инструмента принципиально выгружает открытый текст в точку назначения, куда не проникает защита анклава, а передовые модели оправдывают свою цену именно в подобных контурах. Для высокоуровневого мышления, отличающего одну компанию от конкурентов, необходим выбор в пользу верификации. Стратегия, планирование и суждения, выведенные из многолетнего профессионального опыта, и есть та самая contested alfa. Будущее лежит в границах полного корпоративного контроля: использование проприетарных знаний для тонкой настройки открытых моделей. В областях, где формируется альфа компании, экспертно дообученные открытые модели уже превзошли передовые аналоги одновременно по точности и по экономической эффективности, а инфраструктура для построения подобных решений в приватном режиме поступает в распоряжение рынка шаг за шагом.