TechFlow Logo
ログイン/ 登録
ETHガス
Gwei
恐怖
gas
IOSG|AI の十字路:なぜウォール街は ChatGPT や Claude たちに「ノー」と言っているのか?

IOSG|AI の十字路:なぜウォール街は ChatGPT や Claude たちに「ノー」と言っているのか?

2026.07.14
共有先
ある企業 alpha の分野では、専門家によってチューニングされたオープンモデルが精度とコストの両面ですでに最先端を凌駕しており、プライバシー環境下でそのインフラを構築することは、一ノードずつまさに到来しつつある。

著者:Jeff @IOSG

なぜプライベートAIが必要なのか

7月1日、PalantirのCEOであるAlex Karp氏がCNBCで実施した20分にわたるインタビューは、一部のメディアから「メンタルヘルスの崩壊」と報じられた。Karp氏によれば、企業は最先端ラボにトークンのプレミアムを支払う一方で、自社IPがモデルベンダーへ流出するのを目の当たりにしている。この漏洩を「アルファの移動」と呼ぶ彼は、その移動がアーキテクチャレベルで起こっていると指摘する。閉鎖系モデルへの送信リクエストはすべて平文でサービスプロバイダのサーバーに到達しているのだ。番組放送の数日前、PalantirはNVIDIAと提携し、顧客管理下の環境でオープンソースのNemotronモデルを実行することを発表し、9項目からなるAI主権宣言も添付した。CNBC放送後、PLTRの株価は8%急騰した。

AI の十字路口:为什么华尔街们正在向 ChatGPT 与 Claude 们说“不”?

過去20年間、企業はプロトコルレベルでの信頼に基づきクラウドソフトウェアを採用し、それは機能していた。各SaaSベンダーが見られるのは企業のデータの断片のみであり、大半は顧客データを自社のコア製品へフィードバックする動機を持たない。Salesforceは営業チャネルを、Workdayは人事管理を、Jiraは開発サイクルを、AWSはストレージとコンピューティングの基盤を提供する。しかし今日のAIワークフローは、生産性を最大化するために一括で全ての資産、部門をまたぐ構造化コンテキストとともにアップロードすることを主張している。善意の有無を問わず、アップストリームプロバイダーは現在、これらのデータを新たな機能構築に利用できる。つまり、サーバー上で眠ったままにする必要がなくなっているのだ。

減速するところはどこもない。Anthropicの年間売上高は5月に470億ドルに達し、2025年末の90億ドルから大幅に急伸した。OpenAIも2月に週間アクティブユーザーが9億人を突破した。両社は今年の春にそれぞれ新ラウンドの資金調達を完了し、バリュエーションは1兆ドルに近づいている。さらに、より高い市場評価額でのIPOを目指す見込みだ。長年にわたり続いたプライバシーやIPをめぐる非難にもかかわらず、両社の勢いが失われることはなかった。

行動を起こす企業もすでに存在する。2023年2月、ChatGPTの公開から3か月以内に、ウォール街の主要銀行はその使用を制限した。2023年5月には、サムスン電子のエンジニアがチップのソースコードをChatGPTに漏洩させた後、社内全域で生成AIの利用禁止を行った。これに対する返答として、OpenAIは同年8月にChatGPT Enterpriseをリリースし、商業データを使用した学習を行わないこと、およびゼロデータレテインション(ZDR)プロトコルを採用することを約束した。以降、ZDRは企業導入時の標準要件となっている。

しかし契約は社内のアカウントを縛り付けるだけである。IBMの調査によると、2025年にはシャドウAI(従業員が個人アカウントを利用して許可されていないAIツールに会社データを投入すること)がデータ漏洩事案の5分の1に関与し、重度のシャドウAI利用により漏洩コストが平均67万ドル増加している。セキュリティトレーニング会社のAnagramによる2025年の調査では、4割の従業員が「タスクを早く終えるためなら、AI利用ポリシー違反に応じる」と回答した。

企業ならば少なくとも金銭を出して回避策を購入できる。ZDR契約、学習拒否型のサービスタイプ、政府機関やPalantirの顧客であれば主権デプロイメントさえ選択肢に入る。一方、你我のような一般ユーザーにとってプライバシーAIが重要かどうかは依然議論の分れるところだが、法廷召喚状が届いて初めてその重要性が認識されるケースも多い。

2025年5月に出された裁判所の命令により、OpenAIは削除済みユーザーとの消費者向けチャット記録まで保持を強制され、11月には判事がそのうち2000万件を『ニューヨーク・タイムズ』弁護士側への証拠開示の対象とするよう命じた。刑事事件でも事態は深刻だ。パロルディーズ山火事の放火事件の被告人のChatGPT履歴が証拠採用され、フロリダ州の二重殺人事件の宣誓供述書には、容疑者が遺体の処理方法を尋ねた質問が引用されている。Sam Altman氏も2025年7月のインタビューで、ChatGPTの会話は法的特権で保護されないとし、訴訟ではOpenAIがユーザーのチャット履歴を「提出を求められる可能性」があると認めている。

焦点は、犯罪者だけが秘密の対話が必要なわけではない点にある。人間とAIの会話が行方不明にならず、召喚可能な記録として残ることは、多くのユーザーが実態を知らない監視の領域だ。Kolmogorov Law事務所が2025年10月に米国人AIユーザー1000名を対象に行った調査によると、50%がこれらの会話が訴状などで呼び出されうることを知らず、同時に三分之二のユーザーはこのようなチャットが弁護士や医師への相談と同様の保護を受けるべきだと考えている。

セルフホスティング、または検証可能な環境で動作するオープンソースモデルは急速に追いついているが、最強クラスでさえ汎用能力において最先端のクローズドモデルを約4ヶ月下回っている。これは「トークン量マキシマイズ」を目指す企業や個人を岐路に立たせる。一つの道は、このプライバシーのために数か月のモデル性能を犠牲にすること。もう一つは、競合他社が生産性の優位性を奪い取っている現状に合わせて、依然として機密ファイルをAnthropicのサーバーに上传し続けることだ。

AI 的十字路口:为什么华尔街们正在向 ChatGPT 与 Claude 们说“不”?

現在市場に完璧なソリューションは存在しない。本稿は格差縮小に向けた各試みを整理し、検証可能なプライバシーを備えた最先端インテリジェンスが企業や一般ユーザーの手元に届くまで、どの程度の距離があるかを観察する。

プライバシーの現状の実現手法

プライベートAIは単一のプロジェクトではなく、現在の市場にあるあらゆるメカニズムが処理するのは同じイベントである。つまり、「あるプロンプトがユーザーの端末を発ち、ネットワークを通過し、モデルが稼働するマシンに到着し、返信が返ってくる」というプロセスだ。メカニズム間の違いは、平文がこのパス上のどこに残存するか、そこで誰がそれを読み取れるか、そして返信の秘匿性をどう検証するかという点にある。

プロトコルレベルのプライバシー

このレイヤーでは、あなた以外にあなたの平文プロンプトを読める者が存在しており、その後何が起こるかは一つの承諾に委ねられる。

AI 的十字路口:为什么华尔街们正在向 ChatGPT 与 Claude 们说“不”?

  • 契約ベースのゼロデータレテインションはエンタープライズ向けソリューションだ。サービスプロバイダーは利用者の身元を知り、プロンプトを処理した上で保存しないことを約束する。執行は契約と評判に依存する。
  • 匿名プロキシは利用者の身元を隠蔽するが、発言内容を暗号化しないため、ダウンストリームのプロバイダーは引き続き自身のポリシーに基づき平文を扱う。規約は企業ごとに異なり、例えばDuck.ai(DuckDuckGoのチャットボット製品)这类プロキシはモデルベンダーと削除プロトコルの交渉を行うが、Veniceのように「プロバイダーが全て保存するもの」とユーザーに想定させる形態もある。いずれにしても検証手段は存在しない。

マシン間の通信経路はすべてTLS上で動作しており、これはパイプラインのみを暗号化するものであり、受信側はすべての情報を読み取ることができる。中継ノードは通常、Oblivious HTTP(RFC 9458)を用いてこの「知る権利」を分離する。原理は友人に伝言板を渡すようなものだ。友人は誰が伝えたかを知っても内容は読めず、受取人は内容を読んでも誰が書いたか unknowable(不可知)となる。OHTTPは2024年1月からIETFの標準となっており、既に多くの企業がCloudflareやFastlyからレンタルしたOHTTP中継ノード上で本番トラフィックを運用している。

これがクローズドモデルへのアクセスで得られるプライバシーの上限である。理由は一種の算数的必然性によるものだ。最新のフラッグシップモデルの訓練コストは現在10億ドル規模に達しており、これらのラボがほぼ1兆ドル近いバリューエーションを誇るのは、モデルウェイトの独占権に賭けているからだ。モデル性能のギャップが維持される間、プレミアムは維持される。ゆえにラボはウェイトファイルを国家機密同然で守っているのである。

Metaはこの実験に消極的に耐えてきた。2023年2月に公開されたLLaMAは当初研究者のみがアクセス可能だったが、1週間にも満たないうちにウェイトが4chanにシード流出した。さらに1週間後、llama.cppによって最小の7BモデルがMacBook上でローカル推論可能となり、3日後にはスタンフォード大学が同一モデルを600ドル未満でファインチューニングし、チャットアシスタント「Alpaca」を構築した。今回の流出によりLlamaの運用コストは電気代レベルまで低下し、ファイルを取得した者は誰でも自宅で動作させられるようになった。2023年7月、Metaは商業ライセンスに月間7億アクティブユーザー除外条項を付けて正式にLlama 2をオープンソース化した。ウェイトが流出すればプレミアムも失われるのである。

最先端ラボは理論上、クローズドモデルの推論に対してアテステーション(リモート証明書)を提供できるが、アテステーションは「どのコードがプロンプトを読んだか」しか証明できず、そのコードが何をしたかまでは証明できない。サーバーがデータを保持していないかを確認するには、サービングコードを監査し、ハードウェアが報告するハッシュ値へと再構成する必要がある。しかしサービングコードを提出すれば、ラボは利益率を支えるバッチ処理やキャッシュのノウハウを譲ることになる。これらは将来の世代のモデルにも引き継がれる。AppleやMetaがiPhoneやWhatsApp背後のサービススタックに対してリモートアテステーションを提供できるのは、彼らの収益源がデバイス販売と広告にあり、サービングコードを公開することがほぼコストゼロだからである。

これこそが、フラッグシップモデルのウェイトやサービングコードが外部オペレーターの手元に届かない理由である。外部オペレーターがいなければ第三者によるアテステーションは不可能であり、アテステーションがなければ、検証可能なプライバシーが存在しうるのはオープンソースモデルに限られる。

構造レベルのプライバシー

本カテゴリのあらゆるメカニズムは、信頼の承诺をハードウェア、暗号学、あるいは物理的な証明に置き換えるものの、それぞれのプライバシー向上には異なる代償を伴う。第一義的な制約は、オープンソースモデルしか動作させられないことだ。

AI 的十字路口:为什么华尔街们正在向 ChatGPT 与 Claude 们说“不”?

  • TEE(信頼実行環境)を用いた機密計算は、推論をハードウェアのエンクレavage(チップ内でオペレーターすら開錠できない密閉空間)に封じ込めて実行する。チップはどのモデル、どのコードが実行されたか明記したアテステーションに署名する。
  • プロンプトは終端のみで封止される。プラットフォームプロキシ経由の経路上には依然として平文を読める主体が残っており、プロキシによる記録や転送内容の漏洩を防ぐのはプロトコルのみである。
  • E2EE(エンドツーエンド暗号化)は、読み取り可能な中継を遮断する。ユーザー端末はエンクレavageの鍵でプロンプトを暗号化し、中間のホップごとに配送されるのはエンクレavageのみが開封できる密封された手紙となる。
  • 信頼はクライアント側に置かれる。プロンプトの暗号化やアテステーションの検証を担当するコード自体が、その保証を取り消す能力を持つ。したがって検証可能なE2EEを実現するには、証明済みのエンクレavageに加え、開放的で再現性の高いクライアントコードが不可欠である。
  • TEEの単純さに対比し、E2EEの代償はエンジニアリング負荷であり、機能統合の遅れを招いている。E2EEはプロキシを盲目的な運送者に過ぎなくするため、平文解析に依存する機能はすべてクライアント側の鍵を中心に再構築するか、エンクレavage内部のみで実行する必要が生じる。
  • FHE(完全準同型暗号)およびMPC(マルチパーティ計算)変種は、そもそも信頼された第三者を排除する。サーバーは自分では決して開けられない施錠された箱の中で複合データを計算し、鍵はユーザーのみが持つ。MPCはプロンプトをシークレットシェアリングで複数主体に分割し、全参加者の共謀がない限り同等の効果を発揮する。
  • 代償は速度である。FHEは本来加算と乗算しかサポートしないため、Transformer動作に必要な非線形ステップは非常に高額なコストで再構築される必要がある。複合データ上での推論コストは平文の1万〜10万倍に及び、小規模モデルでもトークンあたり数秒から数分かかり、非暗号化時はミリ秒で済む。
  • 暗号演算向けにカスタマイズされたチップが格差を縮める可能性があるが、最初のプロトタイプは2026年初頭にデモを終えたばかりであり、商用化までには数年かかるだろう。
  • ローカル推論はこのパスそのものを削除する。モデルはユーザー自身のハードウェア上で動作し、中継もなく、サーバーもなく、プロバイダーもなく、検証の必要性もない。
  • 明白な代償はコストとモデル性能だ。Artificial Analysis指数においてgpt-oss-120bのスコアはGLM-5.2のおよそ半分ながら、モデルサイズは65GBにのぼり、市販の最高峰ゲームGPU2枚のVRAM合計を上回る。一方、フル精度のGLM-5.2を動作させるには8枚のGPUを積んだデータセンターノードが必須であり、GPUコストだけで30万ドル以上を要する。

しかしこれらの構造的制約とは別に、エンクレavage内に推論を配置するコストは圧縮されている。シングルGPU推論において、エンクレavageクラウドプロバイダーPhalaのパフォーマンスベンチマークでは、H100のエンクレavageモードにおけるスループット損失は平均7%未満であり、大規模モデルではほぼゼロに収束する。主なオーバーヘッドはチップ内での計算ではなく、チップへのデータ転送にあるためだ。マルチGPU推論においては、NVIDIAの次世代GPU Blackwellがチップ間トラフィックの直接暗号化をサポートしており、従来のH100では同等の効果を達成するには帯域幅の7分の1に抑えてCPUホスト経由で迂回せざるを得なかった。NVIDIA自身がBlackwellで行ったベンチマークでは、397Bパラメータモデルのエンクレavageモードにおけるスループット損失は8%未満であった。これらの進展により、プライベート推論そのもののパフォーマンスペナルティはもはや決定打となりつつある。

実際、エンクレavage自体がオペレーターに追加のランニングコストをほとんど負わせることはない。2023年以降のH100はすべてエンクレavageモードを搭載しており、追加コストは暗号化によるスループット損失であり、余計なチップ代ではない。現在Azure上の機密H100 SKuのレンタル料金は時間当たり8.90ドルで、エンクレavage解除時は6.98ドルであり、従来のクラウド施設に対して27%の上乗せとなる。一方、Phalaのようなエンクレavage専業プロバイダーでは、機密モードのH100が時間当たり3.80ドルからレンタルされており、Lambdaの標準SXMカード(3.99〜4.29ドル)よりも低廉である。ホスト型APIソリューションでは、NEAR AIがアテステーション付きエンドポイントを通じてgpt-oss-120bを提供する価格は、入力100万トークンあたり0.15ドル、出力0.55ドルであり、平文ルートのAmazon Bedrock、Together、Groqと同等水準である。マルチGPU並列を必要とするモデルにおいても、NEAR AIのGLM 5.2の価格設定はFireworksと全く同じであり、より大型のKimi K2.6では入力が15%安く、出力が4%安い。

これらの新興プライバシー推論プロバイダーがシェア獲得のため利潤を削っている可能性は否定できない(市場の成長志向企業には共通する事実である)が、構造的なトレンドは明確で、プライバシーのコストは消費者側とオペレーター側の双方において低下している。

オープンソースモデルはどう勝つのか?

パフォーマンスオーバーヘッドは圧縮されつつあるものの、最先端モデルとSOTAクラスのオープンソースモデルの間には目に見える格差が残っており、生産性最大化を求める主体が最前列にとどまりたいのであれば、最先端ラボが自社のIPを盗まないという信頼を依然として寄せる必要がある。

格差は存在するものの、ブレジウォーター傘下のAIA LabsとThinking Machinesは6月30日に一つの事例を示した。専門家注釈によるファインチューニングを施したオープンプッシュモデルが、精度とコストの両面で最先端モデルを打ち破ったのだ。

研究においてチームはTinker(Thinking Machinesのホスト型ファインチューニングAPIサービス)上でQwen3-235Bをファインチューニングした。まずベンダーから注釈データを調達し、そのデータで第1ラウンドの学習を行い、次に意見が割れたサンプルを社内投資担当者に再注釈させた。学習には強化学習(GRPO)を採用し、3つの修正を加えた。1つ目はround-robin batching(各タスクが輪番でバッチを作成)、2つ目はCISPO loss(単一の解答がモデルをどれだけ強く引っ張れるかの上限を規制)、3つ目はon-policy distillation(現在最適なチェックポイントをアンカーとし、モデルが劣ったコピーへと学習することを防止)。

課題はすべて投資担当者の日常業務フローから抜粋された。あるニュース記事がC-Suiteレベルのプロフェッショナルにとって重要かどうか、中央銀行の文書が将来の金利変動の方向性を示唆しているかどうか、文書やメール内の定型フレーズがどこから始まるかといったものだ。採点は独立テストセットに基づく。最先端モデルは単純なプロンプト下で平均スコア約50%、専門家のプロンプトを併用しても78.2%にとどまり、投資チームが設定した80%の閾値を下回った。一方ファインチューニング後のQwenは84.7%を獲得し、論文の記述によれば、これは最先端最適解と比較して誤りが29.8%少なく、推論コストが13.8分の1に相当する。

AI 的十字路口:为什么华尔街们正在向 ChatGPT 与 Claude 们说“不”?

https://thinkingmachines.ai/news/learning-to-replicate-expert-judgment-in-financial-tasks/

この事例はオープンソースモデルが精度とコストで勝利しうることを証明したが、トレーニングプロセス自体は依然としてプライベートではない。過程で使用された専門家注釈はブレジウォーターの私有データであり、Tinkerというサードパーティーサービスを経由し、ZDRプロトコルと同じ信頼階層に位置づけられている。さらにファンドは計算リソースをレンタルしており、訓練全体が自らコントロールしたことのないマシン上で行われた。このレシピを持ちながら信頼仮定を負いたくない購入者の選択肢は今日でも限られている。GPUクラスタをレンタルする場合、訓練プロセスはクラウドオペレーターから可視になってしまう。クラスタを買い取ることでデータホスティング問題は解決するが、コストが青天井に跳ね上がる。

アテステーション付きのルートはまさに幕を開けたばかりだ。3月、Workshop LabsとTinfoilはSiloを発表した。Tinfoilエンクレavage内で動作し、単一8GPUノード上に構築されたポストトレーニングスタックであり、鍵はクライアントのみが握る。記事によるとエンクレavageのオーバーヘッドは2時間の訓練で11分の追加に留まり、かつこのスタックはベースモデルのウェイトを凍結し小型アダプターのみを学習させることで、1兆パラメータモデル(Kimi K2 Thinking)を収容可能だという。ただし強化学習は各コンポーネント間でデータを行き来させる必要があり、データ転送がまさにエンクレavageにおけるコストボトルネックとなる点が難題である。

Silo公開から1か月に満たないうちにWorkshop LabsはThinking Machinesに買収され、エンクレavage内でブレジウォータータイプのRLループを回すために必要なコンポーネントはすべて同社麾下に集約された。

ハーネスレイヤーのプライバシー

さらに、あらゆるプライベート推論メカニズムの外側を横切る問題が存在する。これらのメカニズムが個別に管理するのはプロンプトからモデルへのパスだけだが、エージェントが起動する外部ツール呼び出しはすべて、推論層が一切干渉できない別の経路を開く。最近のハーネスエンジニアリングブームはこの問題を何倍にも増幅させており、モデル周囲に接続されるあらゆるツール、メモリーズ、データソースは、それぞれが自分のワークフロースライスを読み取るための平文宛て先となっている。カレンダーサーバーはスケジュールを読み取り、データベースサーバーはクエリを読み取る。完全にローカル動作するエージェントであっても、訓練外データを取得したい場合は検索語を平文で検索エンジンに渡す必要があり、サーバー側が平文を読めないなら回答不能となる。

主流の解決策は依然としてプロトコル層に依存している。RunlayerやMintMCPのような企業は中央ゲートウェイを用いてすべてのツールトラフィックを制御し、要求が外界へ出る前にPII(個人識別情報)をマスクする。ゲートウェイはまた、どのサーバーにトラフィックを流すかを決定し、審査を通過していないサーバーを遮断するとともに、呼び出し先の宛先と内容を記録して監査証跡を残す。これらの統制がSOC 2認証などの独立監査を受けている場合であっても、ツールサーバーは回答のために平文クエリを読まざるを得ず、複製を保持するかどうかは各々のレテインション規約に委ねられ、それがハーネス内のすべてのツール数で乗算される。さらにゲートウェイ自体も、経路上に追加された「検証」ではなく「信頼に依存する読み取り手」となる。

構造レベルのソリューションは中間層にまで突き進む。例えばPhalaはMCPサーバーを直接TEEにホスティングしており、カタログにはウォレット、コード実行、データソースが含まれる。ユーザーは運用業者を信用するのではなく、アテステーションに基づきプライバシー声明を検証できる。しかしTEEにホストされたツールは最終的にクエリを平文形でサービスプロバイダーに渡す必要があり、エンクレavageが封じているのは配達人であり、宛先ではない。

AI 的十字路口:为什么华尔街们正在向 ChatGPT 与 Claude 们说“不”?

「読まずに答えられる」ことをマスターしたのはごく一部の宛先に限られ、対象は構造化クエリのみにとどまる。AppleはiPhone向けにプライベートインフォメーションリトリーバルを提供し、発信番号の迷惑電話リスト照合時に番号を曝露しないようにしている。MicrosoftはEdgeブラウザにおいてパスワードに対して同種のソリューションを採用している。MongoDBのQueryable Encryptionでは、クライアントがフィールドを離脱する前に暗号化を実行し、サーバーは複合データのみで等価比較や範囲マッチングを完了できる。

ただしオープン検索に関しては、現時点で最高の答えは依然として「信頼」に停止しており、検証可能な暗号化検索はまだ研究室を脱していない。Braveは自社で構築した400億ページ規模のインデックス(Googleのものではない)上でゼロデータレテインションを約束するが、これもプロトコル層の範疇である。Exaはニューラルインデックスを構築し、ユーザーのキーワードを意味埋め込みに変換して意味一致に基づき結果をソートするが、この埋め込み計算ステップ自体が依然としてExaサーバー上で平文から開始される。MITの2023年論文「Tiptoe」は3億6000万ウェブページ上でクエリを曝露せずにソートを達成したものの、毎回の検索に膨大なサーバー演算力を消費し、ソート品質は非暗号化検索と差がある。Appleの2024年論文「Wally」は実際のクエリを一連のフェイククエリに紛れ込ませることで通信コストを最大31倍に圧縮したものの、この数理モデルが経済的になるには数百万の同時クエリ規模が必要であり、そんな規模を誇るプライベート検索システムは今日存在しない。

暗号化検索は技術的には実現可能であるが、性能とコストはいまだ商業利用が可能な段階に至っていない。

展望

プライベートAIへの需要は拡大している。Venice AIは最近登録ユーザー数が350万人を突破し、月間1.3兆トークンのスループットを記録した後、直ちに10億ドル評価額のシリーズA資金調達を完了した。直接競争相手であるProtonのチャットプロダクト「Lumo」はリリース後1年でユーザー数が1000万人を超えた。インフラストラクチャ面では、Phalaは現在OpenRouter上 alone で日間20〜30億トークンを処理している。Duck.aiはgpt-oss-120bとGemmaをTinfoilのエンクレavageへとルーティングし、ユーザーエージェント以外の検証可能なプライバシーを提供している。これをセルフホスティングを除いても、モデルを自前のハードウェアで動かすため一切の使用痕跡を残さない点を考えると、おそらくプライベート推論最大のチャネルだろう。

しかし主流AIの巨大な潮流に置けば、プライバシーAIはその極めて小さな一部にすぎず、このギャップが埋まるのは最先端ラボが意図的にこの需要を満たそうとしたときだけである。5月、Googleは全製品で3200兆トークンを処理した。この計算によれば、Veniceの月間スループットはGoogleのわずか18分に相当する。昨年11月、GoogleはPrivate AI Compute(PAC)をリリースし、Gemini駆動の一部機能を自社から隔離されたTPUエンクレavageで動作させ、設計をNCC Groupに独立監査させた。しかし問題は、PACがパーソナライズされたレコメンデーションや音声録音要約といった少数のPixel機能にしか適用されておらず、数億人が利用するGeminiアプリケーションには及んでいないことだ。Googleが設計を監査業者に委ねられるのは、これらの機能がデバイス販売と広告で収益化されており、トークン販売には依存していないからである。

現在のホスティングソリューションも完璧ではない。E2EEを通じて最高レベルのプライバシーを求めるユーザーは、新しい機能がプロバイダーから見えぬ場所で再構築されるのを待つ必要がある。プライベートハーネスはサービス層においても依然としてプロトコルに依存している。手頃な価格でのポストトレーニングにおいて、最良のファインチューニング結果を得るには依然としてサードパーティーサプライヤーを信用しなければならない。セルフホスティングは一瞬で全プロバイダーからの解放をもたらすが、ローカルで最強クラスのオープンソースモデルを動かすのに費やすコストは、それを設置する建物自体の価値を超えかねない。

欠点があろうとも、プライベートAIはすでに現実的かつ手頃な選択肢となり、残されたギャップも縮小しつつある。一般消費者にとって、LumoやVeniceではログレス約束の下でのオープンプッシュモデルのプライベートチャットが無料であり、VeniceやTinfoilの月額18〜20ドルのサブスクリプションは同一チャットをエンクレavageに封じ込め、ChatGPTのサブスクリプションと比較しても高くない。企業ワークフローにおいて、アテステーション付きエンドポイントは現在平文ルートよりも安価になりつつある。NEARのE2EE APIのようなエンドポイントはすでに複合データのコンテキストをエンクレavage内に持ち込み可能であり、メモリー、ファイルアップロード、カスタム指示子はいずれも今日時点でE2EE上で動作する。アテステーション付きポストトレーニングについては、NVIDIAがまもなくリリースするVera Rubin NVL72がブラックウェルの8GPUノードから72GPUラックへと機密計算のスケーリングを行い、IPを晒さずに最先端RLループをより実用的なものにするだろう。

しかし真の意味での価値獲得は、これらのコスト圧縮レイヤーの外側にある。プライバシーはすでに確立された領域では事実上無料だが、主流のエージェンティックワークフローにはまだ到達していない。エンクレavageの賃貸・レンタルに特化したプロバイダーが握っているのは標準チップ上の単なるスイッチであり、モートではなく、プロトコル層のゲートウェイは従来ミドルウェアと同様の競争環境に晒されている。防衛可能な陣地は、本レポートで未解決のままとなっている残り半分にある。エンクレavage内で完結するトレーニングループ、エンドツーエンドで封鎖されたツール呼び出し、単語を見せない検索インデックスだ。どれを先に具現化するかが勝敗を分け、それはどの価格競争でもコモディティ化しえないものを売るということだ。プライベートAIを追う資本は、スイッチではなく、そのギャップを購入すべきなのである。

それ故に、信頼を選ぶか検証を選ぶか? 実行とエージェントを重視するタスクについては信頼を選ぶべきだ。なぜなら、ツール呼び出しのたびに平文がエンクレavageでは封じ込められない宛先に渡されることから、そのような循環において最先端モデルはその価格に値するからである。一方、企業を競合他社から差別化するハイアレベルの思考には検証を選ぶ。戦略、計画、そして長年の専門経験から抽出された判断こそが、議論となっているあの「アルファ」である。今後の道筋は、自社工社の制御範囲内で、これらの独自洞察を用いてオープンソースモデルをファインチューニングすることだ。企業がアルファを持つ領域において、専門家調校のオープンプッシュモデルはすでに精度とコストの両面で最先端を凌駕しており、プライバシー環境下でそれを構築するためのインフラストラクチャが、ノード単位で着実に供給されつつある。