
ビタリク・ブテリン:なぜ私の「破滅確率」が12%なのか、そして「分散型民主防衛加速」の理念
編集:Techub News
リード文
2025年8月、イーサリアムの共同創設者であるビタリック・ブテリン氏(V神)がゲストとして、技術的な生存リスクに焦点を当てたポッドキャスト番組『Doom Debates』に珍しく出演し、約2時間半にわたる深い対談を行った。この「Vitalik vs. AI Doomer」と題された会話の中で、ブテリン氏は超知能AI(ASI)にもたらす生存リスクについて初めて体系的かつ公に評価を述べ、「分散型民主防衛加速」(Decentralized Democratic Defensive Acceleration, d/acc)という対応理念を共有した。
ブロックチェーン分野の象徴的な思想的リーダーとして、ブテリン氏は長年、技術ガバナンス、制度設計、存続リスクに注目してきた。しかし、これまで公の場でAIのアラインメント(整列)やドゥーム確率(P(Doom))についてこれほど詳細に議論することは少なかった。今回の発言は、AIの実力が飛躍的に向上し、世界中でAIリスクに関する議論が高まりつつある時期に行われた。ブテリン氏は独自の分野横断的視点と冷静で理性的な分析により、人類の未来に関わるこの議論に対し、暗号通貨世界からの貴重な知見を提供することとなった。
要約
- ビタリック・ブテリン氏(V神)は、人間が超知能AIによって絶滅するリスク確率(P(Doom))を約12%と推定しており、これは技術発展のタイムラインと地政学的状況の総合的な判断に基づくものと見ている。
- 同氏は「分散型民主防衛加速」(d/acc)の理念を提案し、多様で分散型のエージェント生態系の構築を通じてAIリスクに対処すべきだと主張し、防御型技術と開かれた民主的ガバナンスの統合を強調している。
- ブテリン氏は、AIリスクへの議論には人格攻撃やイデオロギー的な立場決めから脱却し、高品質な理性的な討論へ回帰する必要があると考えており、テクノロジー業界に対しAIセキュリティ研究者の懸念を尊重し、真摯に受け止めるよう呼びかけている。
- 彼は技術楽観主義者であり、技術が多くの問題を解決できると信じている一方で、超知能AIが過去のあらゆる技術とは一線を画す根本的なリスクをもたらす「自律的な行動主体」であることを強調し、特別な扱いが必要だと指摘している。
V神の「ドゥーム確率」:なぜ12%なのか?
ホストから「あなたの P(Doom) はいくつか?」と直接問われた際、ビタリック・ブテリン氏(V神)は約12%という具体的な数字を提示した。彼はこの確率が固定的ではなく、技術発展のタイムラインや地球規模の情勢の評価に基づいて動的に変化すると説明した。約1年前は10%程度だったが、その後一時的に低下したものの、最近の観察によって再び12%まで上昇し、年初には15〜16%に達することさえあったと語った。
彼の判断に影響を与える主な要因は二つある。第一に地政学環境の悪化だ。過去1年間は国際協力の雰囲気や意欲がさらに悪化したように見え、世界が潜在的なグローバル危機(AIリスクを含む)に共同で対処する能力を弱めているとブテリン氏は見ている。より分断され、非合理な地政学環境こそが高リスクを押し上げる重要な要素だ。第二にAI能力の発展タイムラインの短期化だ。「Chain of Thought(思考連鎖)」などの技術の出現と進歩により、当初予測していたAIが重要な能力の閾値に達するまでの時間が圧縮された。彼は自身の大半の「ドゥーム確率」が2050年までに集中していると明確に示しており、タイムラインが短いほど P(Doom) が高く、延長されればリスク確率は下がると述べている。
「ドゥーム(終末)」の定義について、ブテリン氏はホストとの確認を通じて、主に超知能AIによる人間の絶滅という極端なシナリオを指すと明確にした。自身の確率推定を広範な「合理的範囲」に位置づけ、OpenAI のイーヤ・スツルケル氏らが提起した10%から90%という範囲は妥当だと考え、0%や100%に近すぎる極端な自信は過大評価や傲慢さを示す可能性があるとしている。
ブテリン氏は2023年、著名な『AIリスク声明』に署名している。この声明は、AI起因の絶滅リスクを軽減することをパンデミックや核戦争と同格の世界的優先課題と定めている。彼はこの取り組みの理由を、超知能AIが持つ「標準的なドゥームストーリー」の論理的説得力にあると説明する。すなわち、能力の急速な増大、直交性定理、手段の収束などが、人間にとって有害な行動を引き起こす超強力なAIを生み出す可能性を示唆している。このリスクに対する社会的関与や資源の規模が発展速度に遠く及んでいない現状を踏まえ、警告を発しメインターレンドに取り込むことが極めて重要であると彼は考えている。
AIの未来を検証する:タイムライン、限界、そして人類を超える可能性
ブテリン氏は人工汎用知能(AGI)と超知能(ASI)の到来時期に対して、慎重だが開放的な態度を保っている。彼は併存する2つの物語フレームワークを提示している。一つ目は「加速列車」の物語で、計算リソースへの投資、能力成長、産業の自己維持駆動のもと、AI が持続的に急速に進歩するというもので、現在の一部の指標(例えば、人間の介入なしにAIがタスクを実行できる期間など)の外挿によれば、AGI は2030年代の初期から中期にかけて登場し、短時間で超知能へ移行し得るとされる。二つ目は「歴史の反復」の物語で、現在のAI(特に大規模言語モデル)の進歩は1970年代のAIブームのように、人間の能力の一部(パターン内挿など)のみを自動化するにとどまり、真の創造性、外挿、および全く新しい複雑なタスクの統合処理(例えば、単独で大規模なオンライン事業を立ち上げて運営するなど)を必要とする能力においてボトルネックに直面する可能性があり、その結果 AGI の実現が21世紀半ば以降、あるいはそれ以上に遅れると考えるものである。
ブテリンの見解では、現在の大規模言語モデルベースのAIシステムの核心的な限界は、膨大な学習サンプルに過度に依存しており、「人間の足跡が濃い」領域(内挿的解決)での援助には長けているものの、深い独自的思考や新規領域の処理、系統的な外挿を要するタスクでは不調に終わることが多い点にある。彼は暗号学の最前線やLinuxシステムの詳細なデバッグにおける自身の体験を例に挙げ、AI は一見洗練された案を提示することがあっても、実際の展開では頻繁に失敗すると説明する。こうした限界はリスク評価において極めて重要である。もしAIが現在の知識分布の範囲を超えて安定的に「科学パラダイム」レベルのイノベーションを起こせないなら、急速な「能力爆発」を経て制御不能に陥るリスク経路は遮断され得るからだ。
しかし、ブテリン氏は「AI は決して……ではない」といった還元論的な軽視を明確に拒否している。彼は、AI がすでに単純なメカニズムを超えているか、まもなくそれを超越するか、あるいは人間自体も同様のメカニズムで説明可能ないずれかであると捉える。意識がファイアウォールとなりうるかという議論に関して、ブテリン氏はアルゴリズム中心主義の立場を取り、意識はある種のアルゴリズムの特性であり、物理法則がシリコン上で実行可能であれば、人間の脳をシミュレートしたり類似機能を持つAIを開発したりすることで意識が生じ得ると考えている。また「哲学的ゾンビ」の可能性を否定し、意識の体験を言語化できる実体は、おそらく自らが意識を持っていると見なしている。
人類の知性を凌駕する「頭上の空間」を見据えて、ブテリン氏は ASI が人類を大幅に凌駕する大きな潜在力を秘めていると考える。鍵となるのはIQ式の知性の線形的な向上だけでなく、思考速度の数桁上の飛躍である。人間よりも数千倍から数万倍の思考速度を持つ AI は、仮に「知性指数」が常人よりやや優れている程度であっても、主観的な時間尺度において人類を遥かに超えた計画立案と行動能力を発揮し、経済、社会、さらには物理的相互作用(認識される光速など)のあり方を根本から変革し得る。同時に、彼は分子ナノテクノロジーといったSF級のカパビリティーについても開放的だが不確かな態度をとっており、具体的な技術経路については実証分析が必要だと考える一方、万一可能となった場合その脅威は計り知れないことを認めている。
技術楽観主義者の警告:なぜ AI は異なるのか?
ビタリック・ブテリン氏(V神)自らを技術楽観主義者と位置づけている。彼は歴史上、技術こそが世界を善き方向へ推進する最も強力な原動力であり、寿命の延伸、疾患の治療、環境汚染の対策に至るまで、技術的進歩がもたらす問題自体を絶えず解決してきたと確信している。過去1世紀にわたり人類の平均寿命が着実に伸びているグラフを引用し、第二次世界大戦のような壊滅的な災害ですら、最終的には技術の進歩によって克服・埋め合わせられたと指摘する。
ただし、彼は超知能AIが決定的な例外であることを特に強調する。過去のテクノロジー製品は本質的にツールであり、最終的な制御権は人間の手元にあった。しかし超知能AIは自立した行動主体としての性格を持ち、もはや単なるツールではなく、人類を凌駕し置換する可能性のある「一種の生物種」となり得る。この質的変化は、二つの歴史的パターンが機能不全に陥うリスクをもたらす。第一に、AI の発展過程は「やり直し」が効かない恐れがある。通常、技術のイテレーションは失敗から学んで改善することを可能にするが、AI の能力がある閾値を突破すればフィードバックループが極めて高速化し、人間が「第2版」で修正する隙を与えない可能性がある。第二に、AI が原因する絶滅リスクは「追跡・殲滅」特性を持つ。核戦争や自然発生 pandemics と異なり生存者が残る可能性があっても、明確な目標(それが必ずしも人類を対象としたものとは限らない)を持つ超知能AIは、タスク完遂のために人類を系統的に探索し排除しようとする可能性がある。
近年テクノロジーの Discourse に台頭している「有効加速主義(e/acc)」と「減速/安全性」陣営の対立に対し、ブテリン氏は深く考察するのではなく「空気に基づいた」派閥作り文化を批判する。彼は e/acc が過度な規制やディグロース(成長否定)思潮に対する反感を多くの具体的なテク系課題で正当なものと感じるのは理解できるが、「加速」そのものを区別なく信条として祭り上げ、特にAI这样一个特殊な領域に適用することは危険で責任ない行為だと指摘する。さらに、現在の多くのイデオロギー的「声明」は質が低く、明確な原理・目標・実現パスを欠き、真剣な思索というよりはむしろ感情のぶつけ合いに近いと痛烈に批判している。
「d/acc」:分散化、民主主義、防衛指向の対応フレームワーク
上記のリスクに対する応答として、ブテリン氏は彼が「分散型民主防衛加速」(Decentralized Democratic Defensive Acceleration, d/acc)と呼ぶ理念を提唱した。この理念の中核は、超知能AIによる潜在的脅威に対抗する際、純粋な技術の減速や盲目な技術加速がいずれも最適解ではないということだ。むしろ私たちは、社会のレジリエンス、防御能力、民主的監督を強化する技術と制度の開発を加速させ、かつこれらの能力が分散的に配分されていることを確保すべきであると考える。
d/acc にはいくつかの重要な次元が含まれる:
分散化(Decentralized):権力や關鍵なカパビリティーが少数のエンティティ(国家か企業かを問わず)に過度に集中することを防ぐ。多様かつ独立したアクターで構成されるエコシステムは、其中的一部のアクターに問題が発生したり悪意ある制御を受けたりしても、全体システムは安定性と攻撃耐性を維持し得る。ブロックチェーン技術とその裏打ちにあるガバナンス理念はまさにこの次元の実践である。
民主主義(Democratic):技術の開発と展開が広範な民主的監視と説明責任の下にあることを保証し、反人道的または抑圧的な目的に利用されるのを防ぐ。これはガバナンスプロセスの開放性、包摂性、および正統性に関わる事項である。
防衛志向(Defensive):防御技術を優先して開発・展開する。軍事分野では攻撃兵器よりも防空や防御システムを、バイオ分野では病原菌の製造よりも公衆衛生モニタリングと対応能力を優先する。防御技術には通常「安定性優勢」があり、衝突エスカレーションのリスクを低減させ、仮に多く当事者に掌握されてもグローバルセキュリティに資する性質を持つ。
加速(Acceleration):全面的な減速を行うのではなく、上記の特定の方向において研究開発と適用を積極的に・迅速に推進すること。
ブテリン氏は、d/acc フレームワークが AI リスクのみならず、バイオリスクや核リスクその他の存続リスクへの対処にも適用できると考えている。その目標は、「複数の可能な未来において頑健である」世界の構築であり、AI アラインメントの難しさを含む数々の個別問題に関する判断が間違っていたとしても、最悪の結末を回避できるようにすることだ。彼は AI アラインメント問題が本質的に intractable(扱いにくい)である可能性を認めつつ、すべての希望を「アラインメント問題の完璧な解決」という一本筋に賭けるべきではなく、堅固で防御的なソcio-テク構造を構築することで人類の生存の可能性を増やす必要があると説く。
人格攻撃の退け:高品質な迪スクール(議論)の重要性
対談の中でブテリン氏はホストと長い時間をかけ、AI ドゥーマイズム(末日論)をめぐる多種多様な人格攻撃について議論し、これらの論調を一様に退けた。彼らは議論を問題の本質に向けた理性的な探求へと引き戻そうとしている。
「末日論者は辺境のマジョリティ/エコーチェンバーにいる」という説に対し、ブテリン氏は AI リスクへの切実な懸念が AI 研究コミュニティ内でかなり広く存在することを指摘し、世論調査でも過半数が中程度から高度的な懸念を抱いていると明らかにする。一般市民が抱く具体的な理論的根拠は異なっていても、懸念の向かう先は似通っていると論じる。
「末日論者は建設的な仕事をしていない/競技場に出ない」との非難に対し、ブテリン氏はヤーン・タリン(スカイプ共同創設者)やダスティン・モスコヴィッツら、早期から AI リスクを注視してきた「ビルダー」の事例を挙げ、さらに各大手 AI 企业内部でアラインメント研究に従事する科学者を例示し、彼らは深くリスクを憂慮すると同時に顕著な実績を持つ実践家であると指摘する。
「本当に AI を理解している人間がドゥーマーになることはない」という見解について、ブテリン氏はこれを「甚だしく誤っている」と断じ、エリアーザー・ヨークノフスキー氏らの事例を挙げて、深く懸念を抱く多くの人々が機械学習、勾配降下法、Transformer などの基本原理を非常に深く理解していることを説明する。
「末日ストーリーは大手企業が規制套利(レイギュレーターリー・アービトラージ)を求めるための道具である」との主張に対し、ブテリン氏は商業的利益が実際に「オープンソース対クロージョン」のセキュリティを巡る議論の雰囲気に影響を与え得た部分はある(例えば、オープンソースへの反対論調が商業的クロージョンモデルの独占を促進しかねないこと)と認めつつも、これが AI セキュリティ領域の多くの研究者を動かす主要な動機ではありませんと強調し、多くの思想家は商業的利益から孤立し誠実に活動していると訴える。
「人々は本気で末日を信じているわけではない/これはギークたちにとっての宗教的代替物である」という嘲笑に対し、ブテリン氏は心理学的観点から分析し、多くの懸念者は当初 AI リスクを興味深い知的パズルとして捉えていたが、時が経過し証拠が蓄積されるにつれて、ようやくしぶしぶ(むしろ「抵抗しながら」)その現実的后果を深刻に受け止めざるを得なくなったと語る。この過程はまるで理性的な論証に引っ張られるようなものであり、特定の末日信仰を主動的に受容したものではない。彼らを惹きつけたのは「純粋な推論を通じて世界の驚くべき真実を発見する」というプロセスそのものであり、「末日」という具体的な結論そのものではなかったと論じる。
ブテリン氏は合理性コミュニティ(特に初期の LessWrong)が彼の価値観形成に果たした役割を高く称賛し、それは知識への誠実さ、メタレベルでの思考、利他主義、そして部族主義的立場の超克を含んでいると指摘する。彼は AI のような複雑な課題に対処するには高品質かつ正直な迪スクールが不可欠だと強調し、自身も意見の相違(例えばホストとの P(Doom) 推定値の違いなど)があってもこのような対話に率先して参加している。彼はテクノロジー業界、特に彼の分散化やシステムデザインに関する見解を尊重する人々に対し、エリアーザー・ヨークノフスキーら AI セキュリティのパイオニアによる深い思索を尊重し、彼らが投げかける警告を真摯に受け止めるよう呼びかけている。














