TechFlow Logo
ログイン/ 登録
ETHガス
Gwei
恐怖
gas
大規模モデルの記憶デッドロック:AIは人類の全知識を記憶できるのに、なぜ「昨日」だけは永遠に覚えられないのか?

大規模モデルの記憶デッドロック:AIは人類の全知識を記憶できるのに、なぜ「昨日」だけは永遠に覚えられないのか?

2026.11.08
共有先
この瞬間、センサーが示すのは単なる「観測値」にすぎず、次の意思決定が依存するのは「システム状態」である。即時入力が過去の全履歴を網羅できない場合、エージェントは圧縮過程において取捨選択を学ばなければならない。

著者:Hugo、Robonaissance

翻訳:TechFlow

TechFlow解説:初期のアタリゲーム用エージェントから数百万トークンのコンテキストウィンドウを有する大規模言語モデルに至るまで、人工知能が時間を跨いで連続的意思決定を下す際には、常に根本的な物理的反悖が存在します。モデルは人類の蓄積した膨大な静的知識を容易に内包できても、動的な対話環境においては、過去の全詳細を一切損失することなく完全に保持することは不可能なのです。

限られた計算リソースとコンテキストウィンドウという厳格な制約において、過去を圧縮しながらも未来を決定する核心的な状態を正確に抽出する方法は、「知覚的同型」を解決するための技術的突破口であるだけでなく、現在の自律エージェントが真の意味での永続的記憶へ向かって進化する際の基盤論理でもあります。

静止画像における状態のパラドックス

本記事は「機械における記憶、忘却、そして自己」シリーズ第3弾です。エージェントが過去の全てを携行できない場合、知能は果たしてどのように時間を跨いで行動を展開するのかを探ります。

古典的なPongゲームのどのフレームでも構いませんので、画面を静止させてみてください。

画面に映し出されているのはラケット2本、ボール1個、そして現在のスコアのみです。この瞬間にボールがどちらへ飛んでいるかを問われても、人間には絶対に分かりませんし、機械に同じ静止画像を見せたとしても同様に判断することは不可能です。

Matthew Hausknecht氏とPeter Stone氏は、2015年に発表されたアタリゲームの学習エージェントに関する論文で明確に指摘しています。「現在の単一フレームの画面は、ラケットとボールの位置しか明らかにできず、ボールの速度までは教えてくれない」と。

続けて彼らはその重要性について説明しました。「ボールの移動方向を知ることは、ラケットの最適な配置を決定するための決定的要素だからです」

この静止画像は精度が高く、画面のあらゆる細部が本来あるべき場所に配置されています。しかし、この単一フレームの情報だけでは、ゲームを成立させるには到底不十分です。

センサーがこの瞬間に捉えているのは、単なる一つの「観測値(Observation)」に過ぎません。

一方、エージェントが次の行動を支える真の全体像は、「システム状態(State)」です。

Pongゲームにおいて、観測値とシステム状態は各フレームごとに完全に分断されています。ボールの移動方向とは過去の数瞬きに関する事実であり、孤立した任意の瞬間がそれを単独で内包できるわけではないからです。

目の前の即時入力が意思決定に充分でない場合、性能の良いシステムは過去の情報から現在に向けて何らかの情報を担わなければなりません。

ただし、それが担えるのは決して完全な過去ではありません。担えるのは要約に過ぎず、その要約で何が選ばれ何を捨てるかは、次段階で何を予測する必要かに完全に依存します。

この取捨選択は、以降の時刻でどのような情報基盤を手にするかを決定づけます。要約で見落とされた細部については、以降のどの時刻においても、それに基づいて反応を打ち出すことは永久に不可能となります。

4フレーム深度における記憶の妥協点

Hausknecht氏とStone氏が当時対応しようとしたシステムは、DeepMindのVolodymyr Mnihらによって2015年にNature誌で発表されたDQNエージェントそのものです。

DQNは画面表示のみから学習して数十種類のアタリゲームをクリアできますが、論文執筆陣は開発初期の段階で既に静止画像の問題に直面していました。

彼らは論文の方法セクションで次のように記述しています。「エージェントが観測できるのは現在の画面のみであるため、このタスクは部分的に観測可能な状態にあり、多数のシミュレータの状態が知覚的同型(Perceptually Aliased)を引き起こしている」

言い換えれば、現在の画面情報のみに依存していては、エージェントが置かれた完全な状況を伝えることは到底できません。

「知覚的同型」という用語は、私たちが日常的に経験する戸惑いを正確に学術化したものです。全く異なる二つの状況(例えば、ボールがラケットに向かって飛来しているのか、あるいはラケットから遠ざかっているのか)は、静止画像上では全く同一の映像を生成します。

画像のみを処理するシステムは、これらを同一の状況として強制されます。もしこれらの状況に対して完全に逆の操作が必要な場合、システムは必ずどちらかの状況で失敗します。

彼らの補完方法は極めて直接的でした。ネットワークは単一の画面入力ではなく、直近の複数フレームを重ね合わせて入力とするようになったのです。

デフォルト設定では4フレームを使用しますが、このアルゴリズムは3フレームや5フレームの場合にも適合可能です。

4フレーム分を横に並べると、ボールの運動は直接的に位置の変化として可視化されます。運動方向はもはや抽象的な記憶概念として保持するものではなく、目で見て直接的に確認できる視覚的プロパティへと変容します。

論文においてこの積み上げられたフレーム群は「記憶」と呼ばれていません。本質的には、単一時刻よりもわずかに広幅な入力チャネルに過ぎないのです。

知覚的同型と物理的な硬性の境界

このような入力幅には極めて剛直な物理的境界が存在し、Hausknecht氏とStone氏はこの境界線がどこにあるかを正確に見抜いています。

彼らはこう記しています。「DQNはエージェントが直近で経験した4つの状態で構成される入力で訓練されるため、『仮に何らかのゲームがプレイヤーに過去4画面分以上の遠い過去のイベントを記憶することを要求する場合、DQNはそのゲームを習得することはできない』」

DQNにとって、最後から5番目の画面以降の歴史は、そもそも入力範囲に含まれていません。

固定スライディングウィンドウに基づくこのメカニズムは、時系列処理における機械知能の中核的な矛盾を直接的に露呈させています。ウィンドウをどれだけ拡大しようと、その境界以遠の情報は物理的に消去されてしまうのです。