知性の決定手続きとマイルストーン閉包|LLMの無限回帰を停止させるGoal Closureと探索空間の再生成

Decrypt history, Encrypt future™

知性の決定手続きとマイルストーン閉包|LLMの無限回帰を停止させるGoal Closureと探索空間の再生成

命題:知性の定義は、最適解の探索ではなく、探索を終了させる能力にある

大規模言語モデル(LLM)の演算能力が向上し、推論に投入できる計算資源が増大すると、人間の知的活動の多くが計算によって代替されるように見える。しかし、演算能力の増大と、根本的な意思決定能力の獲得は同義ではない。

なぜなら、最適化とは、すでに与えられた目的関数の下で解を探索する操作であり、その目的関数をなぜ採用するのか、どの状態を達成と認めるのか、いつ探索を終了するのかという問いには、それ自体では答えられないからである。

ある目的関数の妥当性を証明するために、さらに上位の評価関数を導入し、その評価関数の正当性を証明するために別の基準を要求すれば、正当化は無限に後退する。

この問題はLLM固有のものではない。数学の公理系、哲学における基礎づけ、経済学の選好形成、企業経営における目標設定にも共通する。

しかし、現実の人間は必ずしもこの無限後退に陥らない。人間は、特定の目標を達成したと認識した瞬間に、それまで比較していた選択肢への関心を失い、探索空間そのものを閉じることがある。

この現象を本稿では「マイルストーン閉包(Milestone Closure)」と呼ぶ。

本稿の命題は次のとおりである。

知性とは、与えられた目的関数の最適解を探索する能力だけではなく、系外から目標を設定し、十分な達成を認定し、旧探索空間を閉鎖し、新たな探索空間を生成する能力である。

この命題は確立された普遍的定理ではなく、意思決定システムを設計するための操作的仮説である。

1. 時計の購入に見る探索空間の消滅

卑近な例として、高級時計の購入を考える。

ある人物が理想のタイムピースを探しているとき、複数の候補が比較対象となる。造形、ムーブメント、歴史、希少性、価格、所有体験などを評価し、暫定的に1位、2位、3位という順位をつける。

この段階では、各候補は同一の評価関数によって比較されている。

\[U_G(x_1)>U_G(x_2)>U_G(x_3)\]

ここで \(G\) は「理想のタイムピースを取得する」という目標であり、\(U_G\) はその目標に対する主観的効用関数である。

通常の最適化モデルでは、1位の時計を購入した後も、2位と3位の時計は依然として価値の高い選択肢として残る。

しかし、現実には必ずしもそうならない。

本人が頂点と認識するタイムピースを取得した瞬間、それまで強い関心を持っていた2位、3位の時計が、ほとんど購入対象ではなくなることがある。

これは単なる順位の変化ではない。

1位の時計を取得した結果、2位の時計の効用が少し低下したという説明では不十分である。むしろ、それらを比較していた目標そのものが達成され、評価関数の適用が終了したと考える方が自然である。

\[G_t \xrightarrow{\text{Milestone Achieved}} \text{Closed}\]

旧Goalが閉じられると、そのGoalに従属していた候補順位は意思決定上の効力を失う。

2位、3位の時計の品質が低下したわけではない。対象の市場価値が消滅したわけでもない。しかし、その人物にとって、旧探索空間における相対的順位が購買動機を生み出さなくなる。

さらに、新しい探索が始まる場合にも、旧探索で2位だった商品をそのまま購入するとは限らない。

次の関心は、別の時計ではなく、美術品、建築、旅行、事業投資、あるいはまったく異なる経験へ向かう可能性がある。

したがって、マイルストーン達成後の状態は、同じ目的関数における探索の継続ではなく、目的関数の終了と再生成として理解できる。

2. OptimizationとGoal Closureは異なる演算である

一般的な最適化問題は、次のように記述される。

\[x^*=\arg\min_{x\in\mathcal X}E_G(x)\]

ここで \(\mathcal X\) は候補集合、\(E_G\) は目標 \(G\) に対応するコスト関数である。

この定式化は、何を最小化するかがすでに決まっていることを前提とする。

しかし、現実の意思決定には、少なくとも三つの独立した問題が存在する。

第一に、どの目標を採用するかというGoal Selectionである。

第二に、与えられた目標の下でどの候補を選択するかというOptimizationである。

第三に、どの状態を達成と認め、目標を終了するかというGoal Closureである。

従来の最適化モデルは第二の問題を中心に扱う。しかし、第一と第三が定義されなければ、現実の意思決定サイクルは閉じない。

特に重要なのは、最適解への到達と目標の終了が一致するとは限らないことである。

数学的な最適解を証明できなくても、人間は十分な結果を得たと判断して探索を停止できる。一方、理論上の最適解を取得しても、本人が達成を認識しなければ探索を継続する場合がある。

したがって、最適性と達成認識は区別する必要がある。

\[\text{Optimality}\neq\text{Goal Completion}\]

3. Satisficingは探索を停止するための境界条件である

この問題を考えるうえで重要なのが、Herbert A. Simonの提唱したSatisficing(満足化)の概念である。

完全な最適解を探索するのではなく、一定の要求水準を満たした時点で選択を確定する。

例えば、コスト関数 \(E_G(x)\) に対して、許容閾値 \(\tau_G\) を設定する。

\[E_G(x)\leq\tau_G\]

この条件を満たす候補が見つかれば、探索を停止することができる。

ただし、SatisficingとMilestone Closureも同一ではない。

Satisficingは、特定の探索をいつ停止するかを定義する。一方、Milestone Closureは、探索を停止するだけでなく、その探索を成立させていたGoal自体を終了させる。

例えば、予算内で十分に満足できる時計を購入しても、さらに上位の時計を探し続けることはあり得る。この場合、個別の購買意思決定は停止しているが、上位のGoalは閉じていない。

逆に、本人が理想の頂点に到達したと認識すれば、追加的な比較の限界効用が大きく低下し、時計の探索そのものが終了する場合がある。

したがって、決定手続きには少なくとも二種類の停止条件が必要となる。

\[\begin{aligned}
&\text{Decision Stop}: \text{今回の選択を確定する}\\
&\text{Goal Closure}: \text{探索目的そのものを終了する}
\end{aligned}\]

この区別によって、単なる選択と、探索空間の消滅を異なる演算として扱うことができる。

4. LLMの演算能力を高めても解消しない問題

LLMは、入力された文脈と学習済みのパラメータに基づき、トークン列を生成する計算システムである。

学習時にはパラメータの最適化が行われ、推論時には文脈に応じた確率的な生成や追加的な探索が実行される。

この仕組みを、文字どおり物理的なエネルギーポテンシャルの谷を探索する過程と同一視することはできない。しかし、高確率の既存パターンへ回答が収束する傾向を、局所的なポテンシャル谷への捕捉として抽象化することは可能である。

計算資源を増大させれば、より多くの候補、長い推論、多段階の証明探索を実行できる。

しかし、計算資源の増大によって、外部からの価値判断や未観測の事実が自動的に与えられるわけではない。

例えば、ある目標 \(G_0\) を採用する理由を問うとする。

その理由を上位の基準 \(G_1\) に求め、さらに \(G_1\) の正当性を \(G_2\) に求めれば、次の系列が生じる。

\[G_0\leftarrow G_1\leftarrow G_2\leftarrow\cdots\]

あらゆる上位基準について無制限に正当化を要求すれば、無限後退となる。

ただし、これはLLMが必ず無限後退するという意味ではない。公理と目的を固定すれば、有限の決定手続きを実行することは可能である。

また、有限の公理系から新しい数学的定理を発見することも可能であり、外部入力が増えなければ知的成果が一切生まれないというわけでもない。

問題は、演算能力の不足ではなく、系内の演算によって、系外から与えるべき究極の目的や価値基準まで一意に正当化しようとすることにある。

この区別を失うと、計算能力を増やしても、目標設定の根拠を問い続けるだけの構造が生じ得る。

5. ポテンシャル障壁、デッドロック、無限回帰の違い

探索が進まない状態には、異なる原因が存在する。

ポテンシャル障壁とは、現在の局所解から別の解へ移動する際に、一時的なコスト増大が必要になる状態である。

デッドロックとは、複数の処理が互いの成立を待ち、進行できなくなる状態である。

無限回帰とは、ある判断の正当化に上位の判断を要求し、その上位判断にも同じ正当化を要求し続ける構造である。

これらは類似しているが、解決方法は異なる。

ポテンシャル障壁に対しては、探索経路の変更、非局所ジャンプ、外部資源の投入が有効な場合がある。

デッドロックに対しては、依存関係の切断、優先順位の設定、資源の解放などが必要になる。

無限回帰に対しては、正当化の終点となる公理やGoalを採用するか、正当化の要求範囲を明示的に限定する必要がある。

そして、実務上の意思決定では、これらに加えてマイルストーンによるGoal Closureが重要となる。

すなわち、問題を永久に解き続けるのではなく、一定の成果を現実世界で実現し、旧Goalを閉じることである。

6. マイルストーンは単なる中間目標ではない

一般的なプロジェクト管理において、マイルストーンは進捗確認のための中間地点として扱われる。

しかし、知的な決定手続きにおけるマイルストーンは、より強い意味を持つ。

それは、旧探索空間の有効性を終了させる境界条件である。

時計を購入する前には、時計の候補集合が重要な意味を持つ。しかし、頂点と認識する時計を取得した後には、その候補集合を継続的に評価する必要がなくなる場合がある。

企業経営でも同様の現象が起こる。

例えば、ある企業が特定市場への参入を目指している段階では、代理店契約、現地法人設立、M&A、ライセンス契約などが競合する選択肢となる。

ところが、M&Aによって必要な販売網、生産設備、人材、ブランドを取得し、参入目標が達成されれば、それまで比較していた他の参入方法の多くは検討対象から外れる。

重要なのは、旧候補が必ずしも劣った選択肢になったわけではないことである。

目標の達成によって、比較を成立させていた問題設定そのものが終了したのである。

このとき企業が次に探索するのは、残っていた2位の参入方法ではなく、取得した事業をどのように統合し、収益性を高め、新たな市場へ拡張するかという別の問題となる。

このような遷移は、同一目的関数上の連続的な最適化では十分に表現できない。

7. Goal Closureを含む決定手続きの定式化

以上を踏まえると、意思決定システムは次の六つの演算に分解できる。

  1. 第一に、Goal Selection。 系外から与えられる目標、あるいは現実世界との相互作用によって形成される目標を採用する。
  2. 第二に、Axiom and Model Selection。 目標を評価するための公理、仮説、状態空間、制約条件を選択する。
  3. 第三に、Search and Inference。 候補の生成、推論、比較、最適化を実行する。
  4. 第四に、Commitment。 選択した候補に対して、購入、投資、契約、実装などの現実的な行動を実行する。
  5. 第五に、Milestone Verification and Goal Closure。 観測結果に基づいて達成を判定し、旧Goalを終了させる。
  6. 第六に、Goal Regeneration。 更新された現実の状態から、新しい目標と探索空間を形成する。

全体は次のように表現できる。

\[\boxed{ G_t \rightarrow A_t \rightarrow \text{Search} \rightarrow \text{Commit} \rightarrow \text{Verify} \rightarrow \text{Close} \rightarrow G_{t+1} }\]

ここで重要なのは、\(G_{t+1}\) が必ずしも \(G_t\) の延長ではないことである。

時計の探索が終了した後、次の目標が別の時計の購入になるとは限らない。企業が市場参入を達成した後、次の目標が別の参入方法の実行になるわけでもない。

新しいGoalは、達成後に変化した状態と、系外から与えられる新しい価値判断によって生成される。

また、旧探索空間を閉じることは、すべての学習結果を消去することではない。

時計の購入経験によって獲得した審美眼、価格感覚、知識は保存される。M&Aによって獲得した市場知識や組織能力も保存される。

したがって、Goal Closureとは、記憶の消去ではなく、旧目的関数と旧候補順位の失効、および獲得した状態の次期探索への継承である。

8. 知性の評価単位は推論量からGoal Cycleへ移行する

LLMの能力は、パラメータ数、推論トークン数、ベンチマーク正答率、計算量などによって評価されることが多い。

これらは重要な指標である。しかし、実世界での意思決定能力を評価するには、それだけでは不十分である。

大量の推論を実行しても、意思決定が確定せず、現実への作用が発生せず、目標の達成が検証されないなら、実務上の成果は限定される。

逆に、比較的少ない計算量でも、適切なGoalを設定し、十分な解を発見し、行動を実行し、マイルストーンを達成して探索を閉じることができれば、一つの意思決定サイクルは完結する。

この観点から、知性の実務的な評価単位を、単なる推論ステップではなく、完結したGoal Cycleとして捉えることができる。

\[\text{Selection}+\text{Inference}+\text{Action}+\text{Verification}+\text{Closure}\]

もちろん、完結したサイクルの数だけで知性の優劣が決まるわけではない。目標の難易度、成果の価値、外部への影響、誤った達成認識のリスクも評価する必要がある。

しかし、少なくとも推論量の増加と意思決定成果の増加を区別することはできる。

また、マイルストーンを早く閉じること自体を目的化すれば、未達成の目標を達成済みと誤認する危険が生じる。

したがって、Goal Closureには、主観的な達成認識だけでなく、必要に応じて外部観測や検証可能な達成条件を組み込む必要がある。

9. 結論:知性とは探索を続ける能力だけでなく、探索を終わらせる能力である

計算能力の向上は、探索の深さと幅を拡張する。

しかし、演算能力の増加だけでは、何を究極の目的とするか、どの成果を十分と認めるか、いつ旧目標を終了するかという問題を自動的には解決できない。

現実の人間の意思決定には、ある目標を達成した瞬間に、それまで重要だった候補の順位が意味を失い、新しい探索が始まるという非連続性が存在する。

頂点と認識するタイムピースを購入した後、かつての2位や3位にほとんど興味を持たなくなる現象は、その一例である。

この現象は、単なる効用最大化でも、局所最適解からの脱出でもない。

旧Goalの終了によって、探索空間の評価構造そのものが失効する現象である。

したがって、実世界に接続した知的システムを構築するうえでは、探索アルゴリズムの高度化に加えて、Goal Selection、Satisficing、Commitment、Milestone Verification、Goal Closure、Goal Regenerationを独立した演算として設計する必要がある。

最終的な命題は次のように整理できる。

知性とは、無限に推論を継続する能力ではない。系外からGoalを受け取り、有限の資源で十分な解を探索し、現実世界へ作用し、マイルストーンの達成によって旧探索空間を閉じ、新しいGoalを生成する能力である。

この意味で、知性の本質的な構成要素は、演算能力だけでなく、探索を終わらせるための境界条件を持つことである。

無限回帰を停止させるものは、必ずしも究極の正解ではない。

十分な成果を現実世界に実現し、そのGoalを終了したと認定する決定手続きである。