MCMC：限定資源の推論で希少回路を発見する
MCMC（Markov Chain Monte Carlo／マルコフ鎖モンテカルロ）とは、確率的なランダムウォークで状態空間を歩き、目的の分布や極小点へサンプルを集める手法である。本記事での焦点は、事前学習の物量（Training FLOPs）ではなく、推論時の有限回の試行で、高次元の思考空間から希少な正解パスを取り出すことである。
問いは次である。「限定資源しかないとき、確率的検証を何回か回すだけで、正解の思考回路を対話型証明的に見つけられるか。」答えの骨格は、エラーが空間へ拡散し、制約を満たすパスだけがアトラクターへ束ねられる、という幾何である。
スケール主義の限界
AI開発の主軸は長らく、事前学習における計算資源・データ・パラメータの巨額投下に置かれてきた。スケール派はギガワット級データセンターや数十万台のGPUを積み、非効率を物量で突破しようとする。
しかし Villalobos et al.（2022）が指摘するように、高品質な人間由来テキストは \(10^{25}\)〜\(10^{26}\) FLOPs 付近で底をつくデータ壁（Data Wall）に直面する。発電・送電の熱損失や半導体の限界により、Training FLOPs だけに頼る経路は、コストの壁にも突き当たる。
これとは別軸がある。circuit complexity と proof complexity が問うてきたのは、限定資源しか持たないノードが、対話型証明やゼロ知識証明によって、時間耐久性のある確からしい解を得る方法があるかどうか、である。そこから導かれるのが、推論時（Inference-Time）の確率的検証で、希少な正解パスを探索する接近である。
本記事の用語
| 構成要素 | 意味 | 実装の例 |
|---|---|---|
| 限定資源による有限推論 | 試行回数・ステップ数に上限を置く | Test-Time Compute の上限 |
| 確率的検証回数 | 温度 \(T>0\) で複数回サンプルし、多数決で読む | Self-Consistency |
| 希少物理回路 | 低エントロピーな正解の思考パス（アトラクター） | 論理・数学・コードの正解経路 |
| 対話型証明的発見 | 遷移ごとに検証機が検品する | Verifier / PRM |
| MCMC | ランダムウォークでエネルギー極小を探す | CoT 生成 + MCTS 等 |
PRM（Process-Supervised Reward Model）とは、最終答えだけでなく、思考の各ステップを評価する検証モデルである。Verifier とは、遷移の妥当性を Yes/No で返す決定論的な検品器である。
状態空間とマルコフ連鎖
思考プロセス（Chain of Thought: CoT）は、文字列の羅列ではなく、有向グラフ \(G=(V,E,W)\) 上の状態遷移として読める。
各ステップをノード \(v_i\in V\)、遷移をエッジ \(e_{ij}=(v_i,v_j)\) とする。直前の状態だけに依存するマルコフ性を置くと、温度 \(T>0\) での遷移確率はボルツマン型になる。
\[P(v_j\mid v_i)=\frac{\exp(-E(v_i,v_j)/T)}{Z(v_i)}\]\(E(v_i,v_j)\) は遷移の論理的矛盾度（エネルギー）、\(Z(v_i)\) は分配関数である。矛盾が大きいほど、その先へは進みにくい。
- 始点 \(v_0\)：問題定義
- ノイズ側のパス：エラーノードへ拡散し、消える
- 制約側のパス：アトラクター（正解の谷）へ束ねられ、\(v_T\) へ至る
エントロピー拡散と束収束
有限回（例：100回）のサンプリングで、ばらついた出力から一貫した正解が読める理由は、ノイズの拡散と制約の漏斗の相克である。
エラーパスは制約を満たさない。試行粒子は空間の広い自由度へランダムウォークし、密度は希薄になる。ノイズとして散る。
正解パスは公理・物理法則・構文規則などの制約を満たす必要がある。満たせる部分空間は狭い漏斗になる。Wang et al.（2022）の Self-Consistency（自己一貫性／多数決）は、その狭い谷に落ちたサンプルの密度を測る手続として読める。独立なウォークでも、最終的に同じアトラクターへ束ねられる。
特定の系で「素数的」なクリティカルパスは、ただのランダムより確からしい情報勾配の谷を作る。
バイアス：偽の谷と切断
有限回の MCMC で正解を拾えるかは、ポテンシャル場のバイアスに依存する。
- 正常な場：正解の谷が深い。試行の多くが真の谷へ落ちる。
- バイアスのある場：偽の深い谷があり、正解の谷が浅い。試行が誤滑落する。
偽のアトラクター（ローカルミニマム）は、データの偏りや不正確な既成概念が、本来高いエネルギーの場所に人工の谷を穿った状態である。多数回試行しても、「全員で合意しながら確信を持って間違える」が起きる。
位相的切断は、始点から終点への遷移確率が途絶えている、あるいは障壁が高すぎる状態である。モデルに基礎概念が無いとき、試行回数を増やしても越えられない。
Verifier による制御
Training FLOPs の力押しを避けつつ、限定資源でバイアスを削るには、対話型証明の枠組みで MCMC を制御する。
- ノード \(v_i\) から \(v_j\) へ遷移を試す
- Verifier が妥当性を判定する
- Valid：エネルギーを下げ、アトラクターを深める
- Invalid：エネルギーを無限大にし、進路に絶壁を立てる
Cobbe et al.（2021）や Lightman et al.（2023）の PRM が示すように、ステップごとにコンパイラ、証明検証器、オラクルAIなどを接続できる。矛盾が出たエッジは即遮断する。
OpenAI（2024）の o1 や Snell et al.（2024）は、推論時に思考時間（Test-Time Compute）を与えると、事前学習規模を超える推論が引き出せることを示した。Tree of Thoughts（Yao et al., 2023）や MCTS で、限られたサンプルを成功確率の高いノードへ集中させる。
さらに、検証を通った正しいパスを合成データとして書き戻すと、偽の谷が削られ、正解の谷だけが深くなる（Polu & Sutskever, 2020 と同型の接近）。
結論
限定資源の有限推論と確率的検証で希少回路を対話型証明的に発見する MCMC は、インフラ物量主義への対抗軸である。
事前学習の力押しは、データ壁とエネルギー散逸で投資対効果の限界にぶつかる。基礎モデルが小さくても、Verifier が作る制約の絶壁と推論時サンプリングを組み合わせれば、正解パスを幾何学的に取り出しうる。
AGI/ASI への経路は、電力の絶対量だけでは決まらない。検証機が制御する論理場で、いかに効率よく MCMC を回し、正解アトラクターへ束を流すか——状態空間の制御が、知能創出の本質に近い。
ただし制御は探索空間の設計であって、停止条件そのものではない。誰が目的関数、Hard clause、許容誤差、探索上限、タイムアウトを固定し、有限時間で打ち切るか、という決定の問題は残る。
参考文献
- Villalobos, P. et al. (2022). Will we run out of data? arXiv:2211.04325
- Wang, X. et al. (2022). Self-consistency improves chain of thought reasoning. arXiv:2203.11171
- Hopfield, J. J. (1982). Neural networks and physical systems with emergent collective computational abilities. PNAS
- Cobbe, K. et al. (2021). Training verifiers to solve math word problems. arXiv:2110.14168
- Lightman, H. et al. (2023). Let’s verify step by step. arXiv:2305.20050
- Snell, C. et al. (2024). Scaling LLM Test-Time Compute Optimally… arXiv:2408.03314
- Yao, S. et al. (2023). Tree of thoughts. NeurIPS 2023
- Polu, S., & Sutskever, I. (2020). Generative language modeling for automated theorem proving. arXiv:2009.03393
- OpenAI (2024). Learning to reason with LLMs
『P vs NP経営』の詳細はこちら
https://link.amazon/B04IEdYsn