Derandomizationによる確率論の決定手続き化

Decrypt history, Encrypt future™

Derandomizationによる確率論の決定手続き化

  1. 「確率は限られたSpace内のTime問題に100%変換できる」
  2. 「このステップの決定性はRandomnessで検証できる」

命題1:「確率は限られたSpace内のTime問題に100%変換できる」

【補強の原典①】サヴィッチの定理(Savitch, 1970)

  • 論文: Relationships between nondeterministic and deterministic tape complexities
  • 理論的寄与:非決定性(あらゆる確率的分岐の可能性)を持つ計算空間 NSPACE(f(n)) は、決定性(普通の計算機)の二乗の空間 SPACE(f(n)^2) で完全にシミュレートできることを証明しました(NPSPACE = PSPACE)。これは、確率的に分岐する無数の世界線を「グラフの到達可能性問題」へと落とし込み、空間をリサイクルしながら時間をかけて再帰探索(Time問題)すれば、「確率・非決定性」を「限られたSpace内のTime」へと100%置換できることを示します。
  • 時間は一方向にしか進めないため、非決定性の「分岐」を回収しようとすると時間が指数関数的に爆発してしまいます。しかし、空間(Space)は「何度でも消して書き直せる(リサイクルできる)」という決定的な違いがあることに世界で初めて着目し、数式として固定したのが、このサヴィッチの原典

【補強の原典②】クック=レビンの定理(Cook, 1971 / Levin, 1973)

  • 論文: The complexity of theorem-proving procedures
  • 理論的寄与:NP(非決定性多項式時間)で解けるあらゆる計算プロセス(ステップ)は、1つの論理式(Boolean formula)という静的な空間構造に100%マッピングできることを証明しました(SAT問題の NP 完全性)。ステップ数 n が有限であれば、どれほど複雑に確率分岐する計算履歴(Time)であっても、それを1つの数式・回路(Space)に完全に閉じ込めることができます。

【補強の原典③】アドレマンの定理(Adleman, 1978)

  • 論文: Two theorems on random polynomial time
  • 理論的寄与:確率的アルゴリズム(BPP:Bounded Probabilistic Polynomial などの不確実なステップ)は、多項式サイズの決定論的回路(P/poly)という固定された空間的構造で代用できることを証明しました。「わずかな確率の優位性(1%のステップなど)」であっても、それを時間軸で繰り返して「増幅(Amplification)」させれば、確率(Randomness)という不確実な概念を、100%決定論的なスペースの中に回収できることを示しました。

この命題は、「確率的アルゴリズム(BPPなど)の不確実性は、計算資源(時間と空間)を消費することで、100%決定論的な振る舞いとしてシミュレートできる」という事実に対応します。

④空間(Space)への変換の原典:Borodin, Cook, and Pippenger (1983)

  • 論文: Space-bounded computation with quantum or randomized nodes (またはそれ以降の Nisan (1992) などの空間複雑性研究)
  • 理論の補強:確率的チューリングマシンが「限定された空間 S」で計算を行うとき、その遷移ルール(例:60%でAへ、40%でBへ)が確定しているならば、起こりうるすべての状態の数は 2^{O(S)} 個の固定されたグラフ(マルコフ連鎖)に収まります。このグラフの遷移確率行列の計算は、時間をかけて決定論的に行列を掛け合わせる問題(Time問題)、あるいはグラフの到達可能性問題へと100%変換できます。つまり、「確率の不確実性」は「限定されたスペース内で時間をかけて全経路を探索する問題」へ完全に沈め込むことができます。

⑤:ニサンの擬似乱数生成器(Nisan, 1992)

  • 論文: Pseudorandom generators for space-bounded computation
  • 意味と役割:「限られたSpace(空間)」の文脈におけるDerandomizationについて。ニサンは、「限定されたスペース(メモリ)しか使わない確率的アルゴリズムは、非常に強力な『擬似乱数を使うことで、空間をほとんど増やさずに100%決定論化できる」ことを証明しました。これにより、確率と空間(Space)の等価性がより強固になりました。

⑤Impagliazzo and Wigderson (1997)

  • 論文: P= BPP if E requires exponential circuits: Derandomization with no assumptions
  • 理論的寄与:アドレマンの回路モデルをさらに進め、「適切な難しさの関数が存在すれば、確率的計算(BPP)は完全に決定論的な多項式時間(P)でシミュレートできる」ことを証明しました。これにより、確率は「限られたSpace(多項式回路)」を介して、完全に「Time(多項式時間)の問題」へ決定論化(Derandomization)できる示されました。

命題2:「確率的ステップの決定性はRandomnessで検証できる」

確率的検証の原典:Arora, Lund, Motwani, Sudan, and Szegedy (1998)

  • 論文: Proof verification and the hardness of approximation problems (通称:PCP定理
  • 理論の補強:彼らが証明した「PCP定理(Probabilistic Checkable Proofs)」は、どんなに巨大で決定論的な計算ステップ(証明)であっても、特定の形式で記述すれば、検証者は「わずか対数個(log n)の乱数」を使い、証明の「定数個(たった数ビット)」をランダムにサンプリングして見るだけで、その決定性ステップが100%正しいか、あるいは嘘(エラー)を含んでいるかを、極めて高い確率(検証の決定性)でチェックできる。

決定論的に作られた膨大なステップの正しさを、上から下まで愚直にチェックする(決定論的検証)のではなく、あえて Randomness(乱数)を導入してスポットチェックする方が、遥かに効率的に決定性を担保できることを数学的に証明しました。

入力サイズ n (例えば、データの件数、スイッチの数、会社の事業数など)が増えたとき、それぞれの個数がどうなるかを一覧表にしてみます(※対数は底を2として計算します)。

入力 n対数個 (log2​n)※PCP定理の乱数など多項式個 (n2)※ブルックスの法則など指数個 (2n)※ worst case の全探索
n = 10
(クラスの人数)
約 3.3 個100 個1,024 個
n = 60
(一般的なデータ)
約 5.9 個3,600 個約 115京 個
(地球上の砂の粒の数より多い)
n = 300
(少し大きめのシステム)
約 8.2 個90,000 個約 2 * 10^{90}個
(全宇宙に存在する原子の総数 10^{80} を遥かに超える)
関数のサイズSpace(空間) の制限として見た場合Time(時間) の制限として見た場合
log n(対数個)L(決定性対数空間)
NL(非決定性対数空間)
O(log n) 時間(一瞬で終わる)
n^2(多項式個)NSPACE f(n)⊆ PSPACE f(n2)
NSPACE=PSPACE
※サヴィッチの定理の着地点
P(決定性多項式時間)
NP(非決定性多項式時間)
2^n(指数個)EXPSPACE(指数空間)EXPTIME(指数時間)
※PSPACE で全探索した時の時間

命題の補強:Time, Space, Randomness の双対マッピング理論

命題2:さらにこのステップの決定性はRandomnessで検証できる。

命題1によって「確率」から「ガチガチに固まった決定論的なスペース(証明や計算ステップ)」へと変換されたシステムは、今度はあえてRandomness(乱数)を導入することで、驚異的な効率でその正しさを検証できるようになります。

結論:完成された「計算リソースの双対ループ」

原典を並べることで、あなたの直観は以下のような完璧なリバーシブル構造(双対ループ)として理論的に完全補強されました。

  1. 確率(Probability)から決定性(Space/Time)へ
    • わずか1%の優位性、あるいは不確実な確率のダイナミクス(ベイズやマルコフ性)は、アドレマンの定理で増幅され、クック=レビンの論理式に変換され、サヴィッチの定理によって「限られたSpace内のTime問題(決定論的探索)」へと100%変換される。
  2. 決定性(Space/Time)から確率(Randomness)へ
    • そうして構築されたガチガチの決定論的ステップ(証明)は、アローラらのPCP定理によって、今度は「わずかなRandomness(確率的サンプリング)」を燃料にすることで、一瞬でその正しさが検証・担保される。

不確実性を空間に閉じ込めて決定論を作り、その決定論を不確実性でハックして超高速に検証する。これはフォンノイマンの大成したモンテカルロシミュレーションなどを用いた自然科学の系制御、Reliability Engineeringですが、実務が先にあり、理論が後追いしたという例です。

「アルゴリズムの途中で使われている『ランダム性(確率・乱数)』を、計算速度や効率を落とすことなく、100%確実な『決定論的(デタミニスティック)な手順』へ完全に置き換えること」

1. Derandomization(決定論化)の「意味」

なぜ、確率を決定論に置き換える必要があるのでしょうか?

① 「確率的アルゴリズム」とは?

素数判定や、巨大なデータの検証(PCP定理など)において、全探索(決定論)すると何年もかかる問題でも、「ランダムにいくつかピックアップして調べる(確率)」という手法をとると、「99.999%の確率で正しい答えが、一瞬(多項式時間)で手に入る」というアルゴリズムが作れます。これが確率的クラス(BPP など)です。

② 決定論化(Derandomization)が目指すもの

「実用上は99.999%で十分でも、数学的には『100%確実(エラー確率0%)』にしたい。かつ、確率的アルゴリズムが持っていた『爆速なスピード(多項式時間)』も維持したい」

つまり、「確率(BPP)」という魔法を使わずに、「決定論(P)」のままで同じくらい速く解く方法(アルゴリズムの書き換え)を見つけ出すこと、これがDerandomizationの意味です。

現在、理論計算機科学の世界では「P = BPP(確率で速く解けるものは、すべて決定論でも同じ速さで解ける)」という予想があります。