カテゴリー: Algorithmic Information Theory: AIT

空間の記述をいかに簡略化（抽象化）し、本質を抽出するかにおいて、Mathematical Invariance（数学的普不変量性）は重要な概念です。 1. ヴォエヴォドスキーの不変量の順序 ヴォエヴォドスキーは講義で、空…
Read more

勾配降下法は、英語で Gradient Descent と呼びます。 機械学習や数学の文脈で非常によく使われる用語です。「水が低い方へ落ちる」という物理的なイメージは、この英語の語源（Descent = 下りる、下降）に…
Read more

MDL（最小記述長）は「知能による宇宙の最短記述」です。アルゴリズム的情報論を用いた、高論理深度な系の低コストなシミュレーション。情報を最小の記号数、文章長（冗長性）、演算長（論理深度）で表現するための理論的枠組みです。…
Read more