Sigmoid Function|シグモイド関数
シグモイド関数(sigmoid function)は、現代ではニューラルネットワークや統計モデル、システム生物学などさまざまな分野で使われていますが、その歴史は19世紀のロジスティック関数にまで遡ります。
🔍 語源・意味の由来
“Sigmoid” はギリシャ語・ラテン語系の語源を持ち、もともとは**「S字型」**という意味です。
原語 | 説明 |
---|---|
ギリシャ語 "sigmoeides" | 「シグマ(Σ)のような形」=「S字型」 |
ラテン語 "sigmoides" → 英語 "sigmoid" | 「Sの字に似た」または「S字型の」 |
🧠 つまり、「sigmoid function」は:
**「S字型の関数」**という意味であり、
誰かの名前に由来するのではなく、形状(かたち)に由来しています。
🔄 類似する用語(名前ではないが形から来ている例)
用語 | 意味・由来 |
---|---|
シグモイド結腸(sigmoid colon) | 腸の「S字に曲がった部分」 |
タンジェント関数(tangent) | 接線(tangent line)に由来 |
サイン(sine) | 「弦(chord)」→「湾曲」→「sine」に転訛 |
🧭 シグモイド関数の歴史年表(概要)
年代 | 出来事・人物 | 内容 |
---|---|---|
1838年 | ピエール=フランソワ・フェルフルスト(Pierre-François Verhulst) | ロジスティック関数を初めて導入(人口成長モデル) |
1920〜40年代 | 生物学・心理学 | 神経の発火・反応性としてS字型応答曲線が注目される |
1943年 | マカロック & ピッツ(McCulloch & Pitts) | 初期の神経回路モデルにおいて階段関数を使うが、後に連続関数(例:シグモイド)へと進化 |
1970〜80年代 | ニューラルネットワーク(特に1986年) | バックプロパゲーションの再発見とともに、活性化関数として標準的に利用されるようになる |
1990年代以降 | 機械学習、深層学習、制御理論、生物物理 | シグモイド関数が非線形制御や分類モデル(ロジスティック回帰)でも重要な役割に |
2010年代以降 | ReLUやSwishなどの台頭 | シグモイドは勾配消失の問題から深層ではやや使われにくくなるが、依然として出力層や中間制御機構で重要 |
🔹 シグモイド関数の代表的な形
最も有名なもの:
\[\sigma(x) = \frac{1}{1 + e^{-x}}\]この形は**ロジスティック関数(logistic function)**と呼ばれ、Verhulstの人口増加モデル(1838)に由来します。
🧪 関連概念と展開
関連関数 | 内容 |
---|---|
ロジスティック関数 | Verhulstの人口成長方程式に登場(自然増加と飽和のバランス) |
ハイパボリックタンジェント(tanh) | シグモイドの変種、出力範囲は [−1,1][-1, 1] |
ReLU, GELU, Swish | シグモイドの限界(勾配消失)を克服するための代替活性化関数 |
ロジスティック回帰 | シグモイド関数を用いて確率をモデリングする2値分類モデル |
🌐 現代的応用分野
連続で微分可能でありながら、閾値構造を内包している
- ニューラルネットワークの活性化関数
- ロジスティック回帰モデル(機械学習)
- 生物学的な発火モデル
- 経済モデル(飽和的成長、需要関数)
- 制御理論や反応拡散系