ボルツマンマシンとは
どうも、かわばっちゃんです。
今回はボルツマンマシンについて紹介します。
ボルツマシンとは
ディープラーニングで使われる手法です。
ディープラーニングでは入力層、隠れ層、出力層で構成されます。
隠れ層というのは入力層と出力層を除く中間の層です。
ディープラーニングでは人工ニューラルネットワーク(ANN)という複数の層によって構成され、その層の中にある複数のニューロン一つ一つがその他ニューロン全てと繋がるような形になります。
ボルツマンマシンでは入力層、隠れ層、出力層のニューロンそれぞれが0もしくは1の値を持ちます。
そして、ボルツマンマシンの目的は、全てニューロンのエネルギーを最小とすることであり、最小となる状態は安定状態とし、アトラクターと呼びます。
エネルギーを最小にするには焼きなまし法を用います。
なお、ニューロンと次層のニューロンの間につながっていない部分があるものを制限ボルツマンマシンと呼び、こちらではエネルギーを最小にする方法は勾配降下法となります。
勾配降下法についてはまた後日ご紹介します。