勾配降下法とは

どうも、かわばっちゃんです。

今回は、ディープラーニングで利用される「勾配降下法」を紹介します。

勾配降下法とは

勾配、すなわち傾きを降下していき、最も傾きが小さくなる位置を探す手法です。

人工ニューラルネットワーク（ANN）ではカテゴリの出力の方法をボルツマンマシンで決め、エネルギーが最小になる点を探します。

勾配降下法はこのエネルギーを最小にする地点を探すという手法ですね。

要は最適な重みやバイアスを決めるために使う手法です。