LSTM ゲート付きRNN

1 min 58 views

5.回帰結合型ニューラルネットワークと再帰的ネットワーク – ゲート付きRNN

LSTMとは

LSTM(Long Short-Term Memory)は、ゲート付きリカレントニューラルネットワーク(RNN)の一種です。
時系列データや文章などの長期的な依存関係を学習するために設計されています。
ゲートメカニズムを使用して、情報の流れを制御します。

忘却ゲート、入力ゲート、出力ゲートの3つのゲートを持ち、
各ゲートは学習可能なウェイトで制御されます。
忘却ゲートは、過去の情報をどれだけ保持するかを決定し、入力ゲートは新しい情報をどれだけ取り込むかを決定します。
出力ゲートは、現在のセルの状態を出力します。
LSTMは、長期的な依存関係をモデル化するのに適しており、機械翻訳、音声認識などのタスクで広く使用されています。

https://en.wikipedia.org/wiki/Long_short-term_memory

こちらの動画が非常に参考になります。

関連記事