GRU ゲート付きRNN

1 min 80 views

5.回帰結合型ニューラルネットワークと再帰的ネットワーク – ゲート付きRNN

GRUとは

GRU(Gated Recurrent Unit)は、ゲート付きリカレントニューラルネットワーク(RNN)の一種です。
LSTMと同様に長期的な依存関係を学習するために設計されています。
LSTMよりもシンプルな構造を持ち、更新ゲートとリセットゲートの2つのゲートを使用します。

更新ゲートは、過去の情報と新しい情報のどちらを保持するかを決定し、
リセットゲートは、新しい情報をどれだけ受け入れるかを制御します。

GRUは、シーケンスモデリングや自然言語処理のタスクで広く使われ、LSTMと比較して計算コストが低く、学習が高速です。

https://ja.wikipedia.org/wiki/%E3%82%B2%E3%83%BC%E3%83%88%E4%BB%98%E3%81%8D%E5%9B%9E%E5%B8%B0%E5%9E%8B%E3%83%A6%E3%83%8B%E3%83%83%E3%83%88

こちらの動画がとても参考になります。

関連記事