人工知能 (AI)
第二十ニ回 再帰型ニューラルネットワーク
再帰型ニューラルネットワークは、下図に示す通り、出力を自分自身に返す層を含むネットワークです。
ひとつ前の時刻の出力値を入力として利用することになるため、順序に意味のある複数の値を利用する場合、効果を発揮します。 時系列分析、文章生成、自動翻訳など、幅広い分野で実績を上げています。
上図は、自動翻訳に使用した例を示しています。 日本語の単語4つを与え、英語の単語4つを得ています。 このように、自然言語を対象とする場合、単語の登場する順番に大きな意味があることから、過去のすべての出力を入力として利用している再帰型ネットワークが適しています。
再帰型ネットワークは、下図のように、時系列により全体を展開することで、理解が深まります。
一般的なニューラルネットワークと異なり、前の時刻の出力を次のステップの入力として利用します。 ここでは、4つの単語を順次与えた例を示していますが、このように図示することで、ネットワーク全体として、単語の順序を考慮した形で出力が得られていることがわかります。