用語集
RNNあーるえぬえぬ
順番のある系列データを扱うニューラルネットワーク。前の情報を次に引き継いで処理する(再帰型)。
順番のある系列データを扱うニューラルネットワーク。前の情報を次に引き継いで処理する(再帰型)。
RNN(Recurrent Neural Network、再帰型ニューラルネットワーク)とは、文章や音声のように順番が意味を持つシーケンスデータ(時系列データ)を扱うニューラルネットワークです。生成AI以前の言語処理で広く使われました。
特徴は、前の処理結果を次の処理に引き継ぐ(再帰する)しくみです。これにより、単語を順番に読みながら、前の文脈を踏まえて次を処理できます。
ただし、系列が長くなると前のほうの情報を忘れてしまうという弱点があり、これを改良したのがLSTMです。その後、系列を並列に処理でき遠い単語の関係もとらえられるTransformerが登場し、主役の座を譲りました。試験では、系列データを扱うモデル(RNN・LSTM)の一つとして「RNN=順番のあるデータを再帰的に処理」という特徴を押さえます。