用語集
LSTMえるえすてぃーえむ
RNNを改良し、長い系列の中で重要な情報を長く記憶できるようにしたモデル。
RNNを改良し、長い系列の中で重要な情報を長く記憶できるようにしたモデル。
LSTM(Long Short-Term Memory、長・短期記憶)とは、RNNを改良して、長い系列データの中でも重要な情報を長く記憶できるようにしたモデルです。文章や音声のように順番が意味を持つシーケンスデータを扱うのに使われてきました。
通常のRNNには、系列が長くなると前のほうの情報を忘れてしまい、遠く離れた単語どうしの関係をとらえにくいという弱点がありました。LSTMは、情報を「覚える・忘れる・出力する」を制御するゲートというしくみを備え、この弱点を大きく改善しました。
試験では、生成AI以前の系列モデル(RNN・LSTM)の一つとして登場します。「RNNの弱点(長期の記憶が苦手)を克服したのがLSTM」という関係、そして後にTransformerがこれらに取って代わった流れを押さえます。