用語集
LMえるえむ
言語モデル。文章の中で次に来る単語を確率的に予測するしくみ。LLMのもとになる概念。
言語モデル。文章の中で次に来る単語を確率的に予測するしくみ。LLMのもとになる概念。
LM（Language Model、言語モデル）とは、文章の中で「次に来る単語」を確率的に予測するしくみのことです。生成AIの基礎となる考え方で、これを大規模化したものがLLM（大規模言語モデル）です。
たとえば「今日は良い」に続く単語として「天気」が来る確率が高い、といった具合に、言葉の並びやすさを確率で扱います。この予測を次々と繰り返すことで、自然な文章を生成できます。
言語モデルは、直前のいくつかの単語だけを見る古典的なn-gramモデルから、ニューラルネットワークを使って広い文脈をとらえるニューラル言語モデルへと発展し、さらに巨大化してLLMに至りました。試験では「LM＝次の単語を予測」「LMを大規模化＝LLM」という関係を対で押さえます。