用語集
LLMえるえるえむ
大量のテキストを学習した大規模言語モデル。ChatGPTなど生成AIの中核となる。
大量のテキストを学習した大規模言語モデル。ChatGPTなど生成AIの中核となる。
LLM(Large Language Model、大規模言語モデル)とは、大量のテキストを学習して言葉の使い方を身につけた、規模の大きい言語モデルのことです。ChatGPTをはじめとする現在のテキスト生成AIの中核となっています。
もとになるLM(言語モデル)は「次に来る単語を確率的に予測する」しくみで、n-gramモデルからニューラル言語モデルへと発展してきました。これをTransformer技術で巨大化し、膨大なデータとパラメータで学習させたものがLLMです。規模を大きくすることで、翻訳・要約・生成など幅広い言語タスクを高い精度でこなせるようになりました。
試験では「LM(言語モデル)を大規模化したものがLLM」という関係、そして中核技術がNLP・Transformerである点が問われます。