用語集
GPTじーぴーてぃー
OpenAIが開発したTransformerベースの生成型言語モデル。文章生成に強く、ChatGPTの中核。
OpenAIが開発したTransformerベースの生成型言語モデル。文章生成に強く、ChatGPTの中核。
GPT(Generative Pre-trained Transformer)とは、OpenAIが開発したTransformerベースの言語モデルで、文章の生成に強いのが特徴です。ChatGPTの中核となっているモデルでもあります。
名前が示すとおり、①Generative(生成型)=文章を生み出す、②Pre-trained(事前学習済み)=大量のテキストであらかじめ学習、③Transformer=その基礎技術、という3要素からなります。基本的な仕組みは「次に来る単語を確率的に予測する」ことの繰り返しです。
よく対比されるBERTが「理解」に強い(Transformerのエンコーダ側)のに対し、GPTは「生成」に強い(デコーダ側)という違いがあります。GPT-3.5・GPT-4o・GPT-5などバージョンを重ねて進化しています。試験頻出の最重要語です。