GPT(Generative Pre-trained Transformer)
OpenAIのLLMファミリー。GPT-1(2018年)→GPT-2(2019年)→GPT-3(2020年)→GPT-4(2023年)→GPT-4o(2024年)→o1/o3(推論モデル、2024〜2025年)と続く。
「次のトークンの予測」で学習したデコーダ専用のトランスフォーマー。GPT-3(1750億パラメータ)は、少数の例から学ぶインコンテキスト学習が創発的に現れることを示した。GPT-4はマルチモーダル(テキスト+画像)、GPT-4oはネイティブにマルチモーダル(テキスト+画像+音声)である。o1/o3は、回答の前に内部の思考の連鎖を生成する推論モデルだ。
2022年11月のChatGPTでGPTは一般に広まり、2か月で1億ユーザーに達した史上最速のプロダクトとなった。利用はopenai.com、Azure OpenAI、APIから。競合はClaude、Gemini、Llama、DeepSeek-R1。