埋め込みモデル
テキスト(単語・文・文書)を意味を捉えた数値ベクトルに変換するモデル。意味の近いテキストはベクトル空間で近くに並ぶ。セマンティック検索、RAG、レコメンドの土台である。
仕組み:テキストを生成する生成系LLMと違い、埋め込みモデルはテキストごとに固定長のベクトル(多くは384〜3072次元)を出力する。距離やコサイン類似度が意味の近さに対応するよう作られているため、「犬」と「子犬」は近く、「犬」と「量子物理学」は遠くなる。用途はベクトル検索(クエリに近い文書を探す)、クラスタリング、分類、重複排除、レコメンドなど。例は OpenAI の text-embedding-3、Cohere Embed、オープンソースの BGE、E5、Sentence-Transformers(SBERT)。バイエンコーダーはクエリと文書を別々に埋め込む(高速で事前索引できる)。リランカー/クロスエンコーダーは組を一度に比べるため、より正確だが遅い。ベクトルを使うAIすべての基礎部品であり、マトリョーシカ埋め込みや埋め込みドリフトとも関係が深い。