埋め込みドリフト
異なるモデル(あるいはモデルのバージョン)が作る埋め込みは互いに比較できないため、埋め込みモデルを切り替えたら、ベクトルデータベース全体を作り直す必要が出る問題。本番のRAGで悪名高い保守負担。
ベクトル検索は、クエリと文書が同じ埋め込み空間にあって初めて成り立つ。モデルが違えば(同じモデルの新版でも)、テキストはまったく別の座標に置かれる。モデルBで埋め込んだクエリを、モデルAで埋め込んだ文書と意味のある形で比べることはできない。
そのため、より良い埋め込みモデルに乗り換えるなら、すべてを再埋め込みして再インデックスしなければならず、大規模なコーパスでは高くつき、時間もかかる。この言葉は、データの内容や分布が時間とともにずれ、古い埋め込みが現状を表さなくなる現象を指すこともある。対策としては、マトリョーシカ埋め込みやバージョン管理、再インデックスを織り込んだ運用計画がある。運用中のRAGなら必ず直面する現実だ。