リランカー
RAGパイプラインの第2段。ベクトルDBが約50件の候補を取ってきたあと、クロスエンコーダーがより詳しい関連度で並べ替え、上位5件をLLMに渡す。
ベクトル検索は「バイエンコーダー」方式で、クエリと文書を別々に符号化するため速い。リランカーは「クロスエンコーダー」方式で、クエリと文書を一緒に符号化するため精度は高いが約100倍遅い。この二段構成が速度と精度の折り合いをつける。代表的な製品は、Cohere Rerank(マネージド)、BGE Reranker(BAAI、オープンウェイト)、Jina Reranker、voyage-rerank、sentence-transformersのクロスエンコーダー。ハイブリッド検索と並び、現代のRAGで品質を最も押し上げる要素だ。