Cross-encoder
Architektura sieci neuronowej do oceny podobieństwa tekstów, która koduje zapytanie i dokument razem → dokładniejsza niż bi-encoder. Koszt: O(N) na zapytanie (trzeba zakodować zapytanie × każdy dokument kandydujący), więc stosuje się ją tylko do ponownego uszeregowania najlepszych N wyników z bi-encodera.
Współczesne stosy RAG: bi-encoder (szybkie wyszukiwanie wektorowe) → 100 najlepszych kandydatów → reranker cross-encoder → 10 najlepszych do LLM-a. Modele rerankujące: ms-marco-MiniLM-L-6-v2, BAAI/bge-reranker-v2-m3, Cohere Rerank. Różnica wobec modelu embeddingów (bi-encodera): cross-encoder klasyfikuje trafność, a model embeddingów generuje wektor. Opóźnienie: 100 dokumentów × 5 ms = 500 ms — akceptowalne w zamian za jakość. Cohere i Voyage AI oferują zarządzane API rerankerów. Open source: sentence-transformers i biblioteka rerankers.