Bi-encoder
Архитектура нейросети, которая кодирует запрос и документ независимо друг от друга в векторы, а затем сравнивает их скалярным произведением или косинусной близостью. Быстро (векторы документов считаются заранее), но менее точно, чем cross-encoder.
Основа современного векторного поиска и RAG: sentence-transformers, OpenAI text-embedding-3, BGE, Cohere Embed, Voyage. Обучается контрастивно (положительные и отрицательные пары). Размерность эмбеддинга обычно 384–1536. Практика: проиндексировать миллион документов один раз, а при запросе кодировать лишь сам запрос (5–10 мс) и искать по векторам. Отличие от cross-encoder: bi-encoder заточен под извлечение кандидатов, cross — под переранжирование. Типичная гибридная схема: bi-encoder для широкого отбора (топ-100), cross-encoder для точности (топ-10).