Quantizzazione vettoriale
Tecnica di compressione per i database vettoriali. Tramite clustering trasforma vettori float a 1024 dimensioni (~4 KB) in codici da 8-32 byte, rendendo possibile la ricerca di embedding su scala di miliardi su una sola macchina. Algoritmo classico: Product Quantization (Jégou et al., 2011).
L'idea: dividere il vettore in 8-16 sottovettori, fare il clustering k-means di ciascuna sotto-dimensione separatamente (256 centroidi) e memorizzare per ognuno un indice da 0 a 255. Il calcolo della distanza diventa una consultazione di tabella, quindi veloce. L'Inverted File Index (IVF) aggiunge un clustering a monte per limitare i candidati. FAISS, ScaNN, Milvus e Qdrant ne implementano varianti diverse. Compromesso: compressione della memoria di 100 volte, con recall che scende dal 100% al 90-98% a seconda dei parametri. HNSW è il concorrente: più memoria, recall più alta.