RAG (Retrieval-Augmented Generation)
La tecnica che recupera documenti pertinenti da una base di conoscenza e li inserisce nel contesto di un LLM prima che risponda, così la risposta poggia su fonti reali e non solo sui dati di addestramento del modello. Il modo standard per dare a un LLM conoscenze aggiornate, private o verificabili.
Il funzionamento: la domanda dell'utente viene trasformata in un embedding, una ricerca vettoriale estrae da un database i frammenti di testo (chunk) più rilevanti, che vengono incollati nel prompt come contesto. Il modello risponde sulla base del materiale recuperato e può citare le fonti. Vantaggi: meno allucinazioni, dati recenti o privati senza riaddestramento, tracciabilità. Problema: la qualità dipende interamente dal recupero («garbage in, garbage out»), dalla strategia di chunking e dalla capacità di classificare in alto il materiale giusto. Miglioramenti: reranking, ricerca ibrida, query expansion, chunking semantico. Coniato in un articolo di Meta/FAIR nel 2020, è diventato l'architettura dominante per le applicazioni LLM con dati propri. Imparentato con chunking e ricerca ibrida.