RAG (Retrieval-Augmented Generation)
Technika polegająca na pobraniu odpowiednich dokumentów z bazy wiedzy i wstawieniu ich do kontekstu LLM-a przed odpowiedzią — tak by odpowiedź opierała się na realnych źródłach, a nie tylko na danych treningowych. Standardowy sposób, by dać LLM-owi aktualną, prywatną lub weryfikowalną wiedzę.
Mechanika: pytanie użytkownika jest zamieniane na embedding, wyszukiwanie wektorowe wyciąga z bazy najtrafniejsze fragmenty tekstu (chunki), które trafiają do promptu jako kontekst. Model odpowiada na podstawie pobranego materiału i może podawać źródła. Zyski: mniej halucynacji, świeże i prywatne fakty bez ponownego trenowania, możliwość prześledzenia odpowiedzi. Problem: jakość zależy w całości od wyszukiwania („garbage in, garbage out”), strategii chunkowania i wysokiego rankingu właściwego materiału. Ulepszenia: reranking, wyszukiwanie hybrydowe, rozszerzanie zapytań, chunkowanie semantyczne. Termin pochodzi z artykułu Meta/FAIR z 2020 roku i stał się dominującą architekturą aplikacji LLM z własnymi danymi.