Chunking (RAG)
Documenten in kleinere stukken ("chunks") knippen voordat ze voor RAG worden geëmbed en geïndexeerd. De chunkgrootte is een van de meest bepalende en lastigste ontwerpkeuzes: te grote stukken verwateren de relevantie, te kleine verliezen context.
De afweging: een grote chunk geeft meer context maar een vagere embedding (veel onderwerpen in één vector geven slechtere matches); een kleine chunk matcht scherp maar mist mogelijk de omringende context die nodig is om te antwoorden. Gangbare strategieën: vaste grootte met overlap (simpel), op structuur (alinea, kop, Markdown-sectie) of semantische chunking (splitsen waar het onderwerp verschuift). Overlap voorkomt dat een zin op een grens verloren gaat. Geavanceerder: sentence-window en parent-document retrieval halen een kleine chunk op maar geven het model een groter venster eromheen. Slechte chunking is de meest voorkomende oorzaak van povere RAG-kwaliteit.