Temperatuur (sampling)
Een parameter die bepaalt hoe willekeurig de uitvoer van een LLM is. Lage temperatuur (richting 0) maakt het model gefocust en voorspelbaar (het kiest vrijwel altijd het meest waarschijnlijke woord); hoge temperatuur maakt het creatiever en gevarieerder — maar ook gevoeliger voor ontsporing.
Werking: voordat het model het volgende token kiest, heeft het een kansverdeling over alle mogelijke tokens. Temperatuur schaalt die verdeling: een lage waarde ‘scherpt’ haar aan (de kansmassa concentreert zich op de beste kandidaten → bij 0 vrijwel deterministisch), een hoge waarde ‘vlakt’ haar af (meer tokens maken kans → meer variatie en onverwachte keuzes). Vuistregel: temperatuur rond 0 voor feiten, code en extractie (je wilt het juiste, stabiele antwoord); 0,7–1,0 voor creatief schrijven en ideeën genereren. Vaak gecombineerd met top-p/top-k, die bepalen welke tokens sowieso in aanmerking komen. Te hoge temperatuur levert onsamenhangende onzin op. Een van de meest fundamentele knoppen bij het gebruik van LLM’s. Verwant aan nucleus sampling en top-k.