Token
Den minsta enhet en LLM hanterar — ungefär ett ord, en stavelse eller ett tecken.
"Hello world" är 2 tokens. "Tjänsteleverantör" är ofta 5–6 tokens (sammansatta ord delas upp). Modeller debiterar per token; ett pris som $3/M input tokens betyder 3 dollar per miljon tokens du skickar in.
Modellens context window mäts i tokens — t.ex. 200 000 tokens motsvarar ungefär 150 000 ord (typiskt en kortare bok). Allt över den gränsen får inte plats i ett anrop.