Token-Kosten
Die Abrechnungseinheit für LLMs: 1 Token ≈ 0,75 englische Wörter ≈ 4 Bytes. Deutsch kostet mehr (Token-pro-Wort-Verhältnis ~1,5 gegenüber 0,75 im Englischen), weil das BPE-Vokabular englisch-lastig ist.
Der Tokenizer macht den Unterschied: GPT-4 (cl100k), Claude und Llama zerlegen Text unterschiedlich. "Hello world" sind bei GPT-4 zwei Tokens, "Hallo Welt" schon vier. Code kostet grob 5–10 Tokens pro Zeile Python. Nicht-lateinische Schriften (Japanisch, Arabisch) waren vor cl100k_base drastisch teurer – das alte GPT-3-Davinci konnte auf japanischem Text bis zu fünfmal so viel kosten. Der Preis für ein 200K-Kontextfenster ist nicht der Preis für 200K Tokens – abgerechnet wird nur, was tatsächlich gesendet wird. Caching (Anthropic, Google) macht wiederholt gelesene Prefixe 5- bis 10-mal günstiger.