Token maliyeti
LLM fiyatlandırma birimi: 1 token ≈ 0,75 İngilizce sözcük ≈ 4 bayt. BPE sözlüğü İngilizce ağırlıklı olduğundan Türkçe ve İsveççe gibi diller daha pahalıya gelir.
Tokenizer önemlidir: GPT-4 cl100k, Claude ve Llama farklı böler. GPT-4'te "Hello world" 2 token eder. Kod: bir Python satırı yaklaşık 5–10 token. Latin olmayan yazılar (Japonca, Arapça) cl100k_base'den önce çok daha pahalıydı; eski GPT-3 davinci, Japonca metinde 5 kata kadar çıkabiliyordu. Bağlam penceresi fiyatı: 200K bağlamlı bir çağrı 200K token fiyatı değildir, yalnızca gönderdiğiniz kadarını ödersiniz. Önbellekleme (Anthropic, Google): önbelleğe alınmış önekler yeniden okunurken 5–10 kat ucuzdur.