Açık kaynak LLM
Ağırlıklarını indirip kendi başınıza çalıştırabildiğiniz dil modeli. Neredeyse her zaman yanıltıcı bir terim; doğrusu açık ağırlık, çünkü eğitim verisi ve eğitim kodu nadiren paylaşılır.
Önemli aileler: Llama (Meta), Mistral ve Mixtral, Qwen (Alibaba), DeepSeek, Gemma (Google), Phi (Microsoft), OLMo (AI2; en alta kadar gerçekten açık olan azınlıktan). Lisanslar nadiren OSI onaylıdır: Llama'nın lisansı kullanım kısıtları taşır, Qwen ve Mistral ise çoğunlukla Apache 2.0 kullanır. Açık ağırlığın yararı kontroldür: veri binadan çıkmaz, hiçbir sağlayıcı modeli geri çekemez, kendi alanınızda ince ayar yapılabilir. Bedeli GPU'ları, nicemlemeyi, güvenlik filtrelemesini ve sürüm yükseltmelerini kendinizin üstlenmesidir. Ollama, llama.cpp, vLLM ve LM Studio bunları çalıştırmanın standart yollarıdır.