Ollama
Plus d'infos
- Créé par
- Jeffrey Morgan et al.
- Année
- Type
- Exécuteur local de LLM
- Licence
- MIT
- Site officiel
- ollama.com
- Code source
- github.com/ollama/ollama
Outil pour faire tourner des LLM en local, sur sa propre machine — ollama run llama3 et vous voilà en train de discuter.
Enveloppe llama.cpp et une bibliothèque de modèles quantifiés. Accélération CPU ou GPU automatique. Pratique pour les données privées, l'usage hors ligne, les prototypes. Les Mac Apple Silicon s'y sentent particulièrement à l'aise.