Ollama
Maggiori info
- Creatore
- Jeffrey Morgan et al.
- Anno
- Tipo
- Esecutore locale di LLM
- Licenza
- MIT
- Sito ufficiale
- ollama.com
- Codice sorgente
- github.com/ollama/ollama
- Wikipedia
- en.wikipedia.org
Strumento per eseguire LLM in locale sul proprio computer: basta ollama run llama3 e si chatta.
Incapsula llama.cpp più una libreria di modelli quantizzati. Accelerazione su CPU o GPU in automatico. Adatto a dati riservati, uso offline e prototipi. I Mac con Apple Silicon lo adorano.