Ollama
Mer info
- Skapad av
- Jeffrey Morgan m.fl.
- År
- Typ
- Lokal LLM-runner
- Licens
- MIT
- Officiell sajt
- ollama.com
- Källkod
- github.com/ollama/ollama
Verktyg för att köra LLMs lokalt på din egen dator — ollama run llama3 och du chattar.
Wrappar llama.cpp + ett bibliotek av kvantiserade modeller. CPU- eller GPU-acceleration automatiskt. Bra för privata data, offline-användning, prototyper. M-serien Mac trivs särskilt.