Edge AI
Köra ML-inferens på enheten (telefon, IoT, bil) istället för molnet.
Fördelar: ingen latens, privacy, offline. Nackdelar: begränsad modellstorlek. Drivs av NPUer, quantiserade modeller (Llama på telefon), TensorFlow Lite, ONNX Runtime Mobile, Core ML. Apple Intelligence är prime example.