Edge AI
Ejecutar la inferencia de ML en el dispositivo (móvil, IoT, coche) en lugar de en la nube.
A favor: sin latencia, privacidad y funciona sin conexión. En contra: tamaño de modelo limitado. Se apoya en NPU, modelos cuantizados (Llama en el móvil), TensorFlow Lite, ONNX Runtime Mobile y Core ML. Apple Intelligence es un ejemplo de manual.