VRAM
La memoria de la tarjeta gráfica: determina el tamaño de los modelos de ML que puedes ejecutar en local y la resolución de las texturas que puedes cargar en los juegos.
GPU de consumo: 8-24 GB. Centro de datos: H100 80 GB, B200 192 GB. Regla general para LLM: 2 GB de VRAM por cada mil millones de parámetros en fp16, 0,5 GB en 4 bits. Quedarse sin VRAM significa hacer swap a la RAM del sistema, es decir, ir muy lento.