Gradient checkpointing
Spara minne under träning genom att räkna om delar av forward-pass istället för att lagra alla mellanvärden.
Trade-off: ~30% långsammare träning, ~5-10x mindre VRAM. Möjliggör att träna stora modeller på begränsat hårdvara. Inbyggt i PyTorch som torch.utils.checkpoint. Standard i finetuning med begränsad GPU.