Guardrail (IA)
Strati protettivi attorno a un LLM che controllano e limitano ciò che entra e ciò che esce — bloccano le richieste dannose, filtrano le risposte inappropriate, tengono il modello in tema o impongono un formato. Uno strato di sicurezza separato, oltre all'addestramento del modello stesso.
Perché: non ci si può fidare che l'allineamento integrato nel modello regga sempre (jailbreak, casi limite), quindi si aggiungono controlli esterni. Tipi: guardrail sull'input (rilevano prompt injection, argomenti vietati, dati personali prima che raggiungano il modello), guardrail sull'output (filtrano contenuti offensivi o pericolosi, verificano che la risposta resti entro gli argomenti consentiti, validano formato e schema) e policy di dialogo (stabiliscono di cosa il bot può parlare). Si realizzano con regole, classificatori o un LLM «giudice» separato. Strumenti: NVIDIA NeMo Guardrails, Guardrails AI, Llama Guard. Compromesso: guardrail troppo stretti producono rifiuti ingiustificati e frustranti «non posso aiutarti con questo»; troppo larghi lasciano passare i problemi. Standard nei sistemi LLM in produzione. Affine a jailbreak e output strutturato.