IA costituzionale (Constitutional AI)
Il metodo di addestramento di Anthropic in cui un LLM impara a seguire una «costituzione» scritta (un insieme di principi) criticando e rivedendo le proprie risposte, senza che esseri umani etichettino ogni esempio.
Due fasi: (1) apprendimento supervisionato, in cui il modello genera una risposta, la critica alla luce dei principi e la riscrive; (2) RLAIF (Reinforcement Learning from AI Feedback), in cui un modello separato sceglie tra le risposte secondo gli stessi principi.
Scala meglio del solo RLHF (meno annotazione umana) e rende i valori ispezionabili: la costituzione si può leggere. Usato dalla famiglia Claude dal 2022.