Mode JSON
Fonctionnalité des LLM qui garantit une sortie en JSON valide. OpenAI l'a lancée en 2023 ; Anthropic et Google ont suivi. Implémentée par décodage contraint — l'échantillonnage des tokens est forcé de suivre une grammaire, si bien que seuls les tokens conformes au JSON peuvent être choisis.
Plus poussé : la sortie structurée avec un schéma JSON. Le modèle reçoit le schéma, la sortie est garantie conforme. Le Strict Mode d'OpenAI (2024) atteint 100 % de conformité au schéma. Problème classique avant ça : demander du JSON, et voir le modèle préfixer parfois sa réponse par « Voici le JSON : », ce qui casse le parseur. Côté open source : outlines, LMQL, instructor, le mode grammaire de llama.cpp. Cas d'usage : function calling, extraction de données, intégrations applicatives. Contrepartie : la créativité de la sortie est un peu bridée — le schéma est une barrière stricte.