Program of Thoughts
LLM пишет код (Python) вместо рассуждений на естественном языке; код выполняется, и его результат — ответ. Лучше подходит для математики и логики.
Подход описан в статье Chen и соавторов (2022). Он решает проблему «LLM плохо считают», перекладывая вычисления на интерпретатор Python. Применяется в Code Interpreter от OpenAI, Claude Code и калькуляторе Google Bard.
Родственный вариант — PAL (Program-Aided Language Models), идея та же. С 2023 года это стандарт для математических бенчмарков вроде GSM8K.