Program of Thought PoT
Wenhu Chen et al. (2022) — das LLM drückt sein Reasoning als ausführbaren Python-Code aus statt in natürlicher Sprache. Der Python-Interpreter übernimmt die eigentliche Berechnung.
Der Unterschied zu Chain-of-Thought: Das LLM muss selbst nicht gut in Arithmetik sein — notorisch eine Schwäche —, es muss nur korrekten Code schreiben. Schlug CoT bei Mathe-Benchmarks um 12 Prozentpunkte. Steckt hinter modernen „Code Interpreter"-Workflows von ChatGPT und Claude. Das Risiko: Code-Injection, sofern der Code in einer nicht sandboxed Umgebung ausgeführt wird.