Toolformer
Статья Meta (февраль 2023), показавшая, что LLM может без учителя научиться вызывать внешние инструменты (калькулятор, поисковый API, переводчик, календарь). Пионерская работа для того, что стало «tool use», а затем «агентами».
Метод: LLM сама генерирует в своих обучающих данных кандидатов-вызовы вроде [Calculator(2+2)]. Остаются только те, что действительно снижают перплексию следующего токена, то есть инструмент оказался полезен. Результат: модель на 6,7 млрд параметров превзошла GPT-3 в математике благодаря выученному использованию инструментов. Сегодня идея стандартна: ChatGPT Function Calling, Claude tool use, Llama Tool Use. Статья предсказала это направление за полгода до того, как OpenAI выпустила Functions.