IT用語集 › AI & 機械学習 › 推論
学習済みのMLモデルを実際に動かすこと。入力を与えて出力を得る。学習の対極にある。
「推論コスト」とは、GPT-4やClaudeを呼び出すたびに支払う費用のことである。1回きりで高額な学習コストと違い、推論は何十億回も実行されるため、1回あたりを速く安くする必要がある。