チャンク分割（RAG）
RAGのために、文書を埋め込み・インデックス化する前に小さな断片（チャンク）へ分けること。チャンクサイズは最も影響が大きく、かつ難しい設計判断のひとつで、大きすぎれば関連性が薄まり、小さすぎれば文脈が失われる。
トレードオフはこうだ。大きなチャンクは文脈が多い反面、埋め込みがぼやける（複数の話題が1つのベクトルに入るため照合精度が落ちる）。小さなチャンクは照合が鋭い反面、回答に必要な前後の文脈を欠くことがある。代表的な方式は、オーバーラップ付き固定長（単純）、構造別（段落・見出し・Markdownのセクション）、話題の切れ目で分けるセマンティックチャンキングである。オーバーラップは、境界上の文が失われないようにする。応用として、センテンスウィンドウや親文書検索は小さなチャンクを取得しつつ、モデルにはその周囲の広い範囲を渡す。RAGの品質が悪い原因として最も多いのは、チャンク分割の不備である。