コサイン類似度
二つのベクトルの類似度を、なす角のコサイン(内積を長さの積で割った値)で表したもの。埋め込みの比較では標準の選択肢。
肝心なのは、大きさではなく向きだけを見る点だ。同じ話題の二つの文章は、一方が3倍長くてもベクトル空間で同じ方向を向く。埋め込みの長さは、意味よりも出現頻度のようなものを反映することが多い。値は−1から1の範囲だが、最近の埋め込みモデルの多くでは、実際には0〜1に収まる。よくある最適化は、すべてのベクトルを長さ1に正規化することだ。そうするとコサイン類似度は内積と一致し、計算が安くなる。ベクトルデータベースが正規化済みのベクトルを好んで保存するのはこのためである。正規化されたベクトルでは、ユークリッド距離も同じ順位を与える。