Embedding Matryoshka
Embeddings treinados (Matryoshka Representation Learning) para concentrar a informação mais importante nas primeiras dimensões — o que permite truncar o vetor (por exemplo, manter 256 de 1536 dimensões) e ainda preservar a maior parte da qualidade. Como uma boneca russa: cada prefixo é um embedding completo, só que menor.
O problema: embeddings maiores (mais dimensões) dão mais qualidade, mas custam mais armazenamento, memória e tempo de busca. Em geral é preciso escolher o tamanho de antemão. O treinamento Matryoshka organiza a informação de forma hierárquica, de modo que os primeiros N números do vetor já são um embedding útil por si sós → dá para truncar em qualquer tamanho na hora do uso, sem recalcular. Vantagem: um único modelo oferece um equilíbrio flexível entre qualidade e custo; dá para fazer uma busca grosseira e rápida com vetores curtos e depois reordenar com os completos. Usado no text-embedding-3 da OpenAI (o parâmetro dimensions) e em vários modelos de código aberto (2024+). Alivia em parte a dor do embedding drift (mesmo modelo, tamanho ajustável).