Embeddings de busca: BGE-M3, e5, Voyage, Cohere v3

# OpenAI text-embedding-3-large suporta MRL nativo
from openai import OpenAI
client = OpenAI()

resp_full = client.embeddings.create(
    model="text-embedding-3-large",
    input=["semântica de busca em produção"],
    dimensions=3072,  # default
)
resp_small = client.embeddings.create(
    model="text-embedding-3-large",
    input=["semântica de busca em produção"],
    dimensions=256,   # MRL truncado — ainda útil!
)

# Vantagem: 256-d ocupa 12× menos memória que 3072-d
# - Vector DB: 1B vetores × 3072-d × 4 bytes = 12 TB
# - Vector DB: 1B vetores × 256-d × 4 bytes  = 1 TB
# Ou com int8 quantização: 256 bytes → 250 GB
# Trade-off: NDCG@10 cai ~2-3 pontos em 256-d

# Opção 1: FlagEmbedding (oficial BAAI, suporta os 3 modos)
from FlagEmbedding import BGEM3FlagModel

model = BGEM3FlagModel("BAAI/bge-m3", use_fp16=True)
output = model.encode(
    ["query: como ajustar autovacuum em postgres",
     "passage: O autovacuum do Postgres elimina tuplas mortas..."],
    return_dense=True,
    return_sparse=True,
    return_colbert_vecs=True,
)
# output["dense_vecs"]:    matriz (N, 1024)
# output["lexical_weights"]: lista de dicts {token_id: peso} (sparse)
# output["colbert_vecs"]:  lista de matrizes (tokens_doc, 128)

# Opção 2: sentence-transformers (dense only, mas integração trivial)
from sentence_transformers import SentenceTransformer

model = SentenceTransformer("BAAI/bge-m3")
embeddings = model.encode(
    ["docs aqui..."],
    normalize_embeddings=True,
    batch_size=32,
    show_progress_bar=False,
)

# Throughput típico em A10 (24GB):
# - BGE-M3 dense: ~500 docs/s (batch 32, sequência média 256)
# - Custo por bilhão de docs: ~$0.30 amortizado (24h × $13/h)
# - Equivalente via Voyage API: ~$120 (1B docs × 200 tokens × $0.12/1M / 200)

# Fine-tuning de BGE-M3 com contrastive loss (didático)
from sentence_transformers import SentenceTransformer, InputExample, losses
from torch.utils.data import DataLoader

model = SentenceTransformer("BAAI/bge-m3")

# Triplets: (query, doc_relevante, doc_irrelevante)
triplets = [
    InputExample(texts=["como tunar autovacuum", "postgres autovacuum settings...", "react state management..."]),
    # ... 1k-10k triplets do seu domínio
]
loader = DataLoader(triplets, shuffle=True, batch_size=16)
loss = losses.TripletLoss(model=model)

model.fit(
    train_objectives=[(loader, loss)],
    epochs=3,
    warmup_steps=100,
    output_path="./bge-m3-postgres-domain",
)

# Hard negative mining (recomendado):
# - Para cada query relevante, busque top-50 com modelo base
# - Pegue exemplos top que NÃO são relevantes (anotação manual ou heurística)
# - Esses são "hard negatives" — força o modelo a aprender distinções finas