RAG Intermediario ~45 min

Processo de Retrieval em RAG

Topico 26 de 33
retrieval rag busca
AÇÕES
Progresso do Topico 0%

Processo de Retrieval em RAG

O processo de retrieval (recuperacao) e o coracao de qualquer sistema RAG. E responsavel por encontrar as informacoes mais relevantes em uma base de conhecimento para responder a pergunta do usuario. A qualidade do retrieval determina diretamente a qualidade das respostas geradas.

Visao Geral do Processo#

Query do Usuario
       |
       v
[1. Query Embedding]
       |
       v
[2. Similarity Search]
       |
       v
[3. Ranking/Reranking]
       |
       v
[4. Filtering/Post-processing]
       |
       v
Documentos Relevantes

Etapas do Retrieval#

1. Query Embedding#

A query do usuario e convertida em um vetor usando o mesmo modelo de embeddings usado para indexar os documentos.

Python 
from openai import OpenAI

client = OpenAI()

def get_query_embedding(query):
    response = client.embeddings.create(
        model="text-embedding-3-small",
        input=query
    )
    return response.data[0].embedding

query = "Como funciona o processo de ferias?"
query_vector = get_query_embedding(query)

Importante: O modelo de embedding da query deve ser o mesmo usado para os documentos!

2. Similarity Search (Busca por Similaridade)#

O vetor da query e comparado com os vetores armazenados no banco de dados vetorial.

Metricas de Similaridade#

MetricaFormulaUso
Cosine Similaritycos(A, B) = (A . B) / (|A| |B|)Mais comum, normalizado
Euclidean Distanced(A, B) = sqrt(sum((ai - bi)^2))Distancia geometrica
Dot ProductA . B = sum(ai * bi)Rapido, para vetores normalizados
Python 
# Exemplo com Pinecone
import pinecone

index = pinecone.Index("meu-indice")

results = index.query(
    vector=query_vector,
    top_k=5,
    include_metadata=True
)

# Exemplo com ChromaDB
import chromadb

client = chromadb.Client()
collection = client.get_collection("documentos")

results = collection.query(
    query_embeddings=[query_vector],
    n_results=5
)

3. Algoritmos de Busca#

Busca Exata (Brute Force)#

Compara com todos os vetores. Preciso, mas lento para grandes bases.

Python 
import numpy as np

def exact_search(query_vector, all_vectors, k=5):
    similarities = np.dot(all_vectors, query_vector)
    top_k_indices = np.argsort(similarities)[-k:][::-1]
    return top_k_indices

Approximate Nearest Neighbor (ANN)#

Algoritmos que sacrificam precisao por velocidade:

  • HNSW (Hierarchical Navigable Small World): Grafos hierarquicos
  • IVF (Inverted File Index): Clusterizacao de vetores
  • LSH (Locality Sensitive Hashing): Hashing para similaridade
Python 
# FAISS com IVF
import faiss

# Criar indice IVF
nlist = 100  # numero de clusters
quantizer = faiss.IndexFlatL2(dimension)
index = faiss.IndexIVFFlat(quantizer, dimension, nlist)

# Treinar e adicionar vetores
index.train(vectors)
index.add(vectors)

# Buscar
index.nprobe = 10  # clusters a verificar
distances, indices = index.search(query_vector, k=5)

4. Reranking#

Apos a busca inicial, um segundo modelo pode reordenar os resultados para maior precisao.

Python 
from sentence_transformers import CrossEncoder

# Cross-encoder para reranking
reranker = CrossEncoder('cross-encoder/ms-marco-MiniLM-L-6-v2')

# Documentos recuperados inicialmente
candidates = ["doc1 text", "doc2 text", "doc3 text"]

# Reranking
pairs = [[query, doc] for doc in candidates]
scores = reranker.predict(pairs)

# Ordenar por score
ranked_docs = [doc for _, doc in sorted(zip(scores, candidates), reverse=True)]

5. Hybrid Search (Busca Hibrida)#

Combina busca semantica (vetores) com busca lexica (keywords).

Python 
# Exemplo conceitual de hybrid search
def hybrid_search(query, alpha=0.5):
    # Busca semantica
    semantic_results = vector_search(query)

    # Busca lexica (BM25)
    lexical_results = bm25_search(query)

    # Combinar scores
    combined = {}
    for doc_id, score in semantic_results:
        combined[doc_id] = alpha * score

    for doc_id, score in lexical_results:
        combined[doc_id] = combined.get(doc_id, 0) + (1 - alpha) * score

    # Retornar top resultados
    return sorted(combined.items(), key=lambda x: x[1], reverse=True)

Estrategias Avancadas#

Multi-Query Retrieval#

Gera multiplas versoes da query para capturar diferentes aspectos.

Python 
from langchain.retrievers.multi_query import MultiQueryRetriever

retriever = MultiQueryRetriever.from_llm(
    retriever=vectorstore.as_retriever(),
    llm=llm
)

# Gera queries alternativas e busca com todas
docs = retriever.get_relevant_documents(query)

Self-Query Retrieval#

Extrai filtros da query do usuario automaticamente.

Python 
from langchain.retrievers.self_query.base import SelfQueryRetriever

retriever = SelfQueryRetriever.from_llm(
    llm=llm,
    vectorstore=vectorstore,
    document_content_description="Documentos sobre politicas da empresa",
    metadata_field_info=metadata_fields
)

# Query: "politicas de ferias para funcionarios senior"
# Extrai automaticamente: filtro por cargo = senior

Contextual Compression#

Comprime documentos para manter apenas partes relevantes.

Python 
from langchain.retrievers import ContextualCompressionRetriever
from langchain.retrievers.document_compressors import LLMChainExtractor

compressor = LLMChainExtractor.from_llm(llm)
compression_retriever = ContextualCompressionRetriever(
    base_compressor=compressor,
    base_retriever=vectorstore.as_retriever()
)

Metricas de Avaliacao#

MetricaDescricao
Recall@KProporcao de docs relevantes no top K
Precision@KProporcao de top K que sao relevantes
MRRMean Reciprocal Rank - posicao media do primeiro relevante
nDCGNormalized Discounted Cumulative Gain
Python 
def recall_at_k(retrieved_ids, relevant_ids, k):
    retrieved_set = set(retrieved_ids[:k])
    relevant_set = set(relevant_ids)
    return len(retrieved_set & relevant_set) / len(relevant_set)

Resources#

Checklist#

4 recursos

📝
What is Retrieval-Augmented Generation (RAG)? - Google Cloud cloud.google.com
📝
What Is Retrieval-Augmented Generation, aka RAG? - NVIDIA blogs.nvidia.com
📖
Retrieval Strategies - LangChain python.langchain.com
📝
FAISS Documentation faiss.ai

Este topico tambem pode ser acessado em /topicos/retrieval-process