Uma análise do Graph RAG em comparação com o Vector RAG

Os grandes modelos de linguagem mudaram a forma como interagimos com as informações, mas eles têm uma limitação fundamental: seu conhecimento está congelado no tempo. Eles não podem acessar dados ou informações em tempo real de documentos privados e proprietários porque só conhecem aquilo em que foram treinados. É aí que entra o RAG. Ao conectar os LLMs a fontes externas de conhecimento, o RAG os torna mais inteligentes, mais precisos e mais úteis.

O que é RAG?

RAG é uma técnica de IA que aprimora grandes modelos de linguagem permitindo que eles recuperem informações externas relevantes antes de gerar uma resposta. Em vez de confiar apenas no conhecimento pré-treinado, o RAG pesquisa fontes de dados conectadas, como documentos ou bancos de dados, para fornecer respostas mais precisas, atualizadas e sensíveis ao contexto.

Pense nisso como um exame de livro aberto. Um LLM por si só é como um aluno tentando responder às perguntas de memória. Um LLM com RAG é como se esse mesmo aluno tivesse um conjunto de livros didáticos e anotações para consultar antes de escrever sua resposta. Esse processo melhora a precisão e a relevância do resultado do LLM, reduz o risco de gerar informações incorretas ou fabricadas (conhecidas como “alucinações”) e permite que ele responda a perguntas sobre dados para os quais não foi treinado.

O processo do RAG geralmente segue estas etapas:

1. Consulta do usuário: Um usuário faz uma pergunta.
2. Recuperação: O sistema pesquisa uma base de conhecimento externa (por exemplo, uma coleção de documentos, um banco de dados ou um site) para obter informações relevantes para a consulta.
3. Aumento: As informações recuperadas são adicionadas à consulta original do usuário como contexto.
4. Geração: A solicitação combinada (consulta original mais contexto recuperado) é enviada ao LLM, que gera uma resposta abrangente e sensível ao contexto.

O que é o gráfico RAG?

O Graph RAG é uma abordagem mais sofisticada que usa um gráfico de conhecimento como sua fonte de dados externa. A gráfico de conhecimento organiza as informações como uma rede de entidades (nós) e seus relacionamentos (bordas). Por exemplo, um nó pode ser uma pessoa, uma empresa ou um produto, enquanto uma borda pode representar um relacionamento como “trabalha para”, “adquiriu” ou “é um componente de”.”

Em vez de apenas procurar por blocos de texto semanticamente semelhantes a uma consulta, o RAG gráfico percorre a rede de relacionamentos para encontrar informações altamente contextuais e interconectadas. Ele entende não apenas o que as coisas são, mas também como eles se relacionam entre si. Isso permite que ele responda a perguntas complexas que exigem a compreensão de relacionamentos, padrões e hierarquias nos dados.

Benefícios

• Relacionamentos explícitos: Os gráficos são excelentes na representação de conexões explícitas entre pontos de dados, fornecendo um contexto profundo e estruturado que as pesquisas vetoriais podem perder.
• Tratamento de consultas complexas: O Graph RAG pode responder a perguntas de vários saltos que exigem a junção de informações de diferentes partes da base de conhecimento (por exemplo, “Quais clientes na Alemanha usam um produto fabricado por uma empresa que adquirimos no ano passado?”).
• Redução das alucinações: Ao basear o LLM em um gráfico estruturado e factual, o risco de gerar informações imprecisas é significativamente reduzido. O contexto é baseado em relacionamentos definidos, não apenas na similaridade semântica.
• Explicabilidade: O caminho percorrido no gráfico para encontrar uma resposta pode ser rastreado, tornando o processo de raciocínio do LLM mais transparente e explicável.

Desafios

• Modelagem de dados complexos: Criar e manter um gráfico de conhecimento exige um esforço inicial significativo na modelagem e extração de dados, transformação e (ETL).
• Escalabilidade: Embora os bancos de dados de gráficos modernos sejam altamente dimensionáveis, o gerenciamento de gráficos maciços e altamente interconectados pode apresentar desafios de desempenho.
• Experiência no nicho: A implementação do RAG de gráficos requer conhecimento especializado em bancos de dados de gráficos, linguagens de consulta como Cifra e SPARQL, e ciência de dados gráficos.

Casos de uso

• Detecção de fraudes: Identificação de relações complexas e ocultas entre contas, transações e indivíduos para descobrir anéis fraudulentos.
• Gerenciamento da cadeia de suprimentos: Responder a perguntas sobre dependências de fornecedores, riscos logísticos e o impacto de uma interrupção em uma parte da cadeia em toda a rede.
• Descoberta de medicamentos: Explorar as relações entre genes, proteínas e doenças para identificar possíveis alvos para novas terapias.
• Mecanismos avançados de recomendação: Sugerir produtos ou conteúdo com base em comportamentos intrincados de usuários e relacionamentos de itens, e não apenas no que é popular.

O que é o vetor RAG?

Atualmente, o Vector RAG é a implementação mais comum da estrutura do RAG. Ele usa um banco de dados vetorial para armazenar e recuperar informações. Nessa abordagem, os dados de texto (por exemplo, documentos, artigos, páginas da Web) são divididos em partes menores, e cada parte é convertida em uma representação numérica chamada de incorporação vetorial usando um modelo de incorporação.

Quando um usuário envia uma consulta, a própria consulta também é convertida em um vetor. Em seguida, o sistema realiza uma pesquisa de similaridade no banco de dados de vetores para encontrar os trechos de texto cujos vetores estão mais próximos do vetor da consulta. Esses trechos semanticamente semelhantes são então passados para o LLM como contexto.

Benefícios

• Simplicidade e velocidade: A configuração de um pipeline RAG vetorial é relativamente simples. O processo de incorporação e pesquisa é computacionalmente eficiente e rápido, mesmo com grandes conjuntos de dados.
• Lida com dados não estruturados: Ele funciona excepcionalmente bem com grandes volumes de texto não estruturado, como PDFs, artigos e tíquetes de suporte, sem a necessidade de um esquema predefinido.
• Ampla aplicabilidade: Como ele se concentra no significado semântico, é uma solução versátil para uma ampla gama de tarefas de Q&A e de resumo de uso geral.
• Ecossistema maduro: Há um ecossistema robusto e crescente de bancos de dados vetoriais, modelos de incorporação e estruturas (como o LangChain e LlamaIndex) que simplificam o desenvolvimento.

Desafios

• Falta de relações contextuais: A pesquisa vetorial pode perder as relações sutis entre as informações. Ela pode recuperar fatos que são semanticamente semelhantes, mas não diretamente relacionados, o que leva a respostas menos precisas.
• “Problema ”perdido no meio": Quando muitos documentos são recuperados, o LLM pode ter dificuldade para identificar as informações mais importantes, especialmente se elas estiverem enterradas no meio do contexto fornecido.
• Dificuldade com dados granulares: Para dados altamente estruturados ou tabulares, a conversão de tudo em blocos de texto pode levar à perda de precisão e à incapacidade de responder a perguntas que dependem de pontos de dados específicos.

Casos de uso

• Chatbots de suporte ao cliente: Encontre rapidamente respostas para as perguntas dos usuários em uma base de conhecimento de artigos de ajuda, perguntas frequentes e manuais de produtos.
• Perguntas e respostas sobre documentos: Permitir que os usuários “conversem” com seus documentos, fazendo perguntas específicas sobre um trabalho de pesquisa, contrato legal ou relatório financeiro.
• Descoberta de conteúdo: Recomendação de artigos, vídeos ou produtos com base no significado semântico da pesquisa de um usuário.
• Pesquisa empresarial: Aprimoramento dos mecanismos de busca internos para fornecer resultados mais relevantes de documentos e recursos de toda a empresa.

Principais diferenças entre o RAG gráfico e o RAG vetorial

Quando usar o RAG gráfico em vez do RAG vetorial

A escolha entre o RAG gráfico e o RAG vetorial depende inteiramente de seus dados e dos tipos de perguntas que você precisa responder.

Use o gráfico RAG quando:

• Os relacionamentos são fundamentais: Seus dados são altamente conectados, e o valor está em entender essas conexões (por exemplo, redes sociais, cadeias de suprimentos, sistemas financeiros).
• Você precisa responder a perguntas complexas e com vários saltos: Os usuários precisam fazer perguntas que exijam a síntese de informações de vários pontos de dados relacionados.
• A explicabilidade é fundamental: Você precisa ser capaz de mostrar exatamente como o sistema chegou a uma resposta, o que é crucial em setores altamente regulamentados, como o financeiro e o de saúde.

Use o vetor RAG quando:

• Seus dados são, em sua maioria, textos não estruturados: Você tem um grande corpus de documentos, artigos ou outras informações baseadas em texto.
• Você precisa de uma solução rápida: Você deseja criar uma prova de conceito ou um sistema de produção sem grandes investimentos em modelagem de dados.
• O objetivo principal é a pesquisa e o resumo semântico: Seus usuários precisam encontrar passagens relevantes nos documentos e obter respostas resumidas.

O futuro dos sistemas RAG

O debate não é sobre qual método RAG “vencerá”. O futuro do RAG é híbrido. Os sistemas de IA mais avançados combinarão os pontos fortes do RAG gráfico e do RAG vetorial.

Imagine um sistema que realiza uma pesquisa vetorial para identificar rapidamente um conjunto relevante de documentos. Em seguida, ele usa um gráfico de conhecimento construído a partir desses documentos para explorar as relações específicas entre as entidades mencionadas. Essa abordagem em várias camadas oferece a velocidade e a escala da pesquisa vetorial e a profundidade e a precisão da passagem pelo gráfico. Esse modelo híbrido permite que um LLM responda a uma gama mais ampla de perguntas com maior precisão e contexto do que qualquer um dos sistemas poderia fazer sozinho.

Principais conclusões e recursos adicionais

• O RAG aprimora os LLMs, conectando-os ao conhecimento externo, melhorando a precisão e reduzindo as alucinações.
• O Vector RAG é ideal para pesquisar grandes volumes de texto não estruturado com base no significado semântico. Ele é rápido, dimensionável e relativamente simples de implementar.
• O Graph RAG é excelente na navegação de dados altamente conectados para responder a perguntas complexas que dependem da compreensão dos relacionamentos. Ele oferece maior precisão e capacidade de explicação.
• A escolha certa depende da estrutura de seus dados e dos requisitos de seu aplicativo.
• Os sistemas híbridos que combinam ambas as abordagens representam o futuro da criação de aplicativos de IA sofisticados e sensíveis ao contexto.

Para continuar aprendendo sobre a geração aumentada por recuperação, você pode consultar os recursos abaixo:

• Banco de dados vetorial vs. banco de dados gráfico: Diferenças e semelhanças - Blog
• Do conceito ao código: LLM + RAG com Couchbase - Blog
• Extensão dos recursos do RAG para o Excel com Couchbase, LLamaIndex e Amazon Bedrock - Blog
• Um guia passo a passo para preparar dados para a geração aumentada por recuperação (RAG) - Blog
• Como criei um aplicativo RAG de fábrica com o Couchbase Vector Search no iOS - Blog

PERGUNTAS FREQUENTES

Quais são as principais vantagens do RAG gráfico em relação ao RAG vetorial? As principais vantagens são sua capacidade de entender e utilizar relacionamentos explícitos dentro dos dados, responder a perguntas complexas de vários saltos e fornecer maior capacidade de explicação para suas respostas, rastreando o caminho da consulta por meio do gráfico.

É possível combinar o RAG gráfico e o RAG vetorial em um único sistema? Sim, e isso está se tornando um padrão poderoso. Uma abordagem híbrida pode usar a pesquisa vetorial para a recuperação inicial e ampla e, em seguida, usar um gráfico de conhecimento para refinar o contexto e explorar relacionamentos específicos, aproveitando os pontos fortes de ambos os métodos.

O RAG gráfico ou o RAG vetorial é melhor para dados corporativos de grande escala? Depende do tipo de dados. Se os dados corporativos forem uma coleção maciça de documentos não estruturados (relatórios, e-mails etc.), o RAG vetorial é um ótimo ponto de partida. Se os dados envolverem relacionamentos complexos (por exemplo, organogramas, históricos de interação com clientes, dependências de produtos), o RAG gráfico fornecerá mais valor e insights mais profundos.

Como os bancos de dados gráficos diferem dos bancos de dados vetoriais nos aplicativos RAG? Os bancos de dados gráficos armazenam dados como nós e bordas, otimizados para consultar relacionamentos. Os bancos de dados vetoriais armazenam dados como vetores de alta dimensão e são otimizados para encontrar os vizinhos mais próximos de um vetor de consulta usando uma métrica de distância. Um armazena conexões explícitas, enquanto o outro armazena a similaridade semântica.

O RAG gráfico exige mais recursos computacionais do que o RAG vetorial? O requisito inicial de recursos para o RAG de gráficos pode ser maior, principalmente na fase de modelagem e ingestão de dados. No entanto, para determinadas consultas complexas, percorrer um gráfico bem estruturado pode ser mais eficiente do que peneirar milhares de pedaços de texto semanticamente semelhantes, mas potencialmente irrelevantes, recuperados por uma pesquisa vetorial. O desempenho da consulta depende muito do caso de uso específico e da otimização do banco de dados.