{"id":16068,"date":"2024-08-01T06:51:02","date_gmt":"2024-08-01T13:51:02","guid":{"rendered":"https:\/\/www.couchbase.com\/blog\/?p=16068"},"modified":"2025-06-13T20:19:05","modified_gmt":"2025-06-14T03:19:05","slug":"faster-llm-apps-semantic-cache-langchain-couchbase","status":"publish","type":"post","link":"https:\/\/www.couchbase.com\/blog\/pt\/faster-llm-apps-semantic-cache-langchain-couchbase\/","title":{"rendered":"Crie aplicativos LLM mais r\u00e1pidos e baratos com o Couchbase e o LangChain"},"content":{"rendered":"

Novo cache padr\u00e3o, sem\u00e2ntico e de conversa\u00e7\u00e3o com integra\u00e7\u00e3o LangChain<\/span><\/h2>\n

No cen\u00e1rio em r\u00e1pida evolu\u00e7\u00e3o do desenvolvimento de aplicativos de IA, a integra\u00e7\u00e3o de grandes modelos de linguagem (LLMs) com fontes de dados corporativos tornou-se um foco essencial. A capacidade de aproveitar o poder dos LLMs para gerar respostas de alta qualidade e contextualmente relevantes est\u00e1 transformando v\u00e1rios setores. No entanto, as equipes enfrentam desafios significativos para fornecer respostas confi\u00e1veis em alta velocidade e, ao mesmo tempo, reduzir os custos, especialmente \u00e0 medida que o volume de solicita\u00e7\u00f5es dos usu\u00e1rios aumenta. Al\u00e9m disso, como a maioria dos LLMs tem mem\u00f3ria limitada, existe a oportunidade de armazenar as conversas dos LLMs por um per\u00edodo de tempo prolongado e evitar que os usu\u00e1rios recomecem do zero quando a mem\u00f3ria de um LLM se esgotar.\u00a0<\/span><\/p>\n

O Couchbase, l\u00edder em armazenamento em cache altamente dimension\u00e1vel e de baixa lat\u00eancia (<\/span>Leia a hist\u00f3ria do LinkedIn<\/span><\/a>), enfrenta esses desafios com solu\u00e7\u00f5es inovadoras. Novos aprimoramentos em nossa oferta de pesquisa vetorial e cache, bem como um pacote LangChain dedicado para desenvolvedores, facilitam a eleva\u00e7\u00e3o do desempenho e da confiabilidade dos aplicativos de IA generativa.<\/span><\/p>\n

Couchbase Vector Search e Retrieval-Augmented Generation (RAG)<\/h2>\n

A pesquisa vetorial do Couchbase permite que os usu\u00e1rios encontrem objetos semelhantes sem a necessidade de uma correspond\u00eancia exata. Trata-se de um recurso avan\u00e7ado que permite a busca e a recupera\u00e7\u00e3o eficientes de dados com base em incorpora\u00e7\u00f5es vetoriais, que s\u00e3o representa\u00e7\u00f5es matem\u00e1ticas de objetos em um n\u00famero muito grande de dimens\u00f5es. Por exemplo, a busca de sapatos \"marrom\" e \"couro\" em um cat\u00e1logo de produtos retornaria esses resultados, bem como sapatos de \"camur\u00e7a\", com cores que incluem \"mogno, castanho, caf\u00e9, bronze, castanho-avermelhado e cacau\".<\/span><\/p>\n

O Retrieval-Augmented Generation (RAG) combina a pesquisa vetorial, recuperando informa\u00e7\u00f5es do banco de dados do Couchbase relacionadas ao prompt do usu\u00e1rio, e fornece o prompt e as informa\u00e7\u00f5es relacionadas relevantes. <\/span>informa\u00e7\u00f5es a um modelo generativo para produzir respostas de LLM mais informadas e contextualmente apropriadas. Isso geralmente \u00e9 mais r\u00e1pido e menos dispendioso do que treinar um modelo personalizado. <\/span>O <\/span>arquitetura na mem\u00f3ria altamente dimension\u00e1vel<\/span><\/a> fornece acesso r\u00e1pido e eficiente \u00e0 pesquisa de dados relevantes de incorpora\u00e7\u00e3o de vetores. Para tornar um aplicativo RAG mais eficiente e com melhor desempenho, os desenvolvedores podem usar recursos de cache sem\u00e2ntico e de conversa\u00e7\u00e3o.\u00a0<\/span><\/p>\n

Cache sem\u00e2ntico<\/h2>\n

O armazenamento em cache sem\u00e2ntico \u00e9 uma t\u00e9cnica sofisticada de armazenamento em cache que usa embeddings de vetor para entender o contexto e a inten\u00e7\u00e3o por tr\u00e1s das consultas. Ao contr\u00e1rio dos m\u00e9todos tradicionais de armazenamento em cache que dependem de correspond\u00eancias exatas, o armazenamento em cache sem\u00e2ntico aproveita o significado e a relev\u00e2ncia dos dados. Isso significa que perguntas semelhantes, que de outra forma receberiam a mesma resposta de um LLM, n\u00e3o precisam fazer solicita\u00e7\u00f5es adicionais ao LLM. Continuando com o exemplo acima, um usu\u00e1rio que pesquisa \"Estou procurando sapatos de couro marrom no tamanho 10\" obteria os mesmos resultados que outro usu\u00e1rio que solicita \"Quero comprar sapatos tamanho 10 em couro na cor marrom\".\u00a0<\/span><\/p>\n

\"Couchbase<\/p>\n

Os benef\u00edcios do cache sem\u00e2ntico, especialmente em volumes maiores, incluem:<\/span><\/p>\n