Couchbase e NVIDIA se unem para ajudar a acelerar o desenvolvimento de aplicações agênticas

Serviços de IA da Capella junto com o NVIDIA AI Enterprise

O Couchbase está trabalhando com a NVIDIA para ajudar empresas a acelerar o desenvolvimento de aplicações de IA agêntica, adicionando suporte para NVIDIA AI Enterprise incluindo suas ferramentas de desenvolvimento, Framework de Modelos Neurais (NeMo) e NVIDIA Inference Microservices (NIM). A Capella adiciona suporte ao NIM em seu Serviços de Modelos de IA e adiciona acesso ao NVIDIA NeMo Framework para construção, treinamento e ajuste fino de modelos de linguagem personalizados. O framework oferece suporte a curadoria de dados, treinamento, personalização de modelos e fluxos de trabalho de RAG para empresas.

Os serviços de IA da Capella com suporte do NVIDIA AI Enterprise cobrem todo o ciclo de vida de entrega baseado em agentes

Ao contrário dos bancos de dados que suportam exclusivamente busca vetorial sem fornecer assistência para sua criação e utilização, o Couchbase Capella gerencia dados operacionais, analíticos, de IA e móveis, ao mesmo tempo em que simplifica a utilização desses dados para fluxos de trabalho de IA,dentro da mesma plataforma.

Estes fluxos de trabalho de dados de IA são para onde a complexidade migrou para os desenvolvedores, pois eles incluem:

• preparação de dados
• vetorização
• engenharia de prompt e cache
• interações do modelo, inclusive no dispositivo
• cache de resposta
• armazenamento de transcrições
• validação de resposta
• gerenciamento de guardrails
• desenvolvimento de agentes e reuso de código
• governança de agentes

A solução combinada aprimora e, ao mesmo tempo, simplifica os recursos de geração aumentada por recuperação (RAG) do Capella, permitindo que os clientes alimentem com eficiência aplicativos de alta vazão alimentados por IA, mantendo a flexibilidade do modelo. Com o acesso ao framework NeMo, os desenvolvedores obtêm uma vasta gama de ferramentas de produtividade e modelos em um único ambiente.

Eles passam então a ter acesso a mais de 30 modelos da BigCode, Microsoft, NVIDIA, Mistral, Meta e Google via NIM. Com o NVIDIA AI Enterprise, os desenvolvedores podem criar, treinar e ajustar modelos para aplicações específicas e, em seguida, desfrutar dos benefícios da aceleração habilitada por GPU na implantação.

As empresas estão lutando para confiar em IA por vários motivos

Organizações que criam e implantam aplicações de IA de alto rendimento enfrentam desafios para garantir a confiabilidade e a conformidade dos agentes, e evitar que eles se desviem de seu caminho operacional pretendido. Esse desvio ocorre por vários motivos, além dos óbvios, como vazamentos de dados de PII ou alucinações baseadas em modelos. O desvio pode acontecer com o tempo, pois os modelos podem simplesmente mudar de opinião e, portanto, suas respostas e conclusões, com base na evolução de seu treinamento, bem como na evolução dos dados contidos em seus prompts.

Não apenas isso, mas os modelos frequentemente mantêm por engano um contexto conversacional que não é mais válido dentro de uma conversa ativa. A Capella e o NVIDIA AI Enterprise podem ajudar os desenvolvedores a criar barreiras de proteção mais rígidas e agentes mais intencionais que se desviam com menos frequência, mantêm o contexto adequado ao longo do tempo e, portanto, têm o desempenho esperado por seus criadores. Por exemplo, as transcrições das conversas dos agentes devem ser capturadas e comparadas em tempo real dentro do NIM para avaliar a precisão da resposta do modelo.

IA segura sem compromissos

Nossa solução conjunta oferece uma maneira segura e rápida para as organizações criarem, implantarem e evoluírem aplicativos potencializados por IA. A solução da NVIDIA aproveita LLMs pré-testadas e ferramentas, incluindo NVIDIA NeMo Guardrails para ajudar as organizações a acelerar o desenvolvimento de IA enquanto aplicam políticas e salvaguardas contra alucinações de IA, enquanto o Capella ajuda a manter a memória de curto e longo prazo da IA por meio de cache e armazenamento de transcrições, ao mesmo tempo em que seu desempenho e proximidade com os modelos e a infraestrutura de execução reduzem as latências de conversação, o que é crítico para a implantação de agentes. A execução nos microsserviços NIM da NVIDIA, rigorosamente testados e prontos para produção, cria a capacidade de as empresas atenderem aos requisitos de privacidade, desempenho, escalabilidade e latência com suas aplicações de agentes.

Um último benefício

Matt McDonough, nosso SVP de Produto e Parceiros, resume o valor de nossa colaboração ao observar:

As empresas exigem uma plataforma de dados unificada e de alto desempenho para fundamentar seus esforços de IA e apoiar o ciclo de vida completo da aplicação – do desenvolvimento à implantação e otimização. Ao integrar os microsserviços NVIDIA NIM ao Capella AI Model Services, estamos oferecendo aos clientes a flexibilidade de executar seus modelos de IA preferidos de maneira segura e governada, ao mesmo tempo em que proporcionamos melhor desempenho para cargas de trabalho de IA e integração perfeita de IA com dados transacionais, analíticos, de IA e móveis. O Capella AI Services permite que os clientes acelerem suas aplicações RAG e baseadas em agentes com confiança, sabendo que podem dimensionar e otimizar suas aplicações à medida que as necessidades de negócios evoluem.

Esta solução combinada da NVIDIA e da Couchbase não apenas ajuda desenvolvedores a implantar, dimensionar e otimizar aplicações baseadas em agentes de forma mais rápida e segura, como também ajuda o DevOps a acelerar e gerenciar o AgentOps – a implantação de agentes juntamente com modelos otimizados, desempenho de baixa latência, segurança empresarial, governança, observabilidade e segurança. E para líderes de projeto e responsáveis pelo orçamento, nossa solução combinada permite que suas organizações maximizem o retorno sobre o investimento (ROI) dessas iniciativas de IA, combinando as vantagens de desempenho e consolidação de dados do Capella, obtidas pela proximidade com o ambiente NVIDIA AI Enterprise, tudo operando em uma infraestrutura acelerada pela NVIDIA. Talvez não haja combinação melhor para maximizar o ROI da inteligência artificial.

Visite-nos na NVIDIA GPU Technology Conference

Couchbase é um patrocinador prata em NVIDIA GTC, que acontecerá de 17 a 24 de março em San Jose, CA. Para saber mais sobre como o trabalho da Couchbase com a NVIDIA acelera o desenvolvimento de aplicações de IA agêntica, passe no estande 2004.

Saiba mais sobre Serviços de IA Capella e cadastre-se para o visualização privada.

Recursos adicionais

• Leia mais sobre como essa integração acelera o desenvolvimento de aplicações de IA agêntica
• Aprenda como Os Serviços de IA do Capella capacitam desenvolvedores a criarem aplicações agênticas
• Explorar NVIDIA NeMo Guardrails
• Use LLMs com segurança com dados proprietários Dados Empresariais no NVIDIA NeMo