에이전트 애플리케이션 개발을 가속화하기 위해 카우치베이스와 엔비디아가 협력합니다.

NVIDIA AI 엔터프라이즈와 함께 하는 카펠라 AI 서비스

카우치베이스는 엔비디아와 협력하여 다음과 같은 지원을 추가함으로써 기업이 에이전트 AI 애플리케이션 개발을 가속화할 수 있도록 지원하고 있습니다. NVIDIA AI 엔터프라이즈 개발 도구를 포함합니다, 신경 모델 프레임워크 (NeMo) 및 NVIDIA 추론 마이크로서비스 (NIM). Capella는 NIM에 대한 지원을 자사의 AI 모델 서비스 그리고 맞춤형 언어 모델을 구축, 교육 및 튜닝하기 위한 NVIDIA NeMo 프레임워크에 대한 액세스를 추가합니다. 이 프레임워크는 기업을 위한 데이터 큐레이션, 교육, 모델 사용자 지정 및 RAG 워크플로우를 지원합니다.

NVIDIA AI 엔터프라이즈의 카펠라 AI 서비스는 전체 에이전트 제공 라이프사이클을 지원합니다.

벡터 검색만 지원하고 생성 및 활용에 대한 지원은 제공하지 않는 데이터베이스와 달리, Couchbase Capella는 운영, 분석, AI 및 모바일 데이터를 관리하는 동시에 AI 워크플로우를 위한 해당 데이터의 활용도 간소화합니다.동일한 플랫폼 내에서.

이러한 AI 데이터 워크플로로 인해 개발자의 복잡성은 더욱 커졌습니다:

• • 데이터 준비
  • 벡터화
  • 프롬프트 엔지니어링 및 캐싱
  • 온디바이스를 포함한 모델 상호작용
  • 응답 캐싱
  • 성적 증명서 저장
  • 응답 유효성 검사
  • 가드레일 관리
  • 에이전트 개발 및 코드 재사용
  • 에이전트 거버넌스

이 결합 솔루션은 Capella의 검색 증강 생성(RAG) 기능을 향상시키면서도 단순화하여 고객이 모델 유연성을 유지하면서 처리량이 많은 AI 기반 애플리케이션을 효율적으로 구동할 수 있도록 지원합니다. 개발자는 NeMo 프레임워크에 액세스하여 하나의 환경에서 풍부한 생산성 도구와 모델을 이용할 수 있습니다.

그런 다음 빅코드, 마이크로소프트, 엔비디아, 미스트랄, 메타, 구글의 30개 모델이 NIM을 통해 제공됩니다.. 개발자는 NVIDIA AI 엔터프라이즈를 통해 특정 애플리케이션을 위한 모델을 빌드, 트레이닝 및 미세 조정한 다음 배포 시 GPU 지원 가속화의 이점을 누릴 수 있습니다.

기업들은 여러 가지 이유로 AI를 신뢰하는 데 어려움을 겪고 있습니다.

처리량이 많은 AI 애플리케이션을 구축하고 배포하는 조직은 에이전트의 안정성과 규정 준수를 보장하고 의도한 운영 경로에서 벗어나지 않도록 하는 데 어려움을 겪습니다. 이러한 드리프트는 PII 데이터 유출이나 모델 기반 착각과 같은 명백한 이유 외에도 여러 가지 이유로 발생합니다. 드리프트는 시간이 지남에 따라 모델이 훈련의 진화와 프롬프트에 포함된 데이터의 진화에 따라 단순히 의견을 변경할 수 있으므로 응답과 결론이 달라질 수 있습니다.

뿐만 아니라 모델은 활성 대화 내에서 더 이상 유효하지 않은 대화 컨텍스트를 실수로 유지하는 경우도 종종 있습니다. Capella와 NVIDIA AI Enterprise는 개발자가 더 엄격한 가드레일을 구축하고, 더 자주 이탈하지 않으며, 시간이 지나도 적절한 컨텍스트를 유지하여 작성자가 기대한 대로 작동하는 의도적인 에이전트를 구축하는 데 도움을 줄 수 있습니다. 예를 들어, 에이전트 대화 기록을 캡처하고 NIM 내에서 실시간으로 비교하여 모델 응답 정확도를 평가해야 합니다.

성능 저하 없는 안전한 AI

양사의 공동 솔루션은 조직이 AI 기반 애플리케이션을 안전하고 빠르게 빌드, 배포 및 발전시킬 수 있는 방법을 제공합니다. NVIDIA의 솔루션은 다음과 같은 사전 테스트를 거친 LLM 및 툴을 활용합니다. NVIDIA NeMo 가드레일 는 조직이 AI 개발을 가속화하는 동시에 AI 환각에 대한 정책과 보호 장치를 적용하도록 지원하며, Capella는 캐싱 및 트랜스크립트 스토리지를 통해 AI의 장단기 메모리를 유지하는 동시에 모델 및 실행 인프라에 대한 성능과 근접성으로 에이전트 배포에 중요한 대화 지연 시간을 줄여줍니다. 엄격한 테스트를 거쳐 프로덕션에 바로 사용할 수 있는 NVIDIA의 NIM 마이크로서비스에서 실행하면 기업은 에이전트 애플리케이션의 개인정보 보호, 성능, 확장성 및 지연 시간 요건을 충족할 수 있습니다.

마지막 혜택

매트 맥도너 제품 및 파트너 담당 수석부사장은 다음과 같이 협업의 가치를 설명합니다:

기업은 AI 노력을 뒷받침하고 개발부터 배포 및 최적화에 이르는 전체 애플리케이션 라이프사이클을 지원하기 위해 통합된 고성능 데이터 플랫폼이 필요합니다. NVIDIA NIM 마이크로서비스를 Capella AI 모델 서비스에 통합함으로써 고객이 선호하는 AI 모델을 안전하고 관리되는 방식으로 실행할 수 있는 유연성을 제공하는 동시에, AI 워크로드를 위한 더 나은 성능과 트랜잭션, 분석, AI 및 모바일 데이터와 AI의 원활한 통합을 제공하고 있습니다. Capella AI 서비스를 통해 고객은 비즈니스 요구사항의 변화에 따라 애플리케이션을 확장하고 최적화할 수 있다는 확신을 가지고 RAG 및 에이전트 애플리케이션을 가속화할 수 있습니다.

이 결합된 NVIDIA/카우치베이스 솔루션은 개발자가 에이전트 애플리케이션을 보다 빠르고 안전하게 배포, 확장 및 최적화할 수 있도록 지원할 뿐만 아니라, 최적화된 모델, 저지연 성능, 엔터프라이즈 보안, 거버넌스, 가시성 및 보안과 함께 에이전트 배포와 같은 DevOps를 가속화하고 관리할 수 있도록 지원합니다. 또한 프로젝트 책임자 및 예산 담당자는 NVIDIA의 통합 솔루션을 통해 NVIDIA 가속 인프라에서 운영하면서 NVIDIA AI 엔터프라이즈 환경에 근접한 Capella의 성능 및 데이터 통합의 이점을 결합하여 조직이 이러한 AI 투자의 ROI를 극대화할 수 있습니다. 인공 지능의 ROI를 극대화하는 데 이보다 더 좋은 조합은 없을 것입니다.

NVIDIA GPU 기술 컨퍼런스에서 만나보세요

카우치베이스는 다음 행사의 실버 스폰서입니다. NVIDIA GTC가 3월 17일부터 24일까지 캘리포니아 산호세에서 개최됩니다. 카우치베이스가 엔비디아와 협력하여 에이전트 AI 애플리케이션 개발을 가속화하는 방법에 대해 자세히 알아보세요, 부스 2004에 들러보세요.

자세히 알아보기 카펠라 AI 서비스 에 가입하고 비공개 미리 보기.

추가 리소스

• • 방법에 대해 자세히 알아보기 이 통합으로 에이전트 AI 애플리케이션 개발 가속화
  • 방법 알아보기 개발자가 에이전트 애플리케이션을 구축할 수 있도록 지원하는 Capella AI 서비스
  • 탐색 NVIDIA NeMo 가드레일
  • 독점적인 LLM을 안전하게 사용하세요. NVIDIA NeMo의 엔터프라이즈 데이터