캘리포니아주 산타클라라 - 2025년 2월 24일 - 미국 Couchbase, Inc. 인공지능(AI) 세계의 핵심 애플리케이션을 위한 개발자 데이터 플랫폼인 데이터 베이스(Data Base, Inc.)(나스닥: BASE)가 오늘 발표했다. 카펠라 AI 모델 서비스 통합 NVIDIA NIM 마이크로서비스의 일부인 NVIDIA AI 엔터프라이즈 소프트웨어 플랫폼을 통해 AI 기반 애플리케이션의 배포를 간소화하여 기업에게 비공개적으로 실행되는 생성형(GenAI) 모델을 위한 강력한 솔루션을 제공합니다.

카펠라 AI 모델 서비스s는 다음과 같습니다. 최근 도입 는 에이전트 애플리케이션 개발을 간소화하기 위한 포괄적인 Capella AI 서비스 오퍼링의 일부로서 LLM 및 임베딩 모델용 관리형 엔드포인트를 제공하여 기업이 조직 경계 내에서 개인정보 보호, 성능, 확장성 및 지연 시간 요구 사항을 충족할 수 있도록 지원합니다. NVIDIA AI 엔터프라이즈 기반의 Capella AI 모델 서비스는 AI를 데이터에 더 가깝게 가져와 지연 시간을 최소화하고, GPU 가속 성능과 엔터프라이즈급 보안을 결합하여 조직이 AI 워크로드를 원활하게 운영할 수 있도록 지원합니다. 이번 협력으로 Capella의 에이전트 AI 및 검색 증강 생성(RAG) 기능이 향상되어 고객은 모델 유연성을 유지하면서 처리량이 많은 AI 기반 애플리케이션을 효율적으로 구동할 수 있습니다.

"기업은 개발부터 배포 및 최적화에 이르는 전체 애플리케이션 라이프사이클을 지원하고 AI 노력을 뒷받침하기 위해 통합된 고성능 데이터 플랫폼이 필요합니다."라고 Couchbase의 제품 및 파트너 담당 수석 부사장 Matt McDonough는 말합니다. "NVIDIA NIM 마이크로서비스를 Capella AI 모델 서비스에 통합함으로써, 우리는 고객이 선호하는 AI 모델을 안전하고 관리되는 방식으로 실행할 수 있는 유연성을 제공하는 동시에, AI 워크로드에 더 나은 성능을 제공하고 트랜잭션 및 분석 데이터와 AI를 원활하게 통합할 수 있도록 지원합니다. Capella AI 서비스를 통해 고객은 비즈니스 요구사항의 변화에 따라 애플리케이션을 확장하고 최적화할 수 있다는 확신을 가지고 RAG 및 에이전트 애플리케이션을 가속화할 수 있습니다."

카펠라, 유연하고 확장 가능한 AI 모델 배포를 지원하는 NVIDIA AI 엔터프라이즈와 완전히 통합된 사용자 경험 제공

처리량이 많은 AI 애플리케이션을 구축하고 배포하는 기업은 신뢰할 수 없는 AI 응답으로 인해 브랜드 평판이 손상될 수 있으므로 상담원의 신뢰성 및 규정 준수 보장에 어려움을 겪을 수 있습니다. PII 데이터 유출은 개인정보 보호 규정을 위반할 수 있으며, 여러 전문 데이터베이스를 관리하면 지속 불가능한 운영 오버헤드가 발생할 수 있습니다. 카우치베이스는 모델과 데이터를 통합 플랫폼에 배치하여 상담원 애플리케이션 개발과 운영을 간소화하고 상담원 운영이 원활하게 이루어지도록 지원하는 Capella AI 모델 서비스를 통해 이러한 문제를 해결하도록 돕고 있습니다. 예를 들어 상담원 대화 기록을 실시간으로 캡처하고 비교하여 모델의 응답 정확도를 높여야 합니다. 또한 Capella는 시맨틱 캐싱, 가드레일 생성 및 RAG 워크플로우를 통한 상담원 모니터링과 같은 기본 제공 기능을 제공합니다. 

NVIDIA NIM이 포함된 Capella AI 모델 서비스는 모델 배포를 간소화하여 에이전트 제공을 가속화하는 동시에 리소스 활용률과 성능을 극대화하는 비용 효율적인 솔루션을 Couchbase 고객에게 제공합니다. 이 솔루션은 다음과 같은 사전 테스트를 거친 LLM 및 툴을 활용합니다. NVIDIA NeMo 가드레일 를 통해 조직이 AI 개발을 가속화하는 동시에 AI 환각에 대한 정책과 보호 장치를 시행할 수 있도록 지원합니다. 엄격한 테스트를 거쳐 프로덕션에 바로 사용할 수 있는 NVIDIA의 NIM 마이크로서비스는 안정성을 위해 최적화되어 있으며 특정 비즈니스 요구 사항에 맞게 미세 조정됩니다.

엔비디아의 엔터프라이즈 소프트웨어 담당 시니어 디렉터인 앤 헥트(Anne Hecht)는 "엔비디아 AI 소프트웨어를 카우치베이스의 카펠라 AI 모델 서비스에 통합하면 개발자가 애플리케이션을 빠르게 배포, 확장 및 최적화할 수 있습니다."라고 말합니다. "NVIDIA NIM 마이크로서비스에 액세스하면 최적화된 모델을 통해 AI 배포를 더욱 가속화하여 실시간 지능형 애플리케이션을 위한 저지연 성능과 보안을 제공합니다."

카우치베이스는 다음 행사의 실버 스폰서입니다. NVIDIA GTC가 캘리포니아 산호세에서 열리고 있습니다. 카우치베이스와 엔비디아의 협업을 통해 에이전트 AI 애플리케이션 개발을 가속화하는 방법에 대해 자세히 알아보려면 2004번 부스를 방문하세요. 

자세히 알아보기 카펠라 AI 서비스 에 가입하고 비공개 미리 보기.

추가 리소스

• 방법에 대해 자세히 알아보기 이 통합으로 에이전트 AI 애플리케이션 개발 가속화
• 방법 알아보기 개발자가 에이전트 애플리케이션을 구축할 수 있도록 지원하는 Capella AI 서비스