카펠라 AI 서비스: 엔터프라이즈급 에이전트 구축

프로덕션 준비가 완료된 AI 에이전트

실제 비즈니스 결정을 내릴 수 있는 에이전틱 AI 애플리케이션을 구축하는 것은 복잡한 작업입니다. 개발자들은 서로 다른 데이터 유형을 관리하고, 데이터 프라이버시를 보장하며, 빠르게 진화하는 AI 스택에 대한 통제력을 유지하기 위해 여러 이질적인 도구들을 저글링하듯 다루어야 하는 상황에 종종 처하게 됩니다. 이러한 단편화는 심각한 운영 및 재정적 리스크와 아키텍처의 복잡성을 야기하여 강력한 AI 애플리케이션이 프로토타입 단계에 머물게 합니다.

오늘 우리는 데이터베이스 플랫폼을 확장하고 이러한 과제를 해결하도록 설계된 기능 모음인 Capella AI Services의 출시를 발표하게 되어 매우 기쁩니다. AI Services가 탑재된 Capella는 기업이 프로덕션 환경에 필요한 보안, 성능, 신뢰성을 갖추어 에이전틱 AI 애플리케이션을 구축, 배포 및 거버넌스할 수 있도록 지원하는 단일 통합 AI 데이터베이스 플랫폼을 제공합니다. 데이터 관리, 모델 통합, 에이전틱 운영 및 거버넌스를 핵심 데이터베이스 플랫폼 내에 통합함으로써, Couchbase는 전체 AI 애플리케이션 데이터 수명 주기를 간소화합니다.

이 게시물에서는 카펠라 AI 서비스(Capella AI Services)가 단순한 실험을 넘어 지능적이고 신뢰할 수 있는 에이전트를 대규모로 배포할 수 있도록 지원하는 방법을 살펴봅니다.

실험에서 기업으로: AI를 위한 통합 데이터베이스 플랫폼

개발자들이 에이전틱 애플리케이션을 프로덕션 환경으로 이전하는 데 어려움을 겪는 데에는 여러 가지 이유가 있습니다. 타사 LLM과 관련된 프라이버시 우려, 엔터프라이즈 컨텍스트가 부족한 범용 모델의 환각 현상, 프로덕션 환경에서 모델을 실행할 때 발생하는 불투명한 비용, 그리고 AI 도구 관리에 내재된 엄청난 복잡성이 복합적인 도전 과제로 작용하고 있습니다. 또한, 여러 시스템에 걸쳐 다양한 지식 저장소, 데이터 유형, 비정형 데이터를 통합하는 것은 모델에 유용한 컨텍스트 정보를 제공하는 데 있어 주요 걸림돌입니다.

카우치베이스는 운영, 벡터, 캐싱, 분석, 에이전트 거버넌스 데이터를 한 번에 대규모로 처리하는 통합 플랫폼으로 이러한 문제들을 해결합니다. 이 접근 방식은 양손으로 셀 수 없을 만큼 많은 도구가 필요했던 분절되고 취약하며 비용이 많이 드는 아키텍처의 필요성을 없애줍니다. 이점으로는 지연 시간 단축, 시스템 신뢰성 향상, 간소화된 검색증강생성(RAG) 데이터 수명 주기, 향상된 에이전트 거버넌스, 그리고 더 나은 비용 투명성이 포함됩니다. 

개발자가 필요로 하는 모든 것 한 곳에

카펠라 AI 서비스(Capella AI Services)는 에이전틱 애플리케이션의 개발을 단순화하고 가속화하는 완벽한 툴킷을 제공합니다. 이를 가능하게 하는 핵심 구성 요소를 살펴보겠습니다.

모델 서비스

AI 모델을 배포할 때 보안과 성능은 가장 중요합니다. 당사의 모델 서비스는 임베딩 및 대규모 언어 모델의 안전한 배포를 지원합니다. NVIDIA AI Enterprise와의 파트너십을 통해 모델을 데이터와 동일한 위치에 유지하면서 GPU 가속의 저지연 추론을 활용할 수 있습니다. 이 아키텍처는 보안 노출을 최소화하고 성능을 극대화합니다. 나아가, 내장된 시맨틱 캐싱과 비동기 처리 옵션을 통해 LLM의 성능과 효율성이 향상됩니다. 또한 몇 번의 클릭만으로 배포가 간소화됩니다. 이와 함께 개발자는 AI 상호작용 주변에 “가드레일'을 생성하여 후속 작업이 실행되기 전에 엔터프라이즈 데이터 및 비즈니스 규칙에 대해 출력을 검증함으로써 예기치 않은 동작의 위험을 줄일 수 있습니다.

데이터 처리 서비스

AI 상호작용을 위해 컨텍스트 기반의 엔터프라이즈 데이터를 준비하는 작업은 종종 복잡합니다. 데이터 처리 서비스는 정형, 반정형, 비정형 데이터에 대한 기본 지원을 제공합니다. 이 서비스에는 전처리, 청킹, 벡터화를 위한 기본 제공 RAG 파이프라인 기능이 포함되어 있어 개발 워크플로의 상당한 복잡성을 줄여줍니다. 팀은 더 이상 데이터 수집을 위한 커스텀 코드를 작성하고 유지 관리할 필요가 없습니다. 이제 몇 분 만에 자동화할 수 있습니다. 

맥락에 맞는 AI 응답은 효과적인 벡터 검색에 달려 있습니다. 당사의 벡터화 서비스는 운영 데이터로부터 직접 벡터와 그 인덱스 생성을 자동화하여 AI 에이전트가 올바른 정보에 빠르게 액세스할 수 있도록 보장합니다. 데이터가 변경됨에 따라 벡터와 인덱스도 자동으로 업데이트됩니다. 당사는 다양한 RAG 및 에이전틱 사용 사례를 지원하기 위해 세 가지 스타일의 벡터 인덱싱을 제공합니다. 

• 검색 벡터 색인은 검색 키워드나 지리적 좌표와 같은 다른 술어가 포함된 쿼리 내에 벡터가 인라인으로 포함되어 있을 때 사용됩니다. 
• 컴포지트 벡터 인덱스는 개발자가 모든 프롬프트 및 컨텍스트 변수를 제어할 때 유용합니다. 
• 하이스케일 벡터 인덱스는 프롬프트 질문을 예측하기 어렵기 때문에 방대한 양의 컨텍스트 데이터를 벡터화해야 하는 지식 챗봇과 같은 다양한 사용 사례를 지원하기 위한 기록적인 십억 단위 규모의 벡터 인덱스입니다.  

이 세 가지 벡터 인덱싱 기능은 이미 Couchbase 데이터베이스에 내장되어 있으며 AI 서비스와 함께 활용할 수 있습니다. 

에이전트 카탈로그

거버넌스는 신뢰할 수 있는 AI를 구축하는 핵심입니다. 에이전트 카탈로그는 툴 허브, 프롬프트 허브, 에이전트 트레이서를 제공하여 에이전트의 구축과 관리를 더욱 쉽게 만들어 줍니다. 이러한 기능들은 에이전트 개발 및 배포에 가시성, 제어력, 추적성을 제공합니다. 팀은 효과적인 감사와 관리가 가능하다는 확신을 가지고 에이전트를 구축할 수 있습니다.  

에이전트의 행동을 역추적하는 능력이 없으면, 에이전트가 내린 자율적 결정에 대한 지속적인 신뢰, 검증, 그리고 확증을 자동화하는 것은 불가능해집니다. 에이전트 카탈로그에서는 대기 중인 결정이나 MCP 도구 조회의 적절성을 평가하기 위해 에이전트 코드와 LLM과의 대화 기록을 모두 평가함으로써 이를 수행합니다.  

AI 기능

애플리케이션 워크플로에 텍스트 기반의 AI 분석을 직접 내장하면 개발자 생산성이 향상됩니다. 당사의 AI 함수는 간단한 SQL++ 문을 사용하여 작동하므로 외부 도구와 사용자 정의 코딩이 필요 없습니다. 익숙한 쿼리 언어 구문을 사용하여 데이터베이스 내에서 바로 변환을 수행하고, 복잡한 분석을 실행하며, LLM 대화에 대한 인사이트를 얻을 수 있습니다.

모든 AI 상호작용에 신뢰 구축하기

조직이 자율 에이전트를 배포하려면 이러한 에이전트가 민감한 데이터를 바탕으로 신뢰할 수 있는 결정을 내릴 것이라는 확신이 필요합니다. Capella AI Services는 조직이 대규모로 신뢰할 수 있는 생성형 AI를 구축할 수 있도록 지원합니다. 당사의 에이전트 카탈로그를 사용하면 상세한 상호작용을 추적하고 감사할 수 있다는 확신을 가지고 AI 에이전트를 배포할 수 있습니다. 데이터와 모델을 조직의 환경 내에 유지함으로써, 생성형 AI의 강력한 기능을 활용하는 동시에 가장 민감한 정보에 대한 완전한 통제력을 유지할 수 있습니다.

카펠라 및 AI 서비스 시작하기

AI 프로토타입에서 프로덕션 수준의 에이전틱 애플리케이션으로 나아가는 여정이 더 이상 복잡하고 단편적일 필요는 없습니다. 카우치베이스 카펠라(Couchbase Capella)는 차세대 지능형 애플리케이션을 구축할 수 있는 통합되고 안전하며 고성능인 플랫폼을 제공합니다. AI 개발 수명 주기를 단순화하고 강력한 거버넌스 기능을 통합함으로써, 더 빠른 혁신을 이루고 자신 있게 AI를 배포할 수 있도록 지원합니다.

문서를 살펴보고 생성형 AI의 요구 사항에 맞춰 설계된 플랫폼에서 프로덕션 수준의 에이전트 애플리케이션 구축을 시작하는 방법을 확인해 보세요.

다음 관련 자료를 확인해 보세요:

• AI 서비스 페이지
• 카우치베이스 카펠라 페이지 
• 벡터 검색 페이지
• 문서: AI 서비스