보안, 거버넌스, 엔드투엔드 혁신을 통해 엔터프라이즈급 에이전트 AI 지원
카우치베이스 AI 서비스의 정식 출시를 발표하면서, 카우치베이스 AI 파트너 에코시스템을 성장 및 개발하여 엔터프라이즈급 에이전트 AI를 구현하기 위한 중요한 발걸음을 내딛습니다. 기업들은 AI 에이전트 구축이 더 이상 단순히 LLM을 선택하는 것이 아니라는 것을 알고 있습니다. 프로덕션급 에이전트 AI를 제공하려면 고품질 데이터에 대한 안전한 액세스, 정형 및 비정형 정보 처리 능력, 지속적인 평가 및 관찰 가능성, 이벤트, 애플리케이션, 디바이스 전반에서 확장 가능한 오케스트레이션이 필요합니다. 또한 규제, 개인정보 보호 및 규정 준수 요건을 충족하기 위한 강력한 거버넌스도 필요합니다.
이것이 바로 에코시스템이 중요한 이유입니다. 단일 공급업체가 엔터프라이즈 AI 에이전트를 구축, 배포 및 관리하는 데 필요한 모든 기능을 제공할 수는 없습니다. 카우치베이스 AI 서비스는 모델과 운영 데이터를 공동 배치하고, 밀리초 수준의 검색을 제공하며, 내장된 벡터 검색, 시맨틱 캐싱 및 모델 호스팅을 제공하여 기반을 제공합니다. 유니티의 에코시스템 파트너는 에이전트 AI 라이프사이클 전반에 걸쳐 특화된 기능으로 이 기반을 확장합니다. 오늘은 안전하고 확장 가능하며 신뢰할 수 있는 에이전트 AI 시스템을 구현하는 데 필수적인 역할을 하는 5개의 출시 파트너인 NVIDIA, Unstructured, Confluent, Arize 및 K2view를 소개합니다.
NVIDIA: NIM 마이크로서비스로 데이터에 엔터프라이즈급 추론 제공
카우치베이스 AI 서비스는 NVIDIA NIM 추론 마이크로서비스와 직접 통합되어 기업이 운영 및 벡터 데이터 바로 옆의 자체 VPC 내에서 고성능 LLM을 실행할 수 있도록 지원합니다. 이러한 코로케이션은 퍼블릭 네트워크를 통한 데이터 이동을 제거합니다:
- 실시간 상담원을 위한 짧은 지연 시간 추론
- 고객 환경 내에서 모델과 데이터를 보호하는 강력한 데이터 보안
- NVIDIA의 검증된 NIM 컨테이너를 사용한 최적화된 GPU 성능
- Llama 3.1, 네모트론, 도메인별 NIM 등의 모델을 지원하는 선택과 유연성
NVIDIA의 가속 추론 플랫폼과 Couchbase의 분산 데이터베이스 및 벡터 스토어를 결합하여 고객은 프로덕션 규모에서 추론, 검색 및 작동하는 에이전트를 구축할 수 있습니다.
비정형: 문서, 파일 및 웹 콘텐츠를 LLM 지원 컨텍스트로 전환하기
대부분의 엔터프라이즈 AI 문제는 PDF, Office 파일, HTML, 이메일, 규정 문서, 로그 등과 같은 비정형 데이터의 수집에서 시작됩니다. 비정형 는 이 문제를 효율적이고 정확하게 해결합니다. Unstructured의 문서 처리 및 추출 파이프라인이 Couchbase AI 서비스와 통합되어 있습니다:
- 고객은 자동화된 구문 분석 및 정제를 통해 대량의 비정형 콘텐츠를 수집할 수 있습니다.
- 도메인 관련 텍스트가 청크화되고 정규화되어 임베드할 수 있도록 준비됩니다.
- 임베딩은 Couchbase 벡터 스토어에 직접 저장되어 RAG 및 에이전트 워크플로우를 위한 통합 컨텍스트 레이어를 생성합니다.
따라서 Couchbase는 엔터프라이즈 AI 애플리케이션을 위한 컨텍스트 플랫폼이 되어 상담원이 모든 양식에서 정보를 불러올 수 있으며 사용자 지정 ETL 코드를 구축하거나 유지 관리하는 데 따르는 복잡성을 제거할 수 있습니다. 비정형과 함께 Couchbase 커넥터를 설정하는 방법에 대한 단계별 안내를 보려면 다음과 같이 하세요. 여기를 클릭하세요.
Confluent: 카우치베이스의 실시간 컨텍스트를 기반으로 하는 스트리밍 에이전트
에이전트 AI는 점점 더 이벤트 중심적입니다. 기업은 고객 행동, 운영 이벤트 및 시스템 신호에 실시간으로 반응하는 에이전트를 원합니다. Confluent가 최근에 도입한 스트리밍 에이전트, 관리형 Apache Kafka®와 Apache Flink®를 기반으로 구축되어 이 새로운 아키텍처 패턴을 위한 강력한 기반을 제공합니다.
카우치베이스는 두 가지 역할을 모두 수행함으로써 핵심적인 역할을 합니다:
- 상담원에게 새로운 운영 및 벡터 데이터를 제공하는 실시간 컨텍스트 플랫폼
- 에이전트가 과거 컨텍스트를 추론할 수 있도록 지원하는 상태 저장 메모리 계층
- Confluent Cloud에서 읽기 전용 외부 테이블을 통해 쿼리할 수 있는 벡터 데이터베이스 중 하나
개발자는 Couchbase와 Confluent를 함께 사용하면 동적 입력에 응답하는 이벤트 기반 에이전트를 오케스트레이션하고, 컨텍스트 기반 메시지를 강화하며, 전체 멀티 에이전트 워크플로에서 일관된 상태를 유지할 수 있습니다. 스트리밍 에이전트를 통한 실시간 에이전트 AI에 대해 자세히 알아보려면 다음을 참조하세요. 여기를 클릭하세요.
Arize: 에이전트 AI를 위한 관찰 가능성, 평가 및 신뢰
기업이 AI 에이전트를 프로덕션으로 확장함에 따라 평가와 가시성이 중요해집니다. 모델 동작, 드리프트, 환각, 도구 사용 실패 또는 검색 품질에 대한 가시성이 없으면 에이전트 시스템은 기업의 신뢰 및 거버넌스 요구 사항을 충족할 수 없습니다.
함께 아리제, 조직은 이득을 얻습니다:
- 에이전트 작업을 위한 자동화된 평가 파이프라인
- 모델 결정 및 도구 호출에 대한 추적 수준의 가시성 확보
- 임베딩 품질, RAG 리콜, 환각률 및 응답 충실도 모니터링
- 엔터프라이즈 AI 표준에 부합하는 거버넌스 및 채점 프레임워크
Arize는 팀이 에이전트가 의도한 대로 작동하는지 확인하고 측정 가능한 증거로 이를 증명할 수 있도록 지원함으로써 Couchbase의 메모리 및 컨텍스트 계층을 보완합니다. 신뢰할 수 있고 프로덕션에 바로 사용할 수 있는 AI 에이전트 애플리케이션에 대해 자세히 알아보기 여기를 클릭하세요.
K2view: AI 라이프사이클 가속화를 위한 합성 데이터 생성
합성 데이터는 특히 실제 데이터가 제한적이거나 민감하거나 불균형한 경우 엔터프라이즈 AI에 필수적인 요소가 되고 있습니다. K2view는 이미 카우치베이스에 저장된 운영 데이터를 기반으로 고급 합성 데이터 생성을 제공합니다.
기업은 이 합성 데이터를 사용하여 다음과 같은 작업을 수행할 수 있습니다:
- 민감한 필드를 마스킹하면서 고품질 훈련 세트 생성
- 에이전트를 엄격하게 테스트하기 위한 균형 잡힌 평가 데이터 세트 생성
- LLM 미세 조정을 위한 도메인별 기준 데이터 생성
- 실제 고객 데이터 노출의 위험 없이 실험 가속화
합성 데이터는 책임감 있는 AI를 위한 기본 구성 요소로 빠르게 자리 잡고 있습니다. K2view는 Couchbase와의 통합을 통해 고객이 에이전트 수명 주기 내내 이 데이터를 안전하고 비공개적으로 지속적으로 생성할 수 있도록 지원합니다. 합성 데이터를 사용하여 AI 애플리케이션을 구축하는 방법에 대한 자세한 내용은 다음과 같이 참조하세요. 여기를 클릭하세요.
엔터프라이즈 에이전트 AI의 미래 지원
카우치베이스 AI 파트너 에코시스템의 지속적인 성장은 에이전트 AI를 기업에 도입하는 데 있어 핵심적인 역할을 합니다. 이러한 파트너와 함께 Couchbase AI 서비스는 최고의 클라우드 AI 플랫폼 및 개발자 도구와의 강력한 통합을 통해 지원됩니다. 고객은 AWS 베드락 및 구글 버텍스 AI와 원활하게 통합할 수 있으며, 구글 클라우드의 개발자는 새로운 구글 MCP 툴박스 통합을 활용하여 모델 컨텍스트 프로토콜을 사용하여 에이전트 개발을 가속화할 수 있습니다. 또한 카우치베이스는 LangChain, LlamaIndex, CrewAI 등 인기 있는 AI 애플리케이션 개발 프레임워크를 지원하여 개발자가 이미 알고 있는 도구와 프레임워크로 구축할 수 있도록 보장합니다. 프레임워크, 클라우드 플랫폼, 개발자 도구에서 지원되는 통합에 대한 전체 개요를 보려면 다음을 참조하세요. Couchbase 개발자 통합 페이지로 이동합니다.
이 에코시스템은 개발자와 기업이 AI 개념을 실제 영향력 있는 애플리케이션으로 전환하는 데 필요한 도구를 제공하려는 Facebook의 노력을 반영합니다.
추가 리소스
