컨플루언트 클라우드 및 카우치베이스의 스트리밍 에이전트로 실시간 에이전트 AI 활용하기

오늘 Confluent와 파트너가 되어 다음과 같은 새로운 기능을 발표하게 되어 매우 기쁘게 생각합니다. 스트리밍 에이전트 및 새로운 실시간 컨텍스트 엔진을 지원합니다. 데이터 처리 및 에이전트 AI 워크플로우를 통합하는 스트리밍 에이전트는 개발자가 통합 플랫폼에서 완전 관리형 Apache Flink® 및 Apache Kafka®를 사용하여 이벤트 기반 에이전트를 구축, 배포 및 오케스트레이션할 수 있도록 지원합니다. 오늘의 새로운 기능은 팀이 신뢰할 수 있는 에이전트를 더 빠르고 쉽게 구축하고, 향상된 통합 가시성을 확보하고, 실시간 컨텍스트를 통해 AI 의사 결정을 개선할 수 있도록 지원함으로써 이를 한 단계 더 발전시킵니다.

Confluent 파트너로서 스트리밍 에이전트의 도입이 왜 그렇게 중요한지 직접 확인했습니다. 모든 AI 문제의 핵심은 데이터 문제입니다. 데이터가 오래되었거나 불완전하거나 액세스할 수 없는 경우 아무리 정교한 에이전트와 대규모 언어 모델(LLM)이라 할지라도 신뢰할 수 있는 결과를 제공할 수 없습니다.

이벤트 중심적이고, 재생 가능하며, 최신의 컨텍스트화된 데이터를 기반으로 하는 확장 가능한 멀티 에이전트 시스템을 구축하기 위한 솔루션이 바로 시장에 요구된 것이었습니다. 개발자는 단순히 고립된 툴을 제공하는 것이 아니라 데이터를 쉽게 소싱하고 프로토타입에서 프로덕션으로 안정적으로 전환하며 에이전트 내부에서 실제로 일어나는 일을 디버그, 평가, 반복하는 데 필요한 가시성을 확보할 수 있는 단일 플랫폼이 필요했습니다.

스트리밍 에이전트를 통한 지능형 컨텍스트 인식 자동화 지원

데이터 스트림에 내장되어 운영 이벤트에 대한 가장 완전하고 정확한 최신 보기에 액세스할 수 있는 스트리밍 에이전트는 비즈니스의 “눈과 귀” 역할을 효과적으로 수행합니다. 대량의 실시간 데이터와 진화하는 컨텍스트를 처리하도록 설계되어 새로운 정보, 정확성, 가시성이 중요한 엔터프라이즈 사용 사례에 이상적입니다. 스트리밍 에이전트는 데이터 스트림을 지속적으로 모니터링하고 다양한 소스의 컨텍스트를 사용함으로써 지능적이고 정보에 입각한 의사 결정을 내리고 더 나은 결과를 이끌어내는 작업을 자동화할 수 있습니다.

가치가 높은 사용 사례에는 다음이 포함됩니다:

• • • 실시간 사기 방지 - 거래 데이터를 지속적으로 수집 및 처리하고, 이상 징후를 감지하며, 의심스러운 활동을 자동으로 차단합니다.
    • 지능형 공급망 최적화 - 재고, 배송 및 수요 신호를 실시간으로 추적하여 재고를 자동으로 재주문하고 배송 경로를 변경하거나 실시간 상황에 따라 생산 일정을 조정할 수 있습니다.
    • 역동적인 고객 지원 - CRM 시스템, 채팅 상호작용 및 지식창고에서 실시간 컨텍스트를 가져와서 즉각적으로 개인화되고 정확한 답변을 제공합니다.

마지막 고객 지원 사용 사례를 좀 더 자세히 살펴보겠습니다. 글로벌 기업이 고객 채팅 이벤트, CRM 업데이트, 제품 재고 신호 및 서비스 상담원 피드백을 Confluent Cloud로 스트리밍한다고 상상해 보세요. Flink에 구축된 스트리밍 에이전트:

• • • 라이브 채팅 이벤트 사용
    • 컨텍스트(고객 기록, 최근 구매, 미결 티켓)로 더욱 풍부한 정보 제공
    • 임베딩 모델을 통해 채팅을 임베드합니다.
    • Couchbase 8.0에서 밀리초 단위의 벡터 검색 조회를 수행하여 의미적으로 관련된 과거 대화, 지식창고 문서 및 지원 작업을 찾습니다.
    • MCP를 통해 실시간으로 툴을 호출합니다(예: 티켓 업데이트 API, 서비스 스케줄링 툴).
    • RAG를 지원하는 LLM을 통해 응답을 생성합니다.
    • 감사/분석을 위해 결과를 Couchbase(대화 상태 업데이트) 및 Kafka 토픽으로 다시 피드합니다.

그 결과 컨텍스트 인식, 실시간, 시맨틱+벡터 기반, 자동화, 완벽한 관찰이 가능한 고객 지원 에이전트가 탄생했습니다. Couchbase의 기본 데이터 스택은 가장 최신의 콘텐츠와 시맨틱 검색을 보장하며, Confluent 스트리밍 엔진은 이벤트 중심 흐름, 도구 오케스트레이션 및 프로덕션급 규모를 보장합니다.

Q4’25 릴리스의 새로운 기능

스트리밍 에이전트를 사용하면 모든 엔지니어는 모델 추론, MCP를 사용한 도구 호출, RAG용 임베딩, 내장 ML 함수, 외부 테이블 및 검색, 연결에 대한 기본 지원을 통해 익숙한 Flink API를 사용하여 안전하고 신뢰할 수 있는 에이전트를 빌드할 수 있습니다. Confluent는 이러한 기능을 지속적으로 확장하여 더욱 간소화된 개발자 경험을 제공하고 있습니다. 

• • • 상담원 정의 - 단 몇 줄의 코드로 빠르게 에이전트를 구축하고 도구 호출을 반복적으로 평가하고 조정하여 더 나은 결과로 더 정교한 작업을 수행할 수 있습니다.
    • 관찰 가능성 및 디버깅 - 모든 상담원 작업에 대한 가시성을 확보하고, 문제를 쉽게 진단하여 해결을 가속화하고, 장애로부터 안정적으로 복구하세요.
    • 실시간 컨텍스트 엔진 - MCP(모델 컨텍스트 프로토콜)를 사용하여 스트리밍 에이전트는 물론 다른 모든 AI 에이전트 및 애플리케이션에 새로운 컨텍스트를 제공하여 의사 결정과 결과물의 품질을 개선하세요.

Couchbase 8.0과의 시너지: 에이전트 AI를 위한 통합 데이터 플랫폼

스트리밍 에이전트 프레임워크는 에이전트 AI를 위한 오케스트레이션과 로직을 제공하지만, 기본 데이터 플랫폼도 그에 못지않게 중요합니다. 이것이 바로 Couchbase가 개입하는 부분이며, 최근 출시된 Couchbase 8.0. 알아야 할 사항은 다음과 같습니다:

• • • 하이퍼스케일 벡터 인덱싱: Couchbase 8.0에 지원 도입 수십억 규모의 벡터 검색 워크로드 밀리초의 지연 시간과 조정 가능한 리콜 정확도를 제공합니다. 독립적인 벤치마킹 결과 28ms 지연 시간(66% 리콜)에서 초당 19,000건 이상의 쿼리를 처리했으며, 더 높은 리콜 설정에서 강력한 결과를 보여주었습니다. 
    • 통합 워크로드 지원: 벡터 검색은 애드온이 아니라 오프라인 우선 앱을 위한 키-값 액세스, JSON 문서, 분산 캐싱, 검색(벡터, 텍스트, GEO.), 분석, 모바일 동기화를 처리하는 동일한 플랫폼의 일부입니다. 즉, 여러 데이터 사일로를 연결하지 않고도 운영, AI/에이전트, 분석 워크로드가 공존할 수 있습니다. 
    • 실시간 컨텍스트, 최신성 및 신뢰: 에이전트 AI는 시의적절하고 정확한 컨텍스트에 의존합니다. 벡터 검색 레이어가 오래되었거나 연결이 끊기거나 지연 시간이 길면 다운스트림 에이전트에 문제가 발생합니다. Couchbase 8.0은 스트리밍 에이전트 패턴의 핵심인 새로운 임베딩, 실시간 문서 업데이트, 실시간 인덱스 새로 고침을 제공하는 기능을 강화했습니다.

스트리밍 에이전트 + 카우치베이스 = 대규모 실시간 에이전트 AI

이번 파트너십이 어떻게 진행되고 있으며, 차세대 엔터프라이즈 에이전트 시스템을 위한 강력한 기반을 제공한다고 생각하는 이유는 다음과 같습니다:

1. 1. 1. 실시간 수집 및 스트리밍 컨텍스트: Kafka + Flink + 스트리밍 에이전트를 실행하는 Confluent Cloud를 사용하면 운영 이벤트가 실시간으로 캡처, 처리, 보강 및 변환됩니다.
      2. 스트리밍 에이전트가 내장된 AI 워크플로: 개발자는 Flink API를 사용하여 ML 함수를 내장하고, 도구를 호출하고, LLM 또는 기타 모델을 호출하고, 비정형 콘텐츠를 벡터화하고, 스트리밍 컨텍스트를 외부 테이블과 조인하고, 워크플로우를 오케스트레이션할 수 있습니다.
      3. 카우치베이스의 벡터 검색 피드: 최신 데이터, 임베딩, 문서 업데이트 및 컨텍스트가 Couchbase에 라이브됩니다. 스트리밍 에이전트는 Couchbase 벡터 인덱스에 연결하여 에이전트에게 시맨틱+문맥 검색을 제공함으로써 RAG, 문맥 챗봇, 실시간 의사 결정 로직, 이상 징후 조사 등을 강화할 수 있습니다.
      4. 폐쇄 루프, 적응형 에이전트 시스템: 스트리밍 파이프라인은 상담원의 결과와 업데이트를 Couchbase에 피드백할 수 있습니다. 시간이 지남에 따라 에이전트는 학습하고 조정하며 컨텍스트 저장소가 업데이트됩니다. 통합 플랫폼은 일회성 ML 파이프라인이 아닌 프로덕션 규모의 운영 애플리케이션을 지원합니다.

추가 리소스

• • • 릴리스에 대한 Couchbase 블로그 살펴보기 Couchbase 8.0: 하이퍼스케일 AI 애플리케이션을 위한 통합 데이터 플랫폼.
    • Confluent 블로그 읽기 Confluent Cloud의 스트리밍 에이전트 소개.
    • Confluent에 대해 자세히 알아보기 스트리밍 에이전트 를 클릭하고 스트리밍 에이전트 빠른 시작.
    • 다음 문서를 참조하세요. 완전 관리형 카우치베이스 커넥터 Confluent Cloud용.

무료 카우치베이스 카펠라 계정으로 시작하기 여기.