요약
조직이 AI 실험에서 실제 운영으로 전환함에 따라 병목 현상은 모델 자체보다는 데이터, 메모리, 통합에서 발생하는 경우가 많습니다. AI 데이터 평면은 에이전트 메모리, 검색 증강 생성(RAG), 도구 오케스트레이션 및 거버넌스를 위한 일관되고 관리되는 계층을 제공하여 클라우드부터 엣지 및 모바일 장치까지 확장함으로써 이러한 문제를 해결합니다. AI 데이터 평면이 무엇인지, AI 스택에 어떻게 통합되는지, 기존 데이터 인프라와 어떻게 다른지 이해하면 팀이 AI 전략을 보다 의도적으로 설계하고 에이전트의 기능을 제한하는 아키텍처 선택을 피하는 데 도움이 됩니다.
AI 데이터 평면이란 무엇입니까?
AI 데이터 플레인은 AI 에이전트에게 영구 기억, 도구 및 데이터에 대한 통제된 액세스, 클라우드에서 엣지까지 일관된 컨텍스트를 제공하는 데이터 계층입니다. 이는 교차점에서 위치합니다 대규모 언어 모델(LLM), 도구 및 운영 데이터를 포함하여 에이전트가 더 유용하고 안정적이며 즉시 사용 가능한 상태가 되도록 합니다.
더 구체적으로 말하면, AI 에이전트가 작업을 잘 수행하는 데 필요한 것을 관리하는 아키텍처의 일부입니다: 장기 기억 저장 및 검색, 구조화 및 비구조화 데이터에 대한 에이전트 연결, 호출할 수 있는 도구 및 API 관리, 그리고 이러한 모든 상호 작용 전반에 걸쳐 거버넌스, 보안 및 일관성 시행.
AI 애플리케이션을 위한 신경계라고 생각하시면 됩니다. 모델은 추론과 언어를 제공하고, AI 데이터 평면은 감각과 기억, 즉 모델을 유용하게 만드는 실제 정보, 이력 및 도구를 제공합니다.
AI 데이터 플레인 없이는 대부분의 AI 에이전트는 수명이 짧고 상태가 없는 프롬프트에 불과합니다. 언어는 잘 이해할 수 있지만 컨텍스트를 잊고 데이터에 대한 접근이 피상적이며, 거버넌스가 어렵고 프로덕션 환경 전반에 걸쳐 확장하기 어렵습니다.
AI에 데이터 평면이 필요한 이유, AI의 데이터 평면이 무엇인지에 대한 자세한 내용, AI의 데이터 평면이 어떻게 작동하는지에 대해 계속 읽어보세요. AI 스택, 기존 데이터 인프라와의 비교, 그리고 지원하는 사용 사례.
- AI가 데이터 평면을 필요로 하는 이유
- AI 데이터 플레인이 하는 일
- AI 데이터 플레인이 스택에 어떻게 들어맞는지
- AI 데이터 플레인 vs. 기존 데이터 인프라
- 사용 사례
- 왜 지금 개념을 정의하는가?
- 주요 내용 및 관련 리소스
- 자주 묻는 질문
AI가 데이터 평면을 필요로 하는 이유
기업들은 AI 데모에서 실제 운영 환경으로 전환하는 것이 모델 자체보다는 데이터, 메모리, 통합에 더 많은 영향을 받는다는 것을 배우고 있습니다. 네 가지 반복적인 문제는 전용 데이터 플레인이 중요한 이유를 설명합니다.
- 상태 비저장 상호작용 에이전트는 프롬프트에 응답하지만, 몇 분 전의 일조차 기억하지 못하며, 몇 주 전의 일은 더 말할 것도 없습니다. 이는 연속성이 중요한 실제 워크플로우에서 에이전트를 불안정하게 만듭니다.
- 파편화된 데이터 및 도구: 각 AI 실험은 일반적으로 맞춤형 방식으로 다양한 데이터베이스, API 및 내부 시스템에 연결됩니다., 사일로 생성 그리고 중복되어 유지보수하기 어려운 패치워크 아키텍처가 됩니다.
- 일관되지 않은 진실 에이전트는 어떤 시스템을 언제 질의하느냐에 따라 진실의 다른 버전을 볼 수 있으며, 이는 출력에 대한 신뢰를 떨어뜨리고 시간이 지남에 따라 시스템에 대한 확신을 약화시킵니다.
- 거버넌스 격차 규제되거나 고객 대면 환경에서는 에이전트가 볼 수 있는 데이터, 사용할 수 있는 도구, 그리고 이러한 선택이 감사되는 방식을 제어하는 것이 특히 중요하며, 중앙 집중식 계층 없이는 거의 불가능합니다.
AI 데이터 플레인은 일관되고, 관리되며, 지속적인 데이터, 도구 및 메모리 계층을 제공함으로써 이러한 네 가지 문제를 모두 해결합니다. 각 에이전트를 모든 시스템에 직접 연결하는 대신, 팀은 에이전트를 AI 데이터 플레인에 연결하고 복잡성을 그곳에서 관리합니다.
AI 데이터 플레인이 하는 일
성숙한 AI 데이터 플레인은 일반적으로 다섯 가지 핵심 책임을 처리합니다:
영구 에이전트 메모리
에이전트는 과거의 상호 작용, 결정 및 결과를 기억할 수 있을 때 훨씬 더 능숙해집니다. 이러한 기억력을 통해 고객, 자산 또는 프로세스에 대한 장기 프로필을 구축하고, 반복적인 질문을 피하고, 시간이 지남에 따라 추천을 개선하며, 채널 및 장치 전반에 걸쳐 관련 기록을 공유할 수 있습니다.
LLM을 위한 컨텍스트와 검색
현대 AI 시스템은 검색 증강 생성(RAG)에 크게 의존하며, 관련 데이터를 기업 시스템에서 끌어와 프롬프트에 넣어서 모델이 이를 바탕으로 추론할 수 있도록 합니다. AI 데이터 평면은 운영 데이터와 분석 데이터를 색인하여 빠르게 검색하고, 하이브리드 검색을 지원하며, 모든 사용 사례에 대한 맞춤형 커넥터 대신 서로 다른 에이전트들을 위한 통합 검색 경로를 제공합니다.
도구, 액션, 오케스트레이션
에이전트는 단순한 챗봇이 아닙니다. 시스템 업데이트, 워크플로우 트리거, API 호출, 다른 에이전트 조정과 같은 작업을 수행합니다. AI 데이터 평면은 도구를 등록하고 모델이 이해할 수 있는 방식으로 설명하는 체계적인 방법을 제공합니다., 어떤 에이전트가 이를 호출할 수 있는지 제어, 그리고 안전 및 규정 준수를 위해 해당 작업을 기록합니다.
거버넌스, 보안, 관측 가능성
AI 시스템이 성숙함에 따라 이러한 우려는 협상 불가능한 것이 됩니다. AI 데이터 평면은 접근 제어, 정책 시행, 감사, 데이터 계보 및 모니터링을 중앙 집중화할 수 있는 곳으로, 이러한 규칙을 배포되는 모든 에이전트나 애플리케이션에서 다시 구축할 필요가 없습니다.
클라우드-투-엣지 일관성
가장 가치 있는 것들 중 다수는 AI 애플리케이션이 엣지에서 실행됩니다모바일 기기, 소매점, 공장 현장 또는 차량에서 사용될 수 있습니다. AI 데이터 평면은 클라우드, 데이터 센터 및 엣지 위치 전반에서 데이터를 동기화하고 기억하며, 오프라인 또는 간헐적인 연결을 쉽게 처리하고, 에이전트가 사용자 근처에서 실행될 때도 보안 및 거버넌스 정책을 적용합니다.
AI 데이터 플레인이 스택에 어떻게 들어맞는지
현대 AI 아키텍처는 각기 다른 역할을 수행하는 세 개의 독립적인 계층으로 이해할 수 있습니다. AI 데이터 평면이 어디에 위치하는지, 그리고 왜 그 위치를 차지하는지를 이해하면 AI의 가치를 상당 부분 설명할 수 있습니다.
모델 계층
맨 위에는 모델 계층이 있습니다. 파운데이션 모델, 파인튜닝된 변형, 그리고 추론 능력과 언어 능력을 제공하는 프롬프트 템플릿. 이것이 대부분의 사람들이 AI를 생각할 때 머릿속에 그리는 모습, 즉 지능입니다. 하지만 모델 자체는 상태를 갖지 못합니다. 모델은 주어진 것을 처리하고, 응답을 생성하며, 아무것도 기억하지 못합니다. 외부에서 맥락을 공급하지 않는 한, 모든 상호작용은 처음부터 시작됩니다.
애플리케이션 및 에이전트 계층
다른 한 축에는 애플리케이션 및 에이전트 계층이 있습니다. 사용자 경험, 도메인별 에이전트, 자동화된 워크플로우가 AI를 실질적으로 유용하게 만듭니다. 이곳이 비즈니스 로직이 살아있는 곳입니다. 고객 서비스 어시스턴트, 현장 기술자의 모바일 도구, 내부 지식 에이전트입니다. 이러한 애플리케이션은 AI가 무엇을 해야 하고 누구를 위해 해야 하는지를 정의하지만, 이를 잘 수행하려면 적절한 데이터와 메모리에 액세스하는 데 전적으로 달려 있습니다.
AI 데이터 평면: 그 사이의 계층
AI 데이터 평면은 중간에 위치합니다. 나머지 두 부분이 함께 작동하도록 하는 연결 계층입니다. 상향으로는 모델에 유용하고 근거 있는 응답을 생성하는 데 필요한 검색된 컨텍스트, 메모리, 도구 스키마 및 데이터를 공급합니다. 하향으로는 에이전트 및 애플리케이션에서 생성된 이벤트, 상태 업데이트, 새 메모리 및 작업을 수신하며, 다음 상호 작용에서 사용할 수 있도록 저장하고 관리합니다.
이 중간 계층이 없으면 모든 에이전트는 필요한 모든 데이터 소스, 도구 및 시스템에 직접 연결해야 하며, 이는 불안정하고 관리하기 어려우며 재사용할 수 없는 맞춤형 통합으로 이어집니다. AI 데이터 평면을 사용하면 해당 복잡성이 한 곳에서 한 번 관리되고 이를 필요로 하는 모든 에이전트 및 애플리케이션 전체에서 공유됩니다.
이러한 분리는 의미 있는 유연성을 제공하기도 합니다. AI 데이터 플레인이 모델이 소비하는 안정적인 인터페이스를 제공하기 때문에 팀은 데이터 소스를 재배선할 필요 없이 모델을 교체하거나 업그레이드할 수 있습니다. 데이터 플레인이 이미 검색, 메모리 및 도구 액세스를 처리하고 있기 때문에 팀은 데이터 액세스 로직을 처음부터 다시 구축할 필요 없이 새 에이전트와 사용자 경험을 배포할 수 있습니다. 또한 각 에이전트 또는 워크플로에 대해 별도로 구현하는 대신 모든 AI 경험에 걸쳐 일관된 보안, 개인 정보 보호 및 거버넌스 정책을 시행할 수 있습니다.
AI 데이터 플레인 vs. 기존 데이터 인프라
AI 데이터 평면을 비교하는 것은 당연합니다 데이터 웨어하우스, 데이터 레이크 또는 데이터베이스. 이러한 시스템은 필수적이지만, 일차적으로 에이전트와 모델을 주요 소비자로 염두에 두고 설계된 것은 아닙니다.
기존 데이터 인프라는 애플리케이션과 사용자 쿼리를 위해 구축되었습니다. AI 데이터 플레인은 에이전트에게 서비스를 제공하기 위해 특별히 구축되었습니다. AI 워크로드에 맞게 메모리, 검색, 도구 및 거버넌스를 결합하며, 비즈니스 인텔리전스(BI) 보고 또는 트랜잭션 기록 보관보다는 RAG, 도구 사용 및 에이전트 오케스트레이션 패턴에 최적화되었습니다.
| 기능 | 전통적인 데이터 인프라 | AI 데이터 평면 |
|---|---|---|
|
1차 소비자 |
애플리케이션과 사람 분석가 |
AI 에이전트와 모델 |
|
메모리/상태 |
에이전트 기억에 대한 네이티브 개념 없음 |
지속적이고 중앙 집중식인 에이전트 메모리는 최고 수준입니다. |
|
검색 모델 |
SQL 쿼리, 일괄 내보내기, 대시보드 |
하이브리드 검색, 벡터 검색, RAG 파이프라인 |
|
도구/작업 지원 |
해당 없음 | 접근 제어 및 로깅이 있는 등록된 도구 레지스트리 |
|
거버넌스 접근 방식 |
역할 기반 액세스, 쿼리 로그 | 정책 시행, 작업 감사, AI 워크로드에 대한 데이터 계보 |
|
엣지 지원 |
제한적이거나 우선순위가 낮은 | 기본 동기화, 우아한 재연결 |
|
최적화 대상 |
처리량, 스토리지 효율성, 쿼리 속도 | 낮은 지연 시간 검색, 풍부한 컨텍스트, 에이전트 신뢰성 |
기존 기술을 사용하여 AI 데이터 플레인과 유사한 것을 조립할 수 있지만, 핵심은 사용자 정의 코드로 엮인 분리된 구성 요소의 모음이 아니라 명확한 책임이 있는 일관된 계층으로 취급하는 것입니다.
사용 사례
AI 데이터 평면은 AI 에이전트가 복잡한 실제 환경: 다중 데이터 소스, 지속적인 컨텍스트, 라이브 통합 및 연결성 또는 거버넌스를 당연하게 여길 수 없는 환경에서 작동해야 할 때 가장 가치가 있습니다. 세 가지 시나리오에서 그 실제 모습을 보여줍니다.
고객 지원 코파일럿
글로벌 기업은 웹 채팅, 이메일, 전화 등 다양한 채널에서 고객 문의를 지원하는 AI 어시스턴트를 원합니다. 공유 데이터 계층이 없으면 각 채널은 독립적으로 운영됩니다. 채팅 담당자는 지난주 통화에서 논의된 내용을 알 수 없으며, AI는 고객의 현재 주문 상태나 계정 기록에 접근할 수 없습니다.
AI 데이터 평면을 사용하면 조종사가 지속적으로, 모든 고객에 대한 통합된 시각과거 대화, 열린 티켓, 구매 이력, 해결된 문제 등 어떤 채널을 통해 들어왔는지에 상관없이 관련 컨텍스트를 고려합니다. 고객이 연락을 하면 AI는 몇 밀리초 안에 관련 컨텍스트를 검색하여 지원 담당자에게 제공하고, 관리되는 도구 레지스트리를 통해 작업을 수행합니다(예: 주문 업데이트, 콜백 예약, 사례 에스컬레이션). 지역 개인정보 보호 규칙은 데이터 플레인 수준에서 시행되므로 AI는 각 관할권에서 표시가 허용된 내용만 표시합니다. 시간이 지남에 따라 각 상호 작용의 결과는 고객의 장기 기억 프로필의 일부가 되어 향후 모든 상호 작용을 더욱 정확하게 만듭니다.
현장 서비스 애플리케이션
기술자가 산업 장비 서비스를 위해 파견됩니다 네트워크 연결이 불안정한 원격지. 그들의 모바일 AI 비서는 장비 유지보수 이력, 알려진 고장 패턴, 센서 판독값 및 단계별 수리 절차에 액세스해야 합니다. 하지만 라이브 클라우드 연결이 보장되지 않을 수 있습니다.
엣지 동기화 기능이 있는 AI 데이터 평면은 기술자가 도착하기 전에 관련 데이터와 메모리를 장치에 미리 준비함으로써 이 문제를 해결합니다. 이 보조 장치는 완전히 오프라인으로 작동합니다. 질문에 답하고, 수리를 안내하며, 로컬에서 사용할 수 있는 컨텍스트를 기반으로 이상 징후를 표시합니다. 기술자가 메모, 사진 및 관찰 내용을 캡처하면 해당 내용은 장치에 새로운 이벤트 및 메모리로 저장됩니다. 연결이 복구되면 AI 데이터 평면은 모든 것을 중앙 시스템으로 다시 동기화하여 기술자의 수동 조정 없이 엔터프라이즈 기록을 일관되고 최신 상태로 유지합니다.
엔터프라이즈 지식 에이전트
대규모 조직에서 직원들이 위키, 공유 드라이브, 티켓 시스템, 이메일 아카이브에 흩어져 있는 정책, 절차, 프로젝트 문서, 조직 내부 지식을 찾기 위해 사용할 내부 AI 에이전트를 원합니다. 도전 과제는 에이전트를 구축하는 것이 아니라 Agent가 정확하고 최신 정보를 검색하도록 보장 그리고 누가 볼 수 있는지 존중합니다.
AI 데이터 플레인은 두 가지 모두를 처리합니다. 여러 내부 시스템의 콘텐츠를 통합 검색 계층으로 인덱싱하여 에이전트가 키워드 매칭, 의미론적 유사성 및 구조화된 필터를 결합한 하이브리드 검색을 통해 쿼리할 수 있도록 합니다. 이를 통해 각 질문에 가장 관련성 높은 결과를 제공합니다. 액세스 제어 정책은 데이터 플레인 수준에서 시행됩니다. 보상 등급에 대해 질문하는 계약자와 동일한 질문을 하는 HR 관리자는 다른 답변을 받게 되는데, 이는 에이전트가 개별적으로 그렇게 프로그래밍되었기 때문이 아니라 기본 데이터 계층이 모든 요청에 대해 해당 규칙을 일관되게 시행하기 때문입니다.
왜 지금 개념을 정의하는가?
조직이 시범 단계에서 실제 운영 단계로 나아감에 따라 성공하는 아키텍처 패턴은 표준이 되는 경향이 있습니다. “AI 데이터 평면”은 스택의 중요하지만 종종 암묵적인 부분에 대한 공유된 언어를 팀에게 제공하기 때문에 유용한 용어입니다.
계층에 이름을 지정하는 것은 모델, 데이터 및 애플리케이션 간의 관심사를 분리하는 데 도움이 됩니다. 이는 일회성 프로토타입보다는 영구 메모리, 거버넌스 및 엣지 기능에 대한 투자를 장려합니다. 또한 사양 시트에 나열된 기능 수보다는 이러한 요구 사항을 얼마나 잘 지원하는지에 따라 플랫폼을 평가하기 위한 프레임워크를 제공합니다.
AI 데이터 평면을 명확하게 정의하면 팀이 AI 전략을 보다 의도적으로 설계하고 향후 에이전트가 수행할 수 있는 능력을 제한하는 아키텍처 선택을 피할 수 있습니다.
주요 내용 및 관련 리소스
- AI 데이터 평면은 클라우드 및 엣지 환경 전반에 걸쳐 AI 에이전트를 올바른 정보, 도구 및 맥락에 연결하는 관리되는 데이터 및 메모리 계층입니다.
- 영구 에이전트 메모리, LLM 검색 및 RAG, 도구 및 액션 오케스트레이션, 거버넌스 및 관찰 가능성, 클라우드-엣지 일관성이라는 다섯 가지 핵심 책임을 처리합니다.
- 기존 데이터 인프라와 달리, 애플리케이션과 인간 분석가가 아닌 에이전트와 모델을 최우선 소비자로 설계되었습니다.
- 잘 설계된 AI 데이터 평면은 모델에 구애받지 않고 벤더에 중립적이며, 에이전트가 데이터 및 도구와 상호 작용하는 방식을 표준화하는 데서 가치를 얻습니다.
- AI를 프로덕션 환경으로 전환하는 조직의 경우, AI 데이터 플레인을 일관된 아키텍처 계층으로 취급하는 것이 맞춤형 통합의 누더기보다 에이전트의 안정적인 확장을 가능하게 합니다.
관련 자료:
방문하기 개념 허브 AI 데이터 평면 및 관련 주제에 대해 자세히 알아보세요.
자주 묻는 질문
AI 데이터 플레인이 엔터프라이즈 AI의 프로덕션 출시 시간을 어떻게 단축하는가 이는 상당한 감소를 가져옵니다. 각 에이전트에 대해 맞춤형 데이터 통합을 구축하는 대신, 팀은 AI 데이터 평면에 한 번만 연결하면 배포하는 모든 AI 애플리케이션에서 메모리, 검색, 도구 액세스 및 거버넌스를 상속받게 됩니다.
AI 데이터 평면은 데이터 플랫폼과 어떻게 다릅니까? 데이터 플랫폼은 애플리케이션과 인간 분석가를 위한 저장, 처리, 분석을 관리합니다. AI 데이터 평면은 에이전트와 모델이 데이터를 소비하고 생성하는 방식에 특별히 초점을 맞춥니다. 차이점은 소비자입니다. 기존 데이터 플랫폼은 사람과 앱에 서비스를 제공하고, AI 데이터 평면은 에이전트와 모델에 서비스를 제공합니다.
모든 AI 프로젝트에 AI 데이터 플레인이 필요합니까? 아니요. 단일 데이터 소스와 상태 비저장 사용 사례를 가진 초기 프로토타입의 경우 기존 인프라로도 충분한 경우가 많습니다. 하지만 조직이 기억하고, 여러 시스템에 걸쳐 작동하며, 프로덕션 워크플로우와 통합되는 에이전트를 원하게 되면 AI 데이터 평면은 선택적 애드온이 아니라 고유하고 가치 있는 아키텍처 레이어가 됩니다.
AI 데이터 플레인이 특정 모델이나 공급업체에 종속되나요? 아니요. 잘 설계된 AI 데이터 평면은 모델에 구애받지 않으며 시간이 지남에 따라 여러 모델과 공급자를 지원합니다. 그 가치는 모델이 무엇인지에 관계없이 에이전트가 데이터 및 도구와 상호 작용하는 방식을 표준화하는 데서 나옵니다. 이러한 모델 독립성은 아키텍처의 나머지 부분을 다시 배선하지 않고도 개선됨에 따라 새 모델을 더 쉽게 채택할 수 있도록 합니다.
AI 데이터 평면은 엣지 및 모바일 AI를 어떻게 지원하는가? 이는 장치와 엣지에서 실행되는 에이전트에게 필요한 데이터 및 메모리에 대한 로컬 동기화 액세스를 제공하여 클라우드 연결 없이도 의사 결정을 내릴 수 있게 합니다. 연결이 복원되면 AI 데이터 플레인은 클라우드에 적용되는 것과 동일한 보안 및 거버넌스 정책을 적용하면서 조정 및 동기화를 처리합니다.
