고객들로부터 인공지능(AI), 제너레이티브 AI, 벡터 검색, 엣지 컴퓨팅의 엄청난 가치와 중요성에 대한 이야기를 계속 듣고 있습니다. 이러한 기술은 데이터를 수집하고 실행 가능한 인사이트를 제공하는 데 더욱 중요해지고 있습니다. 동시에 센서에서 스트리밍되는 데이터를 기반으로 실시간으로 의사결정을 내리는 IoT 기기가 급속도로 확장되고 있습니다.
많은 조직이 향상된 고객 경험을 제공하기 위해 이러한 기술 통합에 본격적으로 뛰어들고 있습니다. 이들은 애플리케이션의 목표를 달성하기 위한 수단으로 AI를 사용하여 항상 빠르고, 가용하며, 실시간으로 상호 작용하고, 상황에 맞게 참여할 수 있도록 하고 있습니다.
기업들은 AI에 대한 기대와 망설임이 공존합니다.
AI의 가능성에 대한 기대감이 고조되고 있지만 기업들은 신중한 접근 방식을 취하고 있습니다. 이러한 기업들은 데이터 보안, 규정 준수, AI 사용과 관련된 법적 문제 때문에 주저하고 있습니다. 이들은 AI 기반 애플리케이션을 활용하고 관리하는 최선의 방법을 계속 평가하고 있습니다. 아직 해결해야 할 개인 정보 보호, 보안 및 정확성 측면이 남아 있지만, AI를 통해 실현될 수 있는 잠재적 가능성은 놓치기에는 너무 흥미진진하다는 것은 분명합니다.
AI에는 신뢰할 수 있는 데이터가 필요합니다.
데이터는 AI 모델 학습의 생명선입니다. LLM에 제공할 수 있는 최신의 깨끗하고 신뢰할 수 있는 데이터가 많을수록 응답의 신뢰도가 높아집니다. 또한 AI 모델에 더 많은 데이터를 제공할수록 더 정확도가 높아집니다. 데이터를 처리하는 방법과 위치는 AI 기반 애플리케이션의 속도와 가용성에 영향을 미칩니다.
엣지 컴퓨팅을 활용하여 속도와 가용성 개선하기
클라우드에 데이터를 저장하고 처리하는 경우 모바일 디바이스의 속도와 가용성에 문제가 발생할 수 있습니다. 액세스 포인트에 대한 가시성이 용이하다면 원활할 수 있지만, 비디오와 분석을 동시에 수행하려는 경우 셀룰러/5G를 넘어가는 것은 고통스러울 수 있습니다. 특히 클라우드에서 엣지로 이동했다가 다시 돌아오려면 상당한 대역폭이 필요합니다. 혼잡한 경기장, 유람선, 비행기, 현장 근무자 등 연결성이 문제가 되는 지역에서 사용할 수 있습니다.
Couchbase는 벡터 검색과 함께 클라우드에서 엣지까지 데이터베이스를 제공하여 엣지에서 AI 모델과 직접 통합할 수 있습니다. 이를 통해 개발자는 클라우드에 데이터를 저장하고 처리할 수 있습니다(카펠라) 및 데이터베이스가 내장된 기기(카우치베이스 라이트). T소매점, 유통 센터, 병원 등 사용하려는 장소와 가까운 곳에 Couchbase 데이터베이스가 있을 수 있습니다. 둘 다 벡터 검색을 지원하며 장치 간 및 최대 클라우드까지 자동으로 동기화합니다.
엣지 컴퓨팅의 기본을 사용해 데이터를 로컬에서 처리하면 클라우드와 인터넷 연결에 대한 의존도가 훨씬 낮아집니다. 데이터베이스를 디바이스 자체(휴대폰, 태블릿, 키오스크, POS, IoT 디바이스)에 배치하면 고객은 100% 가용성과 벡터 검색에 대한 보장된 응답 시간을 달성할 수 있습니다.
실제 벡터 검색의 예
한 가지 예 실제 벡터 검색 는 스캔할 수 없는 품목을 처리할 때 식료품점 셀프 계산대에 있습니다. 현재 프로세스는 항목을 입력하고 화면에서 올바른 항목을 선택한 다음 장바구니에 담는 것입니다. 벡터 검색을 사용하면 시각적 시맨틱 검색을 통해 물건을 찾을 수 있어 이러한 패러다임이 바뀝니다. 카운터에 물건을 올려놓으면 카메라가 스캔하여 인식한 다음 가방에 넣으면 됩니다. 10~20초가 걸리던 이 과정이 2초로 단축됩니다. 처음에는 짧은 시간처럼 보이지만 식료품점에서 긴 줄을 서 있는 고객이나 공항이나 병원에 들어오는 수백 명의 승객을 처리할 때 그 숫자는 급하게 늘어날 수 있습니다.
모바일 디바이스의 벡터 검색과 이미지 인식도 큰 영향을 미칠 것입니다. 항목 자체에 기반한 항목 검색은 바코드보다 훨씬 더 효율적으로 작동합니다. 바코드는 시간이 지나면 색이 바래고 구겨지며 변조될 수 있지만, 벡터 검색은 상품 자체를 인식하고 프로세스 속도를 높여 고객과 소매업체 모두에게 더 좋습니다.
이러한 기능의 또 다른 예로는 보험금 청구가 있습니다. 보험 가입자는 차량에 발생한 손상을 사진으로 찍어 어떤 부품을 수리해야 하는지, 어느 정비소로 가져갈 수 있는지 빠르게 파악할 수 있습니다. 벡터 및 이미지 검색의 잠재적인 사용 사례는 무수히 많습니다.
자연어 벡터
LLM은 자연어로부터 벡터를 생성하는 데 탁월합니다. 오디오는 벡터 검색 사용자가 찾고자 하는 내용에 대해 더 많은 컨텍스트를 주입하여 정확도를 향상시키는 또 다른 메커니즘을 제공합니다. 검색과 쿼리는 상당히 엄격하지만 벡터는 더 많은 유연성을 제공합니다.
예를 들어 특정 항목을 검색하는 대신 이렇게 말할 수 있습니다: "오늘 저녁을 만들 건데, 이탈리아 음식을 좋아하고 어른 두 명과 아이 세 명이 올 건데, 제가 가지고 있는 재료로 뭘 만들면 좋을까요?"라고 말할 수 있습니다. LLM과 벡터 검색을 통해 오디오를 통해 시스템과 자연스럽게 대화할 수 있다면 훨씬 더 상세하고 정확한 정보를 얻을 수 있습니다.
결론
벡터 검색과 엣지 컴퓨팅은 정말 혁신적인 기능입니다. 엣지 인프라는 속도와 로컬화된 처리의 필요성이 증가함에 따라 많은 솔루션에서 중요한 부분이 될 것입니다. IT 리더는 비즈니스 리더와 협력하여 가능한 것을 시각화하고 이해할 수 있도록 도와야 합니다. 잠재적인 사용 사례를 구상하고 조직에서 이를 사회화하는 능력은 IT의 중요한 역할이며 조직에 큰 도움이 됩니다.
-
- 자세히 알아보기 카우치베이스 및 벡터 검색
- 카펠라 무료 사용 시작하기 지금 벡터 검색을 사용해 보세요