엣지 AI와 데이터베이스의 역할

엣지 AI란 무엇인가요?

엣지 AI는 모바일, IoT, 그리고 대화형 키오스크와 같은 맞춤형 임베디드 애플리케이션 등 엣지에서 실행되는 애플리케이션에 인공지능을 활용하는 것을 의미합니다.

이 개념은 AI 처리와 결합합니다 엣지 컴퓨팅, 컴퓨팅 자원과 데이터 저장을 네트워크의 근접한 곳으로 가져와, 이를 소비하는 애플리케이션과 더 가깝게 위치시키는 기술 아키텍처. 근접 데이터 센터나 모바일 등에서 로컬로 AI와 데이터 처리를 실행함으로써 사물인터넷 기기, 인터넷 접속이나 AI 모델 접근을 위해 인터넷에 의존하지 않기 때문에 애플리케이션이 더 빠르고 안정적이게 됩니다.

엣지 AI는 뛰어난 속도와 안정성을 제공하기 때문에, 낮은 지연 시간과 100% 가동 시간이 가장 중요한 스마트 홈, 스마트 보안, 웨어러블 기기, 자율주행차와 같은 애플리케이션에 적합합니다.

에지 AI는 지능적이고 안전하며 초개인화 애플리케이션 최고의 속도, 가용성, 보안, 그리고 효율적인 대역폭을 갖추고 있습니다. 하지만 AI는 데이터를 필요로 하므로, 올바른 모델 그 이상이 필요합니다. 엣지 AI의 가능성을 실현하기 위해서는 올바른 데이터베이스 또한 필요합니다.

엣지 AI 대 클라우드 AI

클라우드 AI 애플리케이션이 클라우드 인프라에 존재하는 데이터와 AI 모델에 액세스하는 기술 아키텍처입니다. 이 접근 방식은 AI를 위한 향상된 데이터 저장 및 처리 능력을 제공하며, 더 발전된 모델을 학습하고 배포하는 데 이상적이고, 강력하고 일관된 네트워크 연결을 가진 앱에 적합합니다. 그러나 클라우드 컴퓨팅은 본질적으로 불안정한 인터넷에 대한 의존성 때문에 주로 엣지에서 실행되는 앱에 과제를 제기합니다. 현대 네트워크에서 흔히 발생하는 지연 및 가용성 문제로 인해, AI 모델로부터 실시간 결과를 요구하는 앱은 효과적이기 위한 속도와 응답성을 단순히 달성할 수 없습니다.

대안으로, 엣지 AI는 데이터와 AI를 사용자가 상호작용하는 지점, 즉 데이터가 가장 많이 생성되고 소비되는 곳에 더 가깝게 처리합니다. 이 접근 방식에서는 데이터와 AI 모델이 원격 클라우드 데이터 센터가 아닌 로컬에서, 심지어 온디바이스 환경에서 상호작용하므로 인터넷에 대한 의존성이 사라집니다.

엣지 AI는 실시간으로 결과가 필요한 애플리케이션에 이상적인 선택입니다. 바다 위에 있는 해상 석유 시추 플랫폼을 생각해 보십시오. 작동 용량에 영향을 미치는 압력, 온도, 파도 높이 및 기타 요인들을 측정하기 위해 플랫폼 전반의 센서로부터 데이터가 일상적인 업무의 일환으로 수집됩니다. 이러한 종류의 데이터는 빠르게 유입되고 자주 변경되며 실시간 대응을 요구합니다.

만약 석유 시추선의 데이터와 AI 모델이 클라우드에 저장되고 처리된다면, 이는 수집된 데이터가 기계 학습 모델로 측정값을 평가하기 위해서만 인터넷을 통해 전송되어야 함을 의미합니다.

이제, 핵심 플랫폼 구성 요소의 센서가 위험한 상황으로 이어질 수 있는 잠재적 고장, 즉 발생 가능성이 높은 고장의 징후를 감지하기 시작한다고 가정해 보겠습니다. 해당 구성 요소의 데이터 포인트를 수집하여 저장 및 AI 처리를 위해 클라우드로 전송한 다음 권장 대응 조치를 기다리는 데는 너무 오랜 시간이 걸립니다. 플랫폼 운영자가 클라우드로부터 응답을 받을 때쯤이면 이미 너무 늦었을 수도 있습니다.

초 단위의 시간이 중요하고 가동 시간과 가동 중단 시간의 차이가 안전과 재난을 가르는 상황에서, 신뢰할 수 없는 인터넷 연결에 의존하는 것은 선택지가 될 수 없습니다. 엣지 AI는 석유 시추 플랫폼 자체에 데이터 센터를 구축함으로써 지연 시간과 가동 중단 문제를 해결하여 위험을 줄입니다. 데이터를 클라우드의 AI로 전송하는 대신 로컬에서 처리하므로, 중요한 분석을 위해 느린 연결을 기다릴 필요가 더 이상 없습니다.

엣지 AI의 이점과 과제

엣지 AI 아키텍처를 사용하는 것에는 많은 이점이 있는 반면, 고려해야 할 과제들도 있습니다. 그중 몇 가지는 다음과 같습니다:

혜택

대기 시간 단축

데이터와 인공지능을 로컬 또는 온디바이스에서 처리하면, 데이터가 원격의 클라우드 데이터 센터로 왕복할 필요가 없기 때문에 애플리케이션의 속도가 빨라집니다. 또한 온디바이스에서 처리할 경우 1밀리초 미만의 응답 시간을 달성할 수 있습니다.

가용성 향상

로컬 데이터와 AI 처리를 통해 인터넷이나 클라우드 데이터 센터 장애로 인한 다운타임의 위험을 제거하여 앱 가동 시간을 더욱 안정적으로 유지할 수 있습니다.

우수한 데이터 프라이버시

엣지 AI는 데이터와 AI를 로컬에서 저장하고 처리하기 때문에, 데이터를 인터넷을 통해 전송하고 클라우드에 저장할 때 발생하는 보안 위험을 줄여줍니다. 더 나은 거버넌스 그리고 엣지에서의 데이터 제어는 데이터 프라이버시 규정 준수를 보장합니다.

효율적인 대역폭 사용

엣지 AI는 클라우드와 엣지 간의 부하를 줄여 더 효율적인 대역폭 사용을 약속합니다. 이는 대역폭이 시간과 수요에 따라 크게 달라질 수 있는 공유 네트워크를 사용할 때 중요합니다.

실시간 인공지능

데이터와 모델이 로컬에 있기 때문에 초고속 응답성이 보장됩니다.

도전 과제

데이터 저장 및 처리

엣지 AI는 온디바이스를 포함한 전체 아키텍처에 배포할 수 있는 데이터베이스가 필요합니다. 이 때문에 조직은 데이터베이스의 서버 버전과 임베디드 버전을 모두 제공하는 데이터베이스 솔루션을 찾아야 합니다. 또한, 해당 데이터베이스는 제공해야 합니다 벡터 검색 기능과 AI 모델을 직접 호출할 수 있는 능력을 갖추고 있습니다. 이러한 기능을 결합한 데이터베이스를 사용하면 다음에 소요되는 시간과 노력을 절약할 수 있습니다. 엣지 AI 애플리케이션 개발하기.

데이터 동기화

데이터 동기화가 필요합니다 분산 애플리케이션 일관성과 무결성을 유지하기 위해, 조직은 데이터 변경 사항이 앱 생태계 전체에 즉시 반영되도록 하고 쓰기 충돌이 올바르게 처리되도록 해야 합니다.

모델 크기

많은 대규모 언어 모델 대규모이며 클라우드 컴퓨팅이 제공하는 연산 능력이 필요하므로 엣지 AI 유스케이스에는 적합하지 않습니다. 그러나 모바일 및 IoT 장치에서 실행되도록 최적화된 경량 임베디드 AI 모델이 시장에 점점 더 많이 등장하고 있습니다. 상충 관계(트레이드오프)는 일반적으로 정밀도에서 나타납니다. 경량 모델은 클라우드 규모의 모델보다 정밀도가 떨어질 수 있습니다. 그러나 많은 경우, 로컬 AI 처리로 얻을 수 있는 실시간 성능과 보안을 위해 이러한 트레이드오프를 감수할 가치가 있습니다.

엣지 AI 사용 사례 및 예시

에지 AI는 수많은 혁신적인 응용 프로그램을 구동할 수 있는 능력을 가지고 있습니다. 몇 가지 예를 들면 다음과 같습니다:

보안 시스템

라이브 카메라 피드에서 캡처한 이미지는 보안 구역에서 유용한 감시 기능을 제공할 수 있지만, 이는 이미지를 평가하는 AI가 충분히 빠른 속도로 작동할 때만 가능합니다. 이미지 데이터를 로컬에서 처리하고 평가함으로써 실시간 이미지 분석에 필요한 속도를 확보할 수 있으며, 이를 통해 사건 발생 시 즉각적인 조치를 취할 수 있습니다.

스마트 스토어

차세대 유통 고객이 다양한 스타일과 색상의 옷을 입은 모습을 보여주거나 착용한 옷에 어울리는 액세서리를 추천해 주는 스마트 미러와 같이 고객 경험을 향상시키기 위해 설계된 AR/VR 기반의 몰입형 애플리케이션을 약속합니다. 또한 매장을 이동하는 고객을 추적하는 카메라와 스캐너가 있어 맞춤형 추천을 가능하게 하거나, 고객이 선택한 상품을 기록하고 매장을 나갈 때 결제를 진행하는 스마트 셸프도 있습니다. 이러한 종류의 경험은 고객에게 진정한 영향을 미치기 위해 에지 AI의 즉각성을 요구합니다.

제조업

산업용 사물 인터넷(IIoT) 또는 인더스트리 4.0은 엣지 AI의 핵심 동력입니다. 예를 들어, 공장 조립 라인의 장비에서 나온 센서 데이터는 공장 데이터 센터에서 로컬로 수집 및 분석되어 다음에 발생할 결과를 실시간으로 예측합니다. 실시간 경보 및 예방적 유지보수.

의료 서비스

엣지 AI를 통해 병원에서는 환자 모니터링 데이터를 로컬에서 처리하고 실시간 진단을 제공합니다. 데이터 프라이버시 규정을 준수하면서. 마찬가지로, 구급차와 의무후송 헬리콥터는 인터넷 의존성을 없애어 응급구조사들이 이동 중에 환자를 치료할 수 있도록 함으로써, 소중한 초를 아끼고 환자의 치료 결과를 개선할 수 있습니다.

클라우드 투 엣지 AI를 위한 카우치베이스

Couchbase는 다음과 같은 기능을 제공하여 엣지 AI 아키텍처를 네이티브로 지원합니다:

클라우드 네이티브 데이터베이스: 카우치베이스 카펠라 벡터 검색을 지원하며 포함합니다 열 기반 서비스, 운영 워크로드에 전혀 영향을 주지 않고, 분석을 위해 데이터를 별도의 저장소로 옮길 필요도 없이 운영 데이터에 대해 복잡한 분석 쿼리를 실행할 수 있는 열 기반 데이터 스토어인 이 기술은 다음과 같은 용도에 매우 좋습니다. 실시간 운영 분석 또한 머신러닝 학습 반복을 위한 데이터 파이프라인의 일부가 될 수 있습니다. 열 기반 서비스는 사용자 정의 함수(UDF) 기능을 통해 완전히 학습된 머신러닝 모델을 호출할 수도 있습니다.

임베디드 데이터베이스: 코우치베이스 라이트 모바일 및 IoT 앱을 위한 Couchbase의 임베디드 버전으로, 디바이스에 데이터를 로컬로 저장합니다. 완전한 CRUD 및 SQL 쿼리 기능과 함께 엣지에서 AI 모델을 호출하기 위한 벡터 검색 및 예측 쿼리를 지원합니다.

클라우드에서 엣지로의 데이터 동기화웹을 통한 데이터 동기화 및 기기 간 피어투피어 동기화를 위한 보안이 적용된 계층형 게이트웨이입니다. 인증, 권한 부여, 그리고 세밀한 접근 제어를 지원합니다. 완전 관리형 데이터 동기화 서비스 중에서 선택하세요. 카펠라 앱 서비스 또는 설치 및 관리 싱크 게이트웨이 자기 자신.

이 문서에서 클라우드-엣지 AI 및 벡터 검색을 위한 Couchbase의 기능에 대해 자세히 알아보세요. 블로그 게시물.