엣지 AI란 무엇인가요?
엣지 AI는 모바일, IoT, 대화형 키오스크와 같은 맞춤형 임베디드 애플리케이션과 같이 엣지에서 실행되는 애플리케이션에서 인공지능을 활용하는 것을 말합니다.
이 개념은 AI 프로세싱을 다음과 결합합니다. 엣지 컴퓨팅컴퓨팅 리소스와 데이터 스토리지를 네트워크의 가까운 쪽, 즉 이를 사용하는 애플리케이션과 더 가까운 곳으로 가져오는 기술 아키텍처입니다. 근거리 데이터 센터나 모바일 또는 IoT 장치애플리케이션은 데이터나 AI 모델에 액세스하기 위해 인터넷에 의존하지 않기 때문에 더 빠르고 안정적입니다.
엣지 AI는 뛰어난 속도와 안정성을 제공하기 때문에 짧은 지연 시간과 100% 가동 시간이 가장 중요한 스마트 홈, 스마트 보안, 웨어러블 디바이스, 자율 주행 차량과 같은 애플리케이션을 구동하는 데 적합합니다.
엣지 AI는 스마트하고 안전하며 초개인화된 애플리케이션 최고의 속도, 가용성, 보안, 효율적인 대역폭을 제공합니다. 하지만 AI에는 데이터가 필요하기 때문에 올바른 모델만으로는 부족합니다. 엣지 AI의 잠재력을 실현하려면 올바른 데이터베이스도 필요합니다.
엣지 AI와 클라우드 AI
클라우드 AI 는 애플리케이션이 클라우드 인프라에 있는 데이터와 AI 모델에 액세스하는 기술 아키텍처입니다. 이 접근 방식은 AI를 위한 향상된 데이터 저장 및 처리 능력을 제공하고, 고급 모델을 학습 및 배포하는 데 이상적이며, 강력하고 일관된 네트워크 연결을 갖춘 앱에 적합합니다. 하지만 클라우드 컴퓨팅은 본질적으로 신뢰할 수 없는 인터넷에 종속되어 있기 때문에 엣지에서 실행되는 앱에는 문제가 있습니다. 최신 네트워크에서 흔히 발생하는 지연 시간 및 가용성 문제로 인해 AI 모델의 실시간 결과를 필요로 하는 앱은 효과적인 속도와 응답성을 달성할 수 없습니다.
또는 엣지 AI는 데이터가 가장 일반적으로 생성되고 소비되는 상호 작용 지점에 가까운 곳에서 데이터와 AI를 처리합니다. 이 접근 방식을 사용하면 데이터와 AI 모델이 멀리 떨어진 클라우드 데이터 센터가 아닌 로컬, 심지어 디바이스 내에서도 서로 상호 작용하므로 인터넷에 대한 종속성을 제거할 수 있습니다.
엣지 AI는 실시간으로 결과가 필요한 애플리케이션에 이상적인 옵션입니다. 바다에 있는 석유 시추 플랫폼을 생각해 보세요. 플랫폼 곳곳의 센서에서 일상적으로 압력, 온도, 파도 높이 및 기타 운영 능력에 영향을 미치는 요인을 측정하여 데이터를 수집합니다. 이러한 종류의 데이터는 빠르게 수집되고 자주 변경되며 실시간 대응이 필요합니다.
석유 플랫폼의 데이터와 AI 모델이 클라우드에 저장되고 처리된다고 가정해 보겠습니다. 즉, 머신러닝 모델로 측정값을 평가하기 위해서는 캡처한 데이터를 인터넷을 통해 전송해야 합니다.
이제 중요한 플랫폼 구성 요소의 센서가 위험한 상황으로 이어질 수 있는 잠재적 고장 징후를 감지하기 시작했다고 가정해 보겠습니다. 구성 요소에서 데이터 포인트를 수집하여 스토리지 및 AI 처리를 위해 클라우드로 전송한 다음 권장 조치 과정을 기다리는 데 너무 오랜 시간이 걸립니다. 플랫폼 운영자가 클라우드에서 응답을 받았을 때는 이미 너무 늦었을 수도 있습니다.
초 단위가 중요하고 가동 시간과 다운타임의 차이가 안전과 재난을 결정하는 상황에서 불안정한 인터넷 연결에 의존하는 것은 선택 사항이 아닙니다. 엣지 AI는 석유 시추 플랫폼 자체에 데이터 센터를 설치하여 지연 시간과 다운타임 문제를 해결함으로써 위험을 줄입니다. 데이터를 클라우드의 AI로 전송하는 대신 로컬에서 처리하므로 중요한 분석을 위해 느린 연결을 기다릴 필요가 없습니다.
엣지 AI의 장점과 과제
엣지 AI 아키텍처를 사용하면 많은 이점이 있지만, 고려해야 할 과제도 있습니다. 다음은 그 중 몇 가지입니다:
혜택
지연 시간 감소
데이터와 AI를 로컬 또는 디바이스에서 처리하면 데이터가 먼 클라우드 데이터 센터로 이동했다가 다시 돌아올 필요가 없으므로 애플리케이션의 속도가 빨라집니다. 또한 디바이스 내에서 처리하면 밀리초 미만의 응답 시간을 달성할 수 있습니다.
가용성 향상
로컬 데이터와 AI 처리를 통해 인터넷 또는 클라우드 데이터 센터 중단으로 인한 다운타임의 위험을 제거하여 앱 가동 시간을 더욱 안정적으로 확보할 수 있습니다.
탁월한 데이터 프라이버시
엣지 AI는 데이터와 AI를 로컬에 저장하고 처리하기 때문에 인터넷을 통해 데이터를 전송하고 클라우드에 저장할 때 발생하는 보안 위험을 줄일 수 있습니다. 더 나은 거버넌스 엣지에서 데이터를 제어하여 데이터 프라이버시 규정을 준수할 수 있습니다.
효율적인 대역폭 사용
엣지 AI는 클라우드와 엣지 사이의 부하를 줄여 보다 효율적인 대역폭 사용을 약속합니다. 이는 시간과 수요에 따라 대역폭이 크게 달라질 수 있는 공유 네트워크를 사용할 때 중요합니다.
실시간 AI
데이터와 모델이 로컬에 있기 때문에 초고속 응답성이 보장됩니다.
도전 과제
데이터 저장 및 처리
엣지 AI에는 온디바이스를 포함한 전체 아키텍처에 배포할 수 있는 데이터베이스가 필요합니다. 따라서 조직은 서버 및 임베디드 버전의 데이터베이스를 모두 제공하는 데이터베이스 솔루션을 찾아야 합니다. 또한 데이터베이스는 다음을 제공해야 합니다. 벡터 검색 기능과 AI 모델을 직접 호출할 수 있는 기능을 제공합니다. 이러한 기능이 결합된 데이터베이스를 사용하면 다음과 같은 경우 시간과 노력을 절약할 수 있습니다. 엣지 AI 애플리케이션 개발.
데이터 동기화
데이터 동기화는 분산 애플리케이션 를 사용하여 일관성과 무결성을 유지해야 합니다. 조직은 데이터 변경 사항이 앱 에코시스템 전체에 즉시 반영되고 쓰기 충돌이 올바르게 처리되는지 확인해야 합니다.
모델 크기
많은 LLM 는 크기가 크고 클라우드 컴퓨팅과 함께 제공되는 마력이 필요하기 때문에 엣지 AI 사용 사례에는 적합하지 않습니다. 하지만 모바일 및 IoT 디바이스에서 실행하기에 최적화된 경량 임베디드 AI 모델이 시장에 점점 더 많이 등장하고 있습니다. 경량 모델은 클라우드 크기의 모델에 비해 정확도가 떨어질 수 있습니다. 하지만 대부분의 경우 로컬 AI 처리에서 얻을 수 있는 실시간 성능과 보안을 고려하면 그만한 가치가 있습니다.
엣지 AI 사용 사례 및 예시
엣지 AI는 수많은 혁신적인 애플리케이션을 지원할 수 있는 기능을 갖추고 있습니다. 다음은 몇 가지 예시입니다:
보안 시스템
실시간 카메라 피드에서 캡처한 이미지는 안전한 장소에서 중요한 감시 기능을 제공할 수 있지만, 이미지를 평가하는 AI의 성능이 충분히 빠를 때만 가능합니다. 로컬에서 이미지 데이터를 처리하고 평가하면 실시간 이미지 분석에 필요한 속도를 확보할 수 있어 사고 발생 시 즉각적인 조치가 가능합니다.
스마트 스토어
차세대 리테일 는 고객에게 다양한 스타일과 색상의 옷을 입었을 때 어떻게 보일지 보여주는 스마트 거울이나 입어본 옷과 어울리는 액세서리를 추천하는 등 고객 경험을 향상시키기 위해 설계된 AR/VR 기반 몰입형 애플리케이션을 약속합니다. 또한 매장을 돌아다니는 고객을 추적하는 카메라와 스캐너를 통해 개인화된 추천을 제공하거나 고객이 선택한 상품을 기록하고 고객이 매장을 떠날 때 구매를 처리하는 스마트 선반을 구현할 수 있습니다. 이러한 종류의 경험은 고객에게 진정한 영향을 미치기 위해 엣지 AI의 즉각적인 반응이 필요합니다.
제조
산업용 IoT 또는 인더스트리 4.0은 엣지 AI의 핵심 동력입니다. 예를 들어, 공장 조립 라인에 있는 장비의 센서 데이터를 공장 데이터 센터에서 로컬로 수집하고 분석하여 다음과 같은 경우에 발생할 수 있는 결과를 실시간으로 예측할 수 있습니다. 실시간 알림 및 예방적 유지 관리.
헬스케어
엣지 AI를 통해 병원은 다음을 수행할 수 있습니다. 환자 모니터링 데이터를 로컬에서 처리하고 실시간 진단 제공 데이터 개인정보 보호 규정을 준수하면서 말이죠. 마찬가지로 구급차와 구급 헬리콥터는 인터넷에 대한 의존성을 제거하여 구급대원이 이동 중에도 치료를 관리할 수 있으므로 귀중한 시간을 절약하고 환자 치료 결과를 개선할 수 있습니다.
클라우드-투-엣지 AI를 위한 Couchbase
Couchbase는 기본적으로 다음을 제공하여 엣지 AI 아키텍처를 지원합니다:
클라우드 네이티브 데이터베이스: 카우치베이스 카펠라 벡터 검색을 지원하며 다음을 포함합니다. 컬럼형 서비스는 운영 워크로드에 영향을 주지 않고 분석을 위해 데이터를 별도의 리포지토리로 옮길 필요 없이 운영 데이터에 대해 복잡한 분석 쿼리를 실행할 수 있는 열 형식의 데이터 저장소입니다. 다음과 같은 경우에 유용합니다. 실시간 운영 분석 ML 학습 반복을 위한 데이터 파이프라인의 일부가 될 수 있습니다. 또한 컬럼형 서비스는 사용자 정의 함수(UDF) 기능을 통해 완전히 학습된 ML 모델을 호출할 수도 있습니다.
임베디드 데이터베이스: 카우치베이스 라이트 는 기기에 로컬로 데이터를 저장하는 모바일 및 IoT 앱용 임베드 가능한 Couchbase 버전입니다. 완전한 CRUD 및 SQL 쿼리 기능을 제공하며, 엣지에서 AI 모델을 호출하기 위한 벡터 검색 및 예측 쿼리를 지원합니다.
클라우드에서 엣지까지 데이터 동기화: 웹을 통한 데이터 동기화 및 장치 간 피어 투 피어 동기화를 위한 안전한 계층형 게이트웨이입니다. 인증, 권한 부여, 세분화된 액세스 제어를 지원합니다. 완전 호스팅 및 관리형 데이터 동기화 중에서 선택하세요. 카펠라 앱 서비스 또는 설치 및 관리 동기화 게이트웨이 스스로.
이 문서에서 클라우드-투-에지 AI 및 벡터 검색을 위한 Couchbase의 기능에 대해 자세히 알아보세요. 블로그 게시물.
