¿Qué es Edge AI?
La IA en el perímetro hace referencia al aprovechamiento de la inteligencia artificial en aplicaciones que se ejecutan en el perímetro, como móviles, IoT y aplicaciones integradas personalizadas como quioscos interactivos.
El concepto combina el procesamiento de IA con computación periféricaLa inteligencia artificial es una arquitectura técnica que lleva los recursos informáticos y el almacenamiento de datos al lado cercano de la red, más cerca de las aplicaciones que los consumen. Al ejecutar la IA y el procesamiento de datos localmente, como en un centro de datos de proximidad o incluso en un dispositivo móvil o... Dispositivo IoTLas aplicaciones se vuelven más rápidas y fiables porque no dependen de Internet para acceder a los datos o a los modelos de IA.
Dado que proporciona una velocidad y fiabilidad superiores, la IA de borde es adecuada para alimentar aplicaciones como hogares inteligentes, seguridad inteligente, dispositivos wearables y vehículos autónomos, donde la baja latencia y el tiempo de actividad 100% son primordiales.
La IA Edge se está popularizando para ofrecer soluciones inteligentes, seguras y aplicaciones hiperpersonalizadas con la máxima velocidad, disponibilidad, seguridad y un ancho de banda eficiente. Pero como la IA requiere datos, se necesita algo más que los modelos adecuados. También necesita la base de datos adecuada para alcanzar la promesa de la IA de vanguardia.
IA en el perímetro frente a IA en la nube
IA en la nube es una arquitectura técnica en la que las aplicaciones acceden a datos y modelos de IA que viven en la infraestructura de la nube. Este enfoque proporciona un mayor almacenamiento de datos y potencia de procesamiento para la IA, es ideal para la formación y el despliegue de modelos más avanzados, y funciona bien para aplicaciones con una conectividad de red fuerte y consistente. Sin embargo, la computación en nube presenta desafíos para las aplicaciones que se ejecutan en el perímetro, sobre todo debido a la dependencia de una Internet intrínsecamente poco fiable. Debido a los problemas de latencia y disponibilidad habituales en las redes modernas, las aplicaciones que requieren resultados en tiempo real de los modelos de IA simplemente no pueden alcanzar la velocidad y capacidad de respuesta necesarias para ser eficaces.
Por otro lado, la IA periférica procesa los datos y la IA más cerca del punto de interacción, donde suelen crearse y consumirse. Con este enfoque, los datos y los modelos de IA interactúan entre sí localmente, incluso en el dispositivo, en lugar de en un centro de datos en la nube distante, lo que elimina la dependencia de Internet.
La IA Edge es la opción ideal para aplicaciones en las que se necesitan resultados en tiempo real. Pensemos en una plataforma petrolífera en alta mar. Como parte de la rutina diaria, se recogen datos de sensores repartidos por toda la plataforma, que miden la presión, la temperatura, la altura de las olas y otros factores que afectan a la capacidad operativa. Este tipo de datos llegan rápido, cambian a menudo y requieren una respuesta en tiempo real.
Supongamos que los datos de la plataforma petrolífera y los modelos de IA se almacenan y procesan en la nube. Esto significa que los datos capturados deben enviarse por Internet solo para evaluar las mediciones con modelos de aprendizaje automático.
Supongamos ahora que un sensor de un componente crítico de una plataforma empieza a detectar indicios de un posible fallo, una avería potencial que podría provocar un peligroso giro de los acontecimientos. Se tarda demasiado en recopilar puntos de datos sobre el componente, enviarlos a la nube para su almacenamiento y procesamiento de IA, y luego esperar a que se recomiende un curso de acción. Cuando los operadores de la plataforma reciben una respuesta de la nube, puede ser demasiado tarde.
Cuando los segundos cuentan y la diferencia entre tiempo de actividad y tiempo de inactividad determina la seguridad o el desastre, depender de una conexión a Internet poco fiable no es una opción. Edge AI reduce los riesgos instalando un centro de datos en la propia plataforma de perforación petrolífera, lo que resuelve los problemas de latencia y tiempo de inactividad. En lugar de enviar los datos a la IA en la nube, se procesan localmente: ya no hay que esperar a una conexión lenta para realizar análisis críticos.
Ventajas y retos de la IA Edge
Aunque el uso de arquitecturas edge AI tiene muchas ventajas, también hay retos que debe tener en cuenta. He aquí algunos de ellos:
Beneficios
Reducción de la latencia
Al procesar los datos y la IA localmente o en el dispositivo, se aumenta la velocidad de las aplicaciones, ya que los datos no tienen que viajar a centros de datos en la nube distantes y volver. Y cuando procesas en el dispositivo, puedes conseguir tiempos de respuesta inferiores al milisegundo.
Mayor disponibilidad
Con los datos locales y el procesamiento de IA, se elimina el riesgo de tiempo de inactividad debido a cortes de Internet o del centro de datos en la nube, lo que hace que el tiempo de actividad de la aplicación sea más fiable.
Privacidad de datos superior
Dado que la IA de borde almacena y procesa los datos y la IA localmente, se reducen los riesgos de seguridad de enviar datos por Internet y almacenarlos en la nube. Mejor gobernanza y el control de los datos en el perímetro garantizan el cumplimiento de la normativa sobre privacidad de datos.
Uso eficiente del ancho de banda
La IA de borde promete un uso más eficiente del ancho de banda al disminuir la carga entre la nube y el borde. Esto es importante cuando se utilizan redes compartidas, en las que el ancho de banda puede variar mucho en función del tiempo y la demanda.
IA en tiempo real
Como los datos y los modelos son locales, se garantiza una capacidad de respuesta hiperrápida.
Desafíos
Almacenamiento y tratamiento de datos
Edge AI requiere una base de datos que pueda desplegarse en toda la arquitectura, incluso en el dispositivo. Por ello, las empresas deben buscar soluciones de bases de datos que ofrezcan versiones de servidor e integradas. Además, la base de datos debe ofrecer búsqueda vectorial y la posibilidad de llamar directamente a los modelos de IA. El uso de una base de datos que combine estas características le ahorrará tiempo y esfuerzo a la hora de desarrollo de sus aplicaciones edge AI.
Sincronización de datos
La sincronización de datos es necesaria en un aplicación distribuida para mantener la coherencia y la integridad. Las organizaciones deben garantizar que los cambios en los datos se reflejen al instante en todo el ecosistema de aplicaciones y que los conflictos de escritura se gestionen correctamente.
Tamaño del modelo
Muchos LLMs son grandes y requieren la potencia de la computación en la nube, lo que los hace inviables para los casos de uso de la IA en los bordes. Sin embargo, en el mercado está surgiendo un número creciente de modelos ligeros de IA integrada optimizados para su ejecución en dispositivos móviles y de IoT. La contrapartida suele ser la precisión: los modelos ligeros pueden ser menos precisos que sus homólogos en la nube. Sin embargo, en muchos casos, la compensación merece la pena por el rendimiento en tiempo real y la seguridad que se obtienen del procesamiento local de la IA.
Casos de uso y ejemplos de Edge AI
Edge AI tiene la capacidad de impulsar multitud de aplicaciones innovadoras. He aquí algunos ejemplos:
Sistemas de seguridad
Las imágenes capturadas por las cámaras en directo pueden proporcionar una valiosa vigilancia en lugares seguros, pero sólo si la IA que evalúa las imágenes es lo suficientemente rápida. Al procesar y evaluar los datos de las imágenes localmente, se obtiene la velocidad necesaria para el análisis de imágenes en tiempo real, lo que permite actuar al instante cuando se producen incidentes.
Tiendas inteligentes
Venta al por menor de nueva generación promete aplicaciones inmersivas basadas en AR/VR diseñadas para mejorar la experiencia del cliente, como espejos inteligentes que muestran a los clientes cómo les quedarían varios estilos y colores de ropa o recomiendan un accesorio que combine con algo que se prueben. También hay cámaras y escáneres que siguen a los clientes mientras se mueven por la tienda, lo que puede permitir recomendaciones personalizadas, o estanterías inteligentes que registran las selecciones de artículos de los clientes y tramitan la compra al salir. Este tipo de experiencias requieren la inmediatez de la IA de vanguardia para causar un verdadero impacto en los clientes.
Fabricación
El IoT industrial, o Industria 4.0, es un impulsor clave de la IA periférica. Por ejemplo, los datos de los sensores de los equipos de la cadena de montaje de una fábrica se adquieren y analizan localmente en los centros de datos de la fábrica para hacer predicciones en tiempo real de los resultados probables de las operaciones. alertas en tiempo real y mantenimiento preventivo.
Sanidad
Con la IA avanzada, los hospitales pueden procesar localmente los datos de monitorización del paciente y ofrecer un diagnóstico en tiempo real respetando la normativa sobre privacidad de datos. Del mismo modo, las ambulancias y los helicópteros de evacuación médica pueden eliminar la dependencia de Internet, lo que permite al personal de emergencias médicas administrar la atención durante el trayecto, ahorrando valiosos segundos y mejorando los resultados de los pacientes.
Couchbase para la IA de la nube a la nube
Couchbase soporta de forma nativa arquitecturas edge AI proporcionando lo siguiente:
Una base de datos nativa de la nube: Couchbase Capella admite la búsqueda vectorial e incluye servicios columnaresUn almacén de datos en columnas que permite ejecutar consultas analíticas complejas sobre datos operativos sin que ello afecte a las cargas de trabajo operativas y sin necesidad de trasladar los datos a un repositorio independiente para su análisis. Es ideal para análisis operativos en tiempo real y puede formar parte de una canalización de datos para iteraciones de entrenamiento de ML. El servicio columnar también puede llamar a modelos ML totalmente entrenados a través de una función definida por el usuario (UDF).
Una base de datos integrada: Couchbase Lite es la versión integrable de Couchbase para aplicaciones móviles y de IoT que almacena datos localmente en el dispositivo. Ofrece todas las funcionalidades de consulta CRUD y SQL, así como soporte para búsquedas vectoriales y consultas predictivas para llamar a modelos de IA en el borde.
Sincronización de datos de la nube al perímetro: Se trata de una pasarela segura y jerárquica para la sincronización de datos a través de la web y la sincronización de igual a igual entre dispositivos. Admite autenticación, autorización y control de acceso detallado. Elija entre sincronización de datos totalmente alojada y gestionada con Capella App Services o instalar y gestionar Pasarela de sincronización tú mismo.
Obtenga más información sobre las capacidades de Couchbase para la búsqueda vectorial y de IA en la nube en este entrada del blog.
