Computación de borde es una arquitectura técnica que amplía el procesamiento de datos de la nube al perímetro, acercándolo al punto de interacción, incluidos los dispositivos móviles. Desde el punto de vista de la base de datos, una arquitectura típica incluye una base de datos en la nube, una base de datos en el perímetro en un centro de datos periférico y bases de datos integradas que se ejecutan dentro de aplicaciones en dispositivos periféricos como teléfonos y tabletas, todo ello vinculado mediante la sincronización de datos para garantizar la coherencia. Las modernas plataformas de bases de datos móviles combinan todas estas capacidades.
Esta arquitectura ofrece cuatro ventajas distintas para las aplicaciones:
-
- Velocidad - Al procesar los datos más cerca del punto de interacción, se reduce la distancia que tienen que recorrer, lo que reduce drásticamente la latencia de la aplicación.
- Resiliencia - Al procesar los datos en el extremo, se reduce la dependencia de una Internet intrínsecamente poco fiable para los datos, lo que reduce el tiempo de inactividad de las aplicaciones. Si se interrumpe cualquier capa ascendente de la arquitectura, las aplicaciones descendentes no se ven afectadas en absoluto.
- Gobernanza de datos - Con la computación de borde, los datos confidenciales nunca tienen que salir del borde.
- Eficacia del ancho de banda - Al distribuir el almacenamiento de datos en el perímetro, se reduce el uso de ancho de banda y los costes de extracción de datos de la nube.
Cuando se aplican a un sistema de IA, las ventajas de la computación de borde pueden acelerar y amplificar enormemente las capacidades de la IA, tanto en el entrenamiento de los algoritmos de aprendizaje como en la aplicación práctica de los modelos.
La IA "híbrida" es a la vez centralizada y descentralizada
Un reciente Artículo de Forbes habla de la noción de que "el futuro de la IA es híbrido", lo que significa que la IA necesita la capacidad de procesar datos tanto en la nube como en la periferia para desarrollar todo su potencial. En el artículo, el autor afirma:
"La IA necesita un lugar potente y estable para el entrenamiento y la inferencia de modelos, que requieren enormes cantidades de espacio para procesar cargas de trabajo complejas. Ahí es donde entra en juego la nube. Al mismo tiempo, la IA también necesita rapidez. Para que sea útil, tiene que procesar más cerca de donde ocurre realmente la acción: el borde de un dispositivo móvil".
Esta observación subraya la idea de que LLM-la IA está gravitatoriamente centralizada, mientras que la creación y el consumo de los datos que utiliza y produce estarán descentralizados y altamente distribuidos.
El aspecto híbrido de la IA descrito en el artículo puede lograrse elegantemente con una arquitectura de computación de borde, en la que la nube, el centro de datos de borde y los dispositivos de borde no son entornos separados, per se, sino que en realidad son capas dentro de un ecosistema de procesamiento de datos vinculadas mediante sincronización.
En este modelo, las cargas de trabajo de IA pueden procesarse donde sea más apropiado - aprendizaje profundo El entrenamiento de la IA se lleva a cabo contra inmensas cantidades de datos en la nube central, donde el almacenamiento y la potencia sólo están limitados por el presupuesto, mientras que las pequeñas aplicaciones de inteligencia artificial se basan en los datos. aprendizaje automático Los modelos de IA pueden ejecutarse directamente en los dispositivos periféricos, donde pueden hacer cosas como hacer recomendaciones sobre el terreno a un usuario basándose en datos locales y en la situación actual.
Lo que se necesita para facilitar el concepto de IA híbrida es una base de datos construida para la computación de borde que también admita la IA.
El ingrediente principal de la IA: los datos
Independientemente de las técnicas o algoritmos utilizados, la columna vertebral y el recurso más necesario para lograr la IA son los datos. Los datos son el combustible del aprendizaje automático, tanto históricos para el contexto y la precedencia, como en tiempo real para el conocimiento de la situación. Pero es mucho más que simplemente adquirir datos. El lugar en el que se almacenan y procesan esos datos tiene enormes implicaciones en el éxito (o fracaso) de los sistemas basados en IA, por lo que hay que tenerlo muy en cuenta a la hora de diseñar una arquitectura de IA.
IA en la periferia con una base de datos móvil
Couchbase es una base de datos en memoria distribuida de documentos JSON en la nube que admite SQL, búsquedas, eventos y análisis. La plataforma se utiliza para alimentar grandes aplicaciones empresariales y puede escalar a millones de usuarios con tiempo de actividad 24×365. También ofrece un soporte único para edge computing y procesamiento de IA.
Couchbase puede ejecutarse en la nube, en el perímetro y en dispositivos, y puede sincronizar datos entre estas capas, logrando las ventajas de la computación en el perímetro en cuanto a velocidad, fiabilidad, gobernanza de datos y eficiencia del ancho de banda para las aplicaciones.
Couchbase también es capaz de integrar la IA en toda la arquitectura gracias a su capacidad para llamar a modelos directamente desde la base de datos y alimentarlos con datos operativos en tiempo real, ya sea en la nube, en el borde o en un dispositivo móvil. Estas capacidades se combinan para hacer realidad el concepto de "IA híbrida".
Exploremos esto con más detalle.
Nativo de Edge
En Couchbase Móvil es compatible de forma nativa con las arquitecturas de computación periférica:
Una base de datos nativa de la nube: Disponible como base de datos como servicio totalmente gestionada y alojada con Couchbase Capellao desplegar y alojar Servidor Couchbase por tu cuenta.
Una base de datos integrada: Couchbase Lite es la versión integrable de Couchbase para aplicaciones móviles y de IoT que almacena datos localmente en el dispositivo. Proporciona todas las funciones CRUD y de consulta SQL, y es compatible con las principales plataformas, como iOS, OS X, tvOS, Android, Linux, Windows, Xamarin y Kotlin, entre otras.
Sincronización de datos de la nube al perímetro: Una pasarela segura y jerárquica para la sincronización de datos a través de la Web, así como la sincronización de igual a igual entre dispositivos, con soporte para autenticación, autorización y control de acceso detallado. Elija entre sincronización de datos totalmente alojada y gestionada con Capella App Serviceso instalar y gestionar Pasarela de sincronización Couchbase tú mismo.
La sincronización de datos integrada de Couchbase Mobile conecta la pila, sincronizando los datos entre la base de datos backend en la nube y la base de datos integrada que se ejecuta en los dispositivos periféricos cuando la conectividad lo permite, mientras que durante las interrupciones de la red las aplicaciones siguen funcionando gracias al procesamiento local de los datos.
Con la pila de Couchbase Mobile puedes crear arquitecturas de borde multinivel para soportar cualquier requisito de velocidad, disponibilidad o bajo ancho de banda.
Preparado para la IA
Couchbase Mobile no sólo está diseñado para la computación de borde, sino que también es compatible con la IA desde la nube hasta el borde, incluso en dispositivos.
IA en la nube con el servicio de análisis Couchbase
Couchbase proporciona procesamiento en memoria para una capacidad de respuesta ultrarrápida y una arquitectura distribuida para escalabilidad y resistencia, aportando la velocidad, la capacidad de almacenamiento y la potencia de carga de trabajo necesarias para procesar las enormes cantidades de datos que requiere el entrenamiento de modelos de IA.
También ofrece un Servicio de análisisUna función que permite analizar los datos operativos sin necesidad de trasladarlos a un sistema analítico independiente, lo que elimina la necesidad de largos análisis. ETL (extraer, transformar, cargar) que deben ejecutarse antes de poder utilizar los datos para el entrenamiento o el análisis de modelos.
Además, aunque Couchbase es una base de datos de documentos, los científicos de datos trabajan con ella utilizando un lenguaje familiar: SQLcon uniones y agregaciones. Esto les permite escribir consultas complejas y altamente contextuales contra conjuntos de datos masivos que devuelven resultados en milisegundos o submilisegundos, lo que reduce el tiempo de conocimiento y acelera la preparación de datos y las iteraciones de formación de modelos.
El servicio Couchbase Analytics Service ofrece una función para integrar IA llamada Funciones definidas por el usuario (UDF) de Pythonque permite a los desarrolladores enlazar código Python como una función y llamarlo en consultas SQL. Esto les permite crear una canalización sin fisuras, sin tediosos procesos ETL, desde modelos de aprendizaje automático basados en Python a Couchbase Analytics para aplicar IA a escala a cosas como el análisis de sentimientos, la predicción de resultados probables o la clasificación de elementos en función de los datos operativos devueltos por las consultas analíticas.
Un ejemplo de uso de modelos de aprendizaje automático con Couchbase Analytics se puede encontrar en este entrada del blog.
Con el servicio Analytics Service, Couchbase cumple la parte en la nube del concepto de "IA híbrida".
Edge AI con Couchbase Lite Predictive Query
Aunque las cargas de trabajo de IA más pesadas pueden ejecutarse eficientemente a escala en la nube con Couchbase, hay casos en los que se desea ejecutar modelos más pequeños en el perímetro en dispositivos móviles, por ejemplo para hacer cosas como recomendaciones basadas en datos locales en tiempo real. Y la creciente potencia de los dispositivos móviles actuales, así como la aparición de modelos de aprendizaje automático optimizados para móviles, están haciendo realidad la IA en el perímetro.
De hecho, Couchbase Lite API de consulta predictiva se diseñó para la IA periférica, lo que permite a las aplicaciones móviles utilizar modelos de aprendizaje automático preentrenados y ejecutar consultas predictivas a partir de datos locales del dispositivo. Estas predicciones, realizadas a partir de datos en tiempo real capturados por la aplicación móvil, permiten una serie de aplicaciones atractivas.
Al aplicar modelos de aprendizaje automático en el dispositivo móvil, las recomendaciones y predicciones son más personalizadas, pueden ser instantáneas y tener más impacto gracias a la alta disponibilidad garantizada, la latencia ultrabaja y el menor uso de ancho de banda de red que permite el procesamiento local de datos. En esencia, elimina la necesidad de enviar datos de un lado a otro a través de Internet a centros de datos en la nube distantes para ser evaluados por la IA, por lo que hace que toda la experiencia sea más rápida y fiable.
Entre los ejemplos de IA en la periferia cabe citar la venta minorista y el comercio electrónico, donde pueden hacerse recomendaciones de artículos in situ a partir de imágenes o fotos; la hostelería, donde las preferencias personales se combinan con la ubicación, la hora, el tiempo y otros factores para recomendar servicios en tiempo real; o la fabricación industrial, donde los problemas en los procesos de alta velocidad de una fábrica pueden predecirse y mitigarse instantáneamente antes de que se produzca un fallo.
Para obtener más información sobre el uso de modelos de aprendizaje automático con Couchbase Lite, lea esto entrada del blog .
Con la API de Consulta Predictiva, Couchbase Lite cumple con el lado del dispositivo móvil del concepto de "IA híbrida".
IA de la nube al perímetro y al dispositivo
Al combinar las capacidades de IA de Couchbase Mobile con su soporte nativo para arquitecturas de computación de borde, las organizaciones pueden estratificar las cargas de trabajo de procesamiento de IA y procesamiento de datos en cualquier topología requerida para los sistemas de IA integrados más rápidos y escalables, todo ejecutándose en una tecnología de base de datos estándar.
Con esta arquitectura, las cargas de trabajo de IA se procesan donde tiene más sentido en función de la complejidad del modelo y la cantidad de datos necesarios. El entrenamiento del aprendizaje profundo y la aplicación de grandes modelos se realizan frente a inmensas cantidades de datos en la nube, que ofrece la escala necesaria para entrenar eficientemente los modelos de aprendizaje profundo y aplicarlos en masa, mientras que los modelos de aprendizaje automático más pequeños se ejecutan en el borde directamente en los dispositivos de borde, donde aprovechan los datos locales para el compromiso y la interacción inmediatos.
Y el sistema de IA también se beneficia enormemente de formar parte de un único ecosistema de tecnología de datos, ya que utiliza la misma base de datos, consultas y API en toda la pila, lo que hace que el desarrollo y el mantenimiento continuo sean mucho más sencillos que con un en expansión combinación de tecnologías de bases de datos dispares.
La computación de borde es una necesidad para que la IA cumpla todas sus promesas hoy y en el futuro, y la moderna base de datos nativa de borde y preparada para IA de Couchbase está lista para ayudar a forjar el próximo gran avance.
Más información sobre las capacidades de Couchbase AI:
La conexión entre la IA en la nube y una plataforma de base de datos móvil es realmente intrigante. Tu exploración de esta sinergia abre posibilidades apasionantes para mejorar las aplicaciones móviles. La forma en que conectas los puntos entre las capacidades de IA basadas en la nube y una plataforma de base de datos móvil muestra el potencial de innovación y eficiencia en el mundo de la IA y la tecnología móvil. Una gran visión de la naturaleza evolutiva de la IA y la tecnología móvil.