IA Generativa y Edge Computing pueden trabajar en sinergia para ofrecer información personalizada e inteligente a gran escala.. El procesamiento de volúmenes masivos de datos en el perímetro, más cerca del punto de generación o consumo, ahorra costes de ancho de banda al evitar la necesidad de transferir los datos a la nube para su análisis. Además, la información obtenida en el perímetro está siempre disponible, aunque la conectividad a la nube sea nula o limitada. Las organizaciones están invirtiendo en herramientas y tecnologías de IA no sólo para mejorar el valor para sus clientes, sino también para reducir los costes operativos aumentando la productividad y la eficiencia de los desarrolladores.
Publicado originalmente en vmblog.com.
La única forma de escalar las aplicaciones de IA será distribuirlas, con la ayuda de la computación de borde
Predigo que la convergencia de la IA en el borde y en la nube es la forma de ofrecer IA a escala, con la nube y el borde descargando tareas computacionales al otro lado según sea necesario. Por ejemplo, el borde puede encargarse de las inferencias del modelo, mientras que la nube puede encargarse de la formación del modelo. O el borde puede descargar las consultas a la nube basándose en heurísticas como la longitud de una pregunta.
Cuando se trata de una estrategia de IA exitosa, sería prohibitivo si toda la computación de IA se ejecutara únicamente en la nube. Si a esto le sumamos los requisitos de energía y potencia y los gastos de salida de los centros de datos en la nube, los costes operativos de la computación de IA pueden ser muy elevados. Las empresas deben considerar una estrategia de computación en los bordes -en tándem con la nube- para permitir predicciones de IA personalizadas, en tiempo real y de baja latencia de forma rentable, con una menor huella de carbono y sin comprometer la privacidad y soberanía de los datos.
El éxito de Edge AI dependerá de los avances en los modelos ligeros de IA
Para que la IA Edge sea una opción viable, los modelos de IA deben ser ligeros y capaces de ejecutarse en dispositivos integrados y servidores Edge con recursos limitados, sin dejar de ofrecer resultados con niveles de precisión aceptables.
Los modelos deben encontrar el equilibrio adecuado, es decir, deben ser pequeños y menos intensivos desde el punto de vista computacional y eficientes desde el punto de vista energético para que puedan ejecutarse de forma eficiente en el borde y, al mismo tiempo, ofrecer resultados precisos. Aunque se ha avanzado mucho en la compresión de modelos, preveo que se seguirá innovando en este ámbito, lo que, unido a los avances en los procesadores, hará que la IA Edge sea omnipresente.
Las herramientas de IA separarán a los buenos desarrolladores de los excepcionales, desempeñando un papel integral en la productividad de los desarrolladores.
Los buenos desarrolladores se apoyarán en herramientas de IA para aligerar su carga de trabajo. Los desarrolladores excepcionales utilizarán herramientas y asistentes de IA para aumentar la productividad en tareas repetitivas y mundanas, de modo que puedan centrarse más en ser creativos, abordar los problemas difíciles y gestionar las tareas de mayor valor que promueven la innovación.
Aunque advierto que los desarrolladores no deben depender demasiado de las herramientas de IA y apoyarse en las herramientas de productividad para que hagan todo o casi todo el trabajo por ellos, la realidad es que la IA seguirá desempeñando un papel fundamental en la productividad de los desarrolladores. Los desarrolladores deben comprender las limitaciones de estas herramientas y actuar con buen criterio cuando las utilicen, ya que su uso excesivo puede ahogar la innovación y el pensamiento crítico. Además, los resultados pueden no ser los más precisos, actualizados o la forma más eficiente de resolver el problema.
Edge computing, modelos de IA ligeros y un enfoque en el empoderamiento de los desarrolladores moverán la aguja de la IA en 2024
Los modelos de IA ligeros junto con las innovaciones de hardware en el borde, y la convergencia de la IA en el borde y en la nube, serán fundamentales para una estrategia de IA exitosa en 2024 y más allá. Además, las organizaciones de ingeniería seguirán buscando formas de aprovechar las herramientas y los asistentes de IA para acelerar la productividad de los desarrolladores al tiempo que fomentan la creatividad y la innovación. En el próximo año, espero ver cómo las organizaciones amplían su uso de la IA generativa para seguir evolucionando sus operaciones y crear soluciones innovadoras para sus clientes trasladando las cargas de trabajo a la periferia.
Más información
¿Qué opina de estas predicciones de tendencias? Siga nuestros avances en IA a través de este blog:
