{"id":3874,"date":"2024-08-01T06:51:02","date_gmt":"2024-08-01T13:51:02","guid":{"rendered":"https:\/\/www.couchbase.com\/blog\/faster-llm-apps-semantic-cache-langchain-couchbase\/"},"modified":"2024-08-01T06:51:02","modified_gmt":"2024-08-01T13:51:02","slug":"faster-llm-apps-semantic-cache-langchain-couchbase","status":"publish","type":"post","link":"https:\/\/www.couchbase.com\/blog\/es\/faster-llm-apps-semantic-cache-langchain-couchbase\/","title":{"rendered":"Cree aplicaciones de LLM m\u00e1s r\u00e1pidas y econ\u00f3micas con Couchbase y LangChain"},"content":{"rendered":"

Nuevo cach\u00e9 est\u00e1ndar, sem\u00e1ntico y conversacional con integraci\u00f3n de LangChain<\/span><\/h2>\n\n\n\n

En el panorama de r\u00e1pido desarrollo de aplicaciones de IA, la integraci\u00f3n de modelos ling\u00fc\u00edsticos grandes (LLM) con fuentes de datos empresariales se ha convertido en un enfoque fundamental. La capacidad de aprovechar el poder de los LLM para generar respuestas de alta calidad y contextualmente relevantes est\u00e1 transformando diversas industrias. Sin embargo, los equipos se enfrentan a desaf\u00edos significativos para ofrecer respuestas confiables a alta velocidad y, al mismo tiempo, reducir los costos, especialmente a medida que aumenta el volumen de solicitudes de los usuarios. Adem\u00e1s, dado que la mayor\u00eda de los LLM tienen memoria limitada, existe la oportunidad de almacenar las conversaciones con los LLM durante un per\u00edodo prolongado y evitar que los usuarios tengan que empezar desde cero despu\u00e9s de que expire la memoria de un LLM.\u00a0<\/span><\/p>\n\n\n\n

Couchbase, l\u00edder en almacenamiento en cach\u00e9 de alta escalabilidad y baja latencia (<\/span>Leer la historia de LinkedIn<\/span><\/a>), aborda estos desaf\u00edos con soluciones innovadoras. Las nuevas mejoras en nuestra oferta de b\u00fasqueda vectorial y almacenamiento en cach\u00e9, as\u00ed como un paquete dedicado de LangChain para desarrolladores, facilitan elevar el rendimiento y la confiabilidad de las aplicaciones de IA generativa.<\/span><\/p>\n\n\n\n

B\u00fasqueda vectorial y generaci\u00f3n aumentada por recuperaci\u00f3n (RAG) de Couchbase<\/h2>\n\n\n\n

La b\u00fasqueda vectorial de Couchbase permite a los usuarios encontrar objetos similares sin necesidad de una coincidencia exacta. Es una capacidad avanzada que permite la b\u00fasqueda y recuperaci\u00f3n eficiente de datos basada en incrustaciones vectoriales, que son representaciones matem\u00e1ticas de objetos en un n\u00famero muy grande de dimensiones. Como ejemplo, buscar en un cat\u00e1logo de productos zapatos que sean \u201cmarrones\u201d y de \u201ccuero\u201d devolver\u00eda esos resultados, as\u00ed como zapatos de \u201cante\u201d, con colores que incluyen \u201ccaoba, casta\u00f1o, caf\u00e9, bronce, caoba rojiza y cacao\u201d.\u201d<\/span><\/p>\n\n\n\n

La generaci\u00f3n aumentada por recuperaci\u00f3n (RAG) combina la b\u00fasqueda vectorial, recuperando informaci\u00f3n de la base de datos Couchbase relacionada con el mensaje del usuario, y entrega tanto el mensaje como la informaci\u00f3n relevante relacionada <\/span>informaci\u00f3n a un modelo generativo para producir respuestas de LLM m\u00e1s informadas y contextualmente apropiadas. A menudo esto es m\u00e1s r\u00e1pido y menos costoso que entrenar un modelo personalizado. <\/span>De Couchbase <\/span>arquitectura en memoria altamente escalable<\/span><\/a> proporciona acceso r\u00e1pido y eficiente para buscar datos de incrustaciones vectoriales relevantes. Para hacer que una aplicaci\u00f3n RAG tenga un mejor rendimiento y sea m\u00e1s eficiente, los desarrolladores pueden utilizar capacidades de cach\u00e9 sem\u00e1ntica y conversacional.\u00a0<\/span><\/p>\n\n\n\n

Cach\u00e9 sem\u00e1ntica<\/h2>\n\n\n\n

El almacenamiento en cach\u00e9 sem\u00e1ntico es una t\u00e9cnica sofisticada de almacenamiento en cach\u00e9 que utiliza incrustaciones vectoriales para comprender el contexto y la intenci\u00f3n detr\u00e1s de las consultas. A diferencia de los m\u00e9todos de almacenamiento en cach\u00e9 tradicionales que dependen de coincidencias exactas, el almacenamiento en cach\u00e9 sem\u00e1ntico aprovecha el significado y la relevancia de los datos. Esto significa que preguntas similares, que de otro modo obtendr\u00edan la misma respuesta de un LLM, no necesitan realizar solicitudes adicionales al LLM. Siguiendo con el ejemplo anterior, un usuario que busque \u201cEstoy buscando zapatos de cuero marr\u00f3n en talla 10\u201d obtendr\u00eda los mismos resultados que otro usuario que solicite \u201cQuiero comprar zapatos de talla 10 en cuero que sean de color marr\u00f3n\u201d.\u201d\u00a0<\/span><\/p>\n\n\n\n

\"Couchbase<\/p>\n\n\n\n

Los beneficios del almacenamiento en cach\u00e9 sem\u00e1ntico, especialmente en vol\u00famenes m\u00e1s altos, incluyen:<\/span><\/p>\n\n\n\n