IA generativa (IAG) tiene el potencial de automatizar actividades laborales que actualmente ocupan del 60 al 70 por ciento del tiempo de los empleados, lo que genera ganancias sustanciales de productividad en diversas industrias. Sin embargo, el conocimiento de un LLM de Propósito General (GP) se limita a sus datos de entrenamiento, lo que hace que ’alucine“ al proporcionar respuestas incompletas o inexactas. Esto socava la confianza y la credibilidad, impidiendo que muchas Pruebas de Concepto (POC) de IA generativa lleguen a producción. Al introducir la técnica de Generación Aumentada por Recuperación (RAG), podemos enriquecer el LLM con datos propietarios que fundamentan las respuestas del LLM en hechos actuales y confiables. Una implementación exitosa de RAG requiere una base de datos altamente escalable y confiable para que funcione como base de conocimiento, base de datos vectorial y caché de LLM, junto con una plataforma sólida para desarrollar y escalar aplicaciones de IA generativa utilizando modelos fundacionales líderes.

Couchbase y Amazon Bedrock juntos ofrecen una plataforma integral para crear sin inconvenientes aplicaciones RAG de alto rendimiento en industrias como el comercio minorista, la salud, la hotelería, los videojuegos y muchas otras.

Couchbase Capella, una Base de Datos como Servicio (DBaaS) nativa de la nube y de alto rendimiento, le permite comenzar rápidamente a almacenar, indexar y consultar datos operacionales, vectoriales, de series temporales, textuales y geoespaciales para sus aplicaciones RAG, al tiempo que aprovecha la flexibilidad de JSON. Además, ofrece de manera única búsqueda híbrida, que lleva la búsqueda semántica al siguiente nivel al combinar la búsqueda tradicional y vectorial dentro de una sola consulta SQL++ para impulsar aplicaciones que requieren una búsqueda altamente granular con alta especificidad de selección. Esta capacidad abarca la nube, el borde y los dispositivos móviles. Puede integrar fácilmente Capella como una base de conocimiento, base de datos vectorial o un Caché de LLM con una plataforma líder de IA generativa como Amazon Bedrock utilizando marcos de orquestación como LangChain o LlamaIndex para construir un flujo de RAG de nivel de producción. Amazon Bedrock es un servicio totalmente administrado que ofrece una selección de modelos base de alto rendimiento de empresas líderes en inteligencia artificial (IA) como AI21 Labs, Anthropic, Cohere, Meta, Mistral AI, Stability AI y Amazon mediante una única API, junto con un amplio conjunto de capacidades que necesita para construir aplicaciones de IA generativa con seguridad, privacidad e IA responsable.  

En este blog, presentamos una aplicación de chat con RAG construida utilizando Búsqueda vectorial de Couchbase y Amazon Bedrock. Utiliza Couchbase datos de travel-sample almacenados en Couchbase Capella y el modelo Anthropic Claude de Amazon Bedrock.

Puede seguir los pasos a continuación para desarrollar su aplicación RAG representada en la Figura 1.

Paso 1: Crear un índice de vectores

Paso 1.1: Cree un clúster de Capella en pocos minutos

• Crea una cuenta gratis con El nivel gratuito de Couchbase Capella ofrenda.
• Seleccione su región de AWS preferida y comience con el clúster de Couchbase Capella.
• Configurar las credenciales de la base de datos.
• Puedes permitir el acceso desde cualquier lugar para esta implementación de RAG.
• Usaremos el travel-sample Balde.

Paso 1.2: Crear el índice vectorial

• En el Bases de datos página, seleccione el clúster de prueba donde desea crear el índice vectorial.
• Ir a Herramientas de datos > Buscar.
• Hacer clic Crear índice de búsqueda.
• De forma predeterminada, comenzarás en Modo rápido. Cambiar a Modo avanzado.
• Hacer clic Definición del índice.
• Hacer clic Importar desde archivo.
• Subir el archivo de índice.
• Hacer clic Crear índice
  

Paso 2: Seleccionar el modelo de incrustación y el LLM

• Ve a la Consola de Amazon Bedrock y haz clic en “Model Access” en tu cuenta de AWS.
• Seleccione los siguientes modelos y haga clic en el botón “Solicitar acceso al modelo”:
  • Amazon: Titan Embeddings G1 – Text
  • Anthropic: Claude 2

Paso 3: Construye tu aplicación RAG

• Cree una instancia de Notebook de Amazon SageMaker en su cuenta de Amazon siguiendo las instrucciones Aquí. 
• Sube el “RAG_con_Couchbase_y_Amazon_Bedrock”archivo de Jupyter notebook al Notebook de Amazon SageMaker. 
• Configure el notebook con los detalles de conexión de su entorno de Couchbase.
  

• Actualice esta aplicación para adaptarla a sus necesidades y ejecútela cuando termine.

Ahora puedes hacerle preguntas al chatbot. Aunque no se cubre en este blog, considera usar barandas de seguridad de Bedrock para garantizar que el contenido que la política de su empresa considere inapropiado no se devuelva como respuesta a su usuario final.

Al combinar las capacidades de almacenamiento y recuperación de datos de alto rendimiento de Couchbase con la variedad de cobertura de modelos, seguridad y facilidad de uso de Amazon Bedrock para acceder a los LLM de su preferencia, puede crear aplicaciones RAG de alto rendimiento. Estas aplicaciones ahora se pueden diseñar para ofrecer una alta relevancia y precisión contextual, lo que permite una amplia gama de casos de uso como la creación de contenido, la respuesta a preguntas, la sumarización y la generación de informes, entre muchos otros.

Recursos adicionales

• Blog Una descripción general de RAG
• Documentos: Instalar la integración de Langchain-Couchbase
• Documentos: Couchbase como Almacén de Vectores con LangChain
• Video: Búsqueda vectorial e híbrida
• Video: Búsqueda vectorial para aplicaciones móviles
• Documentos: Búsqueda vectorial en Capella DBaaS