Cómo reducir el riesgo de IA de su empresa en 2023

Con los lanzamientos históricos de OpenAI de DALL·E 2, y ChatGPT el año pasado, las personas han estado interactuando con la inteligencia artificial y viendo de primera mano (un poquito de) su potencial. 

Estas herramientas pueden parecer magia. Cada una toma una indicación de texto y luego te devuelve una respuesta. DALL·E convierte tu texto en una imagen y ChatGPT tendrá una conversación completa contigo. Por ejemplo, pídele un gatito con sueño a DALL·E y obtendrás una selección de encarnaciones impresionantes. Pídele a ChatGPT que escriba un ensayo sobre la Revolución estadounidense y obtendrás una tesis sólida.

Sin embargo, estas herramientas (y otras similares) no son en absoluto mágicas y ciertamente no son infalibles. Si miras con demasiado detenimiento, empezarás a ver problemas. ¿Le pediste a DALL·E algo con manos o texto? Probablemente te decepcionarán las “manos” y la disposición sin sentido de las letras. ¿Esa tesis sobre la Revolución estadounidense que solicitaste? Bueno, podría tener algunas inexactitudes factuales o una redacción extraña. 

La viralidad de estas dos herramientas nos ha llevado a lidiar con las complejas ramificaciones sociales y legales de la democratización de las herramientas de IA. Por ejemplo, ¿cómo afectará la IA a las leyes de derechos de autor? ¿Es una imagen producida por IA tan valiosa como una hecha por un humano? ¿Cuál es el futuro para las carreras de los artistas y la economía de los creadores? ¿Deberías entregarle ese ensayo sobre la Revolución estadounidense a tu profesor universitario? Probablemente no.

Esas preguntas no forman parte del alcance de este artículo; más bien nos preguntaremos: ¿Por qué Google no ha implementado algo como ChatGPT como producto de búsqueda?

¿Se puede confiar en la inteligencia artificial? 

Algunos de los iniciales reacciones del lanzamiento de ChatGPT fueron que Google está en problemas. ¿Por qué buscar en Google y hacer clic en enlaces para encontrar la respuesta a tu pregunta, cuando podrías preguntarle a ChatGPT? ¿Dónde está la respuesta de Google a esto? ¿Seguramente Google, con sus importantes inversiones en IA, ya podría haber producido esto?

Probablemente lo hizo. De hecho, lo ha demostrado públicamente demos de su motor de lenguaje natural llamado LaMDA AI, donde el usuario puede hablar con el planeta Plutón y hacerle cualquier pregunta que quiera. Sin embargo, Google nunca ha lanzado esto públicamente. ¿Por qué no?

En una reciente reunión general de la empresa, el director ejecutivo de Google, Sundar Pichai respondido esta pregunta citando el riesgo reputacional de dicho producto. Señaló que los usuarios confían intrínsecamente en los resultados de búsqueda de Google y que “puedes imaginar que para las aplicaciones similares a la búsqueda, los problemas de veracidad son realmente importantes y para otras aplicaciones, los problemas de sesgo, toxicidad y seguridad también son primordiales”.”

Sí, los resultados de búsqueda inexactos dañarían la imagen de Google, pero la segunda parte de esa respuesta revela el riesgo real. Si formulas la pregunta de una manera específica, puedes lograr que ChatGPT te diga cosas horriblemente falsas o altamente ofensivas. Por ejemplo, Steven Piantadosi, de la Universidad de California revelado que ChatGPT clasificó el valor de un cerebro humano según la raza y el género. 

Mientras Google traza lenta y metódicamente su futuro en la IA, otros están aprovechando la oportunidad para alterar el statu quo. Con el reciente anuncio de la intención de Microsoft de integrar algunos de sus productos principales (Oficina y Bing) con la tecnología de OpenAI, debemos mirar más de cerca para entender por qué los motores de IA tienen el potencial de ser despectivos. Desafortunadamente, no es culpa de la IA. Para entender por qué, necesitamos echar un vistazo detrás del telón.

Dentro del cerebro de la IA

Tanto DALL·E como ChatGPT son modelos de aprendizaje automático. Utilizan técnicas de modelado bien investigadas para crear sistemas predictivos que toman una entrada y devuelven una salida. DALL·E fue alimentado con miles de millones de pares de imágenes y pies de foto de internet y aprendió cómo se relacionan, de modo que al recibir un nuevo pie de foto puede generar una imagen coincidente. ChatGPT se basa en el modelo de lenguaje GPT3, el cual ingirió texto de internet para que, al recibir un aviso, pueda predecir qué palabra debe seguir. Esto se implementó posteriormente en un marco de conversación para producir ChatGPT.

La razón por la cual modelos como ChatGPT pueden producir resultados ofensivos, racistas o sexistas, es porque fueron entrenados en un conjunto de datos que contenía millones de ejemplos de contenido altamente ofensivo. Internet está lleno de personas que dicen cosas terribles y sin filtros, por lo que usarlo como fuente de datos para entrenar un modelo indudablemente le enseñará a decir esas mismas cosas. Imagina enseñarle a hablar a un bebé diciéndole únicamente groserías; puedes imaginar cuál podría ser la primera palabra del bebé.

Esto explica por qué empresas como Google temen lanzar estos modelos de IA masivos y complejos. Una vez que todo el complicado entrenamiento del modelo ha concluido, te quedas con una caja negra probabilística. No puedes estar seguro de que, ante una entrada en particular, la caja negra no arroje algo particularmente obsceno.

El problema no es nuevo. Se le conoce como sesgo de la IA, el cual ocurre cuando un modelo de IA refleja los sesgos inherentes de su autor humano que están implícitos a través del conjunto de datos. Basura entra, basura sale. 

Entonces, ¿cómo pueden las empresas que utilizan la inteligencia artificial en su conjunto de productos reducir el sesgo de la IA y el riesgo de poner en producción un modelo de IA dañino, ofensivo e inseguro? ¿Qué pueden hacer Microsoft, Google y otras empresas para reducir el riesgo para sus clientes y marcas?

Shift Right: El enfoque de ChatGPT

OpenAI era muy consciente de este problema mucho antes de lanzar ChatGPT, tanto es así que se crearon medidas de protección en su contra. El enfoque era sencillo. No dejar que ChatGPT responda a preguntas que puedan generar respuestas inapropiadas. ChatGPT tiene una lista de palabras clave y frases prohibidas a las que no responderá o sobre las cuales se le ha enseñado cómo responder específicamente.

Esto significa que en la mayoría de los casos, OpenAI ha impedido que ChatGPT diga algo intolerante. Sin embargo, el hecho de que los usuarios puedan manipular a ChatGPT para que diga cosas intolerantes significa que el modelo de IA subyacente sufre de sesgo de IA y ha aprendido el lenguaje dañino inherente de su conjunto de datos. Sí, OpenAI seguirá construyendo más filtros y estrategias para evitar que esos sesgos inherentes salgan a la luz, pero los sesgos siguen ahí.

Esto es una estrategia de desplazamiento hacia la derecha (*shift right*): colocar un filtro al final del proceso para intentar evitar que el riesgo pase. Claramente no es infalible.

Desplazamiento a la izquierda: el enfoque seguro para la reputación

Una estrategia a más largo plazo es observar el comienzo del proceso. Si eliminas el sesgo del conjunto de datos antes de que el modelo tenga la oportunidad de aprenderlo, habrás anulado efectivamente la posibilidad de construir una IA sesgada.

Aunque OpenAI intentó limitar la exposición de GPT-3 y DALL·E a textos e imágenes vulgares, no fue 100% eficaz. Al tratar un conjunto de datos del tamaño de Internet, una solución de este tipo resulta prohibitivamente costosa y complicada para un grupo de investigación como OpenAI. Sin mencionar el enorme alcance de Internet, los matices del racismo y el sexismo en línea son muy difíciles de identificar y eliminar, incluso de manera manual. 

Esto no aplica para todos los proyectos de inteligencia artificial, especialmente cuando se apunta a un caso de uso más pequeño. La mayoría de las empresas no están intentando construir un producto de IA de propósito general, y esta estrategia es el enfoque más escalable. 

Tomemos el ejemplo de una empresa ficticia, “SalaryAdvise”. Está intentando construir un modelo de IA que tome los detalles de un empleado determinado y sugiera un salario justo. SalaryAdvise ha adquirido minuciosamente un conjunto de datos de cientos de miles de personas, con sus datos personales, historial laboral y salario actual. Aquí hay un ejemplo teórico de cómo podría verse un solo punto de datos:

Nota: todos los datos utilizados en este ejemplo son completamente ficticios y creados utilizando mimesis al azar

Aunque este conjunto de datos es exhaustivo, usarlo para entrenar un modelo produciría un modelo que considera el género, la edad, el tipo de sangre y la nacionalidad como entradas para calcular el salario. Estos son datos protegidos y de ninguna manera deben ser una consideración ética o legal. También hay algunos datos irrelevantes para determinar el salario, como el nombre y la altura. Por lo tanto, para solucionar eso, podemos eliminar esos puntos de datos:

Al buscar sesgos en los conjuntos de datos, también debemos considerar los indicadores indirectos (proxies): puntos de dato que pueden socavar la exclusión de valores protegidos. La información de la dirección es útil, ya que la información geográfica puede indicar el salario, pero ciertos grupos de población pueden vivir en zonas similares, por lo que usar la dirección completa (y el código postal) puede implicar otra información demográfica. Por lo tanto, debemos eliminarla.

Ahora nos queda un conjunto de datos que no contiene ningún valor protegido o información que pueda hacer que un modelo de IA sea sesgado. SalaryAdvise ahora debería sentirse cómoda usando este conjunto de datos para entrenar el modelo, sabiendo que la IA no puede tener sesgos y la empresa ha protegido su reputación.

Eliminación automática de sesgos: El enfoque de Couchbase

Como custodio de datos y de acuerdo con los valores de nuestra empresa, Couchbase busca empoderar a los usuarios para construir modelos de IA imparciales. Es por eso que hemos creado el Servicio de Eventing de Couchbase para nuestra plataforma de base de datos en la nube, permitiendo a los investigadores eliminar automáticamente información protegida de un conjunto de datos de IA.

Con Eventing, puede activar la ejecución de una función de JavaScript en cualquier actualización de un documento en su conjunto de datos (y en todos los datos existentes), de modo que cada vez que se agregue un nuevo documento, elimine automáticamente la información protegida. El ejemplo anterior se puede lograr con la siguiente función simple:

Al usar Couchbase, también obtienes acceso a su arquitectura centrada en la memoria, lo que te brinda un rendimiento incomparable y la capacidad de usar SQL++ para consultar tu conjunto de datos.

Desata el potencial de esta base de datos de documentos NoSQL en tu próximo proyecto de IA.

Iniciar gratis prueba hoy.