Si los datos son oro, hay que proteger ese oro. En el desarrollo de software, a menudo se piensa que los datos son imparciales, puramente matemáticos, y que no tienen por qué estar relacionados con la ética. Sin embargo, quiero plantear que no sólo la protección de los datos de uno, sino centrarse en su uso ético es de suma importancia para el papel de cada desarrollador de software, y más aún, el papel de cada persona en una empresa de tecnología. Ofreceremos una inmersión profunda en la administración ética de los datos, al tiempo que presentaremos marcos integrales, directrices y un recorrido paso a paso de un sprint técnico ético diseñado para integrar estos principios en sus prácticas de desarrollo de software.
Comprender la gestión ética en el desarrollo de software
El Instituto de Datos Abiertos define la administración ética de los datos como "un proceso iterativo y sistémico para garantizar que los datos se recopilan, utilizan y comparten en beneficio público, mitigando las formas en que los datos pueden producir daños y abordando cómo pueden corregir las desigualdades estructurales". Esta comprensión y este enfoque son cruciales para prevenir el uso indebido de los datos y mantener la confianza pública, sobre todo a medida que las tecnologías basadas en datos afectan cada vez más a todos los aspectos de nuestras vidas.
Marcos básicos para la toma de decisiones éticas
Como ingenieros de software y profesionales de la tecnología, a menudo no nos ocupamos de la ética en nuestras prácticas cotidianas de desarrollo de software. Sin embargo, hay varios marcos éticos que podemos incorporar a nuestra vida diaria para ayudar a nuestros colegas desarrolladores a navegar por los complejos paisajes éticos que rodean a los datos:
-
- Diseño ético del IEEE:
- Principios: Se centra en la protección de los derechos humanos, dando prioridad al bienestar de los usuarios y garantizando la responsabilidad del sistema.
- Aplicación: Piense en una aplicación sanitaria impulsada por IA en la que los principios del IEEE guíen el desarrollo para garantizar que los algoritmos proporcionen un asesoramiento sanitario equitativo sin discriminar en función de sesgos inherentes.
- Informe Menlo:
- Principios: Hace hincapié en el respeto a las personas, la beneficencia, la justicia y el respeto a la ley y al interés público.
- Aplicación: Útil para las aplicaciones móviles que recopilan datos de localización de los usuarios, la aplicación de los principios de Menlo implicaría garantizar que la recopilación de datos sea transparente, beneficie a los usuarios y distribuya los beneficios de los datos de forma justa sin explotar a grupos específicos.
- Diseño ético del IEEE:
Herramientas y tecnologías para mejorar las prácticas éticas
Los desarrolladores disponen de varias tecnologías para facilitar el tratamiento ético de los datos:
-
- Cifrado homomórfico:
- Detalle: Permite cifrar y procesar datos simultáneamente, lo que posibilita el análisis seguro de datos sin exponerlos.
- Caso práctico: En los servicios financieros, el cifrado homomórfico puede utilizarse para analizar datos personales de inversión, proporcionando asesoramiento personalizado sin comprometer la confidencialidad del cliente.
- Privacidad diferencial:
- Detalle: Añade ruido matemático a los conjuntos de datos o a las consultas, garantizando la privacidad individual al tiempo que se mantiene la utilidad de los datos agregados.
- Caso práctico: Cuando se analizan datos sobre el comportamiento de los usuarios para un estudio de marketing, la privacidad diferencial garantiza que los conocimientos obtenidos no permitan distinguir los datos de ningún usuario individual.
- Lista de comprobación de la ética de los datos:
- Detalle: Una lista de control exhaustiva que garantiza que todos los aspectos del tratamiento de datos, desde la recogida hasta el análisis, cumplen las normas éticas.
- Aplicación: Antes de desplegar una nueva función de seguimiento de usuarios, los desarrolladores pueden utilizar la lista de comprobación para revisar las implicaciones éticas, asegurándose de que se obtiene el consentimiento del usuario y se siguen los principios de minimización de datos.
- Cifrado homomórfico:
Recorrido detallado de un Sprint Ético: anonimización de datos en un ejemplo de App "HealthTrack".
Echemos un vistazo a un proyecto de aplicación de ejemplo para explorar cómo podemos aplicar técnicas avanzadas de anonimización de datos. Nuestro objetivo es proteger la privacidad del usuario y, al mismo tiempo, mantener la eficacia y funcionalidad de la información sanitaria personalizada de la aplicación.
Objetivo: Aplicar las técnicas más avanzadas de anonimización de datos en HealthTrack, una aplicación que utiliza datos personales de salud para ofrecer información sanitaria personalizada.
Fase de planificación
-
- Composición del equipo: Reúna un equipo multidisciplinar, que incluya un gestor de proyectos para supervisar el sprint, un desarrollador backend experto en seguridad de datos, un desarrollador frontend y un experto en privacidad de datos.
- Objetivos del Sprint: Establecer objetivos claros para integrar protocolos de anonimización sólidos que protejan la privacidad del usuario sin menoscabar la funcionalidad de la app.
Fase de implantación y pruebas
-
- Días 1-2: Desarrollar protocolos de anonimización.
- Privacidad diferencial: El equipo de backend integra algoritmos para inyectar ruido estadístico en los conjuntos de datos, garantizando que los resultados no comprometan la privacidad individual.
- Técnicas de seudonimización: Implantar procesos para sustituir sistemáticamente los identificadores directos por seudónimos, añadiendo una capa adicional de seguridad.
- Día 3: Pruebas de prototipos y comentarios de los usuarios.
- Pruebas de experiencia de usuario: Realización de pruebas en grupo para recabar opiniones sobre el impacto de la anonimización en la experiencia del usuario y la personalización de la información sanitaria.
- Comentarios: Analizar los comentarios para identificar posibles compensaciones entre la fuerza de anonimización y la funcionalidad.
- Días 1-2: Desarrollar protocolos de anonimización.
Fase de revisión e iteración
-
- Día 4: Revisiones de las partes interesadas y evaluaciones éticas.
- Amplia revisión: Presentar estrategias de anonimización a un grupo más amplio de partes interesadas, incluidos usuarios potenciales y equipos internos de cumplimiento, para garantizar que se cumplen todas las normas éticas y operativas.
- Evaluación del impacto ético: Llevar a cabo una revisión exhaustiva para garantizar que todas las implantaciones se ajustan al Informe Menlo y a los principios del IEEE.
- Día 5: Ajustes finales y documentación.
- Refinamientos: Realizar los ajustes necesarios en las técnicas de anonimización basándose en las opiniones de las partes interesadas.
- Documentación e informes: Documentar las metodologías, los procesos de toma de decisiones y las justificaciones de las estrategias elegidas para garantizar la transparencia y la rendición de cuentas.
- Día 4: Revisiones de las partes interesadas y evaluaciones éticas.
Fomentar una cultura ética
Crear una cultura ética sostenible implica algo más que controles periódicos:
-
- Formación ética periódica: Implemente programas educativos continuos que mantengan al equipo al día sobre cuestiones éticas y tecnologías emergentes.
- Prácticas éticas cotidianas: Integrar los debates éticos en las rutinas diarias, como las reuniones y las revisiones del código, para mantener un enfoque continuo en la toma de decisiones éticas.
Conclusión
La gestión ética de los datos es un aspecto crucial del desarrollo de software que exige atención y acción. Al adoptar los marcos, herramientas y prácticas descritos anteriormente, los ingenieros y profesionales de la tecnología pueden garantizar que sus funciones y productos no solo superen los límites tecnológicos, sino que también promuevan la equidad, la privacidad y la fiabilidad en todos los aspectos del proceso de desarrollo de software.
