Refuerza tu privacidad y gobernanza de datos
Garantiza el cumplimiento y protege tu empresa con DataCamp para empresas. Cursos especializados y seguimiento centralizado para salvaguardar tus datos.
Por qué importa la ética de datos
Veamos algunos ejemplos de por qué la ética de datos es tan importante:
- En septiembre de 2018, unos hackers inyectaron código malicioso en la web de British Airways y desviaron el tráfico a un sitio fraudulento. Sin saberlo, los clientes entregaron su información a los estafadores, incluidos credenciales de acceso, datos de tarjeta, dirección e información de reservas.
- En 2019, tras el lanzamiento de la tarjeta de crédito de Apple, surgieron acusaciones de sesgo de género en su algoritmo. Varios directivos destacados del sector (incluido Steve Wozniak, tecnólogo y cofundador de Apple) contaron que recibieron límites de crédito exponencialmente más altos que los de sus esposas, con quienes compartían patrimonio. Más allá del género, no había factores claros que justificaran tal diferencia.
- En marzo de 2021, se vulneró la privacidad de más de 533 millones de usuarios de Facebook cuando sus datos se publicaron en un foro abierto de hackers. Fue una de las mayores filtraciones de datos de la historia y reavivó la preocupación por el almacenamiento y la seguridad de la información personal, e incluso por si las organizaciones deberían tener acceso a ella.
Estos casos son solo una pequeña muestra de las brechas en la seguridad digital. Incluso DataCamp sufrió una brecha de seguridad en 2019.
Más allá de tu nivel técnico, la relevancia de la ética de datos es cada vez más evidente. Vivimos en un mundo donde los datos son un activo poderoso, capaz de impulsar la innovación y mejorar nuestra vida. Sin salvaguardas éticas, también pueden malutilizarse y causar daños.
Entender la ética de datos nos permite navegar mejor cómo se usa nuestra información y protegernos mientras participamos en una sociedad basada en datos. Además, nos anima a pensar de forma crítica en el tipo de futuro que queremos construir no solo para nosotros, sino para las próximas generaciones, a medida que la tecnología evoluciona.
Comprender el panorama actual y futuro de la ética de datos
La inteligencia artificial (IA) y el aprendizaje automático avanzan a gran velocidad, aunque aún están en una fase temprana. Por eso es crucial abordar ahora las consideraciones éticas y garantizar que estas tecnologías sigan aportando beneficios a la sociedad. Las preguntas sobre el futuro de la IA responsable son urgentes, y conviene mantenerse al día a través de recursos como el pódcast DataFramed de DataCamp.
A medida que vivimos cada vez más conectados, la frontera entre lo privado y lo público se difumina. Aunque existen protecciones legales para los datos personales —como el Reglamento General de Protección de Datos (RGPD) de la UE y la ley californiana CCPA— siguen quedando zonas grises que hacen difícil gestionar la privacidad con eficacia.
[Referencia: Statista 2021]
Si usas con frecuencia algunas de estas plataformas, quizá te sorprenda qué datos se están vendiendo. Desde tu correo hasta tu historial de chats y tu ubicación, las agencias de publicidad u otros compradores pueden obtener mucho cuando, sin darte cuenta, les abres la puerta a través de las aplicaciones.
[Referencia: Harvard Business Review]
Muchas organizaciones están desarrollando la infraestructura que hace posible la IA y la ciencia de datos en distintos sectores, por lo que la investigación sobre exposición apenas empieza. El consentimiento y la compraventa de información personal serán un tema clave en más y más ámbitos de la vida.
Para entender el potencial impacto cuando ciertas empresas desarrollen infraestructura para facilitar proyectos de big data, herramientas de arte de IA de código abierto como DALL-E y Stable Diffusion demuestran lo rápido que puede mejorar la IA cuando se generaliza su acceso. Con estos avances tan veloces, lo único seguro es que garantizar la privacidad, la seguridad y la equidad de los datos será cada vez más complejo.
Principios de la ética del big data
Aunque no existe una fórmula única para unas prácticas éticas de datos, sí hay principios fundamentales que pueden guiar un uso responsable:
- Transparencia: Es vital comunicar con claridad cómo se recopilan, almacenan y comparten los datos. Las personas deben entender cómo se usa su información sin necesitar conocimientos legales para descifrar los términos y condiciones.
- Responsabilidad: Las organizaciones deben asumir la responsabilidad de los datos que recaban, incluida su protección frente a brechas y usos indebidos. Este principio es clave para mantener la confianza entre empresas y usuarios.
- Capacidad de decisión individual: Cada persona debe poder controlar sus datos personales, incluido el acceso, la corrección o la eliminación. Garantizar esta capacidad es un derecho fundamental en la era digital.
- Privacidad de los datos: La privacidad implica esperar que los datos personales estén protegidos frente a exposiciones no autorizadas. Las organizaciones deben cumplir esta expectativa con medidas de seguridad sólidas y respetando los acuerdos con sus usuarios.
Cómo aplicar la ética de datos
Aplicar la ética de datos no es solo filosofía; implica decisiones prácticas que reflejen estos valores en el día a día. Así pueden integrar la ética de datos distintos perfiles:
Guía de ética de datos para profesionales individuales
Ingeniería de software, machine learning o IA
Las personas ingenieras deben colaborar con especialistas en ética y otros grupos de interés para abordar los retos éticos. Documentar procesos y revisar a fondo los datos ayuda a detectar y mitigar posibles problemas éticos desde fases tempranas del desarrollo.
Project managers técnicos
Quienes gestionan proyectos deben incorporar consideraciones éticas en la planificación, asegurando que todo el equipo esté alineado con estas prioridades. Esto puede implicar coordinar nuevos interlocutores e integrar salvaguardas éticas en el alcance del proyecto.
Product managers
Las personas responsables de producto son clave para que los productos se diseñen con la ética en mente. Esto incluye probar la inclusividad y abordar cualquier preocupación ética que surja durante el desarrollo.
Guía de ética de datos para líderes de organización
Las organizaciones, grandes y pequeñas, deben priorizar la ética de datos para proteger a sus usuarios y a sí mismas:
Startups
En las startups, establecer prácticas éticas desde el inicio es esencial. Aunque los recursos sean limitados, una base ética sólida puede prevenir problemas a medida que la empresa crece.
Pequeñas y medianas empresas
Al escalar, las pymes deben mantener la transparencia con sus clientes sobre el uso de datos y garantizar que el consentimiento se obtenga y respete en todo momento.
Corporaciones globales
Las grandes corporaciones deben predicar con el ejemplo, implantando programas integrales de ética de datos que incluyan colaboración interdepartamental, formación del personal y auditorías periódicas de las prácticas éticas.
[Referencia: Spanning]
Retos actuales: ejemplos de ética de datos
Algoritmos éticos
Los algoritmos pueden amplificar el impacto de cualquier acción millones de veces al ponerse en producción. Incluso en su fase inicial, abundan los ejemplos de cómo la falta de salvaguardas éticas nos afecta.
Algoritmos de contratación en Amazon
Los proyectos relacionados con recursos humanos casi siempre son de alto riesgo porque determinan el acceso al empleo, con impactos que pueden amenazar claramente el sustento de las personas. Con las candidaturas online y herramientas como LinkedIn, encontrar al perfil adecuado garantizando la igualdad de oportunidades plantea nuevos retos.
En 2016-2017, Amazon trató de abordar ambos problemas con un algoritmo interno que decidía qué currículums pasaban a la siguiente fase. Pronto se hizo evidente un sesgo contra las mujeres en roles técnicos. Debido al sesgo ya presente en los datos históricos, el algoritmo acabó aprendiendo a identificar y penalizar candidaturas femeninas.
Aunque Amazon desechó este algoritmo, la mayoría del personal de RR. HH. prevé usar herramientas de IA con regularidad en sus procesos de selección. Lee más sobre cómo usar el machine learning de forma ética para tomar decisiones en otro artículo.
El reconocimiento facial falla más con pieles oscuras
El reconocimiento facial se ha generalizado no solo para acceder a móviles y cuentas, sino también como herramienta crítica en vigilancia policial, control de pasajeros en aeropuertos y decisiones de empleo y vivienda.
Sin embargo, en 2018 se demostró que estos algoritmos rendían notablemente peor con mujeres de piel oscura —con tasas de error hasta un 34% superiores que en hombres de piel clara.
Si te interesa cómo funciona la detección facial, echa un vistazo a nuestro tutorial sobre detección de rostros con Python y OpenCV.
Privacidad de los datos
Aprende más sobre privacidad y anonimización de datos en Python con nuestro curso interactivo.
Apps de seguimiento del ciclo menstrual
Tras la anulación en EE. UU. de la protección federal del aborto (Roe v. Wade), las apps de control del ciclo se han convertido en un posible medio de acusación en futuras prohibiciones. Aunque la mayoría permiten compartir datos personales con terceros, muchas tienen redacciones confusas sobre si podrían compartir datos con autoridades para órdenes de detención.
Aunque a veces haga falta un experto legal para interpretar los términos y condiciones de las apps que usas a diario, entender las contrapartidas y los riesgos a los que te expones será cada vez más importante.
Uber rastreó a políticos y famosos con "god-mode"
En 2014, se afirmó que el "god-mode" de Uber daba a todo el personal acceso a datos completos de usuarios, que a menudo se usaban para rastrear a celebridades, políticos e incluso contactos personales (como exparejas). Un extrabajador también presentó una demanda describiendo comportamientos temerarios con la información y un "total desprecio" por la privacidad.
Por esas fechas, en 2016, Uber intentó encubrir una importante brecha de datos pagando a los hackers y sin reportar el incidente, pese a estar bajo investigación de la Comisión Federal de Comercio de EE. UU. por su seguridad corporativa.
Seguridad de los datos
Desde fallos de seguridad inherentes hasta vulnerabilidades de hacking, la seguridad de los datos puede poner en riesgo mucho más que tus credenciales. Apps y webs de todo tipo pueden localizarte, leer tus mensajes, ver a quién has bloqueado y cómo gastas tu dinero.
Participes mucho o poco en servicios digitales (banca, mensajería, email, etc.), probablemente estés expuesto de más formas de las que crees.
Regulaciones actuales sobre ética de datos
Mucha gente es consciente de la importancia de la ética de datos, pero ¿qué significa para nosotros como consumidores? ¿Qué implica para las empresas? ¿Y para las administraciones públicas?
La respuesta depende de dónde vivas. En algunos países ya hay leyes que obligan a las empresas a ser transparentes sobre cómo gestionan la información personal; en otros, no hay apenas regulación.
Y luego están las preguntas éticas del día a día: ¿cuánto compartimos entre nosotros en internet? ¿Deberíamos compartir menos? ¿Qué pasa cuando algo sale mal? Son cuestiones urgentes que requieren reflexión y liderazgo firme tanto de gobiernos como de la industria, para que nuestro futuro no se vea amenazado por conductas poco éticas o por su ausencia.
En todo el mundo, los gobiernos están probando nuevas fórmulas para regular la recogida ética de datos, la IA y sus distintos usos (p. ej., la publicidad segmentada).
Estas son algunas normativas que conviene conocer y seguir para entender el estado actual de la regulación de datos donde vives:
Protección de datos
- RGPD (Unión Europea) - Más información en nuestro webinar Data Ethics and GDPR for Data Practitioners.
- CCPR, CCPA (EE. UU. - California)
Uso de IA
- EU AI Act
- Regulación de sesgos en contratación con IA en Nueva York (EE. UU. - NY)
- Algorithm Justice and Online Platform Transparency Act (EE. UU.)
Regulación de plataformas
- Ley de servicios digitales (Unión Europea)
Aunque la UE y EE. UU. marcan el paso en legislación ya en vigor, la mayoría de estas políticas son recientes y están en constante evolución.
Forma a tu equipo en ética de datos
A medida que crece la importancia de la ética de datos, es clave que las empresas se aseguren de que sus equipos están preparados para afrontar los retos éticos del trabajo con datos. La ética de datos no es solo cosa de data scientists o del equipo legal: es un pilar de una gestión responsable en todos los departamentos.
Si lideras un equipo o una empresa, invertir en formación en ética de datos puede mejorar significativamente la capacidad de tu equipo para manejar datos con responsabilidad, proteger la privacidad de los clientes y salvaguardar la reputación de tu organización. DataCamp for Business ofrece programas de formación completos, adaptados a tu sector y necesidades, para que tu equipo desarrolle una base sólida en ética de datos. Te ofrecemos:
- Itinerarios de aprendizaje a medida: Programas diseñados según los roles de tu equipo y los retos éticos que puedan encontrar.
- Aplicación práctica: Cursos interactivos y casos reales para aplicar los principios éticos en el trabajo diario.
- Evaluación continua: Herramientas para seguir el progreso y la aplicación de la ética de datos, manteniéndoos a la vanguardia de los nuevos desafíos.
Al potenciar a tu equipo en ética de datos con plataformas como DataCamp, no solo fomentas una cultura de conciencia ética, sino que además posicionas tu negocio como referente en uso responsable de los datos. Esta inversión ayuda a evitar errores costosos, genera confianza con tus clientes y asegura el éxito a largo plazo. Conecta con nuestro equipo y solicita una demo hoy.