Ética en la IA generativa

Hasta hace unos años, ¿podías imaginar una máquina capaz de crear arte, escribir historias o incluso entender datos complejos como documentos médicos y legales?

Probablemente no. Para la mayoría, era ciencia ficción, una realidad lejana.

Pero la llegada de la era de la IA generativa ha redefinido lo que creemos que pueden hacer las máquinas.

¿Qué es la IA generativa?

La IA generativa es una rama avanzada de la IA que permite a las máquinas crear contenido nuevo a partir de contenido existente en forma de texto, audio, vídeo e incluso código.

Gartner la define como «una de las tecnologías más impactantes y de evolución más rápida, capaz de impulsar una revolución de la productividad».

Se está convirtiendo rápidamente en una realidad que ha dado pie a aplicaciones innovadoras que transforman sectores: acelerar y multiplicar la creatividad de contenidos en medios, marketing en retail, ofrecer tratamientos sanitarios personalizados y mejorar el aprendizaje con estilos educativos adaptativos.

Preocupaciones éticas de la IA generativa

El ritmo al que estas aplicaciones llegan al mercado es extraordinario.

Pero cuando Sam Altman, CEO de OpenAI, nos advierte de los peligros de los modelos de lenguaje, el riesgo es real. Toca equilibrar beneficios con cautela y aprovechar esta potente tecnología de forma responsable.

Fuente de la imagen: Business Insider

Veamos algunas de las principales preocupaciones éticas del uso de la IA generativa.

Difusión de contenido dañino

Aunque la capacidad de los sistemas de IA generativa para producir contenido similar al humano puede impulsar la productividad, también puede generar contenido dañino u ofensivo. La mayor preocupación proviene de herramientas como los deepfakes, capaces de crear imágenes, vídeos, textos o audios falsos con fines propagandísticos o para difundir discursos de odio.

Hace poco, una estafadora clonó la voz de una niña para exigir un rescate a su madre simulando un secuestro. Estas herramientas son ya tan sofisticadas que resulta difícil distinguir voces falsas de reales.

Además, el contenido generado automáticamente puede perpetuar o amplificar sesgos presentes en los datos de entrenamiento, dando lugar a lenguaje sesgado, explícito o violento. Este tipo de contenido requiere intervención humana para alinearlo con la ética empresarial de la organización que utiliza esta tecnología.

Derechos de autor y riesgos legales

Como la mayoría de modelos de IA, los modelos generativos se entrenan con datos, muchísimos datos. Por su propia naturaleza, pueden vulnerar derechos de autor y de propiedad intelectual de terceros. Esto expone a riesgos legales, reputacionales y financieros a las empresas que usan modelos preentrenados, además de perjudicar a creadores y titulares de derechos.

Vulneraciones de privacidad de datos

Los datos de entrenamiento pueden contener información sensible, incluida información de identificación personal (PII). La PII, según el Departamento de Trabajo de EE. UU., es la información «que identifica directamente a una persona, por ejemplo, nombre, dirección, número de la seguridad social u otro número o código identificativo, número de teléfono y dirección de correo electrónico».

La violación de la privacidad de los usuarios puede derivar en robo de identidad y usarse para discriminar o manipular.

Por ello, tanto los desarrolladores de modelos preentrenados como las empresas que los afinan para tareas específicas deben cumplir las normativas de privacidad y garantizar que la PII se excluya del entrenamiento.

Contamos con un webinar que explica las regulaciones de privacidad de datos, en particular el RGPD, para asegurar el uso ético de los datos.

Divulgación de información sensible

Más allá del uso diligente de los datos de los usuarios, es importante considerar los riesgos de divulgar inadvertidamente información sensible, un problema amplificado por la rápida democratización de las capacidades de la IA. La curiosidad y la comodidad de las herramientas de IA generativa, especialmente ChatGPT, pueden llevar a pasar por alto la seguridad de los datos al explorar estas plataformas.

Los riesgos se disparan si una persona empleada sube detalles sensibles como un contrato legal, código fuente de un producto software o información propietaria, entre otros.

Las consecuencias pueden ser graves, tanto económicas como reputacionales o legales para las organizaciones, por lo que resulta imprescindible contar con una política clara de seguridad de datos.

Amplificación de sesgos existentes

Los modelos de IA son tan buenos (o malos) como los datos con los que se entrenan. Si los datos reflejan sesgos sociales, el modelo se comportará en consecuencia… o eso pensábamos. Un estudio reciente publicado en Bloomberg revela que estos modelos pueden ser incluso más sesgados que los datos reales con los que se entrenan.

El estudio destapa una dura realidad al afirmar que «el mundo según Stable Diffusion está dirigido por CEOs hombres blancos. Las mujeres rara vez son médicas, abogadas o juezas. Los hombres de piel oscura cometen delitos, mientras que las mujeres de piel oscura trabajan en comida rápida».

Para construir un mundo más equitativo, los datos deben reflejar esa diversidad e incluir equipos y perspectivas diversas a lo largo de todo el ciclo de desarrollo.

Roles y moral de la plantilla

Por un lado, la IA generativa se ve como la próxima ola que desata productividad; por otro, implica la pérdida de empleos, ya que hacen falta menos personas para el mismo volumen de trabajo.

El último informe de McKinsey también señala el riesgo de desplazamiento de competencias: «La IA generativa y otras tecnologías actuales podrían automatizar actividades que hoy absorben entre el 60 % y el 70 % del tiempo de las personas empleadas».

Aunque este lado negativo ponga en riesgo muchos puestos hoy, no significa frenar la transformación que trae la IA generativa; sí exige medidas de formación continua o recualificación hacia los nuevos roles que surgen con esta era de IA avanzada.

Proveniencia de los datos

La mayoría de preocupaciones en torno al uso de herramientas de IA están relacionadas con los datos: privacidad de usuarios, generación de datos sintéticos multimodales (texto, imágenes, vídeos o audio), etc.

Estos sistemas requieren mantener la garantía e integridad de los datos para evitar el uso de datos sesgados o de origen dudoso.

Falta de transparencia

Los sistemas de IA tienen una naturaleza de caja negra: es difícil entender cómo llegan a una respuesta concreta o qué factores han influido en su decisión.

Las capacidades emergentes de los grandes modelos intensifican esta brecha: incluso a sus desarrolladores les sorprende su funcionamiento, hasta el punto de que «la comunidad investiga no solo para identificar nuevas capacidades emergentes, sino para entender por qué y cómo ocurren y así poder anticipar lo impredecible».

Ejemplos de desinformación generada por IA

Recientemente se realizó un estudio para evaluar si los participantes distinguían contenido generado por IA del escrito por personas. Como era de esperar, costó mucho diferenciarlos, lo que pone de relieve la capacidad de estos modelos para difundir desinformación a gran escala.

Un ejemplo inédito salió a la luz en un tribunal de EE. UU., cuando un abogado citó un caso inexistente basándose en una respuesta generada por ChatGPT.

La ONU también ha mostrado su preocupación por los contenidos engañosos generados por IA que pueden derivar en conflictos y delitos.

Buenas prácticas éticas para la IA generativa

Los avances que traen los modelos de IA generativa pueden beneficiar enormemente a la sociedad si se usan de forma controlada y regulada. Esto exige adoptar buenas prácticas éticas para minimizar los posibles daños asociados a sus ventajas.

Mantente al día y actúa

Sumérgete en el panorama actual y futuro de la ética de datos. Entiende las directrices para aplicarla, ya seas contribuidor individual o líder en tu organización.

Puedes leer más sobre el panorama actual y futuro de la ética de datos y las pautas para ponerla en práctica en un artículo aparte.

Alinea con estándares globales

También merece la pena familiarizarse con las directrices de ética de la IA de la UNESCO, adoptadas por los 193 Estados Miembros en noviembre de 2021.

Estas directrices resaltan cuatro valores clave:

• Derechos humanos y dignidad
• Sociedades pacíficas y justas
• Diversidad e inclusión
• Protección del medioambiente

También recogen diez principios, entre ellos proporcionalidad, seguridad, privacidad, gobernanza multiactor, responsabilidad, transparencia, supervisión humana, sostenibilidad, concienciación y equidad.

Además, proponen áreas de acción de política pública para gobernanza de datos, medioambiente, género, educación, investigación, salud y bienestar social.

Participa en comunidades de IA ética

Existen diversos grupos, como el AI Ethics Lab y el Montreal AI Ethics Institute, que promueven la alfabetización ética. Entre los principios comunes están la transparencia, la rendición de cuentas, la privacidad de datos y la robustez, con foco en los proveedores de tecnología.

Mantenerte al tanto de los avances y participar en el debate sobre ética de la IA es esencial para que la IA generativa siga siendo segura para todas las personas.

Cultiva la conciencia y aprende

Nos toca, como usuarios, abandonar la idea de que todo lo que vemos en el mundo digital es fiable sin más.

Buena parte de los problemas se evitarán si empezamos a cuestionar y poner en duda la información disponible, verificando los hechos y el origen antes de utilizarla.

La concienciación es clave para hacer bien la IA generativa, y ese es el propósito de este artículo.

Reflexiones finales

La IA generativa tiene un enorme potencial para revolucionar múltiples sectores, desde la salud hasta la educación, creando contenido nuevo y mejorando la productividad.

Sin embargo, esta poderosa tecnología también plantea importantes dilemas éticos, como la difusión de contenido dañino, las infracciones de derechos de autor, las vulneraciones de privacidad y la amplificación de sesgos existentes.

A medida que seguimos aprovechando las capacidades de la IA generativa, es fundamental adoptar buenas prácticas éticas.

Puedes empezar hoy mismo con nuestro curso Generative AI Concepts y explorar proyectos de IA generativa que puedes poner en marcha desde ya.