¿Qué es el sesgo algorítmico?

El sesgo algorítmico se refiere a los errores sistémicos y repetibles de un sistema informático que crean resultados injustos, como privilegiar a un grupo arbitrario de usuarios frente a otros. Es una preocupación frecuente hoy en día, con las aplicaciones de inteligencia artificial (IA) y machine learning (ML) impregnando cada vez más todos los aspectos de nuestras vidas.

Explicación del sesgo algorítmico

Imagina una sencilla herramienta de toma de decisiones, como un sombrero clasificador que coloca a las personas en diferentes categorías. Pero, ¿y si el sombrero sólo ha estado expuesto a un tipo concreto de persona mientras aprendía su tarea? Entonces podría juzgar erróneamente a los individuos que no se ajustan a los criterios "habituales", mostrando un sesgo hacia los que sí lo hacen. Ese es el quid del sesgo algorítmico.

Este sesgo se origina por datos de entrada sesgados o limitados, algoritmos injustos o prácticas excluyentes durante el desarrollo de la IA. Es crucial abordar esta cuestión, ya que los sistemas de IA intervienen ahora en ámbitos importantes como la sanidad, las finanzas y la justicia penal, donde las decisiones sesgadas pueden tener efectos perjudiciales.

Varios factores contribuyen al sesgo algorítmico:

• Sesgo de los datos. Si los datos utilizados para entrenar un sistema de IA no representan a toda la población, las decisiones del algoritmo pueden favorecer al grupo en el que fue entrenado.
• Prejuicios en el diseño. Si los diseñadores de la IA tienen prejuicios implícitos, éstos pueden trasladarse sin saberlo al comportamiento del sistema.
• Factores sociológicos o técnicos. Por ejemplo, la influencia de los contextos sociales, económicos y culturales en la forma en que se diseñan, implementan y utilizan los sistemas de IA, lo que puede introducir sesgos.

Hay muchos tipos de sesgo algorítmico que pueden introducirse durante el proceso de machine learning. Por ejemplo, el sesgo de preprocesamiento surge de procesos de limpieza de datos sesgados, el sesgo de confirmación se produce cuando los sistemas de IA confirman creencias o estereotipos preexistentes, el sesgo de exclusión ocurre cuando se deja fuera sistemáticamente a determinados grupos de los datos de entrenamiento, y el sesgo algorítmico o de modelo surge al favorecer determinados resultados o grupos. Comprender estos tipos de sesgo es crucial para construir sistemas de IA justos y equitativos.

Ejemplos de sesgo algorítmico

Los ejemplos del mundo real pueden aclarar el concepto de sesgo algorítmico:

• Algoritmos de contratación. Amazon construyó en su día un sistema de IA para automatizar su proceso de contratación. El algoritmo se entrenó con los currículos enviados a la empresa durante diez años, que procedían predominantemente de varones. En consecuencia, el sistema empezó a favorecer a los candidatos varones en detrimento de las mujeres, demostrando un claro sesgo.
• Sistemas de reconocimiento facial. Numerosos estudios han descubierto que los algoritmos de reconocimiento facial, como los que se utilizan en la vigilancia o el desbloqueo de teléfonos inteligentes, suelen funcionar mal con rostros femeninos y de piel más oscura. Esto se debe principalmente a la falta de diversidad en los conjuntos de datos de entrenamiento.

De cara al futuro, a medida que los sistemas de IA se integren más en nuestra vida cotidiana, las posibles repercusiones de un sesgo algorítmico incontrolado podrían ser aún más pronunciadas. La vigilancia policial predictiva podría dirigirse injustamente a comunidades específicas, los algoritmos de puntuación crediticia podrían perjudicar desproporcionadamente a determinados grupos socioeconómicos, y las herramientas de formación personalizada podrían limitar las oportunidades de aprendizaje de algunos estudiantes. La futura influencia de la IA en la sociedad subraya la importancia de abordar ahora el sesgo algorítmico para garantizar que las decisiones impulsadas por la IA sean equitativas, justas y representativas de todas las facetas de la sociedad.

Buenas prácticas para evitar el sesgo algorítmico

Abordar el sesgo algorítmico implica esfuerzos concienzudos en diferentes etapas del desarrollo del sistema de IA:

• Datos diversos y representativos. Garantizar que los datos utilizados para entrenar los modelos de machine learning son representativos de todos los grupos demográficos a los que servirá el sistema.
• Auditoría de sesgos. Probar y revisar regularmente los sistemas de IA para detectar posibles sesgos e intentar garantizar imparcialidad.
• Transparencia. Mantener una documentación clara sobre cómo toma las decisiones el sistema de IA.
• Equipos de desarrollo inclusivos. Contar con un equipo diverso de desarrolladores de IA puede ayudar a comprobar y equilibrar sesgos que, de otro modo, podrían pasar desapercibidos.

Opinión: Necesitamos un enfoque diferente para superar el sesgo algorítmico

La primera vez que me di cuenta de que mi conjunto de datos estaba sesgado fue durante el entrenamiento del modelo de análisis de sentimientos. Descubrí que incluso una distribución desequilibrada entre clases podía dar lugar a resultados sesgados, ya que mi modelo predecía la etiqueta "Feliz" con más exactitud que "Neutral". Resolví este problema sobremuestreando/submuestreando los datos, pero me hizo ser más consciente de la importancia de la transparencia y de un conjunto de datos equilibrado para crear sistemas automatizados justos.

Además de datos diversos, auditoría de sesgos, transparencia y equipos inclusivos, necesitamos sistemas como la IA explicable para detectar sesgos en los algoritmos. Además, debe aprobarse una ley que obligue a las empresas cumplir con el concepto FATE (Fairness, Accountability, Transparency, Ethics; es decir: Equidad, Responsabilidad, Transparencia y Ética) en la IA.

En mi opinión, es probable que todos los datos contengan algún sesgo, ya que se recogen de seres humanos, que tienen sesgos inherentes relacionados con la raza, el color, la religión, los sistemas y las creencias. Actualmente es bastante difícil eliminar por completo este problema. Sin embargo, con la aparición de una IA más avanzada, es posible que veamos algoritmos que puedan aprender de forma más equilibrada de su entorno y crear aplicaciones que funcionen de forma equitativa para todas las personas. El trabajo de OpenAI sobre la "superalineación", por ejemplo, pretende garantizar que los sistemas de IA que superen la inteligencia humana permanezcan alineados con los valores y objetivos humanos.

La esperanza es que, a medida que avancen las capacidades de la IA, podamos aprovecharlas para contrarrestar los prejuicios humanos y desarrollar una IA que funcione en beneficio de todos nosotros, no en nuestro detrimento. Una supervisión adecuada y un diseño meditado serán la clave para liberar el potencial de la IA para combatir los sesgos sistémicos.

¿Quieres saber más sobre la IA? Consulta los siguientes recursos:

• Curso Comprender el machine learning
• Curso Ética de la IA
• Curso Aprender ChatGPT
• ¿Qué es el machine learning?