ChatGPT y el futuro de la regulación de la IA

El lanzamiento de ChatGPT a finales de 2022 marcó un hito sin precedentes en el desarrollo de la IA. Desarrollado por Microsoft y OpenAI, ChatGPT es un chatbot de nueva generación capaz de crear en segundos todo tipo de textos con apariencia humana. Aunque es el más popular, ChatGPT es solo una de las muchas herramientas de IA generativa, un subcampo de la IA centrado en la creación de contenido, como texto, imágenes, vídeo y sonido.

Herramientas de IA generativa como ChatGPT van a transformar casi todos los sectores e industrias. Ahora bien, esta revolución de la IA no solo trae beneficios, sino también riesgos sociales, económicos y medioambientales que hay que evaluar con cuidado. 

Empresas y gobiernos ya están pensando cómo regular la IA. Por ejemplo, para ganar tiempo y establecer estándares de seguridad que mitiguen posibles peligros, líderes del sector han pedido recientemente una pausa de seis meses en el desarrollo de herramientas de IA potentes como ChatGPT. En el ámbito público, gobiernos de todo el mundo están proponiendo medidas y normativas para garantizar que las herramientas de IA lleguen a la sociedad de forma segura, transparente y con rendición de cuentas.    

En este artículo, analizaremos por qué es clave contar con marcos legales para regular la IA, qué impacto puede tener la legislación propuesta sobre herramientas populares como ChatGPT y cómo la existencia de normas sobre IA influirá en su desarrollo futuro.

¿Por qué es importante regular la IA?

Tecnologías punteras como la IA pueden transformar profundamente nuestra forma de vivir. La revolución de la IA está en pañales y es pronto para saber cómo será la sociedad del mañana. Pero, para asegurarnos de que la IA genera resultados positivos, necesitamos herramientas adecuadas para controlar y orientar su desarrollo. Aquí es donde la regulación de la IA juega un papel fundamental.

A continuación, encontrarás algunas razones de peso para regular la IA:

• La IA puede afectar de forma significativa a los derechos fundamentales. Gobiernos y empresas usan IA para tomar decisiones que influyen de manera notable en nuestra vida, con implicaciones serias para derechos como la vida, el honor, la privacidad y la protección de datos.
• La IA puede agravar la discriminación. Cuando las herramientas de IA presentan sesgos, a menudo derivan en decisiones que discriminan a grupos minoritarios.
• La IA puede aumentar la desinformación y la polarización. Se ha usado IA para crear noticias falsas y difundir bulos, generando tensión social y polarización.
• La IA debe rendir cuentas. Quienes desarrollan y utilizan IA deben responder por su uso adecuado. Hacen falta reglas y estándares que garanticen seguridad y confianza.
• La IA debe ser transparente. La opacidad algorítmica es una de las grandes preocupaciones asociadas a la IA. La regulación podría establecer medidas de transparencia para auditarla y comprender mejor los costes e impactos de herramientas como ChatGPT.

El estado actual de la regulación de la IA

Tras el lanzamiento de ChatGPT y otras potentes herramientas de IA generativa, los gobiernos han empezado a tomar medidas para regular la IA. 

Estos son algunos de los avances más recientes en regulación de la IA a escala global:

• Estados Unidos. El gobierno ha anunciado recientemente una consulta técnica para evaluar si deben imponerse medidas regulatorias a herramientas como ChatGPT. Falta por ver cómo se relaciona esta posible regulación con la llamada Algorithmic Accountability Act, propuesta en 2022 y aún en fase de borrador. Mientras tanto, EE. UU. ya ha regulado parcialmente la IA con la aprobación de la AI Bill of Rights y la Initiative on AI and Algorithmic Fairness. 
• Unión Europea. Propuesto en 2021 y actualmente en negociación, el AI Act de la UE es el primer intento de un gran bloque por regular la IA. Propone un enfoque basado en el riesgo: ciertas IAs quedarían prohibidas y las consideradas de alto riesgo deberían cumplir requisitos específicos para salir al mercado. Tras el reciente auge de la IA generativa, se esperan nuevas revisiones del borrador. 
• Canadá. El país está debatiendo su propia ley de IA, llamada Artificial Intelligence and Data Act, con un enfoque de riesgo similar al europeo. Se esperan revisiones para abordar el impacto de la IA generativa.
• China. China ha propuesto recientemente normas para controlar herramientas similares a ChatGPT desarrolladas en el país. Las reglas harían a las empresas responsables del contenido generado por estas herramientas, que deberán cumplir ciertos estándares antes de su lanzamiento.

Implicaciones de la regulación de la IA para ChatGPT

Aunque hay buenos motivos para regular la IA y ya existen iniciativas como las anteriores, regular tecnologías punteras es complejo: los gobiernos deben proteger a la sociedad de riesgos imprevistos sin frenar la innovación ni el acceso a los beneficios que estas tecnologías ofrecen. Por eso, por ahora, la IA sigue estando poco regulada. 

Dado que aún no hay una ley específica de IA en vigor, los intentos más relevantes de regularla se han apoyado en marcos existentes, como la normativa de protección de datos. Por ejemplo, Italia ha prohibido temporalmente ChatGPT por posibles vulneraciones del Reglamento europeo de protección de datos. Otros países europeos, como Francia, España y Alemania, esperan a actuar en la misma línea hasta que se debata el tema a nivel comunitario.

Las futuras normativas sobre IA probablemente abordarán algunas de las preocupaciones surgidas tras el lanzamiento de ChatGPT, en concreto:

• Tratamiento de información confidencial.  ChatGPT utiliza datos aportados por los usuarios, incluidos datos sensibles, para entrenar sus modelos. Expertos en privacidad han alertado de que esta política puede provocar filtraciones de datos personales o información confidencial. Por ejemplo, empleados de Samsung descubrieron recientemente que habían filtrado sin querer código confidencial a ChatGPT. La regulación que viene podría garantizar que el tratamiento de datos sensibles no vulnere las leyes de protección de datos.
• Contenido no moderado. Aunque ChatGPT incorpora filtros de contenido, pueden eludirse con los prompts adecuados. También preocupa que usuarios vulnerables, como menores, queden expuestos a lenguaje inapropiado y temas para adultos. La normativa podría establecer salvaguardas claras para estos casos.
• Fuentes de las respuestas de ChatGPT. Actualmente, ChatGPT no muestra las fuentes que utiliza para generar respuestas. Esto dificulta que los usuarios sepan si la información es veraz y precisa, lo que aumenta el riesgo de desinformación.
• Plagio y derechos de autor. Existen varias cuestiones legales sobre la atribución de los datos usados para entrenar ChatGPT y la titularidad de los contenidos que genera. No hay precedentes claros en materia de copyright y propiedad intelectual. Harán falta normas para aclarar estos puntos.
• Dónde usar ChatGPT. Las posibilidades de ChatGPT son enormes, pero su uso en ciertos contextos puede acarrear efectos negativos. Por ejemplo, hay un intenso debate sobre sus implicaciones en educación. ¿Y si el alumnado lo usa para responder exámenes o hacer trabajos? ¿Deberían los docentes utilizar ChatGPT en clase? Son preguntas abiertas, pero es probable que la futura normativa de IA regule parte de estos temas. 

Conclusión

Las empresas tecnológicas detrás de herramientas como ChatGPT han pillado al mundo por sorpresa. Son la punta de lanza de la revolución de la IA, pero corresponde a los gobiernos orientarla y lograr que genere resultados positivos. Legisladores de todo el mundo están dando pasos con normativas ambiciosas. Conviene seguir de cerca estos avances legales, porque la forma en que abordemos la IA hoy definirá el mundo en el que viviremos mañana.

Mientras tanto, te recomendamos seguir de cerca ChatGPT y la magia que lo impulsa con estos recursos de DataCamp:

• Empieza con ChatGPT en nuestro curso Introduction to ChatGPT.
• Descarga esta práctica chuleta de prompts de ChatGPT para data science.
• Escucha este episodio del pódcast sobre cómo ChatGPT y GPT-3 están impulsando los flujos de trabajo para entender cómo puede beneficiar a tu negocio.
• Lee nuestro artículo Bard vs ChatGPT for Data Science
• Tutorial sobre la Whisper API 
• Empieza a aprender IA con DataCamp