François Chollet es investigador en IA y deep learning, autor de Keras, uno de los principales frameworks de deep learning para Python, y acaba de publicar el libro Deep Learning with Python. Coincidiendo con su lanzamiento, tuve el placer de entrevistar a François por e-mail. Puedes escribirnos en @fchollet y @hugobowne.
François, eres ingeniero de software e investigador en inteligencia artificial en Google. Quiero saber más sobre tu trabajo. Pero antes, lo que la gente cree que hace alguien y lo que realmente hace suelen diferir bastante. ¿Qué cree la gente que haces?
Es una observación muy acertada: suele haber una brecha entre por qué se te conoce, por qué te gustaría que se te conociera y en qué trabajas de verdad. En mi caso, probablemente se me conozca sobre todo por crear Keras, el framework de deep learning.
¿Y qué haces realmente?
Trabajo en el equipo Brain de Google en Mountain View, donde paso la mayor parte del tiempo desarrollando Keras. Así que diría que hay bastante alineación entre lo que hago y lo que la gente piensa que hago.
También contribuyo a TensorFlow, el framework de aprendizaje automático de Google, con el que se integra Keras. Además, investigo en varios temas. Últimamente he trabajado en artículos sobre traducción automática, visión por computador y la aplicación del deep learning a la demostración de teoremas. Mi principal interés de investigación es entender el problema de la abstracción y el razonamiento en IA: cómo pasar de la percepción a modelos abstractos y altamente generalizables.
Eres muy conocido como autor de Keras, un paquete de código abierto para redes neuronales de deep learning en Python: ¿qué es el deep learning?
El deep learning es un enfoque concreto del aprendizaje automático que ha resultado ser mucho más potente y flexible que los anteriores. En la mayoría de aplicaciones, lo que llamamos "deep learning" puede entenderse como una forma de convertir grandes cantidades de datos, anotados por personas, en un software capaz de anotar automáticamente datos nuevos de forma similar a como lo haría un humano. Así puedes automatizar muchas tareas distintas. El deep learning destaca especialmente al interpretar datos "perceptivos", como imágenes, vídeos o sonido.
He aquí un ejemplo concreto. Imagina una gran colección de fotos con etiquetas asociadas a cada una ("perro", "gato", etc.). El deep learning te permite convertir automáticamente esos datos en un sistema que "entiende" cómo mapear las imágenes a las etiquetas aprendiendo solo a partir de ejemplos, sin ajustes manuales ni ingeniería a medida. Ese sistema puede aplicarse después a datos nuevos, automatizando de forma efectiva la tarea de etiquetar imágenes.
Del mismo modo, puedes aplicar deep learning a un amplio abanico de problemas, como traducción automática, reconocimiento de voz, conversión de texto a voz, reconocimiento óptico de caracteres, etc.
Enhorabuena por tu nuevo libro, Deep Learning with Python. ¿Por qué lo escribiste?
Este libro es mi intento de proponer un programa de formación para enseñar deep learning a alguien que sabe programar en Python pero no tiene base previa en aprendizaje automático. Intento que el deep learning sea lo más accesible posible, sin simplificar en exceso. Y resulta que es posible, porque en gran medida el deep learning no está lleno de ideas difíciles.
Python es, probablemente, el lenguaje de programación que más crece, al menos en países de renta alta. ¿Por qué Python, tanto para ti como para la comunidad en general?
Me encanta Python. Es fácil de aprender y, cuanto más lo usas, más productivo te vuelve, por muchos años que lleves con él. Resulta muy intuitivo y elegante comparado con la mayoría de lenguajes que he usado. Pero su gran baza no es el lenguaje en sí, sino el ecosistema y la comunidad que lo rodean. Hagas lo que hagas —parsear un formato de archivo concreto, integrarte con un sistema específico—, casi seguro que hay una librería de Python que ya lo hace, así que no tienes que invertir tiempo en implementarlo. Esto es especialmente cierto en ciencia de datos y aprendizaje automático: hay muchas herramientas excelentes —numpy, pandas, scikit-learn, librerías de visualización, etc.—. Todo ello hace que Python sea un lenguaje muy productivo.
Además, me gusta que Python no sea un lenguaje específico de un dominio, sino que se sitúe en la intersección de varios: desde desarrollo web hasta ciencia de datos y administración de sistemas. Eso significa que no tienes que cambiar de lenguaje para desplegar, por ejemplo, tus modelos de Keras como una API web. Lo que necesites —lanzar una webapp, consultar una API REST, parsear archivos, entrenar modelos de deep learning de última generación—, Python suele ser una apuesta bastante segura.
Existe la percepción de que hay una barrera de entrada para quien quiere dedicarse al aprendizaje automático y al desarrollo de inteligencia artificial. ¿Qué opinas sobre la democratización de las habilidades y técnicas necesarias?
No creo que sea así. Entrar en aprendizaje automático se ha vuelto extremadamente fácil en los últimos 5 años. Sí, hace 5-7 años era duro. Probablemente necesitabas un posgrado. Tenías que escribir muchos algoritmos de bajo nivel por tu cuenta, normalmente en C++ o Matlab. Yo pasé por eso. Ahora es distinto. Solo necesitas Python, que es mucho más fácil de aprender, y tienes acceso a herramientas de alto nivel y fáciles de usar como Keras. Además, puedes formarte con multitud de recursos de gran calidad en línea y practicar con problemas reales en Kaggle. Aprender nunca ha sido tan fácil.
Así que, a estas alturas, puedes simplemente, por ejemplo, coger mi libro, instalar Keras, hacer algunos retos de Kaggle y, tras unos meses, habrás ganado bastante soltura con aprendizaje automático y deep learning en problemas prácticos.
¿Cómo encajan Keras y tu nuevo libro en esta filosofía?
Cuando lancé Keras al principio, no pretendía especialmente democratizar el deep learning. Pero con el tiempo he visto a infinidad de personas entrar en deep learning a través de Keras y usarlo para resolver una gran variedad de problemas de formas que no esperaba, y eso me ha fascinado. Me he dado cuenta de que el deep learning puede aplicarse, de manera transformadora, a muchos más ámbitos de los que la gente en Silicon Valley imagina. Hay muchísimas personas que podrían beneficiarse de usar deep learning en su trabajo. Como resultado, cada vez me importa más poner estas tecnologías al alcance del mayor número posible de personas, y eso se ha convertido en el objetivo de diseño número uno de Keras. Es la única forma de desplegar la IA hasta el límite de su potencial: haciéndola ampliamente accesible.
Mi libro intenta dar otro paso en la misma dirección: quiero incorporar correctamente a tanta gente como sea posible al deep learning, para que puedan empezar a usarlo para resolver los problemas que conocen —y que yo ni siquiera sospecho que existan—. No basta con ofrecer herramientas fáciles de usar: también hay que proporcionar materiales de aprendizaje para enseñar a utilizarlas.
¿Cuáles son las cosas más importantes que deben aprender quienes empiezan? ¿Cómo pueden hacerlo?
Lo más importante probablemente sea hacerse una idea clara de lo que el deep learning puede y no puede hacer. Eso, y familiarizarse con buenas prácticas clave como evaluar correctamente los modelos y combatir el sobreajuste. Esto requiere combinar explicaciones formales con mucha práctica en problemas del mundo real.
Para mucha gente, el término inteligencia artificial evoca robots conscientes. Vemos titulares como «La IA de Google crea su propia IA “hija” más avanzada que sistemas construidos por humanos». Ayúdame a desmitificar qué es realmente la IA. ¿De qué es capaz la inteligencia artificial?
Desde luego hay mucho bombo en el campo. La mayoría de la cobertura mediática sobre IA y deep learning está tremendamente desconectada de la realidad: tanto las historias alarmistas como los relatos de que la IA va a hacer que todo sea maravilloso.
En cuanto a lo que la IA puede hacer hoy, es una pregunta difícil. Diría que hay tres categorías de cosas que la IA puede hacer:
- Realizar tareas en las que somos capaces de especificar por completo y de forma explícita las reglas que la IA debe seguir. Esto es, básicamente, lo que se conoce como "IA simbólica" o, más pragmáticamente, "desarrollo de software". Como sabe cualquiera que haya programado, este enfoque es frágil y solo funciona en entornos completamente controlados, algo poco habitual en problemas reales.
- Realizar tareas sencillas de percepción e intuición para las que no podemos especificar reglas explícitas, pero sí proporcionar muchos ejemplos. Aquí entra todo el deep learning: clasificar imágenes, transcribir voz, etc. Una limitación importante en este frente es que nuestros modelos solo pueden manejar entradas extremadamente parecidas a lo que han visto antes: no puedes alejarte mucho de tus datos de entrenamiento. Lo que hacemos aquí es, básicamente, un ajuste de curvas de alta dimensión muy sofisticado.
- Combinaciones bastante ingenuas de ambas. Por ejemplo, puedes imaginar un robot con un módulo de deep learning entrenado con muchos ejemplos para extraer el tipo y la posición de varios objetos a su alrededor, acoplado a un módulo que codifica reglas de alto nivel para manipular esos objetos. Otro ejemplo sería AlphaGo/AlphaZero, que es básicamente una combinación de búsqueda por fuerza bruta (programación explícita) con un módulo de deep learning entrenado con muchas partidas que puede evaluar de forma "intuitiva" el valor de una posición en el tablero.
Cuando llevas las técnicas actuales hasta el límite de su potencial, puedes lograr rendimiento superhumano en muchas tareas importantes, y un rendimiento decente en muchas más. Pero eso solo es posible en ámbitos muy concretos. Y, quizá contraintuitivamente, no hay un camino real entre ser muy bueno en muchas tareas verticales distintas y tener la inteligencia general y el sentido común de un niño pequeño —y mucho menos su capacidad de aprendizaje y adaptación—.
Dicho esto, ser realmente bueno en muchas tareas muy concretas es transformador para la mayoría de las industrias. Así que puedes esperar que la IA aporte un gran impulso económico en los próximos 20 años. Piensa en la IA como la máquina de vapor de nuestra era: una herramienta muy potente en manos humanas que reconfigurará el panorama económico en unas décadas. Pero nada de robots conscientes a la vista.
¿De qué no es capaz la inteligencia artificial?
De entre todo lo que podríamos querer automatizar, hoy la IA solo puede con un subconjunto muy pequeño. Hay muchísimas más cosas que no podemos hacer que cosas que sí podemos hacer.
En general, se nos da especialmente mal:
- Todo lo que requiere "anclaje" o "comprensión". Por ejemplo, la IA no entiende el significado del lenguaje natural: lo trata en términos de dependencias estadísticas o reglas de procesamiento codificadas. El "significado", tal y como existe en la mente humana, deriva de la experiencia humana encarnada, a la que nuestros modelos de IA no tienen acceso. Al menos por ahora. Así que ningún sistema de IA actual puede "entender" su tarea de un modo que tenga sentido para una persona. Los modelos solo mapean la variedad estadística de sus datos de entrenamiento.
- Cualquier cosa que implique enfrentarse a datos distintos de los que la IA ha visto antes. La IA solo puede aplicar las reglas que has codificado explícitamente o reconocer cosas muy, muy parecidas a lo que fue entrenada. Nuestras capacidades decaen exponencialmente cuanto más incertidumbre o variación introduces en una tarea.
- Todo lo que implique razonamiento y abstracción. O bien codificamos reglas de razonamiento explícitas en la máquina, o no podemos razonar en absoluto. La IA actual no puede, por sí sola, construir modelos abstractos de una situación. Probablemente este sea el principal cuello de botella del desarrollo de la IA hoy. Si lo resolvieras, podrías superar rápidamente los dos puntos anteriores.
Escribí una entrada de blog titulada The limitations of deep learning sobre este y otros temas relacionados.
¿Cuáles son los grandes retos a los que se enfrenta la comunidad de deep learning?
Combatir el hype, desarrollar conciencia ética y ganar rigor científico.
Hype: es un lastre para nuestro campo. Hay gente que exagera los avances recientes de forma ridícula, sobrevendiendo enormemente nuestras capacidades actuales y a menudo insinuando que la inteligencia a nivel humano está a la vuelta de la esquina —y no lo está—. Si fijamos expectativas por las nubes y luego no las cumplimos, ponemos a la opinión pública en nuestra contra. Además, es intelectualmente deshonesto y tóxico para el debate.
Ética: la mayoría de quienes hoy despliegan sistemas de IA no provienen de entornos especialmente diversos y a menudo son ajenos a las implicaciones éticas y los efectos perjudiciales de los sistemas que construyen. Esto es un problema grave porque estas personas van a tener cada vez más poder sobre los demás. Debemos debatir más estas cuestiones y aumentar la conciencia sobre posibles usos poco éticos de la IA, ya sea por modelos predictivos sesgados que afectan a la vida de la gente, por aplicar la IA en ámbitos muy cuestionables o por usarla para manipular nuestro comportamiento y opiniones de forma peligrosa.
Ciencia: cada día se publican montones de artículos de deep learning, y muchos no aportan conocimiento nuevo significativo porque no siguen el método científico. "Evalúan" modelos de formas difusas, o prueban modelos sobreajustados en sus propios datos de entrenamiento (esto pasa especialmente con modelos generativos y aprendizaje por refuerzo, dos de los temas que más crecen en investigación en deep learning), seleccionan resultados a conveniencia, usan líneas base artificialmente débiles, ajustan hiperparámetros de manera que acaban sobreajustando a una tarea concreta, evalúan modelos solo en MNIST, etc. El deep learning es un campo con un serio problema científico. La revisión por pares a menudo no aborda estas cuestiones de forma significativa, quizá en parte porque muchos revisores llevan apenas uno o dos años en el campo (ya que crece exponencialmente). Si queremos avanzar más rápido, necesitamos elevar las exigencias de rigor en cuanto a reproducibilidad, líneas base, evaluación de modelos y significación estadística. Nuestro sistema de incentivos actual está sesgado contra la ciencia, por desgracia: incentivamos publicar, y es más fácil publicar si haces que tu investigación suene compleja y misteriosa a la vez que imposibilitas evaluar correctamente su relevancia.
¿Cómo imaginas el futuro del deep learning?
De hecho escribí una entrada de blog sobre ello. En resumen, espero que la IA combine cada vez más módulos de reconocimiento de patrones "intuitivos" con módulos de razonamiento formal. También espero que la IA evolucione hasta parecerse más a una forma de desarrollo de software automatizado, incorporando muchos patrones y prácticas de la ingeniería de software actual.
No solo eres desarrollador. En el blog de Keras, en ensayos, en tu libro y en Twitter reflexionas y te pronuncias sobre cuestiones éticas en torno al deep learning, la IA y la tecnología en general. ¿Crees que los desarrolladores tienen la obligación de involucrarse en las consideraciones éticas de su trabajo?
Sin duda. Creo que esto ha faltado en el panorama tecnológico en los últimos años. Mira Facebook, por ejemplo. O la mayoría de juegos para smartphone. La tecnología nunca es neutral: es poderosa y afecta a nuestras vidas. La forma en que diseñas productos y tecnología introduce valores en ellos de manera activa, lo sepas o no. Así que más vale hacerlo de forma deliberada. Si construyes una plataforma social y tratas de maximizar el "engagement", eso es una decisión cargada de implicaciones éticas. O nos importa y hacemos de la ética un objetivo explícito del diseño de la tecnología y de las estructuras de poder que construimos, o cedemos nuestros valores. Si trabajas en tecnología, no puedes optar por quedarte "al margen"; es una ilusión.
