Réseaux de neurones récurrents (RNN) pour la modélisation du langage avec Keras

Vous verrez les problèmes de gradients qui s’évanouissent et qui explosent, fréquents dans les RNN, et comment les traiter avec les cellules GRU et LSTM. Vous créerez également des couches d’embedding pour les modèles de langage et reprendrez la tâche de classification de sentiments.

Dans ce chapitre, vous apprendrez à préparer les données pour une tâche de classification multi‑classe, ainsi que les différences entre classification multi‑classe et classification binaire (analyse de sentiments). Enfin, vous verrez comment créer des modèles et mesurer leurs performances avec Keras.

Ce chapitre vous présente deux applications des modèles RNN : la génération de texte et la traduction neuronale. Vous apprendrez à préparer les données textuelles au format attendu par les modèles. Le modèle de génération de texte sert à reproduire le style d’un personnage et nous nous amuserons à imiter Sheldon de The Big Bang Theory. La traduction neuronale est utilisée, par exemple, par Google Translate dans un modèle bien plus complexe. Dans ce chapitre, vous créerez un modèle qui traduit de courtes phrases portugaises en anglais.