Kerasで学ぶ言語モデリングのためのRecurrent Neural Networks (RNNs)

RNNで頻繁に発生する勾配消失と勾配爆発の問題について学び、GRUやLSTMセルを使った対処法を身につけます。 さらに、言語モデル向けのEmbeddingレイヤーを作成し、感情分類タスクをもう一度取り上げます。

次の章では、多クラス分類タスクのためのデータ準備方法、そして多クラス分類と2値分類（感情分析）の違いを学びます。最後に、Kerasでモデルを構築し、その性能を評価する方法を学びます。

この章では、RNNモデルの2つの応用であるテキスト生成とニューラル機械翻訳を紹介します。モデルに必要な形式にテキストデータを前処理する方法を学びます。 テキスト生成モデルでは、キャラクターの話し方を再現することを目指し、「The Big Bang Theory」のSheldonの口調を楽しく模倣します。 ニューラル機械翻訳は、たとえばGoogle Translateで使われている、より大規模で複雑なモデルです。この章では、短いポルトガル語のフレーズを英語へ翻訳するモデルを作成します。