Mạng nơ-ron hồi quy (RNN) cho Mô hình ngôn ngữ với Keras

Bạn sẽ tìm hiểu về vấn đề tiêu biến và bùng nổ gradient, thường xảy ra trong RNN, và cách xử lý chúng bằng các cell GRU và LSTM. Ngoài ra, bạn sẽ tạo các lớp embedding cho mô hình ngôn ngữ và ôn lại bài toán phân loại cảm xúc.

Tiếp theo, trong chương này bạn sẽ học cách chuẩn bị dữ liệu cho bài toán phân loại đa lớp, cũng như sự khác nhau giữa phân loại đa lớp và phân loại nhị phân (phân tích cảm xúc). Cuối cùng, bạn sẽ học cách xây dựng mô hình và đo lường hiệu năng của chúng với Keras.

Chương này giới thiệu hai ứng dụng của mô hình RNN: Tạo văn bản và Dịch máy bằng mạng nơ-ron. Bạn sẽ học cách chuẩn bị dữ liệu văn bản theo đúng định dạng mà mô hình cần. Mô hình Tạo văn bản dùng để tái hiện cách nói của một nhân vật và chúng ta sẽ vui vẻ bắt chước Sheldon từ The Big Bang Theory. Dịch máy bằng mạng nơ-ron được dùng, ví dụ, trong Google Dịch với một mô hình phức tạp hơn rất nhiều. Trong chương này, bạn sẽ tạo một mô hình dịch các cụm câu ngắn tiếng Bồ Đào Nha sang tiếng Anh.