Triển khai và Vòng đời MLOps

Chương này dành cho những cân nhắc chúng ta cần thực hiện ngay từ giai đoạn phát triển, để đảm bảo mọi thứ trôi chảy khi bước vào vận hành. Mục tiêu cuối cùng là giải thích cách huấn luyện mô hình theo các thực hành tốt nhất của MLOps và xây dựng một gói mô hình cho phép triển khai mượt mà, tái lập và giám sát sau triển khai.

Chương này giải quyết các câu hỏi quan trọng trong vận hành mô hình như: - Có những cách nào để phục vụ mô hình? - API là gì, và các chức năng chính của nó là gì? - Làm sao kiểm thử dịch vụ thật kỹ trước khi cung cấp cho người dùng cuối? - Làm sao cập nhật mô hình trong sản xuất mà không làm gián đoạn dịch vụ? Bạn sẽ học về dự đoán theo lô (batch), dự đoán thời gian thực, kiểm tra hợp lệ dữ liệu đầu vào/đầu ra, unit test, integration test, triển khai canary, và nhiều nội dung khác.

Chương cuối cùng này tập trung vào việc giám sát và duy trì các dịch vụ ML sau khi triển khai, cũng như quản trị mô hình. Bạn sẽ tìm hiểu các khái niệm then chốt như độ trễ xác minh (verification latency), dịch chuyển hiệp biến (covariate shift), trôi khái niệm (concept drift), hệ thống có con người trong vòng lặp (human-in-the-loop), và hơn thế nữa.