Cơ bản về MLOps
IntermediateSkill Level
14 giờ
MLOps là gì?
Năm 2015, Google công bố một bài báo nghiên cứu có tiêu đề “Hidden Technical Debt in Machine Learning Systems”. Trong bài báo này, Sculley và cộng sự nhấn mạnh rằng việc viết mã cho các mô hình học máy dự đoán chỉ chiếm một phần rất nhỏ trong toàn bộ quá trình xây dựng, triển khai và vận hành các hệ thống học máy trong môi trường sản xuất. Bài báo đã gây chấn động trong lĩnh vực này và sau đó được kiểm chứng qua vô số trường hợp các nhà khoa học dữ liệu chật vật đưa mô hình vào sản xuất.
Trong vài năm qua, danh mục mới đầy hứng khởi là MLOps (Machine Learning Operations) đã xuất hiện với mục tiêu giải quyết các thách thức triển khai mà đội ngũ dữ liệu gặp phải. MLOps, hay Machine Learning Operations, là một tập hợp các công cụ, thực hành, kỹ thuật và văn hóa nhằm đảm bảo triển khai hệ thống học máy một cách đáng tin cậy và có khả năng mở rộng. Khi khoa học dữ liệu ngày càng trưởng thành, MLOps là một trong những chuyên ngành phát triển nhanh nhất mà các nhà khoa học dữ liệu có thể lựa chọn.
Vì MLOps còn khá non trẻ, chưa có nhiều lộ trình học tập được chuẩn hóa. Dù vậy, cộng đồng mã nguồn mở và học máy đã cung cấp vô số tài nguyên miễn phí, đáng tin cậy và hữu ích ngay lập tức mà bất kỳ ai cũng có thể tiếp cận. Dưới đây là 10 tài nguyên miễn phí bạn có thể bắt đầu ngay hôm nay cho hành trình học MLOps của mình.
1. Lộ trình kỹ năng MLOps Fundamentals
Lộ trình kỹ năng MLOps Fundamentals của DataCamp bao quát trọn vòng đời của một ứng dụng học máy, từ việc thu thập yêu cầu kinh doanh đến các giai đoạn thiết kế, phát triển, triển khai, vận hành và bảo trì. Lộ trình này gồm các khóa học khái niệm, giúp bạn mở rộng kiến thức khoa học dữ liệu sang thế giới phần mềm học máy trong sản xuất! Sau khi hoàn thành, bạn sẽ có tư duy MLOps và nắm vững các khái niệm như CI/CD và CM/CT, theo dõi thí nghiệm, sổ đăng ký mô hình, kho đặc trưng và các chiến lược triển khai khác nhau
2. Machine Learning Engineering của Andriy Burkov
Xuất bản lần đầu năm 2020, cuốn sách này là một trong số ít tài liệu bao quát các nền tảng của học máy ứng dụng. Thay vì tập trung vào một công cụ hay khái niệm cụ thể, Burkov phân tích nghệ thuật và khoa học xây dựng, triển khai một dự án học máy đầu-cuối. Xuyên suốt sách, ông nêu bật những thách thức phổ biến mà các nhóm dữ liệu gặp phải khi đưa mô hình học máy vào sản xuất và cách giải quyết.
Bạn có thể đọc sách miễn phí theo nguyên tắc “đọc trước, mua sau” — nghĩa là bạn có thể đọc và thanh toán sau nếu thấy nhận được giá trị từ đó.
3. ML in Production Blog
Một số tài nguyên hay nhất về MLOps có thể tìm thấy trong các bản tin và blog của các nhà khoa học dữ liệu đang hoạt động ngày nay. Blog và Bản tin ML in Production của Luigi Patruno là ví dụ tiêu biểu. Anh thường xuyên chia sẻ nội dung sâu sắc về triển khai và vận hành mô hình trong sản xuất. Đây là cách anh mô tả phương pháp tuyển chọn nội dung của mình:
- Tính ứng dụng cao — Nội dung tập trung vào công cụ, mẫu, nền tảng và hệ thống đã được chứng minh hiệu quả trong sản xuất.
- Tập trung vào thông lệ tốt nhất — Khoa học dữ liệu và học máy là các lĩnh vực thay đổi nhanh. Thiếu nhân sự có kỹ năng cần thiết để triển khai các hệ thống này và thiếu các thông lệ đã được thiết lập. Bản tin nhằm tuyển chọn và phổ biến những thông lệ tốt nhất đó đến cộng đồng rộng hơn.
- Nhằm giúp nhà khoa học dữ liệu làm việc hiệu quả hơn — Tất cả nội dung được tuyển chọn đều nhằm giúp nhà khoa học dữ liệu, kỹ sư ML và người làm dữ liệu đạt được và cải thiện các kỹ năng có tác động cao, có giá trị trên thị trường.
4. Cộng đồng MLOps
Học MLOps hiệu quả nhất là học cùng nhau và qua thực hành. Đây là một cộng đồng các chuyên gia thực hành để bạn theo dõi (hoặc tham gia) và học hỏi từ những người giàu kinh nghiệm trong lĩnh vực. Từ blog, video đến các cuộc thảo luận sôi nổi, tài nguyên này là cách tuyệt vời để bạn tạo nền tảng vững chắc trong mảng này.
5. Full Stack Deep Learning
Khóa học này cung cấp nội dung chất lượng cao về cách đưa các mô hình lớn, phức tạp vào sản xuất. Không chỉ được giảng dạy bởi các giảng viên uy tín như kỹ sư và nhà khoa học từ OpenAI và Stanford, bạn còn có thể xem các bài giảng khách mời từ những lãnh đạo của các công ty học máy truyền cảm hứng hiện nay như Andrej Karpathy của Tesla.
Khóa học dạy cách tiếp cận full-stack cho học sâu, bao gồm
- Định hình bài toán và ước tính chi phí dự án
- Tìm kiếm, làm sạch, gán nhãn và tăng cường dữ liệu
- Chọn khung và hạ tầng tính toán phù hợp
- Khắc phục sự cố huấn luyện và đảm bảo khả năng tái lập
- Triển khai mô hình vào sản xuất
6. Made With ML của Goku Mohandas
Goku Mohandas đã tạo ra một khóa học mở tuyệt vời về xây dựng hệ thống học máy đầu-cuối. Made with ML là một trong những kho lưu trữ hàng đầu trên GitHub, và hơn 30 nghìn người đang theo học khóa của anh.
Các bài học trong Made with ML bao phủ từ kiến thức cơ bản về học máy đến chi tiết triển khai, kiểm thử và giám sát mô hình trong sản xuất. Bài giảng của Goku trình bày trực giác đằng sau các khái niệm, cung cấp bài tập dự án thực hành và trang bị cho người học một số thông lệ kỹ thuật phần mềm cần thiết để thành công trong vai trò MLOps.
7. Awesome production machine learning
Kho GitHub được tuyển chọn kỹ lưỡng này dành cho những ai muốn lao thẳng vào các gói, thư viện và công cụ tối tân để tự thực hành. Tất cả gói và công cụ được liệt kê đều nhằm giúp bạn xây dựng, triển khai, giám sát, quản lý phiên bản, mở rộng và bảo mật hệ thống học máy trong sản xuất.
Dù là gán nhãn dữ liệu, điều phối huấn luyện mô hình, diễn giải, phục vụ, giám sát và nhiều hơn nữa — chắc chắn sẽ có ít nhất vài gói để bạn bắt đầu thử nghiệm trong dự án của mình. Họ cũng có bản tin The ML Engineer giúp bạn cập nhật những khung, hướng dẫn và bài viết mới nhất được tuyển chọn bởi các chuyên gia học máy.
8. Hướng dẫn MLOps của DVC
DVC (Data Version Control) là hệ thống kiểm soát phiên bản mã nguồn mở cho các dự án học máy. DVC mở rộng Git để quản lý phiên bản cho tập dữ liệu và mô hình. Ngoài ra, cùng nhóm đứng sau DVC cũng phát triển Continuous Machine Learning (CML), một công cụ giúp thích ứng các hệ thống tích hợp liên tục như GitHub Actions & GitLab CI cho học máy.
Chuỗi YouTube tương đối ngắn này nêu bật các khái niệm quan trọng ở giao điểm giữa DevOps và Học máy. Nội dung cân bằng hiệu quả giữa lý thuyết và thực hành, và cho bạn thấy cách áp dụng quản lý phiên bản dữ liệu qua DVC.
9. Machine Learning Operations
Tài nguyên này có lẽ là một trong những tài liệu toàn diện nhất. Trang có nhiều bài viết phân tích các thành tố khác nhau của một hoạt động MLOps thành công. Machine Learning Operations đưa ra hướng dẫn, khung, quy tắc ứng xử và nỗ lực thiết lập tiêu chuẩn cho MLOps.
Dù ngắn gọn, đây là điểm khởi đầu tuyệt vời giúp lý giải vì sao MLOps quan trọng, các nguyên tắc cốt lõi của một hoạt động MLOps hiệu quả, công cụ và khung dùng trong MLOps, và nhiều nội dung khác.
10. MLOps – Machine Learning Operations của AIEngineering
AIEngineering có lẽ là một trong những kênh YouTube hay nhất về học máy ứng dụng. Với hơn 60 nghìn người theo dõi, Srivatsan Srinivasan đã xây dựng được cộng đồng bằng cách bàn luận mọi thứ về dữ liệu.
Anh có rất nhiều video và danh sách phát chuyên sâu về MLOps và triển khai dự án học máy đầu-cuối. Nhớ xem thử nhé.
11. ML Engineering for Production ML Deployments with TFX của TensorFlow
Google đã xây dựng một trong những công cụ được dùng rộng rãi nhất trong học máy là TensorFlow. Họ đưa nó lên một tầm cao mới với TensorFlow Extended (TFX). TensorFlow Extended là nền tảng đầu-cuối để triển khai mô hình học máy. Nó gồm nhiều gói cho kiểm định dữ liệu, biến đổi, phân tích mô hình và hơn thế nữa. TFX được xây dựng để dễ dàng thiết kế hệ thống học máy mà không phải tốn quá nhiều thời gian và công sức cho công việc kỹ thuật phần mềm.
Danh sách phát YouTube này do Robert Crowe, Google Developer Advocate, dẫn dắt và giới thiệu cho bạn các khái niệm MLOps chủ chốt cùng thông lệ tốt nhất được dùng tại Google. Bên cạnh đó, tài liệu TFX cũng rất đáng đọc — chỉ riêng việc thử dùng gói đó theo hướng dẫn của họ cũng có thể dạy bạn được rất nhiều.
Tìm hiểu thêm về MLOps
Dù MLOps vẫn đang ở giai đoạn đầu — việc nắm bắt sớm các thông lệ và công cụ mới nhất trong những tài nguyên trên mang lại rất nhiều giá trị. Nếu bạn muốn học thêm về MLOps, bạn cũng có thể xem các tài nguyên sau:
