Last chance! 50% off DataCamp Premium
Sale ends in
Ngày nay, có quá nhiều mô hình machine learning không được triển khai vào môi trường sản xuất và chỉ dừng lại trong các phòng thí nghiệm dữ liệu. Cũng như bất kỳ lĩnh vực mới nổi nào, bộ thực tiễn tốt nhất, công cụ, kỹ thuật và vai trò mà các đội ngũ dữ liệu hiện đại cần áp dụng vẫn chưa trưởng thành và tiêu chuẩn hóa. Điều này gây khó khăn cho doanh nghiệp muốn khai thác giá trị từ machine learning ở quy mô lớn, và cho các nhà khoa học dữ liệu muốn tiến xa hơn các thử nghiệm trong notebook. MLOps (Machine Learning Operations) đã xuất hiện trong vài năm qua với mục tiêu giải quyết những thách thức khi triển khai mà các đội ngũ dữ liệu đang gặp phải.
Manh mối nằm ngay trong tên gọi: cũng như DevOps đã định hình phát triển ứng dụng Agile nhanh chóng xoay quanh nhu cầu kinh doanh, MLOps hướng tới mục tiêu tương tự bằng cách thu hẹp khoảng cách giữa sự phức tạp và việc triển khai các mô hình machine learning.
Vậy chính xác MLOps giải quyết những thách thức này như thế nào? Trong bài viết này, chúng tôi muốn làm sáng tỏ một số khái niệm về MLOps như một ngành mới nổi và trả lời các câu hỏi then chốt như
- MLOps là gì và những thành phần cốt lõi của một thực hành MLOps thành công là gì?
- MLOps khác gì so với DevOps?
- MLOps tái hình dung quy trình machine learning như thế nào?
- Làm sao để bạn bắt đầu với MLOps ngay hôm nay?
MLOps là gì?
Alessya Visnjic, CEO của WhyLabs, một startup MLOps tập trung vào giám sát mô hình, đã mô tả rất đúng về MLOps như là “bộ công cụ, thực tiễn, kỹ thuật, văn hóa và tư duy đảm bảo triển khai các hệ thống machine learning một cách đáng tin cậy và có khả năng mở rộng”.
Đặt định nghĩa này vào bối cảnh, MLOps xây dựng dựa trên DevOps, thực hành hiện đại về viết, triển khai và vận hành các ứng dụng doanh nghiệp một cách hiệu quả. Đây là một quy trình liên chức năng, hợp tác và lặp đi lặp lại nhằm vận hành hóa khoa học dữ liệu. MLOps coi machine learning như một ngành kỹ thuật, trong đó các mô hình được xem là các hiện vật phần mềm có thể tái sử dụng và có thể triển khai thông qua một quy trình có thể lặp lại.
MLOps cũng bao gồm việc giám sát liên tục và huấn luyện lại các mô hình trong môi trường sản xuất để đảm bảo chúng hoạt động tối ưu khi dữ liệu thay đổi theo thời gian, hiện tượng còn được gọi là trôi dạt dữ liệu (data drift).
Tóm lại, MLOps cho phép đội ngũ dữ liệu mở rộng giá trị mà họ mang lại bằng cách cho phép:
- Triển khai nhiều mô hình nhanh hơn thông qua các quy trình tự động
- Tối ưu hóa năng suất thông qua cộng tác và tái sử dụng mô hình
- Giảm rủi ro và chi phí cho các mô hình không bao giờ vào được sản xuất
- Giám sát và cập nhật mô hình liên tục khi xảy ra trôi dạt dữ liệu
Quay lại định nghĩa của Visnjic về MLOps, những điều trên đòi hỏi vừa đổi mới công cụ cho các đội ngũ dữ liệu hiện đại, vừa chuyển đổi tư duy đối với nhiều nhà khoa học dữ liệu ngày nay.
Vì sao MLOps quan trọng?
Chúng ta đã đề cập cách MLOps nhằm giải quyết thách thức triển khai cho nhiều đội ngũ dữ liệu hiện nay. Tuy nhiên, điều gì khiến machine learning trở nên đặc thù đến mức cần các chức năng vận hành chuyên biệt như MLOps?
Ứng dụng Machine Learning khác biệt căn bản so với phần mềm truyền thống. Dưới đây là một số thách thức đáng kể mà các tổ chức gặp phải khi triển khai hệ thống machine learning vào sản xuất.
- Quyền sở hữu và cộng tác: Theo truyền thống, các nhà khoa học dữ liệu có xu hướng tạo và phát triển mô hình machine learning, còn đội CNTT đảm nhận việc triển khai và quản lý chúng. Tuy nhiên, sự hợp tác giữa hai đội này chưa hiệu quả như mong muốn và thường gây ma sát. Ví dụ, đội khoa học dữ liệu ngày càng được nhiều bộ phận kinh doanh đề nghị giải quyết số lượng vấn đề ngày càng tăng. Do bản chất phức tạp của các hệ thống CNTT hiện đại, các nhà khoa học dữ liệu ít chú ý đến môi trường sản xuất và các hệ thống CNTT hiện có—vì đó là trách nhiệm của đội CNTT. Tương tự, đội CNTT thường không tập trung vào cơ chế hoạt động bên trong của các giải pháp do đội khoa học dữ liệu tạo ra—dẫn đến kỳ vọng sai lệch về khả năng triển khai của nhiều mô hình này. Động lực này tạo ra ma sát và các phản mẫu cần phải tránh bằng mọi giá—nơi các đội dữ liệu chấp nhận lối nghĩ "hãy xây mô hình, gửi cho IT, và họ sẽ lo phần còn lại".
- Dữ liệu là yếu tố định hình phần mềm vận hành bằng machine learning: Dữ liệu là huyết mạch của hệ thống machine learning. Khác với phần mềm truyền thống, nơi kỹ sư phần mềm thiết kế một quy trình chuẩn nhận một tập đầu vào và cho ra một tập đầu ra, hệ thống machine learning dựa trên phương pháp thống kê, nhận dữ liệu thực tế lộn xộn làm đầu vào và đưa ra dự đoán làm đầu ra. Điều này có nghĩa hành vi của hệ thống machine learning có thể thay đổi do dữ liệu thay đổi. Hơn nữa, việc đánh giá hiệu năng của mô hình machine learning đòi hỏi quan sát và phân tích. Cuối cùng, điều này có nghĩa quy trình làm machine learning vốn dĩ lộn xộn, mang tính thử nghiệm, và tự nhiên đòi hỏi bộ kỹ năng khác với kỹ thuật phần mềm truyền thống.
- Độ phức tạp khi triển khai: Các hệ thống mô hình machine learning ngày càng phức tạp. Khác với phần mềm truyền thống, triển khai mô hình machine learning bao gồm điều phối nhiều bước liên kết từ các công cụ khác nhau. Điều này gồm thu thập dữ liệu, lưu trữ, chuyển đổi, kỹ thuật đặc trưng và hơn thế nữa. Ngoài ra, khả năng tái lập và kiểm soát phiên bản là những thách thức lớn cho đội ngũ dữ liệu. Với bản chất thử nghiệm của machine learning, đội khoa học dữ liệu xây dựng nhiều phiên bản mô hình sử dụng các phiên bản khác nhau của cùng một tập dữ liệu. Do đó, kiểm soát phiên bản theo cách truyền thống cần trở nên mạnh mẽ hơn.
MLOps so với DevOps—khác nhau ở điểm nào?
Ở phần trước, chúng ta đã phân tích vì sao machine learning cần một chức năng vận hành chuyên biệt. Tuy nhiên, MLOps khác gì với DevOps trên thực tế?
DevOps là sự kết hợp của Development (Dev) và Operations (Ops). Nó kết hợp hai chức năng thiết yếu của bộ phận CNTT: phát triển ứng dụng và kỹ thuật hệ thống. DevOps cố gắng rút ngắn vòng đời phát triển—và tăng tốc độ đầu ra cho các đội kỹ sư phần mềm. Điều này được thực hiện bằng cách đưa vào tự động hóa, cập nhật quy trình và phương thức làm việc cho đội phát triển. Rộng hơn, DevOps mang đến hai nguyên tắc cho quy trình phát triển phần mềm:
- Tích hợp liên tục (CI)—quy trình tạo ra các lần lặp nhỏ, thường xuyên vào kho lưu trữ kiểm soát phiên bản. Điều này giúp giảm bớt các vấn đề khi triển khai vì mã được đưa vào sản xuất thường xuyên.
- Phân phối liên tục (CD)—quy trình tự động hóa các bước cần thiết để đưa ứng dụng và phần mềm vào môi trường sản xuất.
Với tính chất đặc thù của machine learning, dưới đây là một số cách thực tiễn mà MLOps khác với DevOps:
- Tích hợp liên tục được mở rộng từ kiểm thử và xác thực mã, sang cả kiểm thử và xác thực mô hình và dữ liệu
- Phân phối liên tục được mở rộng từ tự động hóa các bước đưa ứng dụng vào sản xuất sang tự động cung cấp các pipeline dữ liệu kích hoạt dự đoán machine learning
- Huấn luyện liên tục được đưa vào—điểm độc đáo của machine learning—nơi các mô hình được tự động huấn luyện lại để triển khai
- Giám sát liên tục được đưa vào—giám sát sự cố chất lượng dữ liệu sản xuất, hiệu năng mô hình và các chỉ số kinh doanh gắn với mô hình machine learning
Quy trình làm việc MLOps
Tái hình dung quy trình khoa học dữ liệu cho MLOps
Với độ phức tạp bổ sung khi triển khai mô hình machine learning vào sản xuất—đội ngũ dữ liệu có thể bắt đầu áp dụng MLOps vào quy trình khoa học dữ liệu của mình như thế nào? Trong phần này, chúng tôi giới thiệu một cách tiếp cận từng bước được đơn giản hóa trong quy trình MLOps:
- Xây dựng: Khi mô hình được tạo, chúng thường được đặt trong một kho lưu trữ có kiểm toán dưới kiểm soát phiên bản để hỗ trợ tái sử dụng trên toàn doanh nghiệp.
- Đánh giá: Chất lượng dự đoán của mô hình được định lượng ở giai đoạn này bằng cách đo lường hiệu năng của mô hình mới huấn luyện trên một tập dữ liệu mới và độc lập.
- Đưa vào sản xuất: Xuất, triển khai và tích hợp mô hình hoặc pipeline vào các hệ thống và ứng dụng sản xuất.
- Kiểm thử: kiểm thử liên tục rất quan trọng với các ứng dụng dựa trên ML, tập trung vào tự động huấn luyện lại và phục vụ mô hình.
- Triển khai: Cần giám sát liên tục để đảm bảo hiệu năng tối ưu. Mô hình có thể được huấn luyện lại hoặc thay thế bằng mô hình mới khi dữ liệu thay đổi.
- Giám sát và khả năng quan sát: Nhiều công ty gặp thách thức khi đưa các mô hình machine learning vào môi trường sản xuất.
Tái hình dung vai trò dữ liệu cho MLOps
Trong các đội khoa học dữ liệu nhỏ, một người có thể đảm nhận nhiều vai trò. Tuy nhiên, trong các đội lớn hơn, quy trình hóa hơn, bạn có thể thấy nhiều vai trò và kỹ năng khác nhau phụ trách các thành phần khác nhau của quy trình MLOps. Các vai trò có thể được nhìn nhận như sau:
- Nhà khoa học dữ liệu: Thường được xem là nhân tố chủ chốt trong bất kỳ đội MLOps nào, các nhà khoa học dữ liệu là chuyên gia sử dụng dữ liệu của công ty để tạo ra giá trị. Vai trò của họ là hiểu, cấu trúc và diễn giải dữ liệu này để mang lại và cung cấp insight dưới dạng mô hình dự đoán. Họ tạo, kiểm thử và đánh giá mô hình machine learning. Ở một số công ty, họ cũng triển khai và giám sát hiệu năng mô hình sau khi đưa vào sản xuất.
- Kỹ sư dữ liệu: Kỹ sư dữ liệu chịu trách nhiệm tạo và duy trì môi trường cho phép hầu hết mọi chức năng khác trong đội dữ liệu hoạt động. Họ chịu trách nhiệm phát triển, xây dựng, duy trì và kiểm thử các kiến trúc như cơ sở dữ liệu và hệ thống xử lý. Nói đơn giản, họ cho phép dòng chảy dữ liệu từ trích xuất, đến chuyển đổi, đến phân phối.
- Kỹ sư phần mềm: Trong quy trình MLOps, kỹ sư phần mềm phụ trách tích hợp mô hình machine learning vào các ứng dụng và hệ thống của công ty. Họ cũng đảm bảo các mô hình machine learning hoạt động trơn tru với các ứng dụng không dựa trên machine learning trong công ty.
- Kỹ sư machine learning: Kỹ sư machine learning ở giao điểm của khoa học dữ liệu và kỹ sư dữ liệu. Vai trò của họ là tối ưu hóa và đưa vào sản xuất các mô hình do nhà khoa học dữ liệu phát triển trong hạ tầng do kỹ sư dữ liệu chuẩn bị.
Bắt đầu với MLOps
Như đã thảo luận trong suốt bài viết, MLOps vẫn là một lĩnh vực non trẻ với nhiều công cụ, thực tiễn tốt nhất và phương pháp luận còn đang hình thành. Phần này dành cho các cách khác nhau để bạn có thể bắt đầu với MLOps, các công cụ bạn có thể thử nghiệm và tài nguyên học tập bạn có thể bắt đầu ngay hôm nay.
Các công cụ nên cân nhắc cho MLOps
-
Kubeflow: Kubeflow là một bộ công cụ để chạy các quy trình làm việc Machine Learning trên các cụm Kubernetes. Mục tiêu của Kubeflow là cho phép các giải pháp machine learning mã nguồn mở tốt nhất chạy trên cụm Kubernetes theo cách đơn giản, di động và có khả năng mở rộng. Ban đầu Kubeflow là bản triển khai mã nguồn mở của TensorFlow Extended (TFX), một nền tảng đầu-cuối để triển khai pipeline machine learning vào sản xuất. Do đó, Kubeflow cho phép đơn giản hóa việc thực thi các tác vụ TensorFlow trên KubernetesMLFlow: MLflow là một công cụ công nghiệp hóa quy trình phát triển đầu-cuối của các dự án Machine Learning. Mục tiêu của nó là đơn giản hóa việc phát triển các dự án Machine Learning trong doanh nghiệp bằng cách hỗ trợ theo dõi, tái lập, quản lý và triển khai mô hình.
-
Data Version Control (DVC): DVC (Data Version Control) là một gói Python giúp quản lý các dự án khoa học dữ liệu của bạn dễ dàng hơn. Công cụ này là một phần mở rộng của Git cho Machine Learning, như tuyên bố của cộng tác viên chính Dmitry Petrov trong bài thuyết trình này. DVC vừa tương đồng vừa bổ trợ cho Git.
-
Pachyderm: Pachyderm là một công cụ kiểm soát phiên bản cho machine learning và khoa học dữ liệu giống như DVC. Bên cạnh đó, nó dựa trên Docker và Kubernetes, giúp chạy và triển khai các dự án Machine Learning trên bất kỳ nền tảng đám mây nào. Ngoài ra, pachyderm đảm bảo tất cả dữ liệu được đưa vào mô hình machine learning đều có phiên bản và có thể truy vết.
Tài nguyên học tập về MLOps
Nền tảng Machine Learning
- Machine Learning For Absolute Beginners: A Plain English Introduction (Ấn bản thứ hai) của Oliver Theobald. Như tiêu đề cho thấy, cuốn sách này cung cấp cho người mới bắt đầu một phần giới thiệu đầy đủ về machine learning. Và khi nói “người mới”, chúng tôi có ý là những người hoàn toàn chưa biết gì. Không cần kiến thức cơ bản về toán hay kinh nghiệm lập trình. Đây là phần giới thiệu căn bản về machine learning cho bất kỳ ai quan tâm đến chủ đề này. Ngôn ngữ sử dụng khá đơn giản để không “dìm” người đọc trong thuật ngữ khó hiểu. Các thuật toán khác nhau đi kèm giải thích rõ ràng, dễ theo dõi và ví dụ trực quan. Cuốn sách cũng trình bày một số khái niệm lập trình đơn giản để đặt machine learning vào bối cảnh tốt hơn.
- Machine Learning For Dummies của John Paul Mueller và Luca Massaron. Với người mới, loạt sách "for dummies" cũng là điểm khởi đầu tốt. Cuốn sách này giới thiệu các khái niệm và lý thuyết cơ bản của machine learning và giải thích cách áp dụng chúng vào thế giới thực. Nó giới thiệu các ngôn ngữ và công cụ lập trình thiết yếu, đồng thời giải thích cách biến một khái niệm tương đối hàn lâm thành công cụ thực tế. Tác giả bàn về ngôn ngữ Python và R, được dùng để dạy máy phát hiện mẫu và phân tích kết quả.
- Fundamentals of Machine Learning for Predictive Data Analytics: Algorithms, Worked Examples, and Case Studies của John D. Kelleher, Brian Mac Namee, và Aoife D'Arcy. Cuốn sách này bao quát mọi khái niệm nền tảng của machine learning, trình bày cả khía cạnh lý thuyết lẫn ứng dụng thực tiễn. Nó cung cấp ví dụ cụ thể và nghiên cứu tình huống để truyền đạt kiến thức tốt hơn. Khuyến nghị có kiến thức cơ bản về phân tích để hiểu rõ hơn các khái niệm nền tảng này. Cuốn sách trình bày các cách tiếp cận machine learning và minh họa mỗi khái niệm học bằng thuật toán, mô hình, cũng như ví dụ cụ thể để thực hành các khái niệm đó.
- Machine Learning for Hackers của Drew Conway và John Myles White. Thuật ngữ "hackers" ở đây chỉ các lập trình viên tạo mã cho những mục đích và dự án thực tế cụ thể. Cuốn sách dành cho độc giả không có nền tảng toán học nhưng biết lập trình và sử dụng ngôn ngữ lập trình. Machine learning thường dựa vào các khái niệm toán học vì dùng thuật toán để phân tích dữ liệu, nhưng nhiều lập trình viên giàu kinh nghiệm thường không có kỹ năng toán học cao. Thay vì sa đà vào lý thuyết toán, cuốn sách đưa ra các ứng dụng đời thực dựa trên nghiên cứu thực hành. Nó đề cập các bài toán kinh điển trong machine learning và giải thích cách giải quyết bằng ngôn ngữ R. Dù là so sánh các thượng nghị sĩ dựa trên số phiếu họ nhận được, tạo hệ thống gợi ý người theo dõi trên Twitter, hay phát hiện spam dựa trên nội dung, khả năng của machine learning là vô tận.
- Lộ trình Machine Learning Scientist với Python hoặc R của DataCamp. Dù bạn dùng R hay Python, hai lộ trình này bao trùm mọi khía cạnh của machine learning. Mỗi lộ trình chứa hàng chục khóa học tương tác, từ nền tảng đến chủ đề nâng cao như deep learning và kỹ thuật đặc trưng.
Nền tảng Kỹ thuật Dữ liệu
- Data Engineering Cookbook của Andreas Kretz. Có nhiều nhầm lẫn về cách trở thành kỹ sư dữ liệu. Đây là một eBook của Andreas Kertz chứa các nghiên cứu tình huống chi tiết, mã nguồn, podcast, phỏng vấn, case study và hơn thế nữa. Tôi coi đây là gói hoàn chỉnh cho bất kỳ ai muốn trở thành kỹ sư dữ liệu. Và điểm cộng? EBook này miễn phí!!! Vâng, bạn có thể bắt đầu sử dụng ngay.
- DW 2.0 - The Architecture for the Next Generation of Data Warehousing của Cha đẻ Data Warehousing WH Inmon. Cuốn sách mô tả tương lai của kho dữ liệu vốn đã khả thi về mặt công nghệ ngày nay, cả về kiến trúc và công nghệ. Nó được cấu trúc cẩn thận và bao phủ hầu hết chủ đề liên quan đến kiến trúc dữ liệu và các thách thức nền tảng của nó. Cách bạn có thể sử dụng hệ thống hiện có và xây dựng kho dữ liệu xung quanh, cùng thực tiễn tốt nhất để chứng minh chi phí theo cách rất thực tế.
- Agile data warehouse design: collaborative dimensional modeling, from blackboard to star schema của Laurent Corr. Đây là một cuốn sách tuyệt vời. Lawrence Corr cung cấp hướng dẫn từng bước toàn diện để thu thập yêu cầu BI và kho dữ liệu và chuyển chúng thành các mô hình hiệu năng cao bằng kỹ thuật gọi là model storming. Ngoài ra, bạn sẽ tìm thấy khái niệm BEAM, một cách tiếp cận linh hoạt cho mô hình hóa đa chiều nhằm cải thiện giao tiếp giữa nhà thiết kế kho dữ liệu và các bên liên quan BI.
- Lộ trình nghề nghiệp Data Engineering với Python của DataCamp. Lộ trình này cung cấp hàng chục khóa học bao quát mọi khía cạnh xây dựng kiến trúc dữ liệu hiệu quả, tối ưu hóa nạp dữ liệu, xây dựng pipeline và hơn thế nữa.
Đào sâu vào MLOps
- MLOps Fundamentals Skill Track. Lộ trình kỹ năng này bao quát vòng đời hoàn chỉnh của một ứng dụng machine learning, từ thu thập yêu cầu kinh doanh đến giai đoạn thiết kế, phát triển, triển khai, vận hành và bảo trì
- MLOps: Operationalizing Data Science, của David Sweenor, Dev Kannabiran, Thomas Hill, Steven Hillion, Dan Rope và Michael O'Connell. Sáu chuyên gia phân tích dữ liệu này cung cấp cách tiếp cận bốn bước để tạo các ứng dụng dựa trên machine learning có thể vào được sản xuất.
- Building Machine Learning Powered Applications của Emmanuel Ameisen. Trong cuốn sách này, tác giả Emmanuel Ameisen sẽ dạy bạn cách xây dựng một ứng dụng vận hành bằng machine learning từ ý tưởng ban đầu đến sản phẩm được triển khai.
- Building Machine Learning Pipelines của Hannes Hapke, Catherine Nelson. Xuyên suốt cuốn sách, hai tác giả Hannes Hapke và Catherine Nelson trình bày các bước tự động hóa pipeline machine learning bằng hệ sinh thái TensorFlow.
- Practical MLOps của Noah Gift, Alfredo Deza. Nêu bật sự khác biệt giữa DevOps và MLops, cuốn sách sẽ giúp bạn tập trung vào MLOps là gì và cách nó đảm bảo vận hành hóa các mô hình machine learning của bạn. Cuốn sách giới thiệu công cụ và phương pháp để bạn triển khai dự án MLOps trên AWS, Microsoft Azure và Google Cloud. Đồng thời, đừng bỏ lỡ buổi đào tạo trực tuyến của Noah về Practical MLOps trên DataCamp.
- Introducing MLOps của Mark Treveil & Nhóm Dataiku. Các tác giả của cuốn sách này giúp hiểu sâu các khái niệm cốt lõi của MLOps nhằm đảm bảo đội khoa học dữ liệu có thể vận hành hóa các mô hình Machine Learning để thúc đẩy thay đổi kinh doanh và cải thiện mô hình theo thời gian.
- Google Cloud cung cấp các bài viết, blog và bài báo hướng dẫn bạn các thực tiễn và quy trình tốt nhất để xây dựng mô hình machine learning hiệu quả. Trong bài viết được chọn, bạn sẽ học về quy trình MLOps và cách chuyển từ quy trình thủ công sang tự động.
- Nvidia’s blog có các bài viết hướng dẫn bạn qua Vòng đời MLOps và giới thiệu một số câu chuyện thành công trong lĩnh vực này.
- Ml-ops.org được tạo bởi Dr. Larysa Visengeriyeva, Anja Kammer, Isabel Bär, Alexander Kniesz và Michael Plöd. Website này nhằm tập hợp mọi thông tin cần thiết về MLOps và trình bày từng bước của quy trình đầu-cuối.
Chúng tôi hy vọng bộ tài nguyên này sẽ giúp bạn khởi đầu hành trình học MLOps. Để xem thêm bài viết và tài nguyên về MLOps, bạn cũng có thể tham khảo các bài viết sau:
Lộ trình kỹ năng MLOps Fundamentals
Cơ bản về MLOps
IntermediateSkill Level
{hours} giờ
Chủ đề
