GitOps là gì? Hướng dẫn đơn giản để tự động hóa quản lý hạ tầng

Có lẽ bạn đã nghe về DevOps (Developer Operations), giúp tự động hóa quy trình triển khai ứng dụng. Nếu bạn là một chuyên gia dữ liệu, có lẽ bạn cũng quen thuộc với MLOps (Machine Learning Operations), tối ưu hóa việc triển khai mô hình. Vậy còn GitOps thì sao?

Trong bài viết này, chúng ta sẽ tìm hiểu GitOps, lý do nó quan trọng, các mô hình GitOps khác nhau, và cuối cùng là cách tích hợp GitOps vào một dự án mô hình ngôn ngữ lớn.

Hình ảnh: Tác giả

Bạn cũng có thể học lý thuyết đằng sau các khái niệm DevOps và MLOps qua hai khóa học ngắn tốt nhất của chúng tôi, DevOps Concepts và MLOps Concepts.

GitOps là gì?

GitOps là một khung vận hành mở rộng các nguyên tắc DevOps sang tự động hóa hạ tầng. Nó nhấn mạnh các bài học quan trọng từ DevOps như kiểm soát phiên bản, cộng tác, tuân thủ, CI/CD và khả năng quan sát, rồi áp dụng chúng cho việc cung cấp và quản lý hạ tầng, đặc biệt trong các môi trường đám mây hiện đại.

Cốt lõi của GitOps là tự động hóa quản lý hạ tầng bằng cách coi cấu hình như mã, thường được gọi là Infrastructure as Code (IaC). Tương tự như cách đội phát triển dùng mã nguồn để xây dựng nhị phân ứng dụng một cách nhất quán, đội vận hành dùng các tệp cấu hình lưu trong kho Git để đảm bảo cùng một môi trường hạ tầng được triển khai mỗi lần. Cách tiếp cận này đảm bảo tính nhất quán, độ tin cậy và khả năng lặp lại.

Thành phần chính của một quy trình GitOps:

1. Kho Git: Lưu trữ cả mã nguồn ứng dụng và các tệp cấu hình hạ tầng.
2. Pipeline phân phối liên tục (CD): Tự động hóa việc xây dựng, kiểm thử và triển khai ứng dụng cùng thay đổi hạ tầng.
3. Công cụ triển khai ứng dụng: Đảm bảo ứng dụng được triển khai đúng và hiệu quả dựa trên cấu hình trong kho Git.
4. Hệ thống giám sát: Theo dõi hiệu năng và tình trạng ứng dụng để duy trì độ tin cậy của hệ thống.

GitOps so với DevOps so với MLOps

Vì sao nên dùng GitOps?

Quản lý hạ tầng truyền thống dựa vào thủ công, nhưng đám mây hiện đại đòi hỏi tự động hóa để xử lý tốc độ và quy mô của các ứng dụng cloud-native. Với GitOps, hạ tầng trở nên linh hoạt và đáng tin cậy, cho phép các nhóm triển khai thay đổi nhanh chóng và nhất quán. Nó loại bỏ lỗi thủ công, nâng cao hiệu quả và đảm bảo hạ tầng cùng ứng dụng luôn đồng bộ, hỗ trợ nhịp độ nhanh của quy trình phát triển hiện đại.

Lợi ích chính của GitOps:

1. Kiểm soát phiên bản: Mọi thay đổi đối với hạ tầng và ứng dụng đều được quản lý phiên bản trong Git, cho phép hoàn nguyên dễ dàng và có nhật ký kiểm toán đầy đủ.
2. Cộng tác tốt hơn: Các nhóm có thể cộng tác hiệu quả hơn bằng các quy trình Git quen thuộc như pull request.
3. Tăng độ tin cậy: Cấu hình khai báo đảm bảo trạng thái hệ thống mong muốn có thể tự động được khôi phục khi xảy ra sự cố.
4. Tự động hóa: Giảm thiểu nhu cầu can thiệp thủ công, từ đó giảm rủi ro lỗi do con người.
5. Bảo mật: Lịch sử commit của Git cung cấp bản ghi bất biến, nâng cao bảo mật và khả năng truy vết.

Mô hình GitOps kéo (pull) so với đẩy (push)

Trong GitOps, có hai mô hình chính để triển khai và quản lý cấu hình hạ tầng và ứng dụng: kéo (pull-based) và đẩy (push-based). Hai mô hình này khác nhau ở cách xử lý thay đổi cấu hình và áp dụng chúng vào môi trường đích.

Mô hình kéo (Pull-Based) — GitOps điển hình

Cách tiếp cận kéo dựa vào việc lưu trạng thái mong muốn của hệ thống trong kho Git. Một tác tử GitOps như Flux hoặc Argo CD liên tục giám sát kho để phát hiện thay đổi. Khi có cập nhật, tác tử sẽ tự động kéo cấu hình mới và áp dụng vào môi trường đích.

Mô hình kéo còn hỗ trợ phát hiện trôi dạt và tự phục hồi, vì cụm liên tục “kéo” trạng thái mong muốn từ Git. Điều này đảm bảo mọi thay đổi ngoài ý muốn hoặc trôi dạt cấu hình trong môi trường đều được tự động hiệu chỉnh, duy trì tính nhất quán và ổn định

Mô hình đẩy (Push-Based) — Dùng công cụ CI/CD

Cách tiếp cận đẩy dựa vào các công cụ như GitHub Actions hoặc dịch vụ CI/CD khác để đẩy bản cập nhật vào cụm mỗi khi có thay đổi được commit. Khác với mô hình kéo, mô hình đẩy không có hòa giải liên tục, tức là không có sẵn cơ chế phát hiện trôi dạt hay hoàn nguyên tự động. Điều này khiến nó kém bền bỉ trước các thay đổi ngoài ý muốn trong môi trường. Tuy vậy, mô hình đẩy thường dễ triển khai hơn và mang lại quyền kiểm soát chi tiết đối với việc triển khai.

Tích hợp GitOps vào dự án LLM

Chúng ta sẽ tập trung vào cách tiếp cận GitOps dựa trên đẩy bằng GitHub Actions vì nó dễ thiết lập và yêu cầu ít kiến thức ban đầu. Dù hệ thống đẩy không có toàn bộ ưu thế của cách kéo, nó vẫn cung cấp các tính năng GitOps thiết yếu như cấu hình được quản lý phiên bản, triển khai tự động và hoàn nguyên đơn giản.

Trong phần này, chúng ta sẽ áp dụng các nguyên tắc GitOps cho dự án trong hướng dẫn Cách triển khai ứng dụng LLM bằng Docker: Hướng dẫn từng bước. Dự án này bao gồm mã cho ứng dụng Gradio, Dockerfile và requirements.txt. Nó minh họa cách triển khai một ứng dụng AI lên đám mây bằng Docker.

Nguồn: How to Deploy LLM Applications Using Docker: A Step-by-Step Guide

Tiếp cận tư duy MLOps để huấn luyện, ghi chép, vận hành và mở rộng mô hình học máy hiệu quả bằng cách tham gia khóa học Developing Machine Learning Models for Production with an MLOps Mindset.

Cấu trúc dự án

Dự án GitOps này được thiết kế để triển khai các ứng dụng Mô hình Ngôn ngữ Lớn (LLM) bằng Docker, Kubernetes và GitHub Actions. Dự án tổ chức toàn bộ tệp của dự án LLM vào thư mục app, tạo thư mục infra cho cấu hình Kubernetes và dùng .github/workflows/ để tự động hóa CI/CD với GitHub Actions.

• Docker đảm bảo ứng dụng chạy nhất quán trên các môi trường bằng cách đóng gói cùng toàn bộ phụ thuộc.
• Kubernetes tự động hóa triển khai, mở rộng và quản lý ứng dụng.
• GitHub Actions tự động hóa kiểm thử, xây dựng và triển khai ứng dụng.

Hãy học khóa Introduction to Kubernetes để nắm vững nền tảng Kubernetes và triển khai, điều phối container bằng Manifests và lệnh kubectl.

Cấu trúc này đảm bảo các lần triển khai tự động, có khả năng mở rộng và theo từng môi trường cho ứng dụng LLM của bạn, theo các nguyên tắc GitOps hiện đại.

Deploying-LLM-Applications-with-Docker/
├── app/
│   ├── requirements.txt      <-- Python dependencies for your LLM app
│   ├── main.py               <-- Your LLM application code
│   └── Dockerfile            <-- Docker instructions for building the app
├── infra/
│   ├── dev/                  <-- Dev environment configs (YAML or Helm)
│   ├── staging/              <-- Staging environment configs
│   └── production/           <-- Production environment configs
└── .github/
    └── workflows/
        ├── ci.yaml           <-- GitHub Actions workflow for continuous integration
        └── cd.yaml           <-- GitHub Actions workflow for continuous deploymentĐược hỗ trợ bởi

Dưới đây là phần tóm lược đơn giản:

• app/: Chứa mã ứng dụng (main.py), phụ thuộc (requirements.txt) và Dockerfile để dựng ứng dụng thành container.
• infra/: Chứa cấu hình Kubernetes cho các môi trường khác nhau:
• thư mục dev/, staging/ và production/ cho thiết lập theo môi trường.
• .github/workflows/: Tự động hóa CI/CD với GitHub Actions:
• ci.yaml: Dựng ứng dụng và image docker.
• cd.yaml: Triển khai ứng dụng bằng cách đẩy image Docker và áp dụng cấu hình Kubernetes.

Tìm hiểu sự khác nhau giữa Kubernetes và Docker qua hướng dẫn Kubernetes vs Docker.

Tổng quan workflow GitHub Actions

Quy trình trong GitHub Actions diễn ra như sau:

Developer commits code + config to GitHub
               |
               v
      GitHub Actions CI (ci.yaml)
       - Builds Docker image
       - (Optional) pushes Docker image
               |
               v
     GitHub Actions CD (cd.yaml)
       - Deploys updated app/config
       - kubectl apply or helm upgrade
               |
               v
      Kubernetes Cluster UpdatedĐược hỗ trợ bởi

1. Nhà phát triển commit thay đổi: Mã và cập nhật cấu hình được đẩy lên GitHub.
2. Pipeline CI (ci.yaml):
• Dựng image Docker.
• Tùy chọn đẩy image lên registry.
• Chạy kiểm thử để xác nhận ứng dụng.
3. Pipeline CD (cd.yaml):
• Triển khai ứng dụng hoặc cấu hình đã cập nhật.
• Thực thi kubectl apply hoặc helm upgrade để cập nhật manifest Kubernetes.
4. Cụm Kubernetes được cập nhật: Cụm chạy phiên bản ứng dụng mới.

Học cách tự động hóa huấn luyện, đánh giá, quản lý phiên bản và triển khai mô hình bằng GitHub Actions và tạo tệp theo hướng dẫn A Beginner's Guide to CI/CD for Machine Learning.

Ưu điểm và đánh đổi chính khi dùng GitOps dựa trên đẩy

Nếu bạn đã có kinh nghiệm với GitHub Actions, việc thiết lập phương pháp GitOps theo hướng đẩy có thể khá đơn giản. Bạn chỉ cần thêm các tệp cấu hình hạ tầng, thiết lập pipeline CI/CD và bắt đầu sử dụng. Tuy nhiên, dù cách này đơn giản, vẫn có vài điểm đánh đổi quan trọng cần cân nhắc.

Ưu điểm

• Đơn giản: Bạn chỉ cần GitHub Actions để triển khai cách này — không cần thêm tác tử GitOps như Argo CD hay Flux.
• Tất cả trong một: GitHub Actions cung cấp một nền tảng duy nhất để xây dựng, kiểm thử và triển khai ứng dụng, tinh gọn toàn bộ quy trình.

Đánh đổi

• Không phải kéo thực thụ: Khác với các công cụ GitOps kéo như Argo CD, cách này thiếu “hòa giải liên tục”. Nghĩa là trạng thái cụm không được tự động giám sát và hòa giải với trạng thái mong muốn trong Git.
• Không phát hiện trôi dạt: Nếu ai đó chỉnh sửa tài nguyên thủ công trong cụm, các thay đổi này sẽ không được tự động hoàn nguyên để khớp với kho Git. Theo thời gian, điều này có thể dẫn đến trôi dạt cấu hình.
• Bảo mật: Để GitHub Actions có thể triển khai lên cụm, bạn phải lưu thông tin xác thực của cụm trong GitHub secrets hoặc dùng phương thức xác thực dựa trên OIDC. Cả hai cách đều cần xử lý cẩn trọng để tránh rủi ro bảo mật.

Chuyển đổi sang mô hình kéo

Khi dự án mở rộng hoặc yêu cầu trở nên khắt khe hơn, chuyển sang mô hình GitOps kéo có thể mang lại lợi ích đáng kể. Nếu nhóm của bạn cần các tính năng như tự phục hồi, hòa giải liên tục hoặc bảng điều khiển trực quan, việc áp dụng công cụ kéo như Argo CD hoặc Flux có thể là bước đi hợp lý tiếp theo.

• Tự phục hồi: Tự động hoàn nguyên trạng thái cụm nếu bị trôi dạt.
• Hòa giải liên tục: Theo dõi kho Git của bạn cho các thay đổi cấu hình 24/7.
• Bảng điều khiển trực quan: Để kiểm tra trạng thái ứng dụng và log.

Bạn có thể chuyển sang công cụ kéo như Argo CD hoặc Flux. Chúng sẽ liên tục giám sát kho của bạn và đảm bảo cụm luôn khớp với những gì có trong Git — không cần bước “đẩy” thủ công sau commit ban đầu.

Kết luận

Để triển khai GitOps hiệu quả, tốt nhất hãy bắt đầu nhỏ và dần dần áp dụng các công nghệ của nó. Khởi đầu với một Dockerfile đơn giản để đóng gói ứng dụng và triển khai lên đám mây. Sau đó, giới thiệu Kubernetes để tăng khả năng mở rộng và độ tin cậy thông qua triển khai và quản lý tự động.

Khi đã quen, hãy áp dụng GitOps dựa trên đẩy bằng các công cụ như GitHub Actions để tự động hóa cả hạ tầng đám mây và triển khai ứng dụng. Cuối cùng, khi dự án trưởng thành và cần độ ổn định ở mức sản xuất, hãy chuyển sang mô hình kéo với các công cụ như Argo CD hoặc Flux để đạt được hòa giải liên tục, phát hiện trôi dạt và khả năng tự phục hồi.

Lộ trình từng bước này đảm bảo đường cong học tập mượt mà đồng thời khai thác tối đa tiềm năng của GitOps cho các ứng dụng cloud-native hiện đại.

Trong bài viết này, chúng ta đã khám phá GitOps, tầm quan trọng của nó, các mô hình GitOps khác nhau và cách tích hợp GitOps vào một dự án AI. Nếu bạn mới bắt đầu với AI, chúng tôi khuyến nghị tham gia AI Fundamentals, lộ trình kỹ năng bao quát các nền tảng AI, đi sâu vào các mô hình như GPT-4o và khám phá bí quyết của AI tạo sinh để định hướng trong bức tranh AI đang thay đổi.