GitOps Nedir? Altyapı Yönetimini Otomatikleştirmeye Yönelik Basit Bir Rehber

Uygulama dağıtım süreçlerini otomatikleştiren DevOps’u (Geliştirici Operasyonları) muhtemelen duydunuz. Bir veri profesyoneliyseniz, model dağıtımını sadeleştiren MLOps’u (Makine Öğrenimi Operasyonları) da muhtemelen biliyorsunuz. Peki ya GitOps?

Bu blogda GitOps’u, neden önemli olduğunu, farklı GitOps modellerini ve son olarak GitOps’u bir büyük dil modeli projesine nasıl entegre edeceğinizi keşfedeceğiz. 

Görsel: Yazar

DevOps ve MLOps kavramlarının arkasındaki teoriyi, en iyi kısa kurslarımızdan ikisini alarak da öğrenebilirsiniz: DevOps Concepts ve MLOps Concepts.

GitOps Nedir?

GitOps, DevOps ilkelerini altyapı otomasyonuna genişleten bir operasyon çerçevesidir. Sürüm kontrolü, iş birliği, uyumluluk, CI/CD ve gözlemlenebilirlik gibi DevOps’tan alınan temel dersleri vurgular ve bunları özellikle modern bulut ortamlarında altyapının sağlanması ve yönetimine uygular.

Özünde, GitOps, yapılandırmaları kod olarak ele alarak altyapı yönetimini otomatikleştirir; buna sıklıkla Kod Olarak Altyapı (IaC) denir. Nasıl ki geliştirme ekipleri uygulama ikililerini tutarlı biçimde oluşturmak için kaynak kodu kullanıyorsa, operasyon ekipleri de her seferinde aynı altyapı ortamının dağıtıldığından emin olmak için Git depolarında saklanan yapılandırma dosyalarını kullanır. Bu yaklaşım tutarlılık, güvenilirlik ve tekrarlanabilirlik sağlar.

Bir GitOps İş Akışının Temel Bileşenleri:

1. Git deposu: Hem uygulamanın kaynak kodunu hem de altyapı yapılandırma dosyalarını saklar.
2. Sürekli teslim (CD) hattı: Uygulama ve altyapı değişikliklerinin oluşturulmasını, test edilmesini ve dağıtılmasını otomatikleştirir.
3. Uygulama dağıtım aracı: Git deposundaki yapılandırmalara göre uygulamaların doğru ve verimli şekilde dağıtılmasını sağlar.
4. İzleme sistemi: Sistem güvenilirliğini korumak için uygulama performansını ve sağlığını takip eder.

GitOps vs DevOps vs MLOps

Neden GitOps Kullanılmalı?

Altyapı yönetimi geleneksel olarak manuel yürütülürdü, ancak modern bulut, bulut-yerel uygulamaların hız ve ölçeğini yönetmek için otomasyon gerektirir. GitOps ile altyapı esnek ve güvenilir hale gelir; ekipler değişiklikleri hızlı ve tutarlı biçimde dağıtabilir. Manuel hataları ortadan kaldırır, verimliliği artırır ve altyapı ile uygulamaların her zaman senkron olmasını sağlayarak modern geliştirme iş akışlarının hızına uyum sağlar.

GitOps’un Başlıca Faydaları:

1. Sürüm kontrolü: Altyapı ve uygulamalara yönelik tüm değişiklikler Git’te sürüm kontrolü altındadır; bu da kolay geri alma ve kapsamlı denetim izleri sağlar.
2. İyileştirilmiş iş birliği: Ekipler, çekme istekleri gibi tanıdık Git iş akışlarını kullanarak daha etkili iş birliği yapabilir.
3. Artan güvenilirlik: Bildirimsel yapılandırmalar, bir arıza durumunda istenen sistem durumunun otomatik olarak geri yüklenmesini sağlar.
4. Otomasyon: Manuel müdahale ihtiyacını en aza indirir ve böylece insan hatası riskini azaltır.
5. Güvenlik: Git’in işlem geçmişi değiştirilemez bir kayıt sunar; güvenliği ve izlenebilirliği artırır.

Çekme Tabanlı vs İtme Tabanlı GitOps Modeli

GitOps yaklaşımında, altyapı ve uygulama yapılandırmalarını dağıtmak ve yönetmek için iki temel model vardır: çekme tabanlı ve itme tabanlı. Bu modeller, yapılandırma değişikliklerini nasıl ele aldıkları ve hedef ortama nasıl uyguladıkları bakımından farklılaşır.

Çekme Tabanlı Model (Tipik GitOps)

Çekme tabanlı yaklaşım, sistemin istenen durumunun bir Git deposunda saklanmasına dayanır. Flux veya Argo CD gibi bir GitOps operatörü, depodaki değişiklikleri sürekli izler. Güncellemeler tespit edildiğinde, operatör güncellenmiş yapılandırmayı otomatik olarak çeker ve hedef ortama uygular. 

Çekme tabanlı model, kümenin istenen durumu Git’ten sürekli “çekmesi” sayesinde sapma tespiti ve kendini iyileştirme de sunar. Bu, ortamdaki istenmeyen değişikliklerin veya yapılandırma sapmalarının otomatik olarak düzeltilmesini sağlayarak tutarlılık ve kararlılık kazandırır

İtme Tabanlı Model (CI/CD Araçlarını Kullanma)

İtme tabanlı yaklaşım, değişiklikler işlendiğinde güncellemeleri kümeye itmek için GitHub Actions veya diğer CI/CD hizmetleri gibi araçlara dayanır. Çekme tabanlı modelin aksine, itme tabanlı yaklaşımda sürekli uzlaştırma yoktur; yani yerleşik bir sapma tespiti veya otomatik geri alma mekanizması bulunmaz. Bu da çevredeki istenmeyen değişikliklere karşı daha az dayanıklı olmasına yol açar. Ancak itme tabanlı model çoğu zaman kurması daha basittir ve dağıtımlar üzerinde ayrıntılı kontrol sağlar.

GitOps’un LLM Projesine Entegrasyonu 

Kurulumu daha kolay olduğu ve minimum ön bilgi gerektirdiği için GitHub Actions kullanarak itme tabanlı bir GitOps yaklaşımına odaklanacağız. İtme tabanlı bir sistem çekme tabanlı yaklaşımın tüm avantajlarını sunmasa da, sürüm kontrollü yapılandırmalar, otomatik dağıtımlar ve basitleştirilmiş geri almalar gibi temel GitOps özelliklerini sağlar.

Bu bölümde, How to Deploy LLM Applications Using Docker: A Step-by-Step Guide adlı eğitimdeki projeye GitOps ilkelerini uygulayacağız. Bu proje, bir Gradio uygulaması için kodu, Dockerfile’ı ve requirements.txt dosyasını içerir. Bir yapay zeka uygulamasının Docker kullanılarak buluta nasıl dağıtılacağını gösterir.

Kaynak: How to Deploy LLM Applications Using Docker: A Step-by-Step Guide

MLOps bakış açısını benimseyerek makine öğrenimi modellerinizi etkili biçimde eğitmek, belgelendirmek, sürdürmek ve ölçeklemek için Developing Machine Learning Models for Production with an MLOps Mindset kursuna kaydolun.

Proje yapısı

Bu GitOps projesi, Docker, Kubernetes ve GitHub Actions kullanarak Büyük Dil Modeli (LLM) uygulamalarını dağıtmak üzere tasarlanmıştır. Proje tüm LLM proje dosyalarını app klasöründe toplar, Kubernetes yapılandırmaları için bir infra klasörü oluşturur ve GitHub Actions ile CI/CD otomasyonu için .github/workflows/ kullanır.

• Docker, uygulamayı tüm bağımlılıklarıyla paketleyerek ortamlarda tutarlı şekilde çalışmasını sağlar.
• Kubernetes uygulamanın dağıtımını, ölçeklemesini ve yönetimini otomatikleştirir.
• GitHub Actions uygulamanın test edilmesini, oluşturulmasını ve dağıtılmasını otomatikleştirir.

Introduction to Kubernetes kursunu alarak Kubernetes’in temellerini öğrenin; Manifests ve kubectl komutlarıyla konteynerleri dağıtıp orkestre edin.

Bu yapı, modern GitOps ilkelerini izleyerek LLM uygulamanız için otomatik, ölçeklenebilir ve ortama özgü dağıtımlar sağlar.

Deploying-LLM-Applications-with-Docker/
├── app/
│   ├── requirements.txt      <-- Python dependencies for your LLM app
│   ├── main.py               <-- Your LLM application code
│   └── Dockerfile            <-- Docker instructions for building the app
├── infra/
│   ├── dev/                  <-- Dev environment configs (YAML or Helm)
│   ├── staging/              <-- Staging environment configs
│   └── production/           <-- Production environment configs
└── .github/
    └── workflows/
        ├── ci.yaml           <-- GitHub Actions workflow for continuous integration
        └── cd.yaml           <-- GitHub Actions workflow for continuous deploymentAltyapı:

İşte basit bir özet:

• app/: Uygulama kodunu (main.py), bağımlılıkları (requirements.txt) ve uygulamayı bir konteynere dönüştürmek için Dockerfile’ı içerir.
• infra/: Farklı ortamlar için Kubernetes yapılandırmalarını barındırır:
• Ortam-özel ayarlar için dev/, staging/ ve production/ klasörleri.
• .github/workflows/: GitHub Actions ile CI/CD’yi otomatikleştirir:
• ci.yaml: Uygulamayı ve Docker imajını oluşturur.
• cd.yaml: Docker imajlarını iterek ve Kubernetes yapılandırmalarını uygulayarak dağıtım yapar.

Kubernetes ile Docker arasındaki farkı Kubernetes vs Docker eğitimini okuyarak öğrenin.

GitHub Actions iş akışına genel bakış

GitHub Actions iş akışında olanlar şunlardır:

Developer commits code + config to GitHub
               |
               v
      GitHub Actions CI (ci.yaml)
       - Builds Docker image
       - (Optional) pushes Docker image
               |
               v
     GitHub Actions CD (cd.yaml)
       - Deploys updated app/config
       - kubectl apply or helm upgrade
               |
               v
      Kubernetes Cluster UpdatedAltyapı:

1. Geliştirici Değişiklikleri İşler: Kod ve yapılandırma güncellemeleri GitHub’a itilir.
2. CI Hattı (ci.yaml):
• Docker imajını oluşturur.
• İmajı isteğe bağlı olarak konteyner kaydına iter.
• Uygulamayı doğrulamak için testleri çalıştırır.
3. CD Hattı (cd.yaml):
• Güncellenmiş uygulamayı veya yapılandırmayı dağıtır.
• kubectl apply veya helm upgrade komutlarını çalıştırarak Kubernetes manifestlerini günceller.
4. Kubernetes Kümesi Güncellenir: Küme, uygulamanın yeni sürümünü çalıştırır.

GitHub Actions kullanarak model eğitimi, değerlendirmesi, sürümleme ve dağıtımı nasıl otomatikleştireceğinizi öğrenin ve bir dosya oluşturmak için A Beginner's Guide to CI/CD for Machine Learning eğitimini izleyin.

İtme Tabanlı Bir GitOps Yaklaşımını Kullanmanın Temel Avantajları ve Tavizleri

GitHub Actions konusunda deneyiminiz varsa, itme tabanlı bir yaklaşımla GitOps metodolojisi kurmak oldukça anlaşılır olabilir. Yapmanız gereken tek şey altyapı yapılandırma dosyalarını eklemek, CI/CD hatlarını kurmak ve hazırsınız. Ancak bu yaklaşım basit olsa da, göz önünde bulundurulması gereken birkaç önemli taviz vardır.

Avantajlar

• Basit: Bu yaklaşımı uygulamak için yalnızca GitHub Actions yeterlidir—Argo CD veya Flux gibi ek bir GitOps operatörüne gerek yoktur.
• Tek durak noktası: GitHub Actions, uygulamanızı derlemek, test etmek ve dağıtmak için tek bir platform sunarak süreci uçtan uca sadeleştirir.

Tavizler

• Gerçek anlamda çekme tabanlı değil: Argo CD gibi çekme tabanlı GitOps araçlarının aksine, bu yaklaşımda "sürekli uzlaştırma" yoktur. Bu da küme durumunun Git’teki istenen durumla otomatik olarak izlenip uzlaştırılmadığı anlamına gelir.
• Sapma tespiti yok: Biri kümedeki kaynakları manuel olarak değiştirirse, bu değişiklikler Git deposuyla eşleşecek şekilde otomatik olarak geri alınmaz. Bu durum zamanla yapılandırma sapmasına yol açabilir.
• Güvenlik: GitHub Actions’ın kümenize dağıtım yapabilmesi için küme kimlik bilgilerini GitHub secrets içinde saklamanız veya OIDC tabanlı bir kimlik doğrulama yöntemi kullanmanız gerekir. Her iki yaklaşım da güvenlik risklerinden kaçınmak için dikkatli yönetim gerektirir.

Çekme tabanlı bir modele geçiş

Projeniz ölçeklendikçe veya gereksinimleriniz arttıkça, çekme tabanlı bir GitOps modeline geçmek önemli avantajlar sunabilir. Ekibinizin kendini iyileştirme, sürekli uzlaştırma veya görsel bir pano gibi özelliklere ihtiyacı varsa, Argo CD veya Flux gibi çekme tabanlı bir aracı benimsemek mantıklı bir sonraki adım olabilir.

• Kendini iyileştirme: Sapma olursa küme durumlarını otomatik olarak geri döndürür.
• Sürekli uzlaştırma: Yapılandırma değişiklikleri için Git deponuzu 7/24 izler.
• Görsel pano: Uygulama durumlarını ve günlükleri kontrol etmek için.

Argo CD veya Flux gibi çekme tabanlı bir araca geçebilirsiniz. Bu araçlar deponuzu sürekli izleyerek kümenin her zaman Git’teki durumla eşleşmesini sağlar—ilk commit’ten sonra manuel “itme” adımlarına gerek kalmaz.

Sonuç

GitOps’u etkin biçimde uygulamak için küçük başlayıp teknolojilerini kademeli olarak benimsemek en iyisidir. Uygulamanızı konteynerleştirmek için basit bir Dockerfile ile başlayın ve buluta dağıtın. Ardından, otomatik dağıtım ve yönetim yoluyla ölçeklenebilirlik ve güvenilirlik sağlamak için Kubernetes’i devreye alın. 

Kendinizi rahat hissettiğinizde, GitHub Actions gibi araçlarla bulut altyapısını ve uygulama dağıtımını otomatikleştirmek için itme tabanlı bir GitOps yaklaşımı benimseyin. Son olarak, projeniz olgunlaşıp üretim düzeyinde kararlılığa ihtiyaç duyduğunda, Argo CD veya Flux gibi araçlarla çekme tabanlı bir modele geçerek sürekli uzlaştırma, sapma tespiti ve kendini iyileştirme yeteneklerine ulaşın. 

Bu adım adım ilerleyiş, modern bulut-yerel uygulamalar için GitOps’un tüm potansiyelinden yararlanırken yumuşak bir öğrenme eğrisi sağlar.

Bu blogda GitOps’u, önemini, çeşitli GitOps modellerini ve GitOps’u bir yapay zeka projesine nasıl entegre edeceğinizi inceledik. Yapay zekaya yeniyseniz, temel kavramları kapsayan, GPT-4o gibi modellere değinen ve gelişen yapay zeka dünyasında yol almanıza yardımcı olacak AI Fundamentals beceri yolunu şiddetle öneririz.