Kurs
Üretim İçin Machine Learning Modelleri Geliştirme
4 sa
9.4K
CPU’ları (Merkezi İşlem Birimleri) ve GPU’ları (Grafik İşlem Birimleri) hepimiz duymuşuzdur, peki işlemeyi nasıl ele aldıkları arasındaki farkları biliyor musunuz? Her ikisi de modern bilişim için vazgeçilmez olsa da farklı amaçlar için tasarlanmışlardır.
Bu rehberde CPU ve GPU’ların farklarını, kullanım alanlarını ve gelişen rollerini açıklayacağım.
CPU nedir?
Genellikle bilgisayarın "beyni" olarak anılan CPU, genel amaçlı hesaplama görevlerini yürüten merkezi birimdir. Karmaşık, sıralı talimatları yönetmek için optimize edilmiştir ve uygulamaların çalıştırılmasından işletim sistemine kadar bilişimin neredeyse her yönünü içerir. Uygulamalar tarayıcınızdan sohbet programlarına ve e-postaya kadar her şeyi kapsar.
CPU’lar, aritmetik işlemler gerçekleştirme, mantık temelli kararları yürütme ve veri akışını kontrol etme gibi hassasiyet ve güvenilirlik gerektiren görevlerde oldukça iyidir.
Temel Von Neumann mimarisi. Görsel: Yazar.
Modern CPU’lar genellikle birden fazla çekirdeğe sahiptir; bu da aynı anda birkaç görevi yerine getirmelerine olanak tanır (GPU’larla karşılaştırıldığında daha küçük ölçekte olsa da). Ayrıca görev yürütme sırasında verimliliği artırmak ve gecikmeyi azaltmak için hyper-threading ve önbellek hiyerarşileri gibi gelişmiş teknolojileri barındırırlar.
Bir CPU nasıl çalışır
CPU’lar görevleri sıralı olarak işler; bu süreç, getir (fetch), çöz (decode), yürüt (execute) ve depola (store) adımlarını içeren bir komut döngüsünü izler. Bu adım adım yaklaşım yüksek hassasiyet ve güvenilirlik sağlar; bu da CPU’ları veritabanı sorguları, kod derleme ve karmaşık simülasyonlar gibi tek iş parçacıklı görevler için ideal kılar.
Modern CPU’lar belirli ölçüde çoklu görev yapabilse de asıl güçleri, doğruluk ve sıranın hayati olduğu karmaşık hesaplamaları yönetebilme yeteneklerinde yatar.
CPU’lar ayrıca, verilerin bozulmasına veya mantıksal hatalara yol açmadan hesaplama yapabilmek için sağlam hata yönetim mekanizmalarına sahiptir.
CPU’ların özellikleri
CPU’lar, yüksek saat hızlarına sahip az sayıda çekirdekle karakterize edilir. Her çekirdek aynı anda bir veya birkaç iş parçacığına odaklanır; bu da onları büyük işlem gücü ancak sınırlı paralellik gerektiren görevler için son derece verimli kılar.
CPU’ların temel özellikleri şunlardır:
- Saat hızı: GHz cinsinden ölçülür; bir çekirdeğin saniyede kaç çevrim gerçekleştirebileceğini belirler ve tek iş parçacıklı görevlerde performansı doğrudan etkiler.
- Önbellek belleği: CPU’larda sık erişilen verileri depolayan tümleşik önbellekler (L1, L2 ve L3) bulunur; bu sayede RAM’den veri getirme süresi kısalır.
- Komut setleri: CPU’lar (x86 gibi) karmaşık komut setleri kullanarak matematiksel hesaplamalardan multimedya işlemeye kadar geniş bir görev yelpazesini yerine getirir.
Hassasiyetleri ve çok yönlülüklerine rağmen CPU’lar, büyük makine öğrenimi modellerinin eğitimi veya yüksek çözünürlüklü grafiklerin işlenmesi gibi yoğun paralel iş yüklerini verimli biçimde ele alma konusunda sınırlıdır. Bu tür görevlerde, GPU gibi uzmanlaşmış işlemciler genellikle öne çıkar. Bir sonraki bölümde bunun neden böyle olduğuna bakalım.
GPU nedir?
GPU, paralel işlemeyi veya aynı anda birden çok bilgi yığınına işlem uygulamayı gerektiren görevler için optimize edilmiş özel bir işlemcidir.
GPU’lar başlangıçta video oyunları ve görsel uygulamalar için görüntü oluşturmayı yönetmek üzere geliştirildi; ancak zamanla veri bilimi, makine öğrenimi, kripto para madenciliği ve bilimsel simülasyonlar dahil olmak üzere çeşitli alanlarda kullanılan güçlü araçlara dönüştü. Büyük miktarda veriyi paralel olarak işleyebilme yetenekleri, onları yüksek performanslı hesaplama ve yapay zeka geliştirme için kritik hale getirdi.
Bir GPU nasıl çalışır
GPU’larda, basit görevleri bağımsız olarak yürütebilen binlerce küçük çekirdek bulunur; bu da onları paralel iş yükleri için ideal kılar.
Hassasiyet ve sıraya odaklanan CPU’ların aksine GPU’lar, büyük problemleri daha küçük görevlere böler, bunları paralel olarak işler ve sonuçları birleştirir. Bu mimari, aynı talimatların büyük veri kümeleri üzerinde tekrarlı olarak uygulandığı işlemlerde GPU’ların mükemmelleşmesini sağlar.
Örneğin bir görüntü işlenirken, GPU her bir pikseli eşzamanlı işlem için ayrı bir çekirdeğe atar ve işlemi önemli ölçüde hızlandırır. Makine öğreniminde ise bu paralellik, veri yığınlarının işlenmesini ve matris çarpımları gibi hesaplamaların birçok çekirdekte aynı anda yapılmasını sağlayarak eğitimi hızlandırır.
Modern GPU’lar ayrıca NVIDIA GPU’larında bulunan Tensor Core’lar gibi, yapay zeka görevlerini hızlandırmak üzere tasarlanmış özel birimler içerir; bu da onları sinir ağı eğitimi gibi işler için daha da verimli kılar.
GPU’ların özellikleri
Özetle, GPU’ları ayırt eden özellikler şunlardır:
- Çekirdek sayısı: Bir GPU binlerce çekirdeğe sahip olabilir; bu sayede kapsamlı paralel iş yüklerini kaldırabilir. Bu çekirdekler tek tek bir CPU çekirdeğinden daha az güçlü olsa da birleşik çıktıları çok büyüktür.
- Saat hızı: GPU’ların saat hızları CPU’lara kıyasla daha düşüktür. Bu ödün, bir yonga üzerine daha fazla çekirdek sığdırılmasına olanak tanır ve tek iş parçacıklı performans yerine işlem hacmini (throughput) öne çıkarır.
- Bellek bant genişliği: GPU’lar, paralel işlemenin veri yoğun taleplerini karşılamak için yüksek bant genişlikli bellekle (GDDR6 veya HBM gibi) donatılmıştır.
- Ölçeklenebilirlik: Modern GPU’lar çoklu-GPU kurulumlarını destekler; görevler birden fazla GPU’ya dağıtılarak daha yüksek performans elde edilir.
CPU ve GPU Arasındaki Farklar
Şimdi CPU ve GPU’lar arasındaki belirli farklara daha yakından bakalım. Daha önce bahsettiğimiz önemli bir fark seri ve paralel hesaplama idi; ancak bunun dışında da önemli farklar var.
Mimari ve tasarım
CPU’lar, tek iş parçacıklı ve sıralı işlem için optimize edilmiş, daha az sayıda ama daha güçlü çekirdeklerle üretilir. Bu çekirdekler gelişmiş kontrol birimleri, daha büyük önbellekler (L1, L2 ve bazen L3) ve x86-64 veya ARM gibi gelişmiş komut setleri desteğine sahiptir.
Buna karşılık GPU’lar, paralel görevleri ele almak üzere tasarlanmış çok büyük sayıda küçük çekirdeğe sahiptir. Bu çekirdekler, aynı işlemin eşzamanlı olarak birden çok veri noktasına uygulandığı Tek Komut, Çoklu Veri (SIMD) modelinde çalışır.
GPU ve CPU mimarisinin bir karşılaştırması. Görsel kaynak.
Performans ve verimlilik
Tahmin edebileceğiniz gibi mimarideki farklar doğrudan performansı etkiler.
CPU’lar yüksek saat hızları ve gelişmiş komut işleme yetenekleriyle, yüksek hassasiyet ve mantıksal işlemler gerektiren düşük gecikmeli görevlerde mükemmeldir. Örnekler arasında işletim sistemi yönetimi, veritabanı sorguları ve uygulama iş parçacıklarının çalıştırılması yer alır. CPU’lar aynı zamanda daha çok yönlüdür ve komut çözme ve dallanma kestirimi (branch prediction) yetenekleri sayesinde farklı iş yükleri arasında verimli biçimde geçiş yapabilir.
Belirtildiği gibi, GPU’lar paralelliğin kilit olduğu görevlerde öne çıkar. Birden çok veri akışını eşzamanlı işleyebilme yetenekleri, video kodlama, bilimsel simülasyonlar ve sinir ağı eğitimi gibi yüksek hacimli işlemler için vazgeçilmezdir. Örneğin derin öğrenmede GPU’lar, matris çarpımları ve geri yayılımı hızlandırarak CPU’lara kıyasla eğitim sürelerini ciddi ölçüde azaltır.
Ödün, iş yükünün doğasında yatar: CPU’lar sıralı görevlerde GPU’lardan üstündür; GPU’lar ise veri yoğun, paralel görevlerde baskındır.
Güç tüketimi
GPU’lar, yüksek çekirdek sayıları ve yoğun paralel işleme talepleri nedeniyle genellikle daha fazla güç tüketir; CPU’ların ise güç gereksinimleri daha düşüktür.
Üst düzey bir GPU, özellikle makine öğrenimi modellerinin eğitimi veya 4K grafiklerin işlenmesi gibi yoğun işlemler sırasında yük altında birkaç yüz watt tüketebilir. Ayrıca, yüksek bellek bant genişliği gereksinimleri güç çekişini daha da artırır.
CPU’lardaki dinamik voltaj ve frekans ölçekleme (DVFS), düşük güç durumları (C-state’ler) ve verimli soğutma mekanizmaları gibi özellikler, performans ile güç tüketimini etkili biçimde dengelemeyi sağlar. Bu da CPU’ları, dizüstü bilgisayarlar ve mobil cihazlar gibi daha uzun pil ömrü veya daha düşük ısıl çıktı gerektiren aygıtlar için daha uygun kılar.
Maliyet ve bulunabilirlik
CPU’lar tüketici cihazlarında yaygın olarak bulunur ve genellikle daha uygundur. Geniş kullanım alanları ve pazar doygunluğu, onları tüketiciler için nispeten düşük maliyetli kılar. Giriş seviyesi CPU’lar 100 doların altında olabilirken, sunucu veya iş istasyonları için yüksek performanslı modeller binlerce dolara çıkabilir.
GPU’lar, özellikle yüksek performanslı modeller, daha pahalıdır ve genellikle iş istasyonlarında, oyun sistemlerinde ve yüksek performanslı hesaplama ortamlarında bulunur. Oyun için tüketici sınıfı GPU’lar 200 ila 1.000 dolar arasında değişebilirken, NVIDIA’nın A100’ü veya AMD’nin Instinct serisi gibi veri merkezleri veya bilimsel araştırmalar için özelleşmiş GPU’lar on binlerce dolara mal olabilir.
Aşağıdaki tablo, CPU ve GPU’ların ayrıntılı bir karşılaştırmasını sunar; böylece farklarını bir bakışta görmek kolaylaşır:
|
CPU (Central Processing Unit) |
GPU (Graphics Processing Unit) |
|
|
Birincil işlev |
Sıralı görevler için genel amaçlı işleme |
Paralel işleme ve veri yoğun görevler için özelleşmiştir |
|
Mimari |
Tek iş parçacıklı performans için optimize edilmiş, daha az sayıda güçlü çekirdek |
Paralellik için optimize edilmiş, binlerce daha küçük ve basit çekirdek |
|
İşleme modeli |
Seri yürütme: görevler teker teker işlenir |
Paralel yürütme: birden fazla görev eşzamanlı işlenir |
|
Çekirdek sayısı |
Tüketici sınıfı CPU’larda tipik olarak 4–64 çekirdek |
Yüksek performanslı GPU’larda binlerce çekirdek olabilir |
|
Saat hızı |
Daha yüksek saat hızları (yaklaşık 5 GHz’e kadar) |
Daha düşük saat hızları (~1–2 GHz) |
|
Güçlü yönler |
Hassasiyet, sıralı görevler, çok yönlülük ve mantık işlemleri |
Matris matematiği gibi geniş ölçekli işlemler için yüksek işlem hacmi |
|
Kullanım alanları |
İşletim sistemlerini çalıştırma, uygulama mantığı, veritabanları |
Grafik oluşturma, makine öğrenimi, bilimsel hesaplama |
|
Güç tüketimi |
Daha az çekirdek ve enerji verimli tasarımlar nedeniyle daha düşük |
Yoğun çekirdekler ve bellek bant genişliği gereksinimleri nedeniyle daha yüksek |
|
Bellek bant genişliği |
Daha düşük, tipik olarak gecikmeye optimize |
Daha yüksek, işlem hacmine optimize (ör. GDDR6, HBM bellek) |
|
Maliyet |
Görece uygun fiyatlı ve yaygın olarak bulunur |
Daha pahalı, özellikle yüksek performanslı modeller |
|
Uygulamalar |
Dizüstü bilgisayarlar, masaüstleri, sunucular, mobil cihazlar |
Oyun sistemleri, iş istasyonları, HPC ortamları, yapay zeka iş yükleri |
|
Esneklik |
Çeşitli görevler için geniş uyumluluk |
Paralellik gerektiren belirli iş yükleri için optimize |
CPU Kullanım Alanları
CPU’lar için daha belirli bazı kullanım alanlarını kısaca ele alalım:
- Genel amaçlı bilişim: CPU’lar, internette gezinme, üretkenlik uygulamaları kullanma ve bilgisayarı günlük işler için kullanma gibi günlük görevler için idealdir. Bilgisayarınızın iş yükünün büyük kısmı CPU’ya dayanır.
- Tek iş parçacıklı uygulamalar: Belirli finansal hesaplamalar gibi tek iş parçacıklı işlem gerektiren görevler CPU’lar için daha uygundur. Diğer tek iş parçacıklı uygulamalar arasında kelime işlemciler, tarayıcılar ve müzik uygulamaları sayılabilir.
- İşletim sistemi yönetimi: CPU’lar temel sistem süreçlerini yönetir; girdileri, çıktıları ve sistemin sorunsuz çalışmasını sağlayan arka plan görevlerini kontrol eder.
GPU Kullanım Alanları
GPU’lara özgü bazı kullanım alanlarını kısaca gözden geçirelim:
- Grafik ve video işleme: GPU’lar yüksek kaliteli grafikler oluşturmak üzere tasarlanmıştır; bu da onları oyun, video düzenleme ve grafik yoğun uygulamalarda vazgeçilmez kılar. Bu, makale boyunca belirttiğim paralel işleme yetenekleri sayesinde mümkün olur. Yoğun grafikli birçok oyunu takılma veya sorun olmadan oynayabilmek için yeterince güçlü bir GPU gerekir.
- Makine öğrenimi ve yapay zeka: GPU’lar, makine öğrenimi modellerini eğitmek ve büyük veri kümelerini hızla işlemek için sıklıkla kullanılır; böylece yapay zeka algoritmalarının yüksek performans ihtiyaçlarını karşılar. Hesaplamaların hacmi nedeniyle özellikle sinir ağlarını kullanan projelerde gereklidirler. Birçok hesaplama paralel yapılabildiği için GPU’lar, karmaşık makine öğreniminin kritik bir bilesenidir.
- Veri bilimi ve bilimsel hesaplama: GPU’lar, veri biliminde büyük ölçekli hesaplamaları ve matris işlemlerini hızlandırabilir; bu da onları veri yoğun analizler ve simülasyonlar için değerli kılar. Tensör hesaplama, görüntü analizi ve evrişim katmanları gibi işlemler büyük hesaplama gücü gerektirir. Örneğin, Polars sorgu hızlandırma için bir GPU motoru sunar.
CPU ve GPU’ların Geleceği
Hem CPU’lar hem de GPU’lar güç ve karmaşıklık bakımından büyümeye devam ediyor! Gelecekleri, hesaplama yeteneğinde artışa ve yaygın kullanıma işaret ediyor.
CPU’lar daha fazla çekirdeğe uyum sağlıyor
CPU’lar, modern çoklu görev ihtiyaçlarını karşılamak için çekirdek sayılarını artırıyor. Bu, seri hesaplama yeteneklerini geliştirirken çoklu iş parçacığıyla bir miktar paralel hesaplama da sunar.
CPU geliştirmesindeki bazı eğilimler şunlardır:
- Artan çekirdek sayıları: Tüketici sınıfı CPU’lar artık sıklıkla 8–16 çekirdek sunarken, sunucu sınıfı işlemciler 64 veya daha fazla çekirdeğe sahip olabilir. Bu, eşzamanlı çoklu iş parçacığı (SMT) ve hyper-threading gibi teknolojilerle paralel hesaplama yeteneklerini artırır.
- Heterojen mimariler: Intel’in Alder Lake serisi veya ARM’ın big.LITTLE tasarımı gibi modern CPU’lar, güç tüketimi ve görev performansını en iyi duruma getirmek için yüksek performanslı çekirdekleri enerji verimli çekirdeklerle birleştirir.
- Uzman birimlerle entegrasyon: CPU’lar, belirli iş yüklerindeki performansı artırmak için yapay zeka çıkarım motorları veya grafik işlem birimleri gibi hızlandırıcıları doğrudan yonga üzerine entegre etmeye giderek daha fazla yöneliyor.
Genel amaçlı hesaplama için GPU gelişimi
GPU’lar, genel amaçlı görevleri ele alacak şekilde evriliyor ve veri yoğun işlemler için giderek daha çok yönlü hale geliyor. NVIDIA ve AMD gibi üreticiler, GPU’ların grafik dışındaki uygulamalardaki kullanımını genişletmek için (ör. CUDA, ROCm) donanımdan bağımsız yazılım ekosistemlerine yatırım yapıyor.
Birçok makine öğrenimi paketi artık GPU’ları kullanabiliyor. TensorFlow ve PyTorch gibi çerçeveler artık yerel olarak GPU hızlandırmasını destekliyor ve hesaplama sürelerini dramatik biçimde azaltıyor.
Uzmanlaşmış işlem birimleri
İşlemenin geleceği sadece CPU ve GPU’larla sınırlı değil. TPU’lar (Tensor İşlem Birimleri) ve NPU’lar (Nöral İşlem Birimleri) gibi uzmanlaşmış işlemcilerin yükselişi, göreve özel donanıma yönelik artan talebi yansıtıyor:
- Tensor İşlem Birimleri (TPU): Google tarafından geliştirilen TPU’lar, özellikle sinir ağı hesaplamalarını hızlandırmak için tasarlanmıştır. GPU’lardan farklı olarak TPU’lar matris ağırlıklı işlemlere odaklanır ve büyük ölçekli yapay zeka görevleri için optimize edilmiştir. Daha fazla sorunuz varsa, TPU’lar ve GPU’lar hakkındaki makaleyi okuyun.
- Nöral İşlem Birimleri (NPU): Mobil cihazlarda ve uç bilişimde bulunan NPU’lar, görüntü tanıma, konuşma işleme ve doğal dil anlama gibi yapay zeka ile ilgili görevleri minimum güç tüketimiyle gerçekleştirmek üzere tasarlanmıştır.
- FPGA ve ASIC gelişmeleri: Alan Programlanabilir Kapı Dizileri (FPGA) ve Uygulamaya Özel Tümleşik Devreler (ASIC), kripto para madenciliği, ağ paket işleme ve gerçek zamanlı analitik gibi belirli uygulamalara göre özelleştirilebilme yetenekleriyle de ilgi görüyor.
Sonuç
CPU’lar ve GPU’lar, bilişime kendilerine özgü güçlü yönleriyle katkı sağlar: CPU’lar genel amaçlı ve hassas görevlerde, GPU’lar ise paralel işleme ve veri yoğun iş yüklerinde öne çıkar. Bu farkları anlamak, veri bilimcilerin, oyuncuların ve profesyonellerin donanım seçimlerini bilinçli şekilde yapmalarına yardımcı olur.
GPU’ların derin öğrenme modellerini nasıl güçlendirdiğini keşfetmek istiyorsanız, PyTorch ile Derin Öğrenmeye Giriş kursuna göz atın. Yapay zeka teknolojileri ve uygulamaları hakkında daha geniş bir anlayış için AI Fundamentals öğrenim yolunda kapsamlı bir genel bakış bulabilirsiniz. Makine öğreniminin arkasındaki mekaniklere daha derinlemesine dalmak için Understanding Machine Learning kursunu inceleyin.
Günlük bilgisayar görevleri için bir GPU, CPU’nun yerini alabilir mi?
CPU ve GPU’yu birlikte ne zaman kullanmalıyım?
Makine öğrenimi ve yapay zekada neden CPU’lar yerine GPU’lar kullanılıyor?
Belirli görevler için CPU ve GPU dışında uzmanlaşmış işlemciler var mı?
Konular
