Evrişimli Sinir Ağları Nedir? Kapsamlı CNN Rehberi

CNN'lerin önemi

CNN'lerin modern dünyada önemli olmasının birkaç nedeni vardır; aşağıda öne çıkan başlıkları bulabilirsiniz:

• CNN'ler, SVM ve karar ağaçları gibi klasik makine öğrenimi algoritmalarından, geniş ölçekte özellikleri kendi kendine çıkarabilme becerileriyle ayrılır; bu sayede elle özellik mühendisliğine gerek kalmaz ve verimlilik artar.

• Evrişim katmanları, CNN'lere öteleme değişmezliği özelliklerini kazandırır; böylece konum, yönelim, ölçek veya ötelemedeki farklılıklara bakılmaksızın veriden desen ve özellikleri tanımlayıp çıkarabilirler.

• VGG-16, ResNet50, Inceptionv3 ve EfficientNet gibi çeşitli önceden eğitilmiş CNN mimarileri, üst düzey performans sergilemiştir. Bu modeller, ince ayar olarak bilinen bir süreçle nispeten az veriye ihtiyaç duyarak yeni görevlere uyarlanabilir.

• Görüntü sınıflandırmanın ötesinde, CNN'ler doğrudan dil işleme, zaman serisi analizi ve konuşma tanıma gibi farklı alanlarda da uygulanabilecek kadar çok yönlüdür.

CNN'lerin Ardındaki İlham ve İnsan Görsel Sistemiyle Paralellikler

Evrişimli sinir ağları, insan görsel korteksinin katmanlı mimarisinden ilham almıştır; aşağıda bazı temel benzerlikler ve farklılıklar yer almaktadır:

Birincil görsel korteksle ilişkili alanlar ile evrişimli sinir ağındaki katmanlar arasındaki karşılıklılığın görseli (kaynak)

• Hiyerarşik mimari: Hem CNN'ler hem de görsel korteks, erken katmanlarda basit özelliklerin çıkarıldığı, derin katmanlarda ise daha karmaşık özelliklerin inşa edildiği hiyerarşik bir yapıya sahiptir. Bu, görsel girdilerin giderek daha gelişmiş temsillerini mümkün kılar.
• Yerel bağlantılılık: Görsel korteksteki nöronlar tüm görsel alana değil, yalnızca girdinin yerel bir bölgesine bağlanır. Benzer şekilde, bir CNN katmanındaki nöronlar, evrişim işlemi yoluyla girdi hacminin yalnızca yerel bir bölgesine bağlanır. Bu yerel bağlantılılık verimliliği artırır.
• Öteleme değişmezliği: Görsel korteks nöronları, özellikleri görsel alandaki konumlarından bağımsız olarak algılayabilir. CNN'lerdeki havuzlama katmanları, yerel özellikleri özetleyerek belli bir düzeyde öteleme değişmezliği sağlar.
• Çoklu özellik haritaları: Görsel işlemenin her aşamasında pek çok farklı özellik haritası çıkarılır. CNN'ler, her evrişim katmanında birden fazla filtre haritası kullanarak bunu taklit eder.
• Doğrusal olmayanlık: Görsel korteksteki nöronlar doğrusal olmayan tepki özellikleri sergiler. CNN'ler, her evrişimden sonra uygulanan ReLU gibi aktivasyon işlevleriyle doğrusal olmayanlık elde eder.

CNN'ler insan görsel sistemini taklit eder ancak daha basittir; karmaşık geri besleme mekanizmalarından yoksundurlar ve gözetimsiz yerine gözetimli öğrenmeye dayanırlar. Bu farklara rağmen bilgisayarla görmede büyük ilerlemeler sağlamışlardır.

Bir CNN'in Temel Bileşenleri

Evrişimli sinir ağı dört ana bölümden oluşur.

Peki CNN'ler bu parçalarla nasıl öğrenir?

Bu bileşenler, CNN'lerin insan beyninin görüntülerdeki desen ve özellikleri tanıma biçimini taklit etmesine yardımcı olur:

• Evrişim katmanları
• Düzeltimli Doğrusal Birim (kısaca ReLU)
• Havuzlama katmanları
• Tam bağlı katmanlar

Bu bölümde, el yazısı bir rakamın sınıflandırılması örneği üzerinden bu bileşenlerin her birinin tanımına değineceğiz.

Rakam tanımada uygulanan CNN mimarisi (kaynak)

Evrişim katmanları

Bu, bir CNN'in ilk yapı taşıdır. Adından da anlaşılacağı gibi, gerçekleştirilen temel matematiksel işlem evrişimdir; bu, bir görüntüyü temsil eden piksel matrisine kayan pencere işlevinin uygulanmasıdır. Matrisi taramak için uygulanan bu kayan işlev çekirdek veya filtre olarak adlandırılır; iki terim birbirinin yerine kullanılabilir.

Evrişim katmanında, eşit boyutta birkaç filtre uygulanır ve her filtre, görüntüden belirli bir deseni tanımak için kullanılır; örneğin rakamların kıvrımı, kenarlar, rakamların tüm şekli ve daha fazlası.

Basitçe söylemek gerekirse, evrişim katmanında görüntü üzerinde hareket eden küçük ızgaralar (filtre veya çekirdek denir) kullanırız. Her küçük ızgara, fotoğraftaki çizgiler, eğriler veya şekiller gibi belirli desenleri arayan küçük bir büyüteç gibidir. Fotoğraf üzerinde hareket ettikçe, bu desenleri bulduğu yerleri vurgulayan yeni bir ızgara oluşturur.

Örneğin bir filtre düz çizgileri bulmada iyi olabilir, bir diğeri eğrileri bulabilir vb. Birkaç farklı filtre kullanarak CNN, görüntüyü oluşturan tüm farklı desenler hakkında iyi bir fikir edinir.

32x32 boyutunda, gri tonlamalı el yazısı bir rakam görüntüsünü ele alalım. Matristeki değerler, sadece örneklemek amacıyla verilmiştir.

Girdi görüntüsü ve piksel gösteriminin görseli

Ayrıca, evrişimde kullanılan çekirdeği de ele alalım. Boyutu 3x3 olan bir matristir. Çekirdeğin her bir elemanının ağırlıkları ızgarada gösterilmiştir. Sıfır ağırlıklar siyah, birler beyaz hücrelerle temsil edilmiştir.

Bu ağırlıkları elle bulmamız gerekiyor mu?

Gerçek dünyada, çekirdeklerin ağırlıkları sinir ağının eğitim sürecinde belirlenir.

Bu iki matrisi kullanarak, noktasal çarpım uygulayarak evrişim işlemini şu şekilde gerçekleştirebiliriz:

1. Çekirdek matrisini sol üst köşeden sağa doğru uygularız.
2. Eleman bazında çarpma yaparız.
3. Çarpımların değerlerini toplarız.
4. Ortaya çıkan değer, evrişmiş matrisin ilk değerine (sol üst köşe) karşılık gelir.
5. Çekirdeği, kayan pencerenin boyutuna göre aşağı kaydırırız.
6. Görüntü matrisi tamamen taranana kadar 1'den 5'e kadar olan adımları tekrarlarız.

Evrişmiş matrisin boyutu, kayan pencerenin boyutuna bağlıdır. Kayan pencere büyüdükçe boyut küçülür.

3x3 çekirdekle adım 1 kullanılarak evrişim uygulaması

Literatürde çekirdekle ilişkilendirilen bir diğer ad da özellik algılayıcıdır; çünkü ağırlıklar, girdi görüntüsündeki belirli özellikleri tespit edecek şekilde ince ayar yapılabilir.

Örneğin:

• Komşu pikselleri ortalama alan bir çekirdek, girdi görüntüsünü bulanıklaştırmak için kullanılabilir.
• Komşuları çıkaran bir çekirdek, kenar tespiti yapmak için kullanılır.

Ağda ne kadar çok evrişim katmanı varsa, katmanlar o kadar soyut özellikleri tespit edebilir.

Aktivasyon işlevi

Her evrişim işleminin ardından bir ReLU aktivasyon işlevi uygulanır. Bu işlev, ağın görüntüdeki özellikler arasındaki doğrusal olmayan ilişkileri öğrenmesine yardımcı olur; böylece farklı desenleri tanımada ağı daha yetkin kılar. Ayrıca sönümlenen gradyan sorunlarını hafifletmeye yardımcı olur.

Havuzlama katmanı

Havuzlama katmanının amacı, evrişmiş matristen en anlamlı özellikleri çekmektir. Bu, öznitelik haritasının (evrişmiş matrisin) boyutunu azaltan bazı toplulaştırma işlemleri uygulanarak yapılır; böylece ağı eğitirken kullanılan bellek azaltılır. Havuzlama, aşırı öğrenmeyi hafifletmek açısından da önemlidir.

Uygulanabilecek en yaygın toplulaştırma işlevleri şunlardır:

• Maksimum havuzlama: özellik haritasındaki maksimum değer
• Toplam havuzlama: özellik haritasındaki tüm değerlerin toplamı
• Ortalama havuzlama: tüm değerlerin ortalaması

Aşağıda, önceki örneklerin her biri için bir görsel yer almaktadır:

2x2 filtre ve adım 2 ile maksimum havuzlama uygulaması

Ayrıca, havuzlama işlevi uygulandıkça özellik haritasının boyutu küçülür.

Son havuzlama katmanı, özellik haritasını düzleştirir; böylece tam bağlı katman tarafından işlenebilir hale gelir.

Tam bağlı katmanlar

Bu katmanlar, evrişimli sinir ağının son bölümünde yer alır ve girdileri, son havuzlama katmanı tarafından üretilen düzleştirilmiş tek boyutlu matrise karşılık gelir. Doğrusal olmayanlık için bunlara ReLU aktivasyon işlevleri uygulanır.

Son olarak, olası çıktı etiketlerinin her biri için olasılık değerleri üretmek üzere bir softmax tahmin katmanı kullanılır ve nihai tahmin etiketi, en yüksek olasılık değerine sahip olandır.

CNN'lerde Aşırı Öğrenme ve Düzenlileştirme

Aşırı öğrenme, makine öğrenimi modellerinde ve CNN derin öğrenme projelerinde yaygın bir sorundur. Model, eğitim verilerini gürültü ve aykırı değerleriyle birlikte aşırı derecede ezberlediğinde ortaya çıkar. Bu tür bir öğrenme, eğitim verilerinde iyi, ancak yeni ve görülmemiş verilerde kötü performans gösteren modellere yol açar.

Bu durum, modelin eğitim verilerinde doğrulama veya test verilerine kıyasla belirgin şekilde daha yüksek doğruluk elde etmesiyle gözlenebilir; aşağıda buna ilişkin bir grafiksel gösterim verilmiştir:

Eksik öğrenme ve Aşırı öğrenme

Özellikle Evrişimli Sinir Ağları (CNN'ler) gibi derin öğrenme modelleri, yüksek karmaşıklık kapasiteleri ve büyük ölçekli verilerde ayrıntılı desenleri öğrenebilme yetenekleri nedeniyle aşırı öğrenmeye karşı daha hassastır.

CNN'lerde aşırı öğrenmeyi hafifletmek için uygulanabilecek çeşitli düzenlileştirme teknikleri vardır; bazıları aşağıda gösterilmiştir:

CNN'lerde aşırı öğrenmeyi hafifletmek için 7 strateji

• Dropout: Eğitim sürecinde bazı nöronların rastgele devre dışı bırakılmasından oluşur; bu da kalan nöronları, girdi verilerinden yeni özellikler öğrenmeye zorlar.
• Batch normalization: Aktivasyonları ayarlayıp ölçeklendirerek girdi katmanını normalleştirir; bu da belirli ölçüde aşırı öğrenmeyi azaltır. Ayrıca eğitim sürecini hızlandırmak ve stabilize etmek için de kullanılır.
• Havuzlama katmanları: Modelin daha soyut bir temsil elde etmesi için girdi görüntüsünün uzamsal boyutlarını azaltmakta kullanılabilir; böylece aşırı öğrenme olasılığı düşer.
• Erken durdurma: Eğitim sırasında modelin doğrulama verileri üzerindeki performansını sürekli izleyip doğrulama hatası artık iyileşmediğinde eğitimi durdurmaktan oluşur.
• Gürültü enjeksiyonu: Eğitim sırasında girişlere veya gizli katmanların çıkışlarına gürültü eklenmesiyle modelin daha sağlam hale getirilmesi ve zayıf genellemeden kaçınılması amaçlanır.
• L1 ve L2 düzenlileştirme: Hem L1 hem de L2, ağırlıkların büyüklüğüne dayalı bir cezanın kayıp işlevine eklenmesinde kullanılır. Daha spesifik olarak L1, ağırlıkların seyrek olmasını teşvik ederek daha iyi özellik seçimi sağlar. Öte yandan L2 (ağırlık çürümesi olarak da adlandırılır), ağırlıkların küçük kalmasını teşvik ederek tahminler üzerindeki aşırı etkilerini önler.
• Veri artırma: Girdi görüntülerine döndürme, ölçekleme, çevirme veya kırpma gibi rastgele dönüşümler uygulayarak eğitim veri setinin boyutunu ve çeşitliliğini yapay olarak artırma sürecidir.

CNN'lerin Pratik Uygulamaları

Evrişimli Sinir Ağları, bilgisayarla görme alanını dönüştürmüş ve gerçek dünyadaki pek çok uygulamada önemli atılımlara yol açmıştır. Aşağıda nasıl uygulandıklarına dair birkaç örnek bulabilirsiniz.

CNN'lerin bazı pratik uygulamaları

• Görüntü sınıflandırma: Evrişimli sinir ağları, görüntülerin önceden tanımlı kategorilere atanması gereken sınıflandırma görevlerinde kullanılır. Bu senaryoya örnek olarak sosyal medya platformlarında fotoğrafların otomatik olarak düzenlenmesi verilebilir.
• Nesne tespiti: CNN'ler, bir görüntü içindeki birden çok nesneyi tanımlayıp konumlandırabilir. Bu yetenek, perakendede raf taramada stokta olmayan ürünleri belirlemek gibi birçok senaryoda kritik öneme sahiptir.
• Yüz tanıma: bu da CNN'lerin başlıca uygulama alanlarından biridir. Örneğin bu teknoloji, yüz özelliklerine dayalı erişim kontrolünü verimli şekilde sağlamak için güvenlik sistemlerine entegre edilebilir.

Daha uygulamalı bir kurulum için, TensorFlow ile Evrişimli Sinir Ağları (CNN) Eğitimi adlı rehberimiz, TensorFlow 2 ile Python'da CNN'lerin nasıl kurulup uygulanacağını öğretir.

Popüler CNN Mimarileri

Araştırmacılar yıllar içinde giderek daha güçlü CNN mimarileri geliştirdiler. İşte en etkili olanlardan bazıları:

• LeNet-5 (1998): El yazısı rakam tanıma için tasarlanmış ilk CNN'lerden biri.
• AlexNet (2012): ImageNet yarışmasını kazandı ve GPU eğitimiyle derin CNN'leri popülerleştirdi.
• VGGNet (2014): Küçük 3x3 filtrelere sahip daha derin ağların doğruluğu artırdığını gösterdi.
• GoogLeNet/Inception (2014): Çok ölçekli özellik çıkarımı için paralel filtre boyutlarına sahip Inception modüllerini tanıttı.
• ResNet (2015): 100+ katmanlı ağların eğitimini mümkün kılan atlama bağlantılarını (skip connections) tanıttı.
• EfficientNet (2019): Ağ derinliği, genişliği ve çözünürlüğünü dengelemek için bileşik ölçekleme kullandı.
• ConvNeXt (2022): Görüntü Dönüştürücüleriyle rekabet eden modernize bir CNN tasarımı.

2020'den bu yana Vision Transformer'lar (ViT) güçlü alternatifler olarak ortaya çıkmış olsa da, CNN'ler verimlilikleri, daha az veri gereksinimleri ve üretim ortamlarındaki olgunlukları nedeniyle yaygın şekilde kullanılmaya devam etmektedir.

CNN'ler için Derin Öğrenme Çerçeveleri

Derin öğrenmenin hızlı büyümesi, büyük ölçüde TensorFlow, PyTorch ve Keras gibi güçlü çerçeveler sayesinde mümkün olmuştur; bu çerçeveler, evrişimli sinir ağlarının ve diğer derin öğrenme modellerinin eğitimini kolaylaştırır.

Her bir çerçeveye kısaca göz atalım.

TensorFlow

TensorFlow, Google tarafından geliştirilen ve 2015'te yayımlanan açık kaynaklı bir derin öğrenme çerçevesidir. Makine öğrenimi geliştirme ve dağıtımı için çeşitli araçlar sunar. Derin Sinir Ağlarına Giriş içeriğimiz, derin sinir ağlarını ve yapay zekânın modern derin öğrenme dünyasındaki önemlerini kapsamlı şekilde açıklar; ayrıca TensorFlow ile gerçek dünya uygulamaları sunar.

Keras

Keras, Python'da hızlı deney ve geliştirme olanağı sunan, yüksek seviyeli bir sinir ağı çerçevesidir. Açık kaynaklıdır ve TensorFlow ekosisteminde model geliştirmeyi kolaylaştırarak, TensorFlow'un resmi yüksek seviyeli API'si (sürüm 2.0'dan beri) olarak hizmet verir. Python'da Keras ile Görüntü İşleme kursumuz, evrişimli sinir ağlarını kurup eğiterek ve değerlendirerek Keras ile görüntü analizi yapmayı öğretir.

PyTorch

Meta (eski adıyla Facebook) AI Research tarafından 2017'de yayımlanan PyTorch, dinamik hesaplama grafiği, Pythonik sözdizimi ve güçlü araştırma topluluğuyla bilinen genel amaçlı bir derin öğrenme çerçevesidir. Doğal dil işlemeye dalmakla ilgileniyorsanız, PyTorch ile NLP: Kapsamlı Rehber iyi bir başlangıçtır.

Her proje farklıdır; dolayısıyla karar, belirli bir kullanım durumu için hangi özelliklerin daha önemli olduğuna bağlıdır. Daha iyi kararlar almanıza yardımcı olmak için, aşağıdaki tablo bu çerçevelerin kısa bir karşılaştırmasını sunar ve benzersiz özelliklerini vurgular.

Tensorflow, Pytorch ve Keras karşılaştırma tablosu (kaynak)

Sonuç

Bu makale, derin öğrenmede CNN'in ne olduğuna ve görüntü tanıma ile sınıflandırma görevlerindeki kritik rolüne dair kapsamlı bir genel bakış sundu.

Önce CNN tasarımında insan görsel sisteminden alınan ilhamı vurguladı, ardından bu ağların öğrenmesini ve tahmin yapmasını sağlayan temel bileşenleri inceledi.

Aşırı öğrenme sorunu, CNN'lerin genelleme yeteneği için önemli bir zorluk olarak ele alındı. Bunu hafifletmek ve CNN'lerin genel performansını iyileştirmek için çeşitli ilgili stratejiler sıralandı.

Son olarak, başlıca derin öğrenme CNN çerçevelerinden ve her birinin benzersiz özelliklerinden, ayrıca birbirleriyle nasıl karşılaştırıldıklarından bahsedildi.

Yapay zekâ ve makine öğrenimi dünyasına daha derinlemesine dalmaya istekli misiniz? PyTorch ile Derin Öğrenme kursuna bugün kaydolarak uzmanlığınızı bir üst seviyeye taşıyın.