Kurs
Python'da Unsupervised Learning
4 sa
185.3K
SVM heyecan verici bir algoritmadır ve kavramları nispeten basittir. Sınıflandırıcı, veri noktalarını en büyük marja sahip bir hiper düzlem kullanarak ayırır. Bu yüzden bir SVM sınıflandırıcısı ayrımcı sınıflandırıcı olarak da bilinir. SVM, yeni veri noktalarını sınıflandırmaya yardımcı olan optimal bir hiper düzlem bulur.
Bu eğitimde aşağıdaki konuları ele alacaksınız:
- Destek Vektör Makineleri
- Nasıl çalışır?
- Kernel'ler
- Scikit-learn ile sınıflandırıcı oluşturma
- Hiperparametre Ayarlama
- Avantajlar ve Dezavantajlar
Kursumuzdaki bu videoda Scikit-learn ile Destek Vektör Makineleri hakkında izleyin ve daha fazla bilgi edinin.
Destek Vektör Makineleri
Genel olarak Destek Vektör Makineleri bir sınıflandırma yaklaşımı olarak kabul edilir, ancak hem sınıflandırma hem de regresyon problemlerinde kullanılabilir. Birden çok sürekli ve kategorik değişkeni kolayca ele alır. SVM, farklı sınıfları ayırmak için çok boyutlu bir uzayda bir hiper düzlem inşa eder. SVM, hatayı en aza indirmek için kullanılan optimal hiper düzlemi yinelemeli bir şekilde üretir. SVM'nin temel fikri, veri kümesini sınıflara en iyi şekilde bölen maksimum marjinal hiper düzlemi (MMH) bulmaktır.
Destek Vektörleri
Destek vektörleri, hiper düzleme en yakın olan veri noktalarıdır. Bu noktalar, marjları hesaplayarak ayırıcı çizgiyi daha iyi tanımlar. Sınıflandırıcının kurulumu için en ilgili noktalar bunlardır.
Hiper Düzlem
Hiper düzlem, farklı sınıf üyeliklerine sahip bir nesne kümesini birbirinden ayıran karar düzlemidir.
Marj
Marj, en yakın sınıf noktaları üzerindeki iki çizgi arasındaki boşluktur. Bu, çizgiden destek vektörlerine veya en yakın noktalara olan dik uzaklık olarak hesaplanır. Sınıflar arasındaki marj daha büyükse iyi bir marj, daha küçükse kötü bir marj olarak kabul edilir.
SVM nasıl çalışır?
Ana amaç, verilen veri kümesini mümkün olan en iyi şekilde ayırmaktır. Her iki taraftaki en yakın noktalar arasındaki mesafeye marj denir. Amaç, verilen veri kümesindeki destek vektörleri arasındaki marjı mümkün olduğunca maksimize eden bir hiper düzlem seçmektir. SVM, aşağıdaki adımlarla maksimum marjinal hiper düzlemi arar:
-
Sınıfları en iyi şekilde ayıran hiper düzlemler üretin. Sol taraftaki şekilde siyah, mavi ve turuncu olmak üzere üç hiper düzlem gösterilmektedir. Burada mavi ve turuncu daha yüksek sınıflandırma hatasına sahiptir, ancak siyah olan iki sınıfı doğru şekilde ayırmaktadır.
-
Sağ taraftaki şekilde gösterildiği gibi, her iki taraftaki en yakın veri noktalarından en fazla ayrımı sağlayan doğru hiper düzlemi seçin.
Doğrusal olmayan ve ayrılamayan düzlemlerle başa çıkma
Bazı problemler, aşağıdaki şekilde (sol tarafta) gösterildiği gibi doğrusal bir hiper düzlem kullanılarak çözülemez.
Böyle bir durumda, SVM girdiyi sağda gösterildiği gibi daha yüksek boyutlu bir uzaya dönüştürmek için bir kernel hilesi kullanır. Veri noktaları x ekseni ve z ekseninde çizilir (Z, x ve y'nin kareleri toplamıdır: z=x^2=y^2). Artık bu noktaları doğrusal bir ayrımla kolayca ayırabilirsiniz.
SVM Kernel'leri
SVM algoritması pratikte bir kernel kullanılarak uygulanır. Kernel, bir girdi veri uzayını gerekli forma dönüştürür. SVM, kernel hilesi adı verilen bir teknik kullanır. Burada kernel, düşük boyutlu bir girdi uzayını daha yüksek boyutlu bir uzaya dönüştürür. Başka bir deyişle, daha fazla boyut ekleyerek ayrılamayan bir problemi ayrılabilir hale getirir diyebilirsiniz. Doğrusal olmayan ayrım problemlerinde en kullanışlı olandır. Kernel hilesi, daha doğru bir sınıflandırıcı oluşturmanıza yardımcı olur.
- Doğrusal Kernel Doğrusal bir kernel, verilen herhangi iki gözlem için normal noktasal çarpım olarak kullanılabilir. İki vektör arasındaki çarpım, her bir girdi değeri çiftinin çarpımlarının toplamıdır.
K(x, xi) = sum(x * xi)
- Polinom Kernel Polinom kernel, doğrusal kernelin daha genelleştirilmiş bir biçimidir. Polinom kernel, eğrisel veya doğrusal olmayan girdi uzayını ayırt edebilir.
K(x,xi) = 1 + sum(x * xi)^d
Burada d, polinomun derecesidir. d=1, doğrusal dönüşüme benzer. Derece, öğrenme algoritmasında elle belirtilmelidir.
- Radyal Tabanlı Fonksiyon Kernel Radyal tabanlı fonksiyon (RBF) kernel, destek vektör makinesi sınıflandırmasında yaygın olarak kullanılan popüler bir kernel fonksiyonudur. RBF, bir girdi uzayını sonsuz boyutlu bir uzaya eşleyebilir.
K(x,xi) = exp(-gamma * sum((x – xi^2))
Burada gamma 0 ile 1 arasında bir parametredir. Daha yüksek gamma değeri, eğitim veri kümesini mükemmel şekilde uydurur ve bu da aşırı uyuma neden olur. Gamma=0.1 iyi bir varsayılan değer olarak kabul edilir. Gamma değeri, öğrenme algoritmasında elle belirtilmelidir.
Scikit-learn ile Sınıflandırıcı Oluşturma
Şimdiye kadar SVM'nin teorik arka planını öğrendiniz. Şimdi Python'da scikit-learn kullanarak nasıl uygulanacağını öğreneceksiniz.
Model kurma kısmında, çok ünlü bir çok sınıflı sınıflandırma problemi olan kanser veri kümesini kullanabilirsiniz. Bu veri kümesi, bir meme kitlesinin ince iğne aspirasyonu (FNA) ile dijitalleştirilmiş bir görüntüsünden elde edilmiştir. Görüntüde bulunan hücre çekirdeklerinin özelliklerini açıklarlar.
Veri kümesi 30 özelliğe (ortalama yarıçap, ortalama doku, ortalama çevre, ortalama alan, ortalama pürüzsüzlük, ortalama sıkılık, ortalama içbükeylik, ortalama içbükey noktalar, ortalama simetri, ortalama fraktal boyut, yarıçap hatası, doku hatası, çevre hatası, alan hatası, pürüzsüzlük hatası, sıkılık hatası, içbükeylik hatası, içbükey noktalar hatası, simetri hatası, fraktal boyut hatası, en kötü yarıçap, en kötü doku, en kötü çevre, en kötü alan, en kötü pürüzsüzlük, en kötü sıkılık, en kötü içbükeylik, en kötü içbükey noktalar, en kötü simetri ve en kötü fraktal boyut) ve bir hedefe (kanser türü) sahiptir.
Bu verilerde iki tip kanser sınıfı vardır: malign (zararlı) ve benign (zararsız). Burada kanser türünü sınıflandırmak için bir model oluşturabilirsiniz. Veri kümesi scikit-learn kütüphanesinde mevcuttur veya UCI Makine Öğrenmesi Kütüphanesi'nden de indirebilirsiniz.
Bu eğitimdeki kodu çevrimiçi olarak çalıştırın ve düzenleyin
Kodu çalıştır
