Ünlü Amerikalı matematikçi Samuel S. Wilks, HG Wells’in Mankind in the Making adlı kitabını yeniden ifade ederek, yetmiş yılı aşkın bir süre önce meşhur bir şekilde "İstatistiksel düşünme bir gün okuma yazma kadar etkili bir vatandaşlık için gerekli olacaktır" demişti. Bu ifade bir nebze abartılı olsa da, istatistiğin önemine dair verdiği mesaj günümüzün bilgi çağında hâlâ geçerliliğini koruyor.
Görsel Kaynağı: American Statistical Association
Teknolojinin hızla ilerlemesi ve eşi benzeri görülmemiş inovasyonla birlikte, makine öğrenmesi ve Üretken Yapay Zekâ sahnenin merkezine yerleşti. Bu gelişmeler, kişisel yaşamlarımızı derinden etkiledi ve geniş ölçekte veri odaklı karar almayı kolaylaştırdı.
Bu öncü teknolojiler etrafındaki tüm heyecanın arasında, istatistik makine öğrenmesindeki sayısız atılımın temel taşı olmaya devam ediyor. İstatistik, verinin özünden ayrı düşünülemez; o veri de etrafımızı saran tüm bu heyecan verici yeni teknolojilerin temelidir.
İstatistiksel Makine Öğrenmesi Nedir?
Adından da anlaşılacağı gibi istatistiksel makine öğrenmesi, veriden öğrenebilen ve tahmin ya da kararlar verebilen modeller geliştirmek için istatistiksel tekniklerin kullanılmasını içerir.
Özünde, istatistiksel makine öğrenmesi makine öğrenmesi algoritmalarının hesaplama verimliliği ve uyarlanabilirliğini istatistiksel çıkarım ve modelleme yetenekleriyle birleştirir. Denetimli, denetimsiz ve yarı denetimli öğrenme gibi teknik terimleri duymuş olabilirsiniz – bunların hepsi sağlam bir istatistiksel temele dayanır.
İstatistiksel yöntemleri kullanarak karmaşık veri kümelerinden anlamlı kalıplar, ilişkiler ve içgörüler çıkarabilir, böylece makine öğrenmesi algoritmalarının etkinliğini artırabiliriz.
Makine Öğrenmesinde İstatistiğin Rolü
Temelde istatistiğin, makine öğrenmesi algoritmalarının üzerinde inşa edildiği teorik çerçeveyi sağladığını söyledim. Şimdi, aralarındaki farklara ve nasıl bir araya geldiklerine biraz daha yakından bakmak istiyorum.
İstatistik; veriyi toplamamızı, analiz etmemizi, yorumlamamızı, sunmamızı ve düzenlememizi sağlayan bilimdir. Kalıpları ve eğilimleri anlamamız, veriye dayalı çıkarımlar ve tahminler yapmamız için bir araç seti sunar. Büyük veri kümeleriyle uğraşırken istatistik, veriyi anlamamıza ve özetlememize yardımcı olur; karmaşık kalıpları anlamlandırmamızı sağlar.
Makine öğrenmesi ise veriden öğrenerek kararlar veya tahminler yapmayı mümkün kılan güçlü bir araçtır. Nihai hedef, zamanla uyum sağlayıp gelişebilen ve belli örneklerden daha genel durumlara genelleme yapabilen modeller oluşturmaktır.
İşte istatistik ile makine öğrenmesinin birleşiminin güzelliği burada ortaya çıkar. Makine öğrenmesinin yapısını ayakta tutan sütunlar istatistiğin ilkeleridir.
- Makine öğrenmesi modellerini kurmak: İstatistik, makine öğrenmesinde modeller oluşturmak için metodolojileri ve ilkeleri sağlar. Örneğin doğrusal regresyon modeli, katsayıları tahmin etmek için en küçük kareler istatistiksel yönteminden yararlanır.
- Sonuçları yorumlamak: İstatistiksel kavramlar, makine öğrenmesi modellerinin ürettiği sonuçları yorumlamamıza olanak tanır. p-değeri, güven aralıkları, R-kare ve benzeri ölçüler, modelin performansına ilişkin istatistiksel bir bakış sunar.
- Modelleri doğrulamak: Makine öğrenmesi modellerini doğrulamak ve iyileştirmek için istatistiksel teknikler gereklidir. Örneğin, hipotez testi, çapraz doğrulama ve önyükleme gibi teknikler model performansını nicelleştirmemize ve aşırı uyum gibi sorunlardan kaçınmamıza yardımcı olur.
- İleri teknikleri temellendirmek: Sinir Ağları gibi daha karmaşık bazı makine öğrenmesi algoritmalarının özünde de istatistiksel ilkeler vardır. Bu modelleri eğitmek için kullanılan gradyan inişi gibi optimizasyon teknikleri istatistik kuramına dayanır.
Sonuç olarak istatistiği sağlam bir şekilde anlamak, makine öğrenmesi modellerini daha iyi kurmamızı ve doğrulamamızı sağlamanın yanı sıra, çıktılarını anlamlı ve kullanışlı biçimde yorumlamamıza da imkân tanır.
Makine öğrenmesiyle yakından ilişkili bazı temel istatistiksel kavramlara bir göz atalım. Bu kavramlar hakkında daha fazla bilgiyi uygulamalı olarak edinmek için Python ile İstatistik Temelleri yetkinlik yolumuzu inceleyebilirsiniz.
Olasılık
Olasılık kuramı, belirsizliği modellemek ve olasılıksal tahminler yapmak için temel sağladığından makine öğrenmesinde son derece önemlidir. Farklı sonuçların, olayların ya da sadece sayısal değerlerin gerçekleşme olasılığını nasıl niceleriz? İşte olasılık bunun için vardır! Ayrıca, olasılık dağılımları makine öğrenmesinde özellikle önemlidir ve tüm sihri mümkün kılar.
Yaygın olarak kullanılan bazı dağılımlar arasında Gauss (Normal), Bernoulli, Poisson ve Üstel dağılımlar bulunur. Olasılık kurallarına hızlı başvuru için kullanışlı bir olasılık ipucu kâğıdımız var.
Betimsel istatistik
Betimsel istatistik, veri kümelerinin özelliklerini ve niteliklerini anlamamızı sağlar. Veriyi özetlemeye ve görselleştirmeye, kalıpları belirlemeye, aykırı değerleri tespit etmeye ve sonraki modelleme ile analizleri şekillendiren ilk içgörüleri edinmeye yardımcı olur.
Betimsel istatistik ipucu kâğıdımız bu kavramları öğrenmenize yardımcı olabilir
Merkezi eğilim ölçüleri
Ortalama, medyan ve mod, bir veri kümesinin merkezi ya da temsilî değerlerine ilişkin değerli içgörüler sunar. Makine öğrenmesinde, eksik değerlerin tamamlanmasına yardımcı olmak ve olası aykırı değerleri belirlemek suretiyle veri ön işleme sürecinde katkı sağlarlar.
Özellik mühendisliği sırasında, model performansını etkileyen tipik ya da en sık görülen değerleri yakalamada da işimize yararlar.
Varyans ve standart sapma
Varyans ve standart sapma, veri noktalarının merkezi eğilim etrafındaki yayılımını ya da saçılımını niceler. Makine öğrenmesinde veri tutarlılığına ve değişkenliğine işaret ederler.
Bu ölçüler, sınırlı öngörü gücüne sahip özellikleri belirlemek için özellik seçimi ya da boyut indirgeme amaçlarıyla kullanılabilir.
Ayrıca, tahminlerin ya da artıkların değişkenliğini analiz ederek model performansını değerlendirmeye yardımcı olur; farklı algoritmaların değerlendirilmesini ve karşılaştırılmasını kolaylaştırır.
Yayılım ölçüleri
Aralık, çeyrekler arası aralık ve yüzdelikler, veri değerlerinin dağılımına dair içgörüler sunan yayılım ölçüleridir. Özellikle aykırı değer tespitinde değerlidirler; model eğitimi ve tahminleri üzerinde büyük etkisi olabilecek aykırı değerleri belirlemeye ve ele almaya yardımcı olurlar. Verinin daha iyi algoritma performansı için dönüştürülmesi veya normalize edilmesi gerektiği durumlarda bu ölçüler yol gösterici olabilir.
Örnekleme
Makine öğrenmesi modelleri, örneklenmiş veriler üzerinde eğitilir. Örnekler dikkatle seçilmezse, modellerimizin güvenilirliği belirsizleşir. İdeal olan, daha büyük popülasyonlardan temsil gücü yüksek veri alt kümeleri seçmektir.
Uygun örnekleme tekniklerini kullanmak, makine öğrenmesi modellerinin çeşitli ve önyargısız veriler üzerinde eğitilmesini sağlayarak teknolojinin etik ve sorumlu kullanımını da destekler.
Bu güçlü beceri hakkında daha fazla bilgi edinmek için Python’da Örnekleme kursumuza göz atın.
Tahmin
Tahmin teknikleri, örnek veriye dayanarak bilinmeyen anakütle parametrelerini belirlemek için makine öğrenmesinde kritik öneme sahiptir. Model parametrelerini tahmin etmemizi, model performansını değerlendirmemizi ve görülmemiş veriler hakkında tahminlerde bulunmamızı sağlarlar.
Makine öğrenmesinde en yaygın kullanılan tahmin yöntemi, olasılık fonksiyonunu en büyükleyen parametre kestirimini bulan En Çok Olabilirlik (ML) tahminidir.
Hipotez testi
Hipotez testi, makine öğrenmesi görevlerinde ilişkilerin ya da farklılıkların önemini değerlendirmek için sistematik bir yaklaşım sunar. Varsayımların geçerliliğini sınamamıza, modelleri karşılaştırmamıza ve mevcut kanıtlara dayanarak istatistiksel olarak anlamlı kararlar almamıza olanak tanır.
Çapraz doğrulama
Çapraz Doğrulama (CV), bir algoritmanın performansını ve genelleme hatasını değerlendirmek için makine öğrenmesinde kullanılan bir istatistiksel tekniktir. Birincil amacı, modelin eğitim verisinde iyi performans gösterip görülemeyen verilere genelleşememesi durumu olan aşırı uyumu önlemektir.
Veri kümesini birden çok alt kümeye bölerek ve modeli farklı kombinasyonlar üzerinde yinelemeli olarak eğitip değerlendirerek, ÇD algoritmanın görülmemiş veriler üzerindeki performansına dair daha güvenilir bir tahmin sunar.
Popüler İstatistiksel Makine Öğrenmesi Teknikleri
Bu karmaşık istatistiksel kavramlar, etkili makine öğrenmesi algoritmalarına giden ilk adımlardır. Şimdi en popüler makine öğrenmesi modellerinden bazılarını inceleyelim ve istatistiğin bu olağanüstü yeteneklerin elde edilmesine nasıl yardımcı olduğunu görelim.
Doğrusal regresyon
Doğrusal regresyon, istatistik literatüründe sıkça karşımıza çıkan bir terimdir; ancak bundan fazlasıdır. Aynı zamanda, bağımlı değişken ile bir veya birden fazla bağımsız değişken arasındaki bağlantıyı yakalayan bir denetimli öğrenme algoritması olarak görülür.
İstatistik, katsayıları tahmin etmede, hipotez testleri yürütmede ve ilişkilerin önemini değerlendirmede yardımcı olarak değerli içgörüler ve veriyi daha derin anlama sağlar. Konuyu daha ayrıntılı keşfetmek için Python’da doğrusal regresyonun temelleri rehberimizi ya da R ile Regresyona Giriş kursumuzu inceleyin.
Lojistik regresyon
Tıpkı doğrusal regresyonda olduğu gibi, lojistik regresyon da bağımsız değişkenlere dayanarak kategorik sonuçların olasılığını tahmin eden istatistiksel bir sınıflandırma algoritmasıdır. Lojistik bir fonksiyon uygulayarak belirli bir sınıfın gerçekleşmesini tahmin eder.
Lojistik ve doğrusal regresyon
Karar ağaçları
Karar ağaçları, veriyi özelliklere göre bölen ve sınıflandırma ya da regresyon için ağaç benzeri bir yapı oluşturan çok yönlü algoritmalardır. Sezgiseldirler, yorumlanabilirdirler ve kategorik ile sayısal veriyi işleyebilirler.
Gini safsızlığı veya bilgi kazancı gibi istatistik temelli ölçümler genellikle ağaç oluşturma süreci boyunca dallanmaları yönlendirmek için kullanılır.
Python’da Karar Ağacı Sınıflandırması hakkında ayrı bir rehberimiz var; ayrıca R kullanarak Makine Öğrenmesinde Karar Ağaçlarını da keşfedebilirsiniz.
Rastgele orman
Rastgele Orman, birden çok karar ağacını bir araya getirerek tahmin doğruluğunu artıran bir topluluk (ensemble) öğrenme yöntemidir. Ağaçları kurmak için özelliklerin ve verinin rastgele alt kümelerini seçmek üzere örnekleme kullanır. Tek tek ağaçların tahminleri daha sonra birleştirilerek nihai tahmin yapılır.
Bu algoritma, çeşitlilik kazandırdığı ve aşırı uyumu azalttığı için güçlü bir seçimdir. Çeşitliliğin katılması, çok çeşitli veri kalıplarını yakalayan daha sağlam ve kapsamlı bir model sunarken, aşırı uyumun azaltılması modelin görülmemiş verilere iyi genelleşmesini sağlar ve öngörü analitiği için güvenilir, doğru bir araç hâline getirir.
Makine öğrenmesinde bu istatistik tekniğinin nasıl ve ne zaman kullanılacağını ele alan ayrı bir rastgele orman sınıflandırması rehberimiz var.
Rastgele orman sınıflandırmasına bir örnek
Destek vektör makineleri (SVM)
SVM, sınıflandırma ve regresyon görevlerinde kullanılabilen güçlü bir algoritmadır. İstatistiksel ilkeleri kullanarak farklı veri noktası grupları arasında bir sınır oluşturur ve onları ayırt etmeyi kolaylaştırır. Bu sınırı eniyileyerek SVM hata yapma olasılığını azaltır ve genel doğruluğu artırır.
Hem Python’da scikit-learn ile destek vektör makinelerini hem de R’de SVM’leri keşfeden rehberlerimiz mevcut.
En yakın k komşu (KNN)
KNN, veri noktalarını en yakın komşularının çoğunluk oyuna göre sınıflandırmak için kullanılan basit ama etkili bir algoritmadır. Hem sınıflandırma hem de regresyon problemleri için uygundur ve eğitim gerektirmez.
KNN’de, veri noktaları arasındaki yakınlığı belirlemek için istatistiksel ölçüler kullanılır ve bu sayede en yakın komşular tespit edilir. Daha sonra, en yakın komşuların çoğunluk oyu hedef değişkenin sınıflandırılması veya tahmini için kullanılır.
Yine, KNN kavramını daha ayrıntılı olarak scikit-learn ile En Yakın Komşular Sınıflandırması rehberimizde keşfedebilirsiniz.
Son Düşünceler
Teknolojinin ilerlediği ve veri odaklı kararların öne çıktığı bu heyecan verici dönemde, istatistiği sağlam bir şekilde kavramak makine öğrenmesi becerilerimizi geliştirmek için paha biçilmezdir. İstatistiğin temellerine inerek, makine öğrenmesinin gerçek potansiyelini açığa çıkaracak kapıyı aralarız.
İster yeni başlıyor olun ister deneyimli bir profesyonel, istatistiksel makine öğrenmesinin büyüleyici dünyasını daha fazla keşfetmek için bugün öğrenme yolculuğunuza Python ile İstatistik Temelleri ve Python ile Makine Öğrenmesi Temelleri yollarıyla başlayın!
Kaynaklar
- All of Statistics (A Concise Course in Statistical Inference), Larry Wasserman
- The Elements of Statistical Learning, Jerome H. Friedman, Robert Tibshirani ve Trevor Hastie
