Makine Öğreniminde Hipotez Testi

Hipotez testi süreci, bir örneklem üzerinde bazı istatistiksel testler yaparak genel kitle veya veri hakkında çıkarımda bulunmak ya da bir sonuca varmaktır. Aynı türden çıkarımlar, bu eğitimde ele alacağım T-testi yoluyla farklı makine öğrenimi modelleri için de yapılır.

Bazı çıkarımlar yapabilmek için bazı varsayımlar yapmamız gerekir; bu da hipotez testinde kullanılan iki terime yol açar.

• Null hipotezi: Herhangi bir anomali deseni olmadığına dair varsayım ya da yapılan varsayıma göre inanıştır.

• Alternatif hipotez: Null hipotezinin aksine, gözlemin gerçek bir etkinin sonucu olduğunu gösterir.

P değeri

Null hipotezi veya makine öğrenimi algoritmaları için kanıt ya da anlamlılık düzeyi olarak da adlandırılabilir. Tahmin değişkenlerinin hedef üzerindeki önemini ifade eder.

Genellikle anlamlılık düzeyini %5 olarak seçeriz, ancak bazı durumlarda bu da tartışma konusudur. Verinizin işleyişi hakkında güçlü bir ön bilginiz varsa, anlamlılık düzeyine siz karar verebilirsiniz.

Buna karşılık, bir makine öğrenimi modelinde bağımsız bir değişkene karşı p-değeri 0,05’ten küçükse, bu değişken dikkate alınır; yani hedefle heterojen bir ilişki vardır, bu da faydalıdır ve makine öğrenimi algoritmaları tarafından öğrenilebilir.

Hipotez testine dahil adımlar aşağıdaki gibidir:

• Bir null hipotezi varsayın; genellikle makine öğrenimi algoritmalarında hedef ile bağımsız değişken arasında anomali olmadığı varsayılır.

• Bir örneklem toplayın

• Test istatistiğini hesaplayın

• Null hipotezini kabul mü yoksa reddetme mi kararı verin

Test ya da T istatistiğinin hesaplanması

T istatistiğini hesaplamak için bir senaryo oluşturalım.

Diyelim ki, ürettiği her konteynerin ağırlığının ne eksik ne fazla 1000 kg olduğunu iddia eden bir nakliye konteyneri üreticisi var. Böyle iddialar pek güven vermez, bu yüzden veri toplayıp bir örneklem oluştururuz.

30 konteynerlik bir örneklem topladıktan sonra, konteynerlerin ortalama ağırlığının 990 kg olduğunu ve standart sapmanın 12,5 kg olduğunu bulduk.

Test istatistiğini şöyle hesaplarız:

T = (Ortalama - İddia)/ (Standart sapma / Örneklem Büyüklüğü^(1/2))

Tüm değerleri yerine koyduğumuzda sonuç -4,3818 çıkar.

Şimdi 0,05 anlamlılık düzeyi ve serbestlik derecesi için t değerini hesaplarız.

Not: Serbestlik Derecesi = Örneklem Büyüklüğü - 1

T tablosuna göre değer -1,699 olacaktır.

Karşılaştırma sonrası, üretilen istatistiğin istenen anlamlılık düzeyine ait istatistikten daha küçük olduğunu görebiliriz. Dolayısıyla yapılan iddiayı reddedebiliriz.

t değerini scipy kütüphanesinin stats sınıfındaki stats.t.ppf() işlevini kullanarak hesaplayabilirsiniz.

Hatalar

Veri yetersizliği gibi nedenlerle hipotez testi tüm kitle yerine bir örneklem üzerinde yapıldığından, örneklem verisine dayanarak çıkarım yapmak hatalara yol açabilir; bu hatalar iki kısma ayrılır:

• Tip I Hata: Bu hatada, doğru olan null hipotezini reddederiz.

• Tip II Hata: Bu hatada, yanlış olan null hipotezini kabul ederiz.

Diğer Yaklaşımlar

Elimizdeki özelliklerle iki model kurmak gibi, iki modelin hipotez testine yönelik birçok farklı yaklaşım vardır. Bir model tüm özellikleri içerir, diğeri bir eksik özellik içerir. Böylece tek tek özelliklerin önemini test edebiliriz. Ancak özellikler arası bağımlılık bu tür basit yöntemleri etkiler.

Regresyon problemlerinde genellikle P değeri kuralını takip ederiz; anlamlılık düzeyini ihlal eden özellikler kaldırılır ve model yinelemeli olarak iyileştirilir.

Farklı algoritmalar için, farklı özellikler üzerinde hipotez test etmek üzere farklı yaklaşımlar mevcuttur.

Bayesçi çıkarım temelleri hakkında daha fazla bilgi edinmek isterseniz, DataCamp'in R ile Bayesçi Veri Analizi Temelleri kursunu alın.

Makine Öğrenimi Temelleri eğitimimize göz atın.