Kurs
Machine Learning'i Anlamak
2 sa
313.8K
Bir ay süren Veri Açıklanıyor serimizin son yazısına hoş geldiniz. Veri Okuryazarlığı Ayı kapsamında, bu seri veri dünyasındaki temel kavramları netleştirdi ve sormaya çekindiğiniz sorulara yanıt aradı. Baştan başlamak isterseniz, serimizin ilk yazısını okuyun: Bir Veri Kümesi Nedir?
Bu yazıda, önceki yazının temasını sürdürecek, yapay zekânın muhtemel zararlı etkilerini, belirli insan gruplarına karşı önyargıyı nasıl pekiştirebileceğini ve herkesin farkında olması gereken farklı yapay zekâ yanlılığı türlerini tartışacağız.
Yapay Zekâ Yanlılığının Sorunu
Bugün çoğu yapay zekâ sistemi makine öğreniminden yararlanır. Makine öğrenimi, tanımı gereği, geçmiş verilerden örüntüler öğrenmek ve gelecekteki olaylara ilişkin tahminler yapmak için ileri düzey istatistiksel teknikler uygular.
Makine öğreniminin yaygınlaşması, yanlı tahminlerin arttığı vakaların hızla yükselmesine yol açtı. Yanlı yapay zekâ algoritmaları, yapay zekâ topluluğunda ciddi bir endişe kaynağıdır ve model eğitiminde kullanılan verilerin bir ürünüdür. Yanlılık pek çok biçimde ortaya çıkabilir—toplumsal ya da yapısal olabilir ve belirli bir cinsiyete, ten rengine, dine veya milliyete yönelik olabilir.
Sonuç olarak, yapay zekâ algoritmaları insan yargılarını taklit etmeye çalışırken eğitim verilerinden yanlılıkları da öğrenir. Geçmişte yanlı yapay zekâ tahminlerinin toplumu ve insanlığı olumsuz etkilediği birkaç örneği yeniden hatırlayalım:
Cinsiyet Yanlılığı: Amazon’un İşe Alım Motoru
Amazon, işe alım sürecinde mülakat için özgeçmiş taramasını otomatikleştiren bir motor geliştirdi. Ancak algoritma, geçmiş verilerden öğrendiği yanlılığı yansıttı ve yalnızca erkek adayların profillerini seçti.
Irksal Yanlılık: PredPol Algoritması
PredPol, yani Öngörücü Polislik, yüksek suç etkinliğine sahip alanların ısı haritasını oluşturdu ve azınlıkların yoğun olduğu bölgeleri sıcak nokta olarak belirledi. Algoritma, bu tür bölgelerden bildirilen çok sayıda olaydan oluşan yanlı girdilerle eğitildi.
Irksal Yanlılık: COMPAS Algoritması
Alternatif Yaptırımlar için Islah Edilen Suçlu Yönetimi Profillemesi (COMPAS) yazılımı, bir suçlunun tekrar suç işleme olasılığını değerlendirmek için kullanıldı. Ancak, 2016’daki bir soruşturmanın parçası olarak algoritmanın yanlı olduğu belirlendi. Yazılım, siyah sanıkları beyazlara kıyasla yeniden suç işlemeye daha yatkın olarak etiketledi.
Yukarıdaki örneklerden görüldüğü üzere, makine öğrenimi algoritmaları eğitim verilerindeki düzenliliklerin yanı sıra yanlılığı da öğrenir. Kaynağında ele alınmadığı sürece yanlılık, YZ/ML boru hatlarında çeşitli biçimlerde kendini gösterebilir. Yapay zekâ kuruluşlarda ve toplumda daha yaygın hale geldikçe, herkes yapay zekâ sistemlerinin farklı yanlılık türlerinin farkında olmalıdır. Aşağıda yapay zekâdaki en yaygın üç yanlılık türü yer alıyor.
Yapay Zekâda Üç Yaygın Yanlılık Türü
Önyargı Yanlılığı (Prejudice bias)
Eğitim verileri mevcut önyargıları, klişeleri ve toplumsal kabulleri yansıttığında, bu yanlılıklar öğrenilen modele gömülür; buna Önyargı yanlılığı denir. Örneğin “doktor” araması yaptığınızda, sonuçlarda çoğunlukla erkek doktorların görselleri çıkar. Buna karşılık, “hemşire” aramasında kadın hemşire görselleri ağırlıktadır. Bu durum, toplumsal cinsiyete dayalı kalıpyargılar hakkında çok şey anlatır.
Örnek Seçim Yanlılığı
Örnek seçim yanlılığı, eğitim verileri incelenen kitleyi temsil etmediğinde ortaya çıkar. Buna yapay zekâ sistemlerinin cilt kanserini tespit etmek üzere eğitildiği örnek verilebilir. Orijinal veri kümesi daha geniş nüfusu temsil etmiyorsa, bu sistem veri kümesinde yetersiz temsil edilen bir grup için daha kötü performans gösterecektir.
Ölçüm Yanlılığı
Ölçüm yanlılığı, veri toplama veya ölçüm sürecindeki bir hatadan kaynaklanır. Örneğin, bir görüntü tanıma sistemine veri sağlayan kameradan elde edilen görüntüler düşük kalitedeyse, bu durum belirli nüfuslara karşı yanlı sonuçlara yol açabilir. Başka bir örnek insan yargısından gelebilir. Örneğin, bir tıbbi tanı algoritması, gerçek semptomlar yerine doktor ziyaretleri gibi vekil ölçütlere dayanarak hastalık olasılığını tahmin edecek şekilde eğitilebilir.
Sorumlu Yapay Zekâ için Veri Okuryazarlığı Geliştirmek
Bu ay boyunca, bireyler ve kurumlar için veri okuryazarlığının önemini vurguladık. Veri okuryazarlığı, teknik olmayan paydaşların veri ve yapay zekâ uzmanlarıyla aynı dili konuşmasını ve yapay zekâ sistemlerinin sınırlamalarını anlamasını sağlar. Daha da önemlisi, konu uzmanları ile YZ uzmanları arasında, bir yapay zekâ sisteminin potansiyel zararları üzerine düşünceli bir tartışmaya olanak tanıyan çift yönlü bir iletişimi teşvik eder.
Bu konuşmalar için gerekli bilgiyle donanmak adına Makine Öğrenimini Anlamak kursumuzu alın ve veri okuryazarlığı yolculuğunuza başlayın. Daha fazla veri okuryazarlığı ve Veri Açıklanıyor içeriği için şu kaynaklara göz atın:
Konular
