Son birkaç yılda, yapay zekanın kuruluşlardaki kullanımında ve etkinliğinde kayda değer bir artış yaşandı. Uygulama alanları; daha verimli ve doğru iş operasyonları için kestirimsel analitikten, dünyayla doğrudan etkileşim için makine görüşüne, teknolojiyle dili kullanarak daha etkili etkileşim kurmak için doğal dil işlemeye (NLP) kadar uzanıyor. Accenture rapor ediyor ki, ankete katılan yöneticilerin %84’ü büyüme hedeflerine ulaşmak için yapay zekadan yararlanmaları gerektiğine inanıyor.
Görece yeni ve olgunlaşmakta olan bir teknolojinin bu denli hızlı büyümesi beraberinde pek çok sorumluluğu ve etik kaygıyı getiriyor. Capgemini’nin bulgularına göre müşterilerin %70’i yapay zeka ile etkileşimlerinde şeffaflık ve adalet bekliyor. Buna ek olarak, düzenleyiciler de yapay zekada şeffaflık ve adalete ilişkin düzenlemeleri sıkılaştırmaya başlıyor. Avrupa Birliği, yapay zeka sistemlerinin zararlı etkilerini en aza indirmeyi amaçlayan bir dizi düzenleme yayımladı ve FTC, önyargılı algoritmalar satan şirketlerin peşine düşmeyi planladığını duyurdu (MIT Tech Review).
Etik kaygılardaki artış, yapay zekanın giderek daha hassas alanlarda, örneğin sağlık, yargı sistemleri ve finansta kullanılmasıyla haklı ve anlaşılır. Potansiyel etik riskler doğru şekilde ayarlanıp anlaşılmadığında, yapay zeka tarihsel önyargı ve ayrımcılığı yeniden üretebilir ve büyütebilir. Örneğin, bireyin yeniden suç işleme olasılığını tahmin ederek suçluların cezalarının belirlenmesine bilgi sağlamak için kullanılan COMPAS algoritmasını ProPublica inceledi. Siyah sanıkların, yeniden suç işlemeyecekleri hâlde işleyecekleri yönünde yanlış-pozitif öneriler alma olasılığının belirgin biçimde daha yüksek; beyaz sanıkların ise yeniden suç işleyecekleri hâlde işlemeyecekleri yönünde yanlış-negatif öneriler alma olasılığının daha yüksek olduğunu tespit ettiler.
Benzer şekilde, OpenAI’nin 175 milyar parametreli GPT-3 NLP dönüştürücü modeli, din içeren cümleler üretirken belirgin önyargılar sergilemiştir. Modelin cinsiyet ve ırk dâhil diğer gruplara yönelik önyargılar da gösterdiği, orijinal makalede tartışılmaktadır.
Yapay zeka daha yaygın hâle geldikçe, onu sorumlu şekilde kullanmak kritik önem taşıyor. Bu sistemlerin önemli ve hassas kararları bilgilendirmesine güveneceksek, önyargılı olmamaları ve tarihsel klişeler içermemeleri gerekir.
Algoritmik Önyargı Nedir?
Algoritmik önyargı haberlerde sıkça yer buluyor; erkekleri kayıran işe alım kararlarında cinsiyet önyargısı, çevrimiçi reklamların harita üzerinde “redlining” uygulamalarını yeniden üretmesi (konut ayrımcılığı) ve ırksal önyargı içeren sağlık algoritmaları gibi örneklerde görüldüğü üzere. Bu örneklerin hepsi, bir grubun model tarafından başka bir gruba kıyasla farklı muamele gördüğünü açıkça gösteriyor.
Algoritmik önyargıyı resmi olarak tanımlamak için birçok metrik vardır. Temel tanım, bir algoritmanın verideki gruplara farklı muamele etmesidir. Irk, cinsiyet, din ve hamilelik ya da gazilik durumu gibi önem verdiğimiz gruplar, korunan veya hassas nitelikler olarak adlandırılır. Bir algoritmayı incelerken, modelin zararlı etkilerine en açık olabilecek grupların hangileri olduğunu anlamak gerekir.
Bir algoritmanın önyargısını ve adilliğini belirlemek için iki kategori metrik bulunur: temsile dayalı adalet ve hataya dayalı adalet.
Temsile Dayalı Adalet
Bu metrikler, modelin farklı gruplar için ürettiği sonuçları değerlendirir. Örneğin, bir işe alım algoritması için bu metrikler, görüşmeye geri dönüş yapılan erkeklerin oranıyla kadınların oranını karşılaştırabilir.
Hataya Dayalı Adalet
Hataya dayalı adalet metrikleri, her bir grup için yapılan hata oranlarındaki farkı gözlemler. Yukarıda bahsedilen COMPAS algoritması önyargısında olduğu gibi, siyah sanıklar için yanlış-pozitif oranı diğer gruplara kıyasla belirgin biçimde daha yüksekti ve beyaz sanıklar için yanlış-negatif oranı belirgin biçimde daha düşüktü.
Algoritmik Önyargının Nedenleri
Bir algoritmadaki önyargı, altta yatan veriden kaynaklanır. Doğrusal regresyon gibi basit modeller de, dönüştürücü türü daha karmaşık modeller de tek başına önyargılı değildir; kendilerine sağlanan verilere göre çıktı üretirler. Aşağıda veride önyargıya yol açan beş neden yer almaktadır.
- Eğri dağılımlı veri kümesi: Bir veri kümesi, her grup için farklı oranlarda veri ya da her grup için farklı sayıda eğitim örneği içerebilir; bu da önyargılı model çıktılarıyla sonuçlanabilir.
- Bozulmuş örnekler: Veride güvenilmez etiketler olabilir veya tarihsel önyargı verinin içinde yer alabilir.
- Sınırlı özellikler: Toplanan özellikler, kötü veri toplama uygulamaları nedeniyle belirli gruplar için güvenilir olmayabilir ya da yeterince bilgi içermeyebilir.
- Örneklem boyutu: Yapay zeka algoritmaları küçük veri kümeleriyle iyi performans göstermekte zorlanır.
- Vekil özellikler: Bazı özellikler, korunan değişkenler veride yer almasa bile onlar hakkında bilgi sızdırabilir. Araştırmalar göstermiştir ki posta kodu, spor etkinlikleri ve bir kişinin mezun olduğu üniversite gibi değişkenler, modeli korunan değişkenler hakkında dolaylı olarak bilgilendirebilir ve bu da algoritmik önyargıya yol açabilir.
Hangi azaltma teknikleri kullanılabilir?
Artık algoritmik önyargının ne olduğu ve neden kaynaklandığı konusunda iyi bir biçimsel anlayışa sahibiz. Algoritmik önyargıyı azaltmak için iki olası yol vardır: teknik teknikler ve yapay zeka yönetişimi. Büyük olasılıkla bu iki yaklaşımın birleşimi, bir algoritmadaki önyargının varlığını azaltmada en iyi sonuçları verecektir.
Teknik Azaltma Teknikleri
Teknik yaklaşım içinde üç yöntem bulunur: eğitimden önce orijinal verideki önyargıyı azaltan ön-işleme teknikleri, model eğitimi sırasında önyargıyı azaltan eşzamanlı (in-processing) yöntemler ve tahminleri değiştirerek önyargıyı azaltan son-işleme algoritmaları.
Bu makale, giriş bölümünde literatürde kullanılan dört yaygın ön-işleme tekniğini açıklar:
- Bastırma (Suppression): Hassas bir değişkenle en çok korelasyon gösteren bir değişkeni kaldırma
- Masaj (Massaging): Girdi verisindeki ayrımcılığı gidermek için bir sıralayıcı kullanarak verideki bazı gözlemlerin etiketlerini verimli bir şekilde yeniden belirleme
- Yeniden ağırlıklandırma (Reweighting): Eğitim verisindeki her kayda ayrımcılığı giderecek şekilde ağırlıklar atama
- Örnekleme (Sampling): Her gruptan örnekleme yaparak her grubun daha dengeli bir temsilini elde etme; bunun için uniform örnekleme ya da gözlemleri çoğaltıp atlayarak tercihli örnekleme kullanılabilir.
Bu makaledeki olasılıksal formülasyon ve iki “onarma prosedürü” tanımlayan şu çalışma gibi diğer teknikler de ön-işleme aşamasında önyargıyı gidermeye yönelik iyi yöntemler sunar.
Eşzamanlı (in-processing) teknikler, eğitim sırasında önyargıyı gidermeye odaklanır. Bu teknikler tipik olarak, optimizasyon problemini etkileyen ve daha adil sonuçlara yol açan adalet kısıtlarını içerir. Eşzamanlı yöntemleri tartışan örnekler arasında, adalet kısıtlarına bakan ve adalet farkındalıklı sınıflandırmayı inceleyen çalışmalar yer alır.
Son olarak, son-işleme algoritmaları önyargıyı azaltmak için model çıktılarında değişiklik yapar. Bu algoritmalar, Pleiss ve ark. ile Hardt ve ark. çalışmalarında görüldüğü gibi ayrıcalıklı veya ayrıcalıklı olmayan gruplar için tahminleri değiştirebilir ya da karar teorisine ilişkin bu çalışmada görüldüğü gibi, algoritmanın çıktısı karar sınırına yakın olduğunda (sonuçtan daha az emin olduğunda) önyargıyı azaltabilir.
Bu tekniklerin herhangi birinde, ilgili tüm paydaşlarla, doğrulukta yaşanacak ödünler ve altta yatan veriyi veya model sonuçlarını değiştirmenin getirdiği riskler üzerine konuşmak esastır. Bu teknikler, tarihte görülmemiş ya da veride yer almayan sonuçların tahmin edilmesine yol açabilir.
Yönetişim ve Hesap Verebilirlik
Kuruluşlarda yapay zekadan yararlanmanın pek çok faydası vardır. Ancak bu blog yazısı boyunca görüldüğü gibi, yapay zeka sistemlerinin ortaya koyduğu etik riskler, itibar zedelenmesi gibi kurumsal risklere ve dolayısıyla gelir kaybına yol açabilir. Hiçbir şirket, bir müşteri ya da çalışan grubunu olumsuz etkileyen iş kararları almak için önyargılı bir algoritma kullandığını manşetlerde görmek istemez.
Doğru yapay zeka yönetişimi, kapsamlı risk yönetimiyle yürütülür. Yapay zeka kararının belirli kullanım durumu ve her paydaş için ilgili etki değerlendirmesi tanımlanmalıdır. Kullanım durumuyla ilişkili potansiyel parasal ve insani riskleri anlamak önemlidir. Her bir riskin büyüklüğü her paydaş için doğru şekilde değerlendirildiğinde, bu sonuçların gerçekleşme olasılığı hesaplanmalıdır.
Yapay zeka yönetişimi için en iyi uygulamalar; paydaşlar için kapsamlı kontrol listeleri, otomatik ve manuel testler, iş standartlarına uyum testleri, ayrıntılı raporlar ve modelden doğrudan sorumlu kişi ve grupların beyanlarını içerir. Daha fazla ayrıntı için mutlaka teknik raporumuzu indirin.
Sorumlu Yapay Zeka Veri Okuryazarlığına Dayanır
Kuruluşlarda sorumlu yapay zekayı ölçeklendirmek, kuruluş içinde veri okuryazarlığının geliştirilmesini gerektirir. Başarılı yapay zeka yönetişimi, tek bir çerçevede bir araya gelen ve bunu benimseyen birden fazla paydaşı içerir. Projelerin kapsamını, nasıl devreye alındıklarını ve yönetildiklerini, etkilerini ve potansiyel risklerini anlamak; tüm paydaşlar için sorumlu yapay zekanın bir gereğidir. Accenture, veri okuryazarlığının güven inşa ettiğini ve farklı bakış açılarını sürece dahil ederek tutarlı şekilde daha iyi sonuçlar üreten sorumlu yapay zekayı mümkün kıldığını savunur.
Bir kuruluşta temel veri okuryazarlığı artırıldığında, yapay zeka sistemleriyle düzenli olarak çalışmayan konu uzmanları da uzmanlıklarını bu sistemlere dahil edebilir ve teknik paydaşlarla daha etkili şekilde iletişim kurabilir. Bu gelişmiş iletişim, süreçte yer alan tüm paydaşlar için kuruluş genelinde daha fazla güven sağlar.
Bir kuruluşta sorumlu yapay zekayı teşvik etmek için veri okuryazarlığının önemli yönleri şunları anlamayı içerir: veri bilimi ve makine öğrenimi iş akışı, farklı veri rolleri, verinin kuruluş içindeki akışı, çeşitli yapay zeka sistemleri türleri arasındaki ayrımlar ve makine öğrenimi modelleri için değerlendirme metrikleri.
Sorumlu Yapay Zekayı Ölçeklendirmek İçin Temel Veri Okuryazarlığını Artırın
Bir kuruluşta tüm paydaşların eğitilmesi, sorumlu yapay zekayı teşvik etmek için gereklidir. Algoritmik önyargıyla ilişkili risklerden kaçınmak, kuruluşların iş bağlamlarında yapay zekadan yararlanmanın sunduğu çok sayıdaki faydadan başarıyla yararlanabilmesi için zorunludur. Veri okuryazarlığı; paydaşlar arası başarılı iletişimin, kurum içi güvenin ve sorumlu yapay zeka için keşfedilecek çeşitli çözümlerin anahtarıdır. AB, düzenleyiciler için yapay zeka becerileri ve veri okuryazarlığına güçlü vurgu yaparak Yetenek Gündemi’ne €1,1 trilyon ayırıyor; bu da bu araçların kuruluşlardaki önemini ortaya koyuyor. Veri okuryazarlığının temellerini öğreten pek çok program bulunmaktadır. Veri okuryazarlığının sorumlu yapay zekayı nasıl besleyebileceğine dair daha fazla bilgi için — en yeni teknik raporumuza göz atın.
