Sorumlu Yapay Zeka Nedir? Karşılaştırmalı Bir Yaklaşım

Sorumlu Yapay Zeka Nedir?

“Sorumlu Yapay Zeka” için henüz evrensel olarak paylaşılan bir tanım yok. Bazı durumlarda güvenilir, etik, güvenli veya emniyetli yapay zeka olarak anılır. Başka yerlerde ise bunlar RAI’ın daha geniş bir kavramı içinde yer alan ilkeler ya da tamamen farklı kategoriler olarak kabul edilir.

Sorumlu, etik, güvenilir, emniyetli ve güvenli yapay zekaya yönelik artan odak, kasıtlı ya da kasıtsız potansiyel olumsuz etkilerine ilişkin yaygın endişelerden kaynaklanmaktadır.

Elektrik ve Elektronik Mühendisleri Enstitüsü (IEEE) bu endişeyi, mühendislik pratiğinde etik analizlerin geleneksel olarak dışlanmasına bağlar; güvenlik, emniyet, işlevsellik, adalet, önyargı, bağımlılık ve dolaylı toplumsal zararlarla ilgili temel etik standartlar çoğu zaman kapsam dışı görülmüştür.

Bununla birlikte, yapay zekanın toplumun ve günlük yaşamımızın her yönündeki ölçeklenebilirliği ve yaygın etkisi göz önüne alındığında, etik riskleri öngörmek ve azaltmak standart bir uygulama olmalıdır. Yeterli denetim olmadan teknolojiyi dünyaya sürmek ve sonuçları başkalarının üstlenmesine bırakmak artık kabul edilemez.

Yine de etik teori ve ilkelerden bağlama özgü, uygulanabilir pratiğe geçiş, yazılım mühendisliğinde sistematik etik etki analizinin yaygın benimsenmesinin önünde önemli bir engel olmaya devam ediyor.

Sorumlu Yapay Zekanın İlkeleri

Literatüre baktığımızda, RAI ilkelerinin epeyce geliştirildiğini ve tartışıldığını görüyoruz. Gelin her birini kısaca ele alalım.

Etik çerçeveler

Sorumlu yapay zeka, yapay zeka sistemlerinde hesap verebilirlik, sorumluluk ve şeffaflığı sağlamak için etik çerçevelerin kullanılmasını vurgular. Bu; mahremiyet, özerklik ve önyargı gibi konuların ele alınmasını içerir.

Şeffaflık ve açıklanabilirlik

Yapay zeka algoritmalarında ve karar alma süreçlerinde şeffaflık, paydaşlar arasında güven inşa etmek için kritik öneme sahiptir. Açıklanabilir Yapay Zeka (XAI), şeffaflığı ve güveni teşvik ederek yorumlanabilir ve anlaşılabilir modeller oluşturmayı amaçlar.

Önyargı ve adalet

Sorumlu yapay zeka, eşitlikçi kararları teşvik etmek için yapay zeka algoritmalarındaki önyargıları belirlemeyi ve düzeltmeyi hedefler. Bu, ayrımcı sonuçları önlemek için çeşitli ve kapsayıcı veri kümelerinin kullanılmasını içerir.

Yapay zekada önyargı hakkında daha fazla bilgi edinmek için, Dr. Joy Buolamwini ile Algoritmik Adalet İçin Mücadele podcast’ine göz atın.

Yönetişim ve düzenleme

Yapay zeka yönetişimi için standartların ve çerçevelerin geliştirilmesi, yapay zekanın sorumlu kullanımını yönlendirmek açısından esastır. Bu, bireysel araştırmacılardan devlet düzenlemelerine kadar çeşitli düzeylerde riskleri azaltmaya yönelik yapılandırılmış yaklaşımlar oluşturmayı içerir.

Sosyal ve çevresel etki

Sorumlu yapay zeka, istihdam, eşitsizlik ve kaynak tüketimi üzerindeki etkileri gibi daha geniş sosyoekonomik ve çevresel etkileri dikkate alır; kaynak kullanımına bağlı olarak haksız dijital pazarlar ya da çevresel zararlara yol açma potansiyelini de gözetir.

Adalet, güvenlik ve mahremiyet

Avrupa Komisyonu’nun çalışmaları, sorumlu yapay zekanın bileşenleri olarak adalet, güvenlik, mahremiyet, açıklanabilirlik, emniyet ve tekrarlanabilirliğin önemini vurgular.

Ahlaki ve hukuki sorumluluk

Sorumlu yapay zeka tartışmaları sıklıkla nedensel ve epistemik koşulları içeren ahlaki sorumluluğu gündeme getirir. Bu, yapay zekanın eylemlerinin sonuçlara yol açması ve faillerin ahlaki sonuçların farkında olması gerektiği anlamına gelir. Hukuki çerçeveler de yapay zeka sistemleri için hesap verebilirlik, sorumluluk ve kusurluluk kavramlarını inceler.

Paydaş katılımı

Sorumlu bir yapay zeka çerçevesi genellikle geliştiriciler, kullanıcılar ve potansiyel olarak yapay zeka sistemlerinin kendileri de dahil olmak üzere tüm paydaşların hesap verebilir tutulmasını içerir.

Akademide Sorumlu Yapay Zeka İlkelerine Alternatif Taksonomiler

Akademi içinde, en sistematik derlemelerden bazıları, yapay zeka etiği ilkelerine ilişkin bir ölçüde farklı taksonomiler üretmiştir. Örneğin, Jobin ve ark. 84 etik yönergeyi inceleyerek 11 ilke önermiştir:

• Şeffaflık
• Adalet ve hakkaniyet
• Zarar vermeme (nonmaleficence)
• Sorumluluk
• Mahremiyet
• Yarar sağlama (beneficence)
• Özgürlük ve özerklik
• Güven
• Haysiyet
• Sürdürülebilirlik
• Dayanışma

Doğal olarak, bu ilkelerin nasıl yorumlandığı ve önerilerin nasıl uygulanması gerektiği konusunda geniş bir farklılıkla karşılaşmışlardır. Ancak, beş temel ilke etrafında bir yakınsama olduğuna dair bazı kanıtlar da tespit etmişlerdir:

• Şeffaflık
• Adalet ve hakkaniyet
• Zarar vermeme (nonmaleficence)
• Sorumluluk
• Mahremiyet

Bununla birlikte, diğer savunucular, çok sayıdaki etik yapay zeka çerçevesinin yalnızca beş meta ilke altında toparlanabileceğini öne sürmektedir:

• Özerkliğe saygı
• Yarar sağlama (beneficence)
• Zarar vermeme (nonmaleficence)
• Adalet
• Açıklanabilirlik

OECD Sorumlu Yapay Zeka İlkeleri

Uluslararası kuruluşlar da politika ve uyumlaştırma amaçları doğrultusunda bu tanımların nasıl şekillendiğine ilişkin küresel tartışmaları aktif biçimde beslemektedir.

Ekonomik İşbirliği ve Kalkınma Teşkilatı (OECD)—burada Riskler ve Hesap Verebilirlik ile Olay İzleme alanlarında bir Yapay Zeka Uzmanı olarak görev yapıyorum—, güvenilir yapay zeka için kapsamlı bir ilke listesi ortaya koymuştur.

Bu ilkeler, yenilikçi, güvenilir ve insan hakları ile demokratik değerlere saygılı yapay zekanın kullanımını teşvik eder. İlk olarak 2019’da kabul edilen bu ilkeler, yeni teknolojik ve politik gelişmeler ışığında güçlü ve amaca uygun kalmaları için Mayıs 2024’te güncellenmiştir.

Bugün, Avrupa Birliği, Avrupa Konseyi, Amerika Birleşik Devletleri, Birleşmiş Milletler ve diğer yargı alanları, yasama ve düzenleyici çerçevelerinde ve rehberlerinde aşağıda yer alan OECD’nin yapay zeka sistemi ve yaşam döngüsü tanımını kullanmaktadır.

Özetle, bunların tümü değerlere dayalı ilkelerdir ve aşağıdaki kategorilerde toplanmıştır:

Kapsayıcı büyüme, sürdürülebilir kalkınma ve iyi oluş

Yapay zeka paydaşları, insan yetkinliklerini artırma ve yaratıcılığı geliştirme, yeterince temsil edilmeyen nüfusların kapsanmasını ilerletme, ekonomik, sosyal, toplumsal cinsiyet ve diğer eşitsizlikleri azaltma ve doğal çevreleri koruma gibi, insanlar ve gezegen için faydalı sonuçlar peşinde, güvenilir yapay zekanın sorumlu şekilde gözetimini proaktif biçimde üstlenmelidir. Böylece kapsayıcı büyüme, iyi oluş, sürdürülebilir kalkınma ve çevresel sürdürülebilirlik canlandırılır.

Adalet ve mahremiyet dahil, insan hakları ve demokratik değerler

Yapay zeka aktörleri, yapay zeka sisteminin tüm yaşam döngüsü boyunca hukuk devleti ilkesine, insan haklarına ve insan merkezli demokratik değerlere saygı göstermelidir. Bunlar; ayrımcılık yapmama ve eşitlik, özgürlük, haysiyet, bireylerin özerkliği, mahremiyet ve veri koruma, çeşitlilik, adalet, sosyal adalet ve uluslararası alanda tanınan çalışma haklarını içerir.

Şeffaflık ve açıklanabilirlik

Yapay zeka aktörleri, sistemleriyle ilgili şeffaflık ve sorumlu açıklama yapmayı taahhüt etmelidir. Bu amaçla, yapay zeka sistemlerinin kabiliyetleri ve sınırlamaları dahil genel bir anlayışı teşvik etmek için bağlama uygun ve güncel bilimsel seviyeye tutarlı şekilde, anlamlı bilgiler sağlamalıdır.

Sağlamlık, güvenlik ve emniyet

Yapay zeka sistemleri, normal kullanım, öngörülebilir kullanım ya da kötüye kullanım veya diğer olumsuz koşullarda uygun şekilde çalışacak ve makul olmayan emniyet ve/veya güvenlik riskleri oluşturmayacak biçimde, yaşam döngülerinin tamamı boyunca sağlam, güvenli ve emniyetli olmalıdır.

Hesap verebilirlik

Yapay zeka aktörleri, rollerine, bağlama ve güncel bilimsel seviyeye tutarlı olarak, yapay zeka sistemlerinin düzgün işleyişinden ve yukarıdaki ilkelerin gözetilmesinden sorumlu tutulmalıdır. Bu amaçla, veri kümeleri, süreçler ve yapay zeka sistemi yaşam döngüsü boyunca alınan kararlarla ilgili olmak üzere izlenebilirlik sağlamalıdırlar. Bu izlenebilirlik, bağlama uygun ve güncel bilimsel seviyeye tutarlı olarak, yapay zeka sisteminin çıktılarının analizine ve sorulara verilen yanıtlara imkân tanımalıdır.

ISO Sorumlu Yapay Zeka İlkeleri 

Öte yandan, Uluslararası Standardizasyon Kuruluşu (ISO) için, bir yapay zeka sisteminin güvenilir sayılması adına dikkate alınması gereken üç kilit alan vardır:

1. Sistemi iyi ve çeşitli verilerle beslemek
2. Algoritmaların bu çeşitliliği işleyebilmesini sağlamak
3. Ve ortaya çıkan yazılımı yanlış etiketleme veya zayıf korelasyonlar açısından test etmek

Kuruluş, bunu başarmaya yönelik şu yönergeleri sunar:

1. Çeşitli kullanıcı grupları ve kullanım senaryoları kullanarak insanlar için tasarlayın ve bu geri bildirimi yapay zekanın yaşam döngüsü boyunca ve öncesinde dahil edin.
2. Eğitim ve izlemeyi değerlendirmek için kullanıcı anketleri, genel sistem performans göstergeleri ve farklı alt gruplara göre bölünmüş yanlış pozitif ve yanlış negatif oranları dahil birden çok metrik kullanın.
3. Ham veriyi hatalar (ör. eksik veya hizasız değerler, yanlış etiketler, örnekleme), eğitim çarpıklıkları (ör. veri toplama yöntemleri veya doğuştan gelen toplumsal önyargılar) ve fazlalıklar açısından inceleyin—bunların tümü, yapay zeka sistemlerinde adalet, eşitlik ve doğruluk gibi RAI ilkelerini sağlamak açısından kritiktir.
4. Herhangi bir modelin sınırlamalarını anlayarak önyargıyı azaltın, genellemeyi geliştirin, dinamik senaryolarda güvenilir performansı sağlayın ve bunları geliştiricilere ve kullanıcılara iletin.
5. Modelinizi gerçek dünya performansı ve kullanıcı geri bildirimiyle gerektiği gibi dikkate aldığından emin olmak için sorumlu yapay zeka ilkelerine karşı sürekli test edin; böylece sorunlara kısa ve uzun vadeli çözümleri iyileştirin.

Sektör Liderlerinin Sorumlu Yapay Zekaya Bakışı

Sektör liderlerinin somut örneklerine baktığımızda, adlandırma ve taksonomilerde belirgin farklılıklar, RAI, güvenilir yapay zeka, etik yapay zeka ve operasyonları ya da uygulamaları için türetilmiş diğer yorumlar konusunda değişen anlayışlar görüyoruz.

Microsoft

Microsoft, örneğin, şu Sorumlu Yapay Zeka İlkelerini benimser:

• Adalet
• Güvenilirlik ve emniyet
• Mahremiyet ve güvenlik
• Kapsayıcılık
• Şeffaflık ve hesap verebilirlik

Apple

Öte yandan, Apple, yapay zekalarının temel değerleriyle tasarlandığını ve çığır açan gizlilik yenilikleri üzerine inşa edildiğini belirtir; hem geliştirdikleri yapay zeka araçlarını hem de bunları destekleyen modelleri yönlendirmek üzere bir Sorumlu Yapay Zeka ilke seti oluşturmuşlardır:

• Kullanıcıları akıllı araçlarla güçlendirin: Yapay zekanın sorumlu biçimde kullanılabileceği alanları belirleyerek, belirli kullanıcı ihtiyaçlarını karşılayan araçlar oluşturmak; kullanıcıların bu araçları hedeflerine ulaşmak için nasıl kullanmayı seçtiklerine saygı göstermek.
• Kullanıcıları temsil edin: Dünyanın dört bir yanındaki kullanıcıları özgün biçimde temsil etmeyi hedefleyen, derinlemesine kişisel ürünler inşa etmek; böylece yapay zeka araçları ve modelleri genelinde kalıp yargıların ve sistemik önyargıların sürdürülmesinden kaçınmak.
• Özenle tasarlayın: Tasarım, model eğitimi, özellik geliştirme ve kalite değerlendirmesi dahil sürecimizin her aşamasında, yapay zeka araçlarımızın nasıl kötüye kullanılabileceğini veya potansiyel zarara yol açabileceğini belirlemek için önlemler almak.
• Mahremiyeti koruyun: Bunu güçlü cihaz üzerinde işleme ve çığır açan altyapı aracılığıyla başararak; temel modellerini eğitirken kullanıcılarımızın kişisel gizli verilerini veya kullanıcı etkileşimlerini kullanmadıklarından emin olmak.

Nvidia

Nvidia buna güvenilir yapay zeka diyor ve yapay zekanın gizlilik ve veri koruma düzenlemelerine saygı göstermesi, güvenli ve emniyetli şekilde çalışması, şeffaf ve hesap verebilir biçimde işlemesi, istenmeyen önyargı ve ayrımcılıktan kaçınması gerektiğine inanıyor; dört temel ilkesini şu şekilde ifade ediyor:

• Mahremiyet
• Emniyet ve Güvenlik
• Şeffaflık 
• Ayrımcılık yapmama

Google

Biraz farklı olarak, Google yapay zeka uygulamaları için “Hedefler”den söz eder:

• Toplumsal açıdan faydalı olmak.
• Haksız önyargı yaratmaktan veya pekiştirmekten kaçınmak.
• Güvenlik için inşa edilmek ve test edilmek.
• İnsanlara karşı hesap verebilir olmak.
• Mahremiyet tasarım ilkelerini dahil etmek.
• Bilimsel mükemmeliyetin yüksek standartlarını sürdürmek.
• Potansiyel olarak zararlı veya suistimal edilebilir uygulamaları sınırlamak üzere bu ilkelere uygun kullanım için erişime sunulmak.

Sonuç

Sorumlu yapay zeka, güvenilir yapay zeka, etik yapay zeka, güvenli ve emniyetli yapay zekanın tam olarak neyi ifade ettiğine ve bunların bağımsız terimler mi yoksa yakınsaması mümkün kavramlar mı olduğuna dair henüz bir mutabakat yok. Ancak, bu terimlerin unsurlarının en azından teoride akademi, uluslararası kuruluşlar ve endüstride aynı temel ilkeler etrafında ortak ve paylaşılan olması sevindirici.

Genel olarak, RAI’ın; yapay zekanın geliştirilmesi, devreye alınması ve kullanımının, hem etik hem de hukuki açıdan temel insan haklarıyla uygulamada uyumlu, insan merkezli bir şekilde yapılmasını sağlamayı amaçlayan gelişmekte olan bir disiplin olduğunu söyleyebiliriz.