YZ bir kişiymiş gibi davranır. Sizinle bir ilişkisi varmış gibi davranır. Yoktur. Ve bu sosyal güvendir. Aynı şekilde telefonunuza, arama motorunuza, e-posta sağlayıcınıza güvenirsiniz. Bu bir araçtır ve tüm bunlar gibi oldukça güvenilmez bir araçtır. Değil mi? Telefonunuz, e-posta sağlayıcınız, sosyal ağ platformunuz. Hepsi sizi gözetler, değil mi? Hepsi sizin çıkarlarınıza aykırı çalışır. Benim endişem YZ’nin de aynı olacağı; YZ’nin temelde büyük, kâr amaçlı şirketlerin kontrolünde olduğudur.
Bruce Schneier, Security Technologist
AB Yapay Zeka Yasası’nın Temel Hükümleri
AB Yapay Zeka Yasası’nın başlıca bileşenleri şunlardır:
1. Riski esas alan sınıflandırma
YZ sistemleri genel olarak AB Yapay Zeka Yasası kapsamında dört ana risk kategorisine girer:
- Kabul edilemez risk
- Yüksek risk
- Sınırlı risk
- Asgari/risksiz
Şuna göre: Avrupa Komisyonu’nun YZ Yasası raporuna göre, bunların her biri iki ana faktöre göre sınıflandırılır:
- İlgili verilerin hassasiyeti
- Belirli YZ kullanım durumu veya uygulaması
Gereklilikler her risk kategorisine göre değişir ve yasanın metninin büyük kısmı yüksek riskli YZ sistemlerine yöneliktir.
2. Yüksek riskli YZ sistemlerine yönelik gereklilikler
Yüksek risk kategorisi için AB Yapay Zeka Yasası, bu sistemlerin AB pazarında devreye alınabilmesi amacıyla kuruluşların karşılaması gereken gereklilikler getirir.
Bunlar şunları içerir:
- Sistemin yaşam döngüsü için bir risk yönetim sistemine sahip olmak.
- Eğitim, doğrulama ve test veri setlerinin ilgili ve yeterince temsili olmasını sağlamak üzere veri yönetişimi programları oluşturmak. Uygulama, amaçlanan amaca uygun olarak mümkün olan en üst düzeyde hatasız ve eksiksiz olacak şekilde yapılmalıdır.
- Uyumluluk değerlendirilirken yetkililere göstermek üzere teknik dokümantasyonu kayda almak.
- Ulusal düzeyde risklerin belirlenmesi ve önemli değişikliklerin kayıt altına alınması için ilgili olayları otomatik olarak kaydedecek şekilde sistemi tasarlamak. Bu, sistemin yaşam döngüsü boyunca yapılmalıdır.
- Aşağı akış dağıtıcılarına uyumluluğu mümkün kılacak kullanım talimatları sağlamak.
- Dağıtıcıların insan gözetimi uygulamasına izin verecek şekilde tasarlamak.
- Uygun doğruluk, sağlamlık ve siber güvenlik düzeylerine ulaşacak şekilde tasarlamak.
- Uyumluluk için bir kalite yönetim sistemi kurmak.
Bunlar, Gerekliliklerle Uyumluluk (Md. 8–17) altında belirtilmiştir.
Yüksek riskli YZ sistemlerine yönelik gereklilikler - Napkin.ai kullanılarak oluşturulmuştur
Ayrıca Yasa, kuruluşların, personellerinin ve YZ sistemlerinin geliştirilmesine ya da kullanımına dahil olan diğer kişilerin yeterli YZ okuryazarlığına sahip olmasını sağlamasını zorunlu kılar. Buna teknolojiyi, uygulamalarını ve potansiyel riskleri anlamak dahildir.
Şirketler, YZ sistemlerinin kullanım bağlamlarına uygun şekilde sorumlu ve etik biçimde ele alınmasını sağlamak üzere uygun eğitim vermekten sorumludur. Yazının ilerleyen bölümlerinde DataCamp for Business’ın kuruluşunuzun YZ okuryazarlık seviyesini nasıl artırabileceğini inceleyeceğiz.
3. Yasaklanan YZ uygulamaları
AB Yapay Zeka Yasası, bireyler veya toplum için aşırı risk oluşturduğu kabul edilen belirli uygulamaları açıkça yasaklar. Bunlar şunları içerir:
- Belirli grupların kırılganlıklarını istismar eden YZ sistemleri (ör. çocuklar, engelli kişiler)
- Davranış analizine dayalı sosyal puanlama
- Davranışları manipüle etmek için bilinçaltı tekniklerin kullanımı
Bu uygulamalar, Yasaklı Uygulamalar (Md. 5) kapsamında belirtilmiştir.
AB Yapay Zeka Yasası Kapsamındaki Risk Kategorileri
AB Yapay Zeka Yasası, YZ sistemlerini dört risk düzeyine ayırır—kabul edilemez risk, yüksek risk, sınırlı risk ve asgari veya hiç risk yok. Her kategorinin kendine özgü gereklilikleri ve düzenleyici önlemleri vardır. Genel olarak, risk ne kadar yüksekse düzenleyici yükümlülükler de o kadar fazladır.
Kaynak: AB Yapay Zeka Yasasına Giriş Dersi, DataCamp
1. Kabul edilemez risk
İnsanların güvenliği veya hakları için kabul edilemez risk oluşturduğu düşünülen YZ sistemleri yasaktır. Örneğin insan davranışını manipüle eden, kırılganlıkları istismar eden veya hükümetlerin sosyal puanlama yapmasını mümkün kılan YZ uygulamaları.
Şuna göre: Madde 5, Yasaklı YZ Uygulamaları, bu sistemlerin Avrupa Birliği’nde piyasaya sürülmesine veya kullanılmasına izin verilmez.
Yasaklanan YZ uygulamalarının özeti:
- Bilinçaltı tekniklerle insan davranışını, kararlarını veya görüşlerini manipüle edebilen YZ sistemlerinin devreye alınması
- Belirli grupların (ör. çocuklar, engelli yaşlılar) kırılganlıklarını istismar etmek için YZ sistemlerinin kullanılması
- Davranış analizine dayalı sosyal puanlamanın devreye alınması
- Gerçek kişilerin veya kişi gruplarının sınıflandırılmasını içeren YZ modelleri
- Bir gerçek kişinin suç işleme riskinin tahmin edilmesi
- İnternetten veya CCTV görüntülerinden hedeflenmemiş yüz görsellerinin kazınmasına dayalı yüz tanıma için YZ sistemlerinin kullanımı
- İşyeri ve eğitim kurumlarında bir gerçek kişinin duygularını çıkarsamak için YZ kullanımı
- Gerçek kişilerin biyometrik verilerine dayalı olarak bireysel kategorize edilmesi
- Hukuk uygulaması amaçları dışında ‘gerçek zamanlı’ uzaktan biyometrik tanımlama sistemlerinin kullanımı
2. Yüksek risk
Şuna göre yüksek riskli bir YZ sistemi, Yüksek Riskli YZ Sistemleri için Sınıflandırma Kuralları (Md. 6) kapsamında, bir ürünün güvenlik bileşeni olarak kullanılması amaçlanan ve üçüncü taraf uygunluk değerlendirmesinden geçmesi gereken sistemdir.
Buna ek olarak Ek III’te belirtildiği üzere, aşağıdaki kullanım durumlarına ait herhangi bir YZ sistemi de yüksek riskli YZ sistemi olarak kabul edilecektir:
- Biyometri
- Kritik altyapı
- Eğitim
- İstihdam
- Temel hizmetler
- Hukuk uygulaması
- Göç
- Adalet
3. Sınırlı risk
“Sınırlı risk” olarak sınıflandırılan YZ sistemleri, bireyler veya toplum için bazı potansiyel riskler barındırsa da yüksek riskli veya kabul edilemez olarak değerlendirilmez. Bu sistemler, yüksek riskli YZ’ye uygulanan sıkı denetime tabi değildir; ancak belirli şeffaflık yükümlülüklerine uymalıdır.
Sınırlı riskli YZ sistemleri için yasa, sağlayıcıların kullanıcıların bir YZ sistemiyle etkileşimde olduklarının farkında olmasını sağlamasını genellikle zorunlu kılar. Örneğin, sohbet botları veya diğer YZ destekli arayüzler, kullanıcının bir insanla değil YZ ile etkileşimde bulunduğunu açıkça belirtmelidir. Bu şeffaflık önlemi, karışıklığı önlemek ve kullanıcıların etkileşimde bulundukları teknolojinin niteliği hakkında bilgilendirilmesini sağlamak için tasarlanmıştır.
Sınırlı riskli YZ sistemleri bu şeffaflık yükümlülüklerine tabi olmakla birlikte, kapsamlı dokümantasyon, risk yönetim süreçleri veya zorunlu değerlendirmeler gibi yüksek riskli sistemlere uygulanan daha katı uyumluluk gerekliliklerine tabi değildir. Bu kategori, geliştiricileri ve sağlayıcıları ağır düzenlemelerle aşırı yüklemeden kullanıcı farkındalığı ihtiyacını inovasyonu teşvikle dengelemek üzere tasarlanmıştır.
GPT-4, Midjourney ve Meta’nın LLaMA modelleri gibi genel amaçlı YZ (GPAI) kullanan YZ sistemleri de bu kategoride düzenlenir.
Kaynak: AB Yapay Zeka Yasasına Giriş Dersi, DataCamp
Bir GPAI modeli, büyük miktarda veriyle ölçekli öz denetimli şekilde eğitilmiş, belirgin genel yetenek sergileyen ve aşağı akıştaki sistemler veya uygulamalarla çeşitli entegrasyonlar aracılığıyla çok sayıda farklı görevi yerine getirebilen bir YZ modelidir.
Bu GPAI modellerinin kullanım senaryalarından bağımsız olarak, AB Yapay Zeka Yasası’ndaki düzenlemeler geçerlidir.
Gereklilikler şunlardır:
- Teknik dokümantasyon kayda alınmalıdır.
- Bilgi ve dokümantasyon aşağı akış sağlayıcılarına sunulmalıdır.
- Telif Hakkı Direktifi’ne saygı politikasının hazırlanması gerekir.
- GPAI modelinin eğitiminde kullanılan içeriğin ayrıntılı bir özeti yazılmalıdır.
Daha fazla bilgi için bkz. Madde 53: Genel Amaçlı YZ Modeli Sağlayıcılarının Yükümlülükleri.
GPAI bir Sistemik Risk Taşıyan Genel Amaçlı YZ Modeli olarak değerlendirilirse, Madde 55: Sistemik Risk Taşıyan Genel Amaçlı YZ Modeli Sağlayıcılarının Yükümlülükleri uyarınca farklı bir yükümlülük seti uygulanır.
4. Asgari risk
Asgari risk kategorisi düzenlemeye tabi olmayan bir kategoridir.
Bu tür YZ sistemlerine bazı örnekler şunlar olabilir:
- YZ destekli video oyunları
- Spam filtreleri
AB Yapay Zeka Yasası kapsamında bu kategorideki herhangi bir YZ sistemi için mevcut bir düzenleme yoktur.
YZ Pazarına Genel Etki
AB Yapay Zeka Yasası’nın hem bireyler hem de kuruluşlar için geniş kapsamlı etkiler yaratması bekleniyor. Yasa ayrıca, yasa kapsamında yapılacak gelecekteki AB kural koyma çalışmaları ve AB düzenleyicilerinin yayımlayacağı rehberlerle de şekillenebilir.
AB Yapay Zeka Yasası’nın uygulanmasıyla ortaya çıkabilecek bazı olası etkiler şunlardır:
ChatGPT/üretken YZ için
İnternet içeriği ve kullanıcı davranışı üzerinde geniş etkisi olan mevcut büyük dil modelleri— OpenAI’nin ChatGPT’si, Google’ın Gemini’si, Meta’nın Llama 3.1’i ve Claude AI gibi—için, etik kullanımı sağlamak üzere daha sıkı uyumluluk önlemleri gerekebilir. Bu durum, daha fazla denetime ve bu modellerin nasıl kullanılabileceğine dair sınırlamalara yol açabilir; bu da popülerliklerini ve kârlılıklarını etkileyebilir.
Ayrıca OpenAI, ChatGPT modelini değiştirmek zorunda kalabilir; eğer yasaklanan kullanım örneklerinden herhangi birine girerse AB Yapay Zeka Yasası’nın Madde 5’inde belirtilen yasaklı uygulamaların bulunmamasını temin etmek için.
İşletmeler için
Bu yeni yasa, böylesi LLM modellerinin dışındaki işletmelerde de bazı değişiklikler getirecek.
Yüksek riskli YZ sistemleri geliştiren veya kullanan şirketler, sıkı gerekliliklere uymak ve testlerden geçmek zorunda kalacak; bu da uyumluluk maliyetlerinin artmasına yol açabilir. İşletmeler, uyumluluğu sağlamak için hukuki ve teknik uzmanlığa daha fazla yatırım yapmalıdır. Bu nedenle, uyumluluk maliyetleri nedeniyle daha yüksek riskli uygulamaları içeren YZ modellerini benimseme konusunda girişimler tereddüt edebilir.
Bu YZ modelini ölçeklendirmenin yüksek maliyeti “büyük teknoloji” şirketlerinde pazar yoğunlaşmasına ve sektörün tekelleşmesine yol açabilir.
Bir diğer etki, ana ürünü YZ modelleri olan şirketlerde ticari sırların korunması olacaktır. Bu yeni yasa, şirketlerin operasyonları için elzem olan YZ modellerini eğitmekte kullanılan veriler hakkında şeffaflığı zorunlu kılar.
Buna ek olarak, bu sıkı yasalar inovasyonu ve yeni teknolojilerin Avrupa pazarına girişini de engelleyebilir. Örneğin, Meta, en yeni çok modlu yapay zeka (YZ) modelini Avrupa Birliği’nden esirgedi; bu da inovasyona olası bir direnç olduğuna işaret ediyor.
Zorluklara rağmen, Yasa inovasyon için fırsatlar da sunuyor. Bu yeni ve net standartlar, işletmelere etik ve güvenlik ölçütlerini karşılayan YZ teknolojileri geliştirmeleri için adil bir zemin sağlar.
Uyumluluğu ve etik YZ uygulamalarını önceliklendiren kuruluşlar rekabet avantajı elde edebilir, tüketicilerin güvenini kazanabilir ve kendilerini etik YZ’de lider olarak konumlandırabilir. Bu farklılaşma, sosyal açıdan duyarlı tüketici ve yatırımcıları çekerek marka itibarını ve pazar payını artırabilir.
Ancak bu değişimlerle birlikte, aşağıda daha ayrıntılı ele alacağımız üzere YZ okuryazarlığı ihtiyacı daha da büyüyor.
Tüketiciler için
Tüketiciler için Yasa şu alanlarda en fazla faydayı sağlar:
- YZ sistemlerinde artan şeffaflık ve açıklanabilirlik
- Onaylanmış YZ ürünlerine daha büyük güven
- Ayrımcı YZ uygulamalarına karşı güvenilir koruma
- Endişeleri dile getirecek bir kanala sahip olma
Gelecekte, tüketiciler yüksek riskli YZ sistemleri geliştiren veya kullanan şirketlerden AB Yapay Zeka Yasası’na uyum talep edebilir. Bu, veri mahremiyetlerini korumalarını ve kişisel bilgilerinin etik olmayan biçimde kullanılmamasını sağlamalarını mümkün kılacaktır.
AB üye devletleri için
AB üye devletleri, mevcut ulusal düzenleyici çerçevelerini yeni AB Yapay Zeka Yasası’na uyarlamak zorunda kalacaktır. AB Komisyonu ayrıca üye devletlerin izlemesi için daha spesifik yönergeler ve direktifler yayımlayabilir.
Ancak, yakın tarihli bir Reuters haberinde belirtildiği üzere,
"Geçen yıl YZ’nin hızla benimsenmesi, Avrupa’nın Dijital On Yıl hedeflerini yakalamasına yardımcı oldu.”—Tanuja Randery, AWS Avrupa Genel Müdürü
Küresel ülkeler için
AB Yapay Zeka Yasası, küresel bir standart olarak YZ düzenlemesini etkileyecek gibi görünüyor. İlk kapsamlı YZ düzenleyici çerçevelerden biri olarak, diğer bölgelerin de izleyebileceği bir emsal teşkil ediyor. Uluslararası faaliyet gösteren şirketlerin rekabetçi kalmak için bu gelişmeleri yakından takip etmesi gerekir.
AB Yapay Zeka Yasası ne zaman yürürlükte? Uygulama Takvimi
AB Yapay Zeka Yasası’nın uygulanmasına ilişkin geçici bir zaman çizelgesi şöyledir:
- 1 Ağustos 2024: YZ Yasası’nın yürürlüğe giriş tarihi
- 2 Şubat 2025: Belirli YZ sistemlerine ilişkin yasaklar uygulanmaya başlar (Bölüm 1 ve Bölüm 2). Bu noktada YZ okuryazarlığı gereklilikleri uygulanmaya başlayacaktır.
- 2 Ağustos 2025: Şu kurallar uygulanmaya başlar: Bildirim kuruluşları (Bölüm III, Kısım 4), GPAI modelleri (Bölüm V), Yönetişim (Bölüm VII), Gizlilik (Madde 78), Yaptırımlar (Madde 99 ve 100)
- 2 Ağustos 2026: YZ Yasası’nın geri kalan hükümleri uygulanmaya başlar; Madde 6(1) hariç.
- 2 Ağustos 2027: Madde 6(1) ve Yönetmelikteki karşılık gelen yükümlülükler uygulanmaya başlar.
Özetle, yasa 2027’ye kadar tamamen uygulanmayacaktır; bu da şirketlere ve üye devletlere yeni düzenlemelere uyum sağlamak için zaman tanır.
Tam zaman çizelgesi için AB Yapay Zeka Yasası Uygulama Takvimi’ni ziyaret edin.
AB Yapay Zeka Yasası: YZ Okuryazarlığı Gereklilikleri
YZ modellerinin nasıl geliştirildiğini düzenlemenin yanı sıra, AB Yapay Zeka Yasası personelin YZ okuryazarlığı konusunda eğitilmesine de vurgu yapar.
Şuna göre: Bölüm I: Genel Hükümler, Madde 4: YZ okuryazarlığı:
"YZ sistemlerinin sağlayıcıları ve dağıtıcıları, kendi adlarına YZ sistemlerinin işletilmesi ve kullanımıyla ilgilenen personelinin ve diğer kişilerin, teknik bilgi, deneyim, eğitim düzeyleri ve YZ sistemlerinin kullanılacağı bağlam ile bu sistemlerin uygulanacağı kişi veya kişi grupları dikkate alınarak, ellerinden gelen en iyi ölçüde, yeterli bir YZ okuryazarlığı seviyesine sahip olmasını sağlamak için önlemler alacaktır."
Basitçe söylemek gerekirse, şirketler çalışanlarının ve YZ sistemlerinin geliştirilmesine veya kullanımına dahil olan diğer kişilerin, teknolojiyi, uygulamalarını ve potansiyel risklerini anlayacak şekilde yeterli eğitim almasını sağlamak zorundadır.
Bu düşünce, DataCamp’in 2024 Veri ve YZ Okuryazarlığı Raporu’nda gördüklerimizle örtüşüyor. Görüştüğümüz liderlerin %62’si, YZ okuryazarlığının ekiplerinin günlük görevleri için önemli olduğuna inanıyor. Benzer şekilde, liderlerin %70’i ekipleri için temel YZ kavramlarının anlaşılmasını en önemli unsur olarak tanımlıyor ve ekiplerin YZ teknolojilerinin temel ilkelerini kavramasının gerekliliğini vurguluyor.
Buna karşın, veri ve YZ eğitimi kuruluşlarda hâlâ başlangıç aşamasında. Liderlerin %26’sı hiçbir biçimde YZ eğitimi sunmadıklarını belirtiyor. Ek olarak, liderlerin %26’sı YZ eğitiminin yalnızca teknik rollere ayrıldığını, yalnızca %18’inin ise bu eğitimi teknik olmayan personele de genişlettiğini söylüyor.
Endişe verici şekilde, liderlerin yalnızca %25’i, kuruluş genelinde kapsamlı YZ okuryazarlığı programları oluşturmuş örgütlere mensup olduğunu belirtiyor.
DataCamp For Business ile, 2 kişiden 10.000+’a kadar ekipler eğitiliyor olsun, AB Yapay Zeka Yasası’na uyumlu olduğunuzdan emin olmak için gerekli veri ve YZ becerilerini kapsayan bir YZ okuryazarlığı programı oluşturmaya başlayabilirsiniz. YZ araçlarıyla çalışma ve YZ araçları geliştirmeyi kapsamanın yanı sıra, YZ etiği, risk yönetimi ve YZ modellerinin dağıtımını içeren kapsamlı bir eğitim programı oluşturabilir, EU AI Act Fundamentals yetkinlik yolumuzla başlayabilirsiniz.
