Sorumlu Yapay Zekâyı Teşvik Etmek: ChatGPT’de İçerik Denetimi

Yapay zekâ teriminin ilk kayıtlı kullanımı, 1956’da bir akademik konferansta John McCarthy’nin makinelerin insan zekâsını taklit etmesine atıf yaptığı konuşmasında gerçekleşti. Bu nedenle kendisi sıklıkla yapay zekânın kurucu babalarından biri olarak anılır.

Ancak makinelerin düşünüp düşünemeyeceğini anlama yolculuğu bundan çok daha önce başladı. Nitekim 1950’de İngiliz matematikçi Alan Turing, bir bilgisayarın düşünüp düşünemeyeceğini belirlemeye yönelik bir test önermek için Computing Machinery and Intelligence adlı bir makale yayımladı.

Günümüzde Yapay Zekâ (YZ) ile ilgili sorular farklı. Ürettiğimiz veri hacimlerindeki artış, gelişmiş algoritmalar ve bilgi işlem gücündeki kayda değer ilerlemeler sayesinde teknoloji yaygınlaştı. Artık bu tür araçların kullanımının doğurduğu etik ve toplumsal meseleleri değerlendirmeyi makul bulduğumuz bir noktadayız.

YZ teknolojisi verimlilik ve üretkenliği artırabilse de zararlı içerik üretme, önyargı barındırma ve veri gizliliğini ihlal etme kapasitesine de sahiptir. Bu durum, çalışanları güçlendirecek, müşteriler üzerinde olumlu etki yaratacak ve şirketlerin YZ’yi etik biçimde ölçeklendirmesini sağlayacak şekilde YZ’yi sorumlu şekilde inşa etme pratiğine dair ilginç tartışmaları tetikledi.

ChatGPT ve İçerik Denetiminin Evrimi

Popüler kültürde en çok konuşulan YZ atılımlarından biri ChatGPT’dir. ChatGPT, OpenAI tarafından kullanıcılarla insan benzeri etkileşimleri taklit etmek üzere geliştirilen bir YZ sohbet botudur.

ChatGPT, beş günde bir milyon kullanıcıya ulaşarak birkaç ay boyunca en hızlı benimsenen çevrimiçi hizmet unvanını elinde tutmuş ve Haziran 2018’deki ilk çıkışından bu yana birkaç yinelemeden geçmiştir.

O dönemde modelin adı Generative Pre-trained Transformer 1 (GPT-1) idi. Bu, 2017’de Google’ın transformer mimarisini icat etmesine yanıt olarak OpenAI tarafından geliştirilen ilk büyük dil modeliydi (LLM). Bu model, bugün bildiğimiz ChatGPT’nin temelini oluşturdu, ancak oraya gelmeden önce başka yinelemeler de oldu.

Örneğin, 2019’da OpenAI daha güçlü GPT-2 modelini yayımladı. Güncellemeler, modelin dil anlama yeteneklerini geliştirmeye odaklanıyordu; bu da modelin çok daha büyük bir veri kümesiyle eğitilmesi ve kullanıcıların modeli kendi özel kullanım durumlarına göre özelleştirmelerine olanak tanıyacak şekilde erişimin ince ayar yapılması anlamına geliyordu. Kısa süre sonra, 2020’de GPT-3 geldi.

ChatGPT, bu yazının kaleme alındığı tarihte mevcut en güçlü dil modellerinden biri olarak kabul ediliyor. Çeviri, metin tamamlama, soru yanıtlama ve metin üretimi gibi doğal dil işleme görevlerini gerçekleştirme yeteneğine sahiptir.

Ancak bu, sorunsuz olduğu anlamına gelmiyor.

ChatGPT’nin gücü ve sınırlamaları

Bugün bildiğimiz ChatGPT, GPT-3.5 mimarisine dayanıyor; ücretli aboneler GPT-4’e erişim elde ediyor. Ana fark, kullanılan veri kümesi ve modelin, kullanıcıların sohbet arayüzü üzerinden etkileşime girdiğinde daha kişiselleştirilmiş bir deneyim sunmak üzere konuşma amaçlı kullanım durumlarına optimize edilmiş olmasıdır.

Bu değişiklikler, insanlar ile bilgisayar programları arasındaki iletişimin verimliliğini artırdı. Ayrıca bilginin nasıl işlendiğini ve tüketildiğini ve müşteri deneyimini de büyük ölçüde iyileştirdi.

Fakat kusursuz değil. Son dönemdeki çeşitli tartışmalar, ChatGPT’nin uygunsuz veya önyargılı yanıtlar üretebilme potansiyelini gündeme taşıdı. Üretken YZ’nin etiği üzerine rehberimiz bunları daha ayrıntılı inceliyor.

Bu sorun, ChatGPT’nin nasıl inşa edildiğine dayanıyor — LLM, farklı geçmişlere sahip bireylerin toplu yazılarıyla eğitildi. Çeşitlilik, modelin anlamasını kolaylaştırsa da ürettiği çalışmalara önyargı ve önkabullerin sızmasına da yol açabilir.

Etkin denetim ihtiyacı

Etkin içerik denetimi, kullanıcı tarafından oluşturulan içeriğin gözden geçirilmesi ve izlenmesi sürecini ifade eder. Amaç, kullanıcı içeriklerinin belirli standart ve yönergeleri karşılamasını sağlamaktır; bu, markanızın olumsuzlukla ilişkilendirilmesini ve kullanıcıların rahatsız edici içerik görmesini engeller.

Örneğin, etkin içerik denetiminin bir yönü platformlardan uygunsuz içeriğin kaldırılmasını içerirken, bir diğeri de zorbalık gibi durumları önlemek için topluluk yönergelerinin uygulanmasını kapsar.

ChatGPT İçerik Denetiminin Mekanizmaları

OpenAI, kullanıcı tarafından oluşturulan içeriğin (ör. uygulamanın itibarını zedelemek, kullanıcılara zarar vermek vb.) oluşturduğu tehdidin farkına vardı ve bir dil modelinden veya kullanıcıdan gelebilecek uygunsuz içeriği önleyecek bir araç sunmak üzere hızla harekete geçti.

Bu araç, geliştiricilerin içeriklerini OpenAI’nin kullanım politikalarına göre kontrol etmelerini sağlayan, kullanışlı bir şekilde paketlenmiş Moderation API olarak sunuluyor. Bu politikalar, aşağıdakiler gibi uygunsuz dili ortadan kaldırmayı amaçlar:

• Nefret söylemi
• Tehditkâr dil
• Taciz
• Öz zarar (niyet veya talimatlar)
• Görsel içerik (pornografi ve şiddet dahil)

Bununla birlikte, ChatGPT gibi modellerin, filtrelenmemiş kullanıcı girdilerinden etkilendiğinde önyargılı veya hatalı çıktı üretmesi de mümkündür. Bu nedenle, modelin yanlışlıkla yanlış bilgi yaymasını önlemek için kontrol önlemleri uygulanır.

Dolayısıyla içerik iki cephede kontrol edilir:

Kullanıcı girişi kontrolü

Kullanıcılar tarafından üretilen içeriği izleme, filtreleme ve yönetme teknikleri; amaç, LLM uygulamaları geliştirirken işletmelerin dürüstlük, güvenlik ve etik standartları korumasını sağlamaktır.

Model çıktısı kontrolü

Bu politika ve prosedürler, modelin kullanıcılarla etkileşim kurarken ürettiği yanıtları takip etmeyi ve filtrelemeyi mümkün kılar; geliştiricilerin, önyargı gibi model çıktısıyla ilgili olası sorunları ele almasını sağlar.

Girdi ve çıktı kontrolünün uygulanması, LLM’lerin etik sorumluluklarını işletmeye yükler; kullanıcıların ürün ve hizmetlerle olumlu bir deneyim yaşamasını sağlamak ve YZ’nin sorumlu biçimde kullanılmasını temin etmek işletmenin sorumluluğu hâline gelir.

İçerik Denetimi Yöntemleri

Yaygın altı denetim türü vardır:

Ön denetim

İçerik dünyaya görünür hâle gelmeden önce kontrol edilmelidir. Buna ön denetim denir. Ön denetimin faydası, bir çevrimiçi platform için uygunsuz veya istenmeyen görülen içeriğin zarar vermeden önce engellenebilmesidir.

Daha genç bir kitleyi hedefleyen çevrimiçi topluluklarda son derece popüler bir denetim seçeneğidir. Ancak, içerik paylaşılmadan önce onaylanması gerektiğinden çevrimiçi toplulukların anında tatmin edici doğasını öldürdüğünü düşünenler de çoktur.

Sonradan denetim

Ön denetimin zıddı, sonradan denetimdir. Kullanıcı deneyimi açısından tercih edilir, çünkü içerik, denetim kuyruğuna girmeden önce gönderimin hemen ardından yayımlanabilir.

Bu yaklaşımın en büyük faydası, kullanıcıların gerçek zamanlı iletişim kurabilmesidir; ancak maliyetler caydırıcı hâle gelebilir, zira web sitesi işletmecileri platformlarında gösterilen içeriklerin yasal yayımlayıcıları olarak sorumluluk taşır – yıkıcı içeriği ne kadar çok kişi görürse, konu mahkemeye taşınırsa doğacak zarar o kadar büyük olur.

Tepkisel denetim

Bir diğer seçenek, gücü topluluk üyelerinin eline vermektir. Bu, kullanıcıların kuralları ihlal eden içerikleri veya uygunsuz davranan üyeleri işaretleyebilmesi anlamına gelir.

Tepkisel denetimin, moderatörlerden kaçan içerik için ek bir güvenlik ağı olarak ön veya sonradan denetimle eşzamanlı kullanıldığı sık görülür. Bu yaklaşımın en büyük avantajı, kaynaklarınıza ek yük bindirmeden topluluk büyüdükçe ölçeklenebilmesidir.

Dağıtık denetim

Dağıtık denetim, nadir görülen bir içerik filtreleme biçimidir. Topluluk üyelerinin, bir gönderinin topluluk yönergelerine uyup uymadığına oy vermek için kullandığı bir derecelendirme sistemine dayanır.

Şirketler, hukuki ve marka riskleri doğurduğu için sorumluluğu topluluk üyelerinin kendi kendini denetlemesine bırakmaktan kaçınma eğilimindedir.

Otomatik denetim

Kullanıcı tarafından oluşturulan içerik arttıkça, insan moderatörlerin devreye girip yükü yönetmesinin karmaşıklığı da artar. Yalnızca tonlarca içeriği tek tek elle taramak zor olmakla kalmaz, aynı zamanda yıpratıcıdır; Kimse işe, rahatsız edici içerik yığınını ayıklamak için hevesle gitmez.

İnsan gücüyle yapılan denetime otomatik denetim eklemek son derece değerli bir çözümdür. Kelime filtreleri gibi çeşitli teknik araçlardan oluşur ve gönderilerin reddedilip onaylanmasını sağlar.

Denetimsizlik

İçerik moderatörleri büyük olasılıkla denetimsizlik yaklaşımına karşı uyarıda bulunacaktır. Ancak topluluğunuzda içeriğin denetlenmemesini seçmek için geçerli nedenler olabileceğini de anlarlar.

Örneğin, bunu yapacak yeterli kaynak olmayabilir ya da topluluğunuzun benimsediği şey “ifade özgürlüğü” olabilir. Özünde, denetimden vazgeçmek kontrolü bırakmaktır; bu da platformları savunmasız bırakır ve genellikle yeni kullanıcılar için caydırıcıdır.

Gerçek Dünyada İçerik Denetimi

Bugün Facebook ve YouTube gibi çoğu platform, belirli türdeki içerikleri engellemek için otomatik içerik denetiminden yararlanıyor. Bu genellikle, içerik denetimi çabalarını iyileştirmeyi ve platformlarındaki kullanıcı deneyimini geliştirmeyi hedefleyen YZ kullanımını içerir.

Ancak, YZ’nin uygunsuz içeriği tespit etmesi ve normalde insanlara verilen zahmetli işlerin çoğunu üstlenmesi mümkün olsa da kusurları vardır. Makineler çoğu zaman yanlış bilgi, önyargı ve nefret söylemi gibi önemli nüansları gözden kaçırma eğilimindedir; bu da insan moderatörlerin tamamen ortadan kaldırılmasının ideal olmadığını gösterir.

Başka bir deyişle, YZ ile yapılan otomatik denetim, platformların kullanıcılar için güvenli olmasını ve markanın zarar görmemesini sağlamak amacıyla sıklıkla insan gücüyle yapılan denetimle birleştirilir. İşte birkaç gerçek dünya örneği:

Kötüye kullanım içeren içerik

Twitter (şimdiki X), çevrimiçi tacize etkin biçimde yanıt veremediği için ağır eleştirilerle karşılaştı. Ancak Elon Musk’ın devralmasından bu yana şirket, içeriği denetlemek için otomasyona büyük ölçüde yaslanıyor. Sonuç, doğal dil işleme gibi teknikleri kullanarak düşük kaliteli içeriğin görünürlüğünü sınırlayan Quality filter gibi araçlar oldu.

Yetişkin içerik

YouTube’un çıplaklık ve cinsel içeriklere karşı katı bir politikası vardır; bu tür içerik yayımlayan kullanıcıların kanalları kapatılabilir. Bu tür içerikleri yakalama yöntemleri iki yönlüdür: otomatik ve tepkisel denetim.

Otomatik yaklaşımda Google, çıplaklığı kontrol etmek için bilgisayarla görü gibi tekniklerden yararlanan algoritmalar kullanır. Ancak içerik algoritmalarından kaçarsa YouTube, incelenmesi için içeriği uygunsuz olarak işaretlemeleri adına izleyicilere güvenir.

Sahte ve yanıltıcı içerik

Instagram, yanıltıcı bilgi yayan içerikleri bulmak, incelemek ve harekete geçmek için YZ ve insan moderatörlere başvurur – bu durum özellikle Covid salgını sırasında belirgindi.

Instagram Yardım Merkezi’ne göre, “[Instagram’ın] YZ’si, biri şikâyet etmeden önce Topluluk Kurallarımıza aykırı olan içeriği tespit edip kaldırabilir. Diğer zamanlarda ise teknolojimiz, içeriği daha yakından inceleyip karar vermeleri için insan inceleme ekiplerine gönderir.”

Sonuç

Turing ve McCarthy’nin temel teorilerinden ChatGPT’nin pratik uygulamalarına ilerledikçe, YZ’nin etik manzarası giderek karmaşıklaştı. ChatGPT gibi YZ teknolojileri dönüştürücü bir potansiyel sunsa da içerik denetimi ve önyargı dâhil etik zorluklar da barındırır.

OpenAI’nin Moderation API’si, sorumlu YZ’ye doğru atılmış önemli bir adımdır; ancak tek tip bir çözüm değildir. İşletmeler ve geliştiriciler, otomatik sistemleri insan denetimiyle birleştiren çok yönlü bir denetim yaklaşımını uygulama konusunda etik sorumluluğu paylaşır. Twitter ve YouTube gibi platformlardan gelen gerçek dünya örnekleri, bu hibrit modelin etkinliğini göstermektedir.

Sorumlu YZ’yi daha derinlemesine keşfetmek isteyenler için, sorumlu YZ’nin geleceğine dair bir podcast, Python’da makine öğrenimi modellerinin değerlendirilmesine ilişkin bir web semineri ve bir YZ etiği kursu gibi çeşitli kaynaklarımız mevcut.

YZ’nin etik yönetimi, tüm paydaşların sürekli dikkatini gerektiren ortak bir çabadır. YZ yeteneklerinin sınırlarını zorlarken, teknolojinin iyilik için bir güç olmasını sağlamak adına etik bütünlüğü de aynı kararlılıkla savunalım.