İnsan-Döngüde: YZ Denetimine Bir Yaklaşım

İnsan-Döngüde (HITL) o kadar sık kullanılan terimlerden biri ki, neredeyse hiçbir şey ifade etmemeye başladı. Yapay zekâ sistemleriyle on yılı aşkın süredir çalışmış biri olarak, otomatik bir kararın öncesinde "bir insan bunu inceledi" kutucuğuna indirgenmesine defalarca şahit oldum. 

Peki döngüde bir insan olması ne anlama gelir? Özünde HITL, insanların yapay zekâ modellerinin geliştirilmesi, eğitimi, değerlendirilmesi ve işletilmesine aktif olarak katılması demektir. Yapay zekâ sistemleri daha özneleşip eylem kapasitesi kazandıkça önemi arttı. 

İnsan denetimi, yapay zekâyı etkili biçimde operasyonelleştirmek için kritik bir bağlamsal anlayış, etik yargı ve uyarlanabilirlik katmanı sağlar. 

Bu yazıda, HITL’in soyut tanımlarının ötesine geçerek onu bir sistem tasarımı disiplini olarak ele alacağız. 

İnsan-Döngüde (HITL) Nedir?

HITL, makine öğrenimi sistemlerinin yaşam döngüsü boyunca, model çalıştırılmadan önce, sırasında ve sonrasında insan girdisinin kasıtlı olarak entegre edilmesidir. Sistem davranışını yönlendirmek, doğrulamak ve iyileştirmek için insan yargısını gömülü kılan bir tasarım örüntüsüdür. 

Elbette, ML yaşam döngüsünün neresinde olduğunuza bağlı olarak insan katılımı farklı görünür.

Veri etiketleme ve kürasyon

Veri aşamasında insanlar, modellerin öğrendiği etiketli veri kümelerini oluşturmak için ham girdileri açıklama notlarıyla zenginleştirir. Ekiplerin en az yatırım yaptığı yer genellikle burasıdır. Bu aşamada yanlış yapılan etiketleme, aşağı yöndeki her şeyi etkiler ve en kötüsü, aylar sonra sistematik kör noktalar olarak ortaya çıkana kadar bariz hatalar şeklinde görünmezler.

Model eğitimi

İnsan geri bildirimi altın standarttır ve uyarlamalı sistemlerdeki öğrenme süreçlerinin temel ilkesidir.

Değerlendirme ve doğrulama

İnsanlar çıktıları doğrulukları, incelikleri ve gerçek dünyayla ilgililikleri açısından değerlendirir — bu kısım barizdir. Ancak genellikle gözden kaçan nokta, değerlendirmenin çok boyutlu olduğudur; standart “doğruluk” ya da bir kıyas ölçütündeki puanla sınırlı değildir. Daha kullanışlı olan yaklaşım, model çıktılarının sistemi fiilen kullanacak kişilerin önüne konulması ve onların kaygılarının not edilmesidir.

Dağıtım ve izleme

Dağıtım aşamasına gelindiğinde, çoğu ekip istisnaları yönetmek ve gelişen riskleri öngörmek üzere insanları devreye alır. Örneğin, sahtekârlık tespit sistemleri şüpheli işlemleri işaretler, ancak bir hesabın engellenip engellenmeyeceğine son kararı insan analistler verir.

HITL’e derinlemesine girmeden önce, onunla sıklıkla karıştırılan iki ilgili terimi ayırmakta fayda var:

• Human-on-the-Loop (HOTL), bir insanın sistemi izlediği ancak yalnızca bir şey işaretlendiğinde devreye girdiği anlamına gelir. HOTL’i, işaretlenen içeriği otomatik kaldıran ancak sınır vakalarını insan incelemesine sunan bir içerik denetim sistemi olarak düşünebilirsiniz.
• Human-out-of-the-Loop (HOOTL) ise tam özerkliktir. İnsanların döngüde olmadığı, saniyede binlerce işlem yapan yüksek frekanslı bir alım satım algoritması buna örnek verilebilir.

Gerçek dünya dağıtımlarının çoğu bunların bir karışımıdır. Bir tıbbi görüntüleme sistemi rutin taramaları otomatik olarak onaylayabilir (Human-out-of-the-Loop) ve anomaliler içeren her şeyi bir radyoloğa yönlendirebilir (Human-in-the-Loop). Doğru kalibrasyonu yapmak — yani süreçte insanları nereye yerleştireceğinizi bilmek — herhangi bir yapay zekâ sistemini kurgularken en kritik tasarım kararlarından biridir.

HITL sisteminin kilit özelliği, insan katılımını işleyişin ayrılmaz bir parçası olarak görmesidir. İnsanlar, döngünün onların girdisi olmadan kapanmamasını garanti eden bu tür bir sistemin karar alma ya da öğrenme sürecinde aktif katılımcılardır. Sistem, insan girdisinin davranışını sürekli biçimde şekillendireceği beklentisiyle tasarlanır.

HITL Nasıl Çalışır?

Uygulamada HITL’in çalışma biçiminin iki yönü vardır: İnsanların sistemle etkileşime geçme yolları ve bu etkileşimleri destekleyen teknik uygulama.

İnsan etkileşimi yöntemleri

Döngüye insan yerleştirmeye dair sık sorulan sorulardan biri de insanların nasıl, ne zaman ve nerede entegre edilmesi gerektiğidir. Etkili bir HITL sistemi, müdahalelerin gelişigüzel değil, özenle tasarlanmış temas noktaları olmasını sağlar.

Veri etiketleme

Bu, insanların görüntüler, metinler ve sesler dâhil ham verileri etiketleyerek etiketli veri kümeleri oluşturduğu en yaygın ve temel HITL biçimidir.

Radyologlar röntgenleri açıklama notlarıyla işlediğinde veya kitle çalışanları nesne tespiti için görüntüleri etiketlediğinde, model için “doğru”nun ne olduğunu tanımlamış olurlar. Bu etiketlerin kalitesi, modelin çevreyi algılamayı nasıl öğrendiğinde büyük rol oynar ve model performansını belirler. Yalnızca açıklayıcılara bir yönerge vermek, işe aldığınız kişiler, yazdığınız talimatlar ve öngördüğünüz uç durumlar lehine önyargılı veri kümeleri üretilmesine yol açabilir.

Daha iyi yaklaşım yinelemelidir: Bir toplu seti etiketleyip modeli eğitirsiniz, modelin nerede başarısız olduğunu değerlendirip yönergeleri buna göre revize eder ve yeniden etiketlersiniz. Doğal olarak yinelemeler süreci yavaşlatabilir, ancak güvenilir bir şey inşa etmenin tek yolu da budur.

Model değerlendirme

İnsanlar, model sonuçları beklenen sonuçtan saptığında yapay zekâ sistemlerini değerlendirir ve nitel geri bildirim paylaşır. Çoğu zaman alan bilgisine sahip konu uzmanlarıdır.

Son kullanıcı üzerinden model sonuçlarını çalıştırmanın boşlukları bulmanın en iyi yolu olduğunu gördüm. Yakın tarihli bir yapay zekâ girişiminde, akıllı asistanın çıktısını, sistemi nihayetinde kullanacak ekip aracılığıyla yardımcı olma, doğruluk ve ton ölçütlerine göre doğruladım. Bu tür değerlendirmeler, doğruluğun öznel veya bağlama bağlı olduğu durumlarda önemlidir.

Etkin öğrenme

Verileri rastgele etiketlemek yerine, etkin öğrenme ilişkiyi tersine çevirir. Model, en çok kararsız kaldığı etiketlenmemiş örnekleri belirler ve özellikle bunların insanlar tarafından etiketlenmesini ister. Sezgi şudur: Model, kafasını karıştıran tek bir örneği etiketlemekten, zaten kabaca doğru yaptığı yüz örneği etiketlemekten daha fazla şey öğrenir. Bunun pratikte açıklama maliyetlerini dramatik biçimde düşürdüğüne şahit oldum. 

İnsan geri bildirimiyle pekiştirmeli öğrenme (RLHF)

RLHF, GPT-5.5 ve Claude Opus 4.8 gibi üretken modelleri insan tercihleriyle hizalayan bir tekniktir. Son birkaç yılda herhangi bir büyük dil modeliyle etkileşime girdiyseniz, geniş ölçekte HITL’in aşağı yöndeki etkilerini deneyimlemişsinizdir. Temel bir modelin bir isteme birden fazla yanıt üretmesini ve ödül modelini şekillendiren insan geri bildirimine ihtiyaç duymasını içerir. Ardından temel model, ödül modelinin puanını en üst düzeye çıkarmak için pekiştirmeli öğrenmeyle ince ayar yapılır.

Teknik uygulama

HITL çoğu zaman mevcut bir boru hattına eklenmiş bir “insan adımı” olarak düşünülür. Tek bir çıktı yerine eylem dizileri alan özneleşmiş sistemlerde mesele bundan daha karmaşıktır. Doğru anda yürütmeyi duraklatabilmek ve bir insanın iyi bilgilendirilmiş bir karar vermesi için yeterli bağlamı toplayabilmek gerekir. 

LangGraph gibi iş akışı araçları, belirsizlik eşiklerinde veya politika ihlallerinde tetiklenebilen kesme işlevlerini destekler. En zor kısım, denetim noktalarını nereye koyacağınıza karar vermektir; çok az denetim noktası sizde kara kutu etkisi bırakır, çok fazlası ise sayısız kararı gözden geçirmek zorunda kalan insan değerlendiricileri bunaltır.

Makine Öğreniminde HITL’in Önemi

HITL, modellerin eğitimlerinin sınırına dayandığı yerlerde arayı kapatır ve gerçek dünya altlarından kayarken sistemlerin uyum sağlamasına yardımcı olur.

Arayı kapatma

Makine öğrenimi modelleri, daha önce gördükleri verilerdeki örüntüleri bulmada mükemmeldir. Sorunlar, eksik girdiler, muğlak bağlam veya hiçbir eğitim kümesinin tam olarak görmediği bir yargının gerektiği durumlar biçiminde gerçeklik sahneye çıktığında başlar.

İşte HITL sistemleri burada belirsizlikle başa çıkabilir, incelik katabilir, bağlamsal ipuçları ve akıl yürütmeden yararlanabilir; bunlar makine öğreniminin güçlü yanlarıyla birleştiğinde kazandıran bir bileşim oluşturur.

Uyarlanabilirlik

Gerçek dünya ortamından söz edecek olursak, devingenlik doğasında vardır. Kullanıcı tercihleri değişir, insanların sosyal medyada kullandığı dil dönüşür ve sahtekârlık taktikleri tespit sistemlerinden kaçmak üzere özellikle değişir.

Ocakta dağıtılan bir model, içinde çalıştığı dünya eğitildiği dünyadan uzaklaştıkça temmuzda sessizce bozulabilir. Döngüdeki insanlar, kayan çıktıları fark edip yeniden eğitimi tetikleyerek modelin anlayışını uyarlamasını, güncellemesini ve inceltmesini sağlayabilir.

İnsan-Döngüde (HITL) Yaklaşımının Faydaları

HITL’in avantajları, çıktı kalitesinden kullanıcı güvenine kadar çeşitli biçimlerde kendini gösterir.

Artırılmış doğruluk ve güvenilirlik

HITL sistemlerinin birinci dereceden etkisi, özellikle bağlam ve alan uzmanlığı gerektiren görevlerde daha doğru ve güvenilir olmalarıdır. İnsan denetimi, özellikle uç durumlarda otomatik sistemlerin gözden kaçırabileceği hataları yakalar.

Önyargıların azaltılması

Her veri kümesi, oluşturulduğu andaki koşulların bir yansımasıdır; bu da her modelin mevcut önyargıları kodlama ve büyütme riski taşıdığı anlamına gelir. Etiketleme, eğitim ve değerlendirme aşamalarına insan değerlendiriciler yerleştirildiğinde, bu önyargıların aşağı yönde yayılmadan önce belirlenip düzeltilmesine imkân doğar. Ancak bu tek seferlik bir çözüm değildir. Önyargılar yeni verilerle geri girebilir; bu da sürekli HITL’i zorunlu kılar.

Şeffaflık ve açıklanabilirlik

Makine öğrenimi sistemlerine dair uzun süredir devam eden kaygılardan biri, karar alma süreçlerinin opak oluşudur. HITL süreçleri doğaları gereği etiketler, geri bildirim günlükleri ve inceleme kararları biçiminde dokümantasyon üretir. Bu denetim izi, model davranışını açıklamayı ve sorunları kaynağına kadar izlemeyi kolaylaştırır; bu da düzenlemeye tabi sektörlerde birincil önemdedir.

Geliştirilmiş kullanıcı güveni

Kredi onayı, bir teşhis sonucunun yorumlanması veya bir içeriğin topluluk standartlarını ihlal edip etmediğinin belirlenmesi gibi süreçlerde denetime insanları dâhil eden sistemlere kullanıcılar daha çok güvenir. İnsan denetimi, kullanıcılar denetim mekanizmasıyla doğrudan etkileşime girmese bile güven sinyali verir.

Sürekli iyileştirme

Sabit kurallı yazılımların aksine, HITL sistemleri zaman içinde öğrenip gelişebilir. Her geri bildirim döngüsü, bir sonraki yinelemeyi daha yetkin kılan veriler üretir. Bu bileşik iyileşme, iyi tasarlanmış HITL sistemlerinin en ödüllendirici özelliklerinden biridir.

HITL Örnekleri

Birkaç alan bu örüntüyü özellikle iyi gözler önüne serer.

Görüntü sınıflandırma

Göğüs röntgenlerinde, MR’larda ve patoloji preparatlarında anormallikleri tespit eden yapay zekâ modelleri, neredeyse evrensel olarak, yapay zekâ tarafından işaretlenen vakaları gözden geçirmek üzere radyolog veya patologları içerir. Bu insan-YZ bileşimi, tek başına çalışan ikisinden de daha doğrudur. Bunun işe yaramasının nedeni, kaçırılan bir tanının maliyetinin ek iş yükünü haklı çıkaracak kadar yüksek olması ve insanın modelin kopyalayamayacağı gerçek uzmanlığı getirmesidir.

Doğal dil işleme

Makine çevirisi, duygu analizi ve istenmeyen posta filtreleme gibi uygulamalardaki ince dilsel nüanslar, alayı, kültürel deyimleri ve bağlama bağlı anlamları tespit etmek için sıklıkla insan yorumuna ihtiyaç duyar; bunlar algoritmik yaklaşımları şaşırtabilir.

İçerik üretimi ve incelemesi

Ölçekli kullanıcı kaynaklı içerik yöneten platformlar, hacmi karşılamak ve olası politika ihlallerini insan incelemesine işaretlemek için yapay zekâya dayanır. Bu, YZ’nin hacmi, insanların ise ironi anlayışı ve incelikli kültürel bağlam gerektiren uç durumları ele aldığı klasik bir insan-YZ işbirliği örneğidir.

Uzmanlaşmış uygulamalar

Kredi kararları, sahtekârlık tespiti ve algoritmik alım satım sistemleri, insan hesap verebilirliğini zorunlu kılan düzenleyici gereklilikler altında çalışır. HITL mekanizmaları, sonuçları ciddi olan kararların gözden geçirilebilmesini, açıklanabilmesini ve itiraz edilebilmesini sağlayarak hem yasal standartları hem de etik yükümlülükleri karşılar.

HITL Sistemleri İçin Tasarım İlkeleri

İşe yarayan HITL ile yalnızca iyi görünen HITL arasındaki fark, birkaç ilkeye dayanır.

İnsan ajansına değer verin

En etkili HITL sistemleri, insan girdisini geçici bir ara çözüm ya da yedek plan olarak değil, gerçekten değerli kabul eder. Bu da, insanları otomasyonun zaten yeterince iyi yaptığı işleri yapmak için kullanmak yerine, bağlamsal yargı, etik muhakeme ve yaratıcı değerlendirme gibi insana özgü yeteneklerden yararlanan görevler tasarlamayı gerektirir.

Kontrolün ayrıntı düzeyi

Etkili HITL nadiren “ya hep ya hiç” insan katılımı anlamına gelir. En iyi sistemler ince taneli insan denetim noktaları uygular; uç durumlar ve yüksek riskli kararlar için insan incelemesini devreye alırken, rutin ve yüksek güvenli durumlarda modelin özerk çalışmasına izin verir. Bu kalibre edilmiş yaklaşım, insan dikkatinin değerini en üst düzeye çıkarır.

Sezgisel arayüzler

HITL çıktısının kalitesi, insanların bunu sunduğu arayüzün kalitesiyle sınırlıdır. Açıklama araçları, inceleme panoları ve geri bildirim arayüzleri bilişsel yükü en aza indirmeli, ilgili bağlamı görünür kılmalı ve insan değerlendiricilerin net, eyleme dönük girdi vermesini kolaylaştırmalıdır. Kötü, hantal bir arayüz, eğitim sinyaline kendi gürültüsünü ekler.

Otomasyon ve etkileşimi dengeleyin

Her HITL dağıtımı, otomasyon ile insan etkileşimi arasında bir denge gerektirir. Çok az insan katılımı, denetimin faydalarını yitirmeye yol açabilir; çok fazlası ise sistemi yavaşlatarak otomasyonun verimlilik kazanımlarını ortadan kaldırabilir. Doğru denge bağlama bağlıdır ve ampirik testler, sürekli kalibrasyon ve insan yargısının gerçekten nerede değer kattığının dürüstçe değerlendirilmesini gerektirir.

HITL’in Sınırlamaları

Tüm değerine rağmen, HITL gerçek ödünler içerir.

İnsan hatası

İnsan katılımı hatayı bütünüyle ortadan kaldırmaz. HITL sistemlerinin de sınırlamaları vardır ve katılan insanlar kadar iyidirler. Açıklayıcı yorgunluğu, tutarsız standartlar, bilişsel önyargılar ve bilgi boşlukları insan geri bildiriminin kalitesini etkiler. Ancak bunları, açıklayıcılar arası uyum puanlaması, eğitim ve kalibrasyon oturumları, yüksek riskli etiketler için yedekli inceleme gibi yaklaşımlarla hafifletmenin yolları vardır.

Ölçeklenebilirlik

Döngüde insan olmasının temel sınırlamalarından biri, ölçekli çalışabilme yetisidir. Evet, insan dikkati temel darboğazdır. Veri kümeleri milyarlarca örneğe ulaşıp modeller internet ölçeğinde çalıştıkça, insan değerlendirici/karar oranı son derece küçülür. Etkin öğrenme, belirsizlik örneklemesi ve akıllı yönlendirme, insan çabasını en çok önem taşıyan yerlere yoğunlaştırmaya yardımcı olsa da, HITL’i ölçeklemek hâlâ çözülmemiş temel sorunlardan biridir.

Maliyet

Maliyet dinamikleri açısından bakıldığında, insan açıklaması ve incelemesi pahalıdır; özellikle alan uzmanlığı gerektiren alanlarda daha da pahalıdır. Eğitimli radyologlarca tıbbi görüntü açıklaması, nitelikli avukatlarca hukuk dokümanı incelemesi veya kıdemli mühendislerce kod incelemesi, saat başına maliyetleriyle, belirli HITL uygulamalarını ölçek düzeyinde ekonomik olarak zorlayıcı kılabilir.

Entegrasyon karmaşıklığı

Mevcut ML boru hatlarına HITL mekanizmaları gömmek, teknik altyapı inşa etmek kadar, tırmandırma yollarını ve hesap verebilirlik yapılarını tanımlama gibi kurumsal süreçlerle de ilgilidir. Mühendislik ekiplerinin yönlendirme, işaretleme ve geri bildirim toplama sistemleri kurması gerekirken, ben de en az bu kadar dikkat gerektiren inceleme kuyruklarını kadrolamak ve yönetmek için Mops (Manuel operasyonlar) ekipleriyle çalıştım.

HITL Ne Zaman Başarısız Olur?

HITL, “YZ sistemim beklendiği gibi çalışmıyor” kaygılarınızın tamamını çözmeyecek. Açıkça çöktüğü senaryolar vardır.

Yüksek frekanslı sistemler

Bir dronun dengelenmesi gibi milisaniye düzeyinde yanıt gerektiren ortamlarda, insan müdahalesi çok yavaştır ve pratik değildir. Bu bağlamlara zorla HITL eklemek, sistem işlevini baltalayabilecek gecikmeler yaratır.

Yorgunluk ve tutarlılık sorunları

Uzun süren açıklama veya inceleme oturumları insan performansını düşürür. Özellikle içerik denetimi çalışmaları üzerine yapılan araştırmalar, büyük hacimde zararlı materyali inceleyen çalışanlarda yüksek psikolojik ve bilişsel maliyetler göstermiştir. Yorgun değerlendiriciler tutarsız etiketler üretir ve bu da model performansını düşürebilir.

Otomasyona aşırı güven

Bir de otomasyon yanlılığı vardır; yani bir sistemi fazla güvenilir bulan insanların çıktıları eleştirel biçimde değerlendirmeyi bırakma eğilimi. İnceleyicileriniz modelin ürettiğinin %98’ini onaylıyorsa, denetime para ödemiş ama karşılığını alamamışsınız demektir. Bu durum sıklıkla, bazı aksanları daha az ya da daha çok profesyonel olarak derecelendiren ya da genelleşmeyen kültürel varsayımları tutarlı biçimde uygulayan insan değerlendiricilerde görülür. 

Gelecek Yönelimleri

HITL’in geleceği, daha fazla müdahalede değil, daha iyi entegrasyonda yatmaktadır.

Gelişmiş araçlar

Ortaya çıkan platformlar, insan geri bildirimini orkestre etmeyi ve kararları izlemeyi kolaylaştırıyor.

Etik çerçeveler

YZ sistemleri sonuçları ciddi olan alanlarda devreye alındıkça, anlamlı insan denetimini sürdürmeye yönelik düzenleyici baskı artıyor. Örneğin AB Yapay Zekâ Yasası, yüksek riskli YZ uygulamalarında insan denetimi gereklilikleri getiriyor. HITL bir uyum gerekliliğine dönüşüyor ve bunu sorumlu biçimde uygulamaya dönük çerçeveler aktif olarak geliştiriliyor.

Üretken YZ entegrasyonu

Ölçekte çıktı üretebilen üretken YZ modelleri, geleneksel açıklama kapasitesini aşan ölçekte insan değerlendirmesi gerektirir.

Daha ilginç gelişme, insanların aksi hâlde kapasitelerini aşacak hacimle başa çıkmasına yardımcı olmak için modelleri kullanan YZ destekli incelemedir. Bu, YZ’nin insanın YZ denetimini mümkün kılmak için kullanıldığı tuhaf bir özyinelemedir. Muhtemelen alanın gideceği yer burası ve bunu denetimin kalitesini bozmadan nasıl yapacağımızı bulmak, çözülmeyi bekleyen sorudur.

Sonuç

Tam özerk sistemlerin vaadi kulağa heyecan verici gelir; zira verimlilik, maliyet düşüşü ve ölçek faydalarını getirir. Ancak bu ölçek, başarısızlıkların da aynı ölçekte tezahür edebileceği anlamına gelir. 

İnsan-Döngüde, makinelerin ve insanların güçlü yönlerini birleştirerek daha doğru, uyarlanabilir ve güvenilir sistemler sunan daha iyi YZ sistemleri kurma için bir paradigmadır.

Amaç, doğru anlarda doğru arayüzlerle, ne aşırı uyarılarla tükenmiş ne de otomatik onay veren kişilerce sağlanan doğru insan katılımını yerleştirmektir. Bu kalibrasyonu doğru yapmak göründüğünden zordur; ancak şu anda YZ alanındaki en önemli mühendislik sorunlarından biridir.