Program
Yapay Zeka Uygulamaları Geliştirme
21 sa
Gelişmiş Transfer Öğrenme Tekniklerinin Türleri
Geniş bir veri kümesinde ön eğitim ve ardından göreve özgü bir veri kümesinde ince ayar gibi geleneksel yaklaşımlar temel oluşturur ancak bazen yetersiz kalır. Alan kaymalarının inceliklerini, veri kıtlığını ve çoklu görev öğrenimini ele almak için daha gelişmiş yöntemler ortaya çıkmıştır.
Gelişmiş yöntemler ek karmaşıklık ve esneklik katmanları getirir. Bu teknikler, geleneksel yaklaşımların yeterli olmayabileceği senaryolarda model performansını iyileştirmeyi hedefler.
Alan uyarlaması
Alan uyarlaması teknikleri, kaynak (ön eğitim) ve hedef (ince ayar) alanlar arasındaki tutarsızlıkları ele almak üzere tasarlanmıştır. Önceden eğitilmiş modeller, eğitim verilerinden önemli ölçüde sapan verilerle karşılaştığında geleneksel ince ayar genellikle alt optimal sonuçlar verir. Alan uyarlaması teknikleri, veri dağılımlarını hizalayarak bu uyumsuzluğu azaltır ve modelin yeni ortamlarda daha iyi genelleşmesini sağlar.
Çoklu görev öğrenimi (MTL)
MTL, bir modelin birbiriyle ilişkili birden çok görevi aynı anda öğrenmesine olanak tanır. Görevler arasında bilgi paylaşarak model ortak noktaları kullanabilir ve tüm görevlerde performansı artırabilir. Bu strateji, doğal dil işleminde metin sınıflandırma ile duygu analizi gibi tamamlayıcı görevlerin birlikte öğrenilmesi durumunda özellikle etkilidir. MTL, modeli ortak örüntülere odaklanmaya yönlendirerek genelleme yeteneğini artırır ve aşırı uyum riskini azaltır.
Az örnekli öğrenme
Bir diğer kilit teknik de, sınırlı etiketli verilerle modelleri eğitmek için tasarlanan az örnekli öğrenmedir. Geleneksel yaklaşımlar çok büyük miktarda etiketli veri gerektirirken, az örnekli teknikler yalnızca birkaç örnekle bilgiyi aktarmaya imkân tanır. Meta-öğrenme ve prototipsel ağlar gibi yöntemler yeni görevlere hızlı uyum sağlayabilir; bu da kişiselleştirilmiş öneriler veya niş görsel sınıflandırmalar gibi alanlarda çok değerlidir.
Kendinden gözetimli öğrenme (SSL)
SSL, etiketlenmemiş verileri kullanarak modelleri eğitir; bu da etiketli verilerin kıt veya hiç olmadığı durumlarda güçlü bir araç olmasını sağlar. Bu teknik, verinin kendisinden gözetim sinyalleri oluşturarak bir görselin eksik parçalarını tahmin etme ya da karıştırılmış metni yeniden yapılandırma gibi ön görevleri çözer. SSL ile ön eğitilmiş modellerin çok çeşitli uygulamalarda yüksek aktarılabilirlik sergilediği görülmüştür.
Sıfır örnekli öğrenme
Sıfır örnekli öğrenme, modellerin tamamen yeni görevleri herhangi bir etiketli veri olmadan ele almasına olanak tanıyarak bir adım daha ileri gider. Bu, anlamsal ilişkiler veya görev tanımları gibi yardımcı bilgiler aracılığıyla başarılır ve modelin yeni kategorilerle karşılaştığında dahi genelleştirebilmesini sağlar. Bu yetenek, yeni kategorilerin sıkça ortaya çıktığı ve yeni türetilmiş terimler veya argo ile başa çıkılması gereken NLP uygulamaları gibi dinamik alanlarda oldukça önemlidir.
Diyagram napkin.ai ile üretildi
Alan Uyarlama Teknikleri
Kısaca daha önce de değindiğimiz gibi, alan uyarlaması, bir modelin eğitildiği veriler ile modelin devreye alındığı veriler arasında belirgin bir farkın ya da “alan kaymasının” bulunduğu durumlarla ilgilenen bir transfer öğrenme alt alanıdır.
Tipik transfer öğrenmede, kaynak ve hedef alanların benzer özellikler paylaştığı varsayılır; ancak birçok gerçek dünya senaryosunda bu alanlar önemli ölçüde farklılık gösterir. Nihayetinde bu durum, bir veri kümesinde eğitilen modellerin yeni koşullara genelleyememesi nedeniyle performansı düşürebilir.
Alan uyarlaması teknikleri, kaynak ve hedef veri dağılımları arasındaki tutarsızlığı en aza indirerek bir alanda eğitilmiş bir modelin başka bir alanda etkili şekilde performans göstermesini sağlar. Sonuç olarak, bir alanda etiketli verinin bol, diğerinde ise kıt veya hiç olmadığı durumlarda alan uyarlaması daha da değerli hale gelir.
Alan uyarlama sorununu ele almak için çeşitli teknikler geliştirilmiştir—en yaygın iki yaklaşım adversaryal yöntemler ve alandan bağımsız özellik öğrenmedir.
Adversaryal alan uyarlaması
Alan uyarlaması için yaygın olarak kullanılan bir teknik, adversaryal öğrenmeyi içerir. Bu bağlamda, bir model, hedef görev için yararlı olan özellikleri öğrenirken aynı zamanda bu özelliklerin kaynak ve hedef alanlar arasında ayırt edilemez olmasını sağlamaya çalışarak eğitilir.
Bunu bir ayrıştırıcı, yani sinir ağı kullanarak, yani kaynak ve hedef alan verilerini ayırt etmeyi amaçlayan bir ağla gerçekleştirebiliriz. Model, ayrıştırıcıyı “kandırmayı” öğrenerek özellik gösterimlerini alandan bağımsız hale getirecek şekilde adversaryal biçimde eğitilir. Bu tanıdık geliyorsa, bunun Generative Adversarial Networks (GAN) tarafından ilham alınan ve gerçekçi sentetik veriler üretmek için benzer bir kurulum kullanan bir teknik olmasındandır.
Alandan bağımsız özellik öğrenme
Bir başka yaklaşım, alanlara özgü değişimlerden etkilenmeyen gösterimler öğrenmeye odaklanır. Bu yaklaşım, her iki alandan gelen girdi verilerini kaynak ve hedef alanların daha sıkı hizalandığı ortak bir özellik uzayına dönüştürür. Maksimum Ortalama Farklılık (MMD) ve CORAL (Korelasyon Hizalama) gibi teknikler, bu uzaydaki istatistiksel farklılıkları en aza indirerek modelin hedef alana uygulandığında daha etkin genelleşmesini sağlar.
Kullanım alanları
Alan uyarlaması, alan kaymalarının kaçınılmaz olduğu çeşitli gerçek dünya uygulamalarında faydalı olduğunu kanıtlamıştır:
- NLP'de, bir dil veya lehçede eğitilmiş modellerin başka birine aktarımında alan uyarlaması sıklıkla uygulanır.
- Örneğin, İngilizce üzerinde eğitilmiş bir duygu analizi modelinin aynı dilin bölgesel bir lehçesinde çalışacak şekilde uyarlanması ya da resmi metin üzerinde eğitilmiş bir modelin sosyal medya verileri gibi gayriresmî, konuşma diline uyum sağlaması gerekebilir.
- Bilgisayarlı görüde, eğitim ve hedef veriler arasındaki görsel özellik farklılıkları olduğunda alan uyarlaması sıkça kullanılır.
- Örneğin, doğal aydınlatma koşullarındaki nesne görsellerinde eğitilmiş bir model, loş ya da yapay aydınlatmada çalışacak şekilde uyarlanmaya ihtiyaç duyabilir.
- Otonom sürüş sistemleri, karşılaşılan coğrafi bölgelerden bağımsız olarak güçlü performans gerektirir ve burada da alan uyarlaması yeniden yarar sağlar.
- Bir ülkede trafik işaretlerini, yayaları veya araçları tanımak üzere eğitilmiş bir model, başka bir bölgede biraz farklı yol koşullarına, hava durumlarına veya hatta trafik kurallarına uyum sağlamak zorunda kalabilir.
Çoklu Görev Öğrenimi ve Transfer Öğrenme Sinerjisi
Makine öğrenimi görevleri karmaşıklaştıkça, birbiriyle ilişkili birden çok problemi eşzamanlı çözebilme yeteneği, bir modelin performansını ve verimliliğini önemli ölçüde artırabilir. MTL, tek bir göreve odaklanmak yerine modelleri aynı anda birden çok görevi gerçekleştirecek şekilde eğiterek bunu sağlar.
Çoklu görev öğrenimi nedir?
MTL'nin gücü, görevler arasındaki ilişkilerden ve paylaşılan yapılardan yararlanma becerisinde yatar; bu sayede modeller daha zengin özellik gösterimleri öğrenebilir. Bir görevden elde edilen içgörüler, modelin diğer görevdeki performansını artırarak genel öğrenme verimliliğini yükseltir.
MTL'de yaygın olarak kullanılan iki ana strateji vardır:
- Sert (hard) parametre paylaşımı: Bu yaklaşımda, model parametrelerinin çoğu görevler arasında paylaşılır; yalnızca göreve özgü katmanlar bağımsızdır. Bu, modeli görevler arası iyi genelleşen gösterimler öğrenmeye yönlendirerek aşırı uyumu azaltır.
- Yumuşak (soft) parametre paylaşımı: Burada her görevin kendi parametre kümesi vardır; ancak bir tür düzenlileştirme, bu parametrelerin benzer olmasını sağlayarak tam örtüşme olmadan paylaşımlı öğrenmeyi teşvik eder.
Transfer öğrenme ve çoklu görev öğrenmeye bir örnek. Kaynak: Kim ve diğ., 2021
Çoklu görev öğreniminin faydaları
MTL, karmaşık makine öğrenimi senaryolarında değerli kılan çeşitli avantajlar sunar.
Geliştirilmiş genelleme
Birden çok görevi öğrenerek model daha geniş bir veri yelpazesine maruz kalır ve daha genel gösterimler öğrenir. Bu, özellikle görevler ilişkili olduğunda her görevde daha iyi performansa yol açar.
Veri verimliliği
MTL ile modeller, özellikle etiketli verinin kıt olduğu durumlarda mevcut veriden daha iyi yararlanır. Model, birden çok görevden öğrendiği için ilişkili görevlerden elde ettiği içgörüleri kullanarak performansı artırabilir. Bu görevler arası öğrenme, süreci hızlandırır ve her görev için büyük veri kümelerine olan bağımlılığı azaltır.
Model verimliliği
Her görev için ayrı modeller eğitmek yerine, MTL öğrenmeyi tek bir modelde birleştirir. Bu, hesaplama maliyetini ve bellek ayak izini azaltır; sınırlı kaynaklı ortamlarda devreye almayı daha verimli kılar.
Çoklu görev öğreniminin uygulamaları
MTL, çeşitli alanlarda başarıyla uygulanmıştır; dikkat çekici kullanım örnekleri NLP ve bilgisayarlı görüdedir.
Doğal dil işleme
Doğal dil işleminde MTL, modelleri birden çok ilişkili görevde eğitmek için yaygın olarak kullanılır. Örneğin bir dil modeli, aynı anda hem makine çevirisi hem de metin sınıflandırması yapacak şekilde eğitilebilir. Bu görevler arasında öğrenilen gösterimleri paylaşarak model, dil yapısını ve bağlamı daha iyi kavrar; bu da her iki göreve de fayda sağlar.
Bilgisayarlı görü
Bilgisayarlı görüde MTL, nesne tespiti ve görüntü segmentasyonu gibi görevlere uygulanabilir. Bir modeli, bir görüntü içindeki nesneleri tanımlamak üzere eğitirken aynı zamanda bu nesneleri sınıflandırmayı da öğrenmesini sağlayabiliriz. Bu paylaşımlı öğrenme süreci, modelin hem konumu hem de kategoriyi tanımasını sağlayarak onu daha yetenekli ve verimli kılar.
Az Örnekli ve Kendinden Gözetimli Öğrenme
Etiketli verinin kıt veya hiç olmadığı senaryolarda, az örnekli öğrenme ve SSL, geleneksel gözetimli yöntemlerin sınırlamalarını gidermek için güçlü teknikler olarak ortaya çıkmıştır.
Bu yaklaşımlar, modelleri en az etiketli verilerle yeni görevlere uyarlamanın veya büyük miktarda etiketlenmemiş veriden yararlanmanın yenilikçi yollarını sunar; bu nedenle gelişmiş transfer öğrenme alanında temel araçlardır.
Az örnekli öğrenme
Artık bildiğimiz üzere, az örnekli öğrenme modellerin yalnızca birkaç etiketli örnekle yeni görevlere hızla uyum sağlamasını amaçlar.
Bununla birlikte, nadir hastalık teşhisi veya niş ürün tanımlama gibi pek çok uygulamada büyük veri kümeleri toplamak pratik değildir. Az örnekli öğrenme, ilişkili görevlerden bilgi aktararak ve modelleri minimum yeni veriyle iyi performans gösterecek şekilde ince ayarlayarak bunu çözer.
Aşağıda, az örnekli öğrenmede iki kilit stratejiyi ele alıyoruz.
Meta-öğrenme
“Öğrenmeyi öğrenme” olarak da bilinen meta-öğrenme, bir modelin minimum veriyle yeni görevlere hızlıca uyum sağlaması için eğitilmesini içerir. Amaç, modeli çeşitli görevler üzerinde eğiterek öğrenimini genelleştirebilmesini ve görülmemiş görevlere hızla uyum sağlayabilmesini sağlamaktır.
Modelden Bağımsız Meta-Öğrenme (MAML) gibi meta-öğrenme çerçeveleri, modelin yalnızca birkaç örnekle yeni görevlere ince ayarlanabilecek optimal bir parametre kümesi öğrenmesini sağlar.
Prototipsel ağlar
Bir diğer yaygın yaklaşım olan prototipsel ağlar, öğrenilmiş bir özellik uzayında veri noktaları arasındaki mesafeleri hesaplayarak sınıflandırma yapacak şekilde tasarlanmıştır. Bu düzende, her sınıf bir prototiple (özellik uzayında o sınıfa ait örneklerin ortalaması) temsil edilir.
Yeni veri noktaları daha sonra bu prototiplere yakınlıklarına göre sınıflandırılır. Prototipsel ağlar, sınıflandırma için anlamlı prototipler üretmek adına sınıf başına yalnızca az sayıda örnek gerektirdiğinden az örnekli öğrenmede etkili olabilir.
Kendinden gözetimli öğrenme
SSL, el emeğiyle etiketlere ihtiyaç duymadan, gözetim sinyalleri üreterek modellerin büyük miktarda etiketlenmemiş veriden anlamlı gösterimler çıkarmasını sağlar. Model etiketlenmemiş veriden öğrendikten sonra daha küçük bir etiketli veri kümesi üzerinde ince ayarlanarak aşağı akış görevlerinde güçlü performans elde edebilir.
En etkili SSL tekniklerinden biri karşıtlık (contrastive) öğrenmedir; bu teknik, veri noktalarının pozitif ve negatif çiftlerini karşılaştırarak modelleri eğitir. Amaç, benzer veri noktalarını (pozitif çiftler) özellik uzayında birbirine yaklaştırırken benzer olmayanları (negatif çiftler) birbirinden uzaklaştırmaktır.
Doğal dil işleminde, BERT gibi modellerde kullanılan maskeli dil modelleme popüler bir SSL yöntemidir. Burada girdinin bazı kısımları maskelenir ve model, çevresel bağlamı kullanarak eksik öğeleri tahmin etmek üzere eğitilir. Bu ön eğitim stratejisi, modelin çeşitli NLP görevleri için ince ayarlanabilen sağlam, genel amaçlı gösterimler öğrenmesine yardımcı olur.
Uygulamalar
Az örnekli ve kendinden gözetimli öğrenme, veri sınırlamalarının önemli bir engel olduğu alanlarda yaygın olarak kullanılır. İşte her birine ait bazı kilit uygulamalar.
Özel nesne tespitinde az örnekli öğrenme
Az örnekli öğrenme, nadir veya uzmanlaşmış nesnelerin yalnızca birkaç etiketli örnekten öğrenilmesini gerektirebilen özel nesne tespitinde değerlidir.
Endüstriyel ortamlarda, bir üretim sürecindeki kusurların tespiti, kusurun çok az örneğini içerebilir. Az örnekli öğrenmeden yararlanarak, genel nesne tespit görevlerinde önceden eğitilmiş bir model, minimum ek eğitim verisiyle bu spesifik nesneleri tespit edecek şekilde hızla uyarlanabilir.
Dil modellerinde kendinden gözetimli öğrenme
Kendinden gözetimli öğrenme, GPT ve BERT gibi modeller aracılığıyla doğal dil işlemede devrim yaratmıştır. Bu modeller, nispeten küçük etiketli veri kümeleriyle belirli görevlere ince ayarlanabilen genel amaçlı dil gösterimleri öğrenir. Örneğin, SSL ile önceden eğitilmiş bir dil modeli, duygu analizi, metin sınıflandırma veya özetleme gibi görevleri gerçekleştirmek üzere sıkça en güncel sonuçlara ulaşacak biçimde ince ayarlanabilir.
Gelişmiş Transfer Öğrenme Tekniklerinin Pratik Uygulaması
Makine öğrenimi kütüphane ve çerçeveleri, gelişmiş transfer öğrenme yöntemlerinin uygulanmasını önemli ölçüde basitleştirebilir. PyTorch, TensorFlow ve Hugging Face Transformers gibi araçlar, geliştirme sürecini hızlandıracak gerekli esnekliği ve hazır bileşenleri sunar.
Çerçeveler ve araçlar
Gelişmiş transfer öğrenme tekniklerini uygulamak isteyen uygulayıcılar için çeşitli kütüphaneler ve çerçeveler kapsamlı destek sağlar:
- PyTorch: Araştırma ve pratik makine öğrenimi projelerinde yaygın olarak kullanılan esnek, kullanıcı dostu bir çerçeve. PyTorch'un dinamik hesaplama grafiği, meta-öğrenme ve çoklu görev öğrenimi gibi görevler için idealdir.
- TensorFlow: Bir diğer popüler derin öğrenme çerçevesi olan TensorFlow, yüksek seviyeli API'si Keras aracılığıyla transfer öğrenme ve alan uyarlamasına güçlü destek sunar. TensorFlow'un tensorflow_hub bileşeni de yeni görevler için ince ayarlanabilecek önceden eğitilmiş modeller sağlar.
- Hugging Face Transformers: Doğal dil işleme görevleri için ideal bir kütüphane olup BERT, GPT ve T5 gibi çeşitli önceden eğitilmiş modelleri, minimum çabayla belirli aşağı akış görevlerine ince ayarlamak üzere sunar.
Zorluklar ve dikkat edilmesi gerekenler
Gelişmiş transfer öğrenme tekniklerini uygulamak zorludur ve akılda tutulması gereken kritik unsurlar vardır.
Felaket unutma
Yeni görevlerde ince ayar yapmak, modellerin önceki görevlerden öğrendiklerini “unutmasına” neden olabilir. Elastic Weight Consolidation (EWC) gibi teknikler, önceki bilgileri için kritik önemde olan önceden eğitilmiş modelin ağırlıklarını korumaya yardımcı olabilir.
Hesaplama karmaşıklığını yönetme
Alan uyarlaması ve çoklu görev öğrenimi gibi teknikler, hesaplama gereksinimlerini önemli ölçüde artırabilir. Adversaryal alan uyarlama modellerini veya çok görevli mimarileri eğitmek, ek karmaşıklık nedeniyle daha fazla kaynak gerektirebilir. Büyük modelleri verimli şekilde ele almak için modelimizi optimize etmeli ve karma hassasiyetli eğitim gibi araçlar kullanmalıyız.
Adaletin sağlanması ve önyargıların giderilmesi
Önyargılı veriler üzerinde önceden eğitilmiş transfer öğrenme modelleri, bu önyargıları yeni görevlerde sürdürebilir veya hatta güçlendirebilir; bu da yanlı tahminlere yol açar. Bu risk, sağlık ve finans gibi hassas alanlarda kritik öneme sahiptir. Adaleti sağlamak için model çıktıları önyargı açısından düzenli olarak değerlendirilmelidir ve yeniden ağırlıklandırma, adversaryal önyargı giderme veya adil gösterim öğrenimi gibi azaltma teknikleri uygulanmalıdır.
Sektör Örnekleri
Gelişmiş transfer öğrenme yöntemleri, çeşitli sektörlerde karmaşık gerçek dünya zorluklarına yenilikçi çözümler sunmak için uygulanmaktadır. Aşağıda, bu tekniklerin yapay zekâ ilerlemelerini nasıl yönlendirdiğini vurgulayan bazı kilit uygulamalar ve sektör örnekleri yer almaktadır.
OpenAI: Az örnekli öğrenmeyi kullanan GPT modelleri
OpenAI’nin GPT-4o modeli, az örnekli öğrenmenin bir örneği olarak, yalnızca birkaç örnekle yeni görevlere uyum sağlayabilme yeteneğini göstermiştir. Devasa miktarda metin verisi üzerinde önceden eğitilen GPT-4o, görev özelinde ince ayara gerek kalmadan çeviri, özetleme ve soru-cevap gibi çeşitli görevleri yerine getirebilir.
Bunun yerine kullanıcılar, istenen görevin birkaç örneğini sunar ve model buradan genelleme yapar. Bu az örnekli öğrenme yeteneği, yaratıcı yazımdan sohbet botlarına kadar büyük dil modellerinin uygulama alanını genişletmiştir.
DeepMind: Sağlık yapay zekâsında çoklu görev öğrenimi
Yapay zekâ araştırmalarında lider olan DeepMind, tıbbi görüntülerden birden çok durumu teşhis etmeye yardımcı olabilecek sağlık modelleri geliştirmek için çoklu görev öğrenimini kullanmıştır. Örneğin, retina taramalarından göz hastalıklarını tespit eden yapay zekâ sistemi, diyabetik retinopati ve yaşa bağlı makula dejenerasyonu da dahil olmak üzere tek bir modelle bir dizi durumu teşhis edebilmektedir.
Bu MTL yaklaşımı, her durum için ayrı modellere olan ihtiyacı azaltır; sağlık hizmeti sağlayıcılarının teşhis süreçlerini kolaylaştırmasına ve daha hızlı, daha doğru hasta bakımı sunmasına olanak tanır.
Waymo: Otonom sürüşte alan uyarlaması
Waymo (Google’ın sürücüsüz araç projesi), otonom araç modellerinin çeşitli sürüş ortamlarında genelleme yeteneğini artırmak için alan uyarlaması tekniklerini kullanır. Şirket, modellerini simüle edilmiş ortamlarda eğitir ve ardından farklı şehirler ve hava koşullarında gerçek dünyaya uyarlayarak devreye alır.
Bu süreç, sürücüsüz araçların San Francisco’nun kalabalık sokaklarından Arizona’nın geniş otoyollarına kadar farklı kentsel manzaraların inceliklerini, her bir konum için kapsamlı yeniden eğitim gerektirmeden ele alabilmesini sağlar.
Gelişmiş Transfer Öğrenmede Gelecek Eğilimler
Araştırmacılar, modelleri daha uyarlanabilir, adil ve karmaşık gerçek dünya görevlerini ele alabilecek hale getirmek; bunu yaparken de gerekli veri ve eğitim süresini azaltmak için sınırları sürekli zorluyor.
Sürekli öğrenme
Sürekli öğrenme ya da yaşam boyu öğrenme, modellerin yeni verilerden sürekli öğrenmesini ve daha önce öğrenilen görevlerden edinilen bilgiyi korumasını hedefler. Geleneksel transfer öğrenmede modeller ince ayarın ardından durağanken, sürekli öğrenme yeni bilgilere devamlı uyum sağlamaya imkân tanır.
Bu, yeni senaryoların düzenli olarak ortaya çıktığı robotik ve otonom sistemler gibi dinamik ortamlar için hayati önem taşır. Bu bağlamda, bellek tabanlı stratejiler, geçmiş bilgiyi koruma gereksinimiyle yeni becerileri katma ihtiyacı arasındaki dengeyi kurmaya yardımcı olur. Gelecekteki gelişmeler, sürekli öğrenmeyi daha karmaşık alanlara genişletmeyi ve modellerin önceki performanstan ödün vermeden verimli biçimde güncellenmesini hedefler.
Adalet ve önyargıların giderilmesi
Transfer öğrenme sağlık, finans ve kolluk kuvvetleri gibi sektörlerde daha yaygın hale geldikçe, adalet ve önyargıların ele alınması kaçınılmaz bir gereklilik oluyor.
Büyük ve çeşitli veri kümeleri üzerinde önceden eğitilen modeller, yeni uygulamalarda yanlı sonuçlara yol açabilecek örtük önyargılar taşıyabilir. Buna karşı koymak için araştırmacılar, bu önyargıları tespit ve giderme amacıyla adversaryal önyargı giderme, yeniden ağırlıklandırma ve adil gösterim öğrenimi gibi teknikleri araştırıyor.
Adaletin sağlanması, özellikle yanlı tahminlerin gerçek dünya sonuçlarına yol açabileceği hassas alanlarda, transfer öğrenme araştırmalarının merkezi bir odağı olmaya devam edecektir.
