Yolumda gölgeler olmalı
Yürüyeceksem olmalı
Her adımı yavaş ve tek başıma atmalı
Hazır bulmak için
Ve gri çizgilerde düşünmeliyim
Sönük düşünceler rehberim olsun diye
Maviye ve yeşile bakmalıyım
Ve gözüm asla unutmamalı
Rengin dostum olduğunu
Ve mor da sarmalı beni
Güneşin sarısı,
Hepimizin üstüne düşen mavimsi kardan
Daha müdahaleci değil. Olmalı
Gri düşünceler ve mavi düşünceler yürümeli benimle
Eğer gerçekten uzaklaşacaksam.
A poem generated by GPT-3, OpenAI's latest language model
Büyük dil modelleri, dilsel ustalıklarıyla dünyayı şaşırttı. Açıkça eğitilmeden, çok çeşitli görevleri son teknoloji başarımla yerine getirebildiler.
Neyse ki bu büyük dil modelleri sadece Büyük Teknoloji şirketleriyle sınırlı değil. Aksine, büyüyen açık kaynak NLP topluluğunun çabaları ve model API’lerinin giderek artan erişilebilirliği sayesinde bu tür modellere erişim genişliyor. Artık herkes için büyük bir dil modelinin gücünden yararlanmak her zamankinden daha kolay.
NLP’nin büyümesi, şirketlerin ve yatırımcıların da ilgisini çekti. John Snow Labs ve Gradient Flow’un anketine göre, teknoloji liderlerinin %60’ı NLP bütçelerinin 2020’ye kıyasla en az %10 arttığını belirtti. NLP alanında pazar payı için yarışan girişimlerin muazzam artışına da tanık olduk. NLP baş döndürücü bir hızla büyürken, yapay zekâ topluluğu büyük dil modellerinin tehlikeleri konusunda haklı endişeler dile getirdi. Bu modeller yaygın biçimde benimsenmeden önce, önyargısız ve güvenli olduklarından emin olmalıyız.
Bu blog yazısında, NLP ve büyük dil modellerinin çeşitli yönlerini—ne olduklarını, nasıl kullanıldıklarını ve onları nasıl güvenli kullanabileceğimizi—inceleyeceğiz.
NLP’nin İlerleyişi—Word2Vec’ten Transformer’a
Geçtiğimiz on yılın ilk NLP atılımlarından biri, Word2Vec’in çıkışı oldu. Mikolov ve arkadaşları, bir model kelime ilişkilerini öğrendiğinde, o dönemin popüler N-gram modellerinden yalnızca belirgin biçimde daha iyi performans göstermekle kalmayıp daha verimli ve hızlı olduğunu keşfetti.
Yine de Word2Vec, kelimelerin sırasını faydalı bir bilgi olarak kullanamaz. Yinelemeli Sinir Ağının (RNN) ortaya çıkışı bu sorunu ele aldı. Word2Vec’in aksine RNN, önceki girdilerden gelen bilgiyi mevcut girdi ve çıktıyı etkilemek için kullanır. Bu da RNN’ye bir tür “hafıza” kazandırır ve metinler arasındaki ilişkileri öğrenmek için ideal kılar.
Ancak, kaybolan gradyan problemi nedeniyle RNN’nin hafızası oldukça kısa ömürlüdür. RNN’ler kısa cümlelerde nispeten iyi performans sergilese de uzun paragraflarda başarısız olur. Uzun Kısa Süreli Bellek (LSTM) adlı özel bir RNN türünün tanıtılması, LSTM’ye bilgiyi çok daha uzun süre hatırlama yetisi veren “kapılar” sundu.
LSTM’ler, “Attention is All You Need” makalesi sahneyi değiştirene dek fiili NLP modeli olarak görülüyordu. Makalede tanıtılan dikkat mekanizması, RNN’lere çıktı üretirken bilgilerin bir alt kümesine odaklanma yeteneği kazandırdı. Dikkat temelli özel bir ağ türü olan Transformer ağı ise son derece basit, verimli ve güçlü olduğunu kanıtladı.
Özellikle, BERT (Bidirectional Encoder Representations from Transformer) modeli NLP alanında çığır açıcı bir başarı olarak görüldü (bu NLP eğitimine bakarak BERT’in NLP’deki rolünü özetle görebilirsiniz). Metinleri sıralı okuyan yönlü modellerin aksine, BERT tüm kelime dizisini bir seferde okur. En etkileyici yanı ise, önceden eğitilmiş bir BERT modelinin yalnızca ek bir çıktı katmanıyla ince ayar yapılarak çeşitli görevlerde son teknoloji performansa ulaşabilmesiydi. O zamandan beri birçok dikkat temelli mimari BERT’i geride bıraktı. Bunlara XLNet, Baidu’nun ERNIE’si ve RoBERTa dahildir. Bu modeller bugün hâlâ pek çok NLP görevinde yaygın olarak kullanılıyor.
Büyük Dil Modellerinin Yükselişi
Teknoloji meraklıları Megatron-LM, GPT-3 ve T5 gibi büyük dil modellerine yabancı değil. Çok büyük sayıda parametreleriyle bilinen bu modeller, doğal dil görevlerindeki dikkate değer yetenekleriyle manşetleri süslüyor.
Büyük dil modellerinin en bilinen örneği muhtemelen OpenAI’nin Generative Pre-trained Transformer 3’ü (GPT-3). GPT-3, 175 milyardan fazla parametreye sahip ve 570 gigabayt metinle eğitildi; bu da onu selefi GPT-2’den 100 kat daha büyük kılıyor.
Boyut artışı, büyük dil modellerine beklenmedik bir armağan verdi—açıkça eğitilmediği görevleri gerçekleştirmek. Örneğin GPT-3, İngilizceden Almancaya cümle çevirisini çok az veya hiç örnek olmadan yapabiliyor. Ayrıca soruları yanıtlayabiliyor, denemeler yazabiliyor, uzun metinleri özetleyebiliyor ve hatta bilgisayar kodu üretebiliyor. Şaşırtıcı biçimde, bu görevleri çözmek üzere açıkça eğitilmiş bazı son teknoloji modelleri de geride bıraktı.
Başka bir deyişle, büyük dil modelleri “few-shot” öğrenenlerdir. Bu modellerin, belirli bir görevde iyi performans göstermek için yalnızca küçük miktarda alana özel eğitim verisine ihtiyaçları vardır. Hatta bazı görevlerde “zero-shot” öğrenen olabilirler; yani herhangi bir gösterim olmadan da belirli bir görevi yerine getirebilirler.
Few-shot, one-shot ve zero-shot öğrenmenin gösterimi (Kaynak)
Şirketler, her geçen gün daha da büyük dil modelleri geliştirme yarışında. 2021’de Microsoft ve Nvidia Megatron-Turing NLG 530B’yi, 530 milyar parametreyle yayımladı. Mayıs 2022’de Meta, 175 milyar parametreli Open Pretrained Transformer (OPT-175B)’yi yapay zekâ araştırma topluluğuyla paylaştı. DeepMind ise 7 milyar parametreli, Geri Çağırma ile Güçlendirilmiş Transformer’ı (RETRO) yayımlayacağını ve bunun, kendisinden 25 kat büyük sinir ağlarıyla aynı düzeyde performans göstermesinin beklendiğini duyurdu.
Büyük dil modelleri yıldan yıla büyüyor (Kaynak)
Büyük Dil Modellerinin Demokratikleşmesi
Kısa bir süre öncesine kadar, büyük dil modelleri, güçlü dahili süper bilgisayarlara sahip ve büyük bütçeli Büyük Teknoloji tarafından tekelleştirilmişti. Büyük bir dil modelinin parametre sayısı o kadar büyüktür ki, en güçlü ev tipi GPU bile bunu sığdıramaz. Bu sınırlama aşılsa bile, paralelleştirme olmadan büyük bir dil modelini eğitmek için gereken süre gerçekçi değildir. Örneğin Nvidia, GPT-3 modelini sekiz V100 GPU üzerinde eğitmenin 36 yıl süreceğini öngördü. Lambda Labs, GPT-3 geliştirmenin peşin maliyetini en az 11,5 milyon ila 27,6 milyon dolar olarak belirlerken, modeli bulutta çalıştırmanın yıllık yinelenen maliyetini en az 87.000 dolar olarak hesaplıyor.
Sıkı bütçeli girişimlerin bunun için ne zamanı ne de parası var; ancak büyük dil modellerinin API’leri sayesinde girişimler, fahiş hesaplama kaynakları satın almadan ya da yüksek performanslı donanımlara savurganca harcama yapmadan GPT-3’ün gücünden yararlanabiliyor. Örneğin kurucular, OpenAI, Cohere ve AI21’in sunduğu API’ler aracılığıyla GPT-3 gibi modellerin gücünü işlerine entegre edebilir.
Mart 2021 itibarıyla OpenAI, 300’den fazla farklı uygulamanın GPT-3 API’leri üzerinden günde 4,5 milyar kelime teslim ettiğini belirtti. API sayesinde güçlü NLP uygulamaları geliştirmek artık her zamankinden daha hızlı ve daha ölçeklenebilir.
NLP Girişimlerinin Çoğalması
Büyük dil modellerine erişim genişledikçe, çeşitli hizmetler sunan girişimlerin son yıllarda artan oranlarda ortaya çıkması şaşırtıcı değil.
Uygulayıcılar, GPT-3’ün AI Dungeon’ın sunduğu sürükleyici deneyim gibi tutarlı uzun metinler üretme becerisine hayran kaldı; bu metne dayalı fantezi macera oyunu, içerik üretmek için GPT-3 kullanıyor. Başka bir girişim olan Fable Studio, “Sanal Varlıkları” hayata geçiren yeni bir etkileşimli hikâye türü oluşturmak için GPT-3’ü kullandı.
AI Dungeon’dan bir ekran görüntüsü. Sırada ne yapacaksınız?
O zamandan beri GPT-3 yalnızca kurgu hikâyeleri üretmek için değil, işletmeler için pazarlama içerikleri oluşturmak amacıyla da kullanılıyor. İlgi çekici blog yazıları, sosyal medya içerikleri, reklam metinleri ve e-postalar kısa bir istemle üretilebiliyor. Bu alandaki dikkat çekici girişimler arasında bugün 13,9 milyon dolar değerlemeye sahip copy.ai, 10 milyon dolar değerlemeli CopySmith ve Rtyr yer alıyor. Bazı eleştirmenler, bir bot tarafından yazılan içeriği kolayca ayırt edebileceklerini iddia ederek bu tür girişimlerle alay etse de, Hacker News’te zirveye çıkan GPT-3 üretimi bir blog yazısının hikâyesini bilselerdi fikirlerini gözden geçirebilirlerdi.
NLP girişimleri arama alanında da dalga yaratıyor. “Google Arama Ölüyor” başlıklı yakın tarihli bir blog yazısı, bugünün arama motorlarındaki sorunları gündeme getirerek, girişimlerin bu alanı nasıl dönüştürebileceğine dair hararetli bir tartışma başlattı. Eski bir Salesforce baş bilim insanının liderlik ettiği you.com gibi bir girişim, 20 milyon dolar civarında yatırım topladı. Google’a doğrudan meydan okumak için NLP kullanarak arama sorgularını anlamsal olarak anlıyor ve web genelindeki sonuçları özetliyor. Eski bir Cloudera CTO’su tarafından kurulan bir başka girişim Zir AI ise niyet ve anlamsal içeriği anlayan kurum içi arama motorlarıyla işletmelere hizmet veriyor.
Bir NLP Güç Merkezi Olarak HuggingFace🤗’in Yükselişi
Dikkate değer bir diğer NLP girişimi de, en ileri düzeyde transformer tabanlı NLP modellerini kolayca inşa etmek, eğitmek ve dağıtmak için araçlar sağlayan HuggingFace. Kendini “geleceği inşa eden bir yapay zekâ topluluğu” olarak konumlayan HuggingFace, en yeni NLP modellerini ve veri kümelerini paylaşan etkin bir açık kaynak topluluğuna sahip. Kullanım kolaylığı, onu NLP araçlarının öncülerinden biri olarak konumunu daha da güçlendiriyor.
HuggingFace’in arayüzü
2016’daki kuruluşundan bu yana HuggingFace büyük ilgi topladı ve yapay zekâ topluluğu içinde muazzam popülerlik kazandı. Google AI, Facebook AI, Microsoft ve Allen Institute for AI gibi teknoloji devlerinin de aralarında bulunduğu 5.000’den fazla kuruluş tarafından kullanıldı. Github deposu da yaklaşık 60.000 yıldız topladı ve onu en popüler depolardan biri yaptı. Bu etkenler, Mart 2021 itibarıyla 61,3 milyon dolarlık etkileyici değerlemesine katkıda bulunuyor. Nisan 2022’de Business Insider, yeni yatırımların değerlemeyi 2 milyar dolara kadar çıkarabileceğini bildirdi.
HuggingFace’in CTO’su Julien Chaumond’a göre yapay zekânın demokratikleşmesi, toplum için en büyük başarılardan biri olacak. Bu yüzden HuggingFace’in NLP uygulamalarına erişimi genişletmeye adanmış olması şaşırtıcı değil. Model kitaplığı, PyTorch, TensorFlow ve Keras dahil olmak üzere çeşitli kütüphanelerden yaklaşık 42.000 modeli barındırıyor. En popüler modeli olan transformer tabanlı gpt2, 100 milyondan fazla indirme aldı.
HuggingFace’in etkinleştirdiği uygulamalar
Bu modeller, göz kamaştırıcı bir görev yelpazesinde uygulama alanı buldu. Çeviri, özetleme ve metin üretimi gibi NLP kullanım örneklerinin yanı sıra, depo aynı zamanda bilgisayarla görme (görüntü sınıflandırma, görüntü segmentasyonu) ve ses işleme (ses sınıflandırma, metinden sese) için de modeller içeriyor.
HuggingFace yakın zamanda NLP’yi deneyimli uygulayıcılar, yeni başlayanlar ve aradaki herkes için demokratikleştirme çabalarını artırdı. NLP’ye yeni başlayan öğrenciler, transformer tabanlı modellerin kullanımına dair pratik eğitimler sunan ücretsiz HuggingFace NLP kursundan yararlanabilir. ML projeleri inşa etmek ve dağıtmak isteyenler, HuggingFace’in Spaces’ında sunulan ücretsiz hesaplama kaynaklarını değerlendirebilir.
NLP meraklıları, HuggingFace’in Datasets kütüphanesiyle büyük metin derlemlerini de keşfedebilir. Veri bilimciler ve makine öğrenimi mühendisleri, HuggingFace’in yakın zamanda ölçekli transformer optimizasyonu için açık kaynaklı Optimum’u yayımladığını görmekten memnun olacaktır.
HuggingFace’in Datasets kütüphanesi, 467 dil ve lehçeden 4.500’ün üzerinde benzersiz veri kümesini barındırıyor ve bunların tümü birkaç satır kodla indirilebiliyor.
Yaklaşan BigScience Büyük Dil Modeli, şirketin demokratikleştirme çabalarının zirvesi niteliğinde. BigScience, dünya çapında 1.000’den fazla araştırmacının birlikte geliştirdiği çok dilli, 176 milyar parametreli bir dil modeli. Model, eğitimini 2022 ortasında tamamlayacak. O zamana kadar, BigScience’ın mümkün kılacağı teknolojiyi merakla bekleyebiliriz. BigScience Büyük Dil Modeli’nin eğitimini Twitter’da takip edebilirsiniz.
Artık NLP girişimlerinin sunduğu hizmet türlerini ele aldığımıza göre, bu hizmetlerin iki özel sektöre nasıl uygulanabileceğini inceleyelim.
Sağlıkta NLP’nin Geleceği
Sağlık sektörü, Amerikalı her on çalışandan birini istihdam eden ve ABD devlet harcamalarının %25’ini oluşturan, yılda 4 trilyon dolarlık bir endüstri. Hayati önemine rağmen, Amerikan sağlık sistemi verimsizliklerle boğuşuyor. NLP, sağlık hizmetlerini derinden dönüştürme vaadi taşıyor.
Bunun yollarından biri, sağlık hizmeti sunucularının bakım etkinliğini ve doğruluğunu artırmasıdır. Amerikan Tabipler Birliği’nin 2019 tarihli bir çalışmasına göre doktorlar, çalışma zamanlarının %50’sine denk gelen günde yaklaşık 6 saatlerini elektronik sağlık kayıtlarıyla (EHR) meşgul olarak geçiriyor. Zaman kaybı olmasının yanı sıra, EHR’ye yapılan manuel girişler kaçınılmaz olarak önlenebilir tıbbi hatalara da yol açıyor.
NLP, EHR’lerin oluşturulmasını ve analizini otomatikleştirerek bunu değiştirebilir. Ses-metne modellerle hekim-hasta görüşmeleri otomatık olarak yazıya dökülebilir. Metin özetleme modelleriyle hasta ziyaret özetleri hızla üretilebilir. Büyük ölçekli EHR’lerle eğitilen NLP modelleriyle tıbbi tanı ve tedaviler öngörülebilir.
NLP, hastaların tıbbi deneyimini de iyileştirebilir. NLP modelleri, klinik randevularla ilgili uygun bilgileri sağlayan, hastaları hatırlatan ve sağlıklarıyla ilgili soruları yanıtlayan sohbet botları oluşturmak için kullanılabilir.
NLP tarafından yanıtlanan bir hasta sorusuna örnek (Kaynak)
Bir çalışmada, meme kanseri hastaları bir yılı aşkın süre etkileşimde bulundukları bir tıbbi sohbet botundan %94’e yakın memnuniyet bildirdi. Babylon Health ve AdaHealth gibi şirketlerin bu fırsatı değerlendirmesi ve dünyanın dört bir yanındaki sağlık hizmetlerine sohbet botu çözümleri sunmaya başlaması şaşırtıcı değil. NLP’nin sağlık hizmetlerini değiştirme potansiyeli, bir MedTech girişimi olan Curai’nin CEO’su Neal Khosla tarafından şöyle özetleniyor: “Yapay zekâ ve NLP, kaliteli birinci basamak sağlık hizmetlerinin erişimini muazzam ölçekte artırma potansiyeli sunuyor; daha düşük maliyetle daha fazla insana erişilebilir kılıyor.”
Eğitimde NLP’nin Geleceği
NLP’nin bir diğer ilginç uygulaması eğitim alanında. Ölçekli olarak yüksek kaliteli eğitim sunmak önemli ekonomik zorluklar barındırıyor. Bu nedenle, araştırmacılar öğretmenlerin daha iyi ve daha verimli öğretmesine yardımcı olacak ölçeklenebilir hesaplamalı yaklaşımları araştırıyor. Günümüzün en güçlü NLP modelleri, belirli alanlarda konu uzmanı olacak şekilde eğitilebilir. Bu tür modeller, notlandırma, geri bildirim sağlama ve hatta soru üretimi gibi konularda öğretmenlere yardımcı olabilir.
Somut bir örnek, Stanford Üniversitesi’nde açık uçlu bir Giriş Düzeyi Bilgisayar Bilimi vize sınavını notlandıran ProtoTransformer. Bir görevin yönergesi, bir sorunun diyagramı ve puanlama anahtarı gibi çoklu bilgi kiplerini işleyebilmesi sayesinde ProtoTransformer, insan asistanları kadar etkili oldu.
NLP, büyük sınıflarda lojistik olarak mümkün olmayan kişiselleştirilmiş geri bildirim sunmayı da sağlayabilir. NLP geri bildirim verme sürecini otomatikleştirebilirse bu durum değişebilir. Bir örnek olarak, okul öncesinden lisansüstü düzeye kadar geniş bir matematiksel derlem üzerinde eğitilmiş bir BERT modeli olan MathBERT verilebilir.
NLP ayrıca soru üretme sürecini otomatikleştirebilir. Özellikle, Stanford’dan araştırmacılar, modern dil modellerinin hedef bir zorluk seviyesine ulaşan yeni ters-çeviri soruları üretebildiğini buldu.
Dil modelleri, çeşitli zorluklarda İngilizceden İspanyolcaya çeviri soruları üretti. İtalik olan sorular yenidir ve özgün veri setinde yoktur.
McKinsey’in araştırmaları, mevcut öğretmen çalışma saatlerinin %20 ila %40’ının mevcut teknolojiyle otomatikleştirilebileceğini öne sürüyor. Noodle Factory gibi eğitim teknolojisi girişimleri bu hedefe doğru atılmış bir adım. Öğretmenler manuel, tekrarlayan görevlerden kurtulduğunda, daha fazla zamanı koçluk ve mentorluk gibi–yapay zekânın taklit edemediği–görevlere ayırabilirler.
Büyük Dil Modellerinin Riskleri
Şu ana dek büyük dil modellerinin, daha önce imkânsız olan NLP yeteneklerinin kilidini nasıl açtığını inceledik. Ancak eleştirmenler ve araştırmacılar, yapay zekânın riskleri hesaba katılmadan gösterilecek sınırsız iyimserliğe karşı uyarıyor. Stanford’lu araştırmacıların belirttiği gibi, büyük dil modelleri bilimi, toplumu ve yapay zekâyı dönüştürmeye hazırlanıyor. Bu dönüşümlerin iyi mi kötü mü olacağı, riskleri nasıl yöneteceğimize bağlı olacak.
Bu risklerden biri, önyargıların ve zararlı içeriğin varlığıdır. Günümüzde dil modelleri, web’den kazınmış, küratörlüğü yapılmamış veri kümeleri üzerinde eğitiliyor. Bu tür bilgiler yanlış ya da zararlı olabilir. Bu da, modellerin dilin—kusurlarıyla birlikte—öğrenildiği ve mevcut dünyanın önyargılarını büyüttüğü anlamına gelir.
Azınlık gruplara zarar vermeyi sürdüren bir dil modeline ders kitabı gibi örnek, Microsoft’un 2016 tarihli sohbet botu Tay’dir; Tay, diğer Twitter kullanıcılarına ırkçı ve cinsel içerikli mesajlar attı. Daha yakın tarihte Wallace ve arkadaşları, herhangi bir girdiye tek bir tetikleyici eklemenin GPT-2’nin ırkçı çıktılar üretmesine yol açabileceğini, üstelik ırksal olmayan bağlamlarda koşullandırıldığında bile bunu yaptığını şok edici biçimde keşfetti. Aynı deneyde başka bir tetikleyici, SQuAD modelinin tüm “neden” sorularına “Amerikan halkını öldürmek için” yanıtını vermesine neden oldu.
Benzer şekilde, dil modellerini eğitmek için kullanılan veriler zehirlenebilir ve aşağı akıştaki uygulamaları zararlı modellere maruz bırakabilir. Korkutucu biçimde, Schuster ve ark. yalnızca birkaç kötü niyetli dosya enjekte ederek bir kod tamamlama NLP sistemine güvensiz kod üretmeyi öğretebildi. Düşünülebilir ki diğer üretici modeller de zararlı enjeksiyonlarla zararlı içerik üretmeyi öğrenebilir.
Dil modeli sağlayıcıları da başarısız olabilir. Hâlihazırda GPT-3, uygulayıcıların çıkarım için kullanılan verileri OpenAI’a yüklemesini gerektiriyor. Bu tür potansiyel olarak hassas verilerin ihlali, mahremiyetin ihlali anlamına gelebilir. Günümüzde pek çok dil modeli doğrudan HuggingFace’in altyapısı üzerinden de sunuluyor. Ortak altyapıya yönelik bir saldırı, üretimdeki çok sayıda dil modelini sekteye uğratma potansiyeline sahip.
Bu riskler, altta yatan önceden eğitilmiş dil modelleri ezici şekilde popüler olduğunda daha da artar. Bir hasım, popüler bir dil modelinde bir açık bulduğunda, aynı temel modeli paylaşan diğer uygulamaları da istismar edebilir.
Yorumlanabilirliğin Eksikliği
Yorumlanabilirlik, bir insanın bir kararın nedenini ne ölçüde anlayabildiği şeklinde tanımlanır. Ne yazık ki, günümüzün birçok NLP modeli ideal yorumlanabilirlik durumundan çok uzaktır.
Büyük dil modelleri, bir kararın nasıl verildiğine dair çok az içgörü sunan kara kutulardır. Karar sürecini tam olarak anlamadan yüksek riskli kararlar vermek muhtemelen akıllıca değildir. Örneğin, bir mahkûma şartlı tahliye verilip verilmeyeceğine karar vermek için kullanılan bir NLP sistemi, kararlarını olgulara dayanarak açıklayabilmelidir. Bu tür açıklamalar, kararın adilliğini ve tutarlılığını denetlemenin somut bir yoludur.
Kabul etmek gerekir ki, model davranışlarına açıklama getiren açıklanabilir yapay zekâ yöntemleri mevcut. Bunlar, bir kara kutu modeli açıklamak üzere tasarlanmış ayrı modellerdir. Örneklere Google’ın Language Interpretability Tool (LIT)’i ve LIME dahildir.
Google’ın LIT aracının bir demosu (Kaynak)
Yine de bu tür modellerden gelen açıklamalar sadakatsiz olabilir ve modelin tahmininin arkasındaki muhakeme sürecini doğru biçimde yansıtmayabilir. Dahası, güvenilmez, yanıltıcı ve tehlikeli olabilirler. Makul görünüp gerçekte sadakatsiz açıklamalar, uygulayıcıları yanlış bir güvenlik hissine sürükleyebilir ve onları sağlam olmayan modellere güvenmeye teşvik edebilir; bu durum, “Yüksek Riskli Kararlar İçin Kara Kutu Makine Öğrenimi Modellerini Açıklamayı Bırakın ve Bunun Yerine Yorumlanabilir Modeller Kullanın” başlıklı çığır açıcı makalede açıklandığı gibidir.
Büyük Dil Modelleri Yapay Zekânın Geleceğini Dönüştürecek
“Bu yalnızca bir paradigma değişiminin başlangıcı: Büyük Dil Modelleri, bu dünyada yapay zekâ sistemlerinin inşa edilme ve dağıtılma biçimlerini dönüştürmeye yeni başladı,” diye sonuçlandırdı bir grup yetkin yapay zekâ araştırmacısı, büyük dil modellerinin fırsatlarını ve risklerini tartışırken.
Büyük dil modellerinin mümkün kıldığı kullanım örnekleri hayranlık uyandırıcı. Yine de her parıltı altın değil. Yapay zekâ uygulayıcıları olarak, büyük dil modellerinin zayıf yönlerinin farkında olmalı ve onları sorumlu ve dikkatli biçimde kullanmalıyız. Ancak o zaman bu modellerin tüm potansiyelinden tam anlamıyla yararlanabiliriz.
Doğal dil işleme hakkında daha fazla bilgi edinin:
