Son birkaç aydır, veri bilimi ve yapay zekâ dünyaları OpenAI’nin en yeni dil modeli GPT-3’ün gelişiyle çalkalanıyor. Birçok kişi için bu model, tek bir algoritmanın çeşitli görevlerde insan dilini anlama ve kullanma becerisinde önemli bir sıçramayı temsil ediyor.
GPT-3’ü test eden geliştiriciler birçok ilgi çekici kullanım örneği sundu. Sade İngilizce komutlarla otomatik kod üretimi, tıbbi soruların yanıtlanması ve hukuki dilin çevrilmesi gibi örnekler, yapay zekâ destekli yazılımların bir sonraki nesli hakkında düşünen pek çok veri bilimcinin hayal gücünü ateşledi.
Kurumsal düzeyde makine öğreniminin değeri sıklıkla müşteri kaybını tahmin etme, basit satış tahminleri ve müşteri segmentasyonu gibi kolay kazanımlarda yatarken, GPT-3’ün ticarileştirilmesinin geleceğe dair ne anlama geldiğini düşünmek faydalıdır. Bu gelişme, yapay zekâyı nasıl düşündüğümüzü ve hayata geçirdiğimizi dönüştürme potansiyeline sahip.
Yapay zekâ, makine öğrenimi ve derin öğrenimi tanımlamak
İş dünyası ve medya, yapay zekâ (AI), makine öğrenimi (ML) ve derin öğrenme (DL) gibi moda terimlerle dolup taşıyor. GPT-3’ün nasıl çalıştığına geçmeden önce bu terimleri hızlıca tanımlayalım.
Google Brain’in kurucu ortağı ve Baidu’nun eski Baş Bilimcisi Andrew Ng, yapay zekâyı “bilgisayarları akıllıca davranır hale getirmek için kullanılan çok geniş bir araç seti” olarak tanımlar. Bu; hesap makineleri gibi açıkça programlanmış yazılımların yanı sıra öneri sistemleri ve otonom araçlar gibi ML uygulamalarını da kapsar.
Yapay zekâ ve bilgisayar oyunlarının öncüsü Arthur Samuel’e göre makine öğrenimi, “bilgisayarlara açıkça programlanmadan öğrenme yeteneği kazandıran” çalışma alanıdır. Genel olarak iki tür makine öğrenimi algoritması vardır. İlki, algoritmaların mevcut veriler (girdiler) ile etiketler (çıktılar) arasındaki örüntüleri öğrendiği ve görülmemiş veriler üzerinde çıktı tahmin ettiği denetimli öğrenmedir; örneğin, geçmiş kayıp verilerine dayanarak yeni bir müşterinin kayıp yaşayıp yaşamayacağını tahmin etmek. İkincisi ise, algoritmaların verideki genel örüntüleri keşfettiği ve benzer olan veri noktalarını kümeler halinde grupladığı denetimsiz öğrenmedir; örneğin, ortak davranış örüntülerine göre müşterilerin segmentlere ayrılması.
Derin öğrenme, beyindeki biyolojik sinir ağlarından esinlenen çok katmanlı yapay sinir ağlarına dayalı bir makine öğrenimi biçimidir. Hem denetimli hem de denetimsiz olabilir ve son on yılın görüntü tanıma ve duygu analizi gibi yüksek profilli ML kullanım örneklerinin büyük ölçüde sorumlusudur. Derin öğrenme modelleri, sinir ağı mimarisindeki katman ve düğüm sayısına bağlı olarak basitten karmaşığa değişen mimarilere sahiptir. Bir model ne kadar karmaşıksa o kadar çok parametreye sahiptir. Derin öğrenme modellerinin nasıl inşa edildiği hakkında daha fazla bilgi edinmek isterseniz DataCamp’in derin öğrenme yetkinlik yolunu inceleyin.
Bu konuları daha derinlemesine keşfetmek için e-kitabımızı okuyun: İş Liderleri için Makine Öğrenimine Kesin Rehber.
GPT-3 nasıl çalışır
Peki GPT-3, yapay zekâ, makine öğrenimi ve derin öğrenimle nerede kesişir? GPT kısaltması “üretken, önceden eğitilmiş dönüştürücü”ye (generative pre-trained transformer) karşılık gelir—genellikle büyük miktarda etiketlenmemiş metin üzerinde önceden eğitilen denetimsiz bir derin öğrenme algoritmasıdır. Daha sonra büyük, göreve özel etiketli bir veri kümesi üzerinde (ör. İngilizceden Fransızcaya çeviri) ince ayar yapılır ve belirli bir girdi kümesi (İngilizce kelimeler) verildiğinde en olası çıktı kümesini (Fransızca çeviri) çıkarsaması istenir. Bunu, çeşitli dil görevleri için son derece gelişmiş bir otomatik tamamlama biçimi olarak düşünebilirsiniz.
GPT-3 bu modelin üçüncü yinelemesidir ve seleflerinin mimarisinde yenilik yapmasa da, Common Crawl veri kümesi de dahil olmak üzere internetin büyük bir bölümünü kapsayan son derece büyük veri kümeleri üzerinde önceden eğitilir ve ağ mimarisinde çok daha fazla katman içerir. Bu da GPT-3’ü, ağ mimarisinde 175 milyar parametreyle tasarlanmış en karmaşık dil modeli yapar. Bu, Microsoft’un Turing-NLG modelinden on kat, GPT-2’den ise 117 kat daha fazla parametre demektir.
En önemlisi, GPT-3 az örnekle öğrenmeden (few-shot learning) faydalanır; yani önceden eğitilmiş modelin belirli bir dil görevi için büyük etiketli eğitim verisiyle ince ayar yapılmasına gerek yoktur. Bunun yerine kendisine bir görev tanımı—İngilizce kelimeleri Fransızcaya çevir—ve girdilerin çıktılara eşlendiği birkaç örnek verilir. Kullanımı kolay tak-çalıştır bir arayüzle birleştiğinde GPT-3, giriş engellerini büyük ölçüde ortadan kaldırır ve uzman olmayanların farklı dil görevlerinde anlamlı sonuçlar üretmesine olanak tanır.
GPT-3 neden önemlidir
Sadece birkaç örnek ve görev tanımıyla GPT-3, çeşitli dil görevleri için göreve özel eğitim verileriyle ince ayar yapılmış dil modellerine rakip olur. GPT-3 ayrıca, zorunlu olarak dil görevi olmayan aritmetik gibi akıl yürütme gerektiren görevlerde de belli bir başarı gösterir. Örneğin, toplama ve çıkarmaya ilişkin birkaç örnekle beslendikten sonra, iki basamaklı toplama ve çıkarmada %100 doğruluk sergilemiştir. Daha az parametreli daha basit modeller bu görevlerde %60 doğruluk eşiğini aşamamıştır. GPT-3 daha karmaşık aritmetik biçimlerinde tökezlese de, bu durum daha karmaşık modellerin eğitildikleri alanın dışında genelleme yapma yeteneğine sahip olabileceğini düşündürür.
İlginç biçimde, bu durum yalnızca veri kümesi ve model boyutlarını artırarak daha fazla kazanım elde edilebileceğini de gösterir. Şu anda, modelin farklı görevler üzerindeki toplam performansının 175 milyar parametrede plato yaptığına dair bir işaret görünmüyor. GPT-2’den GPT-3’e parametre ölçeklemesindeki artışın benzeri varsayıldığında, GPT-4’ün GPT-3’ten 117 kat fazla parametreye sahip olması hâlinde performansın nasıl ölçekleneceğini insan merak etmeden edemiyor.
Şu anda özel beta sürümünde kalibre edilmekte olsa da, GPT-3’ün bir tak-çalıştır API olarak paketlenmesi, özel betadan çıkar çıkmaz ölçekli kullanımına imkân tanıyabilir. Yapay zekâ araştırmacısı Shreya Shankar’ın belirttiği gibi, önemli bir zorluk bu API’yi kuruluşların kullanımı için verimli ve kolay şekilde sunmak olacaktır.
Bunun geleceğe etkileri
Yeni teknolojiler sıklıkla Gartner’ın abartı döngüsünü izler—nitekim OpenAI CEO’su Sam Altman, GPT-3 hakkındaki abartı alarmını şimdiden çaldı.
Bununla birlikte, GPT-3 geliştiricilerinden gelen kullanım örnekleri, orta ve uzun vadede bekleyebileceğimiz yapay zekâ destekli uygulama türlerine ışık tutuyor. Potansiyel uygulamalar arasında tasarımcıların kolayca prototip oluşturmasına yardımcı olacak araçlar, veri analizini sadeleştiren çözümler, daha sağlam araştırmaları mümkün kılan sistemler, içerik pazarlamacıları için içerik üretimini otomatikleştirme ve daha fazlası yer alıyor.
Ayrıca, modelin kullanımı kolay bir tak-çalıştır arayüzle paketlenmesi, yapay zekânın kurum genelinde nasıl araçsallaştırıldığına dair dinamikleri de değiştirebilir. Örneğin bu durum, kurumların kendi bünyelerinde model geliştirme motivasyonunu azaltabilir ve teknik uzmanlığı sınırlı olan kişilerin GPT-3 kullanarak çözümler geliştirmesini mümkün kılabilir.
Son olarak, yapay zekâ sistemlerini ölçekli biçimde dağıtırken önyargı yoluyla zarar yayma kapasitesinin farkında olmalısınız. Birçok araştırmacının GPT-3’ü denerken belirttiği gibi, nötr girdilere dayalı olarak kalıp yargıları ve önyargıları pekiştiren zararlı çıktılar üretmek nispeten kolaydır.
Herhangi bir makine öğrenimi algoritmasında olduğu gibi, ölçekli biçimde devreye alındığında GPT-3 de potansiyel zararlara karşı ciddi bir inceleme ve izleme gerektirir.
