GPT-3’e Yeni Başlayanlar İçin Rehber

Doğal Dil İşleme (NLP), bilgisayarlarla insan (doğal) dilleri arasındaki etkileşimlerle ilgilenen, dilbilim, bilgisayar bilimi, yapay zekâ ve bilgi mühendisliği alanlarının bir alt dalıdır; özellikle bilgisayarların büyük miktarda doğal dil verisini işlemesi ve analiz etmesi için nasıl programlanacağını konu alır.

Kulağa ilginç geliyor mu? Ya size, GPT-3 adlı bir algoritmadan bu paragrafın tamamını yazmasını istediğimizi ve ilk denemede başardığını söylesek? Şaka yapmıyoruz! Şuna bir bakın…

Eylemde GPT-3

Etkileyici, değil mi?! Şimdi tekrar NLP’ye dönelim. NLP, bilgisayarların insan dilini metin veya ses verisi biçiminde işlemesini ve konuşanın ya da yazarın niyeti ile duygusunu kapsayacak şekilde “tam anlamını” anlamasını sağlar. NLP, son on yılın en heyecan verici yapay zekâ keşiflerinin ve uygulamalarının gerçekleştiği bir alan oldu. Son birkaç yıldır bu alanda görülen en heyecan verici ve üretken eğilim, GPT-3’ün de ait olduğu büyük dil modelleridir.

GPT-3, bazıları tarafından Yapay Genel Zekâ arayışında ilk adım olarak görülüyor. Dışarıdaki diğer tüm yapay zekâ modellerinden daha fazla dikkat çekti. Bir dizi genelleştirilmiş görevi insan seviyesine yakın verimlilik ve doğrulukla yerine getirmekteki olağanüstü esnekliği onu bu kadar heyecan verici kılıyor. Model, veri bilimciler, geliştiriciler ve dünyanın dört bir yanından her meslekten insana, dünyanın en güçlü dil modellerinden birine eşi benzeri görülmemiş bir erişim sağlama amacıyla bir API olarak yayınlandı. 

Model, yapay zekâ Ar-Ge’sinin ön saflarında yer alan OpenAI tarafından oluşturuldu. Temmuz 2020’deki ilk sürümünden bu yana, dünya genelindeki geliştiriciler GPT-3 için iletişim kurma, öğrenme ve oyun oynama biçimlerimizi ileri taşıma potansiyeline sahip yüzlerce heyecan verici uygulama buldu. Genel dil tabanlı görevleri kolaylıkla çözebiliyor ve farklı metin tarzları ile amaçları arasında özgürce hareket edebiliyor. 

GPT-3’ten önce dil modelleri, metin üretimi, özetleme veya sınıflandırma gibi tek bir belirli NLP görevi için tasarlanırdı. GPT-3, doğal dil işlemenin tarihinde, çeşitli NLP görevlerinde eşit derecede iyi performans gösterebilen ilk genelleştirilmiş dil modelidir. GPT-3, “Üretken Önceden Eğitilmiş Dönüştürücü”nün kısaltmasıdır ve OpenAI’ın modelin üçüncü yinelemesidir. Bu üç terimi kısaca açıklayalım: 

• Üretken (Generative): Üretken modeller, yeni veri noktaları üretmek için kullanılan bir tür istatistiksel modeldir. Bu modeller, veri kümesindeki değişkenler arasındaki temel ilişkileri öğrenerek, veri kümesindekilere benzer yeni veri noktaları üretir.  
• Önceden Eğitilmiş (Pre-trained): Önceden eğitilmiş modeller, büyük bir veri kümesi üzerinde halihazırda eğitilmiş modellerdir. Bu sayede, sıfırdan bir modeli eğitmenin zor olacağı görevlerde kullanılabilirler. Önceden eğitilmiş bir model %100 doğru olmayabilir, ancak tekerleği yeniden icat etmenize gerek kalmadan zaman kazandırır ve performansı artırır.
• Transformer: Transformer modeli, 2017’de icat edilen ünlü bir yapay sinir ağıdır. Metin gibi sıralı verileri işlemek üzere tasarlanmış derin öğrenme modelidir. Transformer modelleri sıklıkla makine çevirisi ve metin sınıflandırması gibi görevlerde kullanılır. 

Bir sonraki bölümde dil modellerinin daha geniş bağlamına bakacağız—ne oldukları, nasıl çalıştıkları ve ne için kullanıldıkları. GPT-4 hakkında bildiklerimizi ayrı bir yazıda bulabilir, buradan yapay zekâ hakkında daha fazla bilgi edinebilir ya da OpenAI, Google AI ve bunların veri bilimi için ne anlama geldiğine dair en güncel gelişmeleri öğrenebilirsiniz.

Büyük Dil Modelleri Nedir?

Son yıllarda doğal dil işleme (NLP) alanında büyük dil modelleri (LLM) geliştirmeye yönelik büyük bir ilgi oluştu. Geniş metin yığınları üzerinde eğitilen LLM’ler, metin üretimi, makine çevirisi ve soru yanıtlama dahil olmak üzere çeşitli dil tabanlı görevlerde kullanılabilir.

Dil modelleme, bir dilde cümlelerin nasıl bir araya geldiğini olasılıksal olarak anlamlandırma işidir. Basit dil modelleri, bir kelimeye bakıp, mevcut metin dizilerinin istatistiksel analizine dayanarak onu izlemesi en muhtemel bir sonraki kelime(leri) tahmin edebilir. Örneğin, “I love walking my ...” cümlesinin “dog” kelimesiyle bitmesi, “refrigerator” kelimesiyle bitmesinden daha olasıdır. Kelime dizilerini doğru tahmin edebilmesi için modeli çok fazla veriyle eğitmek önemlidir.

LLM’leri, metnin giriş ve tahminlerin çıkış olduğu istatistiksel öngörü makineleri olarak düşünebilirsiniz. Muhtemelen telefondaki otomatik tamamlama özelliğinden aşinasınızdır. Örneğin “good” yazarsanız, otomatik tamamlama “morning” veya “luck” gibi öneriler sunabilir. Otomatik tamamlama gibi doğal dil işleme uygulamaları büyük ölçüde dil modellerine dayanır. 

Dil modelleri uzun zamandır var olmasına rağmen, yalnızca yakın zamanda bu kadar başarılı hale geldiler. Bunun nedenleri arasında büyük miktarda eğitim verisinin bulunabilirliği, daha iyi eğitim algoritmalarının geliştirilmesi ve eğitimi hızlandırmak için GPU’ların kullanılması yer alır. Daha fazla veriyle modeller, kelimeler arasındaki ilişkiler ve kullanıldıkları bağlam hakkında daha çok şey öğrenebilir. Bu da metnin anlamını daha iyi kavramalarını ve daha doğru tahminler üretmelerini sağlar.

LLM’lerin başarısı, bir metindeki kelimeler arasındaki bağımlılıkları yakalayabilmelerinden kaynaklanır. Örneğin “The cat sat on the mat” cümlesinde “cat” kelimesi “the” kelimesine, “mat” kelimesi ise “on” kelimesine bağımlıdır. Büyük bir dil modelinde bu bağımlılıklar modelin parametrelerine işlenir. Büyük dil modelleri geliştikçe, kullandıkları parametre sayısı da patladı; bunu Microsoft Research’ün yayımladığı aşağıdaki grafikte görebilirsiniz.

Logaritmik ölçekte zaman içinde en gelişmiş NLP modellerinin boyutlarındaki eğilim
Kaynak: Microsoft Research blogundaki gönderi, 11 Ekim 2021

Büyük dil modellerinin önceden eğitimi büyük miktarda hesaplama gerektirir ve bu enerji yoğundur. Bu modellere yönelik artan talep giderek daha fazla hesaplama kaynağı gerektirir. Bu durum, sürdürülemez enerji kullanımı ve karbon emisyonları gibi önemli çevresel maliyetler doğurur.

2019’da Massachusetts Üniversitesi’nden araştırmacılar, büyük bir derin öğrenme modelini eğitmenin 626.000 pound gezegeni ısıtan karbondioksit ürettiğini, bunun beş arabanın ömür boyu emisyonuna eşit olduğunu tahmin etti. Modeller büyüdükçe, donanım verimliliğindeki iyileştirmeleri geride bırakan hesaplama ihtiyaçları doğuyor. 2021 tarihli bir çalışma, GPT-3’ün eğitiminde yaklaşık 552 metrik ton karbondioksit üretildiğini tahmin ediyor. Bu, 120 arabanın bir yıllık sürüşte üreteceği miktara yakın.

Bununla birlikte, 2019 tarihli Green AI makalesi, “önceden eğitilmiş modellerin kamuya açık şekilde yayımlanması eğiliminin yeşil bir başarı olduğunu” belirtir ve yazarlar, kuruluşları “başkalarının yeniden eğitme maliyetinden tasarruf etmelerini sağlamak için modellerini yayımlamaya devam etmeye” teşvik eder. OpenAI gibi önceden eğitilmiş büyük dil modelleri yayımlayan şirketler, modellerin eğitimindeki karbon ayak izini azaltmak için sürekli olarak yeni teknikler araştırıp geliştiriyor. 

GPT-3, üzerinde eğitildiği veri kümesinin muazzam boyutu ve 175 milyar parametreden oluşan büyük mimarisi sayesinde çeşitli NLP görevlerini büyük bir doğrulukla yerine getirir; bu da verideki mantıksal ilişkileri anlamasını sağlar. GPT-3, Common Crawl, WebText2, Books1, Books2 ve Wikipedia’yı içeren beş büyük veri kümesinden oluşan bir metin korpusu üzerinde önceden eğitilmiştir. Bu korpus toplamda neredeyse bir trilyon kelime içerir ve GPT-3’ün örnek veri sağlamadan, sıfır atış (zero-shot) ayarında şaşırtıcı sayıda NLP görevini başarıyla yerine getirmesini mümkün kılar. 

Bir sonraki bölümde, dil modelleme alanını kasıp kavuran ve NLP’de mümkün olanın tanımını değiştiren ünlü mimari olan transformer’ları inceleyeceğiz.

Transformer Modelleri Nedir?

Transformer, özellikle dil modelleme görevleri için çok uygun bir sinir ağı mimarisidir. İlk kez 2017’de “Attention is All You Need” başlıklı makalede tanıtıldı.  Makale, transformer’ları, uzun menzilli bağımlılıkları rahatlıkla ele alırken diziden diziye görevleri verimli bir şekilde yürütecek şekilde tasarlanmış bir sinir ağı mimarisi olarak açıklar. Transformer modelleri hızla doğal dil işleme görevlerinin başlıca mimarisi haline geldi ve bugün NLP alanına hâkim durumdadır. 

Diziden Diziye (Sequence-to-Sequence), transformer modellerinin belkemiğini oluşturan bir mekanizmadır. Kısaca Seq2Seq olarak bilinen bu mimari, bir cümledeki kelimeler gibi belirli bir öğe dizisini, farklı bir dildeki cümle gibi başka bir diziye dönüştürür; bu da onu çeviri görevleri için özellikle uygun kılar. Google Translate, 2016’nın sonlarında üretimde benzer bir mimariyi kullanmaya başladı.

Kaynak: Jay Alammar’ın “The Illustrated Transformer” blog gönderisi

Seq2Seq modelleri iki bölümden oluşur: bir kodlayıcı (encoder) ve bir kod çözücü (decoder). Kodlayıcı ve kod çözücüyü yalnızca iki dil konuşabilen insan çevirmenler olarak düşünebilirsiniz. Her birinin farklı bir ana dili vardır; örneğimiz için kodlayıcının ana dili Çince, kod çözücünün ana dili İngilizce olsun. İkisi de ortak bir ikinci dile sahiptir; diyelim ki Japonca. Çinceyi İngilizceye çevirmek için kodlayıcı, Çince cümleyi Japoncaya dönüştürür. Bağlam olarak bilinen bu Japonca cümle kod çözücüye iletilir. Kod çözücü Japoncayı anladığı ve bu dili okuyabildiği için artık Japoncadan İngilizceye çevirebilir.

Transformer mimarisinin bir diğer kilit bileşeni “dikkat” (attention) adlı mekanizmadır. Bu, bilişsel dikkati taklit eden bir tekniktir. Bilişsel dikkat, beynimizin bir cümlenin önemli kısımlarına odaklanma biçimini yansıtarak genel anlamını kavramamıza yardımcı olur.  Örneğin bu cümleyi okurken, her zaman okuduğunuz kelimeye odaklanırsınız, ancak aynı anda belleğiniz bağlam sağlamak için cümlenin en önemli anahtar kelimelerini tutar.

Dikkat mekanizması, bir girdi dizisine parça parça bakar ve her adımda dizinin diğer hangi kısımlarının önemli olduğuna karar verir. Bu, transformer’ın, kendi başlarına birbirine işaret eden bariz göstergeler taşımayan ilişkili kelimeleri bağlayarak gürültüyü süzmesine ve ilgili olana odaklanmasına yardımcı olur. 

Transformer modelleri, daha büyük mimarilerden ve daha fazla veriyle beslenmekten fayda sağlar. Bu da onları, cümledeki kelimelerin bağlamını anlamada diğer tüm sinir ağı türlerinden daha iyi kılar; makine öğrenmesi alanındaki büyük etkilerini bu açıklar. Gelişmeye devam ettikçe, önümüzdeki yıllarda daha da büyük bir etkiye sahip olmaları muhtemeldir ve siz de birkaç basit adımda LLM’lerle denemelere başlayabilirsiniz.

GPT-3 ile Başlarken

OpenAI API’sinde Gezinme

GPT-3, dünyadaki en sofistike ve karmaşık dil modellerinden biri olsa da, yeteneklerine basit bir “metin-girdi-metin-çıktı” kullanıcı arayüzü üzerinden erişilebilir. GPT-3 ile başlamanız için ilk gereken şey, OpenAI API’ye erişim almaktır. Buradan başvurabilir ve birkaç dakika içinde hesabınızı oluşturabilirsiniz.

Bir OpenAI geliştirici hesabına erişim sağladıktan sonra, API ile denemeler yapmanıza ve farklı bileşenlerinin nasıl bir arada çalıştığını öğrenmenize olanak tanıyan özel, web tabanlı bir kum havuzu ortamı olan Playground’a bakacağız.

OpenAI API’nin Bileşenleri

İşte farklı API bileşenlerine ve işlevlerine genel bir bakış:

• Yürütme Motoru: Yürütmede kullanılacak dil modelini belirler. Doğru motoru seçmek, modelinizin yeteneklerini ve dolayısıyla alacağınız çıktıyı belirlemenin anahtarıdır. 
• Yanıt Uzunluğu: Yanıt uzunluğu, API’nin tamamlamasında ne kadar metin döndüreceğine bir sınır koyar. OpenAI, API çağrı başına üretilen metin uzunluğuna göre ücretlendirdiği için, yanıt uzunluğu bütçesi sınırlı olanlar için kritik bir parametredir. Daha yüksek yanıt uzunluğu daha fazla maliyet demektir.
• Sıcaklık (Temperature): Sıcaklık, 0 ile 1 arasında bir aralıkla temsil edilen yanıtın rastgeleliğini kontrol eder. Daha düşük sıcaklık değeri, API’nin modelin ilk gördüğü şeyle yanıt vereceği; daha yüksek değer ise modelin sonuca dökmeden önce bağlama uyabilecek olası yanıtları değerlendireceği anlamına gelir.
• Top P: Top P, sıcaklık ayarının önerdiği şekilde, modelin tamamlamada kaç rastgele sonucu dikkate alacağını kontrol eder ve böylece rastgeleliğin kapsamını belirler. Aralığı 0 ile 1 arasındadır. Daha düşük değer yaratıcılığı sınırlar, daha yüksek değer ufkunu genişletir.
• Frekans ve Varlık (Presence) Cezası: Frekans cezası, modeli “cezalandırarak” aynı satırı kelimesi kelimesine tekrarlama olasılığını azaltır. Varlık cezası ise yeni konulardan bahsetme olasılığını artırır.
• Best of: Bu parametre, sunucu tarafında oluşturulacak tamamlama sayısını (n) belirtmenize ve “n” tamamlama arasından en iyisini döndürmenize olanak tanır.
• Durdurma Dizisi (Stop Sequence): Durdurma dizisi, API’ye tamamlamayı durdurmasını bildiren karakterler kümesidir.
• Başlangıç ve Yeniden Başlatma Metni Ekle: Başlangıç metni ve yeniden başlatma metni parametreleri sırasıyla tamamlamanın başına veya sonuna metin eklemenizi sağlar.
• Olasılıkları Göster: Bu seçenek, modelin belirli bir girdi için üretebileceği belirteçlerin olasılığını göstererek metin istemini hata ayıklamanıza olanak tanır.

OpenAI API, kullanılan parametre sayısı, performans özellikleri ve fiyat bakımından farklılık gösteren dört farklı yürütme motoru sunar. Artan yetenek ve boyut sırasına göre birincil motorlar Ada (Ada Lovelace’tan), Babbage (Charles Babbage’tan), Curie (Madame Marie Curie’den) ve Davinci’dir (Leonardo da Vinci’den). 

Yukarıdaki dört birincil model temel alınarak, OpenAI talimatları anlama ve bunları izleyerek ihtiyacınıza uygun özgül çıktılar üretme konusunda daha başarılı olan InstructGPT adlı bir dizi geliştirilmiş model çıkardı. Yapmanız gereken tek şey modele ne yapmasını istediğinizi söylemek; model de talimatlarınızı yerine getirmek için elinden geleni yapacaktır. GPT-3 modeline talimat verme süreci istem mühendisliği olarak adlandırılır. 

İstem (Prompt) Mühendisliği

GPT-3, görevden bağımsız olacak şekilde tasarlanmıştır. Bu, belirli bir eğitim istemi verildiğinde potansiyel olarak sayısız görevi yerine getirebileceği anlamına gelir. Yapay zekâ çözümleri üretmek hiçbir zaman kolay olmadı; ancak GPT-3 ile ihtiyacınız olan tek şey, düz İngilizceyle yazılmış makul bir eğitim istemidir.

Kaynak: Andrej Karpathy’nin 18 Haziran 2020 tarihli tweet’i

Bir GPT-3 uygulaması oluştururken ilk ve en önemli husus, eğitim isteminin tasarımı ve içeriğidir. İstem tasarımı, GPT-3 modelini elverişli ve bağlamsal bir yanıt vermeye hazırlamadaki en önemli süreçtir. 

İstem, modelin istediğiniz çıktıyı üretmesi için verdiğiniz metin girdisidir. İyi bir istem tasarlamak, modele metin girdisinde görevle ilgili yeterli bağlam vermek demektir. GPT-3, girdiye bakar ve girişi en iyi şekilde tamamlayacağını düşündüğü metinle yanıt vermeye çalışır. 

Bir bakıma istem tasarımı, sessiz sinema oyunu oynamaya benzer!

İyi istemler yazmanın sırrı, GPT-3’ün dünya hakkında neleri bildiğini anlamak ve bu bilgiyi kullanarak faydalı sonuçlar üretmesini sağlamaktır. Sessiz sinema oyununda amacımız, oyunculara doğru kelimeyi zeka yoluyla bulmaları için yeterince ipucu vermektir. Aynı şekilde, modelin örüntüleri çözmesi ve görevi yerine getirmesi için GPT-3’e de eğitim istemi biçiminde yeterli bağlam vermeliyiz. Modele çok fazla bilgi yükleyerek doğal zekâ akışını kesmek istemeyiz; ancak çok az bilgi vermek de hatalı sonuçlara yol açabilir.

Genel bir kural olarak, eğitim istemini tasarlarken modelden sıfır atış yanıtı almayı hedeflemelisiniz. Bu mümkün değilse, tüm bir korpus sağlamak yerine birkaç örnekle ilerleyin. Eğitim istemi tasarımı için standart akış şu şekilde olmalıdır: 

Sıfır Atış → Birkaç Atış → Korpusa Dayalı Hazırlama

Metin girdinizde model “Q” harfini ve bir soru görürse, bir yanıt yazmaya çalışacaktır; ancak bu mutlaka beklediğiniz yanıt olmayabilir. Yeterli bağlam olmadan, örneğin yanlış cevaplı bir soru listesi yazdığınızı varsayabilir. En iyi yanıtı almak istiyorsanız, GPT-3’e ne tür cevaplar vermesi gerektiğini bildirmeniz gerekir.

GPT-3’ten şu girişi tamamlamasını istemek yerine:

Q:
A:

Ki ilk tamamlamamız şu şekildeydi:

Q:
A:

Q:
A:

Şu (veya oluşturmasını istediğiniz soru türüne bağlı bir varyasyon) gibi bir istem kullanarak soru çıktınızı büyük ölçüde iyileştirebilirsiniz:

Write a few trivia questions.

Q:
A:

Burada ilk denemede şu tamamlamayı aldık:

What is the name of the longest river in Africa?
The Nile

What are the top 5 most spoken languages in the world?
Mandarin, Spanish, English, Hindi, Arabic

Yukarıdaki gibi basit talimatlar, GPT-3’ün aradığınız şeye daha uygun cevaplar vermesi gerektiğini anlaması için yeterlidir; bu örnekte birkaç bilgi yarışması sorusu. Sonucu iyileştirmek için “A:” yerine “Factual answer:” gibi bir ifade de kullanabilirsiniz.

Write a few trivia questions.

Question:
Factual answer:

Bu girdiye karşılık aşağıdaki tamamlamayı aldık:

1. What is the world’s largest desert?

The Sahara desert.

2. What is the world’s deepest Ocean?

The Pacific Ocean.

GPT-3 Sandbox—OpenAI API’yi Python ile Kullanma

Bu bölümde, fikirlerinizi yalnızca birkaç satır Python koduyla gerçeğe dönüştürmenizi sağlayan açık kaynaklı bir araç olan GPT-3 Sandbox’ı adım adım anlatacağız. Nasıl kullanacağınızı ve belirli bir uygulamanıza göre nasıl özelleştireceğinizi göstereceğiz. Bu kum havuzunun amacı, teknik geçmişiniz ne olursa olsun havalı web uygulamaları oluşturmanızı mümkün kılmaktır. 

Bir GPT-3 uygulaması oluşturma ve dağıtma sürecini adım adım anlatan bu etkileşimli video serisini izleyin. GPT-3 kum havuzunu kullanmak için şu teknik yığına ihtiyacınız olacak:

• Python 3.7+
• VS Code gibi bir IDE

Kodları IDE’nizde yeni bir terminal açıp şu komutu kullanarak bu depodan klonlayın:

git clone https://github.com/Shubhamsaboo/kairos_gpt3

Bir web uygulaması oluşturmak ve dağıtmak için gereken her şey kodda zaten mevcut. Yalnızca belirli kullanımız için kum havuzunu özelleştirmek üzere birkaç dosyada küçük değişiklikler yapmanız yeterli. Şimdi, başlamak için bir Python sanal ortamı oluşturun. Sanal ortamı oluşturduktan sonra, gerekli bağımlılıkları şu komutla yükleyebilirsiniz: 

pip install -r requirements.txt

Artık kum havuzu kodunu özelleştirmeye başlayabilirsiniz. Bakmanız gereken ilk dosya training_data.py. Bu dosyayı açın ve varsayılan istemi kullanmak istediğiniz eğitim istemiyle değiştirin. Farklı eğitim istemlerini denemek için GPT-3 playground’ı kullanabilirsiniz (kitabın 2. bölümü ve kum havuzunu özelleştirme hakkında daha fazlası için şu videoya bakın).

Artık API parametrelerini (Maximum tokens, Execution Engine, Temperature, Top-p, Frequency Penalty, Stop Sequence) ayarlamaya hazırsınız. Belirli bir eğitim istemi için farklı API parametre değerlerini kum havuzunda deneyerek, kullanım durumunuza en uygun değerleri belirlemenizi öneririz. Tatmin edici sonuçlar aldığınızda training_service.py dosyasındaki değerleri değiştirebilirsiniz.

Hepsi bu kadar! GPT-3 tabanlı web uygulamanız artık hazır. Yerelde şu komutla çalıştırabilirsiniz:

streamlit run gpt_app.py

Uygulamayı dağıtmak ve daha geniş bir kitleyle paylaşmak için Streamlit sharingi kullanabilirsiniz. Uygulamanızı dağıtmanın tüm adımları için şu videoyu izleyin.

GPT-3 ile Neler Geliştirebilirsiniz? 

GPT-3’ün yayınlanmasından önce, çoğu insanın yapay zekâ ile etkileşimi Alexa’dan en sevdiğiniz şarkıyı çalmasını istemek veya Google Translate ile farklı dillerde konuşmak gibi belirli görevlerle sınırlıydı. LLM’lerin gelişimiyle önemli bir paradigma değişimi görüyoruz. LLM’ler, model boyutları artırıldığında yapay zekâ uygulamalarının insanlar gibi yaratıcı ve karmaşık görevleri yerine getirebileceğini bize gösterdi. 

GPT-3, yaratıcı girişimcilerin hayal gücünü doğru teknolojiyle besleyerek bir sonraki girişim dalgasına güç veriyor. OpenAI API’yi yayımladıktan hemen sonra, onu sorunları çözmek için kullanan şirketlerle girişimcilik sahnesi dolup taştı. Yaratıcı sanatlar, veri analizi, sohbet botları, metin yazarlığı ve geliştirici araçları gibi alanlarda ürünlerinin merkezinde GPT-3’ü kullanan önde gelen girişimlerden bazılarına bakarak bu dinamik ekosistemi keşfedelim. 

1. GPT-3’ün Yaratıcı Uygulamaları: Fable Studio

GPT-3’ün en heyecan verici yeteneklerinden biri hikâye anlatımıdır. Modele bir konu verip sıfır atış ayarında hikâye yazmasını isteyebilirsiniz. Bu olanaklar, yazarların hayal gücünü genişletiyor ve olağanüstü eserler ortaya çıkarmalarını sağlıyor. Örneğin, Jennifer Tang’in yönettiği ve Chinonyerem Odimba ile Nina Segal’la birlikte geliştirilen AI adlı oyun, GPT-3’ün yardımıyla insan ve bilgisayar zihinleri arasında benzersiz bir işbirliğini tasvir ediyor. 

Fable Studio, modelin yaratıcı hikâye anlatımı yeteneklerinden yararlanan bir şirket. Neil Gaiman ve Dave McKean’in çocuk kitabı Wolves in the Walls’u Emmy Ödüllü bir VR film deneyimine uyarladılar. Filmin başkahramanı Lucy, GPT-3 tarafından üretilen diyaloglar sayesinde insanlarla doğal sohbetler kurabiliyor. Şirket, modelin gelecek yinelemeleriyle birlikte, en iyi insan yazarlar kadar yetenekli ve yaratıcı bir yapay zekâ hikâye anlatıcısının geliştirilebileceğine inanıyor.

2. GPT-3’ün Veri Analizi Uygulamaları: Viable

Viable, anketler, yardım masası kayıtları, canlı sohbet günlükleri ve müşteri yorumlarındaki temaları, duyguları ve eğilimleri tanımlayan bir geri bildirim toplama aracıdır. Ardından sonuçların özetini saniyeler içinde sunar. Örneğin, “Ödeme deneyiminde müşterilerimizi ne rahatsız ediyor?” diye sorulduğunda Viable şu şekilde yanıt verebilir: “Müşteriler, ödeme akışının yüklenmesinin çok uzun sürmesinden rahatsız. Ayrıca, ödeme sırasında adreslerini düzenleyebilmek ve birden fazla ödeme yöntemini kaydedebilmek istiyorlar.”

Müşteri geri bildirimleri konusunda uzman olduklarından bekleneceği üzere, Viable yazılımın ürettiği her cevabın yanında beğeni ve beğenmeme düğmeleri bulundurur. Bu geri bildirimleri yeniden eğitimde kullanırlar. Sürece insanlar da dahildir: Viable’ın, hem dahili modeller hem de GPT-3 ince ayarı için eğitim veri setleri oluşturmaktan sorumlu bir açıklama ekibi vardır. Bu ince ayarlı modelin güncel yinelemesini çıktı üretmek için kullanırlar ve insanlar kalite açısından değerlendirir. Çıktı mantıklı gelmiyorsa veya doğru değilse, yeniden yazarlar. Tatmin edici buldukları çıktılardan bir liste elde ettiklerinde, bu listeyi eğitim veri setinin bir sonraki yinelemesine geri beslerler.

3. GPT-3’ün Sohbet Botu Uygulamaları: Quickchat

Emerson AI, Quickchat şirketinin sohbet botu personasıdır ve genel dünya bilgisi, çoklu dil desteği ve sohbeti sürdürebilme becerisiyle tanınır. Emerson AI, GPT-3 destekli sohbet botlarının yeteneklerini sergilemek ve kullanıcıları şirketleri için benzer bir persona uygulamak üzere Quickchat ile çalışmaya teşvik etmek için kullanılır. Quickchat’in ürün teklifi, herhangi bir konu hakkında konuşabilen genel amaçlı bir sohbet yapay zekâsıdır. Müşteriler, ürünlerine özgü ekstra bilgiler ekleyerek sohbet botunu özelleştirebilir. Quickchat, müşteri desteğini otomatikleştirme ve kullanıcıların dahili şirket bilgi tabanında arama yapmasına yardımcı olacak bir yapay zekâ personası uygulama gibi çeşitli alanlarda kullanılmıştır.

Tipik sohbet botu hizmeti sağlayıcılarının aksine Quickchat, herhangi bir konuşma ağacı veya katı senaryo oluşturmaz; sohbet botuna belirli bir şekilde cevap vermeyi öğretmesine de gerek yoktur. Bunun yerine müşteriler basit bir süreç izler: Yapay zekânızın kullanmasını istediğiniz tüm bilgileri içeren metni kopyalayıp yapıştırırsınız ve yeniden eğit düğmesine tıklarsınız; birkaç saniyede bilgiyi özümler ve hepsi bu. Artık verilerinizle eğitilen sohbet botu, deneme sohbeti yapmaya hazırdır. 

4. GPT-3’ün Pazarlama Uygulamaları: Copysmith

GPT-3’ün en popüler uygulamalarından biri, anında yaratıcı içerik üretmektir. Copysmith, bir içerik üretim platformu örneğidir. E-ticaret işletmeleri için, istemler üretmek ve bunları metne dönüştürmek amacıyla GPT-3’ü kullanır. GPT-3, pazarlama alanında parlıyor; kaliteli içeriği ışık hızında üretmeye, üzerinde ortak çalışmaya ve yayımlamaya yardımcı oluyor. Model sayesinde çevrim içi küçük ve orta ölçekli işletmeler daha iyi eyleme çağrı metinleri ve ürün açıklamaları yazabilir, pazarlama çalışmalarını bir üst seviyeye taşıyabilir.

5. GPT-3’ün Kodlama Uygulamaları: Stenography

Bir OpenAI Topluluk Elçisi olan Bram Adams, GPT-3 ve Codex’i kullanarak kod dokümantasyonu yazma sürecini otomatikleştiren Stenography adlı bir program oluşturdu. 

Stenography, ProductHunt’ta 1 numaralı ürün olarak lansman yaptı ve anında başarı elde etti. Adams, dokümantasyonu insanların ekiplerindeki diğer insanlara, gelecekteki kendilerine veya GitHub’da bir geliştirici projesine rastlayan meraklı kişilere ulaşmanın bir yolu olarak görüyor. Stenography’nin hedefi, bir projeyi başkaları için anlaşılır kılmaktır.

Yükselen GPT-3 ekosistemi hakkında daha fazla bilgi için, yakında çıkacak O’Reilly kitabımızın 4. Bölümünü (Yeni Nesil Girişimler için Sıçrama Tahtası Olarak GPT-3) ve 5. Bölümünü (Şirketler için GPT-3) inceleyin.

Sonuç

• GPT-3, yapay zekâ tarihindeki önemli bir dönüm noktasını temsil eder. Ayrıca gelecekte büyümeye devam edecek daha büyük bir LLM eğiliminin parçasıdır. API erişimi sağlanması yönündeki devrim niteliğindeki adım, hizmet olarak model iş modelini doğurdu.
• GPT-3’ün genel dil tabanlı yetenekleri, yenilikçi ürünler geliştirilmesinin kapılarını açar. Özellikle metin üretimi, metin özetleme, sınıflandırma ve sohbet gibi görevleri çözmede çok iyidir.
• Büyük ölçüde ya da tamamen GPT-3 üzerine kurulu birçok başarılı şirket vardır. Favori kullanım örneklerimiz yaratıcı hikâye anlatımı, veri analizi, sohbet botları, pazarlama metin yazarlığı ve geliştirici araçlarıdır.