Kurs
OpenAI API ile Çalışmak
3 sa
170.2K
OpenAI, en yeni büyük dil modelini, GPT-4o’yu, GPT-4 Turbo’nun halefini duyurdu. Yeteneklerini, performansını ve nasıl kullanmak isteyebileceğinizi keşfetmek için okumaya devam edin.
OpenAI’nin GPT-4o’su Nedir?
GPT-4o, OpenAI’nin en yeni LLM’idir. GPT-4o’daki 'o', Latince "her" anlamına gelen "omni"yi ifade eder ve bu yeni modelin metin, ses, görseller ve videonun bir karışımından oluşan girdileri kabul edebildiğine gönderme yapar. Daha önce, ChatGPT arayüzü farklı içerik türleri için ayrı modeller kullanıyordu.
Örneğin, Ses Modu üzerinden ChatGPT ile konuşurken, konuşmanız Whisper ile metne dönüştürülür, GPT-4 Turbo ile bir metin yanıtı üretilir ve bu metin yanıtı TTS ile konuşmaya çevrilirdi.
GPT-4 Turbo ve GPT-4o’nun konuşma girdisini nasıl işlediğine dair bir karşılaştırma
Benzer şekilde, ChatGPT’de görsellerle çalışmak GPT-4 Turbo ile DALL-E 3’ün bir karışımını içeriyordu.
Farklı içerik ortamları için tek bir modele sahip olmak, sonuçların hızında ve kalitesinde artış, daha basit bir arayüz ve bazı yeni kullanım senaryoları vaat ediyor.
GPT-4o mini nedir?
GPT-4o Mini, hız ve verimliliğe daha fazla odaklanarak görevleri yerine getirmek üzere tasarlanmış, GPT-4o’nun daha yalın ve hızlı bir sürümüdür. Daha büyük GPT-4o modelinden damıtma adı verilen bir süreçle türetilmiştir.
Orijinal modelin metin, ses ve görsel gibi çok modlu girdileri işleme yeteneğinin büyük bölümünü korurken, GPT-4o mini, daha hızlı yanıt sürelerinin kritik olduğu hafif uygulamalar için optimize edilmiştir.
Özellikle, tam GPT-4o hesaplama gücüne ihtiyaç duymayan kodlama, hata ayıklama ve gerçek zamanlı etkileşimler için uygun maliyetli bir çözüm arayan geliştiriciler için kullanışlıdır.
Bu makalede GPT-4o mini hakkında daha fazla ayrıntı okuyabilirsiniz.
GPT-4o’yu GPT-4 Turbo’dan Farklı Kılan Nedir?
Hepsi bir arada model yaklaşımı, önceki sesli etkileşim yeteneklerinin çeşitli sınırlamalarını ortadan kaldırıyor.
1. Ses tonu artık dikkate alınıyor, duygusal tepkileri kolaylaştırıyor
Önceki OpenAI sisteminde Whisper, GPT-4 Turbo ve TTS’nin bir ardışık düzende birleştirilmesiyle, akıl yürütme motoru olan GPT-4 yalnızca konuşulan kelimelere erişebiliyordu. Bu yöntem, ses tonu, arka plan gürültüleri ve birden fazla konuşmacının seslerini ayırt etme gibi unsurların göz ardı edilmesi anlamına geliyordu. Bu nedenle, GPT-4 Turbo farklı duygular veya konuşma tarzlarıyla yanıtlar vermekte pek başarılı değildi.
Metin ve ses hakkında akıl yürütebilen tek bir modele sahip olmak sayesinde, bu zengin ses bilgisi daha çeşitli konuşma stilleriyle daha yüksek kaliteli yanıtlar sağlamak için kullanılabilir.
OpenAI tarafından sağlanan aşağıdaki örnekte, GPT-4o alaycı bir çıktı veriyor.
4. Latin alfabesi dışındaki diller için daha iyi tokenizasyon, daha yüksek hız ve maliyet avantajı sağlıyor
LLM iş akışındaki adımlardan biri, istem metninin token’lara dönüştürülmesidir. Bunlar, modelin anlayabildiği metin birimleridir.
İngilizcede bir token genellikle bir kelime veya noktalama işaretidir; bazı kelimeler birden fazla token’a bölünebilir. Ortalama olarak üç İngilizce kelime yaklaşık dört token tutar.
Bir dil modelde daha az token ile temsil edilebilirse, daha az hesaplama yapılması gerekir ve metin üretme hızı artar.
Ayrıca OpenAI, API’si için girdi veya çıktı başına token üzerinden ücret aldığından, daha az token API kullanıcıları için daha düşük fiyat anlamına gelir.
GPT-4o, metin başına daha az token gerektiren geliştirilmiş bir tokenizasyon modeline sahiptir. İyileştirme, çoğunlukla Latin alfabesi kullanmayan dillerde fark edilir.
Örneğin, özellikle Hint dilleri fayda sağlamıştır; Hintçe, Marathi, Tamilce, Telugu ve Gujarati’de token sayısı 2,9 ila 4,4 kat arasında azalma göstermiştir. Arapçada 2 kat token azalması görülürken, Çince, Japonca, Korece ve Vietnamca gibi Doğu Asya dillerinde 1,4x ile 1,7x arasında azalmalar görülmüştür.
5. Ücretsiz plana sunum
OpenAI’nin ChatGPT için mevcut fiyatlandırma stratejisinde kullanıcılar, en iyi modele erişmek için ödeme yapmak zorundaydı: GPT-4 Turbo yalnızca Plus ve Enterprise ücretli planlarında mevcuttu.
Bu durum değişiyor; OpenAI, GPT-4o’yu ücretsiz planda da sunmayı vaat ediyor. Plus kullanıcıları, ücretsiz plandaki kullanıcılardan beş kat daha fazla mesaj alacak.
Sunum kademeli olacak; modele sorun bulmak için onu kırmaya çalışan red team (test kullanıcıları) erişimi hemen başlarken, zamanla daha fazla kullanıcı erişim kazanacak.
6. ChatGPT masaüstü uygulamasının çıkışı
Her ne kadar bu doğrudan GPT-4o’ya özel bir güncelleme olmasa da, OpenAI ChatGPT masaüstü uygulamasının da duyurusunu yaptı. Yukarıda bahsedilen gecikme ve çok modluluk güncellemeleri ile uygulamanın çıkışı, ChatGPT ile çalışma biçimimizin değişmesi muhtemel. Örneğin OpenAI, ses ve ChatGPT masaüstü uygulamasını kullanan artırılmış bir kodlama iş akışının demosunu gösterdi. Bu örneği eylemde görmek için kullanım senaryoları bölümünde aşağı kaydırın!
GPT-4o Nasıl Çalışır?
Birçok içerik türü, tek bir sinir ağı
GPT-4o’nun nasıl çalıştığına dair ayrıntılar hâlâ sınırlı. OpenAI’nin duyurusunda verdiği tek ayrıntı, GPT-4o’nun metin, görme ve ses girişleri üzerinde eğitilmiş tek bir sinir ağı olduğudur.
Bu yeni yaklaşım, farklı veri türleri üzerinde eğitilmiş ayrı modellere sahip olma tekniğinden ayrılıyor.
Bununla birlikte GPT-4o, çok modlu bir yaklaşımı benimseyen ilk model değil. 2022’de TenCent Lab, SkillNet’i oluşturdu; bu model, Çin karakterlerini tanıma yeteneğini geliştirmek için LLM dönüştürücü özelliklerini bilgisayarlı görü teknikleriyle birleştirdi.
2023’te ETH Zürih, MIT ve Stanford Üniversitesi’nden bir ekip, büyük dil modelleri BERT serisinin bir varyasyonu olan WhisBERT’i oluşturdu. İlk olmasa da, GPT-4o bu önceki girişimlerin her ikisinden de oldukça daha iddialı ve güçlüdür.
GPT-4o, GPT-4 Turbo’dan radikal bir değişim mi?
GPT-4o’nun mimarisinin GPT-4 Turbo’ya kıyasla ne kadar radikal değişiklikler içerdiği, OpenAI’nin mühendislik veya pazarlama ekibine kime sorduğunuza bağlı. Nisan ayında, en iyi üretken yapay zekâları sıralayan LMSYS’in Chatbot Arena’sında "im-also-a-good-gpt2-chatbot" adlı bir bot belirdi. Bu gizemli yapay zekânın GPT-4o olduğu şimdi ortaya çıktı.
İsimdeki "gpt2" kısmı önemli. GPT-3.5 ve GPT-4’ün öncülü olan GPT-2 ile karıştırılmamalıdır; "2" soneki, GPT model serisi için tamamen yeni bir mimari anlamına geldiği şeklinde yaygın biçimde yorumlandı.
Görünüşe göre OpenAI’nin araştırma veya mühendislik ekibinden biri, metin, görme ve ses içerik türlerini tek bir modelde birleştirmenin, altı yıl sonra ilk sürüm numarası artışını hak edecek kadar büyük bir değişim olduğunu düşünüyor.
Öte yandan, pazarlama ekibi nispeten mütevazı bir adlandırma değişikliğini tercih ederek "GPT-4" geleneğini sürdürdü.
GPT-4o Performansı Diğer Modellerle Karşılaştırma
OpenAI, GPT-4o’yu birkaç diğer üst düzey modelle karşılaştıran kıyaslama rakamlarını yayımladı.
- GPT-4 Turbo
- GPT-4 (ilk sürüm)
- Claude 3 Opus
- Gemini Pro 1.5
- Gemini Ultra 1.0
- Llama 3 400B
Bunlardan yalnızca üç model karşılaştırma açısından gerçekten önemlidir. GPT-4 Turbo, Claude 3 Opus ve Gemini Pro 1.5 son birkaç aydır LMSYS Chatbot Arena liderlik tablosunda zirve için yarışıyor.
Llama 3 400B gelecekte iddialı olabilir, ancak henüz tamamlanmadı. Bu nedenle burada yalnızca bu üç model ve GPT-4o için sonuçları sunuyoruz.
Altı kıyaslama testinin sonuçları kullanıldı.
- Massive Multitask Language Understanding (MMLU). Temel matematik, ABD tarihi, bilgisayar bilimi, hukuk ve daha fazlasına ilişkin görevler. Bu testte yüksek doğruluk elde etmek için, modellerin kapsamlı dünya bilgisine ve problem çözme yeteneğine sahip olması gerekir.
- Graduate-Level Google-Proof Q&A (GPQA). Biyoloji, fizik ve kimya alanlarında konu uzmanları tarafından yazılmış çoktan seçmeli sorular. Sorular yüksek kaliteli ve son derece zordur: ilgili alanlarda doktora yapmış veya yapmakta olan uzmanlar %74 doğruluk sağlar.
- MATH. Ortaokul ve lise düzeyinde matematik problemleri.
- HumanEval. Kod üretimini kontrol etmek için kullanılan, bilgisayar kodunun işlevsel doğruluğuna ilişkin bir test.
- Multilingual Grade School Math (MSGM). Bengalce ve Svahili gibi temsil oranı düşük dillerin de dahil olduğu on dile çevrilmiş ilkokul düzeyi matematik problemleri.
- Discrete Reasoning Over Paragraphs (DROP). Tam paragrafları anlamayı gerektiren sorular. Örneğin, birden çok cümleye yayılmış değerleri toplayarak, sayarak veya sıralayarak.
Altı LLM kıyasına karşı GPT-4o, GPT-4 Turbo, Gemini Pro 1.5 ve Claude 3 Opus’un performansı. Her kıyas için puanlar 0 ile 100 arasındadır. OpenAI tarafından sağlanan verilerden yeniden oluşturulmuştur. Gemini Pro 1.5 için GPQA kıyasında veri sağlanmamıştır.
GPT-4o altı kıyasın dördünde en yüksek puanı alıyor; ancak MSGM kıyasında Claude 3 Opus, DROP kıyasında ise GPT-4 Turbo tarafından geçiliyor. Genel olarak bu performans etkileyici ve çok modlu eğitimin yeni yaklaşımı için umut verici.
GPT-4o rakamlarını GPT-4 Turbo ile yakından karşılaştırırsanız, performans artışlarının yalnızca birkaç yüzde puanı olduğunu görürsünüz.
Bir yıl sonrası için etkileyici bir artış olsa da, GPT-1’den GPT-2’ye veya GPT-2’den GPT-3’e görülen dramatik sıçramalardan oldukça uzakta.
Metin üzerinde akıl yürütmede yıldan yıla %10 daha iyi olmak muhtemelen yeni normal olacak. Kolay kazanımlar toplandı ve metin akıl yürütmesinde büyük sıçramaları sürdürmek zor.
Öte yandan, bu LLM kıyasları yapay zekânın çok modlu problemlerdeki performansını yakalamıyor. Kavram o kadar yeni ki bir modelin metin, ses ve görme genelinde ne kadar iyi olduğunu ölçmenin iyi yolları yok.
Genel olarak, GPT-4o’nun performansı etkileyici ve çok modlu eğitimin yeni yaklaşımı için umut verici.
GPT-4o’nun Kullanım Alanları Nelerdir?
1. Veri analizi ve kodlama görevleri için GPT-4o
Son GPT modelleri ve GitHub Copilot gibi türevleri, kod yazma, hataları açıklama ve düzeltme dahil olmak üzere kod desteği sağlayabiliyor. GPT-4o’nun çok modlu yetenekleri bazı ilginç fırsatlar sunuyor.
OpenAI CTO’su Mira Murati’nin sunduğu bir tanıtım videosunda, iki OpenAI araştırmacısı Mark Chen ve Barret Zoph, GPT-4o’yu bazı Python kodlarıyla çalıştırmayı gösterdi.
Kod GPT ile metin olarak paylaşılıyor ve sesli etkileşim özelliği kullanılarak GPT’den kodu açıklaması isteniyor. Daha sonra, kod çalıştırıldıktan sonra, grafiği açıklamak için GPT-4o’nun görme yeteneği kullanılıyor.
Genel olarak, ChatGPT’ye ekranınızı gösterip bir soruyu sesli sormak; grafiği bir görsel dosyası olarak kaydedip ChatGPT’ye yüklemek ve ardından soru yazmaktan potansiyel olarak daha basit bir iş akışıdır.
4. Görme engelli kullanıcılara yardımcı olmak için GPT-4o
GPT-4o’nun bir kameradan gelen video girdisini anlaması ve sahneyi sözlü olarak betimleyebilmesi, görme engelli kişiler için vazgeçilmez bir özellik olabilir. Esasen televizyonlardaki sesli betimleme özelliğinin gerçek hayattaki karşılığıdır.
GPT-4o ile Uygulamalı Deneyim
Duyurunun hemen ardından GPT-4o’nun bazı yeni özelliklerine erişimim oldu (ne yazık ki henüz sesli sohbet yok) ve çıktıların çoğundan etkilendim. Yanıtlar daha hızlı ve tutarlı görünüyor ve isteklerimi öncesine göre daha iyi anlıyor gibi. Ancak kusursuz olduğunu söyleyemem.
İşte ChatGPT-4o ile yaptığım bazı etkileşimlerden örnekler:
Veri analizi görevi
Önce, sesli sohbeti kullanarak, desteklediğim futbol takımı Leeds United’ın performansını nasıl analiz edebileceğime dair fikirleri olup olmadığını sordum. Birkaç seçenek sunmanın yanı sıra, bazı örnek Python kodları da verdi:
import pandas as pd
# Sample data for Leeds United's match results
data = {
'Match': ['Match1', 'Match2', 'Match3', 'Match4', 'Match5'],
'Result': ['Win', 'Draw', 'Loss', 'Win', 'Win'],
'Goals Scored': [2, 1, 0, 3, 2]
}
# Create a DataFrame
df = pd.DataFrame(data)
# Summarize match results
summary = df['Result'].value_counts()
total_goals = df['Goals Scored'].sum()
average_goals = df['Goals Scored'].mean()
# Display summary
print("Match Results Summary:")
print(summary)
print("\nTotal Goals Scored:", total_goals)
print("Average Goals Per Match:", round(average_goals, 2))
Ancak bu düşünce akışını daha ayrıntılı sorguladığımda işler biraz raydan çıktı. Önce kullanmak için gerçek veriler istedim — web’de arama yaptı ve iki iyi kaynak buldu, ancak istatistikleri yanlış aktardı. Leeds normal sezonda 46 maç oynadı; 81 gol attı ve averajı artı 38’di; yanıtında belirttiği 40 maç yerine.
Ardından ChatGPT’den her takıma karşı atılan golleri görselleştirmesini istedim:
Yine, burada görevi yarım tamamlamış. İstendiği gibi bir görselleştirme oluşturmuş; yüzeyde iyi görünüyor. Ama gerçekte, verilerin çoğu uydurma ve hatalı (takımların iki kez görünmesi, gollerin sayılmaması ve Leeds ile aynı ligde olmayan takımlar).
Dürüst olmak gerekirse, tam bir veri kümesi sağlasaydım performansın daha iyi olacağını tahmin ediyorum; ancak bunu kendinden emin bir şekilde uydurmak yerine söylemesini dilerdim.
Görsel analizi
Sonra GPT-4o’dan bitkilerimden birinin fotoğrafını analiz etmesini istedim. Entegre görme özelliğine hâlâ erişimim yok, bu yüzden bir fotoğraf çekip ChatGPT’ye bunun hangi bitki olduğunu sordum:
Kötü bir çaba değil, ancak tam olarak doğru da değil. Bonsai ağacı olsa da, Carmona retusa değil, Ilex crenata. Yine de ikisi oldukça benzer göründüğünden yapılması kolay bir hata ve bitkiye nasıl bakılacağına dair ek bağlamı takdir ettim.
Görsel üretimi
Son olarak, yeni modelin görsel yeteneklerini denemek istedim. Önce kaplumbağam Darwin’in bir fotoğrafını gösterip arkadaşımdan bahsetmesini istedim:
Yine, bu da yakın ama mükemmel değil. Darwin aslında Hermann değil, Horsefield kaplumbağası; fakat çok benzer görünüyorlar. Ardından ChatGPT-4o’dan orijinal görseli alıp Hokusai stilinde yeniden oluşturmasını istedim. İşte sonuç:
Oldukça iyi bir çaba; ancak orijinal görselle çok fazla benzerlik yok, ki bu da makul sayılır. Bunu üretmesi biraz zaman da aldı.
Genel olarak ise, yeni modelin tepkiselliğinden ve isteklerimi ne kadar iyi anladığından etkilendim. Kusursuz olmaktan uzak ve hâlâ zaman zaman kendinden emin şekilde hayal ürünü çıktılar üretiyor; ama geliştirilmiş konuşma ve entegre görme ile bizzat çalışmak için sabırsızlanıyorum.
GPT-4o’nun Sınırlamaları ve Riskleri
Üretken yapay zekâya ilişkin düzenlemeler hâlâ erken aşamada; şu ana kadar AB Yapay Zekâ Yasası kayda değer tek yasal çerçevedir. Bu, yapay zekâ oluşturan şirketlerin, güvenli yapay zekânın ne olduğuna ilişkin bazı kararları kendilerinin vermesi gerektiği anlamına gelir.
OpenAI, yeni bir modelin halka sunuma uygun olup olmadığını belirlemek için kullandığı bir hazırlık çerçevesine sahiptir.
Çerçeve dört endişe alanını test eder.
- Siber güvenlik. Yapay zekâ, siber suçluların verimliliğini artırabilir ve açıklar oluşturmasına yardımcı olabilir mi?
- BCRN. Yapay zekâ, uzmanlara biyolojik, kimyasal, radyolojik veya nükleer tehditler oluşturmada yardımcı olabilir mi?
- İkna. Yapay zekâ, insanların inançlarını değiştirmeye ikna eden (potansiyel olarak etkileşimli) içerikler üretebilir mi?
- Model özerkliği. Yapay zekâ, başka yazılımlarla eylemler gerçekleştiren bir ajan gibi hareket edebilir mi?
Her endişe alanı Düşük, Orta, Yüksek veya Kritik olarak derecelendirilir ve modelin puanı, dört kategori arasındaki en yüksek derecedir.
OpenAI, kritik endişe oluşturan bir modeli yayımlamama sözü verir; ancak bu nispeten düşük bir güvenlik barıdır: kendi tanımlarına göre, kritik endişe insan uygarlığını altüst edecek bir şeye karşılık gelir. GPT-4o bu durumun uzağında kalarak Orta endişe puanı alıyor.
Kusurlu çıktı
Tüm üretken yapay zekâlarda olduğu gibi, model her zaman amaçlandığı gibi davranmaz. Bilgisayarlı görü kusursuz değildir; bu nedenle bir görsel veya videonun yorumlanması garanti edilmez.
Benzer şekilde, konuşmaların dökümleri nadiren %100 doğrudur; özellikle konuşmacının belirgin bir aksanı varsa veya teknik kelimeler kullanılıyorsa.
OpenAI, GPT-4o’nun amaçlandığı gibi çalışmadığı bazı çekim hatalarının olduğu bir video paylaştı.
Dikkat çekici biçimde, iki İngilizce dışı dil arasındaki çeviri, başarısız olduğu durumlardan biriydi. Diğer sorunlar arasında uygunsuz ses tonu (küçümseyici olmak) ve yanlış dilde konuşmak yer aldı.
GPT-4o çok dilli sohbetleri yönetebilir mi?
GPT-4o tüm dilleri eşit derecede iyi destekliyor mu?
GPT-4o ses girdisindeki arka plan gürültüsünü nasıl ele alıyor?
GPT-4o video içeriği üretebilir mi?
GPT-4o belirli sesleri taklit edebilir mi?
GPT-4o’ya girilen veriler ne kadar güvenli?
GPT-4o mevcut uygulamalara entegre edilebilir mi?
GPT-4o Mini’yi ne zaman GPT-4o’ya tercih etmeliyim?
GPT-4o ile o1 modeli arasındaki farklar nelerdir?
Konular
