OpenAI, Görme Özellikli GPT-4 Turbo’yu Duyurdu: Şimdiye Kadar Bildiklerimiz

Son OpenAI DevDay etkinliğinde, kurum uzun zamandır beklenen bir duyuru yaptı: çığır açan yapay zekâ modellerindeki bir iyileştirme olan GPT-4 Turbo’yu tanıttı. Bu yazıda GPT-4 Turbo’nun ne olduğunu, temel özelliklerini ve geliştiriciler ile kullanıcılar için nasıl fayda sağlayabileceğini kapsamlı biçimde ele alıyoruz.

Ayrı yazılarda, Dev Day’de duyurulan GPT’ler ve ChatGPT Mağazası ile Assistants API hakkında daha fazla okuyabilirsiniz.

GPT-4 Turbo nedir?

GPT-4 Turbo, mevcut GPT-4 büyük dil modelinin bir güncellemesidir. Çok daha geniş bir bağlam penceresi ve daha güncel bilgiye erişim dâhil olmak üzere çeşitli iyileştirmeler getirir. OpenAI, özel talimatlar, ChatGPT eklentileri, DALL-E 3 ve Gelişmiş Veri Analizi eklemeleriyle ChatGPT’de GPT-4’ün yeteneklerini kademeli olarak geliştiriyordu. Bu son güncelleme ise bir dizi heyecan verici yeni özellik getiriyor.

Görme Özellikli GPT-4 Turbo nedir?

Görme özelliğine sahip GPT-4 Turbo, optik karakter tanıma (OCR) yeteneği içeren bir GPT-4 Turbo varyantıdır. Yani, modele bir görsel sağlayabilir ve görselde yer alan metni döndürebilir. Örneğin, bir menü fotoğrafı girebilir ve fotoğrafta yazan yemek seçeneklerini alabilirsiniz. Benzer şekilde, bir fatura fotoğrafı verip tedarikçi adını ve kalem ayrıntılarını otomatik olarak çıkarabilirsiniz.

Bu “with vision” özellikleri ChatGPT’de varsayılan olarak sunulacak ve geliştiriciler için OpenAI API’sinde “gpt-4-vision” modelini seçerek kullanılabilir olacaktır.

GPT-4 Turbo’nun Öne Çıkan Özellikleri

GPT-4 Turbo, önceki modellere göre yeteneklerini artıran çeşitli iyileştirmelere sahip. İşte öne çıkmasını sağlayan bazı temel özellikler:

Güncellenmiş bilgi sınırı

Sam Altman, ChatGPT’nin güncel kalmasını sağlayacağına söz veriyor

Mevcut GPT-3.5 ve GPT-4 sürümlerinin bilgi sınırı Eylül 2021’di. Bu da haricî veri kaynaklarına erişim sağlanmadıkça, o tarihten sonra gerçekleşen gerçek dünya olaylarıyla ilgili soruları yanıtlayamadıkları anlamına geliyordu.

GPT-4, bilgi sınırını on dokuz ay ileriye, Nisan 2023’e taşıyor. Bu, GPT-4 Turbo’nun o tarihe kadar olan bilgi ve olaylara erişimi olduğu, dolayısıyla daha bilgili ve güvenilir bir bilgi kaynağı olduğu anlamına gelir. Ayrıca OpenAI’nin CEO’su Sam Altman, “[OpenAI] [GPT]’nin bir daha bu kadar eskimesine asla izin vermemeye çalışacak” sözü verdi.

128K bağlam penceresi

Büyük dil modelinin (LLM) bağlam penceresi, sohbetin belleğinin ne kadar sürdüğünün bir ölçüsüdür. Bir modelin bağlam penceresi 4.000 token’sa (yaklaşık 3.000 kelime), sohbette bundan daha önceki her şey yok sayılır ve yanıtlar daha az doğru ya da önceki yanıtlarla çelişkili olabilir. Bu, daha uzun belgelerle çalışırken veya uzun sohbetler yürüten sohbet botları için bir sorundur.

GPT-4’ün azamî bağlam uzunluğu 32k (32.000) token’dır. GPT-4 Turbo bunu 128k token’a çıkarıyor (sayfa başına 400 kelimeyle yaklaşık 240 sayfa). Bu, Anthropic’in Claude 2 modelinin 100k azamî bağlamını aşıyor ve Nous Research’ün YARN-MISTRAL-7b-128k modeli ile aynı seviyeye getiriyor.

Daha uzun bağlam penceresinin tüm pencere boyunca tatmin edici yanıt performansı sağlayıp sağlamayacağı ise henüz net değil. Stanford Üniversitesi’nden yakın tarihli bir araştırma, mevcut uzun bağlam modellerinin bilgiyi yalnızca belgenin başına ya da sonuna yakın yerlerden alırken doğru yanıt verebildiğini gösterdi.

Ayrıca 128k’nın, “sonsuz bağlam” hayaline giden yolda sadece bir basamak taşı olduğunu da not etmek gerekir. Microsoft ve Xi'an Jiaotong Üniversitesi’nden erken aşama araştırmalar, LLM’leri bir milyar token’lık bağlama ölçeklemeyi hedefliyor.

GPT indirime giriyor

OpenAI, LLM pazarındaki artan rekabete yanıt vererek GPT-4 Turbo’nun fiyatını geliştiriciler için bütçe dostu olacak şekilde düşürdü. OpenAI API’sini kullanırken, GPT-4 Turbo giriş token’larının fiyatı artık öncekinin üçte birine indi: 1.000 token başına 3 ABD centinden 1 ABD centine. Çıkış token’ları ise yarı fiyatına düştü: 1.000 token başına 6 ABD centinden 3 ABD centine.

Aynı eğilim GPT-3.5 Turbo modellerinde de sürüyor: 1.000 token başına 0,1 ABD cent ile giriş token’ları 3 kat daha ucuz, 1.000 token başına 0,2 ABD cent ile çıkış token’ları 2 kat daha ucuz.

Ayrıca, ince ayarlı GPT-3.5 Turbo 4K modelinin giriş token’ları artık 4 kat daha uygun: fiyat 1.000 token başına 1,2 ABD centten 0,3 ABD cente düştü; çıkış token’ları 2,7 kat ucuzlayarak 1,6 ABD centten 0,6 ABD cente indi. Eğitim ücreti ise 1.000 token başına 0,8 ABD cent olarak aynı kaldı.

Bu fiyat düzenlemeleri, gelişmiş yapay zekâ modellerini geliştiriciler için daha maliyet etkin hâle getirmeyi amaçlıyor.

GPT çok kipli oluyor: görsel istemler ve metinden konuşmaya

“Görme özelliğine sahip GPT-4 Turbo” yakında geliyor olarak duyuruldu. Yakında, sohbet kutusuna görselleri doğrudan girerek GPT-4 Turbo’ya görsellerle istem verebileceksiniz. Araç, görselin neyi gösterdiğine dair altyazılar üretebilecek veya bir açıklama sağlayabilecek. Ayrıca metinden konuşmaya (text-to-speech) isteklerini de karşılayacak.

Fonksiyon çağırma güncellemeleri

Fonksiyon çağırma, üretken yapay zekâyı uygulamalarına entegre eden geliştiriciler için bir özelliktir. Uygulamalarının fonksiyonlarını veya haricî API’leri GPT-4 Turbo’ya tanımlamalarını sağlar. Tek bir mesajda birden fazla fonksiyonu çağırabilme sayesinde, bu özellik modelle etkileşimi kolaylaştırır. Örneğin, kullanıcılar birden çok işlemi talep eden tek bir mesaj gönderebilir; böylece modelle defalarca gidip gelmeye gerek kalmaz.

GPT-4 Turbo’ya Nasıl Erişilir

GPT-4 Turbo’ya erişim ‘tüm ücretli geliştiriciler’ için mevcut; yani API erişiminiz varsa basitçe model adı olarak OpenAI API’sinde “gpt-4-1106-preview” belirtebilirsiniz. Benzer şekilde, görme özelliğine sahip GPT-4 Turbo için model adı olarak “gpt-4-vision-preview” geçebilirsiniz.

Bu önizleme modellerinin henüz üretim kullanımı için uygun kabul edilmediğini unutmayın. Ancak duyurunun bir parçası olarak Altman, birkaç hafta içinde üretime hazır bir sürümün sunulacağına da söz verdi.

Geliştirici olmayanlar için, GPT-4 Turbo muhtemelen önümüzdeki haftalarda ChatGPT Plus ve ChatGPT Enterprise kullanıcılarına sunulacaktır.

Oran sınırları

OpenAI API’si üzerinden GPt modellere erişim oran sınırlıdır. Yani, ayda yalnızca sınırlı sayıda API isteği yapabilirsiniz. OpenAI artık uygulamanızın beklenmedik şekilde kesilmemesi için oran sınırlarının nasıl çalıştığına dair daha net yönergeler yayımladı.

Ayrıca, GPT-4 için oran sınırları iki katına çıkarıldı

GPT-4 Turbo şu anda önizleme aşamasında olduğundan, GPT-4 Turbo için oran sınırları dakikada 20 istek ve günde 100 istek olarak belirlenmiştir. OpenAI, şu an için bu model için oran sınırı artışlarını karşılamayacaklarını belirtti. Ancak genel kullanıma açık bir sürüm yayımlandığında muhtemelen karşılayacaklardır.

Son Düşünceler

GPT-4 Turbo’nun duyurusu, üretken yapay zekânın geleceğine heyecan verici bir bakış sunuyor ve onu yakından deneyimlemek için sabırsızlanıyoruz. GPT ile yeni başlıyorsanız, ChatGPT’ye Giriş kursumuza göz atın. Daha derinlemesine bir inceleme arayanlar için, Python’da OpenAI API aracılığıyla GPT-3.5 ve GPT-4 kullanma konulu eğitimimizde keşfedecek çok şey var.