OpenAI, Assistants API'yi Duyurdu

OpenAI Dev Day etkinliğinde şirket, yeni bir Assistants API de dahil olmak üzere birkaç duyuru yaptı. Diğer duyuruların ayrıntıları için GPT-4 Turbo ve GPT'ler ve GPT Mağazası hakkındaki yazılara bakın.

Assistants API, sohbet botları gibi yapay zekâ asistanları oluşturmayı yazılım geliştiriciler için kolaylaştırmak üzere mevcut OpenAI API'sini genişletir.

Dört yeni özellik duyuruldu:

1. Uzun sohbetleri yönetmeye yardımcı olan "Threads"
2. Metni depolamaya yardımcı olan "Retrieval"
3. Dahili kod yorumlama
4. Fonksiyon çağırma işlevselliğinde iyileştirmeler.

Assistants API'nin Başlıca Özellikleri

Burada bu özelliklerin her birini daha ayrıntılı ele alacağız.

İş parçacıkları (threads) ile daha kolay sohbet yönetimi

Bazı görevler, API'ye tek bir komut istemi (prompt) gönderip tek bir yanıt almakla gerçekleştirilebilir; ancak sohbet botları daha uzun bir sohbeti (veya "iş parçacığı") gerektirir. Şimdiye kadar, önceki sohbet durumunu takip etmek ve önceki mesajlardan hangilerini API'ye göndereceğine karar vermek geliştiricinin sorumluluğundaydı. Sohbetler uzadıkça, her API çağrısında daha fazla metin göndermek gerekir ve bu da performansı yavaşlatır.

Ayrıca, sohbet "bağlam penceresini" (GPT'nin aynı anda hatırlayabildiği metin miktarı) aştığında kararlar vermek gerekir: Eski mesajları atar mısınız, özetlemeye mi çalışırsınız, yoksa depolayıp daha sonra hangilerinin ilgili olduğuna ve dahil edilmesi gerektiğine mi karar verirsiniz? Bu süreç hızla zahmetli hale gelebilir ve uygulama geliştirmeyi yavaşlatabilir.

Yeni iş parçacığı araçları, OpenAI'ı "durumsuz" (belleksiz) bir modelden "durumlu" bir modele dönüştürüyor. Önceki mesajlar OpenAI tarafında saklanabildiği için geliştiricinin bu yönetim meseleleriyle uğraşmasına gerek kalmaz.

Retrieval araçları ek metni depolamanıza olanak tanır

OpenAI sunumu ayrıca metin depolamak için retrieval araçlarından bahsetti. Bu, ikinci bir özellik olarak sunuldu; ancak iş parçacığı özelliğinin bunu kullandığı göründüğünden, ne kadar ayrı bir özellik olduğu net değil.

Sunum sırasında teknik ayrıntılar sınırlıydı; yine de bunun nasıl çalıştığına dair bir tahminde bulunmak mümkün. Günümüzde üretken yapay zekâyı uygulamalara dahil etmek genellikle iki farklı teknolojiyi gerektirir: GPT gibi bir büyük dil modeli (LLM) ve bir vektör veritabanı.

Vektör veritabanları, gömme (embedding) adı verilen bir süreçle metni (veya görselleri ya da diğer yapılandırılmamış veri türlerini) sayısal vektörler olarak saklar. Bu metin parçalarını daha sonra komut istemlerine eklemek üzere geri çağırabilirsiniz. Tipik bir kullanım durumu, tartışmak istediğiniz konuyla ilgili gerçeklerin bulunduğu bir depo bulundurmaktır.

Örneğin, şirketinizin ürünleriyle ilgili soruları yanıtlamaya yardımcı olacak bir sohbet botu oluşturuyorsanız, ürün bilgilerini vektör veritabanında depolayabilir ve LLM'in doğru, olgusal yanıtlar vermesini sağlayabilirsiniz.

Sunumda bahsedilen retrieval özellikleri, Assistants API'nin bir vektör veritabanına API erişimi sağlayabileceğine işaret ediyor. Bu da sadece daha uzun sohbetlerin ötesinde ilginç olanaklar doğurur; çünkü metninizi depolamak için Pinecone, Milvus veya Weaviate gibi ayrı bir vektör veritabanı kullanmanız gerekmeyebilir.

Şu aşamada bu bir spekülasyondur ve Assistants API'nin somut ayrıntılarının ortaya çıkmasını beklememiz gerekecek.

Kod yorumlama yerleşik olarak geliyor

ChatGPT'nin, GPT'nin doğal dil talimatlarına göre Python kodu üretip çalıştırmasına olanak tanıyan Gelişmiş Veri Analizi aracı bulunuyor. OpenAI sunumundaki ayrıntılar biraz belirsiz olsa da, bu özelliğin Assistants API'ye yerleşik olarak geleceği ima edildi; böylece GPT'nin Python kodu çalıştırmasını sağlayan komut istemleri verebileceksiniz.

Geliştirilmiş fonksiyon çağırma, diğer yazılımlarla etkileşimi kolaylaştırır

API'nin fonksiyon çağırma özelliği, doğal dilde bir talimat yazmanıza ve GPT'nin sizin tanımladığınız bir fonksiyona çağrıyı temsil eden bir JSON dizesi döndürmesine olanak tanır. Bu, doğal dil girdisine göre görevler gerçekleştirmek üzere tasarlanmış yapay zekâ ajanları için önemlidir.

Duyuruda bu özellikle ilgili iki iyileştirme açıklandı. İlk olarak, yanıtın geçerli JSON olmasının garanti edildiği ve belirtilen fonksiyon imzasına daha sıkı uyulmasının beklendiği bir "JSON modu" var. Şimdiye kadar, yanıtın geçersiz olma ihtimali bulunuyordu ve yazılımınızda kapsamlı hata tespit kodları gerektiriyordu.

Yeni işlevsellik, yapay zekâ ajanlarının oluşturulmasını basitleştirmeli ve yazılımlar için doğal dil arayüzleri kurmayı kolaylaştırmalıdır.

Özet

2023'teki üretken yapay zekâ devrimi şaşırtıcı olsa da, üretken yapay zekâyı diğer yazılımlara entegre etmek önemli ölçüde yazılım mühendisliği becerisi gerektirdi. Assistants API, bu giriş engelini bir miktar azaltmayı vaat ediyor ve daha fazla ürünün teknolojiyi daha hızlı şekilde benimsemesini mümkün kılıyor.

Öğrenmeye Devam Edin

DataCamp, OpenAI API'yi nasıl kullanacağınızı öğreten çeşitli kurslara sahiptir. OpenAI API ile Çalışma ile başlayın ve OpenAI API ile Embedding'lere Giriş kursuna geçin.

Fonksiyon çağırma API'si hakkında ayrıca OpenAI Fonksiyon Çağırma Eğitiminde bilgi edinebilirsiniz.