GPT 3.5’i İnce Ayarla: Yapay Zekânın Tam Potansiyelini Açığa Çıkarma

OpenAI’ın en yeni dil modeli GPT-3.5 Turbo, büyük dil modellerinin yeteneklerinde önemli bir sıçramayı temsil ediyor. GPT-3 model ailesi üzerine inşa edilen GPT-3.5 Turbo, önceki sürümlere kıyasla daha uygun maliyetli ve erişilebilir olurken, dikkat çekici derecede insan benzeri metin üretebiliyor. Ancak GPT-3.5 Turbo’nun asıl gücü, ince ayar (fine-tuning) adı verilen bir süreçle özelleştirilebilmesinde yatıyor.

İnce ayar, geliştiricilerin kendi verilerini kullanarak modeli belirli kullanım senaryolarına uyarlamasına ve uzmanlaşmış görevlerde performansı önemli ölçüde artırmasına olanak tanır. İnce ayarla GPT-3.5 Turbo, bazı dar uygulamalarda GPT-4’e hatta yetişmiş veya onu geride bırakmıştır.

Bu yeni özelleştirme düzeyi, işletmelerin ve geliştiricilerin GPT-3.5 Turbo’yu kullanarak kişiselleştirilmiş, yüksek performanslı yapay zekâ uygulamaları hayata geçirmesinin önünü açıyor. Bu yılın ilerleyen dönemlerinde GPT-3.5 Turbo ve daha da güçlü GPT-4 için ince ayarın kullanılabilir hâle gelmesiyle, uygulamalı yapay zekâda yeni bir dönemin eşiğindeyiz.

Neden Dil Modellerine İnce Ayar Yapılır?

İnce ayar, GPT-3.5 Turbo gibi büyük dil modellerinden en iyi şekilde yararlanmak için kritik bir teknik hâline geldi. Örneğin, GPT-3’e ince ayar hakkında ayrı bir rehberimiz var.

Önceden eğitilmiş modeller kutudan çıktığı gibi dikkate değer derecede insan benzeri metin üretebilse de, gerçek yetenekleri ince ayarla açığa çıkar. Bu süreç, geliştiricilerin modeli alanına özgü verilerle eğiterek genel amaçlı eğitimin ötesindeki uzman kullanım senaryolarına uyarlamasını sağlar. İnce ayar, modelin niş uygulamalar için uygunluğunu, doğruluğunu ve performansını artırır.

Belirli kullanım senaryoları için özelleştirme

İnce ayar, geliştiricilerin modeli özelleştirerek benzersiz ve farklılaşmış deneyimler oluşturmasını, belirli gereksinimlere ve alanlara hitap etmesini sağlar. Model alanına özgü verilerle eğitildiğinde, o nişe daha uygun ve daha doğru çıktılar üretebilir. Bu düzeyde özelleştirme, işletmelerin ihtiyaçlarına özel yapay zekâ uygulamaları geliştirmesine imkân tanır.

Daha iyi yönlendirilebilirlik ve güvenilirlik

İnce ayar, modelin talimatları takip etme ve güvenilir, tutarlı çıktı biçimlendirmesi üretme yeteneğini geliştirir. Biçimlendirilmiş verilerle eğitilerek, model istenen yapı ve üslubu öğrenir ve yönlendirilebilirlik artar. Bu da daha öngörülebilir ve kontrol edilebilir çıktılarla sonuçlanır.

Geliştirilmiş performans

İnce ayar, model performansını önemli ölçüde artırabilir; hatta ince ayarlı GPT-3.5 Turbo’nun belirli uzmanlaşmış görevlerde GPT-4 yeteneklerine yetişmesini veya onları aşmasını sağlayabilir. Modeli dar bir alana optimize ederek, genelci bir modele kıyasla o niş problem alanında üstün sonuçlar elde edilir. İnce ayardan kaynaklanan performans artışı kayda değerdir.

Benzer performans sunabilen ve çalıştırmak için daha az hesaplama kaynağı gerektiren araçları inceleyen 12 GPT-4 Açık Kaynak Alternatifi rehberimize göz atın.

GPT 3.5-Turbo’ya İnce Ayarın Etkisi

OpenAI’ın yürüttüğü beta testlerinde, modeli ince ayarla özelleştiren müşterilerin çeşitli standart uygulamalarda performansta belirgin iyileşmeler yaşadığı gözlemlendi. İşte bazı önemli çıkarımlar:

1. Gelişmiş yönlendirilebilirlik

İnce ayar sayesinde şirketler, modelin belirli yönergelere uymasını daha iyi sağlayabilir. Örneğin, bir şirket kısa yanıtlar istiyorsa veya modelin her zaman belirli bir dilde yanıt vermesi gerekiyorsa, ince ayar bunu sağlamaya yardımcı olur. Klasik bir örnek olarak, geliştiriciler modeli istek geldiğinde tutarlı biçimde Almanca yanıt verecek şekilde ayarlayabilir.

2. Tutarlı yanıt yapısı

İnce ayarın öne çıkan faydalarından biri, model çıktılarının daha yeknesak olmasını sağlamasıdır. Bu, kod önerileri veya API etkileşimleri üretmek gibi belirli bir yanıt yapısı gerektiren görevler için özellikle değerlidir. Örneğin, ince ayarla geliştiriciler kullanıcı sorgularını sistemleriyle uyumlu kaliteli JSON biçimlerine dönüştürmesi için modele güvenebilir.

3. Kişiselleştirilmiş ton

İnce ayar, modelin yanıtlarının bir şirketin benzersiz sesi veya üslubuyla daha uyumlu olmasını sağlamak için de kullanılabilir. Belirgin bir marka tonuna sahip şirketler, modelin tonunun markalarının özüne uymasını garanti etmek için bu özelliği kullanabilir.

İnce Ayar için Önkoşullar

İnce ayar, GPT-3.5 Turbo gibi önceden eğitilmiş bir dil modelini, eğitimi kendi verileriniz üzerinde sürdürerek özelleştirmenize olanak tanır. Bu, modeli özgül kullanım senaryonuza uyarlar ve performansını önemli ölçüde artırır.

İnce ayara başlamak için önce OpenAI API’ye erişmeniz gerekir. OpenAI web sitesinde kaydolduktan sonra, API ve modellere etkileşimli erişim sağlayan bir API anahtarı edinebilirsiniz.

Ardından, ince ayar için bir veri kümesi hazırlamanız gerekir. Bu, metin istemleri ve istenen model yanıtlarından örnekler derlemeyi içerir. Veri, uygulamanızın modelden nasıl yararlanacağını yansıtmalıdır. Verileri gerekli JSONL yapısına temizlemek ve biçimlendirmek de önemlidir.

OpenAI CLI, eğitim verilerinizi doğrulamak ve ön işlemek için kullanışlı araçlar sağlar.

Doğrulandıktan sonra verileri OpenAI sunucularına yükleyebilirsiniz.

Son olarak, API üzerinden bir ince ayar işi başlatır, temel GPT-3.5

Turbo modelini seçer ve eğitim veri dosyanızı iletirsiniz. Veri boyutuna bağlı olarak ince ayar süreci saatler veya günler sürebilir. Eğitim ilerlemesini API üzerinden izleyebilirsiniz.

OpenAI GPT 3.5-Turbo Modeline İnce Ayar Nasıl Yapılır: Adım Adım Rehber

OpenAI kısa süre önce dil modellerine ince ayar yapmak için bir arayüz yayımladı. Bu eğitimde, ince ayarlı bir GPT modeli oluşturmak için OpenAI arayüzünü kullanacağım. Bu bölümü takip etmek için bir OpenAI hesabınız ve anahtarınız olmalı.

1. platform.openai.com’a giriş yapın

2. Verilerinizi hazırlayın

Gösterim amacıyla, soru-cevaplardan oluşan küçük bir veri kümesi derledim ve şu anda bir Pandas DataFrame olarak saklanıyor.

Ne yaptığımı göstermek için Shakespeare üslubunda 50 makine öğrenmesi sorusu ve yanıtı oluşturdum. Bu ince ayar işiyle, GPT3.5-turbo modelinin üslubunu ve tonunu kişiselleştiriyorum.

Pek pratik bir kullanım senaryosu olmasa da, isteme basitçe “Shakespeare üslubunda yanıtla” ekleyebileceğiniz için, GPT3.5 elbette Shakespeare’i bilir ve gereken tonda yanıtlar üretecektir.

OpenAI için verinin jsonl formatında olması gerekir. JSONL, her satırın bir yeni satırla ayrılmış, geçerli bir JSON nesnesi olduğu bir formattır. pd.DataFrame’i jsonl’e dönüştürmek için basit bir kod yazdım.

import json
import pandas as pd

DEFAULT_SYSTEM_PROMPT = 'You are a teaching assistant for Machine Learning. You should help the user to answer his question.'

def create_dataset(question, answer):
    return {
        "messages": [
            {"role": "system", "content": DEFAULT_SYSTEM_PROMPT},
            {"role": "user", "content": question},
            {"role": "assistant", "content": answer},
        ]
    }

if __name__ == "__main__":
    df = pd.read_csv("path/to/file.csv", encoding='cp1252')
    with open("train.jsonl", "w") as f:
        for _, row in df.iterrows():
            example_str = json.dumps(create_dataset(row["Question"], row["Answer"]))
            f.write(example_str + "\n")

jsonl dosyam şöyle görünüyor:

3. İnce ayar işini oluşturun

platform.openai.com’a gidin, üst menüde Fine-tuning bölümüne ilerleyin ve Create New seçeneğine tıklayın.

Temel modeli seçin. Şu an itibarıyla, ince ayar için yalnızca 3 model mevcut (babbage-002, davinci-002, gpt-3.5-turbo-0613).

Ardından jsonl dosyasını yükleyin, işe bir ad verin ve Create’e tıklayın.

Veri kümesinin boyutuna bağlı olarak ince ayar işi birkaç saat veya hatta günler sürebilir. Benim örneğimde veri kümesi yalnızca 5.500 token’dı ve ince ayar 6 saati aşkın sürdü. Bu işin maliyeti ise önemsizdi (<$1 = 5.500/1000 x $0,08).

Bu eğitim, GPT modellerine arayüz üzerinden nasıl ince ayar yapabileceğinizi gösteriyor. Aynısını API kullanarak nasıl başaracağınızı öğrenmek isterseniz, DataCamp’te Zoumana Keita’nın OpenAI API ve Python ile GPT-3’e İnce Ayar eğitimine göz atın.

4. İnce ayarlı modeli kullanma

İnce ayar işi tamamlandığında, modeli artık API üzerinden veya platform.openai.com’da bulunan playground ile kullanabilirsiniz.

Model açılır menüsünün altında, artık seçilebilecek kişisel bir 3.5-turbo bulunduğuna dikkat edin. Bir deneyelim.

Yanıtların tonuna ve üslubuna dikkat edin.

OpenAI Python paketini kullanarak ChatGPT ile programatik olarak nasıl sohbet edebileceğinizi öğrenmek istiyorsanız, DataCamp’teki Python’da OpenAI API ile GPT-3.5 ve GPT-4 Kullanımı blog yazısına göz atın.

Güvenlik ve Gizlilik

OpenAI güvenliği ciddiye alır ve yeni modelleri yayımlamadan önce testler, uzman görüşleri, model davranışını iyileştirme teknikleri ve izleme sistemleri gibi sıkı süreçler uygular. Amaçları, güçlü yapay zekâ sistemlerini faydalı kılmak ve öngörülebilir riskleri en aza indirmektir.

İnce ayar, GPT-3.5 Turbo gibi modelleri önemli güvenlik özelliklerini koruyarak özelleştirmeyi sağlar. OpenAI, riskleri azaltmak ve modelleri hizalamak için ölçümler, model değişiklikleri, ilkeler ve izleme gibi birden fazla düzeyde müdahaleler uygular.

OpenAI, mümkün olduğunda eğitim verilerinden kişisel bilgileri kaldırır ve özel kişilere ait bilgileri içeren içerik üretimine karşı politikalar uygular. Bu, gizlilik risklerini en aza indirir.

Hassas veri içermeyen yaygın kullanım senaryoları için OpenAI modelleri güvenle kullanılabilir. Ancak mülkiyet niteliğindeki veya düzenlemeye tabi veriler için veri maskeleme, özel yapay zekâ işlemcileri veya kurum içi modeller gibi seçenekler tercih edilebilir.

GPT 3.5-turbo’ya ince ayarın maliyeti

İnce ayar ve ince ayarlı GPT 3.5-turbo modelini kullanmakla ilişkili üç maliyet vardır.

1. Eğitim verisi hazırlığı. Bu, belirli kullanım senaryonuza göre uyarlanmış metin istemleri ve istenen yanıtlardan oluşan bir veri kümesi derlemeyi içerir. Maliyet, veriyi temin etme ve biçimlendirme için gereken zaman ve emeğe bağlı olacaktır.
2. Başlangıç eğitim maliyeti. Bu, eğitim verisinin token başına ücretlendirilir. 1.000 token için $0,008 oranıyla, 100.000 token’lık bir eğitim setinin ilk ince ayarı $800 tutar.
3. Süregelen kullanım maliyetleri. Bunlar, hem girdi istemleri hem de model çıktıları için token başına ücretlendirilir. 1.000 girdi token’ı için $0,012 ve 1.000 çıktı token’ı için $0,016 oranıyla, uygulama kullanımına bağlı olarak maliyetler hızla artabilir.

Bir kullanım maliyeti senaryosu örneğine bakalım:

• 4.000 token’lık istem/yanıtlarla günde 1.000 etkileşimli sohbet botu:
  (4.000/1000) girdi token’ı x $0,012 x 1.000 etkileşim = günde $48
  (4.000/1000) çıktı token’ı x $0,016 x 1.000 etkileşim = günde $64
  Toplam = günde $112 veya ayda $3.360

• 2.000 token girdili, günde 500 istekli metin özetleme API’si:
  (2.000/1000) girdi token’ı x $0,012 x 500 istek = günde $12
  (2.000/1000) çıktı token’ı x $0,016 x 500 istek = günde $16
  Toplam = günde $28 veya ayda $840

Not: Token’lar 1000’e bölünmüştür çünkü OpenAI fiyatlandırması 1K token başınadır.

ChatGPT’yi uçtan uca gerçek bir veri bilimi projesinde nasıl kullanacağınızı öğrenin. Proje planlama, veri analizi, veri ön işleme, model seçimi, hiperparametre ayarı, bir web uygulaması geliştirme ve bunu Spaces’da dağıtma konularını öğrenmek için Veri Bilimi Projeleri için ChatGPT Kullanım Rehberi’ne göz atın.

Sonuç

Büyük dil modellerinin ufkunu keşfederken, GPT-3.5 Turbo yalnızca insan benzeri metin üretimiyle değil, aynı zamanda ince ayarla açığa çıkan dönüştürücü potansiyeliyle de öne çıkıyor. Bu özelleştirme süreci, geliştiricilerin modeli niş uygulamalara uygun hâle getirmesine olanak tanır ve böylece, uzman alanlarda halefleriyle boy ölçüşen hatta onları aşan üstün sonuçlar elde edilir.

Yönlendirilebilirlikteki, yanıt yapısındaki ve ton kişiselleştirmesindeki iyileşmeler, belirgin gereksinimlere uyacak şekilde ince ayarlanmış uygulamalarda açıkça görülür; bu da işletmelerin benzersiz yapay zekâ destekli deneyimler sunmasına imkân verir. Ancak büyük güç, büyük sorumluluğu da beraberinde getirir. Üretken yapay zekâ ve dil modellerini uygularken ilgili maliyetleri anlamak ve güvenlik ile gizlilik hususlarının farkında olmak kritik önemdedir.

Veri bilimi görevleri için 60+ ChatGPT istemine, Veri Bilimi için ChatGPT Cheat Sheet ile erişin.