Kurs
OpenAI API ile Çalışmak
3 sa
170.2K
2022’nin sonlarında ChatGPT’nin piyasaya sürülmesinden (devam eden yapay zeka devrimini başlatan olay) bu yana, üretken yapay zeka modelleri daha güçlü ve çeşitlenmiş hale geldi. Farklı boyutlara, özelliklere, modalitelere ve kullanım alanlarına sahip yeni modeller her gün piyasaya çıkıyor ve bu da mümkün olanın sınırlarını kestirmeyi zorlaştırıyor.
Genel olarak, daha büyük ve daha karmaşık modeller geliştirme yönünde net bir eğilim var. Modellerin parametre sayısını ve eğitim verisi miktarını artırmanın, üretken yapay zeka modellerinin temelini oluşturan büyük dil modellerinin (LLM’ler) performansını artırmanın en iyi strateji olduğu düşünülüyor. Ayrıntılı bilgi için ayrı makalemize göz atın: LLM’ler nedir?
Bununla birlikte, bu büyük modelleri eğitmek ve çalıştırmak için gereken kaynaklar (ve bunların ilişkili çevresel ayak izi) hakkındaki endişeler arttıkça, yapay zekanın geliştirilmesi ve dağıtımında verimlilik hızla önem kazanıyor.
Bu makalede, Stability AI tarafından yayımlanan ve doğru, hızlı kodlama için özel olarak tasarlanan Stable Code 3B tanıtılacaktır. Kodlama görevlerinde son derece isabetli olan bu LLM, boyutunu ciddi şekilde küçültürken güncel en iyi LLM’lerle denk performans seviyeleri sunar.
Stable Code 3B nedir?
Stability AI tarafından Ocak 2024’te yayımlanan Stable Code 3B, kodlama amaçlı geliştirilmiş 3 milyar parametreli bir LLM’dir. Önceki sürümünün, Stable Code Alpha 3B’nin gelişmiş bir versiyonudur.
Stable Code 3B, kod tamamlama görevlerinde öne çıkar ve yeni başlayan programcılar için mükemmel bir eğitim aracı olarak kullanılabilir. Model, araştırma amaçları veya kişisel kullanım için ücretsiz olarak sunulmaktadır. Ticari uygulamalar için kullanıcıların Stability AI Memberships aboneliklerinden birine kayıt olmaları gerekir.
Stable Code 3B, aynı boyuttaki LLM’ler arasında en iyi ürünlerden biridir (performans metriklerine ilişkin daha fazla ayrıntı bir sonraki bölümde). Önemli ölçüde daha küçük boyutla harika sonuçlar elde eder. Kompakt tasarımı ve verimliliği sayesinde Stable Code 3B, özel GPU’su olmayanlar da dahil olmak üzere, MacBook Air gibi sıradan dizüstü bilgisayarlarda çevrimdışı çalışabilir.
Stable Code 3B nasıl çalışır?
Stable Code 3B, 2,7 milyar parametreli kompakt bir modeldir. Meta’nın açık kaynaklı LLaMA’sına benzer şekilde yalnızca kod çözücü (decoder-only) bir dönüştürücüdür. LLaMA hakkında tüm ayrıntıları öğrenmek için ayrı makalemize göz atın.
Stable Code 3B’nin eğitim süreci, Meta’nın CodeLLaMA’sından açıkça esinlenmiştir. Model, StableLM-3b-4e1t adlı Stability AI’nin önceden eğitilmiş LLM’inden yola çıkar; bu model onun temel modeli olarak işlev görür.
Bu model, iki adımdan oluşan bir ince ayar sürecinden geçti. İlk adımda, model CommitPack, GitHub Issues, StarCoder ve diğer Matematik veri kümeleri de dahil olmak üzere çok sayıda kod ve kodla ilişkili veri kümesi üzerinde eğitildi. Eğitim verileri, Python, R, Java ve C dahil yaygın olarak kullanılan 18 programlama dilinden kod içerir.
Ardından, model CodeLLama’nın araştırma makalesinde önerildiği gibi, 16.384 belirteçlik daha uzun diziler ve fill-in-the-middle teknikleriyle daha ileri düzeyde ince ayarlandı. İkinci adım, modelin 100 bin belirtece kadar uzun bağlam pencerelerini desteklemesini sağlar. Bu, özellikle kodlama görevleri için uygundur. Daha uzun girdi dizileri sayesinde geliştiriciler, modelin daha ilgili ve doğru çıktılar üretmesi için kendi kod tabanlarından daha fazla bağlam ve daha uzun kod parçaları sunabilir.
Stable Code 3B Performans Metrikleri
Stability AI’nin geliştiricileri, test edilen birden fazla programlama dilinde MultiPL-E metriklerinde benzer boyuttaki modellere kıyasla son teknoloji düzeyinde performans elde eden bir model yarattı. Karşılaştırma aşağıdaki görselde gösterilmiştir:
3B altındaki modellerin Multi-PL performans karşılaştırması. Kaynak: Stability AI
Stabe Code 3B, çok daha büyük modellere kıyasla da öne çıkar. Örneğin, ana ilham kaynağı olan CodeLLaMA 7b ile aynı performans seviyesine, model boyutunu %60 azaltarak ulaşır.
Stable Code Completion 3B’nin CodeLLama 7B ile karşılaştırması. Kaynak: Stability AI
Stable Code 3B Kullanım Alanları
Stable Code 3B gibi yapay zeka destekli kodlama asistanları, yazılım geliştirme ve veri analizinde pek çok fırsat sunar. İşte programcıların yapay zekayı hâlihazırda kullandığı bazı yollar:
Görev otomasyonu
Stable Code 3B, temel SQL sorguları çalıştırma, keşifçi veri analizi yapma ve veri bilimi projelerini sadeleştirme gibi tekrarlayan ve rutin görevleri zahmetsizce otomatikleştirebilir. Bu sayede programcılar zaman alan görevleri atlayarak daha karmaşık ve zorlu işlere odaklanabilir. Bunun pratikte nasıl çalıştığını keşfetmek için örnek niteliğindeki ChatGPT’nin veri bilimi için kullanımı rehberimize göz atın.
Hata düzeltme
Hata ayıklama çoğu zaman ciddi zaman alır ve özellikle yüzlerce satır kod içeren karmaşık projelerde zorlu olabilir. Stable Code 3B, kodunuzu saniyeler içinde tarayarak onu düzeltmek için kod ve yapı önerileri sunarak bu süreci hızlandırmak için ideal bir asistandır. Uzun bağlam penceresi sayesinde kullanıcılar modele büyük betikler verebilir ve Stable Code 3B kodunuzdaki olası hataları ve tuzakları bulur.
Kod optimizasyonu
Büyük hesaplama kaynakları gerektiren karmaşık projelerde çalışırken verimlilik şarttır. Kodun yazılış biçimi verimliliği ciddi şekilde etkileyebilir. Stable Code 3B, verimliliği artırmak için kodunuzu yeniden yazmanıza yardımcı olarak zaman, kaynak ve maliyetten tasarruf etmenizi sağlar.
Kod yorumlanabilirliği
Bazen başkalarının kodunu anlamak zor olabilir; bu, özellikle yeni başlayan kodlayıcılar için geçerlidir. Stable Code 3B yalnızca kod iyileştirmeleri önermekle kalmaz, aynı zamanda belirli bir kod parçası hakkında ayrıntılı açıklamalar da sunarak daha hızlı öğrenmenize yardımcı olur.
Üretken yapay zekanın öğrenme amacıyla nasıl kullanılabileceğini öğrenmek için DataCamp Workspace’i denemenizi şiddetle öneririz. Veri bilimi IDE’mizi güçlendirmek ve karmaşık söz dizimini anlamanıza yardımcı olmak için GPT 3.5 ve GPT-4 modellerini kullanıyoruz. DataCamp Workspace’e başlama rehberimize göz atın.
Stable Code 3B Modeli Nasıl İndirilir
Stable Code 3B’ye başlamanın en iyi yolu HuggingFace API aracılığıyladır. Aşağıdaki kodu kullanarak modeli Python ortamınıza kolayca aktarabilir ve metin üretmeye başlayabilirsiniz:
import torch
from transformers import AutoModelForCausalLM, AutoTokenizer
tokenizer = AutoTokenizer.from_pretrained("stabilityai/stable-code-3b", trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
"stabilityai/stable-code-3b",
trust_remote_code=True,
torch_dtype="auto",
)
model.cuda()
inputs = tokenizer("import torch\nimport torch.nn as nn", return_tensors="pt").to(model.device)
tokens = model.generate(
**inputs,
max_new_tokens=48,
temperature=0.2,
do_sample=True,
)
print(tokenizer.decode(tokens[0], skip_special_tokens=True))Stable Code 3B ticari uygulamalarda nasıl kullanılır
Daha önce belirtildiği gibi, Stable Code 3B araştırma amaçları veya kişisel kullanım için ücretsiz olarak yayımlanmıştır. Ticari uygulamalar için kullanıcıların Stability AI Memberships aboneliklerinden birine kayıt olmaları gerekir.
Hâlihazırda Stability AI, aşağıdaki görselde gösterildiği gibi ticari olmayan üyeliğe ek olarak iki tür üyelik sunmaktadır:
Professional üyelik aylık 20 ABD dolarıdır ve kullanıcılara görüntü, video, 3B, metin ve kod üretimi için modelleri içeren Stability AI Core Models’a erişim ve ticari kullanım hakkı sağlar. Enterprise üyelik, büyük şirketler için tasarlanmıştır; özel fiyatlandırma ve bir dizi kurumsal özellikle birlikte gelir.
Daha Fazla Bilgi
Veri profesyonelleri için heyecan verici zamanlardan geçiyoruz. Sektör, Stable Code 3B gibi üretken yapay zeka araçlarının yaygın benimsenmesinin ardından bir dönüşümün eşiğinde.
Devam eden yapay zeka devriminde en iyi yol, güncel kalmaktır. DataCamp yanınızda. Diğer güçlü üretken yapay zeka araçlarını ele alan özel makalelerimize göz atın:
Konular
