{count, plural, one {Program} other {Program}}
AI Temelleri
{hours} sa
Yapay zekâ yarışı hız kesmeden sürüyor; Google’ın Gemini ve Gemma’sı son dönemde ses getirirken, şimdi de Anthropic’in Claude 3’ü tüm kıyaslamalarda GPT-4 ve Gemini Ultra’yı geride bırakan güçlü bir rakip olarak öne çıktı.
Bu eğitimde Claude 3 modellerini, performans kıyaslamalarını ve onlara nasıl erişileceğini inceleyeceğiz. Ayrıca Claude 3’ü selefi Claude 2.1 ve ChatGPT ile karşılaştıracağız. Son olarak, Claude 3’ün metin üretme, görsel yeteneklere erişme, yanıtları akış olarak iletme ve eşzamansız kullanım için Python API’sini öğreneceğiz.
Claude 3 nedir?
Anthropic yakın zamanda Claude 3 adlı yeni bir yapay zekâ model ailesi tanıttı. Bu modeller, çeşitli bilişsel görevlerde sektör kıstaslarını belirliyor. Claude 3 ailesi, son teknoloji üç model içeriyor: Haiku, Sonnet ve Opus. Bu modeller gerçek zamanlı müşteri sohbetlerini, otomatik tamamlama işlemlerini ve veri çıkarımı görevlerini destekleyebilir.
Şu anda Opus ve Sonnet, claude.ai ve Claude API için kullanılabilir durumda; daha küçük model olan Haiku ise yakında yayınlanacak. Claude 3 modelleri, karmaşık ve çok adımlı talimatları izleme, marka tonu ve yanıt yönergelerine uyma, JSON gibi formatlarda yapılandırılmış çıktı üretme konularında daha başarılıdır.
Önceki Claude modelleriyle karşılaştırıldığında, bu yeni modeller gelişmiş bağlamsal anlama sunar ve bu da gereksiz reddetmeleri azaltır.
200 bin tokenlık bir bağlam penceresi sunarlar ancak 1 milyon tokenı aşan girdileri de işleyebilirler. Özellikle Claude 3 Opus, yüzde 99’un üzerine çıkarak neredeyse kusursuz hatırlama başarımı elde etmiştir.
Modellerin güvenilirliğini sağlamak için Anthropic, geniş bir risk yelpazesini izleyip azaltmaya adanmış ekipler görevlendirmiştir.
Model ayrıntıları
Claude 3, çeşitli uygulamalar için zekâ, hız ve maliyet arasında denge sunan üç model sağlar.
Claude 3 Opus
Opus, karmaşık ve yüksek zekâ gerektiren görevler için tasarlanmıştır; açık uçlu problem çözme ve stratejik analizde üstün performans gösterir. Geniş bir bağlam penceresine sahiptir ve gelişmiş yeteneklerini yansıtan daha yüksek bir maliyete sahiptir.
Fiyat: Girdi tokenları milyon başına 15 ABD Doları, çıktı tokenları milyon başına 75 ABD Doları.
Claude 3 Sonnet
Sonnet, performans ile maliyet arasında en uygun dengeyi sunar; veri işleme, satış optimizasyonu ve ölçeklenebilir yapay zekâ dağıtımları içeren kurumsal iş yükleri için idealdir. Uygun fiyatlıdır ve geniş bir bağlam penceresiyle gelir.
Fiyat: Girdi tokenları milyon başına 3 ABD Doları, çıktı tokenları milyon başına 15 ABD Doları.
Claude 3 Haiku
Haiku, hız ve verimliliğiyle öne çıkar; müşteri hizmetleri, içerik denetimi ve maliyet tasarrufu gerektiren görevlerde gerçek zamanlı yanıt ihtiyaçlarını karşılar; bu da onu serinin en uygun fiyatlı ve en çevik modeli yapar.
Fiyat: Girdi tokenları milyon başına 0,25 ABD Doları, çıktı tokenları milyon başına 1,25 ABD Doları.
Claude 3’e nasıl erişilir
Claude 3 modellerine erişmenin üç yolu vardır.
Claude Chat
Claude AI modellerini basit ve ücretsiz bir şekilde denemek istiyorsanız, ChatGPT’ye benzer olan claude.ai/chats adresine kaydolabilirsiniz. Sohbet arayüzü etkileşimli ve kullanımı kolaydır.
Şu anda Claude 3 Sonnet’i ücretsiz sunuyorlar; ancak Claude 3 Opus’a erişmek için aylık Claude Pro aboneliği satın almanız gerekir.
Claude Chat
Workbench
Claude 3 Opus’a ücretsiz erişmek için Anthropic API’ye kaydolmanız gerekir: console.anthropic.com.
Basit adımları izleyerek ücretsiz kaydolun ve Workbench sekmesine tıklayıp “claude-3-opus-20240229” modelini seçerek Opus modelini kullanmaya başlayın.
Anthropic Workbench
API ve SDK
Claude 3 modellerine erişmenin üçüncü yolu API’dır. Antropic, Python ve Typescript için istemci Yazılım Geliştirme Kitleri (SDK) sunar. Terminalde curl komutunu kullanarak REST API üzerinden de modele erişebilirsiniz.
curl https://api.anthropic.com/v1/messages \
--header "x-api-key: $ANTHROPIC_API_KEY" \
--header "anthropic-version: 2023-06-01" \
--header "content-type: application/json" \
--data \
'{
"model": "claude-3-opus-20240229",
"max_tokens": 1024,
"messages": [
{"role": "user", "content": "How many moons does Jupiter have?"}
]
}'Kıyaslamalara yakından bakış
Claude 3 modelleri, en yüksek performanslı büyük dil modelleri (LLM’ler) ile kıyaslanmış ve çeşitli testlerde önemli iyileşmeler göstermiştir.
Özellikle Claude 3 Opus, MMLU, GPQA ve GSM8K dâhil olmak üzere en yaygın değerlendirme kıstaslarının bazılarında GPT-4 ve Gemini Ultra’yı geride bırakmıştır. Karmaşık görevlerde insan seviyesine yakın kavrayış ve akıcılık sergileyerek genel zekâya ulaşma yolunda ilk adımı atmaktadır.
OpenAI’nin son teknoloji LLM’ini keşfetmek için DataCamp’in GPT-4 nedir ve neden önemlidir? başlıklı makalesini okuyun. Ayrıca Google’ın ChatGPT rakibi Google Gemini hakkında bilgi edinmek için Google Gemini nedir? Hakkında bilmeniz gereken her şey yazısını inceleyin.
Aşağıdaki kıyaslama verilerinden de görülebileceği gibi, Claude 3 modelleri analiz ve öngörü, kod üretimi ve İngilizce dışındaki dillerde yanıt üretimi konularında daha iyi hale gelmiştir:
Claude 3 modelinin görsel yetenekleri önemli ölçüde gelişti; karmaşık fotoğrafları, diyagramları ve grafikleri anlayabiliyor. Bu ilerleme, PDF’ler, akış şemaları ve sunum slaytları gibi çeşitli formatlarda bilgi tabanına sahip işletmelere fayda sağlar.
Claude 3 modelleri ayrıca önceki model nesillerine kıyasla gereksiz reddetmeleri azaltma ve doğruluk açısından da önemli gelişme göstermiştir.
Son olarak, Claude 3 modellerinin, açık uçlu sorularda Claude 2.1’e kıyasla doğrulukta iki kat iyileşme sergilediğini görüyoruz. Ayrıca yeni modellerde hatalı yanıt düzeyi daha düşüktür.
Claude 3 Opus ve Claude 2.1
Bu bölümde, üç yaygın görevde Claude 3 Opus ile Claude 2.1’in yanıtlarını karşılaştırarak performanslarını anlayacağız.
Soru-Cevap
İpucu: Ağzım olmadan konuşur, kulaklarım olmadan duyarım. Bir bedenim yoktur ama rüzgârla canlanırım. Ben neyim?
Claude 2.1, içerik eksikliğini gerekçe göstererek soruyu yanıtlamayı reddetti. Oysa kullanıcı bir bilmece soruyordu ve Claude Opus doğru yanıtı verdi.
Kod Üretimi
İpucu: Basit bir Scikit-learn sınıflandırma modeli için bir FastAPI web uygulaması oluşturun.
Claude 2.1’in ürettiği kod başlangıçta çalışıyor gibi görünse de örnek değerler girildikten sonra hata verdi. İncelediğimizde kodun optimize edilmediğini ve çıkarım fonksiyonunda bazı hatalar olduğunu gördük.
Öte yandan Claude 3 Opus ile karşılaştırdığımızda, kodun sorunsuz çalıştığını ve aşağıda gösterildiği gibi doğru tahminler sağladığını gördük.
Karmaşık Problem
İpucu: Tek katmanlı, tek girişli ve tek çıkışlı bir sinir ağı, lojistik regresyonla nasıl karşılaştırılır?
Her iki model de benzer yanıtlar verdi ancak Claude 3 Opus’un yanıtı daha ayrıntılı ve okunması daha kolaydı.
Claude 3 Opus ve ChatGPT 4
Claude 3 Opus ile ChatGPT 4’ü, yukarıdakilere benzer görevlerde karşılaştırarak Claude 3’ün GPT-4 modeline göre küçük bir üstünlüğünü gösterelim.
Soru-Cevap
İpucu: Jüpiter’in kaç uydusu vardır?
Her iki ifade de yanlıştır. 5 Şubat 2024 itibarıyla Jüpiter’in 95 uydusu vardır. Bu ipucu, veri kümelerinin kesim dönemini anlamak açısından yararlıdır. Görünüşe göre Claude 3 Opus, 2021’den daha eski bir veri kümesiyle eğitilmişken ChatGPT en son Nisan 2023’te güncellenmiştir.
Kod Üretimi
İpucu: Basit bir Scikit-learn sınıflandırma modeli için bir Gradio web uygulaması oluşturma.
Claude 3 modelinin ürettiği kod sorunsuz çalıştı; ancak GPT-4’ün ürettiği kod, birden çok hata ve halüsinasyon nedeniyle çalışmadı.
Karmaşık Problem
İpucu: Bir asansörde dört kişi ve bir binada dört kat var. Her kişinin farklı bir katta inme olasılığı nedir?
Her iki model de bu ünlü olasılık sorusuna doğru yanıtı buldu. Biri matematiksel çözümü sundu, diğeri aynı yanıtı göstermek için Python kodu üretti ve çalıştırdı. Bu durumda ikisi de kazandı.
Claude 3 Python SDK
Bu bölümde Claude 3 Python SDK’yı ve onu nasıl özelleştirilmiş yanıtlar üretmek için kullanabileceğimizi öğreneceğiz.
Başlarken
1. PIP kullanarak anthropic Python paketini kurun.
pip install anthropic2. Python paketini kurmadan önce https://console.anthropic.com/dashboard adresine gidip API anahtarını almamız gerekiyor.
3. ANTHROPIC_API_KEY ortam değişkenini ayarlayın ve API anahtarının değerini verin. Ortam değişkenini ayarlamak ve erişmek, DataCamp’in yapay zekâ destekli veri defteri olan DataLab’de oldukça kolaydır.
4. API anahtarını kullanarak istemci nesnesini oluşturun. Bu istemciyi metin üretimi, görsel yeteneklere erişim ve akış için kullanacağız.
import os
import anthropic
client = anthropic.Anthropic(
api_key=os.environ["ANTHROPIC_API_KEY"],
)Claude 2 Tamamlama API’si
Yeni Claude 3 modelinin Completion API’sini kullanmadığını not etmek önemlidir. Bu API’yi Claude 3 modelleri için kullanmaya çalışırsanız hata alırsınız ve bunun yerine Messages API’yi kullanmanız önerilir.
from IPython.display import Markdown, display
from anthropic import HUMAN_PROMPT, AI_PROMPT
completion = client.completions.create(
model="claude-2.1",
max_tokens_to_sample=300,
prompt=f"{HUMAN_PROMPT} What is Matthew effect? {AI_PROMPT}",
)
Markdown(completion.completion)
Daha uygun maliyetli Claude Python API hakkında daha fazla bilgi edinmek isterseniz, Claude 2 ve Anthropic API’ye Başlarken yazısını okuyun.
Claude 3 Messages API
Açıklık getirmek adına, Claude 3 Opus modeli için Anthropic Messages API’yi test edeceğiz. Bu API, Completion API’ye benzer ancak rol ve içeriği içeren sözlüklerden oluşan bir liste olarak messages argümanının sağlanmasını gerektirir.
Prompt = "Write the Go code for the simple data analysis."
message = client.messages.create(
model="claude-3-opus-20240229",
max_tokens=1024,
messages=[
{"role": "user", "content": Prompt}
]
)
Markdown(message.content[0].text)IPython Markdown kullanmak, yanıtı Markdown biçiminde görüntüler. Bu, madde işaretleri, kod blokları, başlıklar ve bağlantıların temiz bir şekilde gösterileceği anlamına gelir.
Kod mükemmel şekilde çalışıyor ve açıklama, neler olup bittiğini herkesin anlayabileceği kadar nettir.
Sistem İpucu Ekleme
Sistem ipucu sağlayarak yanıtı özelleştirebiliriz. Tüm yanıtları İsveççeye dönüştürmesini istedik.
Prompt = "Write a report on climate change."
message = client.messages.create(
model="claude-3-opus-20240229",
max_tokens=1024,
system="Respond only in Svenska.",
messages=[
{"role": "user", "content": Prompt}
]
)
Markdown(message.content[0].text)İklim değişikliği hakkında İsveççe olarak kusursuz bir rapor oluşturdu.
Claude 3 Görsel Bloğu
Messages API, görsel yetenekleri içerir. Bu bölümde, bir yanıt üretmek için Pexels.com’dan iki fotoğraf kullanacağız.
- Görsel 1: Debayan Chakraborty’nin fotoğrafı: https://www.pexels.com/photo/indian-blue-jay-20433278/
- Görsel 2: Rachel Xiao’nun fotoğrafı: https://www.pexels.com/photo/brown-pendant-lamp-hanging-on-tree-near-river-772429/
Görüntüleri httpx paketini kullanarak yükleyecek ve base64 kodlamasına dönüştüreceğiz.
import base64
import httpx
media_type = "image/jpeg"
url_1 = "https://images.pexels.com/photos/20433278/pexels-photo-20433278/free-photo-of-indian-blue-jay.jpeg?auto=compress&cs=tinysrgb&w=1260&h=750&dpr=2"
image_encode_1 = base64.b64encode(httpx.get(url_1).content).decode("utf-8")
url_2 = "https://images.pexels.com/photos/772429/pexels-photo-772429.jpeg?auto=compress&cs=tinysrgb&w=1260&h=750&dpr=2"
image_encode_2 = base64.b64encode(httpx.get(url_2).content).decode("utf-8")Tek Görselle Görsel
Görseller hakkında bilgi almak için Claude 3 API’ye görsel verisini, kodlama türünü ve ortam türünü sağlamamız gerekir. Hem görsel hem de ipucu, mesaj argümanı için içerik sözlüğünün bir parçasıdır.
message = client.messages.create(
model="claude-3-opus-20240229",
max_tokens=1024,
messages=[
{
"role": "user",
"content": [
{
"type": "image",
"source": {
"type": "base64",
"media_type": media_type,
"data": image_encode_1,
},
},
{
"type": "text",
"text": "Describe the image."
}
],
}
],
)
Markdown(message.content[0].text)
Birden Çok Görselle Görsel
Birden fazla görsel eklemek karmaşık olabilir; ancak örnekteki kod kalıbını takip ederseniz nasıl çalıştığını anlayacaksınız.
Sadece Görsel 1 ve Görsel 2’yi işaret eden metin oluşturup bu iki görsel hakkında sorular sormamız yeterlidir.
message = client.messages.create(
model="claude-3-opus-20240229",
max_tokens=1024,
messages=[
{
"role": "user",
"content": [
{
"type": "text",
"text": "Image 1:"
},
{
"type": "image",
"source": {
"type": "base64",
"media_type": media_type,
"data": image_encode_1,
},
},
{
"type": "text",
"text": "Image 2:"
},
{
"type": "image",
"source": {
"type": "base64",
"media_type": media_type,
"data": image_encode_2,
},
},
{
"type": "text",
"text": "What do these images have in common?"
}
],
}
],
)
Markdown(message.content[0].text)Mükemmel. Her iki görselde de kuşlar yer alıyor.
Claude 3 Akış API’si
Akış, herhangi bir çıktı döndürmeden önce tüm dizinin üretilmesini beklemek yerine, metin çıktılarının kesintisiz bir biçimde üretilmesi sürecini ifade eder. Bu teknikle çıktı, algılanan gecikmeyi en aza indirmeye yardımcı olacak şekilde token token üretilir.
create yerine, akış yanıtı üretmek için stream işlevini kullanacağız.
Sonuçları göstermek için with söz dizimini ve token’lar kullanıma sunulur sunulmaz yazdırmak üzere for döngüsünü kullanacağız.
Prompt = "Write a Python code for typical data engineering workflow."
completion = client.messages.stream(
max_tokens=1024,
messages=[
{
"role": "user",
"content": Prompt,
}
],
model="claude-3-opus-20240229",
)
with completion as stream:
for text in stream.text_stream:
print(text, end="", flush=True)
Claude 3 Eşzamansız API
Eşzamanlı (senkron) API’ler, istekleri sıralı olarak yürütür ve bir yanıt alınana kadar engeller; bir sonraki çağrı bu yanıt sonrası başlatılır. Buna karşılık, eşzamansız API’ler, engelleme olmadan birden çok isteği eşzamanlı olarak gerçekleştirerek daha verimli ve ölçeklenebilir hale gelir.
AsyncAnthropic kullanarak eşzamansız istemciyi başlatacağız. Ardından async anahtar sözcüğüyle main fonksiyonunu oluşturup asyncio.run işleviyle çalıştıracağız.
Not: Jupyter Notebook’ta async kullanıyorsanız, asyncio.run(main()) yerine await main() kullanmayı deneyin.
import asyncio
from anthropic import AsyncAnthropic
async_client = AsyncAnthropic(
api_key=os.environ["ANTHROPIC_API_KEY"],
)
Prompt = "Could you explain what MLOps is and suggest some of the best tools to use for it?"
async def main() -> None:
message = await async_client.messages.create(
max_tokens=1024,
messages=[
{
"role": "user",
"content": Prompt,
}
],
model="claude-3-opus-20240229",
)
display(Markdown(message.content[0].text))
asyncio.run(main())
Akışı Eşzamansız API ile Birleştirme
Eşzamansız istemcinin stream işlevini kullanarak akışı async yöntemlerle kolayca birleştirebiliriz. Böylece birden çok isteği alıp yanıtları akış olarak iletebilir, yapay zekâ uygulamasını ölçeklenebilir ve sağlam hale getirebiliriz.
async def main() -> None:
completion = async_client.messages.stream(
max_tokens=1024,
messages=[
{
"role": "user",
"content": Prompt,
}
],
model="claude-3-opus-20240229",
)
async with completion as stream:
async for text in stream.text_stream:
print(text, end="", flush=True)
asyncio.run(main())
Kodu çalıştırmakta zorlanıyorsanız, kodu kendinizin görüntüleyip çalıştırabileceğiniz (kopya oluşturduktan sonra) bu DataLab çalışma kitabına erişebilirsiniz.
OpenAI’nin büyük dil modellerine nasıl erişileceğini, Python’da OpenAI API aracılığıyla GPT-3.5 ve GPT-4’ü Kullanma eğitimini izleyerek öğrenin.
Son Düşünceler
Anthropic artık OpenAI’ye benzer şekilde halka açık ve kurumsal odaklı bir şirket. Modellerine herkese, bazı durumlarda ücretsiz olarak erişim sağlıyor. En iyi performans gösteren LLM olan Claude 3 Opus’a Pro abonelik veya API erişimi yoluyla ulaşabilirsiniz. Ancak Anthropic, OpenAI’nin sahip olduğu ekosisteme sahip değil; gömleme (embedding) modelleri, görüntü ve video üretimi, metinden konuşmaya ve konuşma tanıma gibi alanlarda eksikleri var. OpenAI API’nin sunduğu çekirdek işlevlerin de bir kısmı yok.
Sosyal medyayı kasıp kavuran OpenAI’nin yeni metinden videoya modelini, Open AI’ın Sora’sı nedir? Nasıl çalışır, kullanım alanları, alternatifler ve daha fazlası yazısını okuyarak keşfedin.
Bu eğitimde, yapay zekâ dünyasında çokça konuşulan Claude 3 modelini ele aldık. Onu çeşitli görevlerde Claude 2.1 ve GPT-4 ile karşılaştırdık. Son olarak, Anthropic Python SDK’sını kullanarak metin ürettik, görsel yeteneklere eriştik, yanıtı token token akışla ilettik ve API’yi eşzamansız olarak kullandık.
Yapay zekâda yeniyseniz ve son teknoloji LLM’lerin iç işleyişini anlamak istiyorsanız, AI Fundamentals beceri yolunu düşünmelisiniz. ChatGPT, büyük dil modelleri, üretici yapay zekâ ve çok daha fazlası gibi popüler yapay zekâ konularında size pratik bilgi sunacaktır.
Konular
