Cohere API Eğitimi: Cohere Modelleriyle Çalışmaya Başlama

Yapay zekanın hızla değişen dünyasında, büyük dil modellerinin ortaya çıkışı metinle etkileşim kurma ve metin üretme biçimimizi kökten değiştirdi. Kasım 2022’de OpenAI’nin ChatGPT’yi yayınlamasından bu yana, her gün yeni büyük dil modeli sürümlerine tanık oluyoruz.

Bu modeller arasında Cohere Command, uygulayıcılar arasında üst sıralarda yerini aldı. Cohere, geliştiricilerin ve işletmelerin temel modellerin gücünden uygulamalarında ve kullanım senaryolarında yararlanmasını sağlayan son teknoloji araçlar sunar.

Bu başlangıç rehberi, Cohere’in API tekliflerini açıklamayı; yeteneklerini, avantajlarını ve pratik uygulama stratejilerini ayrıntılı biçimde incelemeyi amaçlar.

Kısaca büyük dil modellerine genel bir bakışla başlayacağız; ancak daha kapsamlı bir yaklaşım arıyorsanız, Büyük Dil Modelleri (LLM’ler) kursuna göz atın.

Cohere ve LLM’ler

Büyük Dil Modelleri (LLM’ler), insan benzeri metni anlayan ve üreten gelişmiş yapay zeka sistemleridir. Dilin inceliklerini kavramak, karmaşık örüntüleri anlamak ve tutarlı yanıtlar üretmek için çok büyük miktarda veriyle eğitilirler.

LLM’ler; çeviri, metin tamamlama, özetleme ve sohbet etkileşimleri dahil olmak üzere çeşitli dil görevlerini yerine getirebilir.

Cohere bu alanda önemli bir oyuncudur ve veri bilimcilerin bu LLM yeteneklerine erişimini kolaylaştıran, iş akışlarını sadeleştiren kullanıcı dostu bir API sunar.

Cohere Nedir

2019’da kurulan Cohere, işletmeler için yapay zeka çözümleri geliştirmeye adanmış Kanadalı bir kuruluştur. OpenAI GPT ve Anthropic Claude gibi rakiplerle birlikte sıkça anılan, büyük dil modeli (LLM) endüstrisinde hızla önemli bir konuma gelmiştir.

Kaynak: Cobus Greyling, Large Language Model Landscape, Medium

Cohere ağırlıklı olarak, geliştiricilerin ve işletmelerin çoğunlukla API hizmeti aracılığıyla erişebildiği, dil üretimine yönelik temel modeller geliştirir ve sunar.

Cohere temelde üç farklı türde model sunar:

• Cohere Command: Cohere Command R, yüksek performans ile güçlü doğruluğu dengeleyen, yüksek ölçekte çalışabilen bir dil modeli ailesidir. En yeni sürüm Command R+, LMSYS Chatbot Arena liderlik tablosunda en üst sıralardaki modeller arasında yer alır.
• Cohere Embed: Embed, Cohere’in önde gelen metin gösterim dil modelidir. Arama sonuçlarının, geri getirmeyle artırılmış üretimin (RAG), sınıflandırmanın ve kümelenmenin doğruluğunu artırır.
• Cohere Rerank: Cohere’in Rerank modeli, herhangi bir anahtar sözcük veya vektör arama sisteminin arama kalitesine, sistemi baştan aşağı yenilemeye gerek kalmadan güçlü bir anlamsal katkı sağlar.

Cohere modellerine iki yoldan erişebiliriz:

1. Playground üzerinden.
2. Python veya diğer programlama dillerinde API’ler aracılığıyla programatik olarak.

Cohere ayrıca, altında Command R+ çalışan, ChatGPT’ye benzer özel bir sohbet arayüzü de sunar.

Cohere Playground

Cohere Playground, Cohere Modelleriyle etkileşim kurmak için kullanıcı dostu bir arayüz sağlar ve GPT ile çalışmaya benzer sezgisel bir deneyim sunar.

Kullanıcılar çeşitli model yeteneklerini keşfedip deneyebilir, metin üretebilir ve model davranışına dair içgörüler edinebilir. Şık ve erişilebilir tasarımıyla Cohere Playground, kullanıcıların Cohere’in model tekliflerini hızla prototiplemesine ve test etmesine olanak tanır.

Cohere Playground, kullanıcıların modelleri keşfetmesi ve denemesi için ücretsizdir (üretime geçene kadar ücretsizdir).

Cohere Playground’u kullanmak için önce Cohere’in web sitesine kaydolmamız gerekir.

Ardından oturum açıp aşağıda gördüğünüz sayfaya ulaşırız—OpenAI platformundaki playground’a oldukça benzer. Sağ taraftaki açılır menüyü kullanarak farklı Cohere modellerini seçebiliriz.

Playground, farklı görevler için biraz farklı arayüzlere sahiptir. Üst tarafta seçebileceğiniz dört seçenek bulunur: Chat, Classify, Embed ve Generate.

Cohere Playground’un kontrol paneli

Cohere Playground, Cohere modellerinin yeteneklerini hızla test etmek için harikadır; ancak bir uygulama veya iş akışı inşa ediyorsanız, bu modellere erişmenin programatik bir yoluna ihtiyacınız vardır. İşte burada Cohere’in API’si devreye girer!

Cohere API

Cohere’in API’sine erişmek oldukça basittir. Özetle, şunlara ihtiyaç duyacağız:

1. Cohere kütüphanesini kurmak.
2. Bir API anahtarı oluşturmak.
3. Bir API çağrısı yapmak.

Bu adımları tek tek ele alalım.

Cohere kütüphanesini kurun

cohere istemcisini pip kullanarak kurabiliriz.

!pip install cohere

Bir API anahtarı oluşturun

Şimdi bir API anahtarına ihtiyacımız var.

Aşağıdaki görselde gördüğümüz üzere iki tür API anahtarı vardır: üretim ve deneme. Bu eğitim için yalnızca bir deneme anahtarına ihtiyacımız var. Anahtarın yanındaki kopyalama simgesine tıklayarak kopyalayabiliriz.

Bir API çağrısı yapın

cohere kütüphanesini kurup API anahtarımızı edindiğimize göre, bir API çağrısı yapabiliriz. Aşağıdaki kodda şunları yapıyoruz:

• API’leriyle etkileşim kurmak için cohere kütüphanesini içe aktarıyoruz.
• API anahtarımızı kullanarak bir Client nesnesi oluşturuyoruz.
• LLM’ye göndermek üzere bir istem (prompt) tanımlıyoruz.
• Modeli co.chat() ile çağırıyoruz.
• Yanıt nesnesini çıkarıp yazdırıyoruz.

import cohere

co = cohere.Client('your_token_here')
message = "What is Machine Learning?"
response = co.chat(
  message=message,
  model="command",
  temperature=0.3
)


answer = response.text
print(answer)

Machine learning is a branch of computer science that focuses on developing algorithms and models that enable computers to learn and make predictions or decisions without being explicitly programmed. It is a key component of artificial intelligence (AI).

Machine Learning allows systems to identify patterns in data, uncover insights, and improve processes through iterative learning. Instead of writing explicit programs, ML enables the creation of models that can analyze data, identify patterns, and predict outcomes. These models are refined and optimized through a process known as training, which involves feeding the models annotated examples or real-world data.

(...)

Yanıt yapısı

Az önce yanıta response.text kullanarak eriştik. Ancak yanıt nesnesi daha fazla bilgi içerir ve response.dict() ile erişebiliriz—bu, yanıt mesajı da dahil olmak üzere tüm metaverileri içeren bir JSON döndürür:

response.dict()

{
   "text":"Machine Learning (ML) is a ....",
   "generation_id":"cebf4874-1e3d-429a-8699-8b9639b943dd",
   "finish_reason":"COMPLETE",
   "chat_history":[
      {
         "message":"What is Machine Learning?",
         "role":"USER"
      },
      {
         "message":"Machine Learning (ML) is a ....",
         "role":"CHATBOT"
      }
   ],
   "meta":{
      "api_version":{
         "version":"1"
      },
      "billed_units":{
         "input_tokens":56,
         "output_tokens":252
      },
      "tokens":{
         "input_tokens":67,
         "output_tokens":252
      }
   },
   "response_id":"df34a5f8-f1cd-407f-b1b5-5971aa12ae2a"
}

response nesnesindeki her alanı tek tek ele alalım:

• text: Model tarafından üretilen mesajı içerir.
• generation_id: Üretilen yanıta ilişkin kimliği içerir; iyi yanıtları vurgulamak ve zayıf olanları bildirmek için Geri Bildirim API uç noktasıyla kullanılabilir.
• finish_reason: Üretimin neden sona erdiğini belirtir ve şu seçeneklerden biri olabilir:
• COMPLETE: Model mesaj üretimini başarıyla tamamladı.
• MAX_TOKENS: Modelin bağlam sınırına, üretim tamamlanmadan önce ulaşıldı.
• chat_history: Sohbet günlüğü biçiminde sunulan konuşmayı içerir.
• meta: Jeton sayıları, faturalama vb. hakkında bilgi içerir.
• response_id: generation_id tek bir üretim denemesine odaklanırken, response_id üretilen metni ve diğer ilgili verileri içeren tüm yanıt nesnesini tanımlar.

Cohere’in API’sinde çok turlu konuşmalar

Kullanıcı sorularını yanıtlamaya yönelik bir sohbet robotu geliştirdiğinizi hayal edin. Önceki konuşmalardan gelen bağlama sahip olmak, dil modelinin daha ilgili yanıtlar vermesini sağlar.

Çok turlu konuşmalarda, önceki etkileşimlerin bağlamını korumak, tutarlı ve yerinde yanıtlar üretmek için kritik önemdedir. Cohere’in API’si bunu, chat_history parametresi aracılığıyla sohbet geçmişini dahil etmemize izin vererek kolaylaştırır.

Bu, modelin konuşmanın akışını kavramasına ve önceki alışverişlere dayanarak uygun şekilde yanıt vermesine yardımcı olur. Bir örneğe bakalım.

message = "How is this related to Artificial Intelligence?"


response = co.chat(
  model="command-r-plus",
  chat_history=[
    {"role": "USER", "text": "What is Large Language Model?"},
    {"role": "CHATBOT", "text": "Large Language Model is a type ..."},
  ],
  message="How is this related to Artificial Intelligence?"
)


print(response.text)

Large language models (LLMs) are a key component of artificial intelligence (AI), and their development has played a significant role in advancing the field of AI. Here's how they are related:

1. Language Understanding and Generation: AI aims to create intelligent systems that can understand and respond to human language. LLMs are designed to process and generate human-like language, which is a fundamental aspect of human intelligence. By training on vast amounts of text data, LLMs learn to recognize patterns, syntax, semantics, and context, enabling them to interpret and generate language in a way that is similar to how humans do.

2. Machine Learning and Neural Networks: LLMs are typically built using machine learning techniques, particularly deep learning and neural networks. These are core areas of AI research. Neural networks, inspired by the structure of the human brain, enable LLMs to learn and make connections between different pieces of information. By training on large datasets, LLMs can identify patterns, relationships, and meanings in the data, which is a fundamental aspect of AI.

3. (...)

Kullanıcı "How is this related to Artificial Intelligence?" diye sorduğunda, modeldeki "this" ifadesinin büyük dil modellerine (LLM’ler) atıfta bulunduğu anlaşıldı. Bu, önceki etkileşimlerden gerekli bağlamı sağlayan chat_history parametresi sayesinde mümkün oldu. Çok turlu konuşmalarda bağlamı korumak, ilgili ve tutarlı yanıtlar üretmek için kritik önemdedir.

Bu yaklaşım iyi çalışsa da, yukarıdaki örnekte yaptığımız gibi chat_history’yi API’ye elle geçirmek gerçekçi değildir. chat_history’yi sabit kodlamak yerine, sohbet ilerledikçe dinamik olarak inşa edebiliriz.

Bunu başarmanın birden fazla yolu vardır. En basit olanı API’de conversation_id kullanmaktır. Bir örneğe bakalım:

# First message
response = co.chat(
  model="command-r-plus",
  message="What is Large Language Models?",
  conversation_id='newuser1',
)

print(response.text)

Large Language Models (LLMs) are a type of artificial intelligence model specifically designed to process and generate human language. These models are typically based on deep learning and neural network architectures and are trained on vast amounts of text data. Here's an overview of LLMs and their key characteristics:

1. Definition:

- Large Language Models are machine learning models that are trained on large-scale textual data to understand, generate, and manipulate human language. They aim to capture the complexities of language, including syntax, semantics, and context.

2. Training Data:

- LLMs are trained on massive amounts of text data, often consisting of billions or even trillions of words. This training data can come from various sources such as books, articles, websites, social media, and other text-based documents.

3. (...)

Şimdi modele başka bir mesaj verelim—conversation_id’nin ilk mesajla tutarlı olduğuna dikkat edin. conversation_id tutarlı kaldığı sürece, API önceki mesajları otomatik olarak bağlam olarak kullanacaktır.

# Second message
response = co.chat(
  model="command-r-plus",
  message="How is it related to Artificial Intelligence?",
  conversation_id='newuser1',
)
print(response.text)

Large Language Models (LLMs) are a crucial component and a powerful manifestation of Artificial Intelligence (AI). Here's how LLMs are closely related to AI:

1. AI Foundation:

- Artificial Intelligence is a broad field that encompasses the development of computer systems capable of performing tasks typically associated with human intelligence. This includes areas like machine learning, natural language processing, computer vision, robotics, and decision-making.

- LLMs fall under the umbrella of AI as they are designed to understand, generate, and respond to human language, which is a fundamental aspect of human intelligence.

2. Machine Learning:

- Machine learning is a subset of AI that focuses on the development of algorithms and models that enable computers to learn and improve over time, based on data and experience, without being explicitly programmed.

- LLMs are built using machine learning techniques, particularly deep learning and neural networks. They are trained on large datasets to identify patterns, understand context, and generate responses, demonstrating their ability to learn and improve from data.

3. (...)

Sohbete devam etmek istiyorsanız, conversation_id’yi tutarlı tutmamız gerekir; böylece önceki tüm konuşmaları otomatik olarak hatırlayacaktır. conversation_id, chat_history ile birlikte kullanılmamalıdır. Birbirlerini dışlarlar.

Daha fazla bilgi edinmek isterseniz, Cohere’in belgelerine göz atın.

Cohere Fiyatlandırma

Cohere’in en gelişmiş modelinin fiyatlandırmasına bakalım ve bunu OpenAI ve Anthropic’in en iyi tescilli dil modelleriyle karşılaştıralım (her şirketin en güçlü modeline odaklanacağız). Mayıs 2024 itibarıyla fiyatlar şöyledir:

Cohere Command R+ çekici bir maliyet avantajı sunsa da, bu modellerin daha geniş performans yelpazesini dikkate almak önemlidir. Anthropic Claude Opus ve GPT-4 Turbo, kıyaslamalarda tutarlı biçimde daha güçlü performans sergilemiştir.

Sonuç

İster uygulamalarınızı geliştirmek isteyen bir geliştirici olun, ister en yeni yapay zekayı bünyenize katmayı hedefleyen bir işletme, Cohere; GPT ve Claude gibi diğer temel modellerle rekabet edebilen büyük modeller sunar—üstelik çok daha düşük bir fiyatla.

Bu blogda, Cohere’in ne olduğunu ve ona Playground veya API kullanarak nasıl erişebileceğimizi öğrendik.

Konuyu daha fazla keşfetmek isterseniz, Cohere API ile Büyük Dil Modellerini Kullanma konulu bu birlikte kodlama içeriğini öneririm.

Daha da derine inmek ve uçtan uca yapay zeka uygulamaları geliştirmeyi öğrenmek istiyorsanız, LangChain ile LLM Uygulamaları Geliştirme kursuna göz atın.