Tutoriel API Cohere : bien démarrer avec les modèles Cohere

Dans le paysage de l’IA, qui évolue à toute vitesse, l’essor des grands modèles de langage a transformé notre façon d’interagir avec le texte et d’en générer. Depuis la sortie de ChatGPT d’OpenAI en novembre 2022, une nouvelle vague de modèles voit le jour presque chaque jour.

Parmi eux, Cohere Command s’impose comme un choix de premier plan pour les praticiens. Cohere met à disposition des outils de pointe pour permettre aux développeurs et aux entreprises d’exploiter la puissance des modèles fondamentaux dans leurs applications et cas d’usage.

Ce guide pour débutants présente l’API de Cohere : un tour d’horizon approfondi de ses capacités, de ses avantages et des stratégies concrètes pour la mettre en œuvre.

Nous commencerons par un bref rappel sur les grands modèles de langage. Pour une approche plus complète, consultez ce cours sur les Large Language Models (LLMs).

Cohere et les LLM

Les grands modèles de langage (LLM) sont des systèmes d’IA avancés capables de comprendre et de générer du texte de manière proche du langage humain. Entraînés sur d’immenses volumes de données, ils apprennent des schémas complexes, saisissent les nuances de la langue et produisent des réponses cohérentes.

Les LLM prennent en charge de nombreuses tâches liées au langage : traduction, complétion de texte, résumé, et interactions conversationnelles.

Cohere est un acteur clé du domaine, avec une API conviviale qui donne aux data scientists accès à ces capacités et fluidifie leurs workflows.

Qu’est-ce que Cohere ?

Créée en 2019, Cohere est une entreprise canadienne dédiée au développement de solutions d’intelligence artificielle pour les entreprises. Elle s’est rapidement imposée comme une référence dans l’univers des LLM, souvent citée aux côtés de concurrents comme OpenAI GPT et Anthropic Claude.

Source : Cobus Greyling, Large Language Model Landscape, Medium

Cohere conçoit et fournit principalement des modèles fondamentaux pour la génération de langage, accessibles aux développeurs et aux entreprises via son service d’API.

Cohere propose trois grandes familles de modèles :

• Cohere Command : Command R est une famille de modèles de langage hautement scalables, qui allient performance et précision. La dernière version, Command R+, figure parmi les meilleurs modèles du classement LMSYS Chatbot Arena.
• Cohere Embed : Embed est le modèle de représentation de texte phare de Cohere. Il améliore la précision de la recherche, du RAG (retrieval-augmented generation), de la classification et du clustering.
• Cohere Rerank : Rerank apporte un gain sémantique puissant à la qualité de recherche de tout système de recherche par mots‑clés ou vecteurs, sans refonte ni remplacement.

On peut accéder aux modèles Cohere de deux façons :

1. Depuis le Playground.
2. Par programmation via des API en Python ou dans d’autres langages.

Cohere propose également une interface de chat dédiée, proche de ChatGPT, propulsée par Command R+.

Cohere Playground

Cohere Playground offre une interface simple pour interagir avec les modèles Cohere, avec une expérience proche de celle de GPT.

Vous pouvez explorer et tester différentes capacités des modèles, générer du texte et analyser leur comportement. Grâce à un design épuré et accessible, le Playground permet de prototyper et d’expérimenter rapidement les modèles Cohere.

Le Playground est gratuit pour explorer et expérimenter les modèles (vous payez uniquement en phase de production).

Pour utiliser Cohere Playground, il faut d’abord créer un compte sur le site de Cohere.

Ensuite, connectez‑vous : vous arriverez sur la page ci‑dessous, très proche du Playground de la plateforme OpenAI. Via le menu déroulant à droite, vous pouvez sélectionner différents modèles Cohere.

Le Playground propose des interfaces légèrement différentes selon la tâche. En haut, vous avez quatre options : Chat, Classify, Embed et Generate.

Tableau de bord de Cohere Playground

Le Playground est idéal pour tester rapidement les capacités des modèles Cohere. Mais si vous développez une application ou un workflow, vous aurez besoin d’un accès programmatique. C’est là que l’API Cohere entre en jeu !

API Cohere

Accéder à l’API Cohere est assez simple. En résumé, vous devez :

1. Installer la bibliothèque Cohere.
2. Créer une clé d’API.
3. Effectuer un appel d’API.

Voyons ces étapes une par une.

Installer la bibliothèque Cohere

Installez le client cohere avec pip.

!pip install cohere

Créer une clé d’API

Nous avons maintenant besoin d’une clé d’API.

Comme indiqué ci‑dessous, il existe deux types de clés : production et essai. Pour ce tutoriel, une clé d’essai suffit. Copiez‑la en cliquant sur l’icône de copie à côté de la clé.

Effectuer un appel d’API

Maintenant que la bibliothèque cohere est installée et que vous avez votre clé d’API, vous pouvez effectuer votre premier appel. Dans l’exemple ci‑dessous, nous :

• Importons la bibliothèque cohere pour interagir avec l’API.
• Créons un objet Client avec notre clé d’API.
• Définissons un prompt à envoyer au LLM.
• Appelons le modèle avec co.chat().
• Récupérons l’objet de réponse et l’affichons.

import cohere

co = cohere.Client('your_token_here')
message = "What is Machine Learning?"
response = co.chat(
  message=message,
  model="command",
  temperature=0.3
)


answer = response.text
print(answer)

Machine learning is a branch of computer science that focuses on developing algorithms and models that enable computers to learn and make predictions or decisions without being explicitly programmed. It is a key component of artificial intelligence (AI).

Machine Learning allows systems to identify patterns in data, uncover insights, and improve processes through iterative learning. Instead of writing explicit programs, ML enables the creation of models that can analyze data, identify patterns, and predict outcomes. These models are refined and optimized through a process known as training, which involves feeding the models annotated examples or real-world data.

(...)

Structure de la réponse

Plus haut, nous avons accédé à la réponse via response.text. Mais l’objet de réponse contient davantage d’informations. Avec response.dict(), vous obtenez un JSON qui regroupe toutes les métadonnées, y compris le message généré :

response.dict()

{
   "text":"Machine Learning (ML) is a ....",
   "generation_id":"cebf4874-1e3d-429a-8699-8b9639b943dd",
   "finish_reason":"COMPLETE",
   "chat_history":[
      {
         "message":"What is Machine Learning?",
         "role":"USER"
      },
      {
         "message":"Machine Learning (ML) is a ....",
         "role":"CHATBOT"
      }
   ],
   "meta":{
      "api_version":{
         "version":"1"
      },
      "billed_units":{
         "input_tokens":56,
         "output_tokens":252
      },
      "tokens":{
         "input_tokens":67,
         "output_tokens":252
      }
   },
   "response_id":"df34a5f8-f1cd-407f-b1b5-5971aa12ae2a"
}

Détaillons les principaux champs de l’objet response :

• text : le message généré par le modèle.
• generation_id : l’identifiant associé à la réponse générée, utilisable avec l’endpoint Feedback pour signaler les bonnes et mauvaises réponses.
• finish_reason : indique pourquoi la génération s’est arrêtée ; valeurs possibles :
• COMPLETE : le modèle a terminé la génération avec succès.
• MAX_TOKENS : la limite de contexte du modèle a été atteinte avant la fin.
• chat_history : l’historique de la conversation au format chat.
• meta : des informations sur les jetons, la facturation, etc.
• response_id : alors que generation_id identifie une tentative de génération, response_id identifie l’ensemble de l’objet réponse, texte généré et métadonnées inclus.

Conversations multi‑tours avec l’API Cohere

Imaginez que vous développez un chatbot destiné à répondre aux questions des utilisateurs. Conserver le contexte des échanges précédents permet au modèle de fournir des réponses plus pertinentes.

Dans une conversation multi‑tours, maintenir le contexte des interactions passées est essentiel pour générer des réponses cohérentes et utiles. L’API Cohere le facilite via le paramètre chat_history, qui vous permet d’inclure l’historique.

Le modèle comprend ainsi le fil de la conversation et répond en tenant compte des échanges antérieurs. Voyons un exemple.

message = "How is this related to Artificial Intelligence?"


response = co.chat(
  model="command-r-plus",
  chat_history=[
    {"role": "USER", "text": "What is Large Language Model?"},
    {"role": "CHATBOT", "text": "Large Language Model is a type ..."},
  ],
  message="How is this related to Artificial Intelligence?"
)


print(response.text)

Large language models (LLMs) are a key component of artificial intelligence (AI), and their development has played a significant role in advancing the field of AI. Here's how they are related:

1. Language Understanding and Generation: AI aims to create intelligent systems that can understand and respond to human language. LLMs are designed to process and generate human-like language, which is a fundamental aspect of human intelligence. By training on vast amounts of text data, LLMs learn to recognize patterns, syntax, semantics, and context, enabling them to interpret and generate language in a way that is similar to how humans do.

2. Machine Learning and Neural Networks: LLMs are typically built using machine learning techniques, particularly deep learning and neural networks. These are core areas of AI research. Neural networks, inspired by the structure of the human brain, enable LLMs to learn and make connections between different pieces of information. By training on large datasets, LLMs can identify patterns, relationships, and meanings in the data, which is a fundamental aspect of AI.

3. (...)

Lorsque l’utilisateur demande « How is this related to Artificial Intelligence? », le modèle comprend que « this » renvoie aux grands modèles de langage (LLM). C’est grâce au paramètre chat_history, qui fournit le contexte nécessaire des échanges précédents. Préserver le contexte dans une conversation multi‑tours est crucial pour générer des réponses pertinentes et cohérentes.

Cette approche fonctionne très bien, mais transmettre manuellement chat_history à chaque appel n’est pas réaliste. Au lieu de le coder en dur, on peut le construire dynamiquement au fil de la conversation.

Plusieurs méthodes existent. La plus simple consiste à utiliser conversation_id dans l’API. Exemple :

# Premier message
response = co.chat(
  model="command-r-plus",
  message="What is Large Language Models?",
  conversation_id='newuser1',
)

print(response.text)

Large Language Models (LLMs) are a type of artificial intelligence model specifically designed to process and generate human language. These models are typically based on deep learning and neural network architectures and are trained on vast amounts of text data. Here's an overview of LLMs and their key characteristics:

1. Definition:

- Large Language Models are machine learning models that are trained on large-scale textual data to understand, generate, and manipulate human language. They aim to capture the complexities of language, including syntax, semantics, and context.

2. Training Data:

- LLMs are trained on massive amounts of text data, often consisting of billions or even trillions of words. This training data can come from various sources such as books, articles, websites, social media, and other text-based documents.

3. (...)

Envoyons maintenant un second message — notez que conversation_id reste identique au premier. Tant que conversation_id est conservé, l’API réutilise automatiquement les messages précédents comme contexte.

# Deuxième message
response = co.chat(
  model="command-r-plus",
  message="How is it related to Artificial Intelligence?",
  conversation_id='newuser1',
)
print(response.text)

Large Language Models (LLMs) are a crucial component and a powerful manifestation of Artificial Intelligence (AI). Here's how LLMs are closely related to AI:

1. AI Foundation:

- Artificial Intelligence is a broad field that encompasses the development of computer systems capable of performing tasks typically associated with human intelligence. This includes areas like machine learning, natural language processing, computer vision, robotics, and decision-making.

- LLMs fall under the umbrella of AI as they are designed to understand, generate, and respond to human language, which is a fundamental aspect of human intelligence.

2. Machine Learning:

- Machine learning is a subset of AI that focuses on the development of algorithms and models that enable computers to learn and improve over time, based on data and experience, without being explicitly programmed.

- LLMs are built using machine learning techniques, particularly deep learning and neural networks. They are trained on large datasets to identify patterns, understand context, and generate responses, demonstrating their ability to learn and improve from data.

3. (...)

Pour poursuivre la conversation, gardez le même conversation_id : l’API se souviendra automatiquement des échanges passés. Notez que conversation_id ne doit pas être utilisé en même temps que chat_history : ils sont mutuellement exclusifs.

Pour en savoir plus, consultez la documentation Cohere.

Tarification Cohere

Examinons la tarification du modèle le plus avancé de Cohere et comparons‑la à celle des principaux modèles propriétaires d’OpenAI et d’Anthropic (en nous concentrant sur le modèle le plus puissant de chaque éditeur). À mai 2024, voici les prix :

Si Command R+ présente un avantage de coût attractif, il faut garder à l’esprit le spectre de performance global de ces modèles. Anthropic Claude Opus et GPT‑4 Turbo affichent régulièrement de meilleurs résultats dans les benchmarks.

Conclusion

Que vous soyez développeur et souhaitiez renforcer vos applications, ou une entreprise prête à intégrer une IA de pointe, Cohere propose des modèles de grande taille compétitifs face à d’autres modèles fondamentaux comme GPT et Claude — à un tarif nettement inférieur.

Dans cet article, nous avons vu ce qu’est Cohere et comment y accéder via le Playground ou l’API.

Pour aller plus loin, découvrez ce code‑along : Using Large Language Models with the Cohere API.

Si vous souhaitez approfondir et apprendre à développer des applications d’IA de bout en bout, consultez Developing LLM Applications with LangChain.