Bien démarrer avec Claude 2 et l’API Claude 2

Si vous souhaitez intégrer à votre application un modèle de langage plus naturel et très précis, Claude 2 d’Anthropic est un excellent choix. Il est proposé avec une application de chat publique (similaire à ChatGPT), une API et un playground pour différentes versions des modèles.

Découvrez les différences entre les réponses de Claude et de ChatGPT dans l’article Claude vs. ChatGPT : quel assistant IA est le meilleur pour les data scientists en 2023 ?

Dans ce tutoriel, nous verrons les modèles Claude 2X et comment y accéder via l’API Python. Nous couvrirons la configuration de l’API, les requêtes de base et la gestion des réponses. Nous aborderons aussi le streaming, les requêtes asynchrones et des fonctions plus avancées de l’API. Tout le code source de ce tutoriel est disponible dans ce carnet DataLab ; vous pouvez facilement en créer une copie pour modifier et exécuter le code directement dans le navigateur, sans rien installer sur votre ordinateur.

À la fin, vous saurez intégrer Claude 2 dans votre propre application pour tirer parti de ses capacités avancées en langage naturel.

Pour celles et ceux qui découvrent l’IA générative, notre parcours de compétences AI Fundamentals vous aide à apprivoiser les technologies et modèles qui façonnent le monde de l’IA de demain.

Les bases de Claude 2

Anthropic a récemment lancé Claude 2, la dernière version de son grand modèle de langage. Il affiche de meilleures performances sur de nombreuses tâches, avec des réponses plus longues et plus cohérentes. Il propose en outre un accès API et un site en bêta publique, disponible sur claude.ai.

Image tirée de claude.ai

Claude 2 est reconnu pour la qualité de ses conversations, avec des capacités de raisonnement renforcées, une mémoire étendue et un suivi du contexte, tout en minimisant les sorties potentiellement nuisibles. Il progresse notamment en code, en raisonnement mathématique et en logique.

Par exemple, en raisonnement juridique, Claude 2 a obtenu 76,5 % à la partie QCM de l’examen du barreau, soit 3,5 % de plus que Claude 1.3. Sur les tests d’aptitude académique, Claude 2 se situe au-dessus du 90e centile en lecture et expression écrite au GRE, et au niveau de la médiane des candidats en raisonnement quantitatif.

Présentation de Claude 2.1

Le 21 novembre 2023, Anthropic a publié Claude 2.1, avec des améliorations notables permettant un raisonnement plus avancé et moins d’hallucinations. L’accent a été mis sur la fiabilité via une honnêteté accrue : Claude 2.1 est désormais plus transparent sur les lacunes de sa base de connaissances au lieu d’inventer des informations.

Il propose une fenêtre de contexte portée à 200 K, ce qui permet à Claude de référencer et de recouper des contenus longs (par exemple des articles de recherche) pour maintenir la cohérence factuelle dans des résumés ou analyses étendus.

Claude 2.1 a également introduit l’usage expérimental d’outils. Il permet à Claude 2 de récupérer et traiter des données issues de sources additionnelles avec une grande précision, tout en invoquant des fonctions et en exécutant des actions.

Configuration de Claude 2

L’accès à l’API Anthropic est actuellement restreint à un groupe sélectionné de personnes et d’organisations. Si vous souhaitez être parmi les premiers à l’essayer, vous pouvez remplir le formulaire de demande disponible sur le site. Anthropic accorde l’accès progressivement pour garantir la sécurité et l’évolutivité de l’API. Notez qu’en raison du grand nombre de demandes, l’obtention de l’accès peut prendre du temps.

Une fois votre demande approuvée et votre compte créé, vous serez redirigé vers le tableau de bord. Celui-ci comporte un lien vers l’atelier, similaire à OpenAI Playground, où vous pouvez basculer entre les modèles et analyser les réponses. Vous y trouverez également la génération de clés API et la documentation.

Image du tableau de bord

Pour créer une clé API, cliquez sur le bouton "Get API Keys" et saisissez le nom de la clé. Vous recevrez alors une clé à utiliser pour générer des réponses via l’API Claude 2.

Image : Anthropic

Pour définir la clé API en variable d’environnement, utilisez une commande Bash ou définissez-la dans un carnet DataLab. Commencez par lancer un nouveau carnet, puis ouvrez le bouton "Environment" dans le panneau de gauche. Cliquez sur le plus, ajoutez le nom et la valeur de la variable, puis enregistrez pour appliquer.

Image tirée de DataLab

Remarque : vous pouvez renseigner la clé API directement dans la fonction Python, mais cela est fortement déconseillé pour des raisons de sécurité.

Pour accéder à l’API Anthropic en Python, commencez par installer le SDK Anthropic pour Python avec PIP.

pip install anthropic

Accéder à l’API Claude 2

Dans cette section, nous allons apprendre à interroger l’API Anthropic pour générer des réponses avec le modèle Claude 2.1. Vous pouvez coder en parallèle en créant une copie de ce carnet : Bien démarrer avec Claude 2 et l’API Claude 2.

Nous allons charger os pour accéder à la clé API et la bibliothèque anthropic pour créer le pipeline de conversation à partir de cette clé.

from anthropic import Anthropic, HUMAN_PROMPT, AI_PROMPTimport osanthropic_api_key = os.environ["ANTHROPIC_API_KEY"]anthropic = Anthropic(    api_key= anthropic_api_key,)

Les constantes « HUMAN_PROMPT » et « AI_PROMPT » sont en réalité des chaînes utilisées pour structurer correctement le prompt du pipeline de génération.

Générons maintenant une réponse en fournissant la version du modèle, le nombre maximum de tokens et le prompt. Assurez-vous que votre prompt suit le gabarit Claude 2X.

completion = anthropic.completions.create(    model="claude-2.1",    max_tokens_to_sample=350,    prompt=f"{HUMAN_PROMPT} How do I learn Python in a week?{AI_PROMPT}",)print(completion.completion)

Le résultat est excellent : Claude 2.1 nous propose un plan détaillé pour apprendre Python en une semaine.

Anthropic prend en charge les requêtes API synchrones et asynchrones.

Les API synchrones exécutent les requêtes séquentiellement, en bloquant jusqu’à réception de la réponse avant d’enchaîner. À l’inverse, les API asynchrones autorisent plusieurs requêtes concurrentes sans blocage et traitent les réponses à mesure qu’elles arrivent. Elles sont donc plus efficaces et plus adaptées à l’échelle.

Pour appeler l’API de manière asynchrone, importez AsyncAnthropic au lieu de Anthropic. Définissez une fonction avec la syntaxe async et utilisez await à chaque appel.

from anthropic import AsyncAnthropicanthropic = AsyncAnthropic()async def main():    completion = await anthropic.completions.create(        model="claude-2.1",        max_tokens_to_sample=300,        prompt=f"{HUMAN_PROMPT}How many moons does Jupiter have?{AI_PROMPT}",    )    print(completion.completion)await main()

Le résultat est presque exact. Certaines sources indiquent 79, mais la NASA recense 95 lunes pour Jupiter.

Remarque : utilisez asyncio.run(main()) plutôt que await main() lorsque vous exécutez le code dans un fichier .py Python plutôt que dans un notebook Jupyter.

Streaming LLM avec Claude 2

Le streaming est devenu essentiel pour les grands modèles de langage, avec plusieurs avantages par rapport au traitement traditionnel. Au lieu d’attendre la réponse complète, il permet de traiter la sortie dès qu’elle est disponible. Cette approche réduit la latence perçue en renvoyant la sortie du modèle, token par token, plutôt qu’en une seule fois.

Pour activer le streaming, passez l’argument ‘stream’ à `True` dans la fonction de complétion.

anthropic = Anthropic()stream = anthropic.completions.create(    prompt=f"{HUMAN_PROMPT}Could you please write a Python code to train a simple classification model?{AI_PROMPT}",    max_tokens_to_sample=350,    model="claude-2.1",    stream=True,)for completion in stream:    print(completion.completion, end="", flush=True)

On constate que la réponse arrive ligne par ligne, bien plus rapidement, comme si Claude 2.1 l’écrivait en direct.

De la même manière, on peut lancer le streaming en mode `async`. Notez que nous avons simplement ajouté `await` devant la fonction de complétion et `async` avant la boucle for.

anthropic = AsyncAnthropic()stream = await anthropic.completions.create(    prompt=f"{HUMAN_PROMPT}Please write a blog post on Neural Networks and use Markdown format. Kindly make sure that you proofread your work for any spelling, grammar, or punctuation errors.{AI_PROMPT}",    max_tokens_to_sample=350,    model="claude-2.1",    stream=True,)async for completion in stream:    print(completion.completion, end="", flush=True)

Notre IA générative s’acquitte très bien de la rédaction d’un véritable article de blog.

Découvrez notre sélection de 7 outils essentiels de l’IA générative pour créer des chatbots complets et contextuels.

Fonctionnalités avancées et personnalisations

L’API Anthropic offre plusieurs fonctionnalités avancées et options de personnalisation au-delà de la simple génération de réponses :

• Gestion des erreurs : des exceptions dédiées comme APIConnectionError et APIStatusError permettent de gérer proprement les problèmes de connexion et les erreurs HTTP.
• En-têtes par défaut : l’en-tête anthropic-version est envoyé automatiquement pour identifier le client. Vous pouvez le personnaliser via l’argument default_headers de l’objet anthropic.
• Journalisation : le logging de debug peut être activé en définissant la variable d’environnement ANTHROPIC_LOG, utile pour le diagnostic.
• Client HTTP : le client HTTPX qui gère les requêtes peut être configuré pour des proxys, transports et autres fonctionnalités avancées.
• Gestion des ressources : vous pouvez fermer le client manuellement avec .close() ou utiliser un context manager qui se ferme automatiquement en sortie.
• Techniques de prompting : la documentation de l’API fournit plusieurs mots-clés pour optimiser vos entrées pour du texte, des documents structurés, des extraits de code et des résultats RAG.
• Validation des prompts : l’API effectue une sanitisation et une validation de base pour garantir une optimisation adaptée au modèle Claude 2.

Pour en savoir plus sur les fonctions avancées, consultez la documentation de l’API Anthropic.

Cas d’usage concrets de l’API Claude 2

L’API Claude 2 a de nombreuses applications concrètes dans divers secteurs et domaines. En création de contenu et copywriting, elle peut aider à rédiger des articles de qualité, des supports marketing et des textes créatifs. Elle est également utile pour :

• Traduction : créer des applications de traduction en temps réel, grâce à des capacités multilingues avancées.
• Éducation : excellente pour l’apprentissage personnalisé. Les apprenants peuvent l’exploiter pour assimiler plus vite des sujets complexes.
• Support client : fournir des réponses contextuelles plus précises et plus naturelles.
• Aide au développement : générer des extraits de code, déboguer et expliquer des concepts complexes pour accélérer le développement.
• Arts créatifs : collaborer avec des artistes pour générer des contenus comme des compositions musicales.
• Juridique / conformité : rédiger des documents, résumer des textes de loi et contribuer au respect réglementaire.

Conclusion

L’API Python offre un moyen puissant d’accéder aux modèles conversationnels de pointe d’Anthropic. Nous avons vu comment se configurer avec des clés d’accès, effectuer des appels API synchrones et asynchrones, diffuser des réponses en streaming et utiliser certaines fonctions avancées. Nous avons également passé en revue des cas d’usage concrets de Claude 2.

Bien que l’API soit encore en accès limité, Anthropic ouvre progressivement davantage d’accès. À mesure que Claude 2 progresse, l’API Python permettra aux développeurs d’intégrer facilement ses capacités de pointe dans un large éventail de produits et services.

Nous espérons que cette introduction à l’API Claude 2 vous a été utile ! N’hésitez pas à expérimenter avec les exemples de code pour constater par vous-même les performances de Claude 2. Voici une liste de 5 projets que vous pouvez créer avec des modèles d’IA générative pour vous inspirer et lancer votre prochain projet avec Claude 2.