Après avoir suivi ces cours, je me sens confiant dans la création de visualisations et de tableaux de bord professionnels.
Description du cours
Découvrez les grands modèles linguistiques
Dans ce cours, vous voyagerez dans le monde des grands modèles de langage (LLM) et découvrirez comment ils remodèlent le paysage de l'IA. Vous explorerez les facteurs qui alimentent le boom du LLM, tels que la révolution de l'apprentissage profond, la disponibilité des données et la puissance de calcul.Ce cours conceptuel se penche sur les LLM et sur la manière dont ils révolutionnent les entreprises et la vie quotidienne à l'aide d'exemples concrets, de la finance à la création de contenu.
Percer les secrets des LLM et des méthodologies de formation
Vous découvrirez les éléments constitutifs des LLM, notamment les techniques de traitement du langage naturel, les stratégies de réglage fin et les techniques d'apprentissage telles que l'apprentissage à partir de zéro, l'apprentissage à partir de quelques échantillons et l'apprentissage à partir de plusieurs échantillons. Au fur et à mesure de votre progression, vous découvrirez les méthodologies d'entraînement de pointe qui alimentent les LLM, notamment la prédiction du mot suivant, la modélisation du langage masqué et les mécanismes d'attention.Explorer les préoccupations et les considérations des LLMs
Vous aborderez également les considérations éthiques et environnementales essentielles dans la construction et la formation des MLD, telles que les préoccupations relatives aux données de formation et à la vie privée.À la fin du cours, vous découvrirez comment garder une longueur d'avance en vous plongeant dans les recherches les plus récentes dans le domaine du LLM. Vous explorerez les développements futurs axés sur l'explicabilité des modèles, la gestion non supervisée des biais, l'efficacité informatique et l'amélioration de la créativité.
À la fin de ce cours, vous aurez une compréhension complète des LLM, de leurs capacités, de leurs applications et des défis qu'ils représentent.
Prérequis
Programme de formation
Plan du cours
1
Introduction aux grands modèles de langage (LLM)
Le paysage de l'IA évolue rapidement, et les grands modèles de langage (LLM) sont à l'avant-garde de cette évolution. Dans ce chapitre, nous allons voir comment les LLM contribuent au développement de l'intelligence artificielle de type humain et transforment les secteurs grâce à leurs nombreuses applications. Vous explorerez les défis et la complexité associés à la modélisation linguistique.
- L'essor des LLM dans le paysage de l'IA50 XP
- Définition d'un LLM50 XP
- Les LLM dans le paysage de l'IA100 XP
- IA et applications LLM100 XP
- Applications dans le monde réel50 XP
- Applications métier50 XP
- Applications multimodales50 XP
- Automatiser les tâches pilotées par les données50 XP
- Les défis de la modélisation linguistique50 XP
- Que peut faire un modèle de langage ?50 XP
- Apprentissage monotâche ou multitâche100 XP
2
Éléments constitutifs des LLM
Ce chapitre explore les LLM sous l’angle de leurs avancées récentes et de leurs capacités émergentes, tout en passant en revue plusieurs techniques de traitement automatique du langage pour préparer efficacement les données. Vous découvrirez les défis liés à l’entraînement des LLM et comment la technique de l’affinage peut les relever efficacement. Vous comprendrez également comment les techniques d'apprentissage N-shot permettent une adaptation efficace des modèles pré-entraînés lorsque les données étiquetées sont limitées.
3
Méthodologie et techniques d’entraînement
Dans ce chapitre, vous découvrirez les éléments fondamentaux de l'entraînement d'un LLM, tels que les techniques de pré-entraînement. Vous acquerrez également une compréhension intuitive de concepts complexes tels que l'architecture des Transformers, y compris le mécanisme d'attention. Ce chapitre traite d'une technique avancée d’affinage et résume le processus d’entraînement nécessaire pour obtenir un LLM.
4
Préoccupations et considérations
Dans ce chapitre, nous examinons les considérations essentielles à prendre en compte lors de l’entraînement des LLM, telles que la disponibilité de données volumineuses, la qualité des données, l'étiquetage précis et les implications des données biaisées. Vous examinerez également divers risques liés au LLM, tels que la confidentialité des données, les questions éthiques et l'impact environnemental. Enfin, le chapitre se terminera par une discussion sur les nouveaux domaines de recherche et l'évolution du paysage des LLM.
R
Concepts des grands modèles de langage (LLM)
Cours
terminé

