Que sont les foundation models ?

BERT, GPT-3, DALL-E 2, LLaMA, BLOOM : ces modèles figurent parmi les vedettes de la révolution de l’IA que nous observons depuis la sortie de ChatGPT. Qu’ont-ils en commun ? Vous l’avez deviné : ce sont tous des foundation models.

Les foundation models sont une évolution récente de l’IA. Ils reposent sur des algorithmes conçus pour optimiser la généralité et la polyvalence des résultats. Basés sur des réseaux de neurones à grande échelle, ils sont souvent entraînés sur un large éventail de sources et de volumes de données afin d’accomplir une variété de tâches en aval, y compris certaines pour lesquelles ils n’ont pas été spécifiquement conçus ni entraînés.

La popularisation des foundation models relance le débat classique entre IA faible et intelligence artificielle générale (AGI), également appelée IA forte. L’IA faible désigne des systèmes conçus pour des tâches précises, incapables d’agir au-delà de leur périmètre. À l’inverse, l’AGI est un système hypothétique capable de comprendre, d’apprendre et d’appliquer des connaissances sur un large éventail de tâches, à l’image d’un humain.

S’ils ne raisonnent pas encore comme nous, les foundation models livrent des résultats inédits qui nous rapprochent du seuil de l’AGI. D’où l’intérêt, pour les professionnels de la donnée comme pour les non-spécialistes, de bien les connaître.

Pour démarrer, notre parcours de compétences AI Essentials vous offre une vue d’ensemble approfondie des modèles d’IA de nouvelle génération. Si vous avez déjà des compétences, notre article sur les projets en IA générative vous permet de mettre vos connaissances en pratique.

Voyons de plus près ce que sont les foundation models !

Que sont les foundation models ? Comprendre les notions clés

Le terme foundation model est relativement récent et chevauche d’autres notions populaires comme l’IA générative, le transformer et les grands modèles de langage (LLMs).

La terminologie de l’IA demeure toutefois discutée. Voici des définitions qui vous aideront à naviguer dans ce domaine en évolution rapide :

• IA générative : terme englobant décrivant des systèmes d’IA dont la fonction première est de générer du contenu, par opposition à d’autres systèmes conçus pour la classification, la prédiction, etc.
• Transformer : les transformers ont bouleversé l’apprentissage profond. Leur architecture innovante gère bien mieux les données séquentielles. Particulièrement adaptés au traitement du texte, ils sont devenus une pierre angulaire du traitement et de la génération du langage naturel (NLP/NLG). Ils s’appliquent aussi à d’autres types de données, comme l’image, avec un succès comparable.
• Grand modèle de langage : les LLMs modélisent et traitent le langage humain. Les transformers en sont la technologie sous-jacente. On dit qu’ils sont « grands » car ils comptent des centaines de millions, voire des milliards de paramètres, préentraînés sur d’immenses corpus de textes.
• Foundation model : terme générique pour désigner des modèles d’IA conçus pour produire une grande variété de résultats. Ils couvrent de multiples tâches et cas d’usage : génération de texte, vidéo, image ou audio. Particularité : ils peuvent fonctionner seuls ou servir de « fondation » à d’autres applications. Par exemple, le LLM GPT est le foundation model de ChatGPT.

Comment fonctionnent les foundation models ?

Quelle que soit la tâche visée ou le type de données d’entraînement, la technologie au cœur des foundation models est le transformer.

Développés par des chercheurs de Google en 2017, les transformers offrent une alternative aux réseaux de neurones récurrents (RNN) et aux réseaux de neurones convolutionnels (CNN) pour traiter les données séquentielles, notamment le texte.

Les transformers prédisent le mot suivant d’une séquence pour produire une réponse cohérente. Ils s’appuient pour cela sur un mécanisme d’attention qui pondère l’influence des différents mots lors de la génération.

L’entraînement des transformers comporte deux étapes : le pré-entraînement et l’affinage.

Pré-entraînement

Dans cette phase, les transformers sont entraînés sur de grandes quantités de données brutes (textuelles), majoritairement issues d’Internet.

L’entraînement utilise l’apprentissage auto-supervisé, une approche innovante qui ne nécessite pas d’annotation manuelle.

L’objectif est d’apprendre les régularités statistiques du langage. La stratégie dominante pour améliorer les performances consistant à augmenter la taille du modèle (c.-à-d. le nombre de paramètres) et le volume de données de pré-entraînement, cette phase est généralement longue et coûteuse.

Affinage (fine-tuning)

Le pré-entraînement donne au transformer une compréhension de base du langage, insuffisante pour des tâches opérationnelles spécifiques. Il est donc affiné sur un jeu de données plus restreint et spécifique à un domaine, généré avec l’aide d’évaluateurs humains suivant des consignes précises.

Modalité

Autre caractéristique importante : la modalité. Selon les types de données en entrée, les foundation models peuvent être unimodaux ou multimodaux. Les premiers n’acceptent qu’un seul type de données et génèrent le même type de sortie ; les seconds acceptent plusieurs modalités en entrée et produisent divers types de sorties (par exemple, GPT-4 accepte des entrées images et texte et génère du texte).

Le fonctionnement des transformers peut sembler ardu et dépasse le cadre de cet article. Pour aller plus loin, consultez notre article Qu’est-ce que ChatGPT ?, où nous avons posé la question directement à ChatGPT, et découvrez Transformers et Hugging Face pour une vue plus technique.

Pour comprendre en détail le fonctionnement des LLMs, notre cours Concepts sur les grands modèles de langage (LLMs) est un excellent point de départ.

Applications des foundation models

Les foundation models peuvent fonctionner de manière autonome ou servir de base à une myriade de systèmes et d’applications d’IA en aval. Si la majorité des systèmes récents génèrent du texte ou du code et accomplissent des tâches de NLP, de plus en plus de systèmes produisent aussi des images, de la musique, etc.

Vous trouverez ci-dessous un tableau de quelques foundation models parmi les plus populaires.