Questions d'entretien NLP (débutant à avancé)

Si vous passez un entretien pour un poste en IA, en apprentissage automatique ou en data science, il y a de fortes chances que des questions sur le NLP tombent. Qu'il s'agisse d'expliquer la différence entre le stemming et la lemmatisation ou de détailler le fonctionnement de l'attention dans un transformer, les recruteurs veulent voir que vous savez raisonner sur des données textuelles, pas seulement réciter des définitions. Notre cours Introduction to NLP in Python est un excellent point de départ pour bâtir ces fondamentaux.

La difficulté des entretiens NLP, c'est que les attentes varient fortement selon le poste. Un entretien pour débutant n'a rien à voir avec celui d'un machine learning engineer. Ce guide regroupe 45 questions d'entretien NLP, classées par niveau et par type de poste, pour vous concentrer sur ce qui vous attend réellement.

Questions NLP pour débutants

Ces questions évaluent votre maîtrise des concepts et de la terminologie de base en NLP. Attendez-vous à les rencontrer pour des postes juniors en data science ou analyste.

Qu'est-ce que le traitement automatique du langage naturel (NLP) ? 

Le NLP est un domaine de l'IA qui vise à permettre aux ordinateurs de comprendre, d'interpréter et de générer le langage humain. Il fait le lien entre la linguistique et l'apprentissage automatique pour traiter des tâches comme la traduction, l'analyse de sentiment ou la classification de texte.

Quelles sont les tâches courantes en NLP ? 

Parmi les tâches fréquentes : classification de texte, reconnaissance d'entités nommées (NER), analyse de sentiment, traduction automatique, synthèse de texte et questions-réponses. Chaque tâche a ses approches de modélisation et ses critères d'évaluation propres.

Qu'est-ce que la tokenisation ? 

La tokenisation segmente le texte brut en unités plus petites, généralement des mots ou des sous-mots, que le modèle peut traiter. Par exemple, "I love NLP" devient ["I", "love", "NLP"] au niveau des mots.

Quelle est la différence entre stemming et lemmatisation ? 

Le stemming tronque les fins de mots via des règles, produisant des racines qui ne sont pas forcément des mots réels ("running" → "run", "studies" → "studi"). La lemmatisation s'appuie sur un vocabulaire et une analyse morphologique pour renvoyer la forme de base réelle ("studies" → "study"), plus précise mais plus lente.

Que sont les stop words et pourquoi les supprimer ? 

Les stop words sont des mots très fréquents comme "the", "is" et "and" qui portent peu d'information sémantique pour de nombreuses tâches de NLP. Les retirer réduit le bruit et accélère le traitement, même si certaines tâches comme l'analyse de sentiment peuvent les conserver.

Qu'est-ce que le modèle sac de mots (Bag of Words, BoW) ? 

BoW représente un texte comme un ensemble non ordonné de fréquences de mots, en ignorant la grammaire et l'ordre. C'est simple et rapide, mais cela perd le contexte. "Not good" et "good" auront une représentation presque identique en BoW.

Qu'est-ce que le TF-IDF et en quoi améliore-t-il BoW ? 

TF-IDF (Term Frequency–Inverse Document Frequency) pondère chaque mot par sa fréquence dans un document relativement à sa fréquence globale dans le corpus. Les mots fréquents dans un document mais rares ailleurs obtiennent des scores plus élevés, ce qui met en avant des termes plus informatifs que de simples comptes.

Comment évaluer un modèle de classification de texte ? 

La précision convient quand les classes sont équilibrées, mais la précision positive (precision), le rappel (recall) et le score F1 offrent une vision plus complète en cas de déséquilibre. Le F1 est la moyenne harmonique de la précision et du rappel, utile lorsque les faux positifs et les faux négatifs n'ont pas le même coût.

Une fois les fondamentaux acquis, les questions d'entretien testent votre compréhension des compromis entre approches. C'est l'objet des questions intermédiaires.

Questions NLP intermédiaires

Ces questions supposent que vous avez déjà construit des modèles NLP et comprenez les compromis entre méthodes. Elles sont fréquentes pour des postes confirmés en ML ou data science.

Quelle est la différence entre Word2Vec, GloVe et FastText ? 

Word2Vec apprend des embeddings à partir de cooccurrences locales via un réseau de neurones peu profond. GloVe exploite des statistiques de cooccurrence globales sur tout le corpus. FastText étend Word2Vec en représentant les mots comme des sacs de n-grammes de caractères, ce qui aide pour les mots rares et mal orthographiés.

Que sont les embeddings contextuels et pourquoi comptent-ils ? 

Contrairement aux embeddings statiques (Word2Vec, GloVe), les embeddings contextuels comme ceux de BERT varient selon le contexte. "Bank" aura un vecteur différent dans "river bank" et "bank account", ce qui améliore nettement les performances pour les tâches nécessitant une compréhension plus fine.

Qu'est-ce qu'un modèle de langue à n-grammes ? 

Un modèle à n-grammes prédit le mot suivant à partir des N-1 mots précédents. Les bigrammes regardent un mot en arrière, les trigrammes deux. Ils sont interprétables et rapides, mais peinent avec les dépendances longues et souffrent de la rareté des séquences rares.

Pourquoi les RNN ont-ils du mal avec les longues séquences, et comment les LSTM y remédient-ils ? 

Les RNN classiques souffrent du problème de gradient qui s'évanouit, rendant l'apprentissage de dépendances à long terme difficile. Les LSTM introduisent des mécanismes de portes (entrée, oubli, sortie) qui contrôlent le flux d'information, permettant de conserver un contexte pertinent sur de plus longues séquences.

Qu'est-ce que le mécanisme d'attention ? 

L'attention permet au modèle de pondérer la pertinence de chaque token d'entrée lors de la production d'une sortie. Plutôt que de compresser toute la séquence dans un seul vecteur, elle calcule une somme pondérée sur toutes les positions d'entrée pour se concentrer sur les parties les plus utiles.

Comment affiner (fine-tune) un modèle préentraîné comme BERT ? 

On ajoute une tête spécifique à la tâche (p. ex. une couche de classification) au-dessus du modèle préentraîné et on l'entraîne sur des données annotées avec un faible taux d'apprentissage. Le fine-tuning requiert bien moins de données qu'un entraînement from scratch car le modèle a déjà appris des représentations linguistiques générales.

Comment gérer le déséquilibre des classes dans les tâches de classification NLP ? 

Stratégies courantes : suréchantillonnage des classes minoritaires, sous-échantillonnage de la classe majoritaire ou ajustement des poids de classe dans la fonction de perte. En cas de fort déséquilibre, des techniques d'augmentation comme la paraphrase ou le remplacement par synonymes peuvent aider.

Les questions intermédiaires portent sur les outils. Les questions avancées portent sur leurs limites et comment y remédier.

Questions NLP avancées

Ces questions évaluent une compréhension approfondie des architectures et des compromis de production. Attendez-vous à les voir pour des entretiens d'ingénieur ML ou NLP senior.

Expliquez à haut niveau l'architecture des transformers. 

Le transformer comprend un encodeur et un décodeur (ou un seul des deux selon le modèle), tous deux empilant des couches d'auto-attention et de réseaux feed-forward. Il traite tous les tokens en parallèle, plutôt que séquentiellement, ce qui le rend bien plus efficace à entraîner sur du matériel moderne.

Qu'est-ce que l'auto-attention et comment l'attention multi-tête l'étend-elle ? 

L'auto-attention calcule les relations entre chaque paire de tokens d'une séquence via des vecteurs requête, clé et valeur. L'attention multi-tête répète ce processus en parallèle avec différentes projections apprises, capturant simultanément plusieurs types de relations.

Qu'est-ce que l'encodage positionnel et pourquoi est-il nécessaire dans les transformers ? 

Les transformers traitent les tokens en parallèle et n'ont donc pas de notion intrinsèque de l'ordre. Des encodages positionnels (fonctions sinusoïdales fixes ou embeddings appris) sont ajoutés aux embeddings de tokens pour permettre au modèle d'inférer la position dans la séquence.

Qu'est-ce que le masked language modeling (MLM) ? 

Le MLM est un objectif de préentraînement utilisé par BERT où un pourcentage de tokens d'entrée est masqué aléatoirement, et le modèle apprend à les prédire grâce au contexte. Cet entraînement bidirectionnel permet de construire des représentations contextuelles riches, contrairement au modelage de langue gauche-droite.

Quelles sont les stratégies de tokenisation BPE et WordPiece ? 

Le Byte-Pair Encoding (BPE) fusionne itérativement les paires de caractères les plus fréquentes pour construire un vocabulaire de sous-mots. WordPiece, utilisé par BERT, est similaire mais choisit les fusions selon la vraisemblance sur les données d'entraînement plutôt que la fréquence brute. Les deux gèrent bien les mots rares ou hors vocabulaire.

Qu'est-ce que BLEU, ROUGE et la perplexité, et quand les utiliser ? 

BLEU mesure le chevauchement d'n-grammes entre un texte généré et une référence, courant en traduction. ROUGE fait de même mais met l'accent sur le rappel, populaire pour la synthèse. La perplexité évalue la capacité d'un modèle de langue à prédire un corpus de test : plus elle est basse, mieux c'est, même si la corrélation avec le jugement humain n'est pas garantie.

Quels sont les principaux défis pour entraîner de grands modèles de langue ? 

Les coûts de calcul et de mémoire croissent fortement avec la taille du modèle, rendant nécessaire l'entraînement distribué sur de nombreux GPU. D'autres défis : qualité et contamination des données, instabilités d'entraînement, et difficulté d'évaluation. Les benchmarks standards se retrouvent vite saturés.

La connaissance des architectures a ses limites. Pour les postes de data scientist, on attend surtout que vous sachiez appliquer tout cela à des problèmes métier réels avec des données imparfaites.

Questions pour data scientists spécialisés en NLP

Ces questions portent sur l'application du NLP à la résolution de problèmes métier. Attendez-vous à les voir pour des rôles appliqués où vous gérez l'ensemble du cycle de modélisation.

Comment construire un pipeline NLP de bout en bout ? 

Un pipeline typique couvre l'ingestion des données, le nettoyage, le prétraitement (tokenisation, normalisation), l'extraction de caractéristiques ou les embeddings, l'entraînement, l'évaluation et le déploiement. Les points les plus délicats sont souvent la qualité des données et la reproductibilité du pipeline entre environnements.

Comment abordez-vous la sélection de caractéristiques pour des modèles de texte ? 

Pour les modèles classiques, on peut utiliser l'information mutuelle ou des tests du khi-deux pour identifier les termes informatifs. Pour les approches deep learning, la sélection est souvent implicite dans l'architecture. Dans tous les cas, la connaissance métier compte : distinguer rapidement le signal du bruit accélère beaucoup l'itération.

Comment gérer des données textuelles bruitées ou non structurées ? 

Commencez par une exploration pour comprendre les sources de bruit : fautes de frappe, langues mêlées, problèmes d'encodage, artefacts HTML. Appliquez ensuite des nettoyages ciblés et documentez-les. Une normalisation trop agressive (tout passer en minuscules, supprimer toute ponctuation) peut autant nuire qu'aider selon la tâche.

Comment interpréter les prédictions d'un modèle de classification de texte ? 

Des techniques comme LIME et SHAP mettent en évidence les tokens ayant le plus influencé une prédiction. Les poids d'attention sont parfois utilisés mais peuvent être trompeurs, car ils ne reflètent pas toujours l'importance réelle des caractéristiques. L'analyse des erreurs sur les exemples mal classés est souvent le meilleur point de départ.

Comment relier la performance d'un modèle NLP aux résultats métier ? 

Traduisez tôt les métriques du modèle en impact business. Un gain de 2 % de F1 sur un classifieur d'intention client peut signifier des milliers de tickets de support en moins mal aiguillés chaque semaine. Présenter les résultats ainsi maintient l'engagement des parties prenantes et aide à prioriser les améliorations.

Quelle est votre approche de l'analyse d'erreurs en NLP ? 

Échantillonnez et inspectez manuellement les exemples mal classés pour repérer des motifs systématiques : domaines, longueurs de texte, vocabulaire, ambiguïté des labels. Ces motifs indiquent s'il faut plus de données, un meilleur prétraitement, un autre modèle ou des annotations plus propres.

Les questions pour data scientists portent surtout sur les choix de modélisation. Celles pour machine learning engineers vont plus loin, vers la production où fiabilité, latence et passage à l'échelle deviennent les vraies contraintes.

Questions pour machine learning engineers en NLP

Ces questions concernent les systèmes en production : fiabilité, latence et scalabilité. Attendez-vous à les rencontrer pour des rôles MLE ou MLOps.

Comment déployer un modèle NLP en production ? 

Encapsulez le modèle dans une API REST (FastAPI ou Flask), conteneurisez-le avec Docker et servez-le derrière un répartiteur de charge. En cas de fort trafic, envisagez l'inférence asynchrone ou un serveur de modèles comme TorchServe ou Triton Inference Server.

Quelles stratégies courantes pour réduire la latence d'un modèle ? 

La quantification convertit les poids de 32 bits vers 8 bits ou 4 bits, avec une légère perte de précision pour un gain de vitesse notable. La distillation de connaissances entraîne un plus petit modèle étudiant à imiter un grand modèle enseignant, atteignant souvent plus de 90 % des performances pour une fraction du calcul.

Comment gérer le service de modèles pour l'inférence batch vs temps réel ? 

L'inférence temps réel privilégie une faible latence, donc des modèles plus compacts ou du cache aident. L'inférence batch traite de gros volumes hors ligne à moindre coût avec des modèles plus grands et plus précis. Le bon choix dépend de la tolérance au délai de l'usage visé.

À quoi ressemble le monitoring d'un système NLP en production ? 

On suit les métriques standard comme la latence et les taux d'erreur, mais aussi des signaux spécifiques au modèle : distribution des scores de confiance, histogrammes de longueurs d'entrée et dérive des prédictions dans le temps. Un changement soudain de vocabulaire ou de sujet d'entrée peut dégrader les performances avant même que les métriques d'évaluation ne l'indiquent.

Comment faire monter en charge des transformers pour des applications à haut débit ? 

Le scaling horizontal avec plusieurs réplicas de modèle gère les requêtes concurrentes. On peut aussi recourir au parallélisme de modèle pour répartir de très grands modèles sur plusieurs GPU, ou explorer des architectures efficaces comme DistilBERT qui troquent un peu de précision contre des besoins matériels bien moindres.

Comment concevoir une data pipeline pour l'ingestion continue de texte ? 

Utilisez une file de messages (Kafka ou Pub/Sub) pour tamponner les flux entrants, puis appliquez le prétraitement dans des workers parallèles. Stocker séparément les versions brutes et traitées facilite grandement le retraitement lors de l'évolution de la logique du pipeline.

Pour les rôles de recherche, les questions changent à nouveau : moins sur la mise en production, plus sur la direction du domaine et les problèmes encore ouverts.

Questions pour chercheurs en NLP

Ces questions évaluent votre compréhension des orientations de recherche actuelles et des problèmes non résolus. Attendez-vous à les rencontrer pour des postes de chercheur ou de doctorant.

Qu'est-ce que l'apprentissage auto-supervisé et pourquoi est-il important pour le NLP ? 

L'apprentissage auto-supervisé tire le signal d'entraînement des données elles-mêmes via des objectifs comme le masked language modeling ou la prédiction de phrase suivante, sans annotations humaines. Cela a permis de préentraîner sur d'immenses corpus textuels puis d'affiner avec peu de données annotées, transformant la façon d'aborder les benchmarks NLP.

Quelle est la différence entre few-shot et zero-shot learning ? 

Le zero-shot learning consiste à demander à un modèle de résoudre une tâche sans exemples d'entraînement, en s'appuyant sur les instructions. Le few-shot learning fournit quelques exemples dans le prompt pour guider le modèle. Les deux exploitent la capacité de généralisation acquise au préentraînement, mais le few-shot est généralement plus fiable.

Quels sont les compromis entre le prompt tuning et le fine-tuning ? 

Le fine-tuning met à jour les poids du modèle sur des données spécifiques à la tâche, offrant de bonnes performances mais nécessitant du calcul et une copie distincte du modèle par tâche. Le prompt tuning apprend des tokens d'invite « souples » en gardant le modèle gelé : bien plus économe en paramètres, mais souvent moins performant qu'un fine-tuning complet à petite échelle de modèle.

Quelles sont les principales limites des pratiques actuelles d'évaluation des modèles génératifs ? 

Les métriques automatiques comme BLEU et ROUGE corrèlent mal avec le jugement humain pour la génération ouverte. Les benchmarks saturent vite, et les modèles peuvent surajuster les distributions des jeux de test durant le préentraînement. Il n'existe pas de cadre consensuel pour évaluer factualité, utilité ou qualité du raisonnement.

Comment les biais entrent-ils dans les modèles de langue et comment les détecter ? 

Les biais proviennent des données de préentraînement, qui reflètent des inégalités historiques ou des déséquilibres démographiques. On peut les détecter par des tâches de sondage, l'augmentation contre-factuelle des données et des outils comme WinoBias ou StereoSet. La mitigation est plus difficile : le débiaisage en fine-tuning réduit certains biais de surface sans résoudre les problèmes de représentation plus profonds.

À quoi ressemble la recherche en interprétabilité pour les transformers ? 

L'interprétabilité mécaniste tente de rétroconcevoir ce que calculent précisément certaines têtes d'attention et couches MLP. Les classifieurs de probing testent si des représentations intermédiaires encodent des propriétés linguistiques données. Les deux approches ont produit des résultats intéressants, mais le domaine n'a pas encore de cadre unifié sur ce que signifie « comprendre » un transformer.

Les questions conceptuelles et de recherche ont des réponses attendues. Les questions scénarisées, elles, distinguent ceux qui ont vraiment livré des systèmes NLP de ceux qui n'en ont lu que la théorie.

Questions NLP basées sur des scénarios

Ces questions testent votre façon d'aborder de vrais problèmes avec de vraies contraintes.

Votre modèle d'analyse de sentiment se comporte mal sur des données de réseaux sociaux truffées d'argot. Que faites-vous ? 

Commencez par l'analyse d'erreurs. Identifiez les termes d'argot problématiques et vérifiez s'ils sont absents du vocabulaire d'entraînement. Collectez et annotez des exemples spécifiques au domaine pour le fine-tuning, envisagez une étape de normalisation de l'argot ou une tokenisation par sous-mots (comme BPE) pour limiter les mots hors vocabulaire.

Comment réduiriez-vous les hallucinations dans un système NLP génératif ?

La génération augmentée par récupération (RAG) ancre les réponses dans des documents retrouvés, réduisant la dépendance du modèle à la mémorisation. Vous pouvez aussi ajouter une vérification post-génération, abaisser la température d'échantillonnage ou affiner le modèle sur des données où la factualité est explicitement récompensée.

Comment gérer un jeu de données multilingue ? 

Un modèle multilingue préentraîné comme mBERT ou XLM-R est généralement le bon point de départ, car un seul modèle gère plusieurs langues. Si la performance dans une langue est critique, envisagez un fine-tuning spécifique. Portez une attention particulière à la tokenisation, certaines langues étant sur-segmentées par des tokenizers entraînés majoritairement sur de l'anglais.

Comment détecter et atténuer les biais dans un système NLP déployé ? 

Commencez par définir la notion d'équité pour votre cas d'usage : égalité des taux d'erreur, des taux positifs, ou autre. Auditez les sorties du modèle par tranches démographiques sur des jeux d'évaluation dédiés. Pour mitiger : rééchantillonnage des données, post-traitement des seuils par groupe, ou débiaisage adversarial lors du fine-tuning.

Comment choisir entre une approche ML classique et un transformer pour une tâche texte ? 

Partez des données et des contraintes de latence. Avec peu de données annotées, des ressources limitées ou un besoin temps réel strict, une régression logistique ou un gradient boosting sur des caractéristiques TF-IDF peut surpasser en pratique un transformer affiné. Les transformers excellent quand vous avez assez de données et de calcul, ou quand la tâche exige une compréhension contextuelle profonde.

Erreurs fréquentes en entretien NLP

Le faux pas le plus courant : connaître la théorie sans l'avoir mise en œuvre. Des candidats capables de réciter l'architecture des transformers ne savent souvent pas expliquer comment gérer un jeu de texte déséquilibré ou régler un modèle en surapprentissage. Les recruteurs le voient vite.

Deux autres travers récurrents : ignorer le prétraitement dans les réponses (le nettoyage du texte a un impact énorme sur la qualité du modèle) et confondre des notions proches comme stemming vs lemmatisation, ou précision vs rappel. Maîtriser clairement ces distinctions et savoir quand chacune importe montre que vous avez travaillé avec de vraies données, pas seulement des manuels.

Comment se préparer aux entretiens NLP

La préparation la plus efficace consiste à bâtir de petits projets de bout en bout : un classifieur de sentiment, un étiqueteur NER, un résumeur simple. Ils vous obligent à faire de vrais choix sur le prétraitement, la sélection de modèles et l'évaluation, exactement ce que testent les recruteurs. Notre cours Feature Engineering for NLP in Python couvre les compétences pratiques qui reviennent sans cesse en entretien.

Au-delà des projets, prenez le temps de comprendre le mécanisme d'attention au niveau mathématique, pas seulement conceptuel, et affinez au moins un modèle préentraîné sur une nouvelle tâche. Restez au courant des avancées LLM via articles et billets de blog ; pour les rôles orientés recherche, on attendra que vous ayez un avis sur les travaux récents. Pour approfondir les architectures de transformers, consultez notre tutoriel Transformer Models for NLP.

Conclusion

Les entretiens NLP testent à la fois votre aisance conceptuelle et votre capacité à raisonner face à des problèmes concrets sous pression. Les attentes envers un jeune diplômé diffèrent fortement de celles envers un ML engineer senior, et ce guide couvre tout le spectre.

Ceux qui se distinguent ne sont pas forcément les plus théoriques. Ce sont ceux qui relient les concepts aux choix pratiques, exposent les arbitrages et prouvent qu'ils ont travaillé avec des textes « réels » et désordonnés.