Perguntas de entrevista sobre NLP (do básico ao avançado)

Se você vai fazer entrevista para vagas de IA, ML ou ciência de dados, perguntas de NLP quase sempre aparecem. Seja explicando a diferença entre stemming e lemmatization ou descrevendo como a atenção funciona em um transformer, os entrevistadores querem ver se você pensa com clareza sobre dados de linguagem, não só se sabe recitar definições. Nosso curso Introduction to NLP in Python é um ótimo ponto de partida para construir essa base.

O que torna entrevistas de NLP desafiadoras é que a expectativa muda muito conforme a função. Uma entrevista para iniciante não se parece em nada com a de um engenheiro de machine learning. Este guia reúne 45 perguntas de entrevista de NLP organizadas por nível e tipo de cargo, para você focar exatamente no que vai encarar.

Perguntas de entrevista de NLP para iniciantes

Essas perguntas avaliam seu domínio dos conceitos e da terminologia essenciais de NLP. Espere vê-las em vagas de entrada em ciência de dados ou análise.

O que é processamento de linguagem natural?

NLP é um ramo da IA focado em fazer com que computadores entendam, interpretem e gerem linguagem humana. Ele conecta linguística e machine learning para lidar com tarefas como tradução, análise de sentimento e classificação de texto.

Quais são algumas tarefas comuns de NLP?

Tarefas comuns incluem classificação de texto, reconhecimento de entidades nomeadas (NER), análise de sentimento, tradução automática, sumarização e resposta a perguntas. Cada tarefa tem abordagens de modelagem e critérios de avaliação próprios.

O que é tokenização?

Tokenização divide o texto bruto em unidades menores, geralmente palavras ou subpalavras, que um modelo consegue processar. Por exemplo, "I love NLP" vira ["I", "love", "NLP"] no nível de palavras.

Qual é a diferença entre stemming e lemmatization?

Stemming corta terminações de palavras usando regras, gerando radicais que podem não ser palavras reais ("running" → "run", "studies" → "studi"). Lemmatization usa vocabulário e análise morfológica para retornar a forma base real ("studies" → "study"), sendo mais precisa, porém mais lenta.

O que são stop words e por que as removemos?

Stop words são palavras muito frequentes como "the", "is" e "and" que carregam pouco significado semântico para muitas tarefas de NLP. Removê-las reduz ruído e acelera o processamento, embora algumas tarefas, como análise de sentimento, possam mantê-las.

O que é o modelo Bag of Words (BoW)?

BoW representa o texto como uma coleção desordenada de contagens de palavras, ignorando gramática e sequência. É simples e rápido, mas perde o contexto. "Not good" e "good" ficariam quase idênticos em uma representação BoW.

O que é TF-IDF e como ele melhora o BoW?

TF-IDF (Term Frequency-Inverse Document Frequency) atribui pesos às palavras conforme a frequência no documento em relação à frequência no conjunto de documentos. Palavras frequentes em um documento, mas raras no geral, recebem pontuações mais altas, destacando termos mais informativos do que contagens brutas.

Como avaliar um modelo de classificação de texto?

A acurácia funciona quando as classes estão balanceadas, mas precisão, recall e F1-score dão uma visão mais completa em conjuntos desbalanceados. F1 é a média harmônica de precisão e recall, útil quando falsos positivos e falsos negativos têm custos diferentes.

Quando você domina os fundamentos, as entrevistas começam a testar o quanto entende os trade-offs entre abordagens. É aí que entram as perguntas intermediárias.

Perguntas de entrevista de NLP intermediárias

Essas perguntas partem do pressuposto de que você já construiu modelos de NLP e entende os trade-offs entre técnicas. Espere vê-las em cargos de nível intermediário em ML ou ciência de dados.

Qual a diferença entre Word2Vec, GloVe e FastText?

Word2Vec aprende embeddings a partir de coocorrências locais usando uma rede neural rasa. GloVe usa estatísticas de coocorrência globais em todo o corpus. FastText estende o Word2Vec representando palavras como bolsas de n-grams de caracteres, o que ajuda com termos raros e grafias incorretas.

O que são embeddings contextuais e por que importam?

Diferente de embeddings estáticos (Word2Vec, GloVe), embeddings contextuais como os do BERT variam conforme as palavras ao redor. "Bank" tem um vetor diferente em "river bank" versus "bank account", o que melhora bastante tarefas que exigem compreensão mais profunda.

O que é um modelo de linguagem N-gram?

Um modelo N-gram prevê a próxima palavra com base nas N-1 anteriores. Bigramas olham uma palavra para trás, trigramas olham duas. São interpretáveis e rápidos, mas têm dificuldade com dependências de longo alcance e sofrem com escassez de dados para sequências raras.

Por que RNNs têm dificuldade com sequências longas e como LSTMs lidam com isso?

RNNs simples sofrem com gradientes que desaparecem, dificultando aprender dependências ao longo de muitos passos de tempo. LSTMs introduzem mecanismos de portas (entrada, esquecimento e saída) que controlam o fluxo de informação, permitindo reter contexto relevante por sequências mais longas.

O que é o mecanismo de atenção?

A atenção permite que o modelo pondere a relevância de cada token de entrada ao produzir uma saída. Em vez de comprimir toda a sequência em um único vetor, a atenção calcula uma soma ponderada sobre todas as posições, fazendo o modelo focar nas partes mais relevantes.

Como ajustar (fine-tuning) um modelo pré-treinado como o BERT?

Você adiciona uma cabeça específica da tarefa (por exemplo, uma camada de classificação) no topo do modelo pré-treinado e treina com seus dados rotulados usando uma taxa de aprendizado baixa. O fine-tuning geralmente requer muito menos dados do que treinar do zero, pois o modelo já aprendeu representações gerais de linguagem.

Como lidar com desbalanceamento de classes em tarefas de classificação de NLP?

Estratégias comuns incluem oversampling das classes minoritárias, undersampling da classe majoritária ou ajuste de pesos das classes na função de perda. Em casos graves, técnicas de aumento de dados como paráfrases ou substituição por sinônimos também ajudam.

Perguntas intermediárias tratam de conhecer as ferramentas. As avançadas tratam de saber quando elas falham e o que fazer a respeito.

Perguntas de entrevista de NLP avançadas

Essas perguntas avaliam conhecimento arquitetural profundo e entendimento de trade-offs em produção. Espere vê-las em entrevistas para cargos sênior de ML ou engenheiro de NLP.

Explique a arquitetura de transformers em alto nível.

O transformer consiste em um encoder e um decoder (ou apenas um, dependendo do modelo), ambos formados por camadas empilhadas de autoatenção e redes feed-forward. Ele processa todos os tokens em paralelo, e não sequencialmente, o que o torna muito mais eficiente para treinar em hardware moderno.

O que é autoatenção e como a atenção multi-head a estende?

Autoatenção calcula relações entre cada par de tokens na sequência por meio de vetores de query, key e value. A atenção multi-head executa esse processo várias vezes em paralelo com projeções distintas aprendidas, capturando simultaneamente diferentes tipos de relações.

O que é codificação posicional e por que ela é necessária em transformers?

Como transformers processam tokens em paralelo, não têm noção inerente de ordem. Codificações posicionais (funções senoidais fixas ou embeddings aprendidos) são somadas aos embeddings de tokens para que o modelo infira a posição na sequência.

O que é masked language modeling (MLM)?

MLM é um objetivo de pré-treinamento usado pelo BERT, no qual uma porcentagem dos tokens de entrada é mascarada aleatoriamente e o modelo aprende a prevê-los a partir do contexto. Esse treinamento bidirecional gera representações contextuais ricas, em comparação ao modelagem de linguagem esquerda-para-direita.

Quais são as estratégias de tokenização BPE e WordPiece?

Byte-Pair Encoding (BPE) mescla iterativamente os pares de caracteres mais frequentes para formar um vocabulário de subpalavras. WordPiece, usado pelo BERT, é semelhante, mas escolhe mesclas com base na verossimilhança nos dados de treino, e não apenas na frequência bruta. Ambas lidam bem com palavras raras e fora do vocabulário.

O que são BLEU, ROUGE e perplexidade, e quando usar cada um?

BLEU mede a sobreposição de n-grams entre texto gerado e de referência, comum em tradução. ROUGE faz algo similar, mas foca em recall, sendo popular em sumarização. Perplexidade mede quão bem um modelo de linguagem prevê um corpus de validação; quanto menor, melhor, embora nem sempre correlacione com julgamentos humanos.

Quais são os principais desafios ao treinar large language models?

Custos de computação e memória escalam de forma acentuada com o tamanho do modelo, tornando necessário o treinamento distribuído em muitas GPUs. Outros desafios incluem qualidade e contaminação dos dados, instabilidade durante o treinamento e dificuldade de avaliação. Benchmarks padrão saturam rapidamente.

Conhecer a arquitetura tem limite. Para cargos de cientista de dados, entrevistadores querem ver como você aplica tudo isso a problemas de negócio com dados reais e bagunçados.

Perguntas de entrevista para cientista de dados em NLP

Essas perguntas focam em como você aplica NLP para resolver problemas de negócio. Espere vê-las em funções aplicadas de ciência de dados, nas quais você conduz todo o fluxo de modelagem.

Como construir um pipeline de NLP de ponta a ponta?

Um pipeline típico inclui ingestão de dados, limpeza, pré-processamento (tokenização, normalização), extração de features ou embeddings, treinamento do modelo, avaliação e deploy. As partes mais difíceis costumam ser a qualidade dos dados e manter a reprodutibilidade do pipeline entre ambientes.

Como você aborda a seleção de features para modelos de texto?

Para modelos clássicos, você pode usar informação mútua ou testes qui-quadrado para identificar termos informativos. Em deep learning, a seleção de features muitas vezes é implícita na arquitetura. Em ambos os casos, conhecimento de domínio importa: saber o que é sinal versus ruído acelera muito a iteração.

Como lidar com dados de texto ruidosos ou não estruturados?

Comece com uma exploração para entender os padrões de ruído: typos, mistura de idiomas, problemas de codificação, artefatos de HTML. Em seguida, aplique limpezas direcionadas e documente-as. Normalizar de forma agressiva (tudo em minúsculas, remover pontuação) pode ajudar ou atrapalhar, dependendo da tarefa.

Como interpretar as previsões de um modelo de classificação de texto?

Técnicas como LIME e SHAP destacam quais tokens mais influenciaram uma previsão. Pesos de atenção às vezes são usados, mas podem ser enganosos, pois nem sempre refletem a importância real das features. Análise de erros em exemplos mal classificados costuma ser o ponto de partida mais revelador.

Como conectar o desempenho do modelo de NLP a resultados de negócio?

Traduza métricas do modelo para impacto de negócio desde cedo. Um ganho de 2% em F1 em um classificador de intenção de clientes pode significar milhares de chamados de suporte menos encaminhados para a fila errada por semana. Enquadrar resultados assim mantém os stakeholders engajados e ajuda a priorizar o que melhorar.

Qual é sua abordagem para análise de erros em NLP?

Amostre e inspecione manualmente exemplos mal classificados, buscando padrões sistemáticos: certos domínios, comprimentos de texto, vocabulário ou ambiguidade nas labels. Esses padrões indicam se você precisa de mais dados, melhor pré-processamento, outro modelo ou rótulos mais limpos.

As perguntas para cientista de dados tratam sobretudo de decisões de modelagem. As para engenheiro de ML vão além, para sistemas de produção, onde confiabilidade, latência e escala viram as restrições reais.

Perguntas de entrevista para engenheiro de ML em NLP

Essas perguntas tratam de sistemas em produção: confiabilidade, latência e escala. Espere vê-las em cargos de MLE ou MLOps.

Como colocar um modelo de NLP em produção?

Empacote o modelo em uma API REST (FastAPI ou Flask), containerize com Docker e faça o serviço por trás de um balanceador de carga. Para alto tráfego, considere inferência assíncrona ou um servidor de modelos como TorchServe ou Triton Inference Server.

Quais estratégias comuns para reduzir a latência do modelo?

Quantização converte pesos de floats de 32 bits para 8 ou 4 bits, trocando uma pequena perda de acurácia por ganhos significativos de velocidade. Distilação de conhecimento treina um modelo aluno menor para imitar um professor maior, muitas vezes alcançando 90%+ do desempenho original com uma fração do custo computacional.

Como lidar com serving de modelos para inferência em batch vs. tempo real?

Inferência em tempo real prioriza baixa latência, então modelos menores ou cache ajudam aqui. Inferência em batch pode processar grandes volumes offline com menor custo usando modelos maiores e mais precisos. A escolha certa depende de o caso de uso tolerar atraso ou não.

Como é o monitoramento de um sistema de NLP em produção?

Você acompanha métricas padrão como latência e taxas de erro, mas também sinais específicos do modelo: distribuições de confiança, histogramas de tamanho de entrada e drift de predições ao longo do tempo. Uma mudança súbita no vocabulário ou no tópico de entrada pode degradar o desempenho antes que as métricas de avaliação detectem.

Como escalar modelos transformer para aplicações de alta taxa de requisições?

Escalonamento horizontal com múltiplas réplicas do modelo atende requisições concorrentes. Você também pode usar paralelismo de modelo para dividir modelos muito grandes entre GPUs, ou explorar arquiteturas eficientes como o DistilBERT, que trocam um pouco de acurácia por exigências bem menores de recursos.

Como desenhar um pipeline de dados para ingestão contínua de texto?

Use uma fila de mensagens (Kafka ou Pub/Sub) para bufferizar fluxos de texto de entrada e aplique pré-processamento em workers paralelos. Armazenar versões brutas e processadas separadamente facilita muito a reprocessamento quando a lógica do pipeline muda.

Para cargos de pesquisa, o foco muda novamente. Menos sobre colocar sistemas em produção e mais sobre entender para onde o campo está indo e o que ainda não foi resolvido.

Perguntas de entrevista para pesquisador em NLP

Essas perguntas exploram seu entendimento das direções atuais de pesquisa e dos problemas em aberto. Espere vê-las em cargos de research scientist ou trilha de PhD.

O que é aprendizado auto-supervisionado e por que foi importante para NLP?

Aprendizado auto-supervisionado extrai sinal de treinamento do próprio dado por meio de objetivos como masked language modeling ou previsão da próxima sentença, sem exigir rótulos humanos. Isso viabilizou pré-treinar em corpora massivos de texto e fazer fine-tuning com poucos dados rotulados, mudando fundamentalmente como benchmarks de NLP são abordados.

Qual a diferença entre few-shot e zero-shot learning?

Zero-shot learning pede que um modelo execute uma tarefa sem nunca ter visto exemplos, baseando-se em seguir instruções. Few-shot learning fornece alguns poucos exemplos no prompt para guiar o comportamento do modelo. Ambos exploram a capacidade dos LLMs de generalizar a partir do pré-treinamento, mas few-shot geralmente é mais confiável.

Quais são os trade-offs entre prompt tuning e fine-tuning?

Fine-tuning atualiza os pesos do modelo em dados específicos da tarefa, entregando forte desempenho, porém exigindo computação e uma cópia separada do modelo por tarefa. Prompt tuning aprende tokens de prompt "suaves" mantendo o modelo congelado, sendo muito mais eficiente em parâmetros, embora tenda a ter desempenho inferior ao fine-tuning completo em modelos menores.

Quais são as principais limitações das práticas atuais de avaliação para modelos generativos?

Métricas automatizadas como BLEU e ROUGE correlacionam mal com julgamento humano para geração aberta. Benchmarks saturam rápido e modelos podem superajustar às distribuições do conjunto de teste durante o pré-treinamento. Não há um framework amplamente aceito para avaliar factualidade, utilidade ou qualidade de raciocínio.

Como o viés entra em modelos de linguagem e como detectá-lo?

O viés entra por meio de dados de pré-treinamento que refletem desigualdades históricas ou distorções demográficas. Você pode detectá-lo com tarefas de probing, aumento de dados contrafactuais e ferramentas como WinoBias ou StereoSet. Mitigar é mais difícil. Técnicas de debiasing no fine-tuning podem reduzir viés superficial sem atacar problemas representacionais mais profundos.

Como é a pesquisa de interpretabilidade para transformers?

Interpretabilidade mecanicista tenta reengenheirar o que cabeças de atenção e camadas MLP específicas computam. Classificadores de probing testam se representações intermediárias codificam propriedades linguísticas particulares. As duas abordagens trouxeram achados interessantes, mas a área ainda não convergiu para um framework unificado do que significa "entender" um transformer.

Questões conceituais e de pesquisa têm respostas claras. As perguntas baseadas em cenários são onde os entrevistadores diferenciam quem já colocou sistemas de NLP no ar de quem só leu a respeito.

Perguntas de entrevista de NLP baseadas em cenários

Essas perguntas testam como você lidaria com problemas reais sob restrições reais.

Seu modelo de sentimento vai mal em dados de redes sociais cheios de gírias. O que você faz?

Comece com análise de erros. Identifique quais gírias causam falhas e verifique se estão ausentes do vocabulário de treino. Depois colete e rotule exemplos específicos do domínio para fine-tuning e considere adicionar uma etapa de normalização de gírias ou usar um tokenizador que trate subpalavras (como BPE) para reduzir problemas de OOV.

Como você reduziria alucinações em um sistema de NLP generativo?

Retrieval-augmented generation (RAG) fundamenta respostas em documentos recuperados, reduzindo a dependência do modelo em fatos memorizados. Você também pode adicionar verificação pós-geração, usar temperaturas de amostragem mais baixas ou fazer fine-tuning em dados onde a acurácia factual é explicitamente recompensada.

Como lidar com um conjunto de dados multilíngue?

Um modelo pré-treinado multilíngue como mBERT ou XLM-R geralmente é o melhor ponto de partida, pois atende vários idiomas com um único modelo. Se o desempenho em um idioma específico for crítico, considere fine-tuning específico por idioma. Preste muita atenção à tokenização, já que alguns idiomas ficam supersegmentados por tokenizadores treinados principalmente em inglês.

Como você detectaria e mitigaria viés em um sistema de NLP em produção?

Primeiro, defina o que é justiça para seu caso: taxas de erro iguais entre grupos, taxas positivas iguais ou outro critério. Audite saídas do modelo por recortes demográficos usando conjuntos de avaliação reservados. Opções de mitigação incluem reamostrar dados de treino, pós-processar limiares por grupo ou debiasing adversarial durante o fine-tuning.

Como decidir entre uma abordagem de ML clássica e um transformer para uma tarefa de texto?

Comece pelos seus dados e restrições de latência. Se você tem poucos dados rotulados, pouco compute ou requisito rigoroso de tempo real, um modelo de regressão logística ou gradient boosting com features TF-IDF pode superar um transformer ajustado, na prática. Transformers brilham quando há dados e compute suficientes ou quando a tarefa realmente exige compreensão contextual profunda.

Erros comuns em entrevistas de NLP

O tropeço mais comum é saber teoria sem prática. Candidatos que recitam a arquitetura de transformers muitas vezes não sabem explicar como lidariam com um conjunto de texto desbalanceado ou como ajustariam um modelo que está overfitting. Entrevistadores percebem isso rápido.

Outros dois padrões que prejudicam candidatos: ignorar pré-processamento nas respostas (limpeza de texto impacta demais a qualidade do modelo) e confundir termos parecidos como stemming vs. lemmatization ou precisão vs. recall. Saber claramente a distinção, e quando cada um importa, sinaliza que você já trabalhou com dados reais, não só com livros.

Como se preparar para entrevistas de NLP

A preparação mais efetiva é construir pequenos projetos ponta a ponta: um classificador de sentimento, um tagger de NER, um sumarizador simples. Eles forçam você a tomar decisões reais sobre pré-processamento, escolha de modelos e avaliação — exatamente o que entrevistadores exploram. Nosso curso Feature Engineering for NLP in Python cobre as habilidades práticas que mais aparecem nas entrevistas.

Além dos projetos, dedique tempo para entender o mecanismo de atenção no nível matemático, não só conceitual, e faça fine-tuning de pelo menos um modelo pré-treinado em uma nova tarefa. Manter-se atualizado sobre LLMs por meio de artigos e posts também ajuda; vagas de pesquisa vão esperar que você tenha opiniões sobre trabalhos recentes. Para se aprofundar na arquitetura de transformers, confira nosso tutorial sobre modelos Transformer para NLP.

Conclusão

Entrevistas de NLP testam tanto sua fluência conceitual quanto sua capacidade de raciocinar sobre problemas reais sob pressão. O que um entrevistador espera de um recém-formado é bem diferente do que busca em um engenheiro sênior de ML, e este guia cobriu as duas pontas desse espectro.

Os candidatos que mais se destacam não são necessariamente os com mais teoria. São os que conectam conceitos a decisões práticas, discutem trade-offs e mostram que já lidaram com texto do mundo real, com toda a sua bagunça.