Preguntas de entrevista para AI Engineer: qué esperar y cómo prepararte

Un AI engineer crea y despliega sistemas de IA en entornos de producción. Convierte modelos como los LLMs en aplicaciones fiables que aportan valor al negocio. 

Este rol es distinto al de data scientist, centrado sobre todo en el análisis de datos y el modelado exploratorio, y, por supuesto, al de investigador en machine learning, enfocado en avances teóricos y algoritmos novedosos.

Por eso, las entrevistas para AI engineer priorizan el pensamiento sistémico práctico frente a la teoría pura o el modelado estadístico. En este artículo, cubriré preguntas sobre LLMs, conceptos clave de IA, diseño de sistemas, despliegue y MLOps, codificación e implementación, y escenarios reales.

Preguntas para AI engineer principiante

Estas preguntas básicas validan si dominas el vocabulario y las distinciones que determinan cómo se construyen y se describen los sistemas de IA.

¿Cuál es la diferencia entre un modelo de IA y un modelo de machine learning?

Un modelo de IA es cualquier sistema que realiza tareas que suelen requerir inteligencia humana, incluidas aproximaciones basadas en reglas o simbólicas. Un modelo de machine learning, en cambio, es un subconjunto que aprende patrones directamente de los datos que se le proporcionan.

En producción, los AI engineers trabajan sobre todo con modelos de ML, especialmente LLMs, pero también deben integrar componentes no ML, como motores de reglas o grafos de conocimiento, cuando se necesita una salida altamente fiable.

¿Qué es un LLM?

Un large language model es, como indica su nombre, una red neuronal grande basada en transformers entrenada sobre enormes corpus de texto para generar texto coherente. En sistemas de producción, los LLMs actúan como el motor de razonamiento detrás de chatbots, resumidores y agentes.

¿Qué es la tokenización?

La tokenización convierte texto en bruto en tokens numéricos que el modelo puede procesar. Afecta directamente al coste, a la longitud de contexto y a cómo el modelo percibe el texto. Es decir, a segmentos de texto se les asignan identificadores numéricos, llamados tokens, para que el texto pueda alimentarse al modelo. Los sistemas en producción usan tokenizadores de subpalabras como BPE y monitorizan los recuentos de tokens para controlar los costes de API y la latencia.

¿Qué es un prompt?

Un prompt es el texto de entrada que se envía a un LLM para obtener una salida. Suele ser un artefacto diseñado que incluye instrucciones, a veces ejemplos, y un contexto completo para maximizar la adaptación del LLM.

¿Cuál es la diferencia entre inferencia y entrenamiento?

El entrenamiento actualiza los pesos del modelo, mientras que la inferencia genera salidas a partir de un modelo ya entrenado. Los AI engineers se centran principalmente en optimizar y escalar la inferencia.

¿Qué es un sistema de IA basado en API?

Consume modelos preentrenados a través de un endpoint en la nube, como OpenAI o Anthropic, para reducir la carga de infraestructura, aunque requiere gestionar prompts y costes.

¿Cuál es la diferencia entre fine-tuning y prompting?

El prompting cambia el comportamiento en tiempo de inferencia. El fine-tuning, en cambio, actualiza los pesos del modelo; es más lento pero suele producir LLMs más personalizados. Por eso, el prompting es más rápido y barato para la mayoría de casos de uso en producción.

¿Qué es la generación aumentada por recuperación (RAG)?

RAG recupera documentos relevantes de una base de conocimiento que tú defines y los añade al prompt. Así, el LLM utiliza esos datos verificados adicionales para predecir información más fiable y reducir las alucinaciones.

Preguntas sobre conceptos clave para AI engineer

Más allá de las definiciones, quienes entrevistan quieren ver que comprendes la mecánica de los embeddings, la evaluación y el reto persistente de las alucinaciones.

¿Qué son los embeddings y para qué se usan?

Los embeddings son representaciones vectoriales densas que capturan significados semánticos. Ayudan en la búsqueda semántica y la recuperación en bases de datos vectoriales. Puedes pensar en un embedding como una función que toma una entrada numérica y le asigna un vector de alta dimensión en un espacio más representativo.

¿Cómo evalúas un sistema basado en LLM?

Combina métricas automáticas, como fidelidad y relevancia, con revisión humana y KPIs de negocio. En producción, básicamente se requiere una canalización de evaluación continua.

¿Qué provoca las alucinaciones en los LLMs?

Los vacíos en los datos de entrenamiento y la naturaleza excesivamente confiada de la predicción del siguiente token pueden forzar al modelo a predecir tokens sin suficiente fundamento, lo que conocemos como alucinación.

¿Cómo reduces las alucinaciones?

RAG es uno de los métodos más fiables y eficientes, ya que aporta anclaje frente a fuentes de confianza que tú proporcionas. Si lo combinas con formatos de salida estructurados, verificaciones de autoconsistencia y fact-checking, reduces aún más las alucinaciones.

Preguntas sobre LLM y IA generativa

Esta sección profundiza en la arquitectura y el comportamiento de los propios modelos, desde los mecanismos de atención hasta el diseño de prompts.

¿Cómo funcionan los transformers a alto nivel?

Procesan en paralelo usando self-attention en lugar de recurrencia. Los LLMs modernos son solo decodificadores y predicen los tokens de forma autorregresiva.

¿Qué es la atención?

La atención calcula la relevancia ponderada entre tokens para permitir dependencias de largo alcance independientemente de su posición. 

¿Qué es una ventana de contexto?

El número máximo de tokens que el modelo puede procesar en una llamada de inferencia. Limita el diseño del prompt y la gestión del historial de conversación.

¿Qué es la temperatura en la generación?

Controla la aleatoriedad en el muestreo: valores bajos producen salidas más deterministas, y valores más altos aumentan la creatividad. En producción se ajusta por caso de uso para equilibrar fiabilidad y variedad.

¿Qué es el prompt engineering?

El diseño, prueba, verificación, ajuste e iteración sistemáticos de prompts para lograr un comportamiento fiable. En producción, los prompts se versionan junto con el código y dependen mucho del propio modelo en lugar de una plantilla genérica.

¿Qué son los system prompts frente a los user prompts?

Los system prompts definen el rol, las restricciones y el formato de salida de la conversación, mientras que los user prompts contienen la petición específica.

¿Qué es el uso de herramientas o function calling?

Permite que el LLM invoque herramientas externas que tú habilitas, como APIs y bases de datos, y que formatee correctamente las llamadas. Es la base de los agentes multistep.

¿Cómo mejora el rendimiento el chain-of-thought prompting?

Indica al modelo que genere pasos intermedios de razonamiento antes de la respuesta final para aumentar la precisión en tareas complejas.

Preguntas de diseño de sistemas para AI engineer

Las preguntas de diseño de sistemas ponen a prueba si sabes traducir tu conocimiento de LLMs a arquitecturas de extremo a extremo que soporten usuarios reales y restricciones reales.

Diseña un chatbot usando un LLM. 

Frontend, memoria de conversación, orquestación de prompts, llamada al API del LLM, validación de salidas, logging, limitación de tasa y control de costes.

Diseña un sistema de búsqueda de documentos usando embeddings.

 Ingesta y fragmentación de documentos → embedding → almacenamiento en base de datos vectorial con metadatos → embedding de consulta → búsqueda semántica (o híbrida) → resultados ordenados.

Diseña una canalización RAG. 

Ingesta y fragmentación → embedding y almacenamiento → recuperación en tiempo de consulta con reranking → aumento del prompt → generación con LLM → posprocesado y citas.

¿Cómo gestionarías la inferencia con alto tráfico? 

Usa colas, batching, cuantización, escalado horizontal, caché de prompts y balanceo de carga cumpliendo los SLAs de latencia.

¿Cómo reducirías la latencia en un sistema de IA? 

Aplica compresión de prompts, caché, modelos más pequeños o distilados, decodificación especulativa y aceleración por hardware.

¿Cómo evaluarías y monitorizarías las salidas? 

Registra peticiones/respuestas, ejecuta puntuaciones automáticas de calidad, muestrea para revisión humana, sigue métricas de negocio y configura alertas de degradación.

Preguntas sobre despliegue y MLOps para AI engineer

Una vez diseñado el sistema, quieren saber si realmente puedes ponerlo en producción, monitorizarlo y mantenerlo funcionando de forma fiable.

¿Cómo despliegas una aplicación con soporte de LLM? 

Containeriza con FastAPI, integra vía SDKs o servidores autogestionados como vLLM, orquesta con Kubernetes o serverless y usa CI/CD para prompts y código.

¿Cómo gestionas el versionado de modelos? 

Versiona prompts, modelos de embedding y adaptadores fine-tuned usando LangChain Hub, MLflow o Hugging Face.

¿Cómo monitorizas el rendimiento del modelo en producción? 

Sigue latencia, throughput, costes, tasas de error y calidad de salida usando Prometheus, Grafana y evaluadores para LLM.

¿Qué es el model drift en sistemas de IA?

La degradación causada por cambios en la distribución de entrada, el comportamiento de los usuarios o las fuentes de datos. Se manifiesta como menor relevancia o más alucinaciones.

¿Cómo escalas la inferencia? 

Aplica continuous batching, cuantización 4/8-bit, paralelismo de modelo y motores como vLLM o TGI.

¿Qué herramientas se usan para el despliegue de IA? 

Docker/Kubernetes, vLLM o Text Generation Inference, bases de datos vectoriales como Pinecone o Weaviate, LangSmith y plataformas cloud como AWS Bedrock, Azure OpenAI o GCP Vertex AI.

Preguntas de entrevista basadas en escenarios

Estas preguntas simulan incidentes reales en producción para ver cómo razonas el diagnóstico y la mitigación bajo presión.

Tu chatbot con LLM da respuestas incorrectas. ¿Qué haces?

Inspeccionaría los prompts y el historial para reforzar el anclaje de RAG, añadiría validación de salidas e implementaría bucles de feedback de usuarios.

La latencia aumenta de golpe. ¿Cómo lo debuggearías?

Perfilaría el volumen de tokens, los límites de tasa, la red, las colas y la salud del endpoint usando trazas de extremo a extremo.

Los costes se disparan en producción. ¿Cuál es tu enfoque?

Analizar el uso de tokens, añadir caché, acortar prompts, enrutar a modelos más económicos y configurar alertas automáticas de presupuesto.

Los usuarios reportan alucinaciones. ¿Cómo lo mitigarías?

Añadir citas de fuentes, imponer salida estructurada con validación e introducir pasos de autocrítica.

Tu sistema RAG devuelve resultados irrelevantes. ¿Qué puede fallar?

Revisar la fragmentación, la calidad de los embeddings, los filtros de metadatos, los umbrales de similitud y el reranking en la recuperación.

Diferencias entre entrevistas para AI engineer y machine learning engineer

Los AI engineers se centran en LLMs, prompt engineering, RAG, orquestación de APIs y aplicaciones de cara al usuario, mientras que los machine learning engineers se enfocan en entrenamiento de modelos, canalizaciones de datos y optimización. 

Puedes pensar en los AI engineers como ingenieros de software especializados en construir aplicaciones funcionales basadas en IA, mientras que los machine learning engineers se orientan más a investigar y desarrollar los modelos subyacentes.

Las entrevistas suelen evaluar a los candidatos de IA en integración de sistemas y fiabilidad en producción.

Errores comunes en entrevistas para AI engineer

Incluso candidatos fuertes pueden tropezar con algunos fallos recurrentes que delatan falta de experiencia en producción.

• Centrarse en exceso en la teoría en lugar de en los flujos reales de producción.
• Tratar los LLMs como cajas negras sin abordar prompts o modos de fallo.
• Ignorar los trade-offs de diseño de sistemas como latencia vs. precisión vs. coste.
• Omitir prácticas de monitorización e iteración.
• Carecer de ejemplos concretos de proyectos desplegados.

Cómo prepararte para entrevistas de AI engineer

Un plan de preparación enfocado debe construir habilidades prácticas junto con el conocimiento conceptual anterior.

• Crea y despliega dos proyectos de extremo a extremo con LLMs, como un chatbot RAG y una aplicación de inteligencia documental.
• Practica recorridos completos de diseño de sistemas, desde la entrada hasta la salida monitorizada.
• Gana experiencia práctica con Docker, Kubernetes, vLLM, LangChain/LlamaIndex y bases de datos vectoriales.
• Domina la integración de APIs, el parseo estructurado y el tracing.
• Mantén proyectos activos e intenta seguir las novedades de ingeniería de IA orientadas a producción.

Conclusión

La ingeniería de IA va de construir sistemas fiables. Las entrevistas más frecuentes evalúan la resolución de problemas reales, desde la arquitectura hasta el despliegue y el pensamiento sistémico. 

La experiencia práctica en producción es el factor que más te diferencia. Céntrate en aportar valor medible y destacarás como un gran candidato.