Die 30 besten Fragen und Antworten zu Agenten-KI für das Jahr 2025

Grundlegende Fragen zu Agentischer KI im Interview

Wir beginnen mit einigen grundlegenden Fragen, die Definitionen liefern und den Ton für den Artikel angeben. Einige von ihnen enthalten auch Tipps, was du im Voraus vorbereiten solltest.

An welchen KI-Anwendungen hast du gearbeitet?

Die Interviewer wollen von deinen Erfahrungen auf persönliche und detaillierte Weise erfahren. Sie werden nicht nur nach einer Liste von Projekten suchen - die haben sie wahrscheinlich schon aus deinem Lebenslauf -, sondern sie werden bewerten, wie klar du jedes Projekt und deine spezielle Rolle darin erklären kannst.

Bereite deine Antwort im Voraus vor und sei dir über deine bisherige Arbeit im Klaren. Mit einem Freund oder einer Freundin zu üben oder es aufzuschreiben, kann dir helfen, deine Gedanken zu ordnen.

Mit welchen Bibliotheken, Frameworks und Tools hast du Erfahrung? Von welchen anderen Bibliotheken hast du schon gehört?

Ähnlich wie bei der vorherigen Frage wollen die Interviewer mehr hören als das, was in deinem Lebenslauf steht. Sei darauf vorbereitet, jedes Projekt, an dem du gearbeitet hast, aufzuschlüsseln und alle verwendeten Technologien zu erklären.

Denke daran, dass dir an dieser Stelle viele Folgefragen gestellt werden können. Für einen Arbeitgeber ist es wichtig, dass er deine genauen Fähigkeiten kennt. Stellen Sie sicher, dass Sie sich mit Bibliotheken wie LlamaIndex oder LangChainvertraut machen, da dies die am häufigsten verwendeten High-Level-Entwicklungsbibliotheken sind. Außerdem solltest du dich mit Modellanbietern wie Huggingface oder Ollama.

Was ist agentenbasierte KI und wie unterscheidet sie sich von traditioneller KI?

Agenten-KI bezieht sich auf Systeme der künstlichen Intelligenz, die autonom handeln, sich eigene Ziele setzen und sich an veränderte Umgebungen anpassen können. Im Gegensatz dazu arbeitet herkömmliche KI in der Regel nach vordefinierten Regeln, nimmt Eingaben entgegen und produziert Ausgaben.

Du kannst zum Beispiel über deine eigenen Projekte sprechen oder andere agentenbasierte KI-Anwendungen erwähnen, die du benutzt oder von denen du gehört hast. Für eine detailliertere Erklärung der einzelnen Aspekte empfehle ich den folgenden Artikel über Agentische KI.

Was reizt dich an der Arbeit mit agentenbasierter KI?

Das ist eine häufige Frage, die darauf abzielt, deine Motivationen und Interessen zu verstehen. Normalerweise sind die Fragen sehr offen und erlauben es dir, in jede Richtung zu gehen und wirklich mit dem Interviewer zu sprechen.

Halte dafür eine nette Geschichte oder eine Erklärung bereit, sei enthusiastisch, konkret und versuche, über etwas zu sprechen, das mit der Rolle zu tun hat. Wenn du dich nicht auf etwas Bestimmtes festlegen kannst, versuche, über ein Produkt zu sprechen, das du benutzt und warum es spannend oder interessant ist.

Kannst du ein Beispiel für eine agentenbasierte KI-Anwendung nennen und über ihre Komponenten sprechen?

Lass uns zum Beispiel über ein selbstfahrendes Auto sprechen. Betrachte zunächst die Ziele, die das Auto erreichen muss: Es muss autonom fahren und durch die Straßen navigieren, optimale Routen konstruieren, Hindernissen ausweichen und vor allem die Sicherheit der Fahrgäste gewährleisten.

Sobald die Ziele festgelegt sind, können wir uns ansehen, wie die Anwendung strukturiert sein könnte. Ein Hauptmodell könnte für das Fahren des Autos verantwortlich sein und kontinuierlich oder nach Bedarf Input von kleineren Modellen erhalten, die Aufgaben wie die Routenoptimierung oder das Abrufen von Umweltinformationen übernehmen.

Während des Gesprächs kannst du auf jede dieser Komponenten näher eingehen. Du kannst dir auch gerne eigene Beispiele einfallen lassen.

Mit welchen LLMs hast du bisher zusammengearbeitet?

Sei bereit, bestimmte Modelle, mit denen du gearbeitet hast, im Detail zu besprechen. Die Arbeitgeber werden wissen wollen, wie gut du das Modell intern verstehst. Sei zum Beispiel bereit, über Open-Source-Modelle wie Llama oder proprietäre GPT-Modelle zu sprechen.

Das ist auch eine gute Gelegenheit, neue Modelle zu erwähnen und dem Gesprächspartner zu zeigen, dass du auf dem Laufenden bist. Du kannst zum Beispiel sprechen über Deepseek R1 und andere Argumentationsmodelle sprechen.

Welche Erfahrungen hast du mit der Nutzung von LLMs über die API gemacht?

In dieser Frage geht es um die Verwendung von LLMs über die API statt über ein Chatfenster. Sei bereit, über deine Projekte zu sprechen, wenn sie APIs verwenden. Achte darauf, die Verwendung von APIs, die Erzeugung und Speicherung von geheimen Schlüsseln, die Überwachung der Kosten und verschiedene Modellanbieter zu überarbeiten. Das ist auch ein guter Ort, um über deine Erfahrungen als Ingenieur zu sprechen.

Wenn du noch nicht genug Erfahrung mit der Nutzung von LLMs über die API hast, solltest du dir diese Ressourcen ansehen:

• GPT-4.5 API Tutorial: Erste Schritte mit der API von OpenAI
• DeepSeek API: Ein Leitfaden mit Beispielen und Kostenberechnungen
• Mistral OCR: Ein Leitfaden mit praktischen Beispielen

Hast du Argumentationsmodelle verwendet?

In Anbetracht von neuen Denkmodellen wie OpenAI o3 und DeepSeek-R1 werden Arbeitgeber wissen wollen, ob du damit vertraut bist. Es geht über die einfache Auswahl eines anderen Modells in einer Anwendung oder einem API-Aufruf hinaus, da diese Modelle Denk-Tokens erzeugen und oft ein anderes Nutzungsmuster erfordern.

Du könntest einen guten Eindruck hinterlassen, wenn du weißt, wie man ein Open-Source-Modell fein abstimmt und lokal betreibt, denn das ist etwas, was das Unternehmen, bei dem du dich bewirbst, brauchen könnte. Zum Üben kannst du DeepSeek-R1 feineinstellen und lokal ausführen:

• Feinabstimmung DeepSeek R1 (Reasoning Model)
• Wie man DeepSeek-R1 lokal mit Ollama einrichtet und betreibt

Benutzt du LLMs in deinem täglichen Arbeitsablauf? Wenn ja, wofür?

Wenn du LLMs in deinem Arbeitsablauf verwendest, könnte dies deine Chance sein, dein Fachwissen unter Beweis zu stellen. Du kannst über Tools sprechen, die du benutzt hast, was dir daran gefallen oder nicht gefallen hat und sogar über Dinge, auf die du dich freust. Erwähnen Sie beliebte Tools wie Cursor, NotebookLM, Lovable, Replit, Claude Artifacts, Manus AI, etc.

Welche Quellen nutzt du, um dich über agentenbasierte KI auf dem Laufenden zu halten?

Einige Arbeitgeber werden wissen wollen, wie aktuell du in Sachen KI bist oder sein kannst. Quellen, die du in deine Antwort einbeziehen könntest, sind KI-KonferenzenForen, Newsletters und so weiter.

Wie gut kannst du Unterlagen und Dokumente lesen und verstehen?

Das Lesen von Literatur, Papieren und Dokumentationen gehört zu fast jedem KI-Job dazu. Du könntest auch nach deiner allgemeinen Herangehensweise beim Lernen oder Abrufen von Informationen gefragt werden. Es ist eine gute Idee, in deiner Antwort nicht zu sehr auf Chatbots angewiesen zu sein.

Bereite dich darauf vor, über ein aktuelles Papier zu sprechen, das du gelesen hast - du kannst zum Beispiel über Googles Titanen-Architektur.

Intermediate Agentic AI Interview Fragen

Nachdem wir nun die grundlegenden Fragen geklärt haben, können wir ein bisschen tiefer gehen und einige Zwischenfragen besprechen, die gestellt werden könnten oder als gute Referenz dienen.

Was denkst du über die Ethik dieser Rolle und über agentenbasierte KI im Allgemeinen?

Ich denke, das ist eine ziemlich seltene Frage, aber trotzdem eine gute Sache, über die man nachdenken sollte, vielleicht sogar generell und nicht speziell für ein Vorstellungsgespräch. Du kannst über Ideen nachdenken, die mit der Stelle zu tun haben, für die du dich bewirbst, oder über allgemeinere Ideen wie KI-Anwendungen, die Entscheidungen treffen, die das Leben der Menschen beeinflussen. Die Frage hat definitiv keine richtige Antwort und dient in der Regel nur dazu, zu überprüfen, wie sehr du dich für das Thema interessierst oder darüber nachgedacht hast.

Welche Sicherheitsrisiken sollten beim Einsatz von autonomen KI-Agenten berücksichtigt werden?

Beim Einsatz von autonomen KI-Agenten gibt es mehrere Sicherheitsaspekte zu beachten. Ein Risiko besteht darin, dass das Modell Zugang zu sensiblen internen Tools oder Datenbanken haben könnte. Wenn das Modell nicht ordnungsgemäß mit einer Sandbox oder Berechtigung versehen ist, könnte ein böswilliger Benutzer die Prompt Injection oder gegnerische Eingaben verwenden, um private Daten zu extrahieren oder unbeabsichtigte Aktionen auszulösen.

Ein weiteres Risiko besteht darin, das Verhalten des Modells durch sorgfältig ausgearbeitete Aufforderungen oder externe Eingaben zu manipulieren. Ein Angreifer könnte das Modell dazu bringen, Sicherheitseinschränkungen zu ignorieren, Privilegien zu erweitern oder sich auf eine Art und Weise zu verhalten, die von seiner beabsichtigten Funktion abweicht.

Es gibt auch die Möglichkeit von Denial-of-Service-Angriffen, bei denen das Modell mit Anfragen überhäuft oder dazu gebracht wird, seine eigenen Operationen zu stoppen. Wenn ein Agent kritische Infrastruktur oder automatisierte Arbeitsabläufe kontrolliert, könnte dies zu größeren Störungen führen.

Um diese Risiken zu minimieren, ist es wichtig, die Prinzipien der traditionellen Softwaresicherheit anzuwenden: Least Privilege, strenge Eingabevalidierung, Überwachung, Ratenbegrenzung und ständige Überprüfung des Verhaltens des Agenten.

Welche menschlichen Berufe werden deiner Meinung nach bald durch agentenbasierte KI-Anwendungen ersetzt und warum?

Interviewer könnten diese Frage stellen, um zu verstehen, was du über die heutigen Möglichkeiten der agentenbasierten KI weißt. Sie werden nicht nur nach einer Liste suchen, sondern auch nach einer durchdachten Erklärung deiner Argumente.

Ich persönlich glaube zum Beispiel nicht, dass Ärztinnen und Ärzte in absehbarer Zeit ersetzt werden - vor allem nicht diejenigen, deren Entscheidungen sich direkt auf Menschenleben auswirken - und das hängt mit der Ethik zusammen. Hier gibt es viel zu entdecken, und du kannst sogar darüber diskutieren, ob du es gut oder schlecht findest, dass bestimmte Berufe durch KI ersetzt werden.

Kannst du einige Herausforderungen beschreiben, denen du bei der Arbeit an einer KI-Anwendung begegnet bist?

Obwohl es sich um eine "Du"-Frage handelt, habe ich sie in den Abschnitt für Fortgeschrittene gestellt, weil sie ziemlich häufig vorkommt und Interviewer ihr viel Bedeutung beimessen. Du solltest auf jeden Fall ein solides Beispiel vorbereitet haben und nicht versuchen, dir auf Anhieb etwas einfallen zu lassen.

Wenn du noch keine großen Herausforderungen erlebt hast, versuche zumindest über eine theoretische Situation zu sprechen und wie du sie bewältigen würdest.

Fortgeschrittene Agenten-KI Interviewfragen

Zum Schluss wollen wir noch einige fortgeschrittene und technische Fragen besprechen. Ich werde versuchen, so allgemein wie möglich zu sein, obwohl die Fragen im echten Vorstellungsgespräch im Allgemeinen spezifischer sein könnten. Anstatt nach der Indexierung im Allgemeinen zu fragen, könntest du zum Beispiel nach den verschiedenen Indexierungsmethoden gefragt werden, die Langchain oder Llama-Index unterstützen.

Was ist der Unterschied zwischen der System- und der Benutzerführung?

System- und Benutzereingaben sind beides Inputs für ein Sprachmodell, aber sie haben unterschiedliche Funktionen und sind in der Regel unterschiedlich stark ausgeprägt.

Der Systemprompt ist eine versteckte Anweisung, die das allgemeine Verhalten oder die Persönlichkeit des Modells festlegt. Sie ist für den Nutzer während eines Gesprächs nicht direkt sichtbar, aber sie spielt eine wichtige Rolle. Die Systemaufforderung könnte dem Modell zum Beispiel sagen, dass es sich wie ein hilfreicher Assistent, ein Mathematiker oder ein Reiseplaner verhalten soll. Sie legt den Ton, den Stil und die Einschränkungen für die Interaktion fest.

Die Benutzereingabe hingegen ist die Eingabe, die der Benutzer direkt eingibt - wie eine Frage oder eine Bitte. Das ist es, worauf das Modell in Echtzeit reagiert.

In vielen Konfigurationen hat der Systemprompt mehr Gewicht und trägt dazu bei, dass das Verhalten über mehrere Sitzungen hinweg konsistent bleibt, während der Benutzerprompt den spezifischen Inhalt der einzelnen Antworten bestimmt.

Wie programmierst du ein agentenbasiertes KI-System so, dass es Prioritäten setzt, wenn bestimmte Ziele oder Aufgaben miteinander konkurrieren?

Agentische KI-Systeme werden in der Regel programmiert, indem klare Ziele definiert, geeignete Werkzeuge zugewiesen und die Logik strukturiert wird, die bestimmt, wie der Agent Aufgaben priorisiert, wenn Ziele konkurrieren. Dabei wird oft eine Kombination aus Prompts, Funktionsaufrufen und Orchestrierungslogik verwendet - manchmal auch über mehrere Modelle oder Subsysteme hinweg.

Ein Ansatz besteht darin, eine Hierarchie von Zielen zu definieren und ihnen Gewichtungen oder Regeln zuzuweisen, die den Agenten bei der Wahl der zu verfolgenden Aufgabe leiten, wenn Konflikte auftreten. Einige Systeme verwenden auch Planungskomponenten oder Zwischenschritte (wie Reflexionsschleifen oder Scratchpads), um Kompromisse zu bewerten, bevor sie handeln.

Wenn du neu auf diesem Gebiet bist, empfehle ich dir, mit dem Anthropic's Artikel über Entwurfsmuster für Agenten. Es bietet konkrete Beispiele und gängige Architekturen, die in realen Systemen verwendet werden. Viele der Konzepte werden dir vertraut vorkommen, wenn du einen Hintergrund in der Softwareentwicklung hast, vor allem in Bezug auf modulares Design, Zustandsmanagement und asynchrone Aufgabenausführung.

Wie gut kennst du dich mit Souffleuren und Souffleurtechnik aus? Von welchen Ansätzen hast du schon gehört oder sie angewendet?

Prompt-Engineering ist ein wichtiger Bestandteil eines agentenbasierten KI-Systems, aber es ist auch ein Thema, das zu Klischees einlädt. Deshalb ist es wichtig, vage Aussagen über seine Bedeutung zu vermeiden und sich stattdessen auf die technischen Details zu konzentrieren, wie du es anwendest.

Hier ist, was ich für eine gute Antwort halten würde:

Ich kenne mich mit Souffleuren und Souffleurtechniken gut aus und habe verschiedene Techniken sowohl bei der Projektarbeit als auch bei alltäglichen Aufgaben eingesetzt. Ich verwende zum Beispiel regelmäßig few-shot prompting um Modelle mit Beispielen zu einem bestimmten Format oder Tonfall anzuleiten. Ich verwende auch Gedankenkettenaufforderung wenn ich möchte, dass das Modell Schritt für Schritt denkt - das ist besonders nützlich bei Aufgaben wie Codierung, Logikrätseln oder Planung.

Bei stärker strukturierten Anwendungen habe ich mit Prompt-Tuning und Prompt-Komprimierungausprobiert, vor allem bei der Arbeit mit APIs, die nach Tokenanzahl abrechnen oder eine strenge Kontrolle über die Ausgaben erfordern. Bei diesen Techniken werden die Aufforderungen auf ihre wichtigsten Bestandteile reduziert, ohne dass die Absicht und die Leistung beeinträchtigt werden.

Da sich das Feld schnell weiterentwickelt, habe ich es mir zur Gewohnheit gemacht, die neuesten Papiere, GitHub-Repos und Dokumentations-Updates zu lesen, um über Techniken wie FunktionsaufrufeFunktionsaufruf, abruferweiterte Eingabeaufforderungen und modulare Verkettung von Prompts.

Was ist ein Kontextfenster? Warum ist seine Größe begrenzt?

Ein Kontextfenster bezieht sich auf die maximale Menge an Informationen - gemessen in Token - die ein Sprachmodell auf einmal verarbeiten kann. Dazu gehören die aktuelle Eingabeaufforderung, frühere Gesprächsverläufe und Anweisungen auf Systemebene. Wenn die Grenze des Kontextfensters erreicht ist, können ältere Token abgeschnitten oder ignoriert werden.

Der Grund dafür, dass das Kontextfenster begrenzt ist, liegt in rechnerischen und architektonischen Einschränkungen. In Transformator-basierten Modellenerfordern Aufmerksamkeitsmechanismen die Berechnung von Beziehungen zwischen allen Token im Kontext, die wächst quadratisch mit der Anzahl der Token. Das macht die Verarbeitung sehr langer Kontexte teuer und langsam, besonders auf aktueller Hardware. Frühere Modelle wie RNNs hatten keine strenge Kontextgrenze, aber sie hatten Schwierigkeiten, langfristige Abhängigkeiten effektiv zu behalten.

Was ist Retrieval-Augmented Generation (RAG)?

Retrieval-augmented generation (RAG) ist eine Technik, die Sprachmodelle verbessert, indem sie ihnen ermöglicht, relevante Informationen aus externen Quellen abzurufen, bevor sie eine Antwort erzeugen. Anstatt sich nur auf das zu verlassen, was das Modell beim Training gelernt hat, können RAG-Systeme zum Zeitpunkt der Inferenz auf aktuelle oder domänenspezifische Daten zugreifen.

Ein typisches RAG-Setup besteht aus zwei Hauptkomponenten: einem Retriever, der eine Datenbank oder Dokumentensammlung auf der Grundlage der eingegebenen Anfrage nach relevantem Kontext durchsucht, und einem Generator, der die abgerufenen Informationen verwendet, um eine genauere und fundiertere Antwort zu geben. Dieser Ansatz ist besonders nützlich für Aufgaben, die Faktengenauigkeit, Langzeitgedächtnis oder bereichsspezifisches Wissen erfordern.

Von welchen anderen LLM-Architekturen hast du außer dem Transformator schon gehört?

Obwohl der Transformator heute die vorherrschende Architektur in der KI ist, gibt es noch einige andere Modelltypen, die es zu kennen gilt. Zum Beispiel, xLSTM baut auf der LSTM-Architektur auf und bietet Verbesserungen, die die Leistung bei langen Sequenzen verbessern und gleichzeitig die Effizienz erhalten.

Mamba ist eine weitere vielversprechende Architektur. Sie verwendet selektive Zustandsraummodelle, um die Verarbeitung langer Kontexte effizienter zu gestalten als Transformatoren, insbesondere für Aufgaben, die nicht die volle Aufmerksamkeit für jedes Token erfordern.

Die Titans-Architektur von Google ist ebenfalls einen Blick wert. Er wurde entwickelt, um einige der wichtigsten Einschränkungen von Transformatoren zu beseitigen, wie z. B. das Fehlen eines dauerhaften Speichers und hohe Rechenkosten.

Diese alternativen Architekturen zielen darauf ab, die Modelle effizienter und skalierbarer zu machen und längere oder komplexere Eingaben zu verarbeiten, ohne dass massive Hardwareressourcen benötigt werden.

Was sind Werkzeugnutzung und Funktionsaufrufe in LLMs?

Werkzeug- und Funktionsaufrufe ermöglichen es großen Sprachmodellen, mit externen Systemen wie APIs, Datenbanken oder eigenen Funktionen zu interagieren. Anstatt sich nur auf vortrainiertes Wissen zu verlassen, kann das Modell erkennen, wann eine Aufgabe aktuelle oder spezielle Informationen erfordert und darauf reagieren, indem es ein entsprechendes Tool aufruft.

Wenn du zum Beispiel ein Modell mit Zugriff auf eine Wetter-API fragst: "Wie ist das Wetter in London?", kann es sich entscheiden, diese API im Hintergrund aufzurufen und die Echtzeitdaten zurückzuliefern, anstatt eine generische oder veraltete Antwort zu generieren. Dieser Ansatz macht Modelle nützlicher und zuverlässiger, insbesondere bei Aufgaben, die Live-Daten, Berechnungen oder Aktionen außerhalb der internen Fähigkeiten des Modells beinhalten.

Was ist eine Gedankenkette (Chain of Thought, CoT) und warum ist sie für agentenbasierte KI-Anwendungen wichtig?

Chain-of-Thought (CoT) ist eine Souffleurtechnik, die Sprachmodellen hilft, komplexe Probleme Schritt für Schritt zu durchdenken, bevor sie eine endgültige Antwort geben. Dadurch kann das Modell Zwischenschritte bei der Argumentation generieren, was die Genauigkeit und Transparenz verbessert, insbesondere bei Aufgaben, die Logik, Mathematik oder mehrstufige Entscheidungen beinhalten.

CoT wird häufig in agentenbasierten KI-Systemen eingesetzt. Wenn ein Modell zum Beispiel als Richter in einer Bewertung fungiert, kannst du es auffordern, seine Antwort Schritt für Schritt zu erklären, um seinen Entscheidungsprozess besser zu verstehen. CoT ist auch eine zentrale Technik in schlussfolgernden Modellen wie OpenAI o1bei denen das Modell zunächst Schlussfolgerungstoken generiert, bevor es sie zur Erstellung der endgültigen Ausgabe verwendet. Dieser strukturierte Denkprozess macht das Verhalten der Agenten interpretierbar und zuverlässig.

Was ist Tracing? Was sind Spannweiten?

Unter Tracing versteht man die Aufzeichnung und Visualisierung der Abfolge von Ereignissen, die während eines einzelnen Laufs oder Aufrufs einer Anwendung auftreten. Im Kontext von LLM-Anwendungen erfasst ein Trace die gesamte Zeitachse der Interaktionen - wie z. B. mehrere Modellaufrufe, die Verwendung von Werkzeugen oder Entscheidungspunkte - innerhalb eines Ausführungsablaufs.

Ein Span ist ein einzelnes Ereignis oder ein Vorgang innerhalb dieser Spur. Zum Beispiel würden ein Modellaufruf, ein Funktionsaufruf oder ein Abrufschritt jeweils als einzelne Spans aufgezeichnet werden. Die Spans helfen dir, die Struktur und das Verhalten deiner Anwendung zu verstehen.

Tracing und Spans sind für die Fehlersuche und Optimierung von Agentensystemen unerlässlich. Sie machen es einfacher, Ausfälle, Latenzengpässe oder unbeabsichtigtes Verhalten zu erkennen. Tools wie Arize Phoenix und andere bieten visuelle Schnittstellen, um Spuren und Spannen im Detail zu untersuchen.

Was sind Evaluierungen? Wie bewertest du die Leistung und Robustheit eines agentenbasierten KI-Systems?

Evals sind im Wesentlichen die Einheitstests der agentenbasierten KI-Entwicklung. Sie ermöglichen es den Entwicklern zu beurteilen, wie gut das System in verschiedenen Szenarien und Randfällen funktioniert. Es gibt verschiedene Arten von Prüfungen, die heute üblich sind. Ein Ansatz besteht darin, die Ergebnisse des Modells mit bekannten korrekten Antworten zu vergleichen, indem man einen manuell erstellten Datensatz verwendet.

Ein anderer Ansatz besteht darin, ein LLM als Richter einzusetzen, um die Qualität, Genauigkeit oder Argumentation hinter den Antworten des Modells zu bewerten. Einige Tests prüfen den Gesamterfolg einer Aufgabe, andere konzentrieren sich auf einzelne Komponenten wie den Einsatz von Werkzeugen, die Planung oder die Konsistenz. Regelmäßige Tests helfen dabei, Rückschritte zu erkennen, Verbesserungen zu messen und sicherzustellen, dass das System zuverlässig bleibt, während es sich weiterentwickelt. Wenn du tiefer eintauchen möchtest, empfehle ich dir diesen LLM-Bewertungsleitfaden.

Kannst du etwas über die Transformer-Architektur und ihre Bedeutung für die agentenbasierte KI erzählen?

Die Transformator-Architektur wurde in dem einflussreichen Artikel von 2017 vorgestellt "Attention Is All You Need" vorgestellt. Wenn du es noch nicht gelesen hast, lohnt es sich, es durchzuarbeiten - es legte den Grundstein für fast alle modernen großen Sprachmodelle.

Seit seiner Veröffentlichung wurden viele Variationen und Verbesserungen entwickelt, aber die meisten Modelle, die in agentenbasierten KI-Systemen verwendet werden, basieren immer noch auf einer Form des Transformators.

Ein wesentlicher Vorteil des Transformators ist sein Aufmerksamkeitsmechanismusder es dem Modell ermöglicht, die Relevanz jedes Tokens in der Eingabesequenz für jedes andere Token zu berechnen, solange alles in das Kontextfenster passt. Dies ermöglicht starke Leistungen bei Aufgaben, die das Verstehen weitreichender Abhängigkeiten oder das Denken über mehrere Eingaben hinweg erfordern.

Dank seiner Flexibilität und Parallelität eignet sich der Transformator besonders gut für komplexe Aufgaben wie die Nutzung von Werkzeugen, die Planung und das Dialogverhalten mit mehreren Runden, die in den meisten heutigen agentenbasierten Systemen vorkommen.

Was ist LLM-Beobachtbarkeit und warum ist sie wichtig?

LLM-Beobachtbarkeit bezieht sich auf die Fähigkeit, das Verhalten von großen Sprachmodellsystemen in Echtzeit zu überwachen, zu analysieren und zu verstehen. Das ist ein Überbegriff, der Tools wie Traces, Spans und Evals umfasst, die Entwicklern helfen, Einblick in die internen Abläufe des Systems zu bekommen.

Da LLMs oft als "Black Boxes" betrachtet werden, ist die Beobachtbarkeit für die Fehlersuche, die Verbesserung der Leistung und die Gewährleistung der Zuverlässigkeit von entscheidender Bedeutung. So kannst du nachverfolgen, wie Modelle untereinander und mit externen Tools interagieren, Fehlerpunkte identifizieren und unerwartetes Verhalten frühzeitig erkennen. In agentenbasierten KI-Systemen, in denen mehrere Schritte und Entscheidungen aneinander gekoppelt sind, ist die Beobachtbarkeit besonders wichtig, um Vertrauen und Kontrolle zu erhalten.

Kannst du die Modellfeinabstimmung und die Modelldestillation erklären?

Modell-Feinabstimmung ist der Prozess, bei dem ein bereits trainiertes Modell auf einem neuen Datensatz weiter trainiert wird, in der Regel um es für einen bestimmten Bereich oder eine bestimmte Aufgabe zu spezialisieren. So kann das Modell sein Verhalten und seine Reaktionen auf der Grundlage von gezielterem oder aktualisiertem Wissen anpassen.

Modell-Destillation ist eine verwandte Technik, bei der ein kleineres oder weniger leistungsfähiges Modell anhand der Ergebnisse eines größeren, leistungsfähigeren Modells trainiert wird. Das Ziel ist es, Wissen und Verhalten von dem größeren Modell auf das kleinere zu übertragen, was oft zu schnelleren und effizienteren Modellen mit vergleichbarer Leistung führt. Seit der Veröffentlichung von Deepseek R1 wurden zum Beispiel viele kleinere Modelle auf seine Antworten hin destilliert und haben im Verhältnis zu ihrer Größe eine beeindruckende Qualität erreicht.

Was ist die nächste Aufgabe bei der Token-Vorhersage, und warum ist sie wichtig? Was sind Assistenzmodelle?

Die Vorhersage des nächsten Tokens, auch bekannt als autoregressive Sprachmodellierung, ist die zentrale Trainingsaufgabe der meisten großen Sprachmodelle. Das Modell wird so trainiert, dass es das nächste Token in einer Sequenz vorhersagt, wenn alle vorherigen Token vorhanden sind. Dieses einfache Ziel ermöglicht es dem Modell, Grammatik, Fakten, Denkmuster und sogar einige Planungsfähigkeiten zu lernen. Das Ergebnis dieser ersten Trainingsphase wird als Basismodell bezeichnet.

Assistentenmodelle sind Basismodelle, die weiter verfeinert wurden, um sich hilfreicher, sicherer oder gesprächiger zu verhalten. Diese Feinabstimmung umfasst in der Regel Techniken wie überwachte Befehlsabstimmung und Verstärkungslernen mit menschlichem Feedback (RLHF)die das Modell dazu bringen, mehr wie ein Assistent zu reagieren, anstatt nur Text zu vervollständigen.

Was ist der Human-in-the-Loop (HITL)-Ansatz?

Der Human-in-the-Loop (HITL)-Ansatz bezieht den Menschen in das Training, die Bewertung oder die Echtzeitnutzung eines LLM- oder agentenbasierten KI-Systems ein. Menschliche Eingaben können in verschiedenen Phasen erfolgen - während des Modelltrainings (z. B. Kennzeichnung von Daten, Einstufung von Antworten), während der Feinabstimmung (wie bei RLHF) oder sogar während der Ausführung, wenn ein Mensch die Aktionen eines Agenten anleitet oder genehmigt.

Wenn ein Chatbot dich zum Beispiel auffordert, die bessere von zwei Antworten zu wählen, nimmst du aktiv an einem HITL-Prozess teil. Dieser Ansatz trägt dazu bei, die Qualität, die Sicherheit und den Abgleich der Modelle zu verbessern, indem das menschliche Urteilsvermögen dort einbezogen wird, wo die Automatisierung allein nicht ausreicht.

Fazit

In diesem Artikel haben wir eine Reihe von Interviewfragen behandelt, die in einem KI-Interview auftauchen können, sowie Strategien, um sie zu durchdenken, zu recherchieren und effektiv zu beantworten. Zur Vertiefung empfehle ich, die im Artikel genannten Referenzen zu lesen und die DataCamp's KI-Kurse zu besuchen, um mehr über dieses Thema zu erfahren.