RAGFlow erklärt: Produktionsreife RAG-Anwendungen bauen

Wie oft hast du schon eine RAG-Demo gebaut, die mit ein paar sauberen PDFs super funktioniert, aber bei echten Unternehmensdokumenten keine Antworten liefert?

In der Praxis werden Tabellen plattgebügelt, gescannte Seiten verschwinden, eine Präsentation verliert ihre Überschriften, und die Chunking-Logik trennt Abschnittstitel vom Inhalt. Ein produktives RAG-System ist weit mehr als ein LLM mit Vektordatenbank. Es braucht Dokumentenparser, eine durchdachte Chunking-Strategie, hybrides Retrieval, Reranking, Zitations-Tracking, Agenten-Orchestrierung und eine Handvoll weiterer Bausteine, die du konfigurieren musst.

RAGFlow ist eine Open-Source-Plattform, die all das in einem Stack vereint. Sie übernimmt das tiefgehende Dokumentenparsing, vorlagenbasiertes Chunking, hybrides Retrieval, Agenten-Workflows und MCP-Integration – alles hinter einer einzigen UI und API. So kannst du dich auf deine Wissensbasis konzentrieren und auf nichts anderes.

In diesem Artikel zeige ich dir, wie RAGFlow unter der Haube funktioniert, wie die Architektur aussieht, wie es sich mit LangChain und LlamaIndex vergleichen lässt und wie du es bereitstellst.

Wenn du eine Auffrischung zu RAG brauchst, melde dich zu unserem Retrieval Augmented Generation (RAG) with LangChain Kurs an – die Grundlagen verstehst du an einem Nachmittag.

Was ist RAGFlow?

RAGFlow ist ein Open-Source-RAG-Engine, entwickelt von InfiniFlow und im April 2024 unter der Apache-2.0-Lizenz veröffentlicht.

Sie ist für produktive KI-Anwendungen gebaut, bei denen die Retrieval-Qualität über Erfolg oder Misserfolg entscheidet. Der Projektschwerpunkt liegt auf tiefem Dokumentenverständnis – Parsing und Chunking sind die Basis für alles Weitere. Wenn deine PDFs, Tabellen und Folien chaotisch sind, helfen weder Reranker noch größere LLMs. Du musst zuerst die Dokumentqualität in den Griff bekommen.

Der Unterschied von RAGFlow zu den meisten RAG-Tools: Es ist ein kompletter Stack. Du bekommst Dokumentenparsing, vorlagenbasiertes Chunking, hybrides Retrieval, Reranking, Zitations-Tracking, einen visuellen Agenten-Workflow-Builder und MCP-Support in einem System. Du musst nicht erst eine Vektordatenbank wählen, einen Parser konfigurieren, einen Reranker einbauen und eine UI darüber bauen – alles steckt bereits hinter einer Weboberfläche und API.

Damit ist RAGFlow eher eine Plattform als ein Framework.

So funktioniert RAGFlow

RAGFlow folgt der klassischen RAG-Pipeline, aber jeder Schritt ist eine konfigurierbare Komponente statt Code, den du selbst schreiben musst.

Das passiert vom Dokument-Upload bis zur LLM-Antwort:

1. Dokumente aufnehmen: Du lädst Dateien hoch oder verbindest eine Datenquelle. RAGFlow akzeptiert PDFs, Word-Dateien, Excel-Tabellen, PowerPoint-Decks, Markdown, HTML, Bilder und Scans. Ab v0.25 kannst du außerdem Confluence, S3, Notion, Discord und Google Drive synchronisieren.
2. Inhalte parsen und strukturieren: Die DeepDoc-Engine liest jede Datei mit OCR, Tabellenstrukturerkennung und Layout-Erkennung. Das Ergebnis sind strukturierte Inhalte mit Metadaten zu Überschriften, Tabellen, Abbildungen und Lesereihenfolge.
3. Embeddings erzeugen: RAGFlow schickt jedes Chunk durch ein Embedding-Modell aus deiner Konfiguration. Du kannst OpenAI, Cohere, Voyage, ein lokales Modell oder andere unterstützte Modelle verwenden.
4. Wissen indexieren: Chunks und Vektoren landen in der Dokument-Engine. Standard ist Elasticsearch, alternativ kannst du auf Infinity wechseln – die eigene, für hybrides Suchen gebaute Datenbank von InfiniFlow.
5. Relevanten Kontext abrufen: Bei einer Anfrage führt RAGFlow Vektorsuche, BM25-Schlagwortsuche und Reranking gemeinsam aus. Du erhältst die Top-Chunks mit Quellenangaben zum Ursprungsdokument.
6. Antworten mit einem LLM generieren: Die abgerufenen Chunks gehen in den Prompt, das LLM formuliert die Antwort, und RAGFlow hängt Zitationen an, damit Nutzer jede Aussage zur Quelle zurückverfolgen können.

Die Reihenfolge ist nicht neu. Wichtig ist, dass jeder Schritt konfigurierbar ist – und du das Ergebnis in jeder Phase prüfen kannst.

RAGFlow-Architektur

Die Architektur von RAGFlow hat vier Ebenen, die jeweils ein spezifisches Problem der RAG-Pipeline lösen. Hier ist eine schnelle visuelle Übersicht:

RAGFlow-Architektur visualisiert

Schauen wir uns die Ebenen im Detail an.

Dokumentenaufnahme

Hier beginnt alles. RAGFlow akzeptiert PDFs, Office-Dokumente wie Word, Excel und PowerPoint, Markdown-Dateien und Webseiten. Scans und Bilder funktionieren dank integriertem OCR ebenfalls.

Du kannst Dateien direkt über die UI hochladen, eine Cloud-Quelle verbinden oder Dokumente per API einspeisen. Die Ingestion-Ebene normalisiert alles in ein gemeinsames Format für den nächsten Schritt.

Wissensaufbereitung

Hier kommt DeepDoc ins Spiel.

Parsing verwandelt Rohdateien in strukturierte Inhalte mit Überschriften, Absätzen, Tabellen und Abbildungen. Chunking teilt den Inhalt in Retrieval-Einheiten – basierend auf einer Vorlage deiner Wahl (General, Paper, Book, Q&A, Manual, Table oder Naive). Metadaten reichern jedes Chunk an, etwa mit Seitennummern, Abschnittstiteln und Position auf der Seite.

Die Chunks aus dieser Ebene behalten ihre Struktur. Eine Tabelle bleibt eine Tabelle, eine Überschrift bleibt mit ihrem Abschnitt verbunden, eine Bildunterschrift bleibt bei der Abbildung. Es wirkt nicht zufällig wie bei klassischen RAG-Chunking-Strategien.

Retrieval-Engine

Die Retrieval-Engine läuft auf Elasticsearch oder Infinity – je nach konfigurierter Dokument-Engine.

Sie führt drei Sucharten parallel aus:

• Vektorsuche für semantische Ähnlichkeit
• BM25-Schlagwortsuche für exakte Treffer
• Reranking über die kombinierten Ergebnisse, um die relevantesten Chunks nach oben zu schieben

Diese Ebene liefert eine kleine Menge hochwertiger Chunks für den LLM-Prompt.

LLM-Ebene

Die LLM-Ebene sendet die abgerufenen Chunks an das Modell deiner Wahl – OpenAI, DeepSeek, Gemini, Claude, ein lokales Ollama-Modell oder ein anderes von RAGFlow unterstütztes Modell.

Die Antwort kommt mit Quellenangaben zurück. Jede Aussage verweist auf ein konkretes Chunk, und jedes Chunk verweist auf eine konkrete Stelle im Quelldokument. RAGFlow nennt das grounded answers – Nutzer klicken auf die Zitation und sehen die exakte Passage. Halluzinationen fallen so schnell auf.

Die vier Ebenen arbeiten als Pipeline: Ingestion speist die Wissensaufbereitung, diese speist die Retrieval-Engine, und die Retrieval-Engine speist die LLM-Ebene.

Wichtige Funktionen von RAGFlow

Das sind die Funktionen, die bei echten, unaufgeräumten Dokumenten den Unterschied machen.

Fortgeschrittenes Dokumentenparsing

Der Parser von RAGFlow heißt DeepDoc – er ist der Grund, warum es die Plattform gibt.

DeepDoc läuft mit drei Vision-Modellen über jedes Dokument: OCR für Texterkennung, TSR für Tabellenstrukturerkennung und DLR für Dokumentlayout-Erkennung. Statt ein PDF als Zeichenstrom zu behandeln, liest es die Datei wie ein Mensch: Es erkennt Tabellen, Spaltenumbrüche, Überschriften und Fußnoten.

Diese Struktur bleibt in den Chunks erhalten. Tabellen bleiben mit ihren Headern, mehrspaltige Layouts werden in der richtigen Reihenfolge gelesen, Abbildungen behalten ihre Beschriftungen.

Wenn du das schon einmal manuell versucht hast, weißt du, wie schwer es ist, das über verschiedene Dokumenttypen und in großem Maßstab verlässlich hinzubekommen.

Hybrides Retrieval

Semantische Suche verpasst oft Anfragen, bei denen das exakte Wort zählt. Reine Schlagwortsuche verfehlt Anfragen, bei denen die Bedeutung zählt, aber anders formuliert ist.

RAGFlow lässt beides parallel laufen:

• Vektorsuche fängt semantische Matches ab – "revenue" findet "sales" und "income"
• Schlagwortsuche fängt exakte Treffer ab – ein Produktcode oder juristischer Begriff taucht auf, selbst wenn das Embedding-Modell ihn nicht versteht
• Reranking ordnet die kombinierten Ergebnisse mit einem dedizierten Modell neu, sodass die Top-Chunks wirklich am relevantesten sind

Workflow-Builder

Der Workflow-Builder ist eine visuelle Oberfläche, auf der du die Pipeline konfigurierst statt Code zu schreiben.

Du ziehst Komponenten auf die Fläche – Retrieval, Rerank, LLM, Codeausführung, HTTP-Calls, Iterationen, Verzweigungen – und verbindest sie zu einem Flow. RAGFlow liefert Vorlagen für gängige Muster wie Retrieve – Rerank – Answer, Deep Research und Data Analytics mit.

Für Teams mit wenigen Entwicklerinnen und Entwicklern ist so in einer Woche ein funktionierender Prototyp drin.

Agenten-Support

Ab v0.20 unterstützt RAGFlow vollständige agentische Workflows auf derselben Oberfläche wie reguläre Workflows.

Eine Agenten-Komponente kann planen, reflektieren, Tools aufrufen und an Subagenten delegieren. Du konfigurierst einen Prompt und eine Toolliste, und der Agent entscheidet zur Laufzeit, welches Tool er in welcher Reihenfolge nutzt. Tools können eingebaute Komponenten, angebundene MCP-Server oder andere Agenten sein.

Der Mehrwert liegt im Reasoning über abgerufenes Wissen. 

Ein Support-Agent kann aus der Wissensbasis abrufen, eine externe API zum Ticketstatus aufrufen und entscheiden, ob er eskaliert. All das passiert in einem Flow – mit Zitationen an den Stellen, die aus Dokumenten stammen.

Dokumentenparsing und Wissensextraktion

Retrieval-Qualität beginnt mit Parsing-Qualität. Wenn dieser Teil nicht stimmt, helfen weder Reranker noch größere LLMs.

Die meisten RAG-Fehlschläge passieren auf Dokumentebene: Ein PDF voller Tabellen wird als kommagetrennte Werte extrahiert oder ein Foliensatz verliert seine visuelle Hierarchie. Wenn diese Chunks die Vektordatenbank erreichen, haben sie keinen Wert mehr.

RAGFlows Ansatz: Parsing als erstklassiges Problem behandeln.

Tabellen

Tabellen sind der schwierigste Teil beim Dokumentenparsing. Ein Standard-PDF-Parser liest eine Tabelle zeilenweise und macht daraus einen Strom von Zahlen – ohne Header. Die Struktur geht verloren.

DeepDoc führt vor dem Chunking eine Table Structure Recognition (TSR) durch. Es erkennt Tabellenränder, Kopfzeilen, Spalten und Zellbeziehungen. Wenn der Chunker das Dokument teilt, bleiben Tabellen mit ihren Headern intakt, und jede Zeile behält ihren Kontext.

Bilder und Scans

DeepDoc nutzt OCR, um Text aus gescannten Seiten zu extrahieren, und kann ab v0.19 ein Vision-Language-Modell einsetzen, um Bilder in PDFs und DOCX-Dateien zu verstehen.

So werden Diagramme, Charts oder ein Kassenbon-Foto durchsuchbar.

Mehrspaltige Layouts

Wissenschaftliche Arbeiten und Finanzberichte nutzen mehrspaltige Layouts. Ein naiver Parser liest Zeile für Zeile von links nach rechts, vermischt Spalten und erzeugt unverständlichen Inhalt.

DeepDoc nutzt Document Layout Recognition (DLR), um zuerst die Lesereihenfolge zu bestimmen. Es weiß, dass Spalte 1 vor Spalte 2 kommt und dass eine Kopfzeile beide Spalten überspannt.

Metadaten

Jedes Chunk kommt mit Metadaten wie Seitennummer, Abschnittstitel, Position auf der Seite und Ursprungsdatei.

Das ermöglicht Zitationen. Wenn das LLM eine Passage zitiert, kann RAGFlow genau auf Seite und Position im Quelldokument verweisen. Es macht auch Chunk-basiertes Filtern möglich – du kannst in einem bestimmten Abschnitt oder Dokument suchen.

Chunk-Qualität

Der letzte Baustein ist das Chunking selbst. RAGFlow verwendet vorlagenbasiertes Chunking – du wählst die Vorlage passend zum Dokumenttyp (General, Paper, Book, Q&A, Manual, Table oder Naive).

Jede Vorlage hat eigene Regeln für Trennstellen. Die Paper-Vorlage hält Abstract, Methoden und Ergebnisse getrennt. Die Q&A-Vorlage belässt jede Frage mit ihrer Antwort. Die Manual-Vorlage respektiert Überschriften und Abläufe. Du siehst das Muster.

Das Ergebnis sind Chunks, die für sich Sinn ergeben. Im Kontextfenster des LLM liefern sie genug Bedeutung, um die Frage zu beantworten.

Retrieval in RAGFlow

Sind deine Dokumente geparst und gechunkt, entscheidet das Retrieval, ob das LLM den richtigen Kontext sieht. Die Retrieval-Engine von RAGFlow hat drei Teile, die zusammenspielen.

Vektor-Retrieval

Vektorsuche erkennt semantische Ähnlichkeit. Du embedest die Anfrage und jedes Chunk mit demselben Modell, und die Engine liefert die Chunks zurück, deren Vektoren der Anfrage am nächsten sind.

So findet eine Suche nach "revenue growth" ein Chunk zu "sales increase", auch wenn die Begriffe nicht übereinstimmen. RAGFlow lässt dich das Embedding-Modell wählen – OpenAI, Cohere, Voyage, BGE oder ein lokales – und später ohne Komplettumbau wechseln.

Hybride Suche

Für exakte Begriffe ist Vektorsuche nicht ideal. Produktcodes oder juristische Verweise haben oft wenig semantisches Signal, aber der exakte String ist entscheidend.

RAGFlow führt BM25-Schlagwortsuche neben der Vektorsuche aus und kombiniert die Ergebnisse. So bekommst du semantische Recall und die Präzision exakter Treffer in einer Anfrage.

Reranking

Die erste Retrieval-Runde liefert eine Kandidatenmenge – meist die Top 30 bis 50 Chunks. Das ist zu viel für das Kontextfenster des LLM, und die Spitze ist oft verrauscht.

Reranking ordnet diese Kandidaten mit einem Modell neu, das Anfrage und Chunk gemeinsam liest. Der Reranker bewertet Relevanz, nicht nur Ähnlichkeit. Die Top 5 bis 10 Chunks nach dem Reranking wandern in den Prompt.

Kontextauswahl

Zum Schluss entscheidest du, was ins Kontextfenster kommt. In RAGFlow legst du Anzahl der Chunks, Ähnlichkeitsschwelle und minimale Reranker-Punktzahl fest.

Außerdem gibt es Optionen wie RAPTOR (hierarchische Zusammenfassungen für Multi-Hop-Fragen) oder Long-Context-RAG (automatisch erzeugte Inhaltsverzeichnisse auf Dokumentebene als Karte des Materials). Das hilft, wenn flaches Chunk-Retrieval nicht reicht.

Ziel der Retrieval-Engine ist es, dem LLM genau den benötigten Kontext zu geben – nicht mehr und nicht weniger.

RAGFlow vs. traditionelle RAG-Pipelines

Traditionelle RAG-Pipelines bestehen aus unabhängigen Tools. Du wählst einen Parser (Unstructured, LlamaParse, PyMuPDF), einen Chunker (LangChain-Textsplitter, eigener Code), ein Embedding-Modell, eine Vektordatenbank (Pinecone, Weaviate, Chroma, Qdrant), einen Reranker (Cohere, BGE), einen LLM-Client und eine UI. Dann schreibst du den Code, der alles verbindet.

Das gibt maximale Kontrolle, kostet aber viel Engineering-Aufwand.

Jeder Integrationspunkt ist Code, den du planen, schreiben, testen und warten musst. Willst du Zitationen hinzufügen, baust du sie. Ändert eine Komponente ihre API, reparierst du die Pipeline.

RAGFlow verfolgt den Gegenentwurf.

Es ist eine integrierte Plattform, bei der Parsing, Chunking, Retrieval, Reranking, Zitationen, Workflow-Orchestrierung und Web-UI out of the box kommen. Du konfigurierst in der Weboberfläche statt im Code, und die Teile sind bereits verbunden.

Dafür gibst du etwas Flexibilität ab. Wenn du einen neuartigen Chunking-Algorithmus oder einen Forschungs-Reranker einbauen willst, arbeitest du innerhalb des Plugin-Modells von RAGFlow statt in Python. Für die meisten produktiven Einsätze ist das okay, für Experimente kann es einschränkend wirken.

Hier eine Zusammenfassung der Unterschiede:

Kein Ansatz ist grundsätzlich besser. Wenn du die Engineering-Zeit hast und volle Kontrolle brauchst, ist eine traditionelle Pipeline richtig. Wenn du dich auf die Wissensbasis konzentrieren willst, bist du mit RAGFlow schneller.

RAGFlow vs. LangChain und LlamaIndex

Wenn du RAGFlow in Betracht ziehst, kennst du wahrscheinlich LangChain und LlamaIndex. So schneiden sie im Vergleich ab.

LangChain

LangChain ist ein Anwendungsframework für LLM-Apps. Es kümmert sich vor allem um Orchestrierung – also Prompts, Tools, Speicher und Modelle zu Workflows verketten. Wie deine Dokumente geparst werden oder wie dein Retrieval aufgebaut ist, steht weniger im Fokus. Es geht vor allem um das, was nach dem Retrieval passiert.

Wenn dein Projekt agentenlastig ist – Toolaufrufe, mehrschrittiges Reasoning, Verzweigungslogik, Human-in-the-Loop – landen die meisten Teams bei LangChain (und der State-Machine-Ebene LangGraph).

LlamaIndex

LlamaIndex ist ein Datenframework für LLMs. Es konzentriert sich auf Datenaufnahme, Indexaufbau und effiziente Abfragen. LlamaIndex bietet 160+ Datenkonnektoren, mehrere Indextypen (Vektor, Schlagwort, Baum, Wissensgraph) und sinnvolle Standards für Chunking und Retrieval.

Ist dein Projekt retrievallastig – viele Dokumente, tiefe Suchanforderungen, verschiedene Quellsysteme – ist LlamaIndex die stärkste Code-First-Wahl.

RAGFlow

RAGFlow ist eine integrierte RAG-Plattform. Es ist keine Bibliothek, die du in Python importierst, sondern ein System, das du bereitstellst. Parsing, Chunking, Retrieval, Reranking, Zitationen, Workflows, Agenten und eine Web-UI sind enthalten.

Wenn du eine produktionsreife RAG-Lösung auf unaufgeräumten Dokumenten ohne Pipeline-Code von Grund auf brauchst, ist RAGFlow der schnellste Weg.

Die drei Tools lassen sich auch kombinieren. Ein gängiges Muster: LlamaIndex für Ingestion, LangChain oder LangGraph für Agenten-Orchestrierung und RAGFlow, wenn du einen kompletten, selbstgehosteten Stack statt Handarbeit möchtest.

Hier ein Recap:

Eine RAG-Anwendung mit RAGFlow bauen

Sobald RAGFlow läuft, folgt der Aufbau einer RAG-App fünf Schritten. Du schreibst keinen Pipeline-Code – du konfigurierst jeden Schritt über die UI oder API.

Dokumente aufnehmen

Starte mit dem Hochladen deiner Dokumente. Du kannst Dateien über die Web-UI hinzufügen, eine Datenquelle wie Google Drive, S3, Notion, Confluence oder Discord verbinden oder Dateien per API hinzufügen.

Beispiel für die Dokumentenaufnahme

RAGFlow akzeptiert die gängigsten Formate – du musst nichts vorab konvertieren.

Die Wissensbasis konfigurieren

Eine Wissensbasis in RAGFlow ist ein Container für deine Dokumente, Chunks und Einstellungen. Du wählst die Chunk-Vorlage passend zum Dokumenttyp (General für gemischte Inhalte, Paper für Forschung, Manual für technische Dokus, Q&A für Support-Tickets usw.), wählst das Embedding-Modell und den Parser.

Konfiguration der Wissensbasis

Merke: Diese Wahl ist wichtig – die passende Vorlage erspart dir später viel Kopfzerbrechen.

Retrieval-Strategie wählen

Lege fest, wie das Retrieval arbeiten soll: Anzahl der Top-Chunks, Ähnlichkeitsschwelle und ob du hybride Suche oder nur Vektorsuche nutzen willst. Du kannst Reranking einschalten und ein Reranker-Modell wählen.

Für fortgeschrittene Fälle unterstützt RAGFlow RAPTOR für hierarchische Zusammenfassungen und Wissensgraphen für entitätenbasiertes Retrieval. Diese Optionen aktivierst du in der Wissensbasis-Konfiguration.

Ein LLM anbinden

RAGFlow bringt kein LLM mit. Du bringst dein eigenes – OpenAI, DeepSeek, Gemini, Claude, ein lokales Modell über Ollama oder ein anderes von RAGFlow unterstütztes.

Modelloptionen

Füge deinen API-Schlüssel in den Einstellungen hinzu, wähle das Modell und setze den System-Prompt. 

Antworten testen

Zum Schluss testest du. RAGFlow bietet ein Chat-Interface, in dem du die Wissensbasis befragen und die Antwort mit Zitationen sehen kannst.

Ein Klick auf eine Zitation führt dich zum exakten Chunk – die Position im Quelldokument ist hervorgehoben.

Die meisten Teams drehen diese Schleife ein paar Mal, bevor die Antworten wirklich gut sind. Das ist normal für RAG – aber mit RAGFlow änderst du UI-Einstellungen statt Python-Code.

Beispiel für Chat-Konfiguration

RAGFlow im Produktiveinsatz

RAGFlow wird produktiv vor allem dort eingesetzt, wo Dokumentqualität und Zitations-Tracking besonders wichtig sind.

Enterprise-Wissensbasen

Große Unternehmen haben tausende Dokumente auf Netzlaufwerken, in Confluence, SharePoint und als PDF-Anhänge in E-Mails. Mitarbeitende finden selten, was sie brauchen – und Fragen an ein LLM ohne RAG führen zu Halluzinationen.

Hier spielt RAGFlow seine Stärken aus.

Alte PDFs, gescannte Richtlinien, Excel mit Pivot-Tabellen, Jahre alte PowerPoints – alles wird geparst. Mit Zitationen können Legal und Compliance den Antworten vertrauen, und dank Web-UI können Nichtentwickler die Wissensbasis pflegen.

Kundensupport-Assistenten

Support-Teams haben Jahre an Tickets, FAQs, Handbüchern und internen Runbooks. Ein Assistent muss all das durchsuchen, die richtige Passage finden und wissen, wann er eskalieren soll.

Die Q&A-Vorlage von RAGFlow ist genau dafür gemacht. Du gibst deinen Ticketverlauf hinein und jede Frage-Antwort-Paarung wird zur Retrieval-Einheit. Mit einer Agentenebene oben drauf, einer API für Bestellabfragen, hast du einen Assistenten, der Routinefälle löst und schwierige Fälle mit vollem Kontext übergibt.

Interne Doku-Suche

Engineering-Teams haben Runbooks, Architektur-Dokus, Incident-Postmortems und API-Referenzen in Notion, Confluence und GitHub verstreut. Grep hilft bei Keywords, aber nicht bei Fragen wie „Wie sind wir beim letzten Mal mit genau diesem Alert umgegangen?“

RAGFlow bietet semantische Suche über den gesamten Korpus – mit Zitationen zur Quelle. Ingenieurinnen und Ingenieure bekommen Passage und Link zur Originalseite mit einem Klick.

Research-Assistenten

Research-Teams arbeiten mit Papers, Patenten, Reports und internen Experimenten. Die Deep-Research-Vorlage in RAGFlow ist dafür ausgelegt: mehrstufiges Retrieval mit Chain-of-Thought-Reasoning, bei dem der Agent die Frage aufteilt, Teile der Antwort sucht und zusammenführt.

Gerade in Finance, Legal und Pharma ist die Nachvollziehbarkeit jeder Aussage zur Quelle die Grundvoraussetzung für den Einsatz.

Der gemeinsame Nenner: Die Dokumente sind der harte Teil. Ist das Ausgangsmaterial sauber und simpel, funktionieren die meisten RAG-Tools. Ist es unaufgeräumt und strukturiert, bringt dich RAGFlows Parsing-Layer meist weiter als eine Pipeline von Grund auf zu bauen.

RAGFlow bereitstellen

RAGFlow bietet drei Wege zur Bereitstellung. Hier sind sie.

Docker-Deployment

Der Hauptweg ist Docker Compose. Du klonst das Repo, wechselst in den docker-Ordner und startest docker compose up -d. Dadurch startet der RAGFlow-Server zusammen mit Elasticsearch, MinIO, MySQL und Redis.

Mindestanforderungen sind 4 CPU-Kerne, 16 GB RAM und 50 GB Speicher. In der Praxis brauchst du mehr RAM bei großen Dokumentbeständen, da Elasticsearch und Infinity speicherhungrig sind.

Die Docker-Images zielen auf x86. Auf Apple Silicon oder anderen ARM64-Maschinen läuft es per Übersetzungsschicht, aber für bessere Performance solltest du das Image selbst nach der ARM64-Anleitung in den RAGFlow-Dokumenten bauen.

Lokale Entwicklung

Wenn du am Quellcode arbeiten willst, kannst du Backend und Frontend aus dem Source starten. Du nutzt uv für Python-Dependencies, startest mit docker compose -f docker/docker-compose-base.yml up -d nur die unterstützenden Services (MinIO, Elasticsearch, MySQL, Redis), dann das Backend per Shell-Skript und das Frontend mit npm run dev.

Das lohnt sich vor allem, wenn du beiträgst oder debuggen musst. Für die meisten ist Docker Compose der schnellere Weg.

Cloud-Deployment

InfiniFlow betreibt eine gehostete Version unter cloud.ragflow.io. Es gibt eine Free-Tier mit 5 Apps und 500 Credits pro Monat sowie kostenpflichtige Stufen für $29, $129 und Enterprise-Preise.

Für Prototypen und kleine Teams ist die Cloud-Variante ok. Für ernsthafte Produktion mit sensiblen Daten hosten die meisten selbst – entweder auf einer einzelnen VM für kleinere Deployments oder auf Kubernetes per Helm-Chart für größere.

Skalierung beachten

Das Standard-Deployment von RAGFlow läuft auf einer Maschine. Das reicht eine Zeit lang, aber irgendwann stößt du an Grenzen – bei Dokumentanzahl, Abfragelast oder Teamgröße.

Skalierbar sind insbesondere die Dokument-Engine (Elasticsearch oder Infinity), das Objektspeicher-System (MinIO) und die RAGFlow-App selbst. Für größere Deployments verteilst du diese Dienste auf mehrere Maschinen, nutzt gemanagtes Elasticsearch oder einen S3-kompatiblen Objektspeicher und betreibst mehrere RAGFlow-Instanzen hinter einem Load Balancer.

GPU-Beschleunigung für DeepDoc ist ebenfalls interessant. Parsing ist standardmäßig CPU-intensiv, aber im Config lässt sich GPU-Modus aktivieren – das beschleunigt große Ingestionsläufe deutlich.

Der Rest ist Standard-Infrastrukturarbeit – RAGFlow steht dem nicht im Weg.

Vorteile und Grenzen von RAGFlow

Jedes Tool hat Trade-offs – RAGFlow auch. Das solltest du wissen.

Vorteile

• Integrierte Plattform: Du musst keinen Parser, keine Vektordatenbank, keinen Reranker, keinen Chunker und kein UI-Framework auswählen und zusammenprogrammieren. RAGFlow bringt alles mit.
• Dokumentenverarbeitung ist die stärkste Disziplin: DeepDoc kommt mit PDFs, Scans, Tabellen und komplexen Layouts besser zurecht als die meisten Alternativen. Bei unaufgeräumten Dokumenten ist das oft Grund genug für RAGFlow.
• Von Tag eins auf Produktion getrimmt: Grounded Zitationen, Chunk-Visualisierung, Agenten-Workflows, MCP-Support und ein echtes Management-UI sind integriert. 
• Open Source unter Apache 2.0: Du kannst selbst hosten, den Code anpassen und auf eigener Infrastruktur betreiben. Das GitHub-Repo hat 80k+ Stars und aktive Entwicklung – das Projekt wird bleiben.

Grenzen

• Deployment ist anfangs nicht so simpel wie es wirkt: Docker Compose hilft, aber du betreibst trotzdem Elasticsearch oder Infinity, MinIO, MySQL und Redis neben der App. Irgendwann geht etwas kaputt – dann brauchst du Docker-Know-how.
• Infrastrukturbedarf: Minimum sind 16 GB RAM und 4 CPU-Kerne – das reicht nur für kleine Workloads. Realistisch brauchst du 32 GB oder mehr, vor allem mit Infinity oder großen Ingestions. Auf einem $5-VPS läuft RAGFlow nicht sinnvoll.
• Lernkurve: Der Workflow-Builder ist mächtig, aber umfangreich. Die richtige Chunk-Vorlage und Retrieval-Einstellungen zu finden, braucht Zeit. Ein paar Tage Einarbeitung sind normal.

Keiner dieser Punkte ist ein K.-o.-Kriterium, wenn RAGFlow zu deinem Use Case passt. Sie sind der Preis für eine Plattform statt einer Bibliothek.

Für wen eignet sich RAGFlow?

RAGFlow ist nicht für jedes Projekt ideal. Hier passt es – und hier eher nicht.

Beste Passform

KI-Ingenieurinnen und -Ingenieure, die produktive RAG-Systeme bauen. Wenn dein Job eine funktionierende RAG-App ist – und nicht, eine weitere Chunking-Bibliothek zu schreiben – nimmt dir RAGFlow den Großteil der Klempnerarbeit ab.

Enterprise-AI-Teams. Legal, Compliance, Finance und Support brauchen Zitationen und Nachvollziehbarkeit. Eine UI, die auch Nichtentwickler bedienen können, ist ein Plus. 

Developer, die mit unaufgeräumten Dokumenten arbeiten. PDFs voller Tabellen, Scans, mehrspaltige Layouts und gemischte Formate – hier ist DeepDoc der Konkurrenz voraus. Ist dein Ausgangsmaterial mehr als nur sauberer Fließtext, ist RAGFlows Parsingqualität schwer zu schlagen.

Organisationen mit großen Dokumentbeständen. Ab einigen tausend Dokumenten brauchst du ein System, das Aufnahme, Indexierung und Suche skaliert. RAGFlow ist dafür gemacht.

Weniger geeignet

Einfache Chatbot-Prototypen. Wenn du nur Fragen zu ein paar Markdown-Dateien beantworten willst, ist RAGFlow überdimensioniert. Ein LlamaIndex-Skript oder eine schlanke LangChain-Pipeline ist schneller.

Sehr kleine Projekte. Für persönliches Q&A über ein paar PDFs ist der Infrastrukturoverhead zu groß. Du verbringst mehr Zeit mit Docker-Befehlen als mit dem eigentlichen Projekt.

Teams, die gar kein Setup wollen. Wenn du dich anmelden und in fünf Minuten ein funktionierendes RAG haben willst, passt ein gehosteter Dienst oder eine leichtgewichtige Bibliothek besser. Es gibt eine Cloud-Version, aber der selbstgehostete Weg (wo der meiste Wert liegt) braucht etwas Setup.

Die Faustregel ist simpel: Ist Retrieval-Qualität auf unaufgeräumten Dokumenten die zentrale Herausforderung, lohnt sich RAGFlow. Wenn nicht, nimm etwas Leichteres.

Fazit

RAGFlow ist eine Full-Stack-Plattform, um produktionsreife RAG-Anwendungen auf realen Dokumenten zu bauen.

Die größte Stärke: Dokumentenverarbeitung, Retrieval, Reranking und Generierung laufen in einem Workflow, statt aus Einzeltools zusammengebaut zu werden. Du bekommst DeepDoc-Parsing, hybrides Retrieval, grounded Zitationen und Agenten-Workflows hinter einer einzigen UI und API.

Wenn deine Dokumente unaufgeräumt sind und Retrieval-Qualität zählt, ist RAGFlow die Einrichtung wert.

Starte mit der kostenlosen Cloud-Stufe oder einem lokalen Docker-Deploy, lade ein paar deiner schwierigsten Dokumente hoch und schau dir die Antworten an. So findest du am schnellsten heraus, ob es passt.

Die RAG-Architektur ist bewusst simpel – das heißt nicht, dass sie für komplexe Use Cases nicht taugt. Lies unseren Blogpost Advanced RAG Techniques und erfahre mehr über dichte Retrievals, Reranking und mehrschrittiges Reasoning.