Warum antwortet mein RAG-Agent nicht aus der Datenbank? Die 5 häufigsten Ursachen (FAQ)

Ein RAG-Agent in n8n soll Antworten ausschließlich aus der angebundenen Wissensdatenbank ziehen, tut das in der Praxis aber oft nicht: Er ignoriert den Vector Store, erfindet Inhalte oder behauptet, eine Information sei nicht vorhanden, obwohl sie im Index steht. Die Ursache liegt fast nie am Sprachmodell selbst, sondern in der Konfiguration zwischen Indexierung und Abfrage: falsch abgestimmte Embeddings, ungünstiges Chunking, ein Retriever-Filter, der zu viel oder zu wenig ausschließt, oder ein Systemprompt, der die Werkzeugnutzung nicht eindeutig vorschreibt. Dieser Beitrag ordnet die fünf häufigsten Fehlerbilder aus n8n-Community-Threads und der offiziellen Dokumentation ein und nennt jeweils den praktischen Fix. Stand: Juli 2026.

Ursachen bei Indexierung und Abfrage

• Embeddings-Mismatch: Wenn Dokumente beim Indexieren mit einem anderen Embedding-Modell oder einer anderen Vektordimension verarbeitet wurden als die Suchanfrage beim Abfragen, liefert die Ähnlichkeitssuche keine brauchbaren Treffer mehr, weil die Vektorräume nicht zueinander passen. In n8n passiert das typischerweise, wenn im Insert-Workflow ein anderer Embeddings-Node hängt als im Retrieval-Workflow, etwa OpenAI beim Indexieren und ein lokales Ollama-Modell bei der Abfrage. Der Fix: dasselbe Embeddings-Modell fest in beiden Workflows verdrahten und bei jedem Modellwechsel den kompletten Index neu aufbauen statt ihn nur zu ergänzen.
• Chunking-Probleme: Zu große Chunks vermischen mehrere Themen in einem Vektor und verwässern die Trefferpräzision, zu kleine Chunks reißen Kontext auseinander, sodass die Antwort zwar semantisch nah, aber inhaltlich unvollständig bleibt. Als Ausgangspunkt eignen sich meist 500 bis 1.000 Zeichen mit spürbarem Overlap, wobei sich der Recursive Character Text Splitter in n8n an Absätzen und Überschriften orientiert und dadurch sauberer trennt als eine reine Zeichen-Grenze. Der Fix: Chunk-Größe und Overlap testweise variieren und die Trefferqualität an echten Nutzerfragen prüfen, nicht nur an Beispieltexten.
• Fehlender oder falscher Retriever-Filter: Metadatenfilter im Vector-Store-Node verknüpfen mehrere Bedingungen standardmäßig per UND, sodass ein zu eng gesetzter Filter, etwa eine Kombination aus Kategorie und Datum, alle Dokumente ausschließt, obwohl passende Inhalte im Index liegen. Im n8n-Forum wird zudem berichtet, dass dynamische Filter im Tool-Modus des Agenten unzuverlässiger greifen als im Chain-Modus. Der Fix: Filterlogik zunächst vollständig entfernen, um den Grundabruf zu prüfen, und Filter danach schrittweise wieder ergänzen.

Ursachen bei Prompt und Werkzeug-Anbindung

• Agent nutzt das Vector-Store-Tool nicht: Besonders kleinere Sprachmodelle rufen das Retrieval-Tool nicht zuverlässig auf, wenn der Systemprompt die Nutzung nicht ausdrücklich vorschreibt, und beantworten Fragen stattdessen aus ihrem Trainingswissen. In der n8n-Community hat sich als Fix ein expliziter Systemprompt bewährt, der die Tool-Nutzung vor jeder Antwort erzwingt, Antworten ausschließlich auf Basis der Tool-Ergebnisse erlaubt und den Agenten anweist, Wissenslücken offen zu benennen statt zu improvisieren.
• Tool-Antwort wird vom Agenten verworfen: Selbst wenn der Retriever korrekt liefert, kann der Agent die Antwort ignorieren, wenn die Tool-Ausgabe stark strukturiert ist, etwa mit vielen Absätzen und Zeilenumbrüchen aus mehreren Dokumenten gleichzeitig. In solchen Fällen antwortet das Modell trotz vorhandener Treffer mit der Aussage, die Information liege nicht vor. Der Fix: Anzahl der zurückgegebenen Dokumente (Top-K) reduzieren und die Tool-Ausgabe im Retriever-Node kompakter formatieren, damit der Agent sie im Kontext eindeutig als Antwortgrundlage erkennt.

Wer eine solche Pipeline nicht nur reparieren, sondern von Grund auf sauber aufsetzen lassen möchte, findet in der KI-Agenten-Beratung von NordFlux einen Ansatz mit Festpreis und deutscher Datenhoheit als Grundprinzip.

Häufige Fragen zu RAG-Agenten in n8n

Warum ignoriert mein n8n-Agent den Vector Store komplett?

Meist fehlt eine klare Anweisung im Systemprompt, das Retrieval-Tool vor jeder Antwort zu nutzen. Kleinere Modelle leiten dieses Verhalten selten von selbst ab und greifen stattdessen auf ihr allgemeines Trainingswissen zurück, auch wenn ein passendes Tool verbunden ist.

Woran erkenne ich einen Embeddings-Mismatch?

Ein typisches Anzeichen ist, dass die Ähnlichkeitssuche durchgängig niedrige oder wahllose Trefferwerte liefert, obwohl die gesuchten Inhalte nachweislich im Index stehen. Prüfen Sie, ob Insert- und Retrieval-Workflow exakt denselben Embeddings-Node mit derselben Modellversion verwenden, siehe die n8n-Dokumentation zu Vector Stores.

Wie groß sollten Chunks für RAG in n8n sein?

Als Ausgangspunkt eignen sich meist 500 bis 1.000 Zeichen mit etwas Overlap zwischen den Chunks. Die passende Größe hängt jedoch von der Struktur der Quelldokumente ab und sollte anhand echter Testfragen justiert werden, nicht anhand einer festen Faustregel.

Muss ich nach einer Änderung des Embeddings-Modells neu indexieren?

Ja. Da unterschiedliche Embedding-Modelle unterschiedliche Vektorräume erzeugen, lassen sich alte und neue Vektoren nicht sinnvoll gemeinsam durchsuchen. Nach einem Modellwechsel sollte der gesamte Index neu aufgebaut werden, wie auch mehrere Threads in der n8n-Community bei ähnlichen Fehlerbildern bestätigen.