AI Starter Kit: Ollama + Qdrant + n8n als Docker-Stack

Wer lokale KI-Workflows aufbauen möchte, ohne Daten an Cloud-Anbieter zu schicken, findet im Self-hosted AI Starter Kit von n8n eine fertige Docker-Compose-Vorlage. Sie startet n8n als Workflow-Orchestrierung, Ollama für lokale Sprachmodelle, Qdrant als Vektordatenbank und PostgreSQL als Datenspeicher mit einem einzigen Befehl. In der offiziellen n8n-Dokumentation wird das Kit als kuratierte Zusammenstellung von KI-Elementen beschrieben, mit denen sich KI-Workflows schnell aufbauen lassen, das vollständige Setup liegt im GitHub-Repository n8n-io/self-hosted-ai-starter-kit. Dort heißt es, das Kit sei ausdrücklich als Ausgangspunkt gedacht und nicht als produktionsreife Lösung. Stand: Juli 2026.

Die vier Bausteine des Stacks

Der Stack kombiniert vier Container, die jeweils eine klar abgegrenzte Aufgabe übernehmen. Laut der README des Repositorys sind das im Einzelnen:

• n8n: die Low-Code-Plattform mit über 400 Integrationen und eigenen Komponenten für KI-Agenten, sie orchestriert die Workflows und verbindet die anderen Dienste miteinander.
• Ollama: eine plattformübergreifende Umgebung, um aktuelle lokale Sprachmodelle zu installieren und auszuführen, ohne dass Anfragen das eigene Netzwerk verlassen.
• Qdrant: eine Open-Source-Vektordatenbank mit performanter API, die Embeddings speichert und für semantische Suche sowie Retrieval-Augmented-Generation-Workflows genutzt wird.
• PostgreSQL: übernimmt die persistente Datenhaltung, unter anderem für n8n selbst und die Workflow-Historie.

GPU-Profile: Nvidia, AMD oder reine CPU

Der Stack lässt sich über Docker-Compose-Profile an die vorhandene Hardware anpassen. Für Nvidia-Grafikkarten startet der Befehl docker compose --profile gpu-nvidia up den Stack mit GPU-Beschleunigung, unter Linux funktioniert das analog für AMD-Karten über das Profil gpu-amd. Ohne dedizierte GPU läuft der Stack auch im CPU-Profil, dann übernimmt der Prozessor die Modellberechnung, was bei größeren Modellen spürbar länger dauert. Auf dem Mac lässt sich die GPU nicht direkt an Docker durchreichen, hier empfiehlt die Dokumentation, Ollama lokal auf dem Host-System zu betreiben und n8n regulär per docker compose up zu starten.

Installation in wenigen Schritten

Der Einstieg folgt dem üblichen Docker-Compose-Muster: Repository von GitHub klonen, die Datei .env.example zu .env kopieren und darin Secrets sowie Passwörter anpassen, anschließend den passenden Profil-Befehl ausführen. Nach dem Start ist n8n unter http://localhost:5678/ erreichbar, wo einmalig ein Benutzerkonto eingerichtet wird. Das Kit liefert einen mitgelieferten Beispiel-Workflow, der sich direkt über den Chat-Button testen lässt. Für den Datenaustausch zwischen Workflows und dem lokalen Dateisystem ist zusätzlich ein gemeinsamer Ordner unter /data/shared in die Container eingebunden. Wer den Stack aktuell hält, nutzt für Upgrades die entsprechenden pull- und create-Befehle vor dem erneuten Start mit dem jeweiligen Profil.

Wofür sich der Stack eignet, und wo lokale Modelle an Grenzen stoßen

Als Beispiel-Workflows nennt das Repository unter anderem KI-Agenten für Terminplanung, die Zusammenfassung von PDF-Dokumenten, die Erweiterung von Slack-Bots sowie die Analyse von Finanzdokumenten, dazu Vorlagen für Steuerthemen und Dokumentenauswertung mit Qdrant und einem Mistral-Modell. Der gemeinsame Nenner: sensible Unterlagen wie Rechnungen, Verträge oder Kundendaten verlassen die eigene Infrastruktur nicht. Das ist der zentrale Vorteil gegenüber Cloud-APIs. Ehrlich betrachtet sind lokale Modelle, die auf handelsüblicher Hardware laufen, in Antwortgeschwindigkeit und Argumentationsqualität aktuell noch spürbar hinter großen Cloud-Modellen zurück, besonders bei komplexen mehrstufigen Aufgaben. Für klar abgegrenzte Aufgaben wie Klassifizierung, Zusammenfassung oder einfache Extraktion reicht die Leistung aber oft aus, gerade wenn Datenschutz und Kontrolle über die Infrastruktur wichtiger sind als maximale Modellqualität. Für Unternehmen, die eine solche Architektur produktiv und abgesichert einsetzen wollen, lohnt sich meist eine Einordnung, welche Anwendungsfälle sich für KI-Agenten auf eigener Infrastruktur eignen und wo eine hybride Lösung sinnvoller ist. NordFlux unterstützt bei der Auswahl und Einrichtung solcher Stacks im Rahmen von Automatisierungsprojekten.

Häufige Fragen zu n8n AI Starter Kit, Ollama und Qdrant

Ist das Self-hosted AI Starter Kit für den Produktivbetrieb geeignet?

Laut der offiziellen n8n-Dokumentation ausdrücklich nicht ohne weitere Arbeit: Das Kit ist "nicht vollständig für Produktivumgebungen optimiert" und sollte vor einem produktiven Einsatz angepasst, gesichert und gehärtet werden.

Brauche ich zwingend eine Grafikkarte, um den Stack zu betreiben?

Nein. Es gibt ein eigenes CPU-Profil, mit dem der Stack auch ohne GPU läuft, allerdings dauert die Modellberechnung dann länger. Nvidia- und AMD-Grafikkarten beschleunigen Ollama über die jeweiligen GPU-Profile, auf dem Mac wird Ollama stattdessen direkt auf dem Host betrieben.

Welche Lizenz hat das Self-hosted AI Starter Kit?

Das Repository steht unter der Apache License 2.0, die vollständigen Bedingungen finden sich in der LICENSE-Datei des GitHub-Repositorys.

Kann ich eigene n8n-Workflows in den Stack einbinden?

Ja. Das Docker-Compose-Setup dient als Grundgerüst, auf dem eigene Workflows, zusätzliche Integrationen und angepasste Modelle aufgebaut werden können, der mitgelieferte Beispiel-Workflow zeigt dabei nur den grundsätzlichen Aufbau.