Wissensdatenbank · Automatisierung · Data-Orchestration

Dagster – asset-zentrierte Orchestrierung von Daten-Pipelines.

Dagster ist ein modernes, quelloffenes Python-Framework, das Daten-Pipelines nicht als bloße Abfolge von Aufgaben begreift, sondern als System aus Datenprodukten – den sogenannten Software-defined Assets. Damit dreht Dagster die klassische Sichtweise der Orchestrierung um: Nicht die Frage „Was soll ausgeführt werden?“ steht im Mittelpunkt, sondern „Welche Daten sollen entstehen?“. Das macht die Plattform für datengetriebene Teams besonders attraktiv – wirft aber eigene Fragen zu technischer Reife, Betrieb und Datenschutz auf.

19 Min. Lesezeit
Aktualisiert · Juli 2026
Fachartikel · Expertenbeitrag
Dagster
Dagster Labs · USA
Erstveröffentlichung
um 2018/2019
Kategorie
Data-Orchestrator
Betriebsmodell
Open Source + Cloud
Sprache
Python
Lizenz
Apache 2.0 (OSS)
Stärke
Software-defined Assets
INAGRO Eignung Mittelstand
Kapitel 01 · Überblick

Was ist Dagster – asset-zentrierte Orchestrierung

Dagster ist ein quelloffenes Framework zur Orchestrierung von Daten-Pipelines, das in Python geschrieben wird und mit einem eigenständigen Grundgedanken angetreten ist: Datenverarbeitung soll nicht als lose Kette von Rechenschritten organisiert werden, sondern rund um die Datenprodukte, die dabei entstehen. Diese Datenprodukte nennt Dagster <strong>Software-defined Assets</strong> – im Deutschen sinngemäß „im Code definierte Datenbestände“. Das klingt zunächst abstrakt, verändert aber die gesamte Art, wie Teams über ihre Datenflüsse nachdenken.

Die Kategorie, in die Dagster fällt, ist die der Daten-Orchestrierung (Data Orchestration). Ein Orchestrator ist die Instanz, die dafür sorgt, dass die vielen einzelnen Verarbeitungsschritte eines Datenflusses in der richtigen Reihenfolge, zur richtigen Zeit und mit den richtigen Abhängigkeiten ausgeführt werden. Er weiß, dass ein Bericht erst berechnet werden kann, wenn die zugrunde liegenden Rohdaten geladen und bereinigt wurden – und er sorgt dafür, dass genau das geschieht, überwacht die Ausführung und meldet Fehler.
Der Zusatz, mit dem sich Dagster vom Wettbewerb abgrenzt, lautet asset-zentriert. Wo ältere Orchestratoren primär Aufgaben und ihre zeitliche Abfolge verwalten, stellt Dagster die Frage nach dem Ergebnis in den Mittelpunkt: Welche Tabelle, welches Modell, welcher Datensatz soll am Ende bereitstehen – und woraus leitet er sich ab? Aus den deklarierten Abhängigkeiten zwischen diesen Assets baut Dagster automatisch einen nachvollziehbaren Graphen des gesamten Datenbestands eines Unternehmens.

Drei Eigenschaften, die Dagster definieren

  • Assets als erster Bürger – Im Zentrum steht nicht die Aufgabe, sondern das Datenprodukt. Ein Asset beschreibt, welcher Datenbestand entstehen soll und aus welchen anderen Assets er sich ableitet. Dagster kennt so jederzeit den vollständigen Abhängigkeitsgraphen und kann gezielt genau das neu berechnen, was tatsächlich veraltet ist.
  • Python und Entwickler-Werkzeuge im Kern – Dagster ist ein Framework, keine reine Klick-Oberfläche. Pipelines werden als Python-Code geschrieben, versioniert und getestet. Damit erbt Dagster die guten Praktiken der Softwareentwicklung: lokale Ausführung, automatisierte Tests, saubere Versionsverwaltung und klare Trennung von Umgebungen.
  • Beobachtbarkeit von Beginn an – Die mitgelieferte Dagster UI zeigt den Zustand aller Assets, ihre Abhängigkeiten, die letzten Läufe und aufgetretene Fehler. Datenqualität, Aktualität und Herkunft (Lineage) sind keine nachträglichen Zusätze, sondern in das Modell eingebaut.

Für wen ist Dagster gemacht?

Aus unserer Projektpraxis lässt sich die Zielgruppe klar umreißen. Dagster ist ideal für Unternehmen, in denen Daten eine geschäftskritische Rolle spielen und technisches Personal vorhanden ist – Data Engineers, Analytics-Teams, technisch versierte Entwicklerinnen. Überall dort, wo Datenflüsse über einfache Nachtläufe hinauswachsen, wo mehrere Quellen zusammenlaufen, wo Aktualität und Qualität der Daten zählen und wo Nachvollziehbarkeit gefragt ist, spielt Dagster seine Stärke aus.
Weniger geeignet ist Dagster für reine Fachabteilungen, die eine geführte, grafische Oberfläche zum Zusammenklicken einfacher Automatisierungen erwarten. Wer lediglich zwei Cloud-Dienste ohne Programmierung verbinden möchte, ist mit einem visuellen Automatisierungswerkzeug besser bedient. Dagster verlangt die Bereitschaft, Pipelines als Code zu schreiben und zu pflegen – und belohnt diese Bereitschaft mit einem Grad an Struktur und Kontrolle, den Klick-Werkzeuge nicht bieten.

Warum der asset-zentrierte Ansatz einen Unterschied macht

Der Kern der Sache lässt sich an einem typischen Projektmoment festmachen. In fast jedem gewachsenen Datenprojekt kommt der Punkt, an dem niemand mehr sicher sagen kann, woher eine bestimmte Zahl in einem Bericht eigentlich stammt, welche Verarbeitungsschritte sie durchlaufen hat und ob sie noch aktuell ist. Bei einem aufgabenzentrierten Orchestrator, der nur Skripte in einer bestimmten Reihenfolge startet, bleibt diese Frage oft im Dunkeln – die Abfolge der Aufgaben sagt wenig über die Herkunft der Daten aus.
Dagster kehrt die Perspektive um. Weil jedes Asset seine Herkunft und seine Abhängigkeiten explizit deklariert, entsteht automatisch eine Landkarte des gesamten Datenbestands. Man sieht auf einen Blick, welcher Bericht sich aus welchen Zwischentabellen und diese wiederum aus welchen Rohdaten speisen. Ändert sich eine Quelle, weiß Dagster genau, welche nachgelagerten Assets dadurch veraltet sind und neu berechnet werden müssen. Diese Transparenz ist kein Selbstzweck: Sie macht Datenflüsse wartbar, Fehler auffindbar und Verantwortlichkeiten klar. Genau das ist der Grund, warum viele datengetriebene Organisationen den asset-zentrierten Ansatz als Fortschritt gegenüber der klassischen Aufgaben-Orchestrierung empfinden.
INAGRO-Einschätzung

Dagster ist eines der wenigen Orchestrierungs-Werkzeuge, das den Fokus konsequent vom „Was läuft wann?“ auf das „Welche Daten entstehen und woher kommen sie?“ verschiebt. Wo Datenqualität, Nachvollziehbarkeit und Wartbarkeit zählen, ist dieser Ansatz ein echter Gewinn. Unsere Erfahrung ist aber auch: Dagster belohnt technische Reife und Datenkompetenz und bestraft ihr Fehlen. Ohne ein Team, das Python-Pipelines schreiben und betreiben kann, ist die Plattform überdimensioniert. Wer Dagster einführt, sollte deshalb von Beginn an ehrlich klären, ob Aufgabe und Kompetenz zur Plattform passen.

Kapitel 02 · Architektur & Positionierung

Architektur, Bausteine und Positionierung am Markt

Dagster ist mehr als ein einzelnes Werkzeug – es ist ein Framework mit mehreren zusammenwirkenden Bausteinen und zwei Betriebsvarianten. Wer die Plattform bewerten will, sollte diese Bausteine, ihre Rollen und die Unterscheidung zwischen dem quelloffenen Dagster OSS und dem gehosteten Dagster+ kennen.

Im Zentrum steht das quelloffene Framework Dagster OSS: die Bibliothek, mit der Assets, Ops, Jobs, Schedules und Sensors in Python definiert werden, sowie die mitgelieferte Dagster UI zur Beobachtung und Steuerung. Um diesen Kern herum bietet Dagster Labs mit Dagster+ (früher unter anderem Namen bekannt) ein gehostetes Cloud-Angebot, das denselben Open-Source-Kern nutzt, ihn aber um verwalteten Betrieb, Zusammenarbeit, Zugriffssteuerung und zusätzliche Funktionen ergänzt.
Assets
Kern

Software-defined Assets sind das Herzstück: im Code definierte Datenprodukte mit deklarierten Abhängigkeiten. Aus ihnen baut Dagster automatisch den Abhängigkeitsgraphen des gesamten Datenbestands.

DefiniertIn Python
AbhängigkeitDeklarativ
HerkunftLineage
NeuberechnungGezielt
Ops & Jobs
Ausführung

Ops sind einzelne Rechenschritte, Jobs bündeln sie (oder Assets) zu ausführbaren Einheiten. Sie bilden die klassische, aufgabenorientierte Ebene, die sich mit dem Asset-Modell kombinieren lässt.

OpRechenschritt
JobAusführbar
KombinierbarMit Assets
RolleAusführungsebene
Dagster UI
Beobachtung

Die mitgelieferte Weboberfläche zeigt den Asset-Graphen, den Zustand jedes Assets, vergangene Läufe, Zeitpläne und Fehler. Sie ist das Fenster in den laufenden Datenbetrieb.

AnsichtAsset-Graph
StatusPro Asset
LäufeProtokolliert
SteuerungManuell/Auto
Dagster+ / Cloud
Gehostet

Das gehostete Angebot von Dagster Labs auf Basis desselben Open-Source-Kerns. Es übernimmt Betrieb, Skalierung, Zusammenarbeit und Zugriffssteuerung und ergänzt zusätzliche Funktionen für Teams.

BetriebVerwaltet
BasisOSS-Kern
TeamRollen/Rechte
AnbieterDagster Labs

Assets, Ops und Jobs – das Zusammenspiel

Das Verhältnis der Bausteine lässt sich einfach fassen. Ops sind die kleinsten Rechenbausteine – einzelne Funktionen, die eine konkrete Verarbeitung durchführen. Jobs bündeln mehrere Ops oder Assets zu einer ausführbaren Einheit, die sich planen und starten lässt. Und Assets heben die Betrachtung auf die Ebene der Datenprodukte: Statt zu beschreiben, welche Schritte laufen, beschreibt man, welche Datenbestände existieren und wie sie voneinander abhängen.
Wichtig ist, dass diese Ebenen sich nicht ausschließen. Dagster erlaubt es, mit reinen Assets zu arbeiten, mit klassischen Ops und Jobs oder mit einer Kombination aus beidem. In der Praxis empfehlen wir für neue Datenprojekte den asset-zentrierten Weg, weil er die eingangs beschriebene Transparenz mitbringt. Ops und Jobs bleiben nützlich für Aufgaben, die sich nicht sinnvoll als Datenprodukt beschreiben lassen – etwa einen reinen Bereinigungsjob oder eine Wartungsroutine.

Wie sich Dagster im Markt positioniert

Dagster besetzt bewusst eine bestimmte Stelle im Markt der Daten-Werkzeuge. Auf der einen Seite stehen die etablierten, aufgabenzentrierten Orchestratoren wie Apache Airflow, die seit Jahren als Standard gelten, aber aus einer älteren Denkweise stammen. Auf der anderen Seite stehen reine Automatisierungs- und Integrationswerkzeuge, die für einfache App-zu-App-Verbindungen gedacht sind, aber keine echte Daten-Orchestrierung leisten. Dagster positioniert sich als moderner, entwicklerorientierter Orchestrator mit dem asset-zentrierten Modell als Alleinstellungsmerkmal.
Diese Positionierung erklärt, warum Dagster besonders bei Data-Engineering- und Analytics-Teams beliebt ist, die eine große Zahl voneinander abhängiger Datenprodukte verwalten. Für sie ist die Code-Nähe kein Hindernis, sondern ein Vorteil: Sie können gewohnte Software-Praktiken anwenden und gewinnen zugleich eine strukturierte Sicht auf ihre Datenlandschaft. Der Bereich Datenqualität, mit Prüfungen direkt an den Assets, erweitert diese Positionierung zusätzlich in Richtung Verlässlichkeit und Vertrauen in die Daten.

Betriebsmodell: Open Source und gehostete Cloud

Ein wichtiger Punkt der Einordnung: Dagster gibt es in zwei Betriebsvarianten. Das quelloffene Dagster OSS lässt sich vollständig selbst betreiben – auf eigenen Servern, in der eigenen Cloud oder in einer europäischen Umgebung. Der gesamte Kern ist offen einsehbar und unter einer permissiven Lizenz verfügbar. Daneben steht Dagster+, das gehostete Angebot des Anbieters, das den Betrieb abnimmt, dafür aber Daten und Steuerung auf der Infrastruktur des Anbieters verortet. Diese Unterscheidung ist für Unternehmen mit Souveränitäts- und Datenschutzanforderungen zentral – wir kommen darauf in Kapitel 07 und 09 ausführlich zurück.
Kapitel 03 · Funktionsumfang

Kernfähigkeiten: Assets, Schedules, Sensors & Datenqualität

Wer Dagster verstehen will, braucht nur eine Handvoll Begriffe – aber diese sitzen tiefer als bei reinen Klick-Werkzeugen. Die Plattform ist um wenige, klar benannte Konzepte herum aufgebaut, die zusammen ein sehr strukturiertes System ergeben. Hier die wichtigsten Bausteine im Detail.

Software-defined Assets
Grundeinheit

Ein Asset beschreibt ein Datenprodukt – etwa eine Tabelle oder ein Modell – samt der Anweisung, wie es erzeugt wird und aus welchen anderen Assets es sich ableitet. Aus vielen Assets entsteht der Abhängigkeitsgraph.

BeschreibtDatenprodukt
AbhängigkeitDeklariert
MaterialisierenAuf Bedarf
HerkunftNachvollziehbar
Schedules
Zeitplan

Zeitpläne starten Läufe in festen Intervallen – etwa jede Nacht oder jede Stunde. Sie sind die klassische Grundlage für regelmäßige Aktualisierungen von Datenbeständen.

AuslösungZeitbasiert
MusterCron-artig
ZielAssets/Jobs
SteuerungAn / Aus
Sensors
Ereignis

Sensors reagieren auf Ereignisse statt auf die Uhr: eine neue Datei, ein Zustand in einem anderen System, das Fertigwerden eines vorgelagerten Assets. So werden Läufe ereignisgesteuert ausgelöst.

AuslösungEreignisbasiert
PrüfungRegelmäßig
QuelleExtern/intern
ReaktionLauf starten
Asset Checks
Datenqualität

Datenqualitäts-Checks prüfen ein Asset auf definierte Eigenschaften – etwa fehlende Werte, Wertebereiche oder Vollständigkeit. Sie machen Qualität zu einem sichtbaren, überwachbaren Teil der Pipeline.

PrüftAsset-Qualität
BeispielNullwerte
ErgebnisBestanden/nicht
SichtbarIn der UI
Resources & I/O
Anbindung

Ressourcen kapseln Verbindungen zu Datenbanken, Speichern und Diensten; I/O-Manager regeln, wie Daten zwischen Schritten gelesen und geschrieben werden. Beides trennt Logik sauber von der Infrastruktur.

ResourceVerbindung
I/O-ManagerLesen/Schreiben
TrennungLogik/Infra
UmgebungKonfigurierbar
Partitions & Backfills
Skalierung

Assets lassen sich in Partitionen zerlegen – etwa nach Tag oder Region. Damit können einzelne Zeiträume gezielt neu berechnet (Backfill) werden, statt jeweils den gesamten Datenbestand.

Partitionz. B. pro Tag
BackfillGezielt
VorteilEffizienz
NutzungGroße Mengen

Wie ein Asset aufgebaut ist

Jedes Asset folgt demselben Grundmuster: Es beschreibt in Python, welcher Datenbestand entstehen soll, aus welchen anderen Assets er sich ableitet und wie er berechnet wird. Wenn Dagster ein Asset „materialisiert“, führt es diese Berechnung aus und legt das Ergebnis ab – wohin, regelt ein I/O-Manager. Entscheidend ist, dass die Abhängigkeiten explizit deklariert sind: Dagster weiß dadurch stets, welche Assets vor einem anderen fertig sein müssen, und kann die Reihenfolge selbst ableiten, ohne dass man sie mühsam von Hand verdrahtet.
Ein typisches Beispiel aus dem Berichtswesen: Ein Rohdaten-Asset lädt Verkaufszahlen aus einem Quellsystem. Ein zweites Asset bereinigt und vereinheitlicht diese Daten. Ein drittes aggregiert sie zu monatlichen Kennzahlen, ein viertes speist ein Dashboard. Ändert sich das Quellsystem, erkennt Dagster, dass alle nachgelagerten Assets veraltet sind, und kann sie in der richtigen Reihenfolge neu berechnen. Man beschreibt also nicht die Abfolge der Aufgaben, sondern die Struktur der Daten – und die Abfolge ergibt sich daraus von selbst.

Schedules und Sensors: geplant und ereignisgesteuert

Für die Auslösung von Läufen kennt Dagster zwei komplementäre Mechanismen. Schedules starten Läufe zeitgesteuert in festen Intervallen – die naheliegende Wahl für regelmäßige, planbare Aktualisierungen wie den nächtlichen Datenabgleich. Sensors dagegen reagieren auf Ereignisse: Sie prüfen regelmäßig, ob eine Bedingung erfüllt ist – etwa das Eintreffen einer neuen Datei oder ein bestimmter Zustand in einem anderen System – und lösen erst dann einen Lauf aus. In Projekten prüfen wir immer, welcher Mechanismus zur Anforderung passt: planbare Regelmäßigkeit über Schedules, unregelmäßige Ereignisse über Sensors. Beide lassen sich in derselben Pipeline kombinieren.

Datenqualität als eingebautes Konzept

Ein Merkmal, das Dagster von vielen älteren Orchestratoren unterscheidet, ist die enge Verzahnung mit dem Thema Datenqualität. Über Asset Checks lassen sich Prüfungen direkt an ein Asset binden – etwa die Kontrolle, ob eine Tabelle keine unerwarteten Lücken enthält, ob Werte in einem plausiblen Bereich liegen oder ob eine Mindestmenge an Datensätzen vorliegt. Die Ergebnisse dieser Prüfungen werden in der Dagster UI sichtbar und lassen sich in die Steuerung einbeziehen: Ein Lauf kann anhalten oder warnen, wenn die Qualität nicht stimmt.
Aus unserer Sicht ist das ein unterschätzter Vorteil. In vielen Datenprojekten fällt schlechte Qualität erst auf, wenn ein Bericht offensichtlich falsch ist – oft zu spät. Dagster verschiebt diese Kontrolle an den Ursprung: Qualität wird geprüft, sobald ein Datenprodukt entsteht, nicht erst am Ende der Kette. Wir empfehlen, für geschäftskritische Assets von Beginn an ein paar aussagekräftige Checks zu definieren – lieber wenige, klar verständliche Prüfungen als eine unübersichtliche Menge, die niemand mehr pflegt.
Praxis-Hinweis

Beginnen Sie mit dem Asset-Modell und ergänzen Sie Ops und Jobs nur dort, wo sie wirklich passen. Ein häufiger Fehler ist der umgekehrte Weg: Teams bauen zunächst klassische Aufgaben-Pipelines nach altem Muster und verschenken damit genau die Transparenz, für die Dagster gedacht ist. Wer von Anfang an in Datenprodukten denkt, erhält die Abhängigkeitskarte und die gezielte Neuberechnung praktisch geschenkt.

Kapitel 04 · KI- & Automatisierungs-Funktionen

Orchestrierung von Daten-, ML- und KI-Pipelines

Dagster ist kein KI-Werkzeug im Sinne einer Chat-Oberfläche, sondern ein Orchestrator – und genau deshalb im KI-Zeitalter besonders relevant. Denn jedes KI- und Machine-Learning-Vorhaben steht und fällt mit verlässlichen, aktuellen und nachvollziehbaren Datenflüssen. Dagster liefert das Fundament, auf dem solche Vorhaben produktiv laufen.

Die Rolle von Dagster im KI-Umfeld lässt sich in drei Bereiche gliedern: die Orchestrierung klassischer Daten-Pipelines, die das Rohmaterial für Analyse und KI bereitstellen; die Orchestrierung von Machine-Learning-Pipelines, also des Aufbereitens, Trainierens und Bereitstellens von Modellen; und die Einbindung von KI- und Sprachmodell-Schritten als Teil einer Pipeline. Allen gemeinsam ist, dass Dagster nicht die KI selbst liefert, sondern die verlässliche, wiederholbare Ausführung und Überwachung der Abläufe darum herum.

Daten-Pipelines als Fundament jeder KI

Der wichtigste Beitrag von Dagster zum Thema KI ist zugleich der unspektakulärste: verlässliche Datenflüsse. Ein Sprachmodell oder ein Analyse-Modell ist nur so gut wie die Daten, mit denen es arbeitet. Wer KI produktiv einsetzen will, braucht Pipelines, die Daten regelmäßig laden, bereinigen, zusammenführen und in der richtigen Form bereitstellen – und die dabei nachvollziehbar und überwacht bleiben. Genau das ist die Kernkompetenz von Dagster. Der asset-zentrierte Ansatz sorgt dafür, dass jederzeit klar ist, welche Daten in ein Modell eingeflossen sind und ob sie aktuell sind – eine Voraussetzung für vertrauenswürdige KI-Ergebnisse.

Machine-Learning-Pipelines orchestrieren

Über die reine Datenaufbereitung hinaus eignet sich Dagster, um komplette Machine-Learning-Abläufe zu orchestrieren. Die einzelnen Stufen eines ML-Vorhabens – Daten aufbereiten, Merkmale berechnen, Modell trainieren, Modell bewerten, Modell bereitstellen – lassen sich sauber als aufeinander aufbauende Assets modellieren. Das trainierte Modell wird dabei selbst zu einem Asset mit klarer Herkunft: Man sieht, aus welchen Daten und welchen Zwischenschritten es entstanden ist. Ändert sich die Datengrundlage, erkennt Dagster, dass das Modell neu trainiert werden sollte. Diese Nachvollziehbarkeit ist im ML-Bereich besonders wertvoll, weil sie eine der schwierigsten Fragen beantwortet: Auf welchem Datenstand basiert das Modell, das gerade produktiv Entscheidungen beeinflusst?

KI-Schritte als Teil einer Pipeline

Weil Dagster in Python geschrieben wird, lässt sich praktisch jede KI- oder Sprachmodell-Anbindung als Schritt in eine Pipeline einbauen – über die offiziellen Bibliotheken der jeweiligen Anbieter. Ein solcher Schritt kann etwa eingehende Texte klassifizieren, aus unstrukturierten Dokumenten Felder extrahieren, Inhalte zusammenfassen oder für ein KI-System aufbereitete Datenbestände (etwa für sogenannte Retrieval-Ansätze) erzeugen und aktuell halten. Der Vorteil gegenüber einem einzelnen, isolierten KI-Aufruf: Der Schritt ist eingebettet in einen überwachten, wiederholbaren und nachvollziehbaren Ablauf mit klaren Abhängigkeiten und Qualitätsprüfungen.
Aus unserer Sicht ist das der praxisnaheste KI-Bezug von Dagster: nicht die KI selbst, sondern die verlässliche Maschinerie darum herum. Wir prüfen in Projekten bei jedem geplanten KI-Schritt zwei Fragen: Erstens, ob die Aufgabe wirklich Sprach- oder Kontextverständnis erfordert oder ob eine einfache Regel genügt. Zweitens, welche Daten dabei an einen externen KI-Dienst übermittelt werden – ein Punkt, der datenschutzrechtlich gesondert zu bewerten ist. Gerade weil Dagster den Einbau solcher Schritte so einfach macht, ist ein nüchterner Blick wichtig, damit KI nicht aus Begeisterung an Stellen landet, an denen sie weder nötig noch verantwortbar ist.
INAGRO-Empfehlung zur KI-Nutzung

Dagster ist kein KI-Produkt, sondern das verlässliche Fundament, auf dem datengetriebene KI erst produktiv wird. Beachten Sie zwei Punkte: Erstens leben gute KI-Ergebnisse von guten Daten – investieren Sie zuerst in saubere, überwachte Daten-Pipelines, bevor Sie an ausgefeilte Modelle denken. Zweitens werden bei KI-Schritten Daten an den jeweiligen Modell-Anbieter übermittelt, sofern es sich nicht um ein selbst betriebenes Modell handelt – das ist datenschutzrechtlich gesondert zu bewerten (siehe Kapitel 09). Wir empfehlen, sensible Daten niemals ungeprüft an einen externen KI-Dienst weiterzugeben.

Kapitel 05 · Integrationen & Ökosystem

Das Ökosystem: dbt, Datenquellen & Python-Welt

Neben dem asset-zentrierten Ansatz ist das Ökosystem eine große Stärke von Dagster. Es setzt sich aus zwei Ebenen zusammen: den mitgelieferten Integrationen zu gängigen Daten-Werkzeugen, Datenbanken und Cloud-Diensten und dem praktisch unbegrenzten Zugriff auf die Python-Bibliothekswelt. Zusammen ergibt das eine Reichweite, die zu nahezu jeder modernen Datenlandschaft passt.

Auf der ersten Ebene bietet Dagster vorgefertigte Anbindungen an zahlreiche Bausteine eines typischen Datenstapels: Datenbanken und Data Warehouses, Objektspeicher in den großen Cloud-Umgebungen, Werkzeuge zum Laden von Daten und Bibliotheken zur Datenverarbeitung. Besonders hervorzuheben ist die enge Integration mit dbt, einem weit verbreiteten Werkzeug zur Transformation von Daten im Data Warehouse: dbt-Modelle lassen sich als Dagster-Assets abbilden, sodass sie nahtlos in den Abhängigkeitsgraphen und die Beobachtung einfließen. Für viele Analytics-Teams ist genau diese Kombination ein Hauptargument für Dagster.

Die zweite Ebene: die Python-Welt

Hier liegt eine grundlegende Stärke. Weil Dagster ein Python-Framework ist, steht innerhalb einer Pipeline die volle Python-Bibliothekswelt offen – von Bibliotheken zur Datenverarbeitung über Anbindungen an nahezu jede Datenbank oder Schnittstelle bis hin zu spezialisierten Werkzeugen für Machine Learning. Aufgaben, für die es keine fertige Integration gibt, lassen sich mit einer passenden Bibliothek oft in wenigen Zeilen lösen. Dagster erbt damit die enorme Reichweite des Python-Ökosystems, das im Bereich Datenverarbeitung ohnehin die Leitsprache ist.
Praktisch heißt das: Selbst wenn ein System nicht als fertige Integration vorliegt, ist es meist trotzdem erreichbar – über eine passende Python-Bibliothek oder einen direkten Schnittstellen-Aufruf im Code. Diese Kombination aus vorgefertigten Integrationen und offener Python-Basis macht Dagster außergewöhnlich anpassungsfähig und ist ein wesentlicher Grund, warum technische Datenteams es anderen Werkzeugen vorziehen.

Wenn ein System fehlt: eigener Code und Ressourcen

Selbst bei dieser Breite gibt es Systeme ohne fertige Integration – häufig branchenspezifische oder selbst entwickelte Anwendungen. Für diese Fälle bietet Dagster einen sauberen Weg: Man kapselt die Verbindung in einer Ressource und ruft sie aus dem Asset-Code auf. So bleibt die Anbindung an ein Fremdsystem an einer Stelle gebündelt, konfigurierbar und für alle Assets wiederverwendbar. Weil Dagster quelloffen ist, lassen sich zudem Verhalten und Integrationen bei Bedarf tief anpassen – das verlangt allerdings technisches Verständnis, ein Punkt, den wir vor jeder Empfehlung klar benennen.

Beobachtbarkeit und Herkunft über das gesamte Ökosystem

Ein besonderer Wert entsteht dadurch, dass Dagster die Herkunft der Daten über Werkzeuggrenzen hinweg sichtbar macht. Wenn dbt-Modelle, Ladeprozesse und eigene Python-Assets alle in demselben Abhängigkeitsgraphen erscheinen, sieht man den kompletten Weg der Daten – von der Quelle über die Transformation bis zum fertigen Bericht – an einer Stelle. Diese durchgängige Beobachtbarkeit unterscheidet Dagster von losen Zusammenstellungen einzelner Werkzeuge, bei denen jeder Baustein seine eigene, isolierte Sicht mitbringt. Für die Fehlersuche und für das Vertrauen in die Daten ist dieser Gesamtblick von hohem praktischem Wert.
Vorsicht: Abhängigkeiten im Blick behalten

Der Zugriff auf die gesamte Python-Welt ist ein Segen, birgt aber auch Risiken. Jede eingebundene Fremd-Bibliothek ist eine Abhängigkeit, die gepflegt und sicherheitstechnisch bewertet werden muss. Wir empfehlen, in produktiven Pipelines nur etablierte, aktiv gewartete Bibliotheken einzusetzen und die Umgebungen sauber zu versionieren. Ein unbedacht eingebundenes Paket kann sonst zum stillen Sicherheits- oder Stabilitätsrisiko werden – gerade weil es so bequem verfügbar ist.

Kapitel 06 · Abgrenzung

Dagster vs. Prefect, Apache Airflow & Temporal

Dagster ist nicht allein am Markt. Die wichtigsten Alternativen verfolgen unterschiedliche Philosophien – und genau diese Unterschiede entscheiden darüber, welches Werkzeug für welchen Anwendungsfall das richtige ist. Der zentrale Gegensatz lautet: asset-zentriert versus aufgabenzentriert – und Daten-Orchestrierung versus allgemeine Workflow-Steuerung. Hier die ehrliche Abgrenzung aus unserer Beratungspraxis.

Kriterium Dagster Prefect Apache Airflow Temporal
Grundansatz Asset-zentriert Aufgaben/Flows Aufgaben (DAGs) Durable Workflows
Schwerpunkt Daten-Pipelines Daten-Pipelines Daten-Pipelines App-Workflows
Sprache Python Python Python Mehrsprachig (SDKs)
Datenqualität eingebaut Asset Checks Teilweise Kaum nativ Kein Datenfokus
Herkunft / Lineage Zentral Begrenzt Über Zusätze Nicht der Fokus
Self-Hosting Ja (OSS) Ja (OSS) Ja (OSS) Ja (OSS)
Gehostetes Angebot Dagster+ Prefect Cloud Über Dritte/Cloud Temporal Cloud
Einstiegshürde Mittel–höher Mittel Höher Höher

Dagster versus Apache Airflow – der Generationenunterschied

Der aufschlussreichste Vergleich ist der mit Apache Airflow, dem langjährigen Standard der Daten-Orchestrierung. Airflow denkt in gerichteten Aufgabengraphen (DAGs): Man beschreibt, welche Aufgaben in welcher Reihenfolge laufen. Das ist bewährt und weit verbreitet, stammt aber aus einer Zeit, in der die Datenprodukte selbst nicht im Mittelpunkt standen. Dagster dreht die Perspektive um und stellt die Datenbestände in den Vordergrund. In der Praxis bedeutet das: Bei Airflow fragt man „Welche Aufgabe läuft wann?“, bei Dagster „Welche Daten sollen entstehen und woher kommen sie?“. Für neue, datengetriebene Projekte empfinden viele Teams den asset-zentrierten Ansatz als moderner und wartbarer; für bestehende Airflow-Landschaften mit großem Erfahrungsschatz kann der Wechsel dagegen wohlüberlegt sein wollen.

Wo Prefect als nächster Verwandter steht

Am nächsten kommt Dagster das Werkzeug Prefect. Beide sind moderne, Python-basierte Orchestratoren für Daten-Pipelines, beide lassen sich selbst hosten und bieten ein gehostetes Cloud-Angebot, beide richten sich an technische Datenteams. Der entscheidende Unterschied liegt in der Grundphilosophie: Prefect bleibt stärker im aufgaben- beziehungsweise Flow-orientierten Denken und gibt Entwicklern viel Freiheit in der Gestaltung, während Dagster das asset-zentrierte Modell mit eingebauter Datenqualität und Herkunft konsequent in den Mittelpunkt stellt. Vereinfacht: Prefect fühlt sich flexibler und schlanker an, Dagster strukturierter und stärker auf Datenprodukte ausgerichtet.

Wo Temporal eine andere Frage beantwortet

Temporal ist strenggenommen kein Daten-Orchestrator im selben Sinne, sondern eine Plattform für langlaufende, zuverlässige Workflows in Anwendungen – etwa mehrstufige Geschäftsprozesse, die über Stunden oder Tage laufen und garantiert korrekt zu Ende geführt werden müssen, auch bei Ausfällen. Der Schwerpunkt liegt auf der zuverlässigen Ausführung von Anwendungslogik, nicht auf der Verwaltung von Datenbeständen. Wo Dagster fragt „Sind meine Daten aktuell und korrekt entstanden?“, fragt Temporal „Wurde dieser Geschäftsprozess trotz aller Störungen zuverlässig abgeschlossen?“. Beide können sich in einer Architektur ergänzen, lösen aber unterschiedliche Probleme – wir sehen sie selten als direkte Konkurrenten.
In unseren Projekten formulieren wir die Faustregel gern so: Dagster für asset-zentrierte Daten-Pipelines mit hohem Anspruch an Qualität und Nachvollziehbarkeit, Prefect für flexible, Python-nahe Daten-Orchestrierung, Airflow bei vorhandener Landschaft und großem Erfahrungsschatz, Temporal für zuverlässige langlaufende Anwendungs-Workflows. Nicht selten ist die beste Lösung eine bewusste Kombination je nach Aufgabe.
Kein „besser“ oder „schlechter“

Die Werkzeuge sind keine Konkurrenten im Sinne von gut und schlecht, sondern Antworten auf unterschiedliche Fragen und Reifegrade. Die häufigste Fehlentscheidung, die wir sehen, ist nicht die Wahl des „falschen“ Werkzeugs, sondern der Griff zu einem mächtigen Orchestrator ohne den nötigen Datenreifegrad und ohne ein Team, das ihn betreiben kann – oder umgekehrt der Versuch, wachsende Datenlandschaften mit improvisierten Skripten zu bändigen. Eine ehrliche Analyse der Anwendungsfälle und der vorhandenen Kompetenzen steht deshalb vor jeder Werkzeug-Entscheidung.

Kapitel 07 · Einführung & Betrieb

Einführung und Betrieb: Self-Hosting vs. Cloud

Dagster gibt es als quelloffenes Framework zum Selbstbetrieb und als gehostetes Cloud-Angebot Dagster+. Diese Wahl ist eine der wichtigsten Weichenstellungen bei der Einführung und hat unmittelbare Folgen für Aufwand, Kontrolle und Datenschutz. Dieses Kapitel skizziert beide Wege und zeigt, wie eine saubere Einführung aussieht.

Beim Self-Hosting von Dagster OSS betreibt das Unternehmen die Plattform vollständig in eigener Verantwortung – auf eigenen Servern, in der eigenen Cloud oder in einer europäischen Umgebung. Der große Vorteil: volle Kontrolle über Infrastruktur, Daten und Betrieb; die Daten verlassen die eigene Umgebung nicht. Der Preis: Man muss die Plattform selbst aufsetzen, betreiben, aktualisieren und überwachen – das verlangt Betriebskompetenz und laufenden Aufwand.
Beim gehosteten Dagster+ übernimmt der Anbieter den Betrieb, die Skalierung und Teile der Verwaltung. Das beschleunigt den Start erheblich und entlastet das Team von Infrastrukturarbeit. Zugleich bedeutet es, dass Steuerung und Metadaten – und je nach Ausgestaltung auch bestimmte Datenzugriffe – über die Infrastruktur des Anbieters laufen. Für die Bewertung ist entscheidend, welche Daten tatsächlich wohin fließen; darauf gehen wir in Kapitel 09 ein.

Ein pragmatischer Einführungspfad

Aus unserer Projektpraxis hat sich ein schrittweises Vorgehen bewährt, das den technischen Charakter der Plattform berücksichtigt und trotzdem beherrschbar bleibt.
01
Daten- und Kompetenzanalyse
Zuerst klären wir, welche Datenflüsse wirklich Orchestrierung brauchen und ob im Team die nötige Kompetenz vorhanden ist, um Python-Pipelines zu bauen und zu betreiben. Dagster ohne Datenreife und technische Begleitung einzuführen, ist selten sinnvoll – diese Ehrlichkeit steht am Anfang.
02
Betriebsmodell wählen: OSS oder Dagster+
Anhand von Datenschutzanforderungen, vorhandener Betriebskompetenz und gewünschtem Tempo entscheiden wir gemeinsam zwischen Self-Hosting und gehosteter Cloud. Diese Weichenstellung prägt alle folgenden Schritte und sollte bewusst getroffen werden.
03
Pilot mit einem klar umrissenen Datenprodukt
Statt breit zu starten, modellieren wir einen ersten, gut abgegrenzten Datenfluss als Assets – idealerweise einen, der ein konkretes Ärgernis löst und dessen Nutzen sichtbar ist. So entsteht Erfahrung mit dem Asset-Modell, ohne Risiko für geschäftskritische Abläufe.
04
Konventionen, Qualität und Umgebungen etablieren
Bevor viele Assets entstehen, legen wir Namenskonventionen, aussagekräftige Datenqualitäts-Checks, saubere Trennung von Test- und Produktivumgebung und den Umgang mit Zugangsdaten fest. Diese Governance verhindert, dass aus nützlichen Pipelines eine unübersichtliche Landschaft wird.
05
Überwachung und Fehlerbehandlung
Produktive Pipelines brauchen ein Auge auf Läufen und Qualität: Benachrichtigungen bei Fehlläufen und fehlgeschlagenen Checks, sinnvolle Wiederholungslogik und regelmäßige Kontrolle über die Dagster UI. Erst mit dieser Betriebsdisziplin ist eine Orchestrierung wirklich verlässlich.

Was im laufenden Betrieb zählt

Nach dem Start verschiebt sich der Fokus vom Bauen auf das Betreiben. Zentrale Themen sind die Beobachtung der Läufe und der Datenqualität, das saubere Behandeln von Fehlern und das Aktuellhalten der eingesetzten Bibliotheken und der Plattform selbst. Weil Dagster jeden Lauf detailliert protokolliert und den Zustand jedes Assets sichtbar macht, ist die Fehlersuche vergleichsweise komfortabel – man sieht genau, welches Asset veraltet ist, welcher Check fehlgeschlagen ist und wo eine Kette unterbrochen wurde. Diese Nachvollziehbarkeit ist einer der großen Vorteile der Plattform und ein Grund, warum Datenteams gern mit ihr arbeiten.
Gleichzeitig gilt: Auch eine gute Plattform enthebt niemanden der Verantwortung für die eigene Logik. Ein Asset, das auf eine externe Quelle zugreift, muss mit deren Ausfall umgehen können; eine Pipeline, die eine Fremd-Bibliothek nutzt, bleibt von deren Pflege abhängig. Beim Self-Hosting kommt die Verantwortung für Verfügbarkeit, Aktualisierung und Sicherung der Plattform hinzu. Wir empfehlen, für geschäftskritische Pipelines von Beginn an festzulegen, wer im Fehlerfall verantwortlich ist und wie schnell reagiert werden muss.
Kapitel 08 · Praxis

Einsatz im deutschen Mittelstand

Hier die Szenarien, in denen INAGRO Dagster in Kundenprojekten am sinnvollsten eingesetzt sieht – jeweils dort, wo Datenflüsse über einfache Nachtläufe hinauswachsen. Allen gemeinsam: Sie überschreiten den Punkt, an dem improvisierte Skripte und einfache Klick-Werkzeuge an Grenzen stoßen.

Zentrale Datenaufbereitung

Daten aus mehreren Quellsystemen werden regelmäßig geladen, bereinigt, zusammengeführt und als saubere Datenbestände bereitgestellt. Der Asset-Graph macht jederzeit sichtbar, woher jede Kennzahl stammt.

Eine verlässliche Datenbasis
Analytics mit dbt

dbt-Transformationen werden als Dagster-Assets orchestriert und überwacht. Analytics-Teams erhalten Herkunft, Zeitpläne und Datenqualität für ihre Modelle an einer Stelle, statt sie einzeln zu verwalten.

dbt sauber orchestriert
Automatisiertes Reporting

Ein Zeitplan startet regelmäßig eine Pipeline, die Daten zusammenführt, prüft und als Bericht oder Dashboard bereitstellt. Wiederkehrende Auswertungen laufen verlässlich und ohne Handarbeit.

Reporting ohne manuellen Aufwand
Datenqualität überwachen

Asset Checks prüfen fortlaufend, ob wichtige Datenbestände vollständig und plausibel sind. Fehler fallen am Ursprung auf, nicht erst im falschen Bericht – ein Gewinn an Vertrauen in die Zahlen.

Qualität am Ursprung
ML- und KI-Pipelines

Vom Aufbereiten der Trainingsdaten bis zum bereitgestellten Modell werden Machine-Learning-Abläufe als aufeinander aufbauende Assets orchestriert – mit klarer Herkunft und Nachvollziehbarkeit.

KI auf verlässlicher Basis
Ereignisgesteuerte Verarbeitung

Sensors lösen Läufe aus, sobald neue Dateien oder Daten eintreffen. So werden Datenbestände nicht nur nach Zeitplan, sondern genau dann aktualisiert, wenn tatsächlich neue Informationen vorliegen.

Aktualität nach Bedarf

Was diese Szenarien gemeinsam haben

Auffällig ist ein Muster: Dagster glänzt dort, wo viele voneinander abhängige Datenprodukte zuverlässig, nachvollziehbar und in hoher Qualität entstehen sollen. Sobald ein Datenfluss über ein einzelnes Skript hinauswächst und mehrere Quellen, Transformationen und Ziele umfasst, spielt die Plattform ihre Stärke aus. Der Mehrwert entsteht weniger durch Bedienkomfort als durch Struktur, Transparenz und die gezielte Neuberechnung genau dessen, was veraltet ist.
Wichtig für die Erwartungshaltung: Der Nutzen realisiert sich nur, wenn die nötige technische Kompetenz und ein gewisser Datenreifegrad vorhanden sind. Ein schlecht durchdachter Datenprozess wird durch Orchestrierung nicht besser – nur schneller falsch. Und eine Pipeline voller ungewarteter Sonderlösungen ist kein Fortschritt, sondern eine spätere Belastung. Deshalb steht in unseren Projekten immer die ehrliche Frage nach Daten und Kompetenz vor dem Bau des ersten Assets.

Vom Einzel-Asset zur Datenplattform

Ein typischer Verlauf: Es beginnt mit einer einzelnen Pipeline, die ein konkretes Problem löst – etwa einen bislang manuellen Datenabgleich. Schnell folgen weitere Assets, weil der Nutzen sichtbar wird und die Abhängigkeitskarte zum Wachsen einlädt. Nach einigen Monaten existiert eine ganze Datenlandschaft mit Dutzenden Assets. Genau an diesem Punkt entscheidet sich, ob die Orchestrierung zum Vorteil oder zur Belastung wird. Bei Dagster wiegt dieser Punkt vergleichsweise günstig, weil der Asset-Graph die Landschaft ohnehin sichtbar hält – vorausgesetzt, man hat von Anfang an auf Konventionen und Qualität geachtet.
Wir empfehlen daher, schon beim zweiten oder dritten Asset eine einfache Ordnung anzulegen: klare Namen, sinnvolle Gruppierung, ein paar aussagekräftige Datenqualitäts-Checks und die Klärung, wer welche Assets verantwortet. Diese schlanke Disziplin kostet wenig Aufwand, zahlt sich bei Dagster aber besonders aus – sie ist die Grundlage, um die wachsende Datenlandschaft dauerhaft beherrschbar und vertrauenswürdig zu halten.
Stärken
  • Asset-zentriertes Modell mit voller Herkunft/Lineage
  • Datenqualität über Asset Checks eingebaut
  • Gezielte Neuberechnung nur veralteter Assets
  • Quelloffen und selbst hostbar (Apache-2.0-Kern)
  • Python als Sprache – volle Bibliothekswelt nutzbar
  • Enge dbt-Integration für Analytics-Teams
  • Mächtige Dagster UI zur Beobachtung
  • Schedules und Sensors für Zeit- und Ereignissteuerung
  • Gute Software-Praktiken: Tests, Versionen, Umgebungen
  • Wahlfreiheit zwischen OSS und gehostetem Dagster+
Einschränkungen
  • Höhere Einstiegshürde – Python-Kenntnisse nötig
  • Für einfache App-zu-App-Automatisierung überdimensioniert
  • Self-Hosting verlangt Betriebskompetenz und Aufwand
  • Dagster+ ist ein US-Anbieter – Datentransfer bewerten
  • Pipelines als Code müssen gewartet werden
  • Fremd-Bibliotheken als Sicherheits- und Stabilitätsrisiko
  • Ohne Datenreife und technisches Team schwer zu betreiben
  • Konzepte (Assets, Ops, Jobs) brauchen Einarbeitung
  • Wechsel von bestehendem Airflow will überlegt sein
  • Governance bei wachsender Landschaft wichtig
Kapitel 09 · Kosten & Datenschutz

Kosten, DSGVO und Datenhoheit

Zwei Themen entscheiden häufig über die Werkzeugwahl: die Kostenlogik und der Datenschutz. Bei Dagster sind beide eng mit der Wahl zwischen dem quelloffenen Self-Hosting und dem gehosteten Dagster+ verknüpft. Dieses Kapitel ordnet beides nüchtern ein – ohne konkrete Preiszahlen, die ohnehin schnell veralten.

Zur Kostenlogik zuerst: Der Kern von Dagster ist quelloffen und kostenlos. Wer Dagster OSS selbst betreibt, zahlt keine Lizenzgebühren an den Anbieter – die Kosten entstehen stattdessen für die eigene Infrastruktur und für den Betriebsaufwand des Teams. Das gehostete Dagster+ wird dagegen als kostenpflichtiges Angebot abgerechnet, typischerweise gestaffelt nach Umfang, Nutzung und Funktionsbedarf. Konkrete Preise nennen wir hier bewusst nicht, weil der Anbieter Pläne, Kontingente und Konditionen regelmäßig anpasst. Entscheidend ist das Verständnis der Logik dahinter – die bleibt stabiler als jede Zahl.
Dagster OSS
Kostenlos · Open Source
Quelloffener Kern zum vollständigen Selbstbetrieb
  • Keine Lizenzgebühr; Kosten entstehen für eigene Infrastruktur und Betrieb. Volle Kontrolle und Datenhoheit, dafür eigener Betriebsaufwand.
Dagster+ Einstieg
Nutzungsbasiert · gestaffelt
Gehosteter Betrieb für kleinere Teams
  • Der Anbieter übernimmt Betrieb und Skalierung. Für Teams, die schnell starten und sich nicht um Infrastruktur kümmern wollen.
Dagster+ Pro
Höheres Paket · gestaffelt
Mehr Durchsatz, Zusammenarbeit, erweiterte Funktionen
  • Für den produktiven Einsatz mit größeren Teams, höherem Volumen und Bedarf an Rollen und erweiterter Steuerung.
Enterprise
Individuell · auf Anfrage
Governance, Sicherheit, individuelle Konditionen
  • Für Organisationen mit hohen Anforderungen an Sicherheit, Verwaltung und Support. Konditionen und Möglichkeiten beim Anbieter prüfen.

Wie die Kosten entstehen

Der wichtigste Mechanismus: Beim Self-Hosting skalieren die Kosten mit dem Infrastruktur- und Betriebsaufwand – also mit der Rechenleistung, dem Speicher und vor allem der Arbeitszeit, die das Betreiben der Plattform bindet. Bei Dagster+ skalieren die Kosten mit der Nutzung und dem Funktionsumfang nach dem Modell des Anbieters. Für den Mittelstand heißt das: Self-Hosting kann bei vorhandener Betriebskompetenz günstig sein, verlagert die Kosten aber auf die eigene Mannschaft; Dagster+ macht die Kosten planbarer und den Start schneller, bindet dafür an einen externen Anbieter. Wir erstellen in Projekten standardmäßig eine ehrliche Gegenüberstellung beider Wege – inklusive der oft unterschätzten Betriebskosten des Self-Hostings – bevor eine Entscheidung fällt.
Keine Rechtsberatung

Dieser Abschnitt liefert eine allgemeine Orientierung aus technischer und organisatorischer Sicht und stellt keine Rechtsberatung dar. Die konkrete datenschutzrechtliche Bewertung für Ihr Unternehmen kann nur Ihre Datenschutzbeauftragte oder eine fachkundige juristische Beratung vornehmen. Ziehen Sie für verbindliche Aussagen stets qualifizierten Rat hinzu.

Datenschutzrechtlich ist der zentrale Ausgangspunkt die Wahl des Betriebsmodells. Beim Self-Hosting von Dagster OSS bleiben die verarbeiteten Daten in der eigenen Infrastruktur – man kann die Plattform bewusst in einer europäischen Umgebung betreiben und behält die volle Kontrolle über die Datenflüsse. Das ist ein struktureller Vorteil und macht Dagster für Unternehmen mit hohen Souveränitätsanforderungen attraktiv. Beim gehosteten Dagster+ hingegen ist zu beachten, dass Dagster Labs ein US-amerikanischer Anbieter ist; hier fließen zumindest Steuerungs- und Metadaten und je nach Ausgestaltung weitere Daten über die Infrastruktur des Anbieters. Wo personenbezogene Daten verarbeitet werden, gelten die entsprechenden Anforderungen der DSGVO.
Die wichtigsten Prüfpunkte

Wer Dagster datenschutzkonform einsetzen will, sollte die folgenden Punkte systematisch klären – idealerweise gemeinsam mit der Datenschutzbeauftragten, bevor produktive Pipelines mit personenbezogenen Daten laufen:

Betriebsmodell wählen
Self-Hosting (OSS) für maximale Datenhoheit oder Dagster+ für verwalteten Betrieb – die Entscheidung bewusst und dokumentiert treffen
AVV bei Dagster+
Bei Nutzung der Cloud Auftragsverarbeitungsvertrag prüfen und abschließen, bevor personenbezogene Daten verarbeitet werden
US-Datentransfer
Bei Dagster+ Übermittlung in die USA und die rechtliche Grundlage bewerten – Restrisiko wie bei allen US-Cloud-Diensten
Serverstandort / EU-Region
Beim Anbieter klären, ob eine Verarbeitung in einer EU-Region möglich ist und welche Daten tatsächlich dort verbleiben
Datenflüsse kartieren
Welche Daten fließen durch welches Asset, welche Quellen, Bibliotheken und Ziele? Lückenlos dokumentieren
KI-Schritte gesondert
Bei angebundenen KI-Diensten zusätzlich klären, welche Daten an den Modell-Anbieter gehen und wie sie dort behandelt werden

Der Vorteil der Datenhoheit beim Self-Hosting

Ein struktureller Pluspunkt von Dagster ist, dass der quelloffene Kern ein vollständiges Selbst-Hosting erlaubt. Anders als bei reinen SaaS-Angeboten gibt es damit einen echten Ausweg für Unternehmen, die ihre Daten nicht in fremde Hände geben wollen oder dürfen: Die gesamte Orchestrierung läuft in der eigenen Infrastruktur, die verarbeiteten Daten verlassen diese nicht. Für Berufsgeheimnisträger, für besonders schützenswerte Datenkategorien und für Organisationen mit hohen Souveränitätsanforderungen ist das ein gewichtiges Argument. Der Preis dieser Freiheit ist der Betriebsaufwand – die datenschutzrechtliche Bewertung wird dafür in vielen Fällen deutlich einfacher.

Datenflüsse verstehen – auch bei einem Orchestrator

Eine wichtige Beobachtung für Orchestrierungs-Werkzeuge: Ein guter Teil der eigentlichen Daten bleibt oft dort, wo er ohnehin liegt – in der eigenen Datenbank, im eigenen Data Warehouse, im eigenen Speicher. Dagster koordiniert die Verarbeitung, muss aber nicht zwangsläufig alle Nutzdaten durch sich selbst hindurchleiten; häufig bewegt es Daten innerhalb der eigenen Infrastruktur oder gibt nur Anweisungen an die beteiligten Systeme. Diese Eigenschaft kann die datenschutzrechtliche Bewertung erleichtern, muss aber im Einzelfall geprüft werden – gerade bei Dagster+ ist zu klären, welche Daten und Metadaten tatsächlich beim Anbieter landen. Wir kartieren in Projekten daher für jedes produktive Asset den kompletten Datenfluss, ausdrücklich einschließlich der in Code-Schritten aufgerufenen Dienste.

Souveränität als Entscheidungstreiber

Wenn Datenhoheit und Souveränität im Vordergrund stehen, ist die Wahl klar: Dagster OSS im Self-Hosting, idealerweise in einer europäischen Umgebung, hält die Daten vollständig unter eigener Kontrolle. Wenn hingegen Tempo, Entlastung des Teams und planbare Kosten wichtiger sind und die Datenlage es zulässt, kann Dagster+ die pragmatischere Wahl sein – dann aber mit sauberer vertraglicher Grundlage und geklärtem Serverstandort. Die Entscheidung ist letztlich eine Abwägung zwischen der Bequemlichkeit der gemanagten Cloud und der Kontrolle über die eigenen Daten – und sollte bewusst und gemeinsam mit der Datenschutzbeauftragten getroffen werden.
Kapitel 10 · Häufige Fragen

Häufig gestellte Fragen zu Dagster

Diese Fragen tauchen in unseren Beratungs­gesprächen am häufigsten auf – kurz und sachlich beantwortet.

Was ist Dagster in einem Satz?
Dagster ist ein quelloffenes Python-Framework zur Orchestrierung von Daten-Pipelines, das den Datenbestand selbst in den Mittelpunkt stellt: Statt nur Aufgaben in einer Reihenfolge zu starten, beschreibt man Datenprodukte – die Software-defined Assets – mit ihren Abhängigkeiten, woraus Dagster automatisch einen nachvollziehbaren Graphen des gesamten Datenbestands baut, ihn aktuell hält und seine Qualität überwacht.
Was bedeutet „asset-zentriert“ konkret?
Es bedeutet, dass nicht die Aufgabe, sondern das Datenprodukt der Ausgangspunkt ist. Man beschreibt, welche Tabelle, welches Modell oder welcher Datensatz entstehen soll und woraus er sich ableitet. Dagster kennt dadurch jederzeit die Herkunft und die Abhängigkeiten jedes Datenbestands und kann gezielt genau das neu berechnen, was tatsächlich veraltet ist – statt blind alle Aufgaben erneut auszuführen.
Brauche ich Programmierkenntnisse für Dagster?
Ja. Dagster ist ein Framework, in dem Pipelines als Python-Code geschrieben werden. Ohne technisches Wissen in Python und ohne ein Team, das Daten-Pipelines bauen und betreiben kann, ist die Plattform kaum sinnvoll produktiv zu nutzen. Für reine Fachabteilungen, die zwei Cloud-Dienste ohne Programmierung verbinden wollen, ist ein visuelles Automatisierungswerkzeug die bessere Wahl. Dagster richtet sich an technische Datenteams.
Wie unterscheidet sich Dagster von Apache Airflow, Prefect und Temporal?
Apache Airflow ist der etablierte, aufgabenzentrierte Standard; Dagster stellt dagegen die Datenprodukte in den Mittelpunkt und bringt Herkunft und Datenqualität eingebaut mit. Prefect ist der nächste Verwandte – ebenfalls ein moderner Python-Orchestrator, aber stärker aufgaben- beziehungsweise Flow-orientiert. Temporal löst eine andere Frage: die zuverlässige Ausführung langlaufender Anwendungs-Workflows, weniger die Verwaltung von Datenbeständen. Häufig ergänzen sich die Werkzeuge je nach Aufgabe.
Kann ich Dagster selbst hosten?
Ja. Der Kern, Dagster OSS, ist quelloffen unter einer permissiven Lizenz und lässt sich vollständig selbst betreiben – auf eigenen Servern, in der eigenen Cloud oder in einer europäischen Umgebung. Die verarbeiteten Daten bleiben dann in der eigenen Infrastruktur. Daneben gibt es mit Dagster+ ein gehostetes Angebot des Anbieters, das den Betrieb abnimmt. Die Wahl zwischen beiden ist vor allem eine Abwägung zwischen Datenhoheit und Betriebsaufwand.
Was sind Software-defined Assets?
Software-defined Assets sind das Kernkonzept von Dagster: im Code definierte Datenprodukte – etwa eine Tabelle, ein Bericht oder ein Modell – samt der Anweisung, wie sie erzeugt werden und aus welchen anderen Assets sie sich ableiten. Aus diesen Deklarationen baut Dagster den Abhängigkeitsgraphen des gesamten Datenbestands, kennt die Herkunft jedes Produkts und kann gezielt neu berechnen, was veraltet ist. Das ist der wesentliche Unterschied zu rein aufgabenorientierten Orchestratoren.
Wie hilft Dagster bei KI- und Machine-Learning-Projekten?
Dagster liefert nicht die KI selbst, sondern das verlässliche Fundament: saubere, aktuelle und nachvollziehbare Datenflüsse, ohne die kein Modell gute Ergebnisse liefert. Komplette ML-Abläufe – Daten aufbereiten, Merkmale berechnen, trainieren, bewerten, bereitstellen – lassen sich als aufeinander aufbauende Assets orchestrieren, sodass das Modell selbst zu einem Asset mit klarer Herkunft wird. Auch einzelne KI-Schritte lassen sich als überwachter Teil einer Pipeline einbauen.
Wie steht es um den Datenschutz bei Dagster?
Das hängt stark vom Betriebsmodell ab. Dagster OSS im Self-Hosting hält die verarbeiteten Daten in der eigenen Infrastruktur – ein Vorteil für Datenhoheit und DSGVO-Konformität, insbesondere in einer europäischen Umgebung. Dagster+ ist ein Angebot des US-amerikanischen Anbieters; hier sind Auftragsverarbeitungsvertrag, US-Datentransfer, Serverstandort und die Datenflüsse gesondert zu bewerten. Bitte beachten: Das ist eine allgemeine Orientierung und keine Rechtsberatung – ziehen Sie für verbindliche Aussagen Ihre Datenschutzbeauftragte hinzu.
Wie werden die Kosten bei Dagster berechnet?
Der quelloffene Kern Dagster OSS ist kostenlos; Kosten entstehen hier für die eigene Infrastruktur und den Betriebsaufwand. Das gehostete Dagster+ wird als kostenpflichtiges Angebot gestaffelt nach Umfang und Nutzung abgerechnet. Konkrete Preise nennen wir bewusst nicht, da der Anbieter sie regelmäßig anpasst; sie sollten direkt beim Anbieter geprüft werden. In Projekten stellen wir Self-Hosting und Cloud ehrlich gegenüber – inklusive der oft unterschätzten Betriebskosten des Selbstbetriebs.
Was kostet eine Dagster-Einführung mit INAGRO?
Das hängt vom Umfang ab. Eine fokussierte Einführung mit Daten- und Kompetenzanalyse, Wahl des Betriebsmodells, Aufbau der wichtigsten Assets, Datenqualitäts-Checks, Datenschutz-Check und Wissenstransfer an Ihr Team ist deutlich schlanker als ein umfassender Aufbau einer kompletten Datenplattform. Statt einer pauschalen Zahl machen wir Ihnen nach einem Erstgespräch ein konkretes, transparentes Angebot – inklusive einer ehrlichen Einschätzung, ob Dagster für Ihren Anwendungsfall das passende Werkzeug ist oder ob eine Alternative besser passt.

Datenorchestrierung strategisch angehen

Bereit, Ihre Datenflüsse durch kluge Orchestrierung zu strukturieren?

Von der Datenanalyse über die Wahl des Betriebsmodells bis zum produktiven Betrieb – INAGRO begleitet Sie auf jedem Schritt. Mit ehrlicher Beratung, klarem Erwartungsmanagement bei Kosten und Datenschutz und der Erfahrung, wann Dagster passt und wann eine Alternative besser ist. Pragmatisch, strukturiert und mit messbarem Ergebnis.

Seit 2006 am Markt

Erfahrung aus über 100 Digitalprojekten

DSGVO & Souveränität

Datenschutz von Anfang an mitgedacht

Rückmeldung in 24 h

Schnell, direkt, unverbindlich