123
Apache Airflow

Apache Airflow

Airflow ist eine Plattform, mit der Datenpipelines programmiert, geplant und überwacht werden können.
Airflow ist eine Plattform zum programmatischen Erstellen, Planen und Überwachen von Datenpipelines.Verwenden Sie Airflow, um Workflows als gerichtete azyklische Diagramme (DAGs) von Aufgaben zu erstellen.Der Airflow-Planer führt Ihre Aufgaben auf einem Array von Arbeitnehmern aus, wobei die angegebenen Abhängigkeiten eingehalten werden.Umfangreiche Befehlszeilen-Dienstprogramme machen die Durchführung komplexer Operationen an DAGs zum Kinderspiel.Die umfangreiche Benutzeroberfläche erleichtert die Visualisierung von in der Produktion laufenden Pipelines, die Überwachung des Fortschritts und die Behebung von Problemen bei Bedarf.Dies ermöglicht das Schreiben von Code, der Pipelines dynamisch instanziiert.Erweiterbar: Definieren Sie mühelos Ihre eigenen Operatoren und Executoren und erweitern Sie die Bibliothek so, dass sie dem Abstraktionsgrad entspricht, der zu Ihrer Umgebung passt.Elegant: Airflow-Pipelines sind schlank und explizit.Die Parametrisierung Ihrer Skripte erfolgt im Kern von Airflow mithilfe der leistungsstarken Jinja-Templating-Engine.Skalierbar: Airflow ist modular aufgebaut und verwendet eine Nachrichtenwarteschlange, um eine beliebige Anzahl von Mitarbeitern zu orchestrieren.Der Luftstrom kann auf unendlich skaliert werden.

Apache Airflow-Alternativen für Self-Hosted