Apache Airflow. Einführung, Komponenten und Einsatz in der Praxis

Hausarbeit , 2022 , 23 Seiten , Note: 1,4

Informatik - Programmierung

In vielen modernen IT-Systemen und Anwendungen gibt es festgelegte und wiederholte Tasks, die häufig auch in einer gleichbleibenden Reihenfolge oder mit verschiedenen Abhängigkeiten zwischen den Tasks durchgeführt werden. Dabei kann es ggf. zu Problemen in der Datenkonsistenz oder Bearbeitungszeit kommen, wenn diese Tasks und Rechenschritte nicht organisiert und strukturiert werden. Insofern ist die Betrachtung von Softwaretools zur Ausgestaltung und zum Management von festgelegten (Arbeits-) Prozessen, den sogenannten Workflows sinnvoll, die den Ablauf der Prozesse verbessern, Fehler bei der Datenverarbeitung minimieren und die Datenkonsistenz erhöhen.

Ein solches Workflowmanagement-Tool ist Apache Airflow. Apache Airflow wurde von Airbnb entwickelt, um die Prozesse des Unternehmens automatisieren und ein besseres Planen und Monitoren ermöglichen zu können. 2016 wurde Airflow Teil von Apache und damit als Open-Source Tool Nutzern kostenfrei zur Verfügung gestellt. Apache Airflow ermöglicht es, Workflows zu modellieren, auszuführen, pflegen und zu überwachen.

Inhaltsverzeichnis

Abbildungsverzeichnis

1 Einführung
1.1 Einordnung ins Hadoop Ökosystem
1.2 Airflow Prinzipien
1.3 Grundlegende Konzepte
1.3.1 Task
1.3.2 Task Instance
1.3.3 DAG
1.3.4 DAG run

2 Komponenten
2.1 Webserver und Web UI
2.2 Scheduler & Executor
2.3 Worker
2.4 Metadata Database
2.5 DAG Directory

3 Einsatz in der Praxis

4 Vergleich Workflow Anwendungen

5 Vor- & Nachteile

6 Fazit

7 Literaturverzeichnis

• Hochschule: Hochschule Reutlingen
• Note: 1,4
• Erscheinungsjahr: 2022
• Seiten: 23
• Katalognummer: V1358759
• ISBN (PDF): 9783346878649
• ISBN (Buch): 9783346878656
• Sprache: Deutsch
• Schlagworte: apache, airflow, einführung, komponenten, einsatz, praxis