Kontakt aufnehmen

Schulungsübersicht

Grundlagen von NiFi und Datenfluss

  • Daten in Bewegung vs. Daten im Ruhezustand: Konzepte und Herausforderungen
  • NiFi-Architektur: Kerne, Flow Controller, Provenance und Bulletin
  • Wichtige Komponenten: Prozessoren, Verbindungen, Controller und Provenance

Kontext und Integration in Big Data

  • Rolle von NiFi in Big-Data-Ökosystemen (Hadoop, Kafka, Cloud-Speicher)
  • Überblick über HDFS, MapReduce und moderne Alternativen
  • Anwendungsfälle: Stream-Ingestion, Log-Forwarding, Ereignispipelines

Installation, Konfiguration & Cluster-Einrichtung

  • Installation von NiFi im Einzelknoten- und Clustermodus
  • Clusterkonfiguration: Knotenrollen, Zookeeper und Lastverteilung
  • Orchestrierung von NiFi-Bereitstellungen: Nutzung von Ansible, Docker oder Helm

Entwurf und Verwaltung von Datenflüssen

  • Routing, Filterung, Aufteilung und Zusammenführung von Flüssen
  • Konfiguration von Prozessoren (InvokeHTTP, QueryRecord, PutDatabaseRecord usw.)
  • Verarbeitung von Schemata, Anreicherung und Transformationen
  • Fehlerbehandlung, Wiederholungsbeziehungen und Backpressure

Integrationsszenarien

  • Anbindung an Datenbanken, Messaging-Systeme und REST-APIs
  • Streaming an Analytik-Systeme: Kafka, Elasticsearch oder Cloud-Speicher
  • Integration mit Splunk, Prometheus oder Logging-Pipelines

Überwachung, Wiederherstellung & Provenance

  • Nutzung der NiFi-Benutzeroberfläche, Metriken und des Provenance-Visualizers
  • Entwurf autonomer Wiederherstellungsmechanismen und graceful Failure Handling
  • Backup, Flussversionierung und Änderungsmanagement

Leistungsanpassung & Optimierung

  • Anpassung von JVM, Heap, Thread-Pools und Clusterparametern
  • Optimierung des Flussentwurfs zur Reduzierung von Engpässen
  • Ressourcenisolation, Flusspriorisierung und Durchsatzsteuerung

Best Practices & Governance

  • Flussdokumentation, Namenskonventionen, modulares Design
  • Sicherheit: TLS, Authentifizierung, Zugriffskontrolle, Datenverschlüsselung
  • Änderungskontrolle, Versionierung, rollenbasierter Zugriff, Audit-Trails

Fehlerbehebung & Incident Response

  • Häufige Probleme: Deadlocks, Speicherlecks, Processor-Fehler
  • Log-Analyse, Fehlerdiagnose und Root-Cause-Analyse
  • Wiederherstellungsstrategien und Rollback von Flüssen

Praxislabor: Implementierung einer realistischen Datenpipeline

  • Aufbau eines End-to-End-Flusses: Ingestion, Transformation, Lieferung
  • Implementierung von Fehlerbehandlung, Backpressure und Skalierung
  • Leistungsüberprüfung und -anpassung der Pipeline

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Erfahrung mit der Linux-Befehlszeile
  • Grundlegende Kenntnisse in Netztechnik und Datensystemen
  • Vorkenntnisse in Daten-Streaming oder ETL-Konzepten

Zielgruppe

  • Systemadministratoren
  • Data Engineers
  • Entwickler
  • DevOps-Professionals
 21 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Erfahrungsberichte (7)

Kommende Kurse

Verwandte Kategorien