Kontakt aufnehmen

Schulungsübersicht

Grundlagen von NiFi und Datenfluss

  • Daten in Bewegung versus gespeicherte Daten: Konzepte und Herausforderungen
  • NiFi-Architektur: Kerne, Flow-Controller, Provenance (Herkunftsnachweis) und Bulletin
  • Wichtige Komponenten: Prozessoren, Verbindungen, Controller und Provenance

Kontext von Big Data und Integration

  • Rolle von NiFi in Big-Data-Ökosystemen (Hadoop, Kafka, Cloud-Speicher)
  • Überblick über HDFS, MapReduce und moderne Alternativen
  • Anwendungsfälle: Stream-Ingestion, Log-Shipping, Event-Pipelines

Installation, Konfiguration & Cluster-Einrichtung

  • NiFi-Installation im Einzelknotenmodus und im Clustermodus
  • Clusterkonfiguration: Knotenrollen, Zookeeper und Lastausgleich
  • Orchestrierung von NiFi-Bereitstellungen: Verwendung von Ansible, Docker oder Helm

Entwurf und Verwaltung von Datenflüssen

  • Weiterleitung, Filterung, Aufteilung und Zusammenführung von Flüssen
  • Prozessor-Konfiguration (InvokeHTTP, QueryRecord, PutDatabaseRecord usw.)
  • Handhabung von Schemas, Anreicherung und Transformationen
  • Fehlerbehandlung, Retry-Beziehungen und Backpressure

Integrationsszenarien

  • Verbindung zu Datenbanken, Messaging-Systemen und REST-APIs
  • Streamen zu Analysessystemen: Kafka, Elasticsearch oder Cloud-Speicher
  • Integration mit Splunk, Prometheus oder Logging-Pipelines

Überwachung, Wiederherstellung & Provenance

  • Nutzung der NiFi-Benutzeroberfläche, Metriken und des Provenance-Visualisierers
  • Entwurf autonomer Wiederherstellung und Behandlung von Fehlern mit graceful shutdown
  • Backup, Flow-Versionierung und Änderungsverwaltung

Leistungsoptimierung & Feinabstimmung

  • Abstimmung von JVM, Heap, Thread-Pools und Cluster-Parametern
  • Optimierung des Flow-Entwurfs zur Reduzierung von Engpässen
  • Ressourcenisolation, Priorisierung von Flüssen und Durchsatzkontrolle

Best Practices & Governance

  • Dokumentation von Flüssen, Namensstandards, modularen Entwurf
  • Sicherheit: TLS, Authentifizierung, Zugriffskontrolle, Datenverschlüsselung
  • Änderungskontrolle, Versionierung, rollenbasierter Zugriff, Audit-Trails

Fehlerbehebung & Incident Response

  • Häufige Probleme: Deadlocks, Speicherlecks, Prozessorfehler
  • Log-Analyse, Fehlerdiagnose und Ursachenforschung
  • Wiederherstellungsstrategien und Flow-Rollback

Praktisches Labor: Realistische Implementierung einer Datenpipeline

  • Aufbau eines End-to-End-Flusses: Ingestion, Transformation, Zustellung
  • Implementierung der Fehlerbehandlung, Backpressure und Skalierung
  • Leistungstests und Feinabstimmung der Pipeline

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Erfahrung mit der Linux-Befehlszeile
  • Grundlegendes Verständnis von Netzwerken und Datensystemen
  • Kenntnisse in Datenstreaming- oder ETL-Konzepten

Zielgruppe

  • Systemadministratoren
  • Data Engineers
  • Entwickler
  • DevOps-Fachleute
 21 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Erfahrungsberichte (7)

Kommende Kurse

Verwandte Kategorien