Kontakt aufnehmen
 Dauer 21 Stunden

Schulungsübersicht

Grundlagen der hybriden KI-Implementierung

  • Verständnis der hybriden, Cloud- und Edge-Deployment-Modelle
  • Eigenschaften von KI-Workloads und Infrastruktur-Einschränkungen
  • Auswahl der geeigneten Deployment-Topologie

Containerisierung von KI-Workloads mit Docker

  • Aufbau von GPU- und CPU-Inferenzcontainern
  • Verwaltung sicherer Images und Register
  • Einführung reproduzierbarer Umgebungen für KI

Deployment von KI-Diensten in Cloud-Umgebungen

  • Ausführen von Inferenz auf AWS, Azure und GCP über Docker
  • Bereitstellung von Cloud-Compute-Ressourcen für das Model Serving
  • Sicherung von Cloud-basierten KI-Endpunkten

Techniken für Edge- und On-Premise-Deployment

  • Ausführen von KI auf IoT-Geräten, Gateways und Microservern
  • Leichte Runtimes für Edge-Umgebungen
  • Verwaltung intermittierender Konnektivität und lokaler Persistenz

Hybrides Netzwerk und sichere Konnektivität

  • Sichere Tunnelung zwischen Edge und Cloud
  • Zertifikate, Secrets und tokenbasierter Zugriff
  • Leistungsanpassung für Inferenz mit niedriger Latenz

Orchestrierung verteilter KI-Implementierungen

  • Einsatz von K3s, K8s oder leichter Orchestrierung für hybride Setups
  • Service Discovery und Workload-Scheduling
  • Automatisierung mehrstandortiger Rollout-Strategien

Monitoring und Observability über Umgebungen hinweg

  • Verfolgung der Inferenz-Leistung an verschiedenen Standorten
  • Zentralisiertes Logging für hybride KI-Systeme
  • Fehlererkennung und automatisierte Wiederherstellung

Skalierung und Optimierung hybrider KI-Systeme

  • Skalierung von Edge-Clustern und Cloud-Knoten
  • Optimierung der Bandbreitennutzung und Caching
  • Ausgleich der Compute-Last zwischen Cloud und Edge

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Verständnis der Konzepte der Containerisierung
  • Erfahrung mit Linux-Befehlszeilenoperationen
  • Kenntnisse in Workflow-Prozessen für den KI-Modell-Deployment

Zielgruppe

  • Infrastrukturarchitekten
  • Site Reliability Engineers (SREs)
  • Edge- und IoT-Entwickler

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Erfahrungsberichte (2)

Kommende Kurse

Verwandte Kategorien