Kontakt aufnehmen

Schulungsübersicht

Grundlagen der hybriden KI-Bereitstellung

  • Verständnis von Hybrid-, Cloud- und Edge-Bereitstellungsmodellen
  • Eigenschaften von KI-Lasten und Infrastrukturbedingungen
  • Auswahl der richtigen Bereitstellungstopologie

Containerisierung von KI-Lasten mit Docker

  • Erstellung von GPU- und CPU-Inferenzcontainern
  • Verwaltung sicherer Images und Register
  • Implementierung reproduzierbarer Umgebungen für KI

Bereitstellung von KI-Diensten in Cloud-Umgebungen

  • Ausführung der Inferenz auf AWS, Azure und GCP über Docker
  • Bereitstellung von Cloud-Compute-Ressourcen für das Modell-Serving
  • Sicherheit cloudbasierter KI-Endpoints

Techniken zur Edge- und On-Premises-Bereitstellung

  • Ausführung von KI auf IoT-Geräten, Gateways und Microservern
  • Leichtgewichtige Runtimes für Edge-Umgebungen
  • Verwaltung intermittierender Konnektivität und lokaler Persistenz

Hybrides Netzwerkmanagement und sichere Konnektivität

  • Sichere Tunnels zwischen Edge und Cloud
  • Zertifikate, Secrets und Token-basierter Zugang
  • Performance-Optimierung für latenzarme Inferenz

Orchestrierung verteilter KI-Bereitstellungen

  • Einsatz von K3s, K8s oder leichter Orchestrierung für Hybridsetups
  • Service Discovery und Workload-Scheduling
  • Automatisierung von Multi-Standort-Rollout-Strategien

Überwachung und Observability in allen Umgebungen

  • Verfolgung der Inferenzleistung an verschiedenen Standorten
  • Zentrale Protokolle für hybride KI-Systeme
  • Fehlererkennung und automatisierte Wiederherstellung

Skalierung und Optimierung hybrider KI-Systeme

  • Skalierung von Edge-Clustern und Cloud-Knoten
  • Optimierung der Bandbreitennutzung und des Caching
  • Auslastungsbilanzierung zwischen Cloud und Edge

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Verständnis von Containerisierungskonzepten
  • Erfahrung mit Linux-Befehlszeilenoperationen
  • Vertrautheit mit KI-Modellbereitstellungs Workflows

Zielgruppe

  • Infrastrukturarchitekten
  • Site Reliability Engineers (SREs)
  • Edge- und IoT-Entwickler
 21 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Erfahrungsberichte (3)

Kommende Kurse

Verwandte Kategorien