Schulungsübersicht

Grundlagen der hybriden AI-Bereitstellung

  • Verständnis von hybriden, cloudbasierten und Edge-Modellen der Bereitstellung
  • Charakteristika von AI-Workloads und Infrastrukturbeschränkungen
  • Auswahl des richtigen Bereitstellungsverfahrens

Containerisierung von AI-Workloads mit Docker

  • Erstellung von GPU- und CPU-Inferenzcontainern
  • Verwaltung sicherer Images und Registries
  • Implementierung reproduzierbarer Umgebungen für AI

Bereitstellung von AI-Diensten in Cloudbasierten Umgebungen

  • Ausführen der Inferenz auf AWS, Azure und GCP über Docker
  • Bereitstellung von Cloud-Compute für Modellserving
  • Sichern cloudbasierter AI-Endpunkte

Edge- und On-Prem-Bereitstellungstechniken

  • Ausführen von AI auf IoT-Geräten, Gateways und Mikroservers
  • Leichtgewichtige Laufzeiten für Edge-Umgebungen
  • Verwalten von intermittierender Konnektivität und lokaler Persistenz

Hybride Vernetzung und sichere Konnektivität

  • Sichere Tunnelverbindung zwischen Edge und Cloud
  • Zertifikate, Geheimnisse und tokenbasierte Zugriffe
  • Leistungsoptimierung für Inferenz mit niedriger Latenz

Orchestrating verteilte AI-Bereitstellungen

  • Verwendung von K3s, K8s oder leichtgewichtiger Orchestrierung für hybride Setups
  • Service Discovery und Workload-Planung
  • Automatisierung von mehrstandortigen Rolloutstrategien

Monitoring und Observabilität über Umgebungen hinweg

  • Verfolgen der Inferenzleistung über Standorte hinweg
  • Zentralisierung von Protokollen für hybride AI-Systeme
  • Fehlererkennung und automatische Wiederherstellung

Skalierung und Optimierung hybrider AI-Systeme

  • Skalieren von Edge-Clustern und Cloud-Knoten
  • Optimieren des Bandbreitenverbrauchs und Caching
  • Ausbalancieren der Rechenleistung zwischen Cloud und Edge

Zusammenfassung und Nächste Schritte

Voraussetzungen

  • Ein Verständnis von Containerisierungskonzepten
  • Erfahrung mit Linux-Befehlszeilenoperationen
  • Kenntnisse über AI-Modellbereitstellungsworkflows

Zielgruppe

  • Infrastrukturarchitekten
  • Site Reliability Engineers (SREs)
  • Edge- und IoT-Entwickler
 21 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Erfahrungsberichte (5)

Kommende Kurse

Verwandte Kategorien