Kontakt aufnehmen

Schulungsübersicht

Einführung in die GPU-beschleunigte Containerisierung

  • Verständnis der GPU-Nutzung in Deep-Learning-Workflows
  • Wie Docker GPU-basierte Workloads unterstützt
  • Wichtige Leistungsaspekte

Installation und Konfiguration des NVIDIA Container Toolkits

  • Einrichtung von Treibern und CUDA-Kompatibilität
  • Validierung des GPU-Zugriffs in Containern
  • Konfiguration der Laufzeitumgebung

Erstellung von GPU-fähigen Docker-Images

  • Nutzung von CUDA-Basis-Images
  • Verpackung von KI-Frameworks in GPU-fertige Container
  • Verwaltung der Abhängigkeiten für Training und Inferenz

Ausführung von GPU-beschleunigten KI-Aufgaben

  • Ausführung von Trainingsjobs mit GPUs
  • Verwaltung von Multi-GPU-Workloads
  • Überwachung der GPU-Auslastung

Optimierung der Leistung und Ressourcenallokation

  • Begrenzung und Isolation von GPU-Ressourcen
  • Optimierung von Speicher, Batch-Grössen und Geräteplatzierung
  • Leistungsoptimierung und Diagnose

Containerisierte Inferenz und Modellauslieferung

  • Erstellung von Inferenz-fertigen Containern
  • Auslieferung von Workloads mit hoher Last auf GPUs
  • Integration von Modellausführern und APIs

Skalierung von GPU-Workloads mit Docker

  • Strategien für verteiltes GPU-Training
  • Skalierung von Inferenz-Mikrodiensten
  • Koordinierung von Multi-Container-KI-Systemen

Sicherheit und Zuverlässigkeit für GPU-fähige Container

  • Sicherstellung eines sicheren GPU-Zugriffs in geteilten Umgebungen
  • Absicherung von Container-Images
  • Verwaltung von Updates, Versionen und Kompatibilität

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Grundkenntnisse in Deep Learning
  • Erfahrung mit Python und gängigen KI-Frameworks
  • Vertrautheit mit grundlegenden Containerisierungskonzepten

Zielgruppe

  • Deep-Learning-Ingenieure
  • Forschung- und Entwicklungsteams
  • KI-Modelltrainer
 21 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Erfahrungsberichte (3)

Kommende Kurse

Verwandte Kategorien