Kontakt aufnehmen

Schulungsübersicht

Einführung in die GPU-beschleunigte Containerisierung

  • GPU-Nutzung in Deep-Learning-Workflows verstehen
  • Wie Docker GPU-basierte Workloads unterstützt
  • Wesentliche Leistungsaspekte

Installation und Konfiguration des NVIDIA Container Toolkit

  • Einrichtung von Treibern und CUDA-Kompatibilität
  • Validierung des GPU-Zugriffs in Containern
  • Konfiguration der Runtime-Umgebung

Erstellen von Docker-Images mit GPU-Unterstützung

  • Nutzung von CUDA-Basisimages
  • Paketierung von KI-Frameworks in GPU-fähigen Containern
  • Verwaltung von Abhängigkeiten für Training und Inferenz

Ausführung von GPU-beschleunigten KI-Workloads

  • Ausführung von Trainingsjobs mittels GPUs
  • Verwaltung von Multi-GPU-Workloads
  • Überwachung der GPU-Auslastung

Optimierung von Leistung und Ressourcenallokation

  • Einschränken und Isolieren von GPU-Ressourcen
  • Optimierung von Speicher, Batch-Größen und Geräteplatzierung
  • Performance-Anpassung und Diagnostik

Containerisierte Inferenz und Modellbereitstellung

  • Erstellung von Containern, die für die Inferenz bereit sind
  • Bereitstellung von hochbelasteten Workloads auf GPUs
  • Integration von Modell-Runnern und APIs

Skalierung von GPU-Workloads mit Docker

  • Strategien für verteiltes GPU-Training
  • Skalierung von Inferenz-Mikroservices
  • Koordination von Multi-Container-KI-Systemen

Sicherheit und Zuverlässigkeit für GPU-fähige Container

  • Gewährleistung eines sicheren GPU-Zugriffs in geteilten Umgebungen
  • Verstärkung der Sicherheit von Container-Images
  • Verwaltung von Updates, Versionen und Kompatibilität

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Verständnis der Grundlagen von Deep Learning
  • Erfahrung mit Python und gängigen KI-Frameworks
  • Kenntnisse der grundlegenden Konzepte der Containerisierung

Zielgruppe

  • Deep-Learning-Ingenieure
  • Forschungs- und Entwicklungsteams
  • Trainer für KI-Modelle
 21 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Erfahrungsberichte (3)

Kommende Kurse

Verwandte Kategorien