Schulungsübersicht
Einführung in GPU-beschleunigte Containerisierung
- Verständnis der GPU-Verwendung in Deep-Learning-Arbeitsabläufen
- Wie Docker GPU-basierte Arbeitslasten unterstützt
- Wichtige Leistungsaspekte
Installieren und Konfigurieren des NVIDIA Container Toolkits
- Einrichten von Treibern und CUDA-Kompatibilität
- Überprüfen des GPU-Zugriffs in Containern
- Konfigurieren der Laufzeitumgebung
Erstellen von GPU-beschleunigten Docker-Images
- Verwenden von CUDA-Basisimages
- Packen von KI-Frameworks in GPU-fähige Container
- Verwalten von Abhängigkeiten für das Training und die Inferenz
Ausführen von GPU-beschleunigten KI-Aufgaben
- Durchführen von Trainingsaufträgen mit GPUs
- Verwalten von Multi-GPU-Aufgaben
- Überwachen der GPU-Verwendung
Optimieren der Leistung und Ressourcenallokation
- Begrenzen und Isolieren von GPU-Ressourcen
- Optimieren des Speichers, der Batchgrößen und der Geräteplatzierung
- Leistungstuning und Diagnose
Containerisierte Inferenz und Modellbereitstellung
- Erstellen von inferenzfertigen Containern
- Bereitstellen von Hochlast-Aufgaben auf GPUs
- Integrieren von Modellausführern und APIs
Skalieren von GPU-Aufgaben mit Docker
- Strategien für verteiltes GPU-Training
- Skalieren von Inferenz-Microservices
- Koordinieren von Multi-Container-KI-Systemen
Sicherheit und Zuverlässigkeit für GPU-beschleunigte Container
- Sicheren GPU-Zugriff in geteilten Umgebungen sicherstellen
- Verhärtung von Containerimages
- Verwalten von Updates, Versionen und Kompatibilität
Zusammenfassung und weitere Schritte
Voraussetzungen
- Verständnis der Grundlagen des Deep Learnings
- Erfahrung mit Python und gängigen KI-Frameworks
- Kenntnisse über grundlegende Containerisierungskonzepte
Zielgruppe
- Deep-Learning-Ingenieure
- Forschungs- und EntwicklungsTeams
- KI-Modelltrainer
Erfahrungsberichte (5)
OC ist für uns neu und wir haben viel gelernt. Die Labs waren ausgezeichnet.
sharkey dollie
Kurs - OpenShift 4 for Administrators
Maschinelle Übersetzung
Sehr informativ und präzise. Praktische Übungen
Gil Matias - FINEOS
Kurs - Introduction to Docker
Maschinelle Übersetzung
Laboratorien und technische Diskussionen.
Dinesh Panchal - AXA XL
Kurs - Advanced Docker
Maschinelle Übersetzung
Es gab eine gute Grundlage für Docker und Kubernetes.
Stephen Dowdeswell - Global Knowledge Networks UK
Kurs - Docker (introducing Kubernetes)
Maschinelle Übersetzung
Ich habe vor allem die Kenntnisse des Trainers genossen.
- Inverso Gesellschaft fur innovative Versicherungssoftware mbH
Kurs - Docker, Kubernetes and OpenShift for Developers
Maschinelle Übersetzung