AMD GPU-Programmierung Schulung
ROCm ist eine Open-Source-Plattform für die GPU-Programmierung, die AMD-GPUs unterstützt und zudem Kompatibilität mit CUDA und OpenCL bietet. ROCm gibt dem Programmierer direkten Zugriff auf die Hardware-Details und ermöglicht volle Kontrolle über den Parallelisierungsprozess. Dies erfordert jedoch ein fundiertes Verständnis der Gerätschaftsarchitektur, des Speichermodells, des Ausführungsmodells sowie der Optimierungstechniken.
HIP ist eine C++-Runtime-API und Kernel-Sprache, die es ermöglicht, portablen Code zu schreiben, der sowohl auf AMD- als auch auf NVIDIA-GPUs ausgeführt werden kann. HIP stellt eine dünne Abstraktionsschicht über den nativen GPU-APIs wie ROCm und CUDA bereit und erlaubt die Nutzung vorhandener GPU-Bibliotheken und Tools.
Diese live dozierende, von einer Lehrperson geleitete Schulung (online oder vor Ort) richtet sich an Entwicklerinnen und Entwickler der Einsteiger- bis Mittelstufe, die ROCm und HIP zur Programmierung von AMD-GPUs nutzen und deren Parallelität ausschöpfen möchten.
Nach Abschluss dieser Schulung werden die Teilnehmenden in der Lage sein:
- Eine Entwicklungsumgebung einzurichten, die die ROCm-Plattform, eine AMD-GPU und Visual Studio Code umfasst.
- Ein grundlegendes ROCm-Programm zu erstellen, das eine Vektoraddition auf der GPU durchführt und die Ergebnisse aus dem GPU-Speicher abruft.
- Dies API zum Abfragen von Gerätschaftsinformationen, zur Allokation und Deallokation des Gerätespeichers, zum Kopieren von Daten zwischen Host und Gerät, zum Starten von Kernels und zum Synchronisieren von Threads zu verwenden.
- HIP-Sprachkonstrukte zur Erstellung von Kernels zu nutzen, die auf der GPU ausgeführt werden und Daten manipulieren.
- Eingebaute Funktionen, Variablen und Bibliotheken von HIP für häufige Aufgaben und Operationen einzusetzen.
- Die Speicherbereiche von ROCm und HIP, wie global, shared, constant und local, zur Optimierung von Datenübertragungen und Speicherzugriffen zu nutzen.
- Die Ausführungsmodelle von ROCm und HIP zu verwenden, um Threads, Blocks und Grids zu steuern, die die Parallelität definieren.
- ROCm- und HIP-Programme mit Tools wie dem ROCm Debugger und ROCm Profiler zu debuggen und zu testen.
- ROCm- und HIP-Programme durch Techniken wie Coalescing, Caching, Prefetching und Profiling zu optimieren.
Kursformat
- Interaktiver Vortrag und Diskussion.
- Viele Übungen und Praxisphasen.
- Praktische Implementierung in einer Live-Lab-Umgebung.
Individualisierungsmöglichkeiten für den Kurs
- Um eine maßgeschneiderte Schulung für diesen Kurs anzufordern, kontaktieren Sie uns bitte zur Vereinbarung.
Schulungsübersicht
Einführung
- Was ist ROCm?
- Was ist HIP?
- ROCm vs. CUDA vs. OpenCL
- Übersicht über Features und Architektur von ROCm und HIP
- Einrichten der Entwicklungsumgebung
Erste Schritte
- Erstellen eines neuen ROCm-Projekts mit Visual Studio Code
- Erkundung der Projektstruktur und Dateien
- Kompilieren und Ausführen des Programms
- Ausgabe darstellen mittels printf und fprintf
ROCm-API
- Verstehen der Rolle der ROCm-API im Host-Programm
- Nutzung der ROCm-API zum Abfragen von Gerätschaftsinformationen und Fähigkeiten
- Nutzung der ROCm-API zur Allokation und Deallokation des Gerätespeichers
- Nutzung der ROCm-API zum Kopieren von Daten zwischen Host und Gerät
- Nutzung der ROCm-API zum Starten von Kernels und Synchronisieren von Threads
- Nutzung der ROCm-API zur Fehlerbehandlung und Exception-Abfangung
HIP-Sprache
- Verstehen der Rolle der HIP-Sprache im Device-Programm
- Schreiben von Kernels mittels HIP-Sprache, die auf der GPU ausgeführt werden und Daten manipulieren
- Nutzung von HIP-Datentypen, Qualifikatoren, Operatoren und Ausdrücken
- Eingebaute Funktionen, Variablen und Bibliotheken von HIP für häufige Aufgaben und Operationen einsetzen
ROCm- und HIP-Speichermodell
- Verstehen der Unterschiede zwischen Host- und Device-Speichermodellen
- Nutzung von Speicherbereichen wie global, shared, constant und local
- Nutzung von Speicherkonzepten wie Zeiger, Arrays, Texturen und Surfaces
- Nutzung von Speicherzugriffsmodi, wie read-only, write-only, read-write usw.
- Verstehen des Speicher-Konsistenzmodells und der Synchronisierungsmechanismen
ROCm- und HIP-Ausführungsmodell
- Verstehen der Unterschiede zwischen Host- und Device-Ausführungsmodellen
- Definition der Parallelität mittels Threads, Blocks und Grids
- Nutzung von Thread-Funktionen, wie hipThreadIdx_x, hipBlockIdx_x, hipBlockDim_x usw.
- Nutzung von Block-Funktionen, wie __syncthreads, __threadfence_block usw.
- Nutzung von Grid-Funktionen, wie hipGridDim_x, hipGridSync, cooperative groups usw.
Debugging
- Verstehen häufiger Fehler und Bugs in ROCm- und HIP-Programmen
- Nutzung des Visual Studio Code Debuggers zum Untersuchen von Variablen, Breakpoints, Call Stack usw.
- Nutzung des ROCm Debuggers zum Debuggen von ROCm- und HIP-Programmen auf AMD-Geräten
- Nutzung des ROCm Profilers zur Analyse von ROCm- und HIP-Programmen auf AMD-Geräten
Optimierung
- Verstehen der Faktoren, die die Leistung von ROCm- und HIP-Programmen beeinflussen
- Anwendung von Coalescing-Techniken zur Verbesserung des Speicherdurchsatzes
- Einsatz von Caching- und Prefetching-Techniken zur Reduzierung der Speicherlatenz
- Optimierung von Speicherzugriffen und Bandbreite durch Shared Memory und Local Memory
- Messung und Verbesserung der Ausführungszeit und Ressourcennutzung mittels Profiling und entsprechenden Tools
Zusammenfassung und nächste Schritte
Voraussetzungen
- Kenntnisse in der C/C++-Sprache und Konzepten der parallelen Programmierung
- Grundlegendes Wissen über Computerarchitektur und Speicherhierarchie
- Erfahrung mit Befehlszeilentools und Code-Editoren
Zielgruppe
- Entwicklerinnen und Entwickler, die lernen möchten, wie man ROCm und HIP zur Programmierung von AMD-GPUs nutzt und deren Parallelität ausschöpft.
- Entwicklerinnen und Entwickler, die hochperformanten und skalierbaren Code schreiben möchten, der auf verschiedenen AMD-Geräten ausgeführt werden kann.
- Programmierende, die die Low-Level-Aspekte der GPU-Programmierung erkunden und ihre Code-Leistung optimieren möchten.
Offene Schulungskurse erfordern mindestens 5 Teilnehmer.
AMD GPU-Programmierung Schulung - Buchung
AMD GPU-Programmierung Schulung - Anfrage
AMD GPU-Programmierung - Beratungsanfrage
Kommende Kurse
Kombinierte Kurse
Entwicklung von KI-Anwendungen mit Huawei Ascend und CANN
21 StundenHuawei Ascend ist eine Familie von KI-Prozessoren, die für Hochleistungs-Inferenz und -Training entwickelt wurden.
Diese instructor-led Live-Schulung (online oder vor Ort) richtet sich an KI-Ingenieure und Data Scientists auf mittlem Niveau, die neuronale Netzwerkmodelle mit der Huawei-Ascend-Plattform und dem CANN-Toolkit entwickeln und optimieren möchten.
Am Ende dieser Schulung können Teilnehmer:
- die CANN-Entwicklungsumgebung einrichten und konfigurieren.
- KI-Anwendungen mit MindSpore- und CloudMatrix-Workflows entwickeln.
- die Leistung auf Ascend-NPUs durch benutzerdefinierte Operatoren und Tiling optimieren.
- Modelle in Edge- oder Cloud-Umgebungen bereitstellen.
Kursformat
- Interaktive Vorträge und Diskussionen.
- Praxisnahe Anwendung der Huawei Ascend-Plattform und des CANN-Toolkits in Beispielanwendungen.
- Geführte Übungen zur Modellentwicklung, zum Training und zur Bereitstellung.
Optionen zur Kursanpassung
- Um eine auf Ihre Infrastruktur oder Ihre Datenbanken zugeschnittene Schulung für diesen Kurs anzufordern, kontaktieren Sie uns bitte zur Vereinbarung.
Bereitstellung von KI-Modellen mit CANN und Ascend-KI-Prozessoren
14 StundenCANN (Compute Architecture for Neural Networks) ist der AI-Berechnungsstack von Huawei zur Bereitstellung und Optimierung von KI-Modellen auf Ascend-KI-Prozessoren.
Dieses instruktionsgeleitete, live durchgeführte Training (online oder vor Ort) richtet sich an KI-Entwickler und Ingenieure mit mittlerem Wissensstand, die trainierte KI-Modelle effizient auf Huawei-Ascend-Hardware unter Verwendung des CANN-Toolkits sowie Tools wie MindSpore, TensorFlow oder PyTorch bereitstellen möchten.
Am Ende dieses Trainings können die Teilnehmer:
- Die CANN-Architektur und ihre Rolle in der KI-Bereitstellungspipeline verstehen.
- Modelle aus gängigen Frameworks in ASC-kompatible Formate konvertieren und anpassen.
- Tools wie ATC, OM-Modellkonvertierung und MindSpore für die Inferenz an der Edge und in der Cloud nutzen.
- Probleme bei der Bereitstellung diagnosegerecht lösen und die Leistung auf Ascend-Hardware optimieren.
Kursformat
- Interaktiver Vortrag und Demonstration.
- Praxisübungen mit CANN-Tools sowie Ascend-Simulatoren oder -Geräten.
- Praktische Bereitstellungsszenarien basierend auf realen KI-Modellen.
Möglichkeiten zur Kursanpassung
- Um ein maßgeschneidertes Training für diesen Kurs anzufordern, kontaktieren Sie uns bitte zur Vereinbarung.
KI-Inferenz und -Bereitstellung mit CloudMatrix
21 StundenCloudMatrix ist Huaweis einheitliche Plattform für die Entwicklung und Bereitstellung von KI-Lösungen, die darauf ausgelegt ist, skalierbare Inference-Pipelines im Produktionsbetrieb zu unterstützen.
Diese Instructor-led-Veranstaltung (Live-Schulung, online oder vor Ort) richtet sich an KI-Profis mit grundlegenden bis mittleren Kenntnissen, die KI-Modelle mithilfe der CloudMatrix-Plattform mit CANN- und MindSpore-Integration bereitstellen und überwachen möchten.
Nach Abschluss dieser Schulung können Teilnehmer:
- CloudMatrix zur Paketierung, Bereitstellung und zum Serving von Modellen nutzen.
- Modelle für Ascend-Chipsätze konvertieren und optimieren.
- Pipelines für Echtzeit- und Batch-Inference-Aufgaben einrichten.
- Bereitstellungen überwachen und die Performance in Produktionsumgebungen optimieren.
Kursformat
- Interaktive Vorlesungen und Diskussionen.
- Praxisnahe Nutzung von CloudMatrix in realen Bereitstellungsszenarien.
- Angeleitete Übungen zu Konvertierung, Optimierung und Skalierung.
Optionen zur Kursindividualisierung
- Um eine auf Ihre KI-Infrastruktur oder Cloud-Umgebung zugeschnittene Schulung für diesen Kurs anzufordern, setzen Sie sich bitte mit uns in Verbindung, um die Details zu vereinbaren.
GPU-Programmierung auf Biren AI-Beschleunigern
21 StundenBiren AI-Beschleuniger sind Hochleistungs-GPUs, die für KI- und HPC-Anwendungsfälle mit Unterstützung von Training und Inferenz auf grosser Skala entwickelt wurden.
Dieses dozentengestützte, live stattfindende Training (online oder vor Ort) richtet sich an Entwickler:innen mit fortgeschrittenen bis sehr fortgeschrittenen Kenntnissen, die Anwendungen mithilfe des proprietären GPU-Stacks von Biren programmieren und optimieren möchten, inkl. praktischer Vergleiche zu CUDA-basierten Umgebungen.
Am Ende dieses Trainings werden die Teilnehmer:innen in der Lage sein:
- Die Biren-GPU-Architektur und die Speicherschichtstruktur zu verstehen.
- Die Entwicklungsumgebung einzurichten und das Programmiermodell von Biren zu nutzen.
- CUDA-ähnlichen Code für Biren-Plattformen zu übersetzen und zu optimieren.
- Techniken zur Leistungsanpassung und Fehlersuche anzuwenden.
Kursformat
- Interaktiver Vortrag und Diskussion.
- Praktische Nutzung des Biren SDK bei exemplarischen GPU-Aufgaben.
- Angeleitete Übungen zur Portierung und Leistungsanpassung.
Möglichkeiten zur Kursanpassung
- Um massgeschneidertes Training für diesen Kurs basierend auf Ihrem Anwendungsstack oder Ihren Integrationsanforderungen zu beantragen, kontaktieren Sie uns bitte.
Cambricon MLU-Entwicklung mit BANGPy und Neuware
21 StundenCambricon MLUs (Machine Learning Units) sind spezialisierte KI-Chips, die für Inferenz und Training in Edge- und Rechenzentrums-Szenarien optimiert wurden.
Dieser von einem Dozenten geleitete Live-Kurs (online oder vor Ort) richtet sich an Entwickler auf fortgeschrittenem Niveau, die mit dem BANGPy-Framework und dem Neuware SDK KI-Modelle auf Cambricon MLU-Hardware entwickeln und bereitstellen möchten.
Am Ende dieses Trainings sind die Teilnehmer in der Lage:
- Die Entwicklungsumgebungen für BANGPy und Neuware einzurichten und zu konfigurieren.
- Python- und C++-basierte Modelle für Cambricon MLUs zu entwickeln und zu optimieren.
- Modelle auf Edge- und Rechenzentrums-Geräten mit Neuware-Runtime bereitzustellen.
- ML-Workflows mit MLU-spezifischen Beschleunigungsfunktionen zu integrieren.
Kursformat
- Interaktive Vorträge und Diskussionen.
- Praktische Anwendung von BANGPy und Neuware für Entwicklung und Deployment.
- Geführte Übungen mit Fokus auf Optimierung, Integration und Tests.
Möglichkeiten zur Kursanpassung
- Um eine maßgeschneiderte Schulung für diesen Kurs basierend auf Ihrem Cambricon-Gerätemodell oder Anwendungsfall anzufordern, kontaktieren Sie uns bitte zur Vereinbarung.
Einführung in CANN für AI-Framework-Entwickler
7 StundenCANN (Compute Architecture for Neural Networks) ist Huaweis KI-Berechnungstoolkit, das zum Kompilieren, Optimieren und Bereitstellen von KI-Modellen auf Ascend-KI-Prozessoren verwendet wird.
Dieses instructor-led, live Schulung (online oder vor Ort) richtet sich an Anfänger im Bereich der KI-Entwicklung, die verstehen möchten, wie CANN in den Modelllebenszyklus von Training bis zur Bereitstellung integriert ist und mit Frameworks wie MindSpore, TensorFlow und PyTorch zusammenarbeitet.
Am Ende dieser Schulung werden die Teilnehmer in der Lage sein:
- Den Zweck und die Architektur des CANN-Toolkits zu verstehen.
- Eine Entwicklungsumgebung mit CANN und MindSpore einzurichten.
- Ein einfaches KI-Modell auf Ascend-Hardware zu konvertieren und bereitzustellen.
- Grundlagenwissen für zukünftige CANN-Optimierungs- oder Integrationsprojekte zu gewinnen.
Kursformat
- Interaktive Vorlesung und Diskussion.
- Praktische Labs mit einfacher Modellbereitstellung.
- Schritt-für-Schritt-Durchlauf des CANN-Toolchains und der Integrationspunkte.
Optionen zur Kursanpassung
- Um eine angepasste Schulung für diesen Kurs zu beantragen, kontaktieren Sie uns bitte zur Vereinbarung.
CANN für Edge AI-Deployment
14 StundenDas Ascend CANN Toolkit von Huawei ermöglicht leistungsstarkes KI-Inferenzieren auf Edge-Geräten wie dem Ascend 310. CANN bietet wesentliche Tools zur Kompilierung, Optimierung und Bereitstellung von Modellen in Umgebungen mit begrenzter Rechenleistung und Speicher.
Diese instruktionsgeleitete Live-Schulung (online oder vor Ort) richtet sich an erfahrene KI-Entwickler und Integratoren, die Modelle auf Ascend Edge-Geräten mit der CANN-Toolchain bereitstellen und optimieren möchten.
Am Ende dieser Schulung werden die Teilnehmer in der Lage sein:
- KI-Modelle für den Ascend 310 mit CANN-Tools vorzubereiten und zu konvertieren.
- Leichtgewichtige Inferenz-Pipelines mit MindSpore Lite und AscendCL zu erstellen.
- Die Modellleistung für Umgebungen mit begrenzter Rechenleistung und Speicher zu optimieren.
- KI-Anwendungen in realen Edge-Einsatzszenarien bereitzustellen und zu überwachen.
Kursformat
- Interaktive Vorlesung und Demonstration.
- Praxisnahe Laboreinheiten mit Edge-spezifischen Modellen und Szenarien.
- Live-Bereitstellungsbeispiele auf virtueller oder physischer Edge-Hardware.
Maßschneiderte Optionen für den Kurs
- Um eine maßgeschneiderte Schulung für diesen Kurs anzufordern, kontaktieren Sie uns bitte zur Vereinbarung.
Verstehen von Huaweis KI-Compute-Stack: Von CANN bis MindSpore
14 StundenDer KI-Stack von Huawei – vom niedrigen CANN-SDK bis zum hochrangigen MindSpore-Framework – bietet eine eng integrierte Umgebung für die Entwicklung und Bereitstellung von KI, optimiert für Ascend-Hardware.
Diese instructor-led-Live-Schulung (online oder vor Ort) richtet sich an technische Fachkräfte mit Grund- bis Mittelstufenkenntnissen, die verstehen möchten, wie die Komponenten CANN und MindSpore zusammenarbeiten, um das KI-Lebenszyklusmanagement und Infrastruktur-Entscheidungen zu unterstützen.
Am Ende dieser Schulung können Teilnehmer:
- Die schichtbasierte Architektur von Huaweis KI-Compute-Stack verstehen.
- Identifizieren, wie CANN die Modelloptimierung und hardwarenahe Bereitstellung unterstützt.
- Das MindSpore-Framework und die Toolchain im Vergleich zu Branchenalternativen bewerten.
- Huaweis KI-Stack in Unternehmen oder Cloud-/On-Prem-Umgebungen positionieren.
Kursformat
- Interaktiver Vortrag und Diskussion.
- Live-System-Demos und Fallbeispiel-basierte Durchläufe.
- Optionale angeleitete Labs zum Modellfluss von MindSpore zu CANN.
Möglichkeiten zur Kursanpassung
- Um eine maßgeschneiderte Schulung für diesen Kurs anzufordern, kontaktieren Sie uns bitte zur Vereinbarung.
Optimieren der Leistung neuronaler Netze mit dem CANN SDK
14 StundenDas CANN SDK (Compute Architecture for Neural Networks) ist die AI-Compute-Basisplattform von Huawei, die Entwicklern ermöglicht, die Leistung deployter neuronaler Netze auf Ascend AI-Prozessoren fein abzustimmen und zu optimieren.
Dieser dozentengestützte, live durchgeführte Lehrgang (online oder vor Ort) richtet sich an fortgeschrittene AI-Entwickler und Systemingenieure, die die Inferenzleistung mithilfe der erweiterten Toolchain von CANN optimieren möchten, wozu die Graph Engine, TIK sowie die Entwicklung benutzerdefinierter Operatoren gehören.
Nach Abschluss dieses Lehrgangs werden die Teilnehmenden in der Lage sein:
- Die Laufzeitarchitektur und den Performance-Lebenszyklus von CANN zu verstehen.
- Profiling-Tools sowie die Graph Engine für die Leistungsanalyse und -optimierung einzusetzen.
- Benutzerdefinierte Operatoren mit TIK und TVM zu erstellen und zu optimieren.
- Gedrosselte Speicherzugriffe zu beheben und den Durchsatz von Modellen zu verbessern.
Kursformat
- Interaktive Vorträge und Diskussionen.
- Praxislabs mit Echtzeit-Profiling und Optimierung von Operatoren.
- Optimierungsübungen anhand von Einsatzszenarien für Randfälle (Edge Cases).
Möglichkeiten zur Anpassung des Kurses
- Falls Sie eine massgeschneiderte Schulung für diesen Kurs wünschen, kontaktieren Sie uns bitte zur Vereinbarung.
CANN SDK für Computer Vision und NLP-Pipelines
14 StundenDas CANN SDK (Compute Architecture for Neural Networks) bietet leistungsstarke Tools für die Bereitstellung und Optimierung von Echtzeit-KI-Anwendungen im Bereich Computer Vision und NLP, insbesondere auf Huawei-Ascend-Hardware.
Diese Instructor-led-Schulung (online oder vor Ort) richtet sich an KI-Praktiker mit mittlerem Erfahrungsgrad, die Vision- und Sprachmodelle für Produktionsanwendungen mit dem CANN SDK entwickeln, bereitstellen und optimieren möchten.
Am Ende dieser Schulung können Teilnehmer:
- CV- und NLP-Modelle mit CANN und AscendCL bereitstellen und optimieren.
- CANN-Tools nutzen, um Modelle zu konvertieren und in Echtzeit-Pipelines zu integrieren.
- Die Inferenzleistung für Aufgaben wie Objekterkennung, Klassifizierung und Stimmungsanalyse optimieren.
- Echtzeit-CV-/NLP-Pipelines für Edge- oder Cloud-basierte Bereitstellungsszenarien erstellen.
Kursformat
- Interaktive Vorlesung und Demonstration.
- Praxisworkshop mit Modellbereitstellung und Leistungsmessung (Profiling).
- Live-Design von Pipelines anhand realer CV- und NLP-Anwendungsfälle.
Optionen zur Kursanpassung
- Bitte kontaktieren Sie uns, um eine individuelle Schulung für diesen Kurs zu vereinbaren.
Erstellung benutzerdefinierter KI-Operatoren mit CANN TIK und TVM
14 StundenCANN TIK (Tensor Instruction Kernel) und Apache TVM ermöglichen fortgeschrittene Optimierung und Anpassung von KI-Modelloperatoren für Huawei Ascend-Hardware.
Dieser live-geleitete Online- oder Vor-Ort-Training ist auf Systementwickler mit fortgeschrittenen Kenntnissen ausgerichtet, die benutzerdefinierte Operatoren für KI-Modelle erstellen, bereitstellen und optimieren möchten, indem sie das TIK-Programmiermodell von CANN und die TVM-Compiler-Integration nutzen.
Am Ende dieses Trainings können Teilnehmer:
- Benutzerdefinierte KI-Operatoren mit der TIK DSL für Ascend-Prozessoren schreiben und testen.
- Benutzerdefinierte Operatoren in die CANN-Laufzeitumgebung und den Ausgabegraphen integrieren.
- TVM für Operator-Scheduling, automatisches Tuning und Benchmarking nutzen.
- Die Leistung auf Instruktionsebene für benutzerdefinierte Berechnungsmuster debuggen und optimieren.
Trainingsformat
- Interaktiver Vortrag und Demonstration.
- Praktisches Programmieren von Operatoren mit TIK- und TVM-Pipelines.
- Testen und Tuning auf Ascend-Hardware oder Simulatoren.
Trainingsanpassungsoptionen
- Für ein maßgeschneidertes Training dieses Kurses kontaktieren Sie uns bitte zur Organisation.
Migration von CUDA-Anwendungen zu chinesischen GPU-Architekturen
21 StundenChinesische GPU-Architekturen wie Huawei Ascend, Biren und Cambricon MLUs bieten CUDA-Alternativen, die speziell für den lokalen KI- und HPC-Markt zugeschnitten sind.
Dieser von Instruktoren geleitete Live-Training (online oder vor Ort) richtet sich an erfahrene GPU-Programmierer und Infrastruktur specialisten, die bestehende CUDA-Anwendungen migrieren und für den Einsatz auf chinesischen Hardwareplattformen optimieren möchten.
Nach Abschluss dieser Schulung werden die Teilnehmer in der Lage sein:
- Die Kompatibilität bestehender CUDA-Workloads mit alternativen chinesischen Chips zu bewerten.
- CUDA-Codebasen zu Huawei CANN, Biren SDK und Cambricon BANGPy-Umgebungen zu portieren.
- Leistungsmerkmale zu vergleichen und Optimierungspunkte über Plattformen hinweg zu identifizieren.
- Praktische Herausforderungen bei der plattformübergreifenden Unterstützung und dem Deployment anzugehen.
Kursformat
- Interaktive Vorträge und Diskussionen.
- Praktische Code-Übersetzungs- und Leistungsbewertungs-Labs.
- Geführte Übungen mit Fokus auf Multi-GPU-Anpassungsstrategien.
Kursanpassungsmöglichkeiten
- Um eine maßgeschneiderte Schulung für diesen Kurs basierend auf Ihrer Plattform oder Ihrem CUDA-Projekt anzufordern, kontaktieren Sie uns bitte zur Vereinbarung.
Performanceoptimierung auf Ascend, Biren und Cambricon
21 StundenAscend, Biren und Cambricon sind führende KI-Hardwareplattformen in China, die jeweils einzigartige Beschleunigungs- und Profiling-Tools für KI-Arbeitslasten im Produktionsmassstab anbieten.
Diese von Instruktoren geleitete Live-Schulung (online oder vor Ort) richtet sich an KI-Infrastruktur- und Performance-Ingenieure auf fortgeschrittenem Niveau, die Modell-Inference- und Trainingsworkflows über mehrere chinesische KI-Chipplattformen hinweg optimieren möchten.
Nach Abschluss dieser Schulung sind die Teilnehmer in der Lage:
- Modelle auf den Plattformen Ascend, Biren und Cambricon zu benchmarken.
- Systemengpässe sowie Ineffizienzen im Bereich Speicher / Berechnung zu identifizieren.
- Optimierungen auf Graph-, Kernel- und Operator-Ebene anzuwenden.
- Bereitstellungs-Pipelines so abzustimmen, dass Durchsatz und Latenz verbessert werden.
Kursformat
- Interaktive Vorträge und Diskussionen.
- Praktische Anwendung von Profiling- und Optimierungstools auf jeder Plattform.
- Geführte Übungen mit Fokus auf praktische Abstimmungsszenarien.
Möglichkeiten zur Kursanpassung
- Um eine maßgeschneiderte Schulung für diesen Kurs anzufordern, die auf Ihrer Performance-Umgebung oder Ihrem Modelltyp basiert, kontaktieren Sie uns bitte zur Vereinbarung.