ROCm für Windows Schulung
ROCm ist eine Open-Source-Plattform für die GPU-Programmierung, die AMD-GPUs unterstützt und zudem Kompatibilität mit CUDA und OpenCL bietet. ROCm vermittelt den Programmierern tiefe Einblicke in die Hardware Details und ermöglicht volle Kontrolle über den Parallelisierungsprozess. Dies erfordert jedoch ein fundiertes Verständnis der Gerätearchitektur, des Speichermodells, des Ausführungsmodells sowie von Optimierungstechniken.
ROCm für Windows ist eine jüngste Entwicklung, die es Nutzern ermöglicht, ROCm unter dem Windows-Betriebssystem zu installieren und zu nutzen, welches weit verbreitet für private und berufliche Zwecke eingesetzt wird. Dank ROCm für Windows können Nutzer die Leistungsfähigkeit von AMD-GPUs für verschiedene Anwendungen wie künstliche Intelligenz, Gaming, Grafikdesign und wissenschaftliches Computing nutzen.
Dieser live angebotene Kurs (online oder vor Ort) richtet sich an Entwicklerinnen und Entwickler mit Anfänger- bismittlerem Kenntnisstand, die ROCm unter Windows installieren und nutzen möchten, um AMD-GPUs zu programmieren und deren Parallelität effektiv zu nutzen.
Nach Abschluss dieses Kurses können die Teilnehmer folgende Aufgaben bewältigen:
- Ein Entwicklungsumgebung einrichten, die ROCm Platform, eine AMD-GPU und Visual Studio Code unter Windows umfasst.
- Ein einfaches ROCm-Programm erstellen, das eine Vektoraddition auf der GPU durchführt und die Ergebnisse aus dem GPU-Speicher abruft.
- Dass ROCm API verwenden, um Geräteinformationen abzufragen, Gerätespeicher zu allokieren und freizugeben, Daten zwischen Host und Gerät zu kopieren, Kernel auszuführen und Threads zu synchronisieren.
- HIP-Code schreiben, um Kernels zu erstellen, die auf der GPU ausgeführt werden und Daten verarbeiten.
- Built-in-Funktionen, -Variablen und -Bibliotheken von HIP nutzen, um gängige Aufgaben und Operationen durchzuführen.
- Speicherbereiche von ROCm und HIP (global, shared, constant, local) nutzen, um Datenübertragungen und Speicherzugriffe zu optimieren.
- Dass Ausführungsmodelle von ROCm und HIP verwenden, um Threads, Blocks und Grids zu steuern, die die Parallelität definieren.
- ROCm- und HIP-Programme mit Tools wie ROCm Debugger und ROCm Profiler debuggen und testen.
- ROCm- und HIP-Programme mittels Techniken wie Coalescing, Caching, Prefetching und Profiling optimieren.
Kursformat
- Interaktive Vorträge und Diskussionen.
- Viele Übungen und praktische Anwendungen.
- Praktische Implementierung in einer Live-Laborumgebung.
Möglichkeiten zur Kursanpassung
- Falls Sie eine maßgeschneiderte Schulung für diesen Kurs wünschen, kontaktieren Sie uns bitte zur Vereinbarung.
Schulungsübersicht
Einführung
- Was ist ROCm?
- Was ist HIP?
- ROCm im Vergleich zu CUDA und OpenCL
- Überblick über Funktionen und Architektur von ROCm und HIP
- ROCm für Windows im Vergleich zu ROCm für Linux
Installation
- Installation von ROCm unter Windows
- Verifikation der Installation und Prüfung der Gerätekompatibilität
- Aktualisieren oder Deinstallieren von ROCm unter Windows
- Lösung häufig auftretender Installationsprobleme
Erste Schritte
- Ein neues ROCm-Projekt mit Visual Studio Code unter Windows erstellen
- Projektknotenstruktur und Dateien erkunden
- Kompilieren und Ausführen des Programms
- Ausgabe mittels printf und fprintf anzeigen
ROCm API
- Nutzung der ROCm API im Host-Programm
- Abfrage von Geräteinformationen und Fähigkeiten
- Allozieren und Freigeben von Gerätespeicher
- Kopieren von Daten zwischen Host und Gerät
- Ausführen von Kernels und Synchronisieren von Threads
- Umgang mit Fehlern und Ausnahmen
HIP-Sprache
- Nutzung der HIP-Sprache im Device-Programm
- Schreiben von Kernels, die auf der GPU ausgeführt werden und Daten bearbeiten
- Nutzung von Datentypen, Qualifizierern, Operatoren und Ausdrücken
- Nutzung eingebauter Funktionen, Variablen und Bibliotheken
ROCm- und HIP-Speichermodell
- Nutzung verschiedener Speicherbereiche wie global, shared, constant und local
- Nutzung verschiedener Speicherojekte wie Pointer, Arrays, Texturen und Surfaces
- Nutzung verschiedener Speicherzugriffsmodi (read-only, write-only, read-write etc.)
- Nutzung des Speicher-Konsistenzmodells und Synchronisationsmechanismen
ROCm- und HIP-Ausführungsmodell
- Nutzung verschiedener Ausführungsmodelle wie Threads, Blocks und Grids
- Nutzung von Thread-Funktionen wie hipThreadIdx_x, hipBlockIdx_x, hipBlockDim_x etc.
- Nutzung von Block-Funktionen wie __syncthreads, __threadfence_block etc.
- Nutzung von Grid-Funktionen wie hipGridDim_x, hipGridSync, Cooperative Groups etc.
Debugging
- Debuggen von ROCm- und HIP-Programmen unter Windows
- Nutzung des Visual Studio Code Debuggers zum Untersuchen von Variablen, Breakpoints, Call Stack etc.
- Nutzung des ROCm Debuggers zum Debuggen von ROCm- und HIP-Programmen auf AMD-Geräten
- Nutzung des ROCm Profilers zur Analyse von ROCm- und HIP-Programmen auf AMD-Geräten
Optimierung
- Optimieren von ROCm- und HIP-Programmen unter Windows
- Einsatz von Coalescing-Techniken zur Verbesserung des Speicher-Durchsatzes
- Einsatz von Caching- und Prefetching-Techniken zur Reduzierung der Speicherlatenz
- Nutzung von Shared Memory und Local Memory Techniken zur Optimierung von Speicherzugriffen und Bandbreite
- Messung und Verbesserung der Ausführungszeit und Ressourcennutzung mittels Profiling und Profiling-Tools
Zusammenfassung und nächste Schritte
Voraussetzungen
- Kenntnisse in der C/C++-Sprache und Parallelprogrammierung
- Grundlegendes Verständnis der Computerarchitektur und Speicherebenen
- Erfahrung mit Befehlszeilentools und Code-Editoren
- Bekanntschaft mit dem Windows-Betriebssystem und PowerShell
Zielgruppe
- Entwicklerinnen und Entwickler, die lernen möchten, wie man ROCm unter Windows installiert und nutzt, um AMD-GPUs zu programmieren und deren Parallelität auszunutzen.
- Entwicklerinnen und Entwickler, die hochperformanten und skalierbaren Code schreiben möchten, der auf verschiedenen AMD-Geräten läuft.
- Programmierende, die die Low-Level-Aspekte der GPU-Programmierung erkunden und ihre Code-Leistung optimieren wollen.
Offene Schulungskurse erfordern mindestens 5 Teilnehmer.
ROCm für Windows Schulung - Buchung
ROCm für Windows Schulung - Anfrage
ROCm für Windows - Beratungsanfrage
Kommende Kurse
Kombinierte Kurse
Entwicklung von KI-Anwendungen mit Huawei Ascend und CANN
21 StundenHuawei Ascend ist eine Familie von KI-Prozessoren, die für Hochleistungs-Inferenz und -Training entwickelt wurden.
Diese instructor-led Live-Schulung (online oder vor Ort) richtet sich an KI-Ingenieure und Data Scientists auf mittlem Niveau, die neuronale Netzwerkmodelle mit der Huawei-Ascend-Plattform und dem CANN-Toolkit entwickeln und optimieren möchten.
Am Ende dieser Schulung können Teilnehmer:
- die CANN-Entwicklungsumgebung einrichten und konfigurieren.
- KI-Anwendungen mit MindSpore- und CloudMatrix-Workflows entwickeln.
- die Leistung auf Ascend-NPUs durch benutzerdefinierte Operatoren und Tiling optimieren.
- Modelle in Edge- oder Cloud-Umgebungen bereitstellen.
Kursformat
- Interaktive Vorträge und Diskussionen.
- Praxisnahe Anwendung der Huawei Ascend-Plattform und des CANN-Toolkits in Beispielanwendungen.
- Geführte Übungen zur Modellentwicklung, zum Training und zur Bereitstellung.
Optionen zur Kursanpassung
- Um eine auf Ihre Infrastruktur oder Ihre Datenbanken zugeschnittene Schulung für diesen Kurs anzufordern, kontaktieren Sie uns bitte zur Vereinbarung.
Bereitstellung von KI-Modellen mit CANN und Ascend-KI-Prozessoren
14 StundenCANN (Compute Architecture for Neural Networks) ist der AI-Berechnungsstack von Huawei zur Bereitstellung und Optimierung von KI-Modellen auf Ascend-KI-Prozessoren.
Dieses instruktionsgeleitete, live durchgeführte Training (online oder vor Ort) richtet sich an KI-Entwickler und Ingenieure mit mittlerem Wissensstand, die trainierte KI-Modelle effizient auf Huawei-Ascend-Hardware unter Verwendung des CANN-Toolkits sowie Tools wie MindSpore, TensorFlow oder PyTorch bereitstellen möchten.
Am Ende dieses Trainings können die Teilnehmer:
- Die CANN-Architektur und ihre Rolle in der KI-Bereitstellungspipeline verstehen.
- Modelle aus gängigen Frameworks in ASC-kompatible Formate konvertieren und anpassen.
- Tools wie ATC, OM-Modellkonvertierung und MindSpore für die Inferenz an der Edge und in der Cloud nutzen.
- Probleme bei der Bereitstellung diagnosegerecht lösen und die Leistung auf Ascend-Hardware optimieren.
Kursformat
- Interaktiver Vortrag und Demonstration.
- Praxisübungen mit CANN-Tools sowie Ascend-Simulatoren oder -Geräten.
- Praktische Bereitstellungsszenarien basierend auf realen KI-Modellen.
Möglichkeiten zur Kursanpassung
- Um ein maßgeschneidertes Training für diesen Kurs anzufordern, kontaktieren Sie uns bitte zur Vereinbarung.
KI-Inferenz und -Bereitstellung mit CloudMatrix
21 StundenCloudMatrix ist Huaweis einheitliche Plattform für die Entwicklung und Bereitstellung von KI-Lösungen, die darauf ausgelegt ist, skalierbare Inference-Pipelines im Produktionsbetrieb zu unterstützen.
Diese Instructor-led-Veranstaltung (Live-Schulung, online oder vor Ort) richtet sich an KI-Profis mit grundlegenden bis mittleren Kenntnissen, die KI-Modelle mithilfe der CloudMatrix-Plattform mit CANN- und MindSpore-Integration bereitstellen und überwachen möchten.
Nach Abschluss dieser Schulung können Teilnehmer:
- CloudMatrix zur Paketierung, Bereitstellung und zum Serving von Modellen nutzen.
- Modelle für Ascend-Chipsätze konvertieren und optimieren.
- Pipelines für Echtzeit- und Batch-Inference-Aufgaben einrichten.
- Bereitstellungen überwachen und die Performance in Produktionsumgebungen optimieren.
Kursformat
- Interaktive Vorlesungen und Diskussionen.
- Praxisnahe Nutzung von CloudMatrix in realen Bereitstellungsszenarien.
- Angeleitete Übungen zu Konvertierung, Optimierung und Skalierung.
Optionen zur Kursindividualisierung
- Um eine auf Ihre KI-Infrastruktur oder Cloud-Umgebung zugeschnittene Schulung für diesen Kurs anzufordern, setzen Sie sich bitte mit uns in Verbindung, um die Details zu vereinbaren.
GPU-Programmierung auf Biren AI-Beschleunigern
21 StundenBiren AI-Beschleuniger sind Hochleistungs-GPUs, die für KI- und HPC-Anwendungsfälle mit Unterstützung von Training und Inferenz auf grosser Skala entwickelt wurden.
Dieses dozentengestützte, live stattfindende Training (online oder vor Ort) richtet sich an Entwickler:innen mit fortgeschrittenen bis sehr fortgeschrittenen Kenntnissen, die Anwendungen mithilfe des proprietären GPU-Stacks von Biren programmieren und optimieren möchten, inkl. praktischer Vergleiche zu CUDA-basierten Umgebungen.
Am Ende dieses Trainings werden die Teilnehmer:innen in der Lage sein:
- Die Biren-GPU-Architektur und die Speicherschichtstruktur zu verstehen.
- Die Entwicklungsumgebung einzurichten und das Programmiermodell von Biren zu nutzen.
- CUDA-ähnlichen Code für Biren-Plattformen zu übersetzen und zu optimieren.
- Techniken zur Leistungsanpassung und Fehlersuche anzuwenden.
Kursformat
- Interaktiver Vortrag und Diskussion.
- Praktische Nutzung des Biren SDK bei exemplarischen GPU-Aufgaben.
- Angeleitete Übungen zur Portierung und Leistungsanpassung.
Möglichkeiten zur Kursanpassung
- Um massgeschneidertes Training für diesen Kurs basierend auf Ihrem Anwendungsstack oder Ihren Integrationsanforderungen zu beantragen, kontaktieren Sie uns bitte.
Cambricon MLU-Entwicklung mit BANGPy und Neuware
21 StundenCambricon MLUs (Machine Learning Units) sind spezialisierte KI-Chips, die für Inferenz und Training in Edge- und Rechenzentrums-Szenarien optimiert wurden.
Dieser von einem Dozenten geleitete Live-Kurs (online oder vor Ort) richtet sich an Entwickler auf fortgeschrittenem Niveau, die mit dem BANGPy-Framework und dem Neuware SDK KI-Modelle auf Cambricon MLU-Hardware entwickeln und bereitstellen möchten.
Am Ende dieses Trainings sind die Teilnehmer in der Lage:
- Die Entwicklungsumgebungen für BANGPy und Neuware einzurichten und zu konfigurieren.
- Python- und C++-basierte Modelle für Cambricon MLUs zu entwickeln und zu optimieren.
- Modelle auf Edge- und Rechenzentrums-Geräten mit Neuware-Runtime bereitzustellen.
- ML-Workflows mit MLU-spezifischen Beschleunigungsfunktionen zu integrieren.
Kursformat
- Interaktive Vorträge und Diskussionen.
- Praktische Anwendung von BANGPy und Neuware für Entwicklung und Deployment.
- Geführte Übungen mit Fokus auf Optimierung, Integration und Tests.
Möglichkeiten zur Kursanpassung
- Um eine maßgeschneiderte Schulung für diesen Kurs basierend auf Ihrem Cambricon-Gerätemodell oder Anwendungsfall anzufordern, kontaktieren Sie uns bitte zur Vereinbarung.
Einführung in CANN für AI-Framework-Entwickler
7 StundenCANN (Compute Architecture for Neural Networks) ist Huaweis KI-Berechnungstoolkit, das zum Kompilieren, Optimieren und Bereitstellen von KI-Modellen auf Ascend-KI-Prozessoren verwendet wird.
Dieses instructor-led, live Schulung (online oder vor Ort) richtet sich an Anfänger im Bereich der KI-Entwicklung, die verstehen möchten, wie CANN in den Modelllebenszyklus von Training bis zur Bereitstellung integriert ist und mit Frameworks wie MindSpore, TensorFlow und PyTorch zusammenarbeitet.
Am Ende dieser Schulung werden die Teilnehmer in der Lage sein:
- Den Zweck und die Architektur des CANN-Toolkits zu verstehen.
- Eine Entwicklungsumgebung mit CANN und MindSpore einzurichten.
- Ein einfaches KI-Modell auf Ascend-Hardware zu konvertieren und bereitzustellen.
- Grundlagenwissen für zukünftige CANN-Optimierungs- oder Integrationsprojekte zu gewinnen.
Kursformat
- Interaktive Vorlesung und Diskussion.
- Praktische Labs mit einfacher Modellbereitstellung.
- Schritt-für-Schritt-Durchlauf des CANN-Toolchains und der Integrationspunkte.
Optionen zur Kursanpassung
- Um eine angepasste Schulung für diesen Kurs zu beantragen, kontaktieren Sie uns bitte zur Vereinbarung.
CANN für Edge AI-Deployment
14 StundenDas Ascend CANN Toolkit von Huawei ermöglicht leistungsstarkes KI-Inferenzieren auf Edge-Geräten wie dem Ascend 310. CANN bietet wesentliche Tools zur Kompilierung, Optimierung und Bereitstellung von Modellen in Umgebungen mit begrenzter Rechenleistung und Speicher.
Diese instruktionsgeleitete Live-Schulung (online oder vor Ort) richtet sich an erfahrene KI-Entwickler und Integratoren, die Modelle auf Ascend Edge-Geräten mit der CANN-Toolchain bereitstellen und optimieren möchten.
Am Ende dieser Schulung werden die Teilnehmer in der Lage sein:
- KI-Modelle für den Ascend 310 mit CANN-Tools vorzubereiten und zu konvertieren.
- Leichtgewichtige Inferenz-Pipelines mit MindSpore Lite und AscendCL zu erstellen.
- Die Modellleistung für Umgebungen mit begrenzter Rechenleistung und Speicher zu optimieren.
- KI-Anwendungen in realen Edge-Einsatzszenarien bereitzustellen und zu überwachen.
Kursformat
- Interaktive Vorlesung und Demonstration.
- Praxisnahe Laboreinheiten mit Edge-spezifischen Modellen und Szenarien.
- Live-Bereitstellungsbeispiele auf virtueller oder physischer Edge-Hardware.
Maßschneiderte Optionen für den Kurs
- Um eine maßgeschneiderte Schulung für diesen Kurs anzufordern, kontaktieren Sie uns bitte zur Vereinbarung.
Verstehen von Huaweis KI-Compute-Stack: Von CANN bis MindSpore
14 StundenDer KI-Stack von Huawei – vom niedrigen CANN-SDK bis zum hochrangigen MindSpore-Framework – bietet eine eng integrierte Umgebung für die Entwicklung und Bereitstellung von KI, optimiert für Ascend-Hardware.
Diese instructor-led-Live-Schulung (online oder vor Ort) richtet sich an technische Fachkräfte mit Grund- bis Mittelstufenkenntnissen, die verstehen möchten, wie die Komponenten CANN und MindSpore zusammenarbeiten, um das KI-Lebenszyklusmanagement und Infrastruktur-Entscheidungen zu unterstützen.
Am Ende dieser Schulung können Teilnehmer:
- Die schichtbasierte Architektur von Huaweis KI-Compute-Stack verstehen.
- Identifizieren, wie CANN die Modelloptimierung und hardwarenahe Bereitstellung unterstützt.
- Das MindSpore-Framework und die Toolchain im Vergleich zu Branchenalternativen bewerten.
- Huaweis KI-Stack in Unternehmen oder Cloud-/On-Prem-Umgebungen positionieren.
Kursformat
- Interaktiver Vortrag und Diskussion.
- Live-System-Demos und Fallbeispiel-basierte Durchläufe.
- Optionale angeleitete Labs zum Modellfluss von MindSpore zu CANN.
Möglichkeiten zur Kursanpassung
- Um eine maßgeschneiderte Schulung für diesen Kurs anzufordern, kontaktieren Sie uns bitte zur Vereinbarung.
Optimieren der Leistung neuronaler Netze mit dem CANN SDK
14 StundenDas CANN SDK (Compute Architecture for Neural Networks) ist die AI-Compute-Basisplattform von Huawei, die Entwicklern ermöglicht, die Leistung deployter neuronaler Netze auf Ascend AI-Prozessoren fein abzustimmen und zu optimieren.
Dieser dozentengestützte, live durchgeführte Lehrgang (online oder vor Ort) richtet sich an fortgeschrittene AI-Entwickler und Systemingenieure, die die Inferenzleistung mithilfe der erweiterten Toolchain von CANN optimieren möchten, wozu die Graph Engine, TIK sowie die Entwicklung benutzerdefinierter Operatoren gehören.
Nach Abschluss dieses Lehrgangs werden die Teilnehmenden in der Lage sein:
- Die Laufzeitarchitektur und den Performance-Lebenszyklus von CANN zu verstehen.
- Profiling-Tools sowie die Graph Engine für die Leistungsanalyse und -optimierung einzusetzen.
- Benutzerdefinierte Operatoren mit TIK und TVM zu erstellen und zu optimieren.
- Gedrosselte Speicherzugriffe zu beheben und den Durchsatz von Modellen zu verbessern.
Kursformat
- Interaktive Vorträge und Diskussionen.
- Praxislabs mit Echtzeit-Profiling und Optimierung von Operatoren.
- Optimierungsübungen anhand von Einsatzszenarien für Randfälle (Edge Cases).
Möglichkeiten zur Anpassung des Kurses
- Falls Sie eine massgeschneiderte Schulung für diesen Kurs wünschen, kontaktieren Sie uns bitte zur Vereinbarung.
CANN SDK für Computer Vision und NLP-Pipelines
14 StundenDas CANN SDK (Compute Architecture for Neural Networks) bietet leistungsstarke Tools für die Bereitstellung und Optimierung von Echtzeit-KI-Anwendungen im Bereich Computer Vision und NLP, insbesondere auf Huawei-Ascend-Hardware.
Diese Instructor-led-Schulung (online oder vor Ort) richtet sich an KI-Praktiker mit mittlerem Erfahrungsgrad, die Vision- und Sprachmodelle für Produktionsanwendungen mit dem CANN SDK entwickeln, bereitstellen und optimieren möchten.
Am Ende dieser Schulung können Teilnehmer:
- CV- und NLP-Modelle mit CANN und AscendCL bereitstellen und optimieren.
- CANN-Tools nutzen, um Modelle zu konvertieren und in Echtzeit-Pipelines zu integrieren.
- Die Inferenzleistung für Aufgaben wie Objekterkennung, Klassifizierung und Stimmungsanalyse optimieren.
- Echtzeit-CV-/NLP-Pipelines für Edge- oder Cloud-basierte Bereitstellungsszenarien erstellen.
Kursformat
- Interaktive Vorlesung und Demonstration.
- Praxisworkshop mit Modellbereitstellung und Leistungsmessung (Profiling).
- Live-Design von Pipelines anhand realer CV- und NLP-Anwendungsfälle.
Optionen zur Kursanpassung
- Bitte kontaktieren Sie uns, um eine individuelle Schulung für diesen Kurs zu vereinbaren.
Erstellung benutzerdefinierter KI-Operatoren mit CANN TIK und TVM
14 StundenCANN TIK (Tensor Instruction Kernel) und Apache TVM ermöglichen fortgeschrittene Optimierung und Anpassung von KI-Modelloperatoren für Huawei Ascend-Hardware.
Dieser live-geleitete Online- oder Vor-Ort-Training ist auf Systementwickler mit fortgeschrittenen Kenntnissen ausgerichtet, die benutzerdefinierte Operatoren für KI-Modelle erstellen, bereitstellen und optimieren möchten, indem sie das TIK-Programmiermodell von CANN und die TVM-Compiler-Integration nutzen.
Am Ende dieses Trainings können Teilnehmer:
- Benutzerdefinierte KI-Operatoren mit der TIK DSL für Ascend-Prozessoren schreiben und testen.
- Benutzerdefinierte Operatoren in die CANN-Laufzeitumgebung und den Ausgabegraphen integrieren.
- TVM für Operator-Scheduling, automatisches Tuning und Benchmarking nutzen.
- Die Leistung auf Instruktionsebene für benutzerdefinierte Berechnungsmuster debuggen und optimieren.
Trainingsformat
- Interaktiver Vortrag und Demonstration.
- Praktisches Programmieren von Operatoren mit TIK- und TVM-Pipelines.
- Testen und Tuning auf Ascend-Hardware oder Simulatoren.
Trainingsanpassungsoptionen
- Für ein maßgeschneidertes Training dieses Kurses kontaktieren Sie uns bitte zur Organisation.
Migration von CUDA-Anwendungen zu chinesischen GPU-Architekturen
21 StundenChinesische GPU-Architekturen wie Huawei Ascend, Biren und Cambricon MLUs bieten CUDA-Alternativen, die speziell für den lokalen KI- und HPC-Markt zugeschnitten sind.
Dieser von Instruktoren geleitete Live-Training (online oder vor Ort) richtet sich an erfahrene GPU-Programmierer und Infrastruktur specialisten, die bestehende CUDA-Anwendungen migrieren und für den Einsatz auf chinesischen Hardwareplattformen optimieren möchten.
Nach Abschluss dieser Schulung werden die Teilnehmer in der Lage sein:
- Die Kompatibilität bestehender CUDA-Workloads mit alternativen chinesischen Chips zu bewerten.
- CUDA-Codebasen zu Huawei CANN, Biren SDK und Cambricon BANGPy-Umgebungen zu portieren.
- Leistungsmerkmale zu vergleichen und Optimierungspunkte über Plattformen hinweg zu identifizieren.
- Praktische Herausforderungen bei der plattformübergreifenden Unterstützung und dem Deployment anzugehen.
Kursformat
- Interaktive Vorträge und Diskussionen.
- Praktische Code-Übersetzungs- und Leistungsbewertungs-Labs.
- Geführte Übungen mit Fokus auf Multi-GPU-Anpassungsstrategien.
Kursanpassungsmöglichkeiten
- Um eine maßgeschneiderte Schulung für diesen Kurs basierend auf Ihrer Plattform oder Ihrem CUDA-Projekt anzufordern, kontaktieren Sie uns bitte zur Vereinbarung.
Performanceoptimierung auf Ascend, Biren und Cambricon
21 StundenAscend, Biren und Cambricon sind führende KI-Hardwareplattformen in China, die jeweils einzigartige Beschleunigungs- und Profiling-Tools für KI-Arbeitslasten im Produktionsmassstab anbieten.
Diese von Instruktoren geleitete Live-Schulung (online oder vor Ort) richtet sich an KI-Infrastruktur- und Performance-Ingenieure auf fortgeschrittenem Niveau, die Modell-Inference- und Trainingsworkflows über mehrere chinesische KI-Chipplattformen hinweg optimieren möchten.
Nach Abschluss dieser Schulung sind die Teilnehmer in der Lage:
- Modelle auf den Plattformen Ascend, Biren und Cambricon zu benchmarken.
- Systemengpässe sowie Ineffizienzen im Bereich Speicher / Berechnung zu identifizieren.
- Optimierungen auf Graph-, Kernel- und Operator-Ebene anzuwenden.
- Bereitstellungs-Pipelines so abzustimmen, dass Durchsatz und Latenz verbessert werden.
Kursformat
- Interaktive Vorträge und Diskussionen.
- Praktische Anwendung von Profiling- und Optimierungstools auf jeder Plattform.
- Geführte Übungen mit Fokus auf praktische Abstimmungsszenarien.
Möglichkeiten zur Kursanpassung
- Um eine maßgeschneiderte Schulung für diesen Kurs anzufordern, die auf Ihrer Performance-Umgebung oder Ihrem Modelltyp basiert, kontaktieren Sie uns bitte zur Vereinbarung.