Migration von CUDA-Anwendungen zu chinesischen GPU-Architekturen Schulung
Chinesische GPU-Architekturen wie Huawei Ascend, Biren und Cambricon MLUs bieten CUDA-Alternativen, die speziell für den lokalen KI- und HPC-Markt zugeschnitten sind.
Dieser von Instruktoren geleitete Live-Training (online oder vor Ort) richtet sich an erfahrene GPU-Programmierer und Infrastruktur specialisten, die bestehende CUDA-Anwendungen migrieren und für den Einsatz auf chinesischen Hardwareplattformen optimieren möchten.
Nach Abschluss dieser Schulung werden die Teilnehmer in der Lage sein:
- Die Kompatibilität bestehender CUDA-Workloads mit alternativen chinesischen Chips zu bewerten.
- CUDA-Codebasen zu Huawei CANN, Biren SDK und Cambricon BANGPy-Umgebungen zu portieren.
- Leistungsmerkmale zu vergleichen und Optimierungspunkte über Plattformen hinweg zu identifizieren.
- Praktische Herausforderungen bei der plattformübergreifenden Unterstützung und dem Deployment anzugehen.
Kursformat
- Interaktive Vorträge und Diskussionen.
- Praktische Code-Übersetzungs- und Leistungsbewertungs-Labs.
- Geführte Übungen mit Fokus auf Multi-GPU-Anpassungsstrategien.
Kursanpassungsmöglichkeiten
- Um eine maßgeschneiderte Schulung für diesen Kurs basierend auf Ihrer Plattform oder Ihrem CUDA-Projekt anzufordern, kontaktieren Sie uns bitte zur Vereinbarung.
Schulungsübersicht
Überblick über die chinesische AI-GPU-Landschaft
- Vergleich von Huawei Ascend, Biren, Cambricon MLU
- CUDA im Vergleich zu CANN, Biren SDK und BANGPy-Modellen
- Branchentrends und Vendor-Ökosysteme
Vorbereitung auf die Migration
- Bewertung Ihrer CUDA-Codebasis
- Identifizierung der Zielplattformen und SDK-Versionen
- Installation der Toolchain und Umgebungseinrichtung
Techniken zur Code-Übersetzung
- Portierung von CUDA-Speicherzugriffen und Kernel-Logik
- Abbildung des Compute-Grid/Thread-Modells
- Automatisierte versus manuelle Übersetzungsoptionen
Plattform-spezifische Implementierungen
- Nutzung von Huawei CANN-Operatoren und benutzerdefinierten Kernels
- Biren SDK-Konvertierungspipeline
- Neuaufbau von Modellen mit BANGPy (Cambricon)
Plattformübergreifendes Testen und Optimieren
- Profiling der Ausführung auf jeder Zielplattform
- Speicher-Tuning und Vergleiche der parallelen Ausführung
- Leistungsüberwachung und Iteration
Verwaltung von gemischten GPU-Umgebungen
- Hybride Bereitstellungen mit mehreren Architekturen
- Fallback-Strategien und Geräteerkennung
- Abstraktionsschichten für die Code-Wartbarkeit
Fallstudien und Best Practices
- Portierung von Vision-/NLP-Modellen auf Ascend oder Cambricon
- Nachrüstung von Inferenz-Pipelines auf Biren-Clustern
- Umgang mit Versionsunterschieden und API-Lücken
Zusammenfassung und nächste Schritte
Voraussetzungen
- Erfahrung in der Programmierung mit CUDA oder GPU-basierten Anwendungen
- Verständnis von GPU-Speichermodellen und Compute-Kernels
- Vertrautheit mit Arbeitsabläufen zur Bereitstellung oder Beschleunigung von KI-Modellen
Zielgruppe
- GPU-Programmierer
- Systemarchitekten
- Spezialisten für Portierungen
Offene Schulungskurse erfordern mindestens 5 Teilnehmer.
Migration von CUDA-Anwendungen zu chinesischen GPU-Architekturen Schulung - Buchung
Migration von CUDA-Anwendungen zu chinesischen GPU-Architekturen Schulung - Anfrage
Migration von CUDA-Anwendungen zu chinesischen GPU-Architekturen - Beratungsanfrage
Kommende Kurse
Kombinierte Kurse
Entwicklung von KI-Anwendungen mit Huawei Ascend und CANN
21 StundenHuawei Ascend ist eine Familie von KI-Prozessoren, die für Hochleistungs-Inferenz und -Training entwickelt wurden.
Diese instructor-led Live-Schulung (online oder vor Ort) richtet sich an KI-Ingenieure und Data Scientists auf mittlem Niveau, die neuronale Netzwerkmodelle mit der Huawei-Ascend-Plattform und dem CANN-Toolkit entwickeln und optimieren möchten.
Am Ende dieser Schulung können Teilnehmer:
- die CANN-Entwicklungsumgebung einrichten und konfigurieren.
- KI-Anwendungen mit MindSpore- und CloudMatrix-Workflows entwickeln.
- die Leistung auf Ascend-NPUs durch benutzerdefinierte Operatoren und Tiling optimieren.
- Modelle in Edge- oder Cloud-Umgebungen bereitstellen.
Kursformat
- Interaktive Vorträge und Diskussionen.
- Praxisnahe Anwendung der Huawei Ascend-Plattform und des CANN-Toolkits in Beispielanwendungen.
- Geführte Übungen zur Modellentwicklung, zum Training und zur Bereitstellung.
Optionen zur Kursanpassung
- Um eine auf Ihre Infrastruktur oder Ihre Datenbanken zugeschnittene Schulung für diesen Kurs anzufordern, kontaktieren Sie uns bitte zur Vereinbarung.
Bereitstellung von KI-Modellen mit CANN und Ascend-KI-Prozessoren
14 StundenCANN (Compute Architecture for Neural Networks) ist der AI-Berechnungsstack von Huawei zur Bereitstellung und Optimierung von KI-Modellen auf Ascend-KI-Prozessoren.
Dieses instruktionsgeleitete, live durchgeführte Training (online oder vor Ort) richtet sich an KI-Entwickler und Ingenieure mit mittlerem Wissensstand, die trainierte KI-Modelle effizient auf Huawei-Ascend-Hardware unter Verwendung des CANN-Toolkits sowie Tools wie MindSpore, TensorFlow oder PyTorch bereitstellen möchten.
Am Ende dieses Trainings können die Teilnehmer:
- Die CANN-Architektur und ihre Rolle in der KI-Bereitstellungspipeline verstehen.
- Modelle aus gängigen Frameworks in ASC-kompatible Formate konvertieren und anpassen.
- Tools wie ATC, OM-Modellkonvertierung und MindSpore für die Inferenz an der Edge und in der Cloud nutzen.
- Probleme bei der Bereitstellung diagnosegerecht lösen und die Leistung auf Ascend-Hardware optimieren.
Kursformat
- Interaktiver Vortrag und Demonstration.
- Praxisübungen mit CANN-Tools sowie Ascend-Simulatoren oder -Geräten.
- Praktische Bereitstellungsszenarien basierend auf realen KI-Modellen.
Möglichkeiten zur Kursanpassung
- Um ein maßgeschneidertes Training für diesen Kurs anzufordern, kontaktieren Sie uns bitte zur Vereinbarung.
KI-Inferenz und -Bereitstellung mit CloudMatrix
21 StundenCloudMatrix ist Huaweis einheitliche Plattform für die Entwicklung und Bereitstellung von KI-Lösungen, die darauf ausgelegt ist, skalierbare Inference-Pipelines im Produktionsbetrieb zu unterstützen.
Diese Instructor-led-Veranstaltung (Live-Schulung, online oder vor Ort) richtet sich an KI-Profis mit grundlegenden bis mittleren Kenntnissen, die KI-Modelle mithilfe der CloudMatrix-Plattform mit CANN- und MindSpore-Integration bereitstellen und überwachen möchten.
Nach Abschluss dieser Schulung können Teilnehmer:
- CloudMatrix zur Paketierung, Bereitstellung und zum Serving von Modellen nutzen.
- Modelle für Ascend-Chipsätze konvertieren und optimieren.
- Pipelines für Echtzeit- und Batch-Inference-Aufgaben einrichten.
- Bereitstellungen überwachen und die Performance in Produktionsumgebungen optimieren.
Kursformat
- Interaktive Vorlesungen und Diskussionen.
- Praxisnahe Nutzung von CloudMatrix in realen Bereitstellungsszenarien.
- Angeleitete Übungen zu Konvertierung, Optimierung und Skalierung.
Optionen zur Kursindividualisierung
- Um eine auf Ihre KI-Infrastruktur oder Cloud-Umgebung zugeschnittene Schulung für diesen Kurs anzufordern, setzen Sie sich bitte mit uns in Verbindung, um die Details zu vereinbaren.
GPU-Programmierung auf Biren AI-Beschleunigern
21 StundenBiren AI-Beschleuniger sind Hochleistungs-GPUs, die für KI- und HPC-Anwendungsfälle mit Unterstützung von Training und Inferenz auf grosser Skala entwickelt wurden.
Dieses dozentengestützte, live stattfindende Training (online oder vor Ort) richtet sich an Entwickler:innen mit fortgeschrittenen bis sehr fortgeschrittenen Kenntnissen, die Anwendungen mithilfe des proprietären GPU-Stacks von Biren programmieren und optimieren möchten, inkl. praktischer Vergleiche zu CUDA-basierten Umgebungen.
Am Ende dieses Trainings werden die Teilnehmer:innen in der Lage sein:
- Die Biren-GPU-Architektur und die Speicherschichtstruktur zu verstehen.
- Die Entwicklungsumgebung einzurichten und das Programmiermodell von Biren zu nutzen.
- CUDA-ähnlichen Code für Biren-Plattformen zu übersetzen und zu optimieren.
- Techniken zur Leistungsanpassung und Fehlersuche anzuwenden.
Kursformat
- Interaktiver Vortrag und Diskussion.
- Praktische Nutzung des Biren SDK bei exemplarischen GPU-Aufgaben.
- Angeleitete Übungen zur Portierung und Leistungsanpassung.
Möglichkeiten zur Kursanpassung
- Um massgeschneidertes Training für diesen Kurs basierend auf Ihrem Anwendungsstack oder Ihren Integrationsanforderungen zu beantragen, kontaktieren Sie uns bitte.
Cambricon MLU-Entwicklung mit BANGPy und Neuware
21 StundenCambricon MLUs (Machine Learning Units) sind spezialisierte KI-Chips, die für Inferenz und Training in Edge- und Rechenzentrums-Szenarien optimiert wurden.
Dieser von einem Dozenten geleitete Live-Kurs (online oder vor Ort) richtet sich an Entwickler auf fortgeschrittenem Niveau, die mit dem BANGPy-Framework und dem Neuware SDK KI-Modelle auf Cambricon MLU-Hardware entwickeln und bereitstellen möchten.
Am Ende dieses Trainings sind die Teilnehmer in der Lage:
- Die Entwicklungsumgebungen für BANGPy und Neuware einzurichten und zu konfigurieren.
- Python- und C++-basierte Modelle für Cambricon MLUs zu entwickeln und zu optimieren.
- Modelle auf Edge- und Rechenzentrums-Geräten mit Neuware-Runtime bereitzustellen.
- ML-Workflows mit MLU-spezifischen Beschleunigungsfunktionen zu integrieren.
Kursformat
- Interaktive Vorträge und Diskussionen.
- Praktische Anwendung von BANGPy und Neuware für Entwicklung und Deployment.
- Geführte Übungen mit Fokus auf Optimierung, Integration und Tests.
Möglichkeiten zur Kursanpassung
- Um eine maßgeschneiderte Schulung für diesen Kurs basierend auf Ihrem Cambricon-Gerätemodell oder Anwendungsfall anzufordern, kontaktieren Sie uns bitte zur Vereinbarung.
Einführung in CANN für AI-Framework-Entwickler
7 StundenCANN (Compute Architecture for Neural Networks) ist Huaweis KI-Berechnungstoolkit, das zum Kompilieren, Optimieren und Bereitstellen von KI-Modellen auf Ascend-KI-Prozessoren verwendet wird.
Dieses instructor-led, live Schulung (online oder vor Ort) richtet sich an Anfänger im Bereich der KI-Entwicklung, die verstehen möchten, wie CANN in den Modelllebenszyklus von Training bis zur Bereitstellung integriert ist und mit Frameworks wie MindSpore, TensorFlow und PyTorch zusammenarbeitet.
Am Ende dieser Schulung werden die Teilnehmer in der Lage sein:
- Den Zweck und die Architektur des CANN-Toolkits zu verstehen.
- Eine Entwicklungsumgebung mit CANN und MindSpore einzurichten.
- Ein einfaches KI-Modell auf Ascend-Hardware zu konvertieren und bereitzustellen.
- Grundlagenwissen für zukünftige CANN-Optimierungs- oder Integrationsprojekte zu gewinnen.
Kursformat
- Interaktive Vorlesung und Diskussion.
- Praktische Labs mit einfacher Modellbereitstellung.
- Schritt-für-Schritt-Durchlauf des CANN-Toolchains und der Integrationspunkte.
Optionen zur Kursanpassung
- Um eine angepasste Schulung für diesen Kurs zu beantragen, kontaktieren Sie uns bitte zur Vereinbarung.
CANN für Edge AI-Deployment
14 StundenDas Ascend CANN Toolkit von Huawei ermöglicht leistungsstarkes KI-Inferenzieren auf Edge-Geräten wie dem Ascend 310. CANN bietet wesentliche Tools zur Kompilierung, Optimierung und Bereitstellung von Modellen in Umgebungen mit begrenzter Rechenleistung und Speicher.
Diese instruktionsgeleitete Live-Schulung (online oder vor Ort) richtet sich an erfahrene KI-Entwickler und Integratoren, die Modelle auf Ascend Edge-Geräten mit der CANN-Toolchain bereitstellen und optimieren möchten.
Am Ende dieser Schulung werden die Teilnehmer in der Lage sein:
- KI-Modelle für den Ascend 310 mit CANN-Tools vorzubereiten und zu konvertieren.
- Leichtgewichtige Inferenz-Pipelines mit MindSpore Lite und AscendCL zu erstellen.
- Die Modellleistung für Umgebungen mit begrenzter Rechenleistung und Speicher zu optimieren.
- KI-Anwendungen in realen Edge-Einsatzszenarien bereitzustellen und zu überwachen.
Kursformat
- Interaktive Vorlesung und Demonstration.
- Praxisnahe Laboreinheiten mit Edge-spezifischen Modellen und Szenarien.
- Live-Bereitstellungsbeispiele auf virtueller oder physischer Edge-Hardware.
Maßschneiderte Optionen für den Kurs
- Um eine maßgeschneiderte Schulung für diesen Kurs anzufordern, kontaktieren Sie uns bitte zur Vereinbarung.
Verstehen von Huaweis KI-Compute-Stack: Von CANN bis MindSpore
14 StundenDer KI-Stack von Huawei – vom niedrigen CANN-SDK bis zum hochrangigen MindSpore-Framework – bietet eine eng integrierte Umgebung für die Entwicklung und Bereitstellung von KI, optimiert für Ascend-Hardware.
Diese instructor-led-Live-Schulung (online oder vor Ort) richtet sich an technische Fachkräfte mit Grund- bis Mittelstufenkenntnissen, die verstehen möchten, wie die Komponenten CANN und MindSpore zusammenarbeiten, um das KI-Lebenszyklusmanagement und Infrastruktur-Entscheidungen zu unterstützen.
Am Ende dieser Schulung können Teilnehmer:
- Die schichtbasierte Architektur von Huaweis KI-Compute-Stack verstehen.
- Identifizieren, wie CANN die Modelloptimierung und hardwarenahe Bereitstellung unterstützt.
- Das MindSpore-Framework und die Toolchain im Vergleich zu Branchenalternativen bewerten.
- Huaweis KI-Stack in Unternehmen oder Cloud-/On-Prem-Umgebungen positionieren.
Kursformat
- Interaktiver Vortrag und Diskussion.
- Live-System-Demos und Fallbeispiel-basierte Durchläufe.
- Optionale angeleitete Labs zum Modellfluss von MindSpore zu CANN.
Möglichkeiten zur Kursanpassung
- Um eine maßgeschneiderte Schulung für diesen Kurs anzufordern, kontaktieren Sie uns bitte zur Vereinbarung.
Optimieren der Leistung neuronaler Netze mit dem CANN SDK
14 StundenDas CANN SDK (Compute Architecture for Neural Networks) ist die AI-Compute-Basisplattform von Huawei, die Entwicklern ermöglicht, die Leistung deployter neuronaler Netze auf Ascend AI-Prozessoren fein abzustimmen und zu optimieren.
Dieser dozentengestützte, live durchgeführte Lehrgang (online oder vor Ort) richtet sich an fortgeschrittene AI-Entwickler und Systemingenieure, die die Inferenzleistung mithilfe der erweiterten Toolchain von CANN optimieren möchten, wozu die Graph Engine, TIK sowie die Entwicklung benutzerdefinierter Operatoren gehören.
Nach Abschluss dieses Lehrgangs werden die Teilnehmenden in der Lage sein:
- Die Laufzeitarchitektur und den Performance-Lebenszyklus von CANN zu verstehen.
- Profiling-Tools sowie die Graph Engine für die Leistungsanalyse und -optimierung einzusetzen.
- Benutzerdefinierte Operatoren mit TIK und TVM zu erstellen und zu optimieren.
- Gedrosselte Speicherzugriffe zu beheben und den Durchsatz von Modellen zu verbessern.
Kursformat
- Interaktive Vorträge und Diskussionen.
- Praxislabs mit Echtzeit-Profiling und Optimierung von Operatoren.
- Optimierungsübungen anhand von Einsatzszenarien für Randfälle (Edge Cases).
Möglichkeiten zur Anpassung des Kurses
- Falls Sie eine massgeschneiderte Schulung für diesen Kurs wünschen, kontaktieren Sie uns bitte zur Vereinbarung.
CANN SDK für Computer Vision und NLP-Pipelines
14 StundenDas CANN SDK (Compute Architecture for Neural Networks) bietet leistungsstarke Tools für die Bereitstellung und Optimierung von Echtzeit-KI-Anwendungen im Bereich Computer Vision und NLP, insbesondere auf Huawei-Ascend-Hardware.
Diese Instructor-led-Schulung (online oder vor Ort) richtet sich an KI-Praktiker mit mittlerem Erfahrungsgrad, die Vision- und Sprachmodelle für Produktionsanwendungen mit dem CANN SDK entwickeln, bereitstellen und optimieren möchten.
Am Ende dieser Schulung können Teilnehmer:
- CV- und NLP-Modelle mit CANN und AscendCL bereitstellen und optimieren.
- CANN-Tools nutzen, um Modelle zu konvertieren und in Echtzeit-Pipelines zu integrieren.
- Die Inferenzleistung für Aufgaben wie Objekterkennung, Klassifizierung und Stimmungsanalyse optimieren.
- Echtzeit-CV-/NLP-Pipelines für Edge- oder Cloud-basierte Bereitstellungsszenarien erstellen.
Kursformat
- Interaktive Vorlesung und Demonstration.
- Praxisworkshop mit Modellbereitstellung und Leistungsmessung (Profiling).
- Live-Design von Pipelines anhand realer CV- und NLP-Anwendungsfälle.
Optionen zur Kursanpassung
- Bitte kontaktieren Sie uns, um eine individuelle Schulung für diesen Kurs zu vereinbaren.
Erstellung benutzerdefinierter KI-Operatoren mit CANN TIK und TVM
14 StundenCANN TIK (Tensor Instruction Kernel) und Apache TVM ermöglichen fortgeschrittene Optimierung und Anpassung von KI-Modelloperatoren für Huawei Ascend-Hardware.
Dieser live-geleitete Online- oder Vor-Ort-Training ist auf Systementwickler mit fortgeschrittenen Kenntnissen ausgerichtet, die benutzerdefinierte Operatoren für KI-Modelle erstellen, bereitstellen und optimieren möchten, indem sie das TIK-Programmiermodell von CANN und die TVM-Compiler-Integration nutzen.
Am Ende dieses Trainings können Teilnehmer:
- Benutzerdefinierte KI-Operatoren mit der TIK DSL für Ascend-Prozessoren schreiben und testen.
- Benutzerdefinierte Operatoren in die CANN-Laufzeitumgebung und den Ausgabegraphen integrieren.
- TVM für Operator-Scheduling, automatisches Tuning und Benchmarking nutzen.
- Die Leistung auf Instruktionsebene für benutzerdefinierte Berechnungsmuster debuggen und optimieren.
Trainingsformat
- Interaktiver Vortrag und Demonstration.
- Praktisches Programmieren von Operatoren mit TIK- und TVM-Pipelines.
- Testen und Tuning auf Ascend-Hardware oder Simulatoren.
Trainingsanpassungsoptionen
- Für ein maßgeschneidertes Training dieses Kurses kontaktieren Sie uns bitte zur Organisation.
Performanceoptimierung auf Ascend, Biren und Cambricon
21 StundenAscend, Biren und Cambricon sind führende KI-Hardwareplattformen in China, die jeweils einzigartige Beschleunigungs- und Profiling-Tools für KI-Arbeitslasten im Produktionsmassstab anbieten.
Diese von Instruktoren geleitete Live-Schulung (online oder vor Ort) richtet sich an KI-Infrastruktur- und Performance-Ingenieure auf fortgeschrittenem Niveau, die Modell-Inference- und Trainingsworkflows über mehrere chinesische KI-Chipplattformen hinweg optimieren möchten.
Nach Abschluss dieser Schulung sind die Teilnehmer in der Lage:
- Modelle auf den Plattformen Ascend, Biren und Cambricon zu benchmarken.
- Systemengpässe sowie Ineffizienzen im Bereich Speicher / Berechnung zu identifizieren.
- Optimierungen auf Graph-, Kernel- und Operator-Ebene anzuwenden.
- Bereitstellungs-Pipelines so abzustimmen, dass Durchsatz und Latenz verbessert werden.
Kursformat
- Interaktive Vorträge und Diskussionen.
- Praktische Anwendung von Profiling- und Optimierungstools auf jeder Plattform.
- Geführte Übungen mit Fokus auf praktische Abstimmungsszenarien.
Möglichkeiten zur Kursanpassung
- Um eine maßgeschneiderte Schulung für diesen Kurs anzufordern, die auf Ihrer Performance-Umgebung oder Ihrem Modelltyp basiert, kontaktieren Sie uns bitte zur Vereinbarung.