Kontakt aufnehmen

Schulungsübersicht

Einführung in Cambricon und MLU-Architektur

  • Überblick über das KI-Chip-Portfolio von Cambricon
  • MLU-Architektur und Instruktion-Pipeline
  • Unterstützte Modelltypen und Anwendungsfälle

Installation der Entwicklungstoolchain

  • Installation von BANGPy und Neuware SDK
  • Einrichtung der Umgebung für Python und C++
  • Modellkompatibilität und Vorverarbeitung

Modellentwicklung mit BANGPy

  • Tensorstruktur und Formmanagement
  • Aufbau von Berechnungsgraphen
  • Unterstützung für benutzerdefinierte Operationen in BANGPy

Ausrollung mit Neuware Runtime

  • Konvertieren und Laden von Modellen
  • Steuerung der Ausführung und Inferenz
  • Best Practices für die Ausrollung in Edge und Datacenter

Leistungsoptimierung

  • Speicherzuordnung und Layer-Tuning
  • Ausführungstracing und Profiling
  • Gängige Engpässe und Lösungen

Integration von MLU in Anwendungen

  • Nutzung der Neuware-APIs für die Anwendungsgestaltung
  • Streaming- und Multi-Model-Support
  • Hybride CPU-MLU-Inferenz-Szenarien

End-to-End-Projekt und Anwendungsfall

  • Praxis: Ausrollung eines Vision- oder NLP-Modells
  • Edge-Inferenz mit BANGPy-Integration
  • Testen von Genauigkeit und Durchsatz

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Grundkenntnisse der Struktur von Maschinenlernmodellen
  • Erfahrung mit Python und/oder C++
  • Vertrautheit mit Konzepten zum Ausrollen und Beschleunigen von Modellen

Zielgruppe

  • Entwickler für Embedded AI
  • ML-Ingenieure, die für Edge oder Datacenter entwickeln
  • Entwickler, die mit chinesischer KI-Infrastruktur arbeiten
 21 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Erfahrungsberichte (1)

Kommende Kurse

Verwandte Kategorien