Kontakt aufnehmen

Schulungsübersicht

Einführung in Cambricon und MLU-Architektur

  • Übersicht über das AI-Chip-Portfolio von Cambricon
  • MLU-Architektur und Befehlspipeline
  • Unterstützte Modellttypen und Anwendungsfälle

Installation der Entwicklungswerkzeugkette

  • Installation von BANGPy und Neuware SDK
  • Umgebungseinrichtung für Python und C++
  • Modellkompatibilität und Vorverarbeitung

Modellentwicklung mit BANGPy

  • Tensorstruktur und Formmanagement
  • Konstruktion des Berechnungsgraphen
  • Unterstützung benutzerdefinierter Operationen in BANGPy

Bereitstellung mit Neuware Runtime

  • Konvertierung und Laden von Modellen
  • Ausführung und Inferenzsteuerung
  • Erfahrungen aus der Edge- und Rechenzentrums-Bereitstellung

Leistungsoptimierung

  • Speicherzuordnung und Layer-Tuning
  • Ausführungs-Verfolgung und Profiling
  • Häufige Engpässe und Lösungen

Integration von MLU in Anwendungen

  • Nutzung der Neuware-APIs für die Anwendungsentwicklung
  • Streaming und Unterstützung mehrerer Modelle
  • Gemischte CPU-MLU-Inferenz-Szenarien

End-to-End-Projekt und Anwendungsfall

  • Labor: Bereitstellung eines Vision- oder NLP-Modells
  • Edge-Inferenz mit BANGPy-Integration
  • Tests auf Genauigkeit und Durchsatz

Zusammenfassung und weitere Schritte

Voraussetzungen

  • Verständnis der Strukturen von Machine-Learning-Modellen
  • Erfahrung mit Python und/oder C++
  • Kenntnisse in den Konzepten der Modellbereitstellung und -beschleunigung

Zielgruppe

  • Embedded-KI-Entwickler
  • ML-Ingenieure, die Modelle an Edge-Geräten oder in Rechenzentren bereitstellen
  • Entwickler, die mit chinesischer KI-Infrastruktur arbeiten
 21 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Erfahrungsberichte (1)

Kommende Kurse

Verwandte Kategorien