Kontakt aufnehmen

Schulungsübersicht

Einführung in Huawei CloudMatrix

  • CloudMatrix-Ökosystem und Bereitstellungsablauf
  • Unterstützte Modelle, Formate und Bereitstellungsmodi
  • Typische Anwendungsfälle und unterstützte Chipsätze

Vorbereiten von Modellen für die Bereitstellung

  • Modellexport aus Trainings-Tools (MindSpore, TensorFlow, PyTorch)
  • Nutzung des ATC (Ascend Tensor Compiler) zur Formatkonvertierung
  • Statische versus dynamische Formate bei Modellen

Bereitstellung in CloudMatrix

  • Diensterstellung und Modellregistrierung
  • Bereitstellung von Inference-Diensten über die Benutzeroberfläche oder CLI
  • Routing, Authentifizierung und Zugriffskontrolle

Serving von Inference-Anfragen

  • Batch- versus Echtzeit-Inferenzflüsse
  • Datenvorverarbeitung und -nachverarbeitung in Pipelines
  • Aufruf von CloudMatrix-Diensten aus externen Anwendungen

Überwachung und Performance-Optimierung

  • Bereitstellungslogs und Anfrage-Tracking
  • Ressourcen-Skalierung und Load-Balancing
  • Latenzoptimierung und Durchsatzverbesserung

Integration in Enterprise-Tools

  • Anbindung von CloudMatrix an OBS und ModelArts
  • Nutzung von Workflows und Modellversionierung
  • CI/CD für die Modellbereitstellung und Rollback-Funktionen

End-to-End-Inference-Pipeline

  • Bereitstellung einer vollständigen Image-Classification-Pipeline
  • Benchmarking und Validierung der Genauigkeit
  • Simulation von Failover-Ereignissen und Systemwarnmeldungen

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Grundverständnis von KI-Modelltrainingsworkflows
  • Erfahrung mit Python-basierten ML-Frameworks
  • Basiskenntnisse in Konzepten zur Cloud-Bereitstellung

Zielgruppe

  • KI-Ops-Teams
  • Machine-Learning-Ingenieure
  • Cloud-Bereitstellungsspezialisten, die mit Huawei-Infrastruktur arbeiten
 21 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Erfahrungsberichte (2)

Kommende Kurse

Verwandte Kategorien