Kontakt aufnehmen

Schulungsübersicht

Einführung in Huawei CloudMatrix

  • CloudMatrix-Ökosystem und Deployment-Ablauf
  • Unterstützte Modelle, Formate und Deployment-Modi
  • Typische Anwendungsfälle und unterstützte Chipsätze

Vorbereitung der Modelle für das Deployment

  • Modell-Export aus Trainingstools (MindSpore, TensorFlow, PyTorch)
  • Verwendung von ATC (Ascend Tensor Compiler) für die Formatkonvertierung
  • Modelle mit statischer vs. dynamischer Formgebung

Deployment in CloudMatrix

  • Erstellung von Diensten und Registrierung von Modellen
  • Deployment von Inferenzdiensten über UI oder CLI
  • Routing, Authentifizierung und Zugriffskontrolle

Bereitstellung von Inferenzanfragen

  • Batch- vs. Echtzeit-Inferenz-Abläufe
  • Pipelines für Pre- und Postprocessing von Daten
  • Aufruf von CloudMatrix-Diensten aus externen Anwendungen

Überwachung und Leistungsoptimierung

  • Deployment-Protokolle und Nachverfolgung von Anfragen
  • Ressourcenaufskalierung und Lastverteilung
  • Latenzoptimierung und Optimierung der Durchsatzleistung

Integration mit Unternehmens-Tools

  • Verbindung von CloudMatrix mit OBS und ModelArts
  • Verwendung von Workflows und Modellversionierung
  • CI/CD für Modell-Deployment und Rollback

Durchgängige Inferenz-Pipeline

  • Deployment einer kompletten Bildklassifikationspipeline
  • Benchmarking und Validierung der Genauigkeit
  • Simulation von Failover-Prozessen und Systemwarnungen

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Verständnis der Workflows für das Training von KI-Modellen
  • Erfahrung mit ML-Frameworks auf Python-Basis
  • Grundlegende Vertrautheit mit Konzepten des Cloud-Deployments

Zielgruppe

  • AI-Ops-Teams
  • Machine-Learning-Engineers
  • Spezialisten für Cloud-Deployment, die mit der Infrastruktur von Huawei arbeiten
 21 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Erfahrungsberichte (2)

Kommende Kurse

Verwandte Kategorien