CI/CD für KI: Automatisierte Docker-basierte Modell-Builds und Bereitstellungen Schulung

Einführung in CI/CD für KI-Workflows

• Besondere Herausforderungen bei KI-Modellbereitstellungs-Pipelines
• Vergleich traditioneller DevOps-Prozesse mit MLOps-Prozessen
• Komponenten der automatisierten Modellbereitstellung

Containerisierung von KI-Modellen mit Docker

• Effiziente Dockerfiles für ML-Inference entwerfen
• Abhängigkeiten und Modellartefakte verwalten
• Sichere und optimierte Images erstellen

Einrichten von CI/CD-Pipelines

• CI/CD-Tooling-Optionen und deren Ökosysteme
• Pipelines für die automatisierte Modellpaketerstellung aufbauen
• Pipelines mittels automatisierter Checks validieren

Testen von KI-Modellen in CI

• Automatisierung von Data-Integrity-Checks
• Unit- und Integrationstests für Modellservices
• Leistungs- und Regressionsvalidierung

Automatisierte Bereitstellung von Docker-basierten KI-Diensten

• Bereitstellung von KI-Containern in Cloud-Umgebungen
• Implementierung von Blue-Green- und Canary-Bereitstellungen
• Rollback-Strategien bei fehlgeschlagenen Bereitstellungen

Verwaltung von Modellversionen und Artefakten

• Nutzung von Registries zur Versionskontrolle von Modellen und Containern
• Tagging, Signierung und Promotion von Images
• Koordination von Modellupdates über Dienste hinweg

Monitoring und Observability in CI/CD für KI

• Verfolgung von Pipeline- und Modellleistung
• Alarmierung bei fehlgeschlagenen Builds oder Model Drift
• Nachverfolgung des Inference-Verhaltens über verschiedene Umgebungen hinweg

Skalierung von CI/CD-Pipelines für KI-Systeme

• Parallelisierung von Builds für grosse Modelle
• Optimierung von Compute- und Storage-Ressourcen
• Integration verteilter und remote Runner

Zusammenfassung und nächste Schritte