CI/CD für KI: Automatisierung von Docker-basierten Modellbauten und -bereitstellungen Schulung

Einführung in CI/CD für KI-Workflows

• Spezifische Herausforderungen bei der Auslieferung von KI-Modellen
• Vergleich traditioneller DevOps- und MLOps-Prozesse
• Kernkomponenten der automatisierten Modellbereitstellung

Containerisierung von KI-Modellen mit Docker

• Gestaltung effizienter Dockerfiles für ML-Inferenz
• Verwaltung von Abhängigkeiten und Modellartefakten
• Erstellung sicherer und optimierter Images

Einrichtung von CI/CD-Pipelines

• Optionen für CI/CD-Tooling und deren Ökosysteme
• Aufbau von Pipelines für die automatisierte Modellverpackung
• Validierung von Pipelines durch automatisierte Prüfungen

Testen von KI-Modellen in CI

• Automatisierung von Datenintegritätsprüfungen
• Unit- und Integrationstests für Modell-Dienste
• Validierung von Leistung und Regression

Automatisierte Bereitstellung von Docker-basierten KI-Diensten

• Bereitstellung von KI-Containern in Cloud-Umgebungen
• Implementierung von Blue-Green- und Canary-Rollouts
• Rückrollstrategien für fehlgeschlagene Bereitstellungen

Verwaltung von Modellversionen und Artefakten

• Verwendung von Registern für die Versionskontrolle von Modellen und Containern
• Tagging, Signierung und Promotion von Images
• Koordination von Modellaktualisierungen zwischen Diensten

Monitoring und Observability in CI/CD für KI

• Nachverfolgung der Pipeline- und Modellleistung
• Alerting bei fehlgeschlagenen Builds oder Model Drift
• Verfolgung des Inferenzverhaltens über verschiedene Umgebungen hinweg

Skalierung von CI/CD-Pipelines für KI-Systeme

• Parallelisierung von Builds für grosse Modelle
• Optimierung von Berechnungs- und Speicherressourcen
• Integration von verteilten und Remote-Runnern

Zusammenfassung und nächste Schritte