Schulungsübersicht
Grundlagen der hybriden AI-Bereitstellung
- Verständnis von hybriden, cloudbasierten und Edge-Modellen der Bereitstellung
- Charakteristika von AI-Workloads und Infrastrukturbeschränkungen
- Auswahl des richtigen Bereitstellungsverfahrens
Containerisierung von AI-Workloads mit Docker
- Erstellung von GPU- und CPU-Inferenzcontainern
- Verwaltung sicherer Images und Registries
- Implementierung reproduzierbarer Umgebungen für AI
Bereitstellung von AI-Diensten in Cloudbasierten Umgebungen
- Ausführen der Inferenz auf AWS, Azure und GCP über Docker
- Bereitstellung von Cloud-Compute für Modellserving
- Sichern cloudbasierter AI-Endpunkte
Edge- und On-Prem-Bereitstellungstechniken
- Ausführen von AI auf IoT-Geräten, Gateways und Mikroservers
- Leichtgewichtige Laufzeiten für Edge-Umgebungen
- Verwalten von intermittierender Konnektivität und lokaler Persistenz
Hybride Vernetzung und sichere Konnektivität
- Sichere Tunnelverbindung zwischen Edge und Cloud
- Zertifikate, Geheimnisse und tokenbasierte Zugriffe
- Leistungsoptimierung für Inferenz mit niedriger Latenz
Orchestrating verteilte AI-Bereitstellungen
- Verwendung von K3s, K8s oder leichtgewichtiger Orchestrierung für hybride Setups
- Service Discovery und Workload-Planung
- Automatisierung von mehrstandortigen Rolloutstrategien
Monitoring und Observabilität über Umgebungen hinweg
- Verfolgen der Inferenzleistung über Standorte hinweg
- Zentralisierung von Protokollen für hybride AI-Systeme
- Fehlererkennung und automatische Wiederherstellung
Skalierung und Optimierung hybrider AI-Systeme
- Skalieren von Edge-Clustern und Cloud-Knoten
- Optimieren des Bandbreitenverbrauchs und Caching
- Ausbalancieren der Rechenleistung zwischen Cloud und Edge
Zusammenfassung und Nächste Schritte
Voraussetzungen
- Ein Verständnis von Containerisierungskonzepten
- Erfahrung mit Linux-Befehlszeilenoperationen
- Kenntnisse über AI-Modellbereitstellungsworkflows
Zielgruppe
- Infrastrukturarchitekten
- Site Reliability Engineers (SREs)
- Edge- und IoT-Entwickler
Erfahrungsberichte (5)
OC ist für uns neu und wir haben viel gelernt. Die Labs waren ausgezeichnet.
sharkey dollie
Kurs - OpenShift 4 for Administrators
Maschinelle Übersetzung
Sehr informativ und präzise. Praktische Übungen
Gil Matias - FINEOS
Kurs - Introduction to Docker
Maschinelle Übersetzung
Laboratorien und technische Diskussionen.
Dinesh Panchal - AXA XL
Kurs - Advanced Docker
Maschinelle Übersetzung
Es gab eine gute Grundlage für Docker und Kubernetes.
Stephen Dowdeswell - Global Knowledge Networks UK
Kurs - Docker (introducing Kubernetes)
Maschinelle Übersetzung
Ich habe vor allem die Kenntnisse des Trainers genossen.
- Inverso Gesellschaft fur innovative Versicherungssoftware mbH
Kurs - Docker, Kubernetes and OpenShift for Developers
Maschinelle Übersetzung