Vielen Dank für die Zusendung Ihrer Anfrage! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Vielen Dank, dass Sie Ihre Buchung abgeschickt haben! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Dauer 14 Stunden
Schulungsübersicht
Einführung in die KI-Inferenz mit Docker
- Verständnis der KI-Inferenz-Workloads
- Vorteile der containerisierten Inferenz
- Bereitstellungsszenarien und Einschränkungen
Erstellung von KI-Inferenzcontainern
- Auswahl von Basis-Images und Frameworks
- Pakete von vortrainierten Modellen erstellen
- Strukturierung des Inferenzcodes für die Containerausführung
Absicherung containerisierter KI-Dienste
- Minimierung der Angriffsfläche des Containers
- Verwaltung von Geheimnissen und sensiblen Dateien
- Strategien für sichere Netzwerk- und API-Exposition
Techniken für portable Bereitstellung
- Optimierung von Images für Portabilität
- Garantie vorhersehbarer Laufzeitumgebungen
- Verwaltung von Abhängigkeiten über verschiedene Plattformen hinweg
Lokale Bereitstellung und Testung
- Ausführen von Diensten lokal mit Docker
- Fehlerbehebung in Inferenzcontainern
- Testen von Leistung und Zuverlässigkeit
Bereitstellung auf Servern und Cloud-VMs
- Anpassen der Container für Remote-Umgebungen
- Konfigurieren von sicherem Serverzugriff
- Bereitstellung von Inferenz-APIs auf Cloud-VMs
Verwendung von Docker Compose für Mehrdienst-KI-Systeme
- Orchestrierung der Inferenz mit unterstützenden Komponenten
- Verwaltung von Umgebungsvariablen und Konfigurationen
- Skalierung von Microservices mit Compose
Überwachung und Wartung von KI-Inferenzdiensten
- Ansätze für Protokollierung und Observability
- Erkennen von Fehlern in Inferenz-Pipelines
- Aktualisierung und Versionsverwaltung von Modellen im Produktivbetrieb
Zusammenfassung und nächste Schritte
Voraussetzungen
- Grundverständnis der Konzepte des maschinellen Lernens
- Erfahrung mit Python oder Backend-Entwicklung
- Vertrautheit mit grundlegenden Containerkonzepten
Zielgruppe
- Entwickler
- Backend-Ingenieure
- Teams, die KI-Dienste bereitstellen
Erfahrungsberichte (2)
Wie ich bereits erwähnt habe, war dies für mich (ohne Erfahrung) ein Tor zum Verständnis der Funktionen und Möglichkeiten dieser Programme und Werkzeuge.
Patrick V. Duylovski - UBB + DZI (KBC GROUP)
Kurs - Docker and Kubernetes
Maschinelle Übersetzung
ein mehrstufiges, strukturiertes Kursprogramm.
Bert Paelinckx - Cube SoftwareSolutions
Kurs - Introduction to Docker
Maschinelle Übersetzung