Vielen Dank für die Zusendung Ihrer Anfrage! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Vielen Dank, dass Sie Ihre Buchung abgeschickt haben! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Schulungsübersicht
Einführung in die KI-Inferenz mit Docker
- Verständnis von KI-Inferenz-Arbeitslasten
- Vorteile der containerisierten Inferenz
- Bereitstellungsszenarien und Einschränkungen
Erstellung von KI-Inferenz-Containern
- Auswahl von Basis-Images und Frameworks
- Packaging vortrainierter Modelle
- Strukturierung des Inferenz-Codes für die Container-Ausführung
Sicherung containerisierter KI-Dienste
- Minimierung der Angriffsfläche von Containern
- Verwaltung von Geheimnissen und sensiblen Dateien
- Sichere Strategien für Netzwerkkonnektivität und API-Freigaben
Techniken für portables Deployment
- Optimierung von Images für Portabilität
- Sicherstellung vorhersehbarer Laufzeitumgebungen
- Verwaltung von Abhängigkeiten plattformübergreifend
Lokales Deployment und Testen
- Ausführen von Diensten lokal mit Docker
- Fehlerbehebung bei Inferenz-Containern
- Testen der Leistung und Zuverlässigkeit
Bereitstellung auf Servern und Cloud-VMs
- Anpassung von Containern an entfernte Umgebungen
- Konfiguration des sicheren Serverzugriffs
- Bereitstellung von Inferenz-APIs auf Cloud-VMs
Verwendung von Docker Compose für mehrstufige KI-Systeme
- Orchestrierung der Inferenz mit unterstützenden Komponenten
- Verwaltung von Umgebungsvariablen und Konfigurationen
- Skalierung von Mikrodiensten mit Compose
Überwachung und Wartung von KI-Inferenzdiensten
- Logging- und Beobachtbarkeitsansätze
- Erkennen von Fehlern in Inferenz-Pipelines
- Aktualisierung und Versionierung von Modellen im Produktivbetrieb
Zusammenfassung und nächste Schritte
Voraussetzungen
- Grundkenntnisse in den Konzepten des maschinellen Lernens
- Erfahrung mit Python oder Backend-Entwicklung
- Vertrautheit mit grundlegenden Container-Konzepten
Zielgruppe
- Entwickler
- Backend-Ingenieure
- Teams, die KI-Dienste bereitstellen
14 Stunden
Erfahrungsberichte (3)
Gute und machbare Übungen.
Jannes Wykhoff - Landesamt fur Geoinformation und Landesvermessung Niedersachsen (LGLN)
Kurs - Certified Kubernetes Application Developer (CKAD) - exam preparation
Wie Trainer Wissen effektiv vermitteln
Vu Thoai Le - Reply Polska sp. z o. o.
Kurs - Certified Kubernetes Administrator (CKA) - exam preparation
Maschinelle Übersetzung
Der Trainer hatte viel Wissen und Geduld, die er mit uns teilen konnte.
Bogdan Olaru
Kurs - Introduction to Docker
Maschinelle Übersetzung