Schulungsübersicht
Grundlagen von agentenbasierten Systemen in der Produktion
- Agentenarchitekturen: Loops, Tools, Memory und Orchestrierungsebenen
- Lebenszyklus von Agents: Entwicklung, Bereitstellung und kontinuierlicher Betrieb
- Herausforderungen beim Management agentenbasierter Systeme in Produktionsumfängen
Infrastruktur- und Bereitstellungsmodelle
- Bereitstellung von Agents in containerisierten und Cloud-Umgebungen
- Skalierungsmuster: horizontale vs. vertikale Skalierung,Concurrency-Drosselung
- Multi-Agenten-Orchestrierung und Arbeitslastausgleich
Überwachung und Beobachtbarkeit
- Wichtige Metriken: Latenz, Erfolgsrate, Speichernutzung und Agent-Call-Tiefe
- Nachverfolgung der Agentenaktivität und Call-Grafen
- Implementierung von Beobachtbarkeit mit Prometheus, OpenTelemetry und Grafana
Protokollierung, Prüfung und Compliance
- Zentrale Protokolle und strukturierte Ereignissammlung
- Compliance und Nachvollziehbarkeit in agentenbasierten Workflows
- Entwurf von Prüfpfaden und Wiedergabemechanismen zur Fehlerbehebung
Leistungsoptimierung und Ressourcenoptimierung
- Reduzierung des Inference-Overheads und Optimierung der Agenten-Orchestrierungsschleifen
- Modell-Caching und leichte Embeddings für schnellere Abrufe
- Lasttests und Stresstests für KI-Pipelines
Kostenkontrolle und Governance
- Verstehen der Kostentreiber von Agents: API-Aufrufe, Speicher, Rechenleistung und externe Integrationen
- Verfolgung agentenbasierter Kosten und Implementierung von Abrechnungsmodellen
- Automatisierungsmassnahmen zur Prävention von Agent-Sprawls und ineffizientem Ressourcenverbrauch
CI/CD und Ausrollstrategien für Agents
- Integration von Agenten-Pipelines in CI/CD-Systeme
- Testen, Versionsverwaltung und Rollbackstrategien für iterative Agenten-Upgrades
- Progressive Ausrollungen und sichere Bereitstellungsmechanismen
Wiederherstellung nach Fehlern und Zuverlässigkeitstechnik
- Design für Fehlerresilienz und graceful degradation
- Retry-, Timeout- und Circuit-Breaker-Muster zur Gewährleistung der Agenten-Zuverlässigkeit
- Vorfallemanagement und Post-mortem-Rahmenwerke für KI-Operationen
Abschlussprojekt
- Aufbau und Bereitstellung eines agentenbasierten KI-Systems mit vollständiger Überwachung und Kostenverfolgung
- Simulation von Lastmessungen, Leistungsmessung und Optimierung der Ressourcennutzung
- Präsentation der finalen Architektur und des Monitoring-Dashboards an die Teilnehmergruppe
Zusammenfassung und nächste Schritte
Voraussetzungen
- Fundiertes Verständnis von MLOps und produktionsreifen maschinellen Lernsystemen
- Erfahrung mit containerbasierten Bereitstellungen (Docker/Kubernetes)
- Vertrautheit mit Cloud-Kostenoptimierung und Beobachtbarkeitswerkzeugen
Zielgruppe
- MLOps-Ingenieure
- Site Reliability Engineers (SREs)
- Engineering-Manager, die für KI-Infrastruktur verantwortlich sind
Erfahrungsberichte (3)
Der Trainer ist geduldig und sehr hilfsbereit. Er kennt sich gut mit dem Thema aus.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Kurs - Agentic AI for Business Automation: Use Cases & Integration
Maschinelle Übersetzung
Guter Mix aus Wissen und Praxis
Ion Mironescu - Facultatea S.A.I.A.P.M.
Kurs - Agentic AI for Enterprise Applications
Maschinelle Übersetzung
Die Mischung aus Theorie und Praxis sowie den Perspektiven auf hohem und niedrigem Niveau
Ion Mironescu - Facultatea S.A.I.A.P.M.
Kurs - Autonomous Decision-Making with Agentic AI
Maschinelle Übersetzung
