Schulungsübersicht
Grundlagen agentischer Systeme in der Produktion
- Agentische Architekturen: Schleifen, Werkzeuge, Speicher und Orchestrierungsschichten
- Lebenszyklus von Agenten: Entwicklung, Bereitstellung und kontinuierlicher Betrieb
- Herausforderungen beim Management von Agenten im Produktionsumfeld
Infrastruktur und Bereitstellungsmodelle
- Bereitstellung von Agenten in containerisierten und Cloud-Umgebungen
- Skalierungs-Muster: horizontale vs. vertikale Skalierung, Parallelität und Drosselung
- Mehrfachagenten-Orchestrierung und Workload-Ausgleich
Monitoring und Beobachtbarkeit
- Wichtige Metriken: Latenz, Erfolgsrate, Speichernutzung und Agentenaufruftiefe
- Verfolgung der Agentenaktivität und von Aufrufgraphen
- Instrumentierung der Beobachtbarkeit mit Prometheus, OpenTelemetry und Grafana
Logging, Audit und Compliance
- Zentralisiertes Logging und strukturierte Ereigniserfassung
- Compliance und Nachvollziehbarkeit in agentischen Workflows
- Entwurf von Audit-Trails und Replay-Mechanismen zur Fehlerbehebung
Leistungsoptimierung und Ressourcenoptimierung
- Reduzierung der Inferenz-Overheads und Optimierung der Orchestrierungszyklen der Agenten
- Model-Caching und leichte Embeddings für schnellere Abfragen
- Lasttests und Belastungsszenarien für KI-Pipelines
Kostenkontrolle und Governance
- Verständnis der Kostenfaktoren der Agenten: API-Aufrufe, Speicher, Berechnung und externe Integrationen
- Verfolgung der agentenspezifischen Kosten und Implementierung von Chargeback-Modellen
- Automatisierungsroutinen zur Verhinderung von Agent Sprawl und der Nutzung ungenutzter Ressourcen
CI/CD- und Rollout-Strategien für Agenten
- Integration von Agenten-Pipelines in CI/CD-Systeme
- Test-, Versionierungs- und Rollback-Strategien für iterative Agenten-Updates
- Progressive Rollouts und sichere Bereitstellungsmechanismen
Failover und Zuverlässigkeits-Engineering
- Gestaltung für Fehlertoleranz und sanfte Degradation
- Retry-, Timeout- und Circuit-Breaker-Muster für die Zuverlässigkeit der Agenten
- Incident-Response- und Post-Mortem-Frameworks für KI-Betrieb
Capstone-Projekt
- Aufbau und Bereitstellung eines agentischen KI-Systems mit vollständigem Monitoring und Kostenverfolgung
- Simulation von Last, Messung der Leistung und Optimierung der Ressourcennutzung
- Präsentation der endgültigen Architektur und des Monitoring-Dashboards an die Kolleginnen und Kollegen
Zusammenfassung und nächste Schritte
Voraussetzungen
- Gutes Verständnis von MLOps und produktionsreifen Machine-Learning-Systemen
- Erfahrung mit containerisierten Bereitstellungen (Docker/Kubernetes)
- Vertrautheit mit Cloud-Kostenoptimierung und Beobachtbarkeitstools
Zielgruppe
- MLOps-Ingenieurinnen und -Ingenieure
- Site Reliability Engineers (SREs)
- Engineering-Managerinnen und -Manager, die KI-Infrastruktur verantworten
Erfahrungsberichte (3)
Starke Bestätigung dafür, dass aktuelle LLMs im richtigen Setup für Kundenprojekte einsetzbar sind.
Oliver Fromm
Kurs - Agentic AI for Enterprise Applications
Der Trainer ist geduldig und sehr hilfsbereit. Er kennt sich gut mit dem Thema aus.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Kurs - Agentic AI for Business Automation: Use Cases & Integration
Maschinelle Übersetzung
Die Mischung aus Theorie und Praxis sowie den Perspektiven auf hohem und niedrigem Niveau
Ion Mironescu - Facultatea S.A.I.A.P.M.
Kurs - Autonomous Decision-Making with Agentic AI
Maschinelle Übersetzung
