Schulungsübersicht
Tag 1
Anatomie eines modernen KI-Agenten
Agenten als autonome Systeme zur Begründung und Handlung über Chatbots hinaus
Reaktive, proaktive, hybride und zielgerichtete Agenten-Paradigmen
Komponenten: Wahrnehmung, Planung, Gedächtnis, Werkzeugnutzung, Aktion
Vor- und Nachteile im Entwurf einzelner versus multi-agentischer Systeme
Agent-Frameworks und der moderne Stack
LangChain, LlamaIndex, AutoGen, CrewAI und deren Vor- und Nachteile
Vergleich mit klassischen Frameworks wie JADE und SPADE
Auswahl eines Frameworks basierend auf Produktionsanforderungen
Tool-Calls, Function-Calls und strukturierte Ausgaben
Praxis: Aufbau eines einzelnen Python-Agenten mit Tool-Calls
Architekturen multi-agentischer Systeme
Zentralisierte, dezentralisierte, hybride und geschichtete MAS-Designs
FIPA ACL, Message-Passing und moderne Äquivalente
Koordinationsmuster: Planung, Aushandlung, Synchronisation
Emergente Verhaltensweisen und Selbstorganisation in Agenten-Bevölkerungen
Entscheidungsfindung und Lernen bei Agenten
Spieltheorie für kooperative und kompetitive Interaktionen zwischen Agenten
Verstärkungslernen in multi-agentischen Umgebungen
Transfer Learning und Wissensaustausch zwischen Agenten
Konfliktlösung und Vertrauen zwischen koordinierenden Agenten
Tag 2
Multimodale Grundlagen für Agenten
Multimodale KI als einheitlicher Workflow über Text, Bild, Sprache und Video
Führende multimodale Modelle: GPT-4 Vision, Gemini, Claude, Whisper
Fusionstechniken zur Kombination von Modalitäten innerhalb der Argumentationsschleife eines Agenten
Abwägungen zwischen Latenz, Kosten und Genauigkeit in multimodalen Pipelines
Aufbau der Wahrnehmungsschicht
Bildverarbeitung für Agenten: Klassifizierung, Captioning, Objekterkennung
Spracherkennung mit Whisper ASR und Streaming-Transkription
Text-zu-Sprache-Synthese und natürliche Sprachinteraktion
Anbindung der Wahrnehmungsoutputs an LLM-gestützte Argumentation und Werkzeugauswahl
Praxisaufbau – Erstellen eines multimodalen Agenten in Python
Definition der Aufgabe des Agenten, des Kontextfensters und des Werkzeuginventars
Vollständige Anbindung der GPT-4-Vision- und Whisper-APIs
Implementierung von Gedächtnis, Status und Conversations-Management
Hinzufügen von Tool-Calls, die reale Nebenwirkungen sicher erzeugen
Praxisaufbau – Orchestrierung eines multi-agentischen Systems
Zusammensetzung spezialisierter Agenten mit AutoGen oder CrewAI
Definition von Rollen, Verantwortlichkeiten und inter-agentischen Kommunikationsprotokollen
Ressourcenallokation und Koordination in einer simulierten Umgebung
Protokollierung der Argumentation, Tool-Calls und Entscheidungen der Agenten zur Prüfung und Revision
Tag 3
Gefahrenpotenziale von KI-Agenten im Produktivbetrieb
Was agentic AI im Vergleich zu traditioneller Software einzigartig verwundbar macht
Angriffsfläche: Daten, Modell, Prompt, Werkzeug, Ausgabe und Schnittstelle
Threat Modeling für Agenten-basierte Systeme mit autonomen Werkzeugaufrufen
Vergleich von KI-Cybersicherheitspraktiken mit traditioneller Cybersicherheit
Praxisaufbau – Adversarial Attacks (Angriffstechniken)
Adversariale Beispiele und Störungsdaten: FGSM, PGD, DeepFool
Weiss-Kasten versus Schwarz-Kasten Angriffs-Szenarien
Modell-Inversion und Membership-Inference-Angriffe
Data Poisoning und Backdoor-Injection während des Trainings
Prompt Injection, Jailbreaking und Werkzeugmissbrauch in LLM-basierten Agenten
Abwehrtechniken und Hardening von Modellen
Strategien zum adversarial Training und Data Augmentation
Defensive Distillation und weitere Robustheitstechniken
Eingabevorverarbeitung, Gradient Masking und Regularisierung
Differential Privacy, Noise Injection und Privatsphärenbudgets
Federated Learning und sichere Aggregation für verteiltes Training
Praxisaufbau mit der Adversarial Robustness Toolbox
Simulation von Angriffen gegen den an Tag 2 aufgebauten multimodalen Agenten
Messung der Robustheit unter Störungen und Quantifizierung des Leistungsverlusts
Iteratives Anwenden von Abwehrmassnahmen und Neubewertung der Angriffserfolgsraten
Stresstests von Tool-Call-Pfaden und Prompt-Injection-Vektoren
Tag 4
Risikomanagement-Frameworks für KI
NIST AI Risk Management Framework: Regieren, Zuordnen, Messen, Steuern
ISO/IEC 42001 und neu entstehende KI-spezifische Standards
Zuordnung von KI-Risiken zu bestehenden Enterprise-GRC-Frameworks
Anforderungen an Rechenschaftspflicht, Auditierbarkeit und Dokumentation von KI
Regulatorische Konformität für agentic Systeme
EU-AI-Gesetz: Risikostufen, verbotene Anwendungen und Verpflichtungen für hochriskante Systeme
Auswirkungen der DSGVO und CCPA auf Agenten-Datenpipelines
US-Exekutivverordnung zur sicheren, zuverlässigen und vertrauenswürdigen KI
Branchenspezifische Leitlinien für Finanzen, Gesundheitswesen und öffentliche Dienstleistungen
Drittanbieterrisiko und Nutzung von KI-Werkzeugen durch Zulieferer
Ethik, Bias und Erklärbarkeit
Bias-Erkennung und -Beseitigung in der Wahrnehmung und Argumentation des Agenten
Erklärbarkeit und Transparenz als sicherheitsrelevante Eigenschaften
Gerechtigkeit, nachgelagerte Schäden und verantwortungsvolles Deployment
Aufbau inklusiver, überprüfbarer Agentenverhalten
Produktions-Deployment, Überwachung und Incident Response
Sichere Deployment-Muster für einzelne und multi-agentische Systeme
Kontinuierliche Überwachung auf Drift, Anomalien und Missbrauch
Protokollierung, Revisionsspuren und forensische Bereitschaft bei Agentenaktionen
Incident-Response-Spielpläne für KI-Sicherheit und Wiederherstellung
Fallstudien zu echten KI-Sicherheitsverletzungen und gewonnene Erkenntnisse
Capstone und Zusammenfassung
Durchsicht des während des Kurses aufgebauten multimodalen multi-agentischen Systems
Gesamtprozess-Review: Design, Aufbau, Absicherung, Governance, Deployment
Selbstbewertung des Systems anhand der Funktionen des NIST AI RMF
Ausblick auf entstehende Trends in agentic AI und KI-Sicherheit
Zusammenfassung und nächste Schritte
Voraussetzungen
Zielgruppe
KI-Ingenieure und Architekten, die agentic Systeme für den Produktionsbetrieb entwickeln. Fachkräfte aus den Bereichen Cybersicherheit, Risiko und Compliance, die für die KI-Validierung in regulierten Branchen wie Finanzen, Gesundheitswesen und Consulting verantwortlich sind. Senior-Entwickler und Solution Leads, die multimodale und multi-agentische Fähigkeiten in Enterprise-Plattformen integrieren.
Erfahrungsberichte (3)
Der Trainer ist geduldig und sehr hilfsbereit. Er kennt sich gut mit dem Thema aus.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Kurs - Agentic AI for Business Automation: Use Cases & Integration
Maschinelle Übersetzung
Guter Mix aus Wissen und Praxis
Ion Mironescu - Facultatea S.A.I.A.P.M.
Kurs - Agentic AI for Enterprise Applications
Maschinelle Übersetzung
Die Mischung aus Theorie und Praxis sowie den Perspektiven auf hohem und niedrigem Niveau
Ion Mironescu - Facultatea S.A.I.A.P.M.
Kurs - Autonomous Decision-Making with Agentic AI
Maschinelle Übersetzung
