Vielen Dank für die Zusendung Ihrer Anfrage! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Vielen Dank, dass Sie Ihre Buchung abgeschickt haben! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Dauer 21 Stunden
Schulungsübersicht
Grundlagen: Bedrohungsmodelle für Agentic KI
- Arten von Bedrohungen für Agenten: Missbrauch, Eskalation, Datenlecks und Risiken in der Lieferkette
- Profilen von Adversaries und Angreiferfähigkeiten, die spezifisch für autonome Agenten sind
- Zuordnung von Assets, Vertrauensgrenzen und kritischen Kontrollpunkten für Agenten
Governance, Richtlinien und Risikomanagement
- Governance-Rahmenbedingungen für agentic Systeme (Rollen, Verantwortlichkeiten, Genehmigungsgrenzen)
- Gestaltung von Richtlinien: zulässige Nutzung, Eskalationsregeln, Datenverarbeitung und Auditierbarkeit
- Compliance-Aspekte und die Erhebung von Belegen für Audits
Nicht-menschliche Identität und Authentifizierung für Agenten
- Gestaltung von Identitäten für Agenten: Dienstkonten, JWTs und kurzlebiges Credentials
- Zugriffsmuster mit dem Prinzip der geringsten Berechtigung und Just-in-Time-Berechtigung
- Lebenszyklus der Identität, Rotation, Delegation und Widerrufsstrategien
Zugriffskontrollen, Secrets und Datenschutz
- Fehlkörnige Zugriffskontrollmodelle und capability-basierte Muster für Agenten
- Secrets-Verwaltung, Verschlüsselung während der Übertragung und bei der Speicherung sowie Datenminimierung
- Schutz sensibler Wissensquellen und PII vor unbefugtem Zugriff durch Agenten
Observability, Auditierung und Incident Response
- Gestaltung von Telemetrie für das Verhalten von Agenten: Intent-Tracking, Befehlsprotokolle und Herkunftsnachweise
- Anbindung an SIEM-Systeme, Schwellenwerte für Alerts und Vorbereitung auf forensische Analysen
- Runbooks und Playbooks für Agenten-bezogene Vorfälle und deren Eindämmung
Red-Teaming von Agentic Systemen
- Planung von Red-Team-Übungen: Scope, Regeln der Zusammenarbeit und sicheres Failover
- Adversariale Techniken: Prompt Injection, Missbrauch von Tools, Manipulation der Denkweise (Chain-of-Thought) und API-Missbrauch
- Durchführung kontrollierter Angriffe und Messung von Exposition und Auswirkungen
Härtung und Minderungsmaßnahmen
- Technische Kontrollen: Drosselung von Antworten, capability-basierte Sperren und Sandboxing
- Richtlinien- und Orchestrierungskontrollen: Genehmigungsflüsse, Human-in-the-Loop und Governance-Hooks
- Schutzmechanismen auf Modell- und Prompt-Ebene: Eingabevalidierung, Normalisierung und Ausgabe-Filter
Operationalisierung sicherer Agenten-Deployments
- Deployment-Muster: Staging, Canary und progressive Rollouts für Agenten
- Change Control, Test-Pipelines und Sicherheitsprüfungen vor dem Deployment
- Querschnitts-Governance: Playbooks für Sicherheit, Recht, Produkt und Betrieb
Capstone: Red-Team- / Blue-Team-Übung
- Durchführung eines simulierten Red-Team-Angriffs auf eine gesicherte Agentenumgebung
- Verteidigung, Erkennung und Behebung als Blue Team unter Nutzung von Kontrollen und Telemetrie
- Präsentation der Ergebnisse, des Behebungsplans und der Richtlinien-Updates
Zusammenfassung und nächste Schritte
Voraussetzungen
- Fundierte Kenntnisse in Security-Engineering, Systemadministration oder Cloud-Betrieb
- Vertrautheit mit Konzepten der KI/ML und dem Verhalten grosser Sprachmodelle (LLM)
- Erfahrung im Identitäts- und Zugriffsmanagement (IAM) sowie in der sicheren Systemgestaltung
Zielgruppe
- Security-Engineers und Red-Teamer
- AI-Operations- und Plattform-Ingenieure
- Compliance-Beauftragte und Risikomanager
- Engineering-Leads, die für den Einsatz von Agenten verantwortlich sind
Erfahrungsberichte (1)
Erfassung und Identifizierung der verschiedenen Risikobereiche im Zusammenhang mit KI
Gary Cook - Cybersecurity and Information Technology Risk Division
Kurs - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Maschinelle Übersetzung