Kontakt aufnehmen
 Dauer 21 Stunden

Schulungsübersicht

Grundlagen: Bedrohungsmodelle für Agentic KI

  • Arten von Bedrohungen für Agenten: Missbrauch, Eskalation, Datenlecks und Risiken in der Lieferkette
  • Profilen von Adversaries und Angreiferfähigkeiten, die spezifisch für autonome Agenten sind
  • Zuordnung von Assets, Vertrauensgrenzen und kritischen Kontrollpunkten für Agenten

Governance, Richtlinien und Risikomanagement

  • Governance-Rahmenbedingungen für agentic Systeme (Rollen, Verantwortlichkeiten, Genehmigungsgrenzen)
  • Gestaltung von Richtlinien: zulässige Nutzung, Eskalationsregeln, Datenverarbeitung und Auditierbarkeit
  • Compliance-Aspekte und die Erhebung von Belegen für Audits

Nicht-menschliche Identität und Authentifizierung für Agenten

  • Gestaltung von Identitäten für Agenten: Dienstkonten, JWTs und kurzlebiges Credentials
  • Zugriffsmuster mit dem Prinzip der geringsten Berechtigung und Just-in-Time-Berechtigung
  • Lebenszyklus der Identität, Rotation, Delegation und Widerrufsstrategien

Zugriffskontrollen, Secrets und Datenschutz

  • Fehlkörnige Zugriffskontrollmodelle und capability-basierte Muster für Agenten
  • Secrets-Verwaltung, Verschlüsselung während der Übertragung und bei der Speicherung sowie Datenminimierung
  • Schutz sensibler Wissensquellen und PII vor unbefugtem Zugriff durch Agenten

Observability, Auditierung und Incident Response

  • Gestaltung von Telemetrie für das Verhalten von Agenten: Intent-Tracking, Befehlsprotokolle und Herkunftsnachweise
  • Anbindung an SIEM-Systeme, Schwellenwerte für Alerts und Vorbereitung auf forensische Analysen
  • Runbooks und Playbooks für Agenten-bezogene Vorfälle und deren Eindämmung

Red-Teaming von Agentic Systemen

  • Planung von Red-Team-Übungen: Scope, Regeln der Zusammenarbeit und sicheres Failover
  • Adversariale Techniken: Prompt Injection, Missbrauch von Tools, Manipulation der Denkweise (Chain-of-Thought) und API-Missbrauch
  • Durchführung kontrollierter Angriffe und Messung von Exposition und Auswirkungen

Härtung und Minderungsmaßnahmen

  • Technische Kontrollen: Drosselung von Antworten, capability-basierte Sperren und Sandboxing
  • Richtlinien- und Orchestrierungskontrollen: Genehmigungsflüsse, Human-in-the-Loop und Governance-Hooks
  • Schutzmechanismen auf Modell- und Prompt-Ebene: Eingabevalidierung, Normalisierung und Ausgabe-Filter

Operationalisierung sicherer Agenten-Deployments

  • Deployment-Muster: Staging, Canary und progressive Rollouts für Agenten
  • Change Control, Test-Pipelines und Sicherheitsprüfungen vor dem Deployment
  • Querschnitts-Governance: Playbooks für Sicherheit, Recht, Produkt und Betrieb

Capstone: Red-Team- / Blue-Team-Übung

  • Durchführung eines simulierten Red-Team-Angriffs auf eine gesicherte Agentenumgebung
  • Verteidigung, Erkennung und Behebung als Blue Team unter Nutzung von Kontrollen und Telemetrie
  • Präsentation der Ergebnisse, des Behebungsplans und der Richtlinien-Updates

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Fundierte Kenntnisse in Security-Engineering, Systemadministration oder Cloud-Betrieb
  • Vertrautheit mit Konzepten der KI/ML und dem Verhalten grosser Sprachmodelle (LLM)
  • Erfahrung im Identitäts- und Zugriffsmanagement (IAM) sowie in der sicheren Systemgestaltung

Zielgruppe

  • Security-Engineers und Red-Teamer
  • AI-Operations- und Plattform-Ingenieure
  • Compliance-Beauftragte und Risikomanager
  • Engineering-Leads, die für den Einsatz von Agenten verantwortlich sind

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Erfahrungsberichte (1)

Kommende Kurse

Verwandte Kategorien