Kontakt aufnehmen

Schulungsübersicht

Grundlagen: Threat Models für Agentic AI

  • Arten agentic Bedrohungen: Fehlverwendung, Eskalation, Datenleckage und Risiken in der Lieferkette
  • Adversary-Profile und spezifische Fähigkeiten von Angreifenden gegenüber autonomen Agenten
  • Mapping von Assets, Vertrauensgrenzen und kritischen Kontrollpunkten für Agenten

Governance, Richtlinien und Risikomanagement

  • Governance-Frameworks für Agentic-Systeme (Rollen, Verantwortlichkeiten, Freigabeprozesse)
  • Richtliniengestaltung: Akzeptable Nutzung, Eskalationsregeln, Datenhandhabung und Nachvollziehbarkeit
  • Compliance-Anforderungen und Beweissicherung für Audits

Nicht-menschliche Identität & Authentifizierung für Agenten

  • Gestaltung von Agenten-Identitäten: Service Accounts, JWTs und kurzlebige Credentials
  • Muster für Least-Privilege-Zugriff und Just-in-Time-Bereitstellung von Credentials
  • Identitätslebenszyklus, Rotation, Delegation und Revocation-Strategien

Zugriffskontrollen, Secrets und Datenschutz

  • Fein granulierte Zugriffskontrollmodelle und capability-basierte Muster für Agenten
  • Secrets-Management, Verschlüsselung während der Übertragung und im Ruhezustand sowie Data Minimization
  • Schutz sensibler Wissensquellen und personenbezogener Daten vor unberechtigtem Zugriff durch Agenten

Observability, Auditing und Incident Response

  • Gestaltung von Telemetrie für das Verhalten von Agenten: Intent-Tracing, Befehlslogs und Provenance
  • SIEM-Integration, Schwellwerte für Alarmierung und forensische Vorbereittheit
  • Runbooks und Playbooks für agentenbezogene Vorfälle und Eindämmungsmaßnahmen

Red-Teaming von Agentic-Systemen

  • Planung von Red-Team-Übungen: Umfang, Spielregeln und sicherer Fallback
  • Adversariale Techniken: Prompt Injection, Fehlverwendung von Tools, Manipulation des Thought Chains und API-Missbrauch
  • Durchführung kontrollierter Angriffe sowie Messung von Exposition und Auswirkungen

Hardening und Schutzmassnahmen

  • Technische Kontrollen: Antwort-Drosselung, Capability Gating und Sandboxing
  • Policy- und Orchestrierungskontrollen: Freigabeflows, Human-in-the-Loop und Governance-Hooks
  • Abwehrmechanismen auf Model- und Prompt-Ebene: Input-Validierung, Kanonisierung und Output-Filter

Betriebliche Umsetzung sicherer Agenten-Einsätze

  • Deployment-Muster: Staging, Canary Releases und progressive Bereitstellung für Agenten
  • Change Control, Test-Pipelines und Sicherheitschecks vor dem Deployment
  • Funktionsübergreifende Governance: Security-, Legal-, Product- und Ops-Playbooks

Capstone: Red-Team-/Blue-Team-Übung

  • Durchführung eines simulierten Red-Team-Angriffs gegen eine gesandste Agentic-Umgebung
  • Verteidigung, Erkennung und Behebung als Blue Team unter Einsatz von Kontrollen und Telemetrie
  • Präsentation der Ergebnisse, des Sanierungsplans und der Richtlinienaktualisierungen

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Fundierte Kenntnisse in Security Engineering, Systemadministration oder Cloud-Betrieb
  • Vertrautheit mit KI-/ML-Konzepten und dem Verhalten von Large Language Models (LLM)
  • Erfahrung mit Identity & Access Management (IAM) und sicherer Systemarchitektur

Zielgruppe

  • Security Engineers und Red-Team-Mitglieder
  • Fachkräfte für AI Operations und Platform Engineering
  • Compliance-Beauftragte und Risikomanager
  • Technische Leiter:innen, die für den Einsatz von Agenten verantwortlich sind
 21 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Kommende Kurse

Verwandte Kategorien