Schulungsübersicht
Einführung in das Threat Modeling für KI
- Was macht KI-Systeme verletzlich?
- Angriffsfläche von KI im Vergleich zu traditionellen Systemen
- Wichtige Angriffskanäle: Daten-, Modell-, Ausgabe- und Schnittstellenebenen
Adversarielle Angriffe auf KI-Modelle
- Verständnis von adversarialen Beispielen und Störtechniken
- White-Box-Angriffe vs. Black-Box-Angriffe
- FGSM-, PGD- und DeepFool-Methoden
- Visualisierung und Erstellung adversarialer Samples
Modelinversion und Datenschutzlecks
- Ableiten der Trainingsdaten aus den Modelldaten
- Membership-Inference-Angriffe
- Datenschutzrisiken in Klassifikations- und Generativmodellen
Data Poisoning und Backdoor-Injection
- Wie vergiftete Daten das Modellverhalten beeinflussen
- Trigger-basierte Backdoors und Trojan-Angriffe
- Strategien zur Erkennung und Reinigung
Robustheit und Abwehrtechniken
- Adversariales Training und Data Augmentation
- Gradient Masking und Eingabevorverarbeitung
- Modellglättung und Regularisierungstechniken
Datenschutzfreundliche KI-Abwehrmassnahmen
- Einführung in Differential Privacy
- Rauscheinbringung und Datenschutzbudgets
- Federated Learning und sicheres Aggregieren
KI-Sicherheit in der Praxis
- Bedrohungsbewusste Modell evaluation und Bereitstellung
- Einsatz von ART (Adversarial Robustness Toolbox) in Anwendungskontexten
- Branchen-Casestudies: reale Sicherheitsvorfälle und Abwehrmassnahmen
Zusammenfassung und weitere Schritte
Voraussetzungen
- Grundkenntnisse in Machine-Learning-Abläufen und dem Modelltraining
- Erfahrung mit Python sowie gängigen ML-Frameworks wie PyTorch oder TensorFlow
- Vertrautheit mit grundlegenden Sicherheits- oder Threat-Modeling-Konzepten ist von Vorteil
Zielgruppe
- Machine-Learning-Ingenieurinnen und -Ingenieure
- Cybersicherheitsanalytiker und -analytikerinnen
- KI-Forscher und Forscherinnen sowie Teams zur Modellvalidierung
Erfahrungsberichte (2)
Ich habe viel Spaß beim Erlernen von KI-Angriffen und den verfügbaren Tools gehabt, um mit Sicherheitsprüfungen zu beginnen und diese aktiv einzusetzen. Ich habe viele neue Erkenntnisse gewonnen, die ich zuvor noch nicht hatte, und der Kurs hat meine Erwartungen erfüllt. Mein Lieblingsbereich aus dem Training war der Comet Browser, und ich war von seinen Möglichkeiten beeindruckt. Auf jeden Fall werde ich mich damit intensiver beschäftigen. Insgesamt war es ein großartiger Kurs, und ich habe das Lernen über die OWASP GenAI Top 10 sehr genossen.
Patrick Collins - Optum
Kurs - OWASP GenAI Security
Maschinelle Übersetzung
Das professionelle Wissen und die Art, wie er es uns präsentierte
Miroslav Nachev - PUBLIC COURSE
Kurs - Cybersecurity in AI Systems
Maschinelle Übersetzung
