Schulungsübersicht
Einführung in Edge-AI und eingebettete Systeme
- Was ist Edge-AI? Anwendungsfälle und Einschränkungen
- Hardware-Plattformen und Software-Stacks für den Edge
- Sicherheitsherausforderungen in eingebetteten und dezentralisierten Umgebungen
Bedrohungslage für Edge-AI
- Risiken durch physischen Zugriff und Manipulation
- Adversariale Beispiele und Modellmanipulation
- Datenlecks und Angriffe zur Umkehrung von Modellen (Model Inversion)
Sicherung des Modells
- Strategien zum Härten und Quantisieren von Modellen
- Watermarking und Fingerabdrücke für Modelle
- Verteidigende Destillation (Defensive Distillation) und Pruning
Verschlüsselte Inferenz und sichere Ausführung
- Vertrauenswürdige Ausführumgebungen (TEEs) für KI
- Sichere Enklaven und Confidential Computing
- Verschlüsselte Inferenz mittels homomorpher Verschlüsselung oder SMPC
Erkennung von Manipulationen und Steuerungsebenen auf Geräteebene
- Secure Boot und Integritätsprüfungen der Firmware
- Sensorevalidierung und Anomalieerkennung
- Remote Attestation und Gesundheitsüberwachung des Geräts
Integration der Edge-Cloud-Sicherheit
- Sichere Datenübertragung und Schlüsselverwaltung
- Ende-zu-Ende-Verschlüsselung und Schutz des Datenlebenszyklus
- Orchestrierung von Cloud-KI unter Einhaltung der Edge-Sicherheitsbeschränkungen
Best Practices und Strategien zur Risikominderung
- Threat Modeling für Edge-AI-Systeme
- Sicherheitsdesignprinzipien für eingebettete Intelligenz
- Incident Response und Management von Firmware-Updates
Zusammenfassung und nächste Schritte
Voraussetzungen
- Verständnis für eingebettete Systeme oder Deployment-Umgebungen von Edge-AI
- Erfahrung mit Python und ML-Frameworks (z. B. TensorFlow Lite, PyTorch Mobile)
- Grundkenntnisse in Cybersicherheit oder IoT-Bedrohungsmodellen
Zielgruppe
- Entwicklerinnen und Entwickler für eingebettete KI
- IoT-Sicherheitsspezialistinnen und -spezialisten
- Ingenieurinnen und Ingenieure, die ML-Modelle am Edge oder auf ressourcenbeschränkten Geräten bereitstellen
Erfahrungsberichte (2)
Ich habe viel Spaß beim Erlernen von KI-Angriffen und den verfügbaren Tools gehabt, um mit Sicherheitsprüfungen zu beginnen und diese aktiv einzusetzen. Ich habe viele neue Erkenntnisse gewonnen, die ich zuvor noch nicht hatte, und der Kurs hat meine Erwartungen erfüllt. Mein Lieblingsbereich aus dem Training war der Comet Browser, und ich war von seinen Möglichkeiten beeindruckt. Auf jeden Fall werde ich mich damit intensiver beschäftigen. Insgesamt war es ein großartiger Kurs, und ich habe das Lernen über die OWASP GenAI Top 10 sehr genossen.
Patrick Collins - Optum
Kurs - OWASP GenAI Security
Maschinelle Übersetzung
Das professionelle Wissen und die Art, wie er es uns präsentierte
Miroslav Nachev - PUBLIC COURSE
Kurs - Cybersecurity in AI Systems
Maschinelle Übersetzung