Schulungsübersicht
Einführung in die Sicherheit von TinyML
- Sicherheitsherausforderungen bei ML-Systemen mit begrenzten Ressourcen
- Bedrohungsmodelle für TinyML-Bereitstellungen
- Risikokategorien für embedded AI-Anwendungen
Datenschutz in Edge-AI
- Datenschutzaspekte bei der On-Device-Datenverarbeitung
- Minimierung der Datenexposition und des Datentransfers
- Techniken für dezentrales Datenmanagement
Adversarielle Angriffe auf TinyML-Modelle
- Bedrohungen durch Model-Evasion und Model Poisoning
- Manipulation von Eingaben über eingebettete Sensoren
- Bewertung der Anfälligkeit in ressourcenbeschränkten Umgebungen
Security-Härtung für embedded ML
- Firmware- und Hardware-Schutzschichten
- Zugriffskontrolle und sichere Boot-Mechanismen
- Best Practices zum Schutz von Inferenz-Pipelines
Datenschutzfreundliche TinyML-Techniken
- Quantisierung und Überlegungen zum Modellentwurf mit Fokus auf Privatsphäre
- Techniken zur On-Device-Anonymisierung
- Leichtgewichtige Verschlüsselung und Methoden für sichere Berechnungen
Sichere Bereitstellung und Wartung
- Sichere Provisioning von TinyML-Geräten
- OTA-Updates und Strategien zur Patchverwaltung
- Überwachung und Incident Response am Edge
Testing und Validierung sicherer TinyML-Systeme
- Frameworks für Sicherheits- und Datenschutztests
- Simulation realer Angriffsszenarien
- Validierung und Aspekte der Compliance
Fallstudien und angewandte Szenarien
- Sicherheitsfehler in Edge-AI-Ökosystemen
- Entwurf widerstandsfähiger TinyML-Architekturen
- Abwägung zwischen Leistung und Schutzmaßnahmen
Zusammenfassung und nächste Schritte
Voraussetzungen
- Kenntnisse über Architekturen eingebetteter Systeme
- Erfahrung mit Machine-Learning-Workflows
- Grundlagenwissen der Cybersicherheit
Zielgruppe
- Sicherheitsspezialisten
- KI-Entwickler
- Ingenieurinnen und Ingenieure für eingebettete Systeme
Erfahrungsberichte (2)
Ich habe viel Spaß beim Erlernen von KI-Angriffen und den verfügbaren Tools gehabt, um mit Sicherheitsprüfungen zu beginnen und diese aktiv einzusetzen. Ich habe viele neue Erkenntnisse gewonnen, die ich zuvor noch nicht hatte, und der Kurs hat meine Erwartungen erfüllt. Mein Lieblingsbereich aus dem Training war der Comet Browser, und ich war von seinen Möglichkeiten beeindruckt. Auf jeden Fall werde ich mich damit intensiver beschäftigen. Insgesamt war es ein großartiger Kurs, und ich habe das Lernen über die OWASP GenAI Top 10 sehr genossen.
Patrick Collins - Optum
Kurs - OWASP GenAI Security
Maschinelle Übersetzung
Das professionelle Wissen und die Art, wie er es uns präsentierte
Miroslav Nachev - PUBLIC COURSE
Kurs - Cybersecurity in AI Systems
Maschinelle Übersetzung