Red Teaming von KI-Systemen: Offensive Sicherheit für ML-Modelle Schulung

AAISM ist ein fortgeschrittenes Framework zur Bewertung, Steuerung und Verwaltung von Sicherheitsrisiken in Künstlichen-Intelligenz-Systemen.

Diese instruktionsgeleitete Live-Schulung (online oder vor Ort) richtet sich an Fachleute auf fortgeschrittenem Niveau, die wirksame Sicherheitskontrollen und Governance-Praktiken für Unternehmens-KI-Umgebungen implementieren möchten.

Am Ende dieses Programms sind die Teilnehmenden in der Lage:

• KI-Sicherheitsrisiken mit branchenweit anerkannten Methoden zu bewerten.
• Governance-Modelle für den verantwortungsvollen Einsatz von KI zu implementieren.
• KI-Sicherheitsrichtlinien an den organisatorischen Zielen und regulatorischen Anforderungen auszurichten.
• Die Resilienz und Rechenschaftspflicht in KI-gestützten Prozessen zu stärken.

Format des Kurses

• Von einem Dozenten geleitete Vorträge, ergänzt durch Expertenanalysen.
• Praktische Workshops und bewertungsbasierte Aktivitäten.
• Angeleitete Übungen anhand realer KI-Governance-Szenarien.

Möglichkeiten zur Kursanpassung

• Für massgeschneiderte Schulungen, die auf Ihre organisationspezifische KI-Strategie abgestimmt sind, kontaktieren Sie uns bitte, um den Kurs individuell anzupassen.

Dieser live stattfindende, dozentengestützte Kurs in Schweiz (online oder vor Ort) richtet sich an Führungskräfte auf mittlerem Managementniveau, die verstehen möchten, wie sie KISysteme verantwortungsvoll und konform mit aktuellen globalen Rahmenwerken steuern und absichern können, wie etwa der EU-KI-Verordnung, der DSGVO, ISO/IEC 42001 sowie dem US-amerikanischen Executive Order zu Künstlicher Intelligenz.

Nach Abschluss dieser Schulung sind die Teilnehmer in der Lage:

• Die rechtlichen, ethischen und regulatorischen Risiken des KI-Einsatzes über Abteilungen hinweg zu verstehen.
• Wichtige AI-Governance-Rahmenwerke (EU-KI-Verordnung, NIST AI RMF, ISO/IEC 42001) zu interpretieren und anzuwenden.
• Sicherheits-, Prüfungs- und Aufsichtsrichtlinien für den KI-Einsatz im Unternehmen zu etablieren.
• Richtlinien für die Beschaffung und Nutzung von KI-Systemen (dritter Anbieter und in-house) zu entwickeln.

Künstliche Intelligenz (KI) führt für Regierungsbehörden und -abteilungen zu neuen Dimensionen operativer Risiken, Herausforderungen in der Governance sowie erhöhter Angriffsfläche für die Cybersicherheit.

Diese von Instruktoren geleitete Live-Weiterbildung (online oder vor Ort) richtet sich an IT- und Risikoexperten im öffentlichen Sektor mit begrenzter Vorerfahrung in KI, die verstehen möchten, wie KI-Systeme innerhalb eines Regierungs- oder regulatorischen Kontexts bewertet, überwacht und gesichert werden können.

Am Ende dieser Schulung sind die Teilnehmer in der Lage:

• Schlüsselkonzepte im Zusammenhang mit KI-Risiken zu interpretieren, darunter Bias (Verzerrung), Unvorhersehbarkeit und Model Drift.
• KI-spezifische Governance- und Audit-Frameworks wie den NIST AI RMF und ISO/IEC 42001 anzuwenden.
• Cybersicherheitsbedrohungen zu erkennen, die auf KI-Modelle und Datenpipelines abzielen.
• ressortübergreifende Risikomanagementpläne und Richtlinien für den Einsatz von KI zu etablieren.

Kursformat

• Interaktive Vorträge und Diskussion öffentlicher Anwendungsbeispiele.
• Übungen zur KI-Governance und Zuordnung von Richtlinien.
• Szenariobasierte Bedrohungsmodellierung und Risikobewertung.

Optionen zur Kursanpassung

• Wenn Sie eine maßgeschneiderte Schulung für diesen Kurs anfordern möchten, kontaktieren Sie uns bitte, um die Details zu besprechen.

Dieser Kurs bietet eine praxisnahe Einführung in die Sicherung moderner KI-gestützter Anwendungen, APIs, Copilots und autonomer Agenten. Die Teilnehmenden lernen, wie sich KI-Sicherheit von traditioneller Websicherheit unterscheidet, erkunden häufige, KI-spezifische Bedrohungen wie Prompt-Injection, RAG-Poisoning und Agenten-Missbrauch und verstehen, wie KI-Systeme durch mehrschichtige Abwehrmassnahmen geschützt werden können – darunter WAFs, KI-Gateways, API-Sicherheit und Guardrails. Anhand praktischer Labore und realer Beispiele erwerben die Teilnehmenden die Fähigkeiten, KI-Angriffsmuster zu identifizieren, LLM-basierte Anwendungen zu sichern und wirksame Laufzeitschutzmassnahmen in Produktivumgebungen einzusetzen.

Dieses live angebotene Training in Schweiz (online oder vor Ort) richtet sich an IT-Fachleute vom Anfänger- bis zum mittleren Niveau, die AI TRiSM in ihren Organisationen verstehen und implementieren möchten.

Am Ende dieses Trainings werden die Teilnehmenden:

• Die wichtigsten Konzepte und die Bedeutung von KI-Vertrauen, Risikomanagement und Sicherheitsmanagement erfassen können.
• Risiken im Zusammenhang mit KI-Systemen identifizieren und mindern können.
• Sicherheits-Best-Practices für KI umsetzen können.
• Die regulatorische Compliance und ethische Aspekte von KI verstehen können.
• Strategien für effektives KI-Governance und Management entwickeln können.

Diese angeleitete, live durchgeführte Schulung in Schweiz (online oder vor Ort) richtet sich an KI-Entwickler:innen auf fortgeschrittenem Niveau sowie an Architekt:innen und Produktmanager:innen, die Risiken im Zusammenhang mit LLM-gestützten Anwendungen identifizieren und mindern möchten. Dazu zählen Prompt-Injection-Datenlecks und nicht gefilterte Ausgaben. Gleichzeitig werden Sicherheitsmassnahmen wie Eingabevalidierung, menschliche Überwachung (Human-in-the-Loop) sowie Guardrails für die Ausgabeintegration erarbeitet.

Nach Abschluss dieser Schulung sind die Teilnehmer:innen in der Lage:

• Die Kernverwundbarkeiten von LLM-basierten Systemen zu verstehen.
• Sichere Gestaltungsprinzipien auf die Architektur von LLM-Anwendungen anzuwenden.
• Tools wie Guardrails AI und LangChain für Validierung, Filterung und Sicherheit einzusetzen.
• Techniken wie Sandboxing, Red-Teaming und menschliche Überprüfung in produktionsreifen Pipelines zu integrieren.

Dieser Kurs vermittelt Softwareentwicklern, wie sie KI-gestützte Anwendungen von Grund auf sicher gestalten. Die Teilnehmenden lernen, wie Chatbots, Copilots, RAG-Pipelines und KI-Agents vor spezifischen KI-Bedrohungen wie Prompt Injection, Datenvergiftung, Tool-Missbrauch, Geheimnis-Lecks und unsicheren Modellausgaben geschützt werden können. Der Kurs behandelt sicheres Prompt-Design, RAG-Sicherheit, Least-Privilege-Zugriff, Guardrails und Red-Team-Tests, um Entwicklern zu helfen, KI-Funktionen zu erstellen, die in realen Umgebungen sicher, zuverlässig und widerstandsfähig sind.

Diese live stattfindende Schulung mit Dozentenleitung in Schweiz (online oder vor Ort) richtet sich an Teilnehmer der mittleren Stufe aus den Bereichen KI und Cybersicherheit, die die spezifischen Sicherheitslücken von KI-Modellen und -Systemen verstehen und adressieren möchten, insbesondere in stark regulierten Branchen wie Finanzen, Daten Governance und Beratung.

Nach Abschluss dieser Schulung sind die Teilnehmer in der Lage:

• Die Art adversarialer Angriffe auf KI-Systeme zu verstehen sowie Abwehrmethoden anzuwenden.
• Techniken zur Modellhärtung zu implementieren, um Machine-Learning-Pipelines zu sichern.
• Die Datensicherheit und Integrität in Machine-Learning-Modellen sicherzustellen.
• Sich in den regulatorischen Compliance-Anforderungen im Zusammenhang mit der KI-Sicherheit zurechtzufinden.

Dieser instruktionsgeleitete, live durchgeführte Kurs in Schweiz (online oder vor Ort) richtet sich an Sicherheitstechniker:innen und Compliance-Beauftragte, die ihre EXO-Installationen härten, den Modellzugriff steuern und AI-Workloads verwalten möchten, die vollständig auf eigene Infrastruktur laufen.

Dieser live stattfindende, instruktor geleitete Kurs in Schweiz (online oder vor Ort) richtet sich an Berufseinsteiger:innen im Bereich IT-Sicherheit, Risikomanagement und Compliance, die Grundlagen der KI-Sicherheit, Bedrohungsvektoren sowie globale Rahmenwerke wie den NIST AI RMF und ISO/IEC 42001 verstehen möchten.

Am Ende dieses Kurses werden die Teilnehmenden in der Lage sein:

• Die spezifischen Sicherheitsrisiken zu verstehen, die durch KI-Systeme entstehen.
• Bedrohungsvektoren wie adversariale Angriffe, Data Poisoning und Model Inversion zu identifizieren.
• Grundlagen der Governance-Modelle, wie z. B. den NIST AI Risk Management Framework (NIST AI RMF), anzuwenden.
• KI-Anwendungen mit neu entstehenden Standards, Compliance-Richtlinien und ethischen Grundsätzen in Einklang zu bringen.

Diese instructor-led-Liveschulung in Schweiz (online oder vor Ort) richtet sich an Sicherheits- und ML-Ingenieure, die Angriffe auf ML-Modelle und LLM-gestützte Anwendungen identifizieren, testen und abwehren müssen.

Basierend auf der neuesten Leitlinie des OWASP GenAI Security Project lernen die Teilnehmer, AI-spezifische Bedrohungen zu identifizieren, zu bewerten und durch praktische Übungen und realistische Szenarien abzumildern.

Diese von einem Dozenten geleitete Live-Schulung in Schweiz (online oder vor Ort) richtet sich an fortgeschrittene Fachkräfte, die Techniken wie Federated Learning, Secure Multi-Party Computation, Homomorphic Encryption und Differential Privacy in realweltlichen Machine-Learning-Pipelines implementieren und bewerten möchten.

Am Ende dieser Schulung werden die Teilnehmer:

• Schlüsseltechnologien zum Schutz der Privatsphäre im Maschinenlernen verstehen und vergleichen können.
• Federated-Learning-Systeme mit Open-Source-Frameworks implementieren können.
• Differential Privacy für sicheres Daten-Sharing und Modelltraining anwenden können.
• Verschlüsselungs- und sichere Berechnungstechniken nutzen können, um Eingaben und Ausgaben von Modellen zu schützen.

Dieser von Dozenten geleitete Live-Kurs in Schweiz (online oder vor Ort) richtet sich an Ingenieurinnen und Ingenieure sowie Sicherheitsexpertinnen und -experten mit fortgeschrittenen Kenntnissen, die ihre AI-Modelle am Edge gegen Bedrohungen wie Manipulation, Datenlecks, adversarische Eingaben und physische Angriffe absichern möchten.

Nach Abschluss dieses Kurses sind die Teilnehmerinnen und Teilnehmer in der Lage:

• Sicherheitsrisiken bei Edge-AI-Implementierungen zu identifizieren und zu bewerten.
• Techniken zur Widerstandsfähigkeit gegen Manipulation und zu verschlüsselter Inferenz anzuwenden.
• Am Edge bereitgestellte Modelle zu härten und Datenpipelines abzusichern.
• Gezielte Strategien zur Bedrohminderung für eingebettete und ressourcenbeschränkte Systeme zu implementieren.

Diese live dozierierte Schulung in Schweiz (online oder vor Ort) richtet sich an Fachkräfte mit fortgeschrittenen Kenntnissen in den Bereichen Machine Learning und Cybersicherheit, die neu entstehende Bedrohungen gegen KI-Modelle verstehen und abschwächen möchten. Dabei werden sowohl konzeptionelle Rahmenwerke als auch praktische Abwehrmassnahmen wie robustes Training und Differential Privacy angewendet.

Am Ende dieser Schulung werden die Teilnehmenden in der Lage sein:

• KI-spezifische Bedrohungen wie adversarielle Angriffe, Inversion und Poisoning zu identifizieren und zu klassifizieren.
• Tools wie die Adversarial Robustness Toolbox (ART) einzusetzen, um Angriffe zu simulieren und Modelle zu testen.
• Praktische Abwehrmassnahmen anzuwenden, darunter adversariales Training, Rauscheinbringung und datenschutzfreundliche Techniken.
• Bedrohungsbewusste Strategien zur Modell evaluation in Produktionsumgebungen zu entwerfen.