Sichere und abgedeckte agentische KI: Governance, Identität und Red-Teaming Schulung

Dieser live stattfindende, dozentengestützte Kurs in Schweiz (online oder vor Ort) richtet sich an Führungskräfte auf mittlerem Managementniveau, die verstehen möchten, wie sie KISysteme verantwortungsvoll und konform mit aktuellen globalen Rahmenwerken steuern und absichern können, wie etwa der EU-KI-Verordnung, der DSGVO, ISO/IEC 42001 sowie dem US-amerikanischen Executive Order zu Künstlicher Intelligenz.

Nach Abschluss dieser Schulung sind die Teilnehmer in der Lage:

• Die rechtlichen, ethischen und regulatorischen Risiken des KI-Einsatzes über Abteilungen hinweg zu verstehen.
• Wichtige AI-Governance-Rahmenwerke (EU-KI-Verordnung, NIST AI RMF, ISO/IEC 42001) zu interpretieren und anzuwenden.
• Sicherheits-, Prüfungs- und Aufsichtsrichtlinien für den KI-Einsatz im Unternehmen zu etablieren.
• Richtlinien für die Beschaffung und Nutzung von KI-Systemen (dritter Anbieter und in-house) zu entwickeln.

Dieser Kurs bietet eine praxisnahe Einführung in die Sicherung moderner KI-gestützter Anwendungen, APIs, Copilots und autonomer Agenten. Die Teilnehmenden lernen, wie sich KI-Sicherheit von traditioneller Websicherheit unterscheidet, erkunden häufige, KI-spezifische Bedrohungen wie Prompt-Injection, RAG-Poisoning und Agenten-Missbrauch und verstehen, wie KI-Systeme durch mehrschichtige Abwehrmassnahmen geschützt werden können – darunter WAFs, KI-Gateways, API-Sicherheit und Guardrails. Anhand praktischer Labore und realer Beispiele erwerben die Teilnehmenden die Fähigkeiten, KI-Angriffsmuster zu identifizieren, LLM-basierte Anwendungen zu sichern und wirksame Laufzeitschutzmassnahmen in Produktivumgebungen einzusetzen.

Dieses live angebotene Training in Schweiz (online oder vor Ort) richtet sich an IT-Fachleute vom Anfänger- bis zum mittleren Niveau, die AI TRiSM in ihren Organisationen verstehen und implementieren möchten.

Am Ende dieses Trainings werden die Teilnehmenden:

• Die wichtigsten Konzepte und die Bedeutung von KI-Vertrauen, Risikomanagement und Sicherheitsmanagement erfassen können.
• Risiken im Zusammenhang mit KI-Systemen identifizieren und mindern können.
• Sicherheits-Best-Practices für KI umsetzen können.
• Die regulatorische Compliance und ethische Aspekte von KI verstehen können.
• Strategien für effektives KI-Governance und Management entwickeln können.

Diese angeleitete, live durchgeführte Schulung in Schweiz (online oder vor Ort) richtet sich an KI-Entwickler:innen auf fortgeschrittenem Niveau sowie an Architekt:innen und Produktmanager:innen, die Risiken im Zusammenhang mit LLM-gestützten Anwendungen identifizieren und mindern möchten. Dazu zählen Prompt-Injection-Datenlecks und nicht gefilterte Ausgaben. Gleichzeitig werden Sicherheitsmassnahmen wie Eingabevalidierung, menschliche Überwachung (Human-in-the-Loop) sowie Guardrails für die Ausgabeintegration erarbeitet.

Nach Abschluss dieser Schulung sind die Teilnehmer:innen in der Lage:

• Die Kernverwundbarkeiten von LLM-basierten Systemen zu verstehen.
• Sichere Gestaltungsprinzipien auf die Architektur von LLM-Anwendungen anzuwenden.
• Tools wie Guardrails AI und LangChain für Validierung, Filterung und Sicherheit einzusetzen.
• Techniken wie Sandboxing, Red-Teaming und menschliche Überprüfung in produktionsreifen Pipelines zu integrieren.