Kontakt aufnehmen

Schulungsübersicht

Grundlagen der sicheren lokalen KI

  • Was lokale und On-Prem-KI in regulierten Umgebungen bedeuten
  • Cloud-KI versus interne Bereitstellung für sensible Arbeitslasten
  • Gängige Unternehmensanwendungsfälle für private Assistenten und Workflow-Unterstützung
  • Kernkomponenten einer sicheren lokalen KI-Architektur

Ollama und Grundlagen offener Modelle

  • Wie Ollama in eine lokale Entwicklungspipeline passt
  • Modelle lokal herunterladen, ausführen und verwalten
  • Modellwahl basierend auf Grösse, Qualität, Hardware und Lizenz
  • Modellauswahl an praktische Geschäftsaufgaben anpassen

Vorbereitung der On-Prem-Umgebung

  • Vorbereitung von Host, Workstation und Server
  • Installation und Konfiguration von Ollama für lokale Inferenz
  • Nutzung von Containern und interner Entwicklungstooling
  • Überprüfung des API-Zugangs und der grundlegenden Betriebsbereitschaft

Effektiver Umgang mit lokalen Modellen

  • Prompts ausführen und Ausgaben durch Systeminstruktionen formen
  • Vorlagen für konsistente Unternehmensaufgaben wiederverwenden
  • Modellversionen und interne Artefakte verwalten
  • Grundlegende Leistungsoptimierung für CPU- und GPU-Bereitstellungen

Aufbau praktischer agentic Workflows

  • Was einen Workflow in einem kontrollierten Setting agentic macht
  • Einfache Muster für Planung, Werkzeugnutzung und Antwort-Loops
  • Aufgabenfokussierte Assistenten für interne Abläufe entwerfen
  • Menschliche Überprüfung, Fallback-Logik und Fehlerbehandlung hinzufügen

Private Retrieval-Workflows

  • Grundlagen der retrieval-augmented generation für den internen Wissenszugang
  • Dokumente für Chunking, Indizierung und Suche vorbereiten
  • Einen lokalen Vektorspeicher mit einer Ollama-basierten Anwendung verbinden
  • Relevanz und Antwortqualität durch bessere Retrieval-Muster verbessern

Sicherheits-, Governance- und Compliance-Praktiken

  • Grenzen des Datenmanagements und Datenschutzaspekte
  • Zugriffskontrolle, Protokollierung und Audit-Unterstützung
  • Prompt-Sicherheit, Ausgabe-Kontrollen und Guardrails
  • Governance-Massnahmenpunkte für regulierte Bereitstellung und Betrieb

Unternehmens-Integrationsmuster

  • Lokale KI-Fähigkeiten über interne APIs bereitstellen
  • Assistenten in interne Anwendungen und Dienste integrieren
  • Unterstützung von Assistenten-, Batch- und Workflow-Automatisierungsfällen
  • Lösungen innerhalb kontrollierter Netzwerk-Grenzen halten

Bewertung lokaler KI-Lösungen

  • Qualität, Zuverlässigkeit und Konsistenz bewerten
  • Tests gegen Geschäfts-, Policy- und Sicherheitsanforderungen durchführen
  • Modellauswahl für spezifische Unternehmensaufgaben vergleichen
  • Einen praktischen Verbesserungszyklus für interne Teams etablieren

Praktisches Implementierungs-Labor

  • Erstellung eines privaten Assistenten mit Ollama und einem offenen Modell
  • Retrieval über genehmigte interne Dokumente hinzufügen
  • Einfache agentic Aktionen und Sicherheitskontrollen einführen
  • Bereitstellung, Betrieb und Governance-Massnahmenpunkte überprüfen

Adoptionsplanung und nächste Schritte

  • Wichtige Design- und Bereitstellungsentscheidungen zusammenfassen
  • Häufige Fallstricke in regulierten KI-Projekten identifizieren
  • Pilot-Anwendungsfälle und Stakeholder-Ausrichtung planen
  • Einen Fahrplan für die sichere lokale KI-Adoption definieren

Voraussetzungen

  • Grundlegendes Verständnis von KI-Konzepten und Softwareentwicklung
  • Vertrautheit mit Command-Line-Tools, Containern oder lokalen Entwicklungsumgebungen
  • Grundlegende Erfahrung in Skripterstellung oder Programmierung

Zielgruppe

  • Entwickler und technische Teams, die private KI-Lösungen auf interner Infrastruktur erstellen
  • Fachleute für Sicherheit, Compliance und Plattformen, die KI in regulierten Umgebungen unterstützen
  • Technische Führungskräfte in den Bereichen Finanzen, Gesundheitswesen, Regierung und Verteidigung, die die Einführung von On-Prem-KI bewerten
 21 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Kommende Kurse

Verwandte Kategorien