Kontakt aufnehmen

Schulungsübersicht

Grundlagen sicherer lokaler KI

  • Was lokale und On-Prem-KI in regulierten Umgebungen bedeutet
  • KI in der Cloud versus interne Bereitstellung für sensible Arbeitslasten
  • Häufige Unternehmensanwendungsfälle für private Assistenten und Workflow-Unterstützung
  • Kernkomponenten einer sicheren lokalen KI-Architektur

Ollama und Grundlagen offener Modelle

  • Wie Ollama in eine lokale Entwicklungsstruktur passt
  • Modelle lokal herunterladen, ausführen und verwalten
  • Auswahl der Modelle basierend auf Grösse, Qualität, Hardware und Lizenz
  • Anpassung der Modelloptionen an praktische Geschäftsaufgaben

Vorbereitung der On-Prem-Umgebung

  • Vorbereitung von Hosts, Workstations und Servern
  • Installation und Konfiguration von Ollama für lokale Inferenz
  • Nutzung von Containern und interner Entwicklungstechnologie
  • Überprüfung des API-Zugriffs und der grundlegenden Betriebsbereitschaft

Effektiver Umgang mit lokalen Modellen

  • Prompts ausführen und Ausgaben mit Systemanweisungen formen
  • Vorlagen für konsistente Unternehmensaufgaben wiederverwenden
  • Modelversionen und interne Artefakte verwalten
  • Basis-Performance-Tuning für CPU- und GPU-Bereitstellungen

Aufbau praktischer agentic Workflows

  • Was einen Workflow in einem kontrollierten Setting agentic macht
  • Einfache Muster für Planung, Tool-Nutzung und Antwort-Schleifen
  • Entwicklung aufgabenfokussierter Assistenten für interne Abläufe
  • Hinzufügen von menschlicher Überprüfung, Fallback-Logik und Fehlerbehandlung

Private Retrieval-Workflows

  • Grundlagen der retrieval-augmented Generation (RAG) für den Zugriff auf internes Wissen
  • Vorbereitung von Dokumenten für Chunking, Indexierung und Suche
  • Anbindung eines lokalen Vektorspeichers an eine Ollama-basierte Anwendung
  • Verbesserung der Relevanz und Antwortqualität durch optimierte Retrieval-Muster

Sicherheit, Governance und Compliance-Praktiken

  • Grenzen des Datenumgangs und Datenschutzüberlegungen
  • Zugriffskontrolle, Protokollierung und Audit-Unterstützung
  • Prompt-Sicherheit, Ausgabenkontrollen und Guardrails
  • Governance-Kontrollpunkte für regulierte Bereitstellung und Betrieb

Enterprise-Integrationsmuster

  • Bereitstellung lokaler KI-Fähigkeiten über interne APIs
  • Integration von Assistenten mit internen Anwendungen und Diensten
  • Unterstützung von Assistenten-, Batch- und Workflow-Automatisierungsfällen
  • Aufrechterhaltung der Lösung innerhalb kontrollierter Netzwerkgrenzen

Evaluierung lokaler KI-Lösungen

  • Bewertung von Qualität, Zuverlässigkeit und Konsistenz
  • Tests gegen Geschäfts-, Policy- und Sicherheitsanforderungen
  • Vergleich von Modelloptionen für spezifische Unternehmensaufgaben
  • Etablierung eines praktischen Verbesserungszyklus für interne Teams

Praktisches Implementierungs-Lab

  • Aufbau eines privaten Assistenten mit Ollama und einem offenen Modell
  • Hinzufügen von Retrieval über genehmigte interne Dokumente
  • Einführung einfacher agentic Aktionen und Sicherheitskontrollen
  • Überprüfung von Bereitstellungs-, Betriebs- und Governance-Kontrollpunkten

Adoptionsplanung und nächste Schritte

  • Übersicht über zentrale Design- und Bereitstellungsentscheidungen
  • Identifikation häufiger Fallstricke bei regulierten KI-Projekten
  • Planung von Pilot-Anwendungsfällen und Stakeholder-Ausrichtung
  • Definition einer Roadmap für die sichere lokale KI-Einführung

Voraussetzungen

  • Grundlegendes Verständnis von KI-Konzepten und Softwareentwicklung
  • Vertrautheit mit Befehlszeilen-Tools, Containern oder lokalen Entwicklungsumgebungen
  • Grundlegende Erfahrungen im Skripting oder Programmieren

Zielgruppe

  • Entwickler und technische Teams, die private KI-Lösungen auf interner Infrastruktur entwickeln
  • Experten für Sicherheit, Compliance und Plattformen, die KI in regulierten Umgebungen unterstützen
  • Technische Führungskräfte aus Finanzwesen, Gesundheitswesen, Regierung und Verteidigung, die die On-Prem-KI-Einführung evaluieren
 21 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Kommende Kurse

Verwandte Kategorien