Vielen Dank für die Zusendung Ihrer Anfrage! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Vielen Dank, dass Sie Ihre Buchung abgeschickt haben! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Schulungsübersicht
Grundlagen sicherer lokaler KI
- Was lokale und On-Prem-KI in regulierten Umgebungen bedeutet
- KI in der Cloud versus interne Bereitstellung für sensible Arbeitslasten
- Häufige Unternehmensanwendungsfälle für private Assistenten und Workflow-Unterstützung
- Kernkomponenten einer sicheren lokalen KI-Architektur
Ollama und Grundlagen offener Modelle
- Wie Ollama in eine lokale Entwicklungsstruktur passt
- Modelle lokal herunterladen, ausführen und verwalten
- Auswahl der Modelle basierend auf Grösse, Qualität, Hardware und Lizenz
- Anpassung der Modelloptionen an praktische Geschäftsaufgaben
Vorbereitung der On-Prem-Umgebung
- Vorbereitung von Hosts, Workstations und Servern
- Installation und Konfiguration von Ollama für lokale Inferenz
- Nutzung von Containern und interner Entwicklungstechnologie
- Überprüfung des API-Zugriffs und der grundlegenden Betriebsbereitschaft
Effektiver Umgang mit lokalen Modellen
- Prompts ausführen und Ausgaben mit Systemanweisungen formen
- Vorlagen für konsistente Unternehmensaufgaben wiederverwenden
- Modelversionen und interne Artefakte verwalten
- Basis-Performance-Tuning für CPU- und GPU-Bereitstellungen
Aufbau praktischer agentic Workflows
- Was einen Workflow in einem kontrollierten Setting agentic macht
- Einfache Muster für Planung, Tool-Nutzung und Antwort-Schleifen
- Entwicklung aufgabenfokussierter Assistenten für interne Abläufe
- Hinzufügen von menschlicher Überprüfung, Fallback-Logik und Fehlerbehandlung
Private Retrieval-Workflows
- Grundlagen der retrieval-augmented Generation (RAG) für den Zugriff auf internes Wissen
- Vorbereitung von Dokumenten für Chunking, Indexierung und Suche
- Anbindung eines lokalen Vektorspeichers an eine Ollama-basierte Anwendung
- Verbesserung der Relevanz und Antwortqualität durch optimierte Retrieval-Muster
Sicherheit, Governance und Compliance-Praktiken
- Grenzen des Datenumgangs und Datenschutzüberlegungen
- Zugriffskontrolle, Protokollierung und Audit-Unterstützung
- Prompt-Sicherheit, Ausgabenkontrollen und Guardrails
- Governance-Kontrollpunkte für regulierte Bereitstellung und Betrieb
Enterprise-Integrationsmuster
- Bereitstellung lokaler KI-Fähigkeiten über interne APIs
- Integration von Assistenten mit internen Anwendungen und Diensten
- Unterstützung von Assistenten-, Batch- und Workflow-Automatisierungsfällen
- Aufrechterhaltung der Lösung innerhalb kontrollierter Netzwerkgrenzen
Evaluierung lokaler KI-Lösungen
- Bewertung von Qualität, Zuverlässigkeit und Konsistenz
- Tests gegen Geschäfts-, Policy- und Sicherheitsanforderungen
- Vergleich von Modelloptionen für spezifische Unternehmensaufgaben
- Etablierung eines praktischen Verbesserungszyklus für interne Teams
Praktisches Implementierungs-Lab
- Aufbau eines privaten Assistenten mit Ollama und einem offenen Modell
- Hinzufügen von Retrieval über genehmigte interne Dokumente
- Einführung einfacher agentic Aktionen und Sicherheitskontrollen
- Überprüfung von Bereitstellungs-, Betriebs- und Governance-Kontrollpunkten
Adoptionsplanung und nächste Schritte
- Übersicht über zentrale Design- und Bereitstellungsentscheidungen
- Identifikation häufiger Fallstricke bei regulierten KI-Projekten
- Planung von Pilot-Anwendungsfällen und Stakeholder-Ausrichtung
- Definition einer Roadmap für die sichere lokale KI-Einführung
Voraussetzungen
- Grundlegendes Verständnis von KI-Konzepten und Softwareentwicklung
- Vertrautheit mit Befehlszeilen-Tools, Containern oder lokalen Entwicklungsumgebungen
- Grundlegende Erfahrungen im Skripting oder Programmieren
Zielgruppe
- Entwickler und technische Teams, die private KI-Lösungen auf interner Infrastruktur entwickeln
- Experten für Sicherheit, Compliance und Plattformen, die KI in regulierten Umgebungen unterstützen
- Technische Führungskräfte aus Finanzwesen, Gesundheitswesen, Regierung und Verteidigung, die die On-Prem-KI-Einführung evaluieren
21 Stunden