Vielen Dank für die Zusendung Ihrer Anfrage! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Vielen Dank, dass Sie Ihre Buchung abgeschickt haben! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Schulungsübersicht
Grundlagen der sicheren lokalen KI
- Was lokale und On-Prem-KI in regulierten Umgebungen bedeuten
- Cloud-KI im Vergleich zu interner Bereitstellung für sensible Workloads
- Häufige Unternehmensanwendungsfälle für private Assistenten und Workflow-Unterstützung
- Kernkomponenten einer sicheren lokalen KI-Architektur
Grundlagen von Ollama und offenen Modellen
- Wie Ollama in einen lokalen Entwicklungstack integriert wird
- Lokales Herunterladen, Ausführen und Verwalten von Modellen
- Auswahl von Modellen basierend auf Größe, Qualität, Hardware und Lizenz
- Abgleich der Modelloptionen mit praktischen Geschäftsaufgaben
Vorbereitung der On-Prem-Umgebung
- Vorbereitung von Host, Workstation und Server
- Installation und Konfiguration von Ollama für lokale Inferenz
- Nutzung von Containern und internen Entwicklungswerkzeugen
- Überprüfen des API-Zugriffs und der grundlegenden Betriebsbereitschaft
Effektive Arbeit mit lokalen Modellen
- Ausführung von Prompts und Gestalten von Ausgaben mittels Systemanweisungen
- Wiederverwendung von Vorlagen für konsistente Unternehmensaufgaben
- Verwaltung von Modellversionen und internen Artefakten
- Grundlegende Leistungsoptimierung für CPU- und GPU-Bereitstellungen
Erstellung praktischer agentischer Workflows
- Was einen Workflow in einer kontrollierten Umgebung agentisch macht
- Einfache Muster für Planung, Werkzeugnutzung und Antwortschleifen
- Entwicklung aufgabenorientierter Assistenten für interne Abläufe
- Hinzufügen von menschlicher Überprüfung, Fallback-Logik und Fehlerbehandlung
Private Abruf-Workflows
- Grundlagen der retrievalgestützten Generierung für den Zugriff auf internes Wissen
- Vorbereitung von Dokumenten für Chunking, Indexierung und Suche
- Verbindung eines lokalen Vektorspeichers mit einer Ollama-basierten Anwendung
- Verbesserung der Relevanz und Antwortqualität durch bessere Abrufmuster
Sicherheits-, Governance- und Compliance-Praktiken
- Datenverarbeitungsrichtlinien und Datenschutzüberlegungen
- Zugriffssteuerung, Protokollierung und Audit-Unterstützung
- Prompt-Sicherheit, Ausgabenkontrollen und Schutzmaßnahmen
- Governance-Checkpoints für regulierte Bereitstellung und Betrieb
Integrationsmuster für Unternehmen
- Bereitstellung lokaler KI-Funktionen über interne APIs
- Integration von Assistenten mit internen Anwendungen und Diensten
- Unterstützung von Assistenten-, Batch- und Workflow-Automatisierungsfällen
- Halten von Lösungen innerhalb kontrollierter Netzwerkgrenzen
Evaluierung lokaler KI-Lösungen
- Bewertung von Qualität, Zuverlässigkeit und Konsistenz
- Testing gegen geschäftliche, politische und Sicherheitsanforderungen
- Vergleich von Modelloptionen für spezifische Unternehmensaufgaben
- Etablierung eines praktischen Verbesserungszyklus für interne Teams
Praxisorientiertes Implementierungslabor
- Aufbau eines privaten Assistenten mit Ollama und einem offenen Modell
- Hinzufügen von Abruf über genehmigte interne Dokumente
- Einführung einfacher agentischer Aktionen und Sicherheitskontrollen
- Überprüfung von Bereitstellung, Betrieb und Governance-Checkpoints
Einführungsplanung und nächste Schritte
- Überprüfung wichtiger Design- und Bereitstellungsentscheidungen
- Identifikation häufiger Fallstricke in regulierten KI-Projekten
- Planung von Pilotanwendungsfällen und Abstimmung mit Stakeholdern
- Festlegung einer Roadmap für die sichere Einführung lokaler KI
Voraussetzungen
- Grundlegendes Verständnis von KI-Konzepten und Softwareentwicklung
- Vertrautheit mit Befehlszeilenwerkzeugen, Containern oder lokalen Entwicklungsumgebungen
- Grundlegende Erfahrungen in Skripterstellung oder Programmierung
Zielgruppe
- Entwickler und technische Teams, die private KI-Lösungen auf interner Infrastruktur aufbauen
- Fachkräfte für Sicherheit, Compliance und Plattformen, die KI in regulierten Umgebungen unterstützen
- Technische Führungskräfte in Finanzwesen, Gesundheitswesen, Regierung und Verteidigung, die die Einführung von On-Prem-KI evaluieren
21 Stunden