Kontakt aufnehmen

Schulungsübersicht

Einführung in Ollama für die LLM-Bereitstellung

  • Überblick über die Fähigkeiten von Ollama
  • Vorteile der lokalen KI-Modellbereitstellung
  • Vergleich mit cloudbasierten KI-Hosting-Lösungen

Einrichten der Bereitstellungs_umgebung_

  • Installation von Ollama und erforderlichen Abhängigkeiten
  • Konfiguration von Hardware und GPU-Beschleunigung
  • Dockerisieren von Ollama für skalierbare Bereitstellungen

Bereitstellung von LLMs mit Ollama

  • Laden und Verwalten von KI-Modellen
  • Bereitstellen von Llama 3, DeepSeek, Mistral und anderen Modellen
  • Erstellen von APIs und Endpoints für den Zugriff auf KI-Modelle

Optimierung der LLM-Leistung

  • Feinjustieren von Modellen für Effizienz
  • Reduzierung der Latenz und Verbesserung der Antwortzeiten
  • Verwaltung des Speichers und der Ressourcenallokation

Integration von Ollama in KI-Arbeitsabläufe

  • Anbindung von Ollama an Anwendungen und Dienste
  • Automatisierung KI-gesteuerter Prozesse
  • Nutzung von Ollama in Edge-Computing-Umgebungen

Überwachung und Wartung

  • Verfolgung der Leistung und Fehlersuche
  • Aktualisieren und Verwalten von KI-Modellen
  • Sicherstellen von Sicherheit und Compliance bei KI-Bereitstellungen

Skalierung von KI-Modellbereitstellungen

  • Bewährte Praktiken für den Umgang mit hohen Arbeitslasten
  • Skalieren von Ollama für Unternehmensanwendungsfälle
  • Zukünftige Entwicklungen in der lokalen KI-Modellbereitstellung

Zusammenfassung und weitere Schritte

Voraussetzungen

  • Grundlegende Erfahrung mit maschinellem Lernen und KI-Modellen
  • Vertrautheit mit Befehlszeilenschnittstellen und Skripterstellung
  • Verständnis von Bereitstellungs_umgebungen_ (lokal, Edge, Cloud)

Zielgruppe

  • KI-Ingenieure, die lokale und cloudbasierte KI-Bereitstellungen optimieren
  • ML-Praktiker, die LLMs bereitstellen und feinjustieren
  • DevOps-Spezialisten, die die Integration von KI-Modellen verwalten
 14 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Kommende Kurse

Verwandte Kategorien