Kontakt aufnehmen

Schulungsübersicht

Einführung in Ollama für LLM-Bereitstellung

  • Übersicht der Fähigkeiten von Ollama
  • Vorteile der lokalen AI-Modell-Bereitstellung
  • Vergleich mit cloudbasierten AI-Hosting-Lösungen

Einrichtung der Bereitstellungsumgebung

  • Installation von Ollama und erforderlichen Abhängigkeiten
  • Konfiguration von Hardware und GPU-Beschleunigung
  • Dockerisieren von Ollama für skalierbare Bereitstellungen

Bereitstellung von LLMs mit Ollama

  • Laden und Verwalten von AI-Modellen
  • Bereitstellung von Llama 3, DeepSeek, Mistral und anderen Modellen
  • Erstellung von APIs und Endpoints für den Zugriff auf AI-Modelle

Optimierung der LLM-Leistung

  • Fine-Tuning von Modellen für Effizienz
  • Reduzierung der Latenz und Verbesserung der Antwortzeiten
  • Verwaltung des Speichers und der Ressourcenverteilung

Integration von Ollama in AI-Arbeitsabläufe

  • Verbindung von Ollama mit Anwendungen und Diensten
  • Automatisierung von AI-gesteuerten Prozessen
  • Nutzung von Ollama in Edge-Computing-Umgebungen

Überwachung und Wartung

  • Verfolgung der Leistung und Fehlerbehebung
  • Aktualisierung und Verwaltung von AI-Modellen
  • Sicherstellung von Sicherheit und Compliance bei AI-Bereitstellungen

Skalierung von AI-Modell-Bereitstellungen

  • Best Practices für die Handhabung hoher Lasten
  • Skalierung von Ollama für Unternehmensanwendungsfälle
  • Zukünftige Entwicklungen in der lokalen AI-Modell-Bereitstellung

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Grundlegende Erfahrung mit Machine Learning und AI-Modellen
  • Vertrautheit mit Kommandozeilenschnittstellen und Skripting
  • Verständnis von Bereitstellumgebung (lokal, Edge, Cloud)

Zielgruppe

  • AI-Ingenieure, die lokale und cloudbasierte AI-Bereitstellungen optimieren
  • ML-Praktiker, die LLMs bereitstellen und feinabstimmen
  • DevOps-Spezialisten, die die Integration von AI-Modellen verwalten
 14 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Kommende Kurse

Verwandte Kategorien