Kontakt aufnehmen

Schulungsübersicht

Einführung in QLoRA und Quantisierung

  • Übersicht über Quantisierung und ihre Rolle bei der Modelloptimierung
  • Einführung in das QLoRA-Framework und dessen Vorteile
  • Hauptunterschiede zwischen QLoRA und traditionellen Feinabstimmungsmethoden

Grundlagen grosser Sprachmodelle (LLMs)

  • Einführung in LLMs und deren Architektur
  • Herausforderungen der Feinabstimmung grosser Modelle im Grossmassstab
  • Wie Quantisierung hilft, Rechenbeschränkungen bei der Feinabstimmung von LLMs zu überwinden

Implementierung von QLoRA zur Feinabstimmung von LLMs

  • Einrichtung des QLoRA-Frameworks und der Umgebung
  • Vorbereitung von Datensätzen für die Feinabstimmung mit QLoRA
  • Schritt-für-Schritt-Anleitung zur Implementierung von QLoRA auf LLMs mit Python sowie PyTorch/TensorFlow

Optimierung der Feinabstimmungsleistung mit QLoRA

  • Ausgewogenheit zwischen Modellgenauigkeit und Leistung durch Quantisierung
  • Techniken zur Reduzierung von Rechenkosten und Speichernutzung während der Feinabstimmung
  • Strategien für die Feinabstimmung mit minimalen Hardwareanforderungen

Evaluation feingetunter Modelle

  • Bewertung der Effektivität feingetunter Modelle
  • Häufige Evaluationsmetriken für Sprachmodelle
  • Optimierung der Modellleistung nach der Feinabstimmung und Fehlerbehebung

Bereitstellung und Skalierung feingetunter Modelle

  • Best Practices für die Bereitstellung von quantisierten LLMs in Produktionsumgebungen
  • Skalierung der Bereitstellung zur Bewältigung von Echtzeitanfragen
  • Tools und Frameworks für die Modellbereitstellung und -überwachung

Anwendungsfälle und Fallstudien aus der Praxis

  • Fallstudie: Feinabstimmung von LLMs für Kundensupport- und NLP-Aufgaben
  • Beispiele zur Feinabstimmung von LLMs in verschiedenen Branchen wie Gesundheitswesen, Finanzen und E-Commerce
  • Erfahrungen aus realen Bereitstellungen von QLoRA-basierten Modellen

Zusammenfassung und weitere Schritte

Voraussetzungen

  • Grundkenntnisse in den Prinzipien des Maschinellen Lernens und neuronalen Netzen
  • Erfahrung mit der Feinabstimmung von Modellen und Transferlernen
  • Vertrautheit mit grossen Sprachmodellen (LLMs) sowie Deep-Learning-Frameworks (z. B. PyTorch, TensorFlow)

Zielgruppe

  • Maschinelles Lernen-Ingenieure
  • KI-Entwickler
  • Datenwissenschaftler
 14 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Kommende Kurse

Verwandte Kategorien