Schulungsübersicht
Einführung in das Deep Learning
- Was ist Deep Learning und wie unterscheidet es sich vom traditionellen Maschinellen Lernen?
- Anwendungsbeispiele aus der Computervision, NLP und darüber hinaus.
- Überblick über das Deep-Learning-Ökosystem: TensorFlow 2.x, Keras, PyTorch
- Einrichten einer GPU-beschleunigten Entwicklungsumgebung.
Die Mechanismen des Deep Learning
- Künstliche Neuronen, Aktivierungsfunktionen und Netzwerkschichten
- Forward Propagation (Vorwärts propagation) und Berechnung von Vorhersagen
- Verlustfunktionen für Klassifikations- und Regressionsaufgaben
- Optimierung via Gradient Descent und Backpropagation
- Training Ihres ersten neuronalen Netzes auf dem MNIST-Datensatz.
Faltungskonvolutionelle neuronale Netze (CNNs) für die Computervision
- Verständnis von Faltung, Filtern und Merkmalskarten (Feature Maps).
- Pooling-Schichten und Dimensionsreduktion
- CNN-Architekturen: Konzepte von LeNet, VGG und ResNet
- Entwicklung und Training eines CNNs für die Bildklassifikation.
- Visualisierung erlernter Merkmale und intermedier Aktivitäten.
Datenerweiterung und Verbesserung der Modellgenauigkeit
- Warum Datenerweiterung (Data Augmentation) Overfitting bekämpft und die Generalisierung verbessert.
- Bildtransformationen: Drehung, Spiegelung, Zoomen und Zuschneiden.
- Implementierung von Augmentations-Pipelines mit Keras-Preprocessing-Layern.
- Dropout, Batch-Normalisierung und weitere Regularisierungstechniken.
- Überwachung des Trainings mittels Validierungsmetriken und Early Stopping.
Transfer Learning mit vortrainierten Modellen
- Verständnis von Transfer Learning und dessen Funktionsweise.
- Laden vortrainierter Modelle aus Keras Applications (ResNet, EfficientNet, MobileNet).
- Merkmalsextraktion: Einfrieren der Basisschichten und Training neuer Klassifikatoren.
- Fine-Tuning: selektives Entfrieren von Schichten zur Anpassung an die Domäne.
- Erreichen hoher Genauigkeit mit begrenzten Trainingsdaten.
Rekurrente Netze und Sequenzmodellierung
- Einführung in sequenzielle Daten und zeitliche Abhängigkeiten.
- Rekurrente neuronale Netze (RNNs) und das Problem des verschwindenden Gradienten.
- LSTM- und GRU-Zellen für langreichweite Abhängigkeiten.
- Training eines zeichenbasierten Textgenerierungsmodells.
- Word Embeddings und die Embedding-Schicht in Keras.
Grundlagen der Verarbeitung natürlicher Sprachen (NLP)
- Vorverarbeitung von Text: Tokenisierung, Padding und Vokabularaufbau.
- Erstellung eines Textklassifizierers mit RNNs und LSTMs.
- Konzepte sequenz-zu-sequenz-Modelle für maschinelle Übersetzung.
- Aufmerksamkeitsmechanismen (Attention Mechanisms) und ihre Rolle im modernen NLP.
- Praktisches NLP mit den TensorFlow 2.x-APIs zur Textverarbeitung.
Schlussprojekt: Bildbeschriftung
- Kombination von Computervision und NLP in einer multimodalen Architektur.
- Extrahieren von Bildmerkmalen mit einem vortrainierten CNN-Encoder.
- Erstellung eines LSTM-basierten Decoders zur Generierung von Beschriftungen.
- Verwaltung mehrerer Eingangsschichten in der Keras Functional API.
- Training und Bewertung der End-to-End-Beschriftungspipeline.
Weiterführende Schritte und Ressourcen
- Bereitstellung (Deployment) trainierter Modelle mit TensorFlow Serving.
- Erkundung von Transformer-Architekturen und Grossen Sprachmodellen (LLMs).
- NVIDIA DLI Advanced Workshops und Zertifizierungspfade.
- Gemeinde-Ressourcen, Datensätze und Projektideen.
Voraussetzungen
- Grundlegende Kenntnisse in der Python-Programmierung (Funktionen, Schleifen, Dictionaries, Arrays)
- Vertrautheit mit Programmierkonzepten wie Variablen, Konditionalanweisungen und Datenstrukturen
- Keine Vorkenntnisse im Bereich Deep Learning oder Maschinelles Lernen erforderlich
Zielgruppe
- Softwareentwickler und -ingenieure, die in den Bereich KI und Maschinelles Lernen wechseln.
- Datenanalysten und Data Scientists, die ihre Fähigkeiten im Deep Learning erweitern möchten.
- Technische Fachkräfte, die neuronale Netzwerkmodelle verstehen und anwenden wollen.
- Studierende und Forschende, die ihre erste Schritte im Deep Learning unternehmen.
Erfahrungsberichte (2)
Erfahrungsaufbau im Bereich der Prompt-Wiederholung für Personen, die zuvor keine KI genutzt haben, sowie die Einführung alternativer Methoden der KI-Nutzung für bestehende Anwender.
Matthew Gay - Tarsus Pharmaceuticals
Kurs - Artificial Intelligence (AI) Overview
Maschinelle Übersetzung
Die Ausbildung war gut organisiert und strukturiert. Ich habe sie mit systematischem Wissen und einer fundierten Übersicht der behandelten Themen successfully absolviert.
Magdalena - Samsung Electronics Polska Sp. z o.o.
Kurs - Deep Learning with TensorFlow 2
Maschinelle Übersetzung