Schulungsübersicht
Einführung in das Deep Learning
- Was ist Deep Learning und wie unterscheidet es sich vom traditionellen Maschinellen Lernen?
- Anwendungsbeispiele aus der Computervision, NLP und darüber hinaus.
- Überblick über das Deep-Learning-Ökosystem: TensorFlow 2.x, Keras, PyTorch
- Einrichten einer GPU-beschleunigten Entwicklungsumgebung.
Die Mechanismen des Deep Learning
- Künstliche Neuronen, Aktivierungsfunktionen und Netzwerkschichten
- Forward Propagation (Vorwärts propagation) und Berechnung von Vorhersagen
- Verlustfunktionen für Klassifikations- und Regressionsaufgaben
- Optimierung via Gradient Descent und Backpropagation
- Training Ihres ersten neuronalen Netzes auf dem MNIST-Datensatz.
Faltungskonvolutionelle neuronale Netze (CNNs) für die Computervision
- Verständnis von Faltung, Filtern und Merkmalskarten (Feature Maps).
- Pooling-Schichten und Dimensionsreduktion
- CNN-Architekturen: Konzepte von LeNet, VGG und ResNet
- Entwicklung und Training eines CNNs für die Bildklassifikation.
- Visualisierung erlernter Merkmale und intermedier Aktivitäten.
Datenerweiterung und Verbesserung der Modellgenauigkeit
- Warum Datenerweiterung (Data Augmentation) Overfitting bekämpft und die Generalisierung verbessert.
- Bildtransformationen: Drehung, Spiegelung, Zoomen und Zuschneiden.
- Implementierung von Augmentations-Pipelines mit Keras-Preprocessing-Layern.
- Dropout, Batch-Normalisierung und weitere Regularisierungstechniken.
- Überwachung des Trainings mittels Validierungsmetriken und Early Stopping.
Transfer Learning mit vortrainierten Modellen
- Verständnis von Transfer Learning und dessen Funktionsweise.
- Laden vortrainierter Modelle aus Keras Applications (ResNet, EfficientNet, MobileNet).
- Merkmalsextraktion: Einfrieren der Basisschichten und Training neuer Klassifikatoren.
- Fine-Tuning: selektives Entfrieren von Schichten zur Anpassung an die Domäne.
- Erreichen hoher Genauigkeit mit begrenzten Trainingsdaten.
Rekurrente Netze und Sequenzmodellierung
- Einführung in sequenzielle Daten und zeitliche Abhängigkeiten.
- Rekurrente neuronale Netze (RNNs) und das Problem des verschwindenden Gradienten.
- LSTM- und GRU-Zellen für langreichweite Abhängigkeiten.
- Training eines zeichenbasierten Textgenerierungsmodells.
- Word Embeddings und die Embedding-Schicht in Keras.
Grundlagen der Verarbeitung natürlicher Sprachen (NLP)
- Vorverarbeitung von Text: Tokenisierung, Padding und Vokabularaufbau.
- Erstellung eines Textklassifizierers mit RNNs und LSTMs.
- Konzepte sequenz-zu-sequenz-Modelle für maschinelle Übersetzung.
- Aufmerksamkeitsmechanismen (Attention Mechanisms) und ihre Rolle im modernen NLP.
- Praktisches NLP mit den TensorFlow 2.x-APIs zur Textverarbeitung.
Schlussprojekt: Bildbeschriftung
- Kombination von Computervision und NLP in einer multimodalen Architektur.
- Extrahieren von Bildmerkmalen mit einem vortrainierten CNN-Encoder.
- Erstellung eines LSTM-basierten Decoders zur Generierung von Beschriftungen.
- Verwaltung mehrerer Eingangsschichten in der Keras Functional API.
- Training und Bewertung der End-to-End-Beschriftungspipeline.
Weiterführende Schritte und Ressourcen
- Bereitstellung (Deployment) trainierter Modelle mit TensorFlow Serving.
- Erkundung von Transformer-Architekturen und Grossen Sprachmodellen (LLMs).
- NVIDIA DLI Advanced Workshops und Zertifizierungspfade.
- Gemeinde-Ressourcen, Datensätze und Projektideen.
Voraussetzungen
- Grundlegende Kenntnisse in der Python-Programmierung (Funktionen, Schleifen, Dictionaries, Arrays)
- Vertrautheit mit Programmierkonzepten wie Variablen, Konditionalanweisungen und Datenstrukturen
- Keine Vorkenntnisse im Bereich Deep Learning oder Maschinelles Lernen erforderlich
Zielgruppe
- Softwareentwickler und -ingenieure, die in den Bereich KI und Maschinelles Lernen wechseln.
- Datenanalysten und Data Scientists, die ihre Fähigkeiten im Deep Learning erweitern möchten.
- Technische Fachkräfte, die neuronale Netzwerkmodelle verstehen und anwenden wollen.
- Studierende und Forschende, die ihre erste Schritte im Deep Learning unternehmen.
Erfahrungsberichte (2)
Die Ausbildung war gut organisiert und strukturiert. Ich habe sie mit systematischem Wissen und einer fundierten Übersicht der behandelten Themen successfully absolviert.
Magdalena - Samsung Electronics Polska Sp. z o.o.
Kurs - Deep Learning with TensorFlow 2
Maschinelle Übersetzung
Mir hat besonders der Schluss gefallen, als wir die Zeit nahmen, mit CHAT GPT herumzuspielen. Der Raum war dafür jedoch nicht optimal eingerichtet – anstelle eines großen Tisches wären ein paar kleinere Tische nützlicher gewesen, damit wir in kleinen Gruppen zusammenkommen und brainstormen könnten.
Nola - Laramie County Community College
Kurs - Artificial Intelligence (AI) Overview
Maschinelle Übersetzung
