Schulungsübersicht
1. Einführung in das Deep Reinforcement Learning
- Was ist Verstärkungslernen?
- Unterschiede zwischen überwachtem, unüberwachtem und Verstärkungslernen
- Anwendungen von DRL im Jahr 2025 (Robotik, Gesundheitswesen, Finanzen, Logistik)
- Verständnis des Interaktionskreislaufs zwischen Agent und Umgebung
2. Grundlagen des Verstärkungslernens
- Markov-Entscheidungsprozesse (MDP)
- Zustand, Aktion, Belohnung, Richtlinie und Wertfunktionen
- Trade-off zwischen Exploration und Exploitation
- Monte-Carlo-Methoden und Temporal-Difference (TD)-Lernen
3. Implementierung grundlegender RL-Algorithmen
- Tabellenbasierte Methoden: Dynamische Programmierung, Politikevaluation und Iteration
- Q-Learning und SARSA
- Epsilon-gierige Exploration und abklingende Strategien
- Implementierung von RL-Umgebungen mit OpenAI Gymnasium
4. Übergang zum Deep Reinforcement Learning
- Einschränkungen tabellarischer Methoden
- Verwendung neuronaler Netze zur Funktionsapproximation
- Architektur und Arbeitsablauf des Deep Q-Networks (DQN)
- Experience Replay und Zielnetzwerke (Target Networks)
5. Fortgeschrittene DRL-Algorithmen
- Double DQN, Dueling DQN und Prioritized Experience Replay
- Policy-Gradient-Methoden: REINFORCE-Algorithmus
- Actor-Critic-Architekturen (A2C, A3C)
- Proximal Policy Optimization (PPO)
- Soft Actor-Critic (SAC)
6. Arbeit mit kontinuierlichen Aktionsräumen
- Herausforderungen bei der kontinuierlichen Steuerung
- Verwendung von DDPG (Deep Deterministic Policy Gradient)
- Twin Delayed DDPG (TD3)
7. Praktische Tools und Frameworks
- Verwendung von Stable-Baselines3 und Ray RLlib
- Protokollierung und Überwachung mit TensorBoard
- Hyperparameter-Tuning für DRL-Modelle
8. Reward Engineering und Umgebungsgestaltung
- Reward Shaping und Ausgleich von Strafen
- Konzepte des Sim-to-Real Transfer Learnings
- Erstellung benutzerdefinierter Umgebungen in Gymnasium
9. Teilweise beobachtbare Umgebungen und Generalisierung
- Umgang mit unvollständigen Zustandsinformationen (POMDPs)
- Gedächtnisbasierte Ansätze mit LSTMs und RNNs
- Verbesserung der Robustheit und Generalisierungsfähigkeit des Agenten
10. Spieltheorie und Multi-Agent-Verstärkungslernen
- Einführung in Multi-Agenten-Umgebungen
- Kooperation versus Wettbewerb
- Anwendungen im adversarialen Training und der Strategieoptimierung
11. Fallstudien und reale Anwendungen
- Simulationen autonomer Fahrten
- Dynamische Preisgestaltung und Finanzhandelsstrategien
- Robotik und industrielle Automatisierung
12. Fehlersuche und Optimierung
- Diagnose instabiler Trainingsprozesse
- Umgang mit spärlichen Belohnungen und Überanpassung
- Skalierung von DRL-Modellen auf GPUs und verteilten Systemen
13. Zusammenfassung und nächste Schritte
- Rückblick auf die DRL-Architektur und wesentliche Algorithmen
- Branchen Trends und Forschungsrichtungen (z. B. RLHF, hybride Modelle)
- Weitere Ressourcen und Lesematerialien
Voraussetzungen
- Kenntnisse in der Python-Programmierung
- Verständnis von Analysis und Linear Algebra
- Grundkenntnisse in Wahrscheinlichkeitstheorie und Statistik
- Erfahrung im Aufbau von Machine-Learning-Modellen mit Python sowie NumPy oder TensorFlow/PyTorch
Zielgruppe
- Entwickler, die sich für KI und intelligente Systeme interessieren
- Data Scientists, die Verstärkungslerning-Frameworks erforschen
- Machine-Learning-Ingenieure, die mit autonomen Systemen arbeiten
Erfahrungsberichte (3)
Mir hat besonders der Schluss gefallen, als wir die Zeit nahmen, mit CHAT GPT herumzuspielen. Der Raum war dafür jedoch nicht optimal eingerichtet – anstelle eines großen Tisches wären ein paar kleinere Tische nützlicher gewesen, damit wir in kleinen Gruppen zusammenkommen und brainstormen könnten.
Nola - Laramie County Community College
Kurs - Artificial Intelligence (AI) Overview
Maschinelle Übersetzung
Nach grundlegenden Prinzipien arbeiten und sich innerhalb desselben Tages auf die Anwendung von Fallstudien konzentrieren
Maggie Webb - Department of Jobs, Regions, and Precincts
Kurs - Artificial Neural Networks, Machine Learning, Deep Thinking
Maschinelle Übersetzung
Dass es reale Firmendaten verwendete. Der Trainer hatte einen sehr guten Ansatz, indem er die Teilnehmer aktiv einbezog und sie miteinander wetteifern ließ.
Jimena Esquivel - Zaklad Uslugowy Hakoman Andrzej Cybulski
Kurs - Applied AI from Scratch in Python
Maschinelle Übersetzung