Gradient Descent einfach erklärt: Das Gradientenabstiegsverfahren im Machine Learning
Eines der wichtigsten Konzepte im Machine Learning einfach erklärt: Wie kommt ein ML Model zu seinen finalen Parametern?
Worum geht’s in dieser Folge?
Gradient Descent ist zweifelsohne einer der wichtigsten Algorithmen im Machine Learning. Dank ihm kann ein Modell lernen. Stellt euch folgendes Szenario vor: Ich setze euch mit verbundenen Augen irgendwo auf einem Berg ab und sage: Findet zurück zum Auto, das im Tal steht. Genau das macht ein Machine-Learning-Modell beim Training.
In dieser Folge erkläre ich ohne Formeln, wie Modelle ihre Parameter tatsächlich anpassen, was ein Gradient ist und wie der Algorithmus funktioniert. Wir schauen uns auch die Schwächen des Verfahrens an: lokale Minima, die Lernrate als sog. Hyperparameter und dass Gradient Descent theoretisch jedes Mal den gesamten Datensatz zur Berechnung braucht. Für alle drei Probleme gibt es in der Praxis Lösungen. Die schauen wir uns in der nächsten Folge an.
Themen dieser Folge:
- Was ein Gradient ist
- Wie Gradient Descent als Algorithmus funktioniert mit einer einfachen Analogie
- die Kostenfunktion als 3D-Landschaft
- Probleme beim Gradient Descent
🎧 Voraussetzung für diese Folge: Kostenfunktion und mathematische Optimierung
Shownotes
- Gradient Descent einfach erklärt, ganz ohne Formeln
- Warum Lernrate, lokale Minima und Datenmenge beim Training zum Problem werden