← Zurück zur Übersicht
← Zurück zur Übersicht
Wissensfolge 12. November 2025 8 Min.
Transformers - Wie funktionieren Sprachmodelle?
Auf der Transformer-Architektur basieren fast alle modernen Sprachmodelle. In dieser Folge erfahrt ihr, wie sie funktionieren.
Worum geht’s in dieser Folge?
Heute schauen wir uns die revolutionäre Transformer-Architektur und die sogenannte Self-Attention an, auf der die meisten modernen Sprachmodelle basieren. Wir lernen also wie GPT & Co. im Detail funktionieren und warum sie so gute Antworten generieren können. Das Paper dazu aus dem Jahr 2017 findet ihr hier: https://doi.org/10.48550/arXiv.1706.03762
Shownotes
- LLM-Funktionsweise erklärt
- Transformer-Architektur
- Self-Attention