← Zurück zu allen Fragen
Was ist das Context Window eines Sprachmodells?
Das Context Window gibt an, wie viel Text in Tokens ein Sprachmodell gleichzeitig verarbeiten kann, also Eingabe, bisheriger Gesprächsverlauf und generierte Antwort zusammen. Ist das Limit erreicht, fällt älterer Inhalt aus dem Gedächtnis des Modells und wird bei der Antwort nicht mehr berücksichtigt. Ein größeres Context Window erlaubt entsprechend längere Dokumente oder Gespräche.
Das erfährst du in der Folge zusätzlich:
- Warum ein langes Context Window nicht automatisch alles löst
- Weitere Buzzwords: Token, Parameter, Fine-Tuning
Mehr dazu in Folge 18: LLM-Buzzwords entschlüsselt - Welche Bedeutung haben diese Begriffe? →
Verwandte Fragen
- Was sind Halluzinationen bei KI und warum passieren sie?
- Was sind Parameter bei einem KI-Modell?
- Wie viel Arbeitsspeicher (RAM/VRAM) braucht man für ein KI-Modell?
- Was sind Reasoning-Modelle und was ist Chain of Thought?
- Wie funktioniert die Transformer-Architektur hinter ChatGPT & Co.?
- Was ist der Unterschied zwischen Künstlicher Intelligenz, Machine Learning und Deep Learning?
- Was ist der Unterschied zwischen Google und ChatGPT?
- Was ist ein Token bei einem Sprachmodell?
- Was ist Quantisierung bei KI-Modellen?
- Was ist RAG (Retrieval Augmented Generation)?
- Was sind Embeddings und wozu braucht man sie?
- Wie lernt ein neuronales Netz aus seinen Fehlern?