← Zurück zu allen Fragen
Was sind Halluzinationen bei KI und warum passieren sie?
Halluzinationen sind Antworten von KI-Sprachmodellen, die faktisch falsch oder frei erfunden sind, aber selbstbewusst und überzeugend klingen. Sie entstehen, weil Sprachmodelle keine Fakten aus einer Datenbank abrufen, sondern statistisch plausible Wortfolgen generieren, auch wenn passendes Wissen eigentlich fehlt. Deshalb sollten wichtige Fakten aus KI-Antworten immer überprüft werden.
Das erfährst du in der Folge zusätzlich:
- Weitere Schwächen: Bias, Fairness und Distribution Shift
- Reale Beispiele, u. a. aus der Rechtsprechung
Mehr dazu in Folge 14: Schwächen von KI: Bias, Distribution Shift und Halluzinationen →
Verwandte Fragen
- Was ist das Context Window eines Sprachmodells?
- Was sind Parameter bei einem KI-Modell?
- Wie viel Arbeitsspeicher (RAM/VRAM) braucht man für ein KI-Modell?
- Was sind Reasoning-Modelle und was ist Chain of Thought?
- Wie funktioniert die Transformer-Architektur hinter ChatGPT & Co.?
- Was ist der Unterschied zwischen Künstlicher Intelligenz, Machine Learning und Deep Learning?
- Was ist der Unterschied zwischen Google und ChatGPT?
- Was ist ein Token bei einem Sprachmodell?
- Was ist Quantisierung bei KI-Modellen?
- Was ist RAG (Retrieval Augmented Generation)?
- Was sind Embeddings und wozu braucht man sie?
- Wie lernt ein neuronales Netz aus seinen Fehlern?