Wenn eine KI „halluziniert“, erfindet sie Informationen, die falsch sind – formuliert sie aber so überzeugend, dass sie richtig klingen. Das passiert, weil ein Sprachmodell immer die wahrscheinlichste Wortfolge zusammensetzt, ohne wirklich zu „wissen“, ob die Antwort stimmt. Je unklarer die Frage oder je weniger Daten zu einem Thema vorliegen, desto eher erfindet die KI etwas dazu.

Deshalb wichtig: Prüfen Sie Angaben eines Chatbots – besonders bei wichtigen Themen wie Gesundheit, Recht oder Geld – immer noch einmal mit einer zuverlässigen Quelle nach.

Quelle: Fraunhofer IESE: „Halluzinationen von generativer KI und großen Sprachmodellen (LLMs)“; Verbraucherzentrale: „KI-Chatbots im Überblick“