foto freepik

Kurzantwort: Ja — mehrere Untersuchungen zeigen, dass KI‑Assistenten bei Nachrichten‑ und Faktenfragen in rund 30–37 % der Fälle Fehler liefern; die oft zitierte Zahl 35 % stammt aus solchen Studien und beschreibt eine durchschnittliche Fehlerrate unter getesteten Systemen.

Ursachen für die 35‑Prozent‑Angabe

KI‑Studien vergleichen Antworten verschiedener Chatbots auf journalistische oder faktenbasierte Fragen und werten, ob die Antworten korrekt, ungenau oder erfunden sind. Unterschiedliche Testsets, Fragestellungen und Bewertungsmaßstäbe führen zu schwankenden Zahlen; eine große Untersuchung der Europäischen Rundfunkunion (EBU) fand etwa 37 % fehlerhafte Antworten bei mehreren populären Assistenten. Diese Ergebnisse erklären, warum Medienberichte von ~35 % sprechen.

Warum KI so oft falsch liegt

Halluzinationen: Modelle „erfinden“ Fakten oder Quellen, weil sie Wahrscheinlichkeiten für Wortfolgen berechnen, nicht Fakten prüfen. Erfundene Quellen waren in den Studien ein häufiges Problem.
Datenqualität: Trainingsdaten enthalten Fehler, Widersprüche und Desinformation; das spiegelt sich in den Antworten wider.
Antwort‑Bias: Viele Systeme wurden so optimiert, dass sie lieber eine plausible Antwort liefern als zu verweigern — das erhöht die Fehlerquote.

Unterschiede zwischen Modellen

Die Fehlerrate ist modellabhängig: einige Assistenten antworten seltener, wenn sie unsicher sind, und zeigen dadurch niedrigere Fehlerquoten; andere geben häufiger eine Antwort und machen dadurch mehr Fehler. Studien nennen große Unterschiede zwischen Anbietern und Versionen.

Praktische Folgen und Empfehlungen

Vertrauen nicht blind setzen: Behandle KI‑Antworten als erste Orientierung, nicht als endgültige Quelle.
Quellen prüfen: Vergleiche kritische Fakten mit verlässlichen Primärquellen oder offiziellen Stellen.
Bevorzuge Systeme mit Quellenangaben oder Retrieval‑Mechanismen, die externe Daten abgleichen.
Setze menschliche Kontrolle ein bei Entscheidungen mit hohem Risiko (Journalismus, Recht, Medizin).

Fazit

Die Aussage, KI liefere bis zu 35 % falsche Antworten, ist nicht pauschal falsch — sie ist eine realistische Zusammenfassung aktueller Studien für bestimmte Fragestellungen (vor allem Nachrichten/Fakten). Die genaue Quote hängt stark vom Modell, der Frageart und der Bewertungsmethode ab.

Albert Absmeier & KI

Checkliste

Hier ist eine sofort anwendbare Checkliste (10 Punkte), mit der Sie KI‑Antworten schnell auf Richtigkeit prüfen und Risiken minimieren können.

Checkliste: 10 Schritte zur schnellen Verifikation von KI‑Antworten

Skeptisch starten — Behandle jede KI‑Antwort als erste Orientierung, nicht als endgültige Wahrheit.
Quelle verlangen — Fordere oder suche nach konkreten Quellen (Studien, offizielle Seiten, Primärquellen).
Quellen prüfen — Öffne die genannten Quellen und kontrolliere Autor, Datum und Reputationsniveau.
Mehrere Quellen — Verifiziere kritische Fakten mit mindestens zwei unabhängigen, vertrauenswürdigen Quellen.
Datum prüfen — Achte auf Aktualität; veraltete Daten sind bei KI‑Antworten häufig.
Fakten vs. Interpretation — Trenne prüfbare Fakten (Zahlen, Daten) von Meinungen oder Interpretationen.
Auf Halluzinationen achten — Wenn die KI konkrete Zitate, Studiennamen oder URLs nennt, stimmen diese exakt? Erfunden klingende Referenzen sind ein Warnsignal.
Formale Plausibilitätschecks — Prüfe, ob Zahlen, Einheiten oder Zeiträume mathematisch und logisch konsistent sind.
Spezialisten konsultieren — Bei rechtlichen, medizinischen oder sicherheitsrelevanten Fragen: immer Fachexpertinnen oder offizielle Stellen hinzuziehen.
Dokumentation — Notiere, welche Quellen Sie geprüft haben und warum Sie der Antwort zustimmen oder widersprechen.

Warum diese Schritte wichtig sind

KI‑Modelle erzeugen oft plausible, aber falsche Antworten; das Phänomen der sogenannten Halluzinationen ist gut dokumentiert und macht systematisches Fact‑Checking notwendig.

Praktische Kurzstrategie (5 schnelle Prüfungen)

Schnellsuche: Suche die Kernbehauptung in einer seriösen Suchmaschine.
Quelle‑Spotcheck: Öffne die erste offizielle Quelle (Regierung, Fachverband, Peer‑Reviewed).
Datum & Autor: Prüfe Veröffentlichungsdatum und Autorität.
Cross‑Check: Vergleiche mit einer zweiten Quelle.
Notiere Unsicherheiten: Markiere Aussagen, die unklar bleiben, und kennzeichne sie als nicht verifiziert.

Technische Hilfen und Selbstkontrolle

Setzen Sie Tools ein, die Quellen‑Retrieval und automatisierte Plausibilitätschecks unterstützen, und fordern Sie von KI‑Systemen strukturierte Belege oder Zitationslisten an; Forschungsansätze zur erzwungenen Selbstprüfung von Modellen werden aktiv diskutiert und entwickelt.

Albert Absmeier & KI

Die Antworten wurden von Copilot von Microsoft generiert.

2790 Artikel zu „KI Fehler“

News | Digitalisierung | Effizienz | Künstliche Intelligenz | Services

KI schreibt Code: Schnell, effektiv und manchmal fehlerhaft

24. Oktober 2024

Manchmal könnte man den Eindruck gewinnen, als wären wir ganz plötzlich im Zeitalter der künstlichen Intelligenz (KI) gelandet. Mit dem rasanten Aufstieg kommerzieller Large Language Models (LLMs) und generativer KI-Tools wie OpenAI ChatGPT, Microsoft Copilot und Google Gemini ist künstliche Intelligenz jetzt in aller Munde – Bedenken eingeschlossen. Aber KI-Konzepte und -Systeme existieren schon seit…