foto freepik ki

Desinformation ist zu einer der hartnäckigsten Herausforderungen des digitalen Zeitalters geworden. Das Ausmaß und die schnelle Verbreitung von Fehlinformationen können demokratische Institutionen, die öffentliche Sicherheit und das Vertrauen in Institutionen bedrohen. Das Tempo und die Raffinesse von Desinformationen haben sich über die Reichweite traditioneller Gegenmaßnahmen hinaus beschleunigt. Wenn manipulierte Videos in wenigen Stunden Millionen erreichen können, reicht es nicht mehr aus, Falschinformationen nachträglich zu korrigieren. Aber die Möglichkeit besteht: Durch den Aufbau intelligenter und transparenter Informationssysteme, die mit der Geschwindigkeit und Reichweite von Desinformationen mithalten können, lässt sich der öffentliche Zugang zu faktischen und kontextualisierten Nachrichten dauerhaft sichern.

Die Grenzen traditioneller Werkzeuge

Faktenprüfungs-Websites, digitale Bildungsprogramme und Moderationsrichtlinien sozialer Plattformen sind grundsätzlich reaktiv. Sie identifizieren Falschinformationen, nachdem sie bereits ein Publikum erreicht haben – zu diesem Zeitpunkt ist der Schaden oft bereits angerichtet. Verschärft wird dies durch veränderte Konsumgewohnheiten. Viele Menschen nutzen keine verifizierten Nachrichtenquellen mehr, sondern begegnen Informationen in algorithmusgesteuerten Feeds, die aus dem ursprünglichen Kontext gerissen wurden. So entstehen Echokammern voller Fehlinformationen, die korrekte Informationen kaum noch durchbrechen können. Sogar Suchmaschinen und Large-Language-Modelle können unbeabsichtigt zum Problem beitragen, indem sie glaubwürdigen Journalismus mit Meinungsblogs und erfundenen Inhalten mischen. Eine Anfrage zu einem umstrittenen Thema könnte ein Durcheinander aus verschiedensten Quellen ans Licht bringen – was den Einzelnen dazu zwingt, herauszufinden, was wahr und vertrauenswürdig ist. Generative KI-Plattformen verschärfen die Situation, indem sie nicht verifiziertes Material in fließende, selbstbewusst klingende Antworten mischen und Falschinformationen mit dem gleichen Gewicht wie Fakten präsentieren.

Agentenbasierte KI: eine proaktive Lösung

Hier kommt agentenbasierte KI ins Spiel: eine Klasse künstlicher Intelligenz, die weit über grundlegende Abruf- oder Zusammenfassungsfunktionen hinausgeht. Im Gegensatz zur traditionellen KI, die möglicherweise die statistisch wahrscheinlichste Antwort liefert, ist agentenbasierte KI darauf ausgelegt, mit Absicht zu handeln. Sie interpretiert Nuancen hinter einer Frage, versteht den Kontext und ruft Informationen ausschließlich aus vertrauenswürdigen, vorab genehmigten Quellen ab. Jede Tatsache wird mit einem Quellennachweis versehen, was dem Nutzer eine sofortige Überprüfung ermöglicht. Anstatt jede Frage isoliert zu behandeln, hält sie den Gesprächsfaden aufrecht und passt sich an, während sich die Diskussion weiterentwickelt. Bei mehrdeutigen Anfragen wird nicht geraten – es wird nachgefragt, geklärt und der Nutzer zu einer präzisen Antwort geführt. Diese Fähigkeit, autonomes Denken, kontextuelles Verständnis und überprüfbare Ergebnisse zu kombinieren, macht agentenbasierte KI zu einer mächtigen Waffe gegen Desinformation. Anstatt passiv alles zu wiederholen, was im Internet steht, arbeitet sie aktiv daran, sicherzustellen, dass nur glaubwürdige, validierte Informationen geliefert werden.

Vertrauenswürdige redaktionelle Ökosysteme

Selbst die intelligenteste KI ist nur so gut wie ihre Informationsquellen. Hier kommen vertrauenswürdige redaktionelle Ökosysteme ins Spiel. Die KI arbeitet innerhalb einer kuratierten, von Journalisten verwalteten Wissensbasis aus verifiziertem Inhalt renommierter Nachrichtenorganisationen und Fachexperten. Dies bringt mehrere entscheidende Vorteile:

Genauigkeit – Inhalte werden von professionellen Journalisten geprüft, bevor sie in den Datensatz aufgenommen werden.
Transparenz – Jede Antwort ist mit ihrer ursprünglichen Quelle verknüpft, was Benutzern eine klare Möglichkeit zur Überprüfung gibt.
Unabhängigkeit – Redaktionelle Governance verhindert, dass einzelne Interessengruppen den Datensatz manipulieren können.
Sicherheit – Ausschluss unbestätigter Quellen reduziert das Risiko von KI-»Halluzinationen« erheblich.

Ein reales Beispiel ist ChatEurope – entwickelt von einem Konsortium großer europäischer Medienorganisationen [1]. Anstatt das Internet zu durchforsten, greift er ausschließlich auf verifizierte Nachrichtenarchive seiner Partner zurück und liefert mehrsprachige Antworten mit direkten Zitaten.

Mehrsprachiger Zugang als Resilienzwerkzeug

Sprachbarrieren sind ein mächtiger Faktor für Desinformationsverbreitung. Falsche Narrative können in einer Sprache Wurzeln schlagen und Tage oder sogar Wochen lang frei zirkulieren, bevor glaubwürdige Gegen-Narrative übersetzt werden und dasselbe Publikum erreichen. Vertrauenswürdige redaktionelle Ökosysteme, die von agentenbasierter KI unterstützt werden, können diesen Kreislauf durchbrechen. Sie liefern dieselben verifizierten Informationen gleichzeitig in mehreren Sprachen und verkürzen die Zeitspanne für böswillige Akteure erheblich. Hochwertige mehrsprachige Übersetzung bewahrt kulturelle und kontextuelle Nuancen, die oft in maschinell erzeugten Übersetzungen verloren gehen, und stellt sicher, dass Bedeutung und Absicht des ursprünglichen Berichts erhalten bleiben. Dieser Ansatz erweitert auch die Reichweite für traditionell unterversorgte Gruppen, sei es aufgrund von Geografie, begrenztem Zugang zu lokaler Berichterstattung oder geringerer digitaler Infrastruktur.

Gesprächstiefe und Anpassungsfähigkeit

Im Gegensatz zu statischen Faktenprüfungsseiten können agentenbasierte KI-Systeme mehrschichtige Gespräche mit Nutzern führen. Sie passen sich dem Fluss einer Diskussion an, stellen klärende Fragen und bauen auf vorherigen Austauschen auf, um die Genauigkeit der gelieferten Informationen zu verfeinern. Zum Beispiel könnte ein Nutzer mit der Frage beginnen: »Was ist die aktuelle Haltung der EU zu Agrarsubventionen?« Die KI antwortet mit einer quellenbasierten, prägnanten Antwort und liefert die verwendeten Quellen. Der anhaltende Kontext ermöglicht es, mehrschichtige Fehlinformationen zu widerlegen, ohne den Nutzer zurück zu einer Suchleiste zu zwingen.

Menschliche Kontrolle bleibt unerlässlich

Trotz ihrer Geschwindigkeit und Skalierbarkeit kann agentenbasierte KI nicht isoliert arbeiten. Redaktionelle Aufsicht durch Menschen bleibt die entscheidende Sicherheitsmaßnahme für Genauigkeit, Ausgewogenheit und Kontext. Redakteure überprüfen sensible oder umstrittene Themen, bevor sie in den Datensatz aufgenommen werden. Sie bringen menschliches Urteilsvermögen mit, das notwendig ist, um schnell sich entwickelnde Geschichten zu korrigieren oder einzuordnen, und stellen sicher, dass die Berichterstattung eine ausgewogene Perspektive über Regionen und Gemeinschaften hinweg widerspiegelt. Dieser Ansatz verwandelt KI in einen Verstärker journalistischer Strenge, anstatt sie zu ersetzen – er verbindet rechnerische Präzision mit redaktioneller Einsicht.

Zusammenarbeit als Schlüssel

Die widerstandsfähigsten redaktionellen Ökosysteme der Zukunft basieren auf umfassender Zusammenarbeit: Medienorganisationen liefern geprüfte Inhalte, Technologiepartner schaffen sichere und intelligente Liefersysteme, Entwickler und Forscher etablieren offene Standards und transparente Methoden, und öffentliche Institutionen stellen Finanzierung und rechtliche Rahmenbedingungen bereit. Diese Zusammenarbeit schafft nicht nur die technischen Möglichkeiten, um Falschinformationen wirksam zu bekämpfen, sondern auch die gesellschaftliche Glaubwürdigkeit, die uns dazu bringt, diesen Plattformen zu vertrauen und sie zu nutzen.

Wir leben in einer Zeit, in der Falschinformationen sich in Sekunden weltweit ausbreiten können. Die Kombination aus agentenbasierter KI und kuratierter redaktioneller Governance bietet einen der klarsten Wege zur Wiederherstellung der Integrität öffentlicher Informationen. Die Zukunft im Kampf gegen Fehlinformationen wird nicht allein durch Technologie oder allein durch guten Journalismus gewonnen. Der Schlüssel ist eine intelligente Fusion beider Systeme – basierend auf Vertrauen, Transparenz und Unabhängigkeit, so agil, mehrsprachig und skalierbar wie die Bedrohungen, gegen die sie entwickelt wurden.

Martin Kraft, Managing Director Operations EMEA & APAC,

DRUID AI

[1] Website: https://chateurope.eu/de/

ChatEurope

ChatEurope ist eine neue, europaweite Nachrichtenplattform, die im Juli 2025 gestartet wurde. Sie kombiniert künstliche Intelligenz mit den Inhalten führender europäischer Nachrichtenagenturen und Medienhäuser, um Bürgerinnen und Bürgern faktenbasierte Antworten auf Fragen zu europäischen Themen zu geben.

Kernelemente von ChatEurope

Initiatoren: Ein Konsortium von 15 Medienorganisationen, darunter dpa (Deutschland), Deutsche Welle, AFP (Frankreich), ANSA (Italien), El País (Spanien), Agora (Polen) und weitere Partner aus Rumänien und Frankreich.
Technologie: Der Chatbot basiert auf einem Sprachmodell des französischen KI-Unternehmens Mistral und wurde von der rumänischen Firma DRUID AI entwickelt.
Ziel:
- Transparenz über EU-Entscheidungen schaffen
- Bürger besser informieren
- Desinformation und Fake News entgegenwirken
Sprachen: Die Plattform ist in sieben europäischen Sprachen verfügbar (u. a. Deutsch, Englisch, Französisch, Spanisch, Italienisch, Polnisch, Rumänisch).
Förderung: Das Projekt wird von der EU-Kommission unterstützt.

Nutzung und Wirkung

Bereits in den ersten Monaten wurden tausende Fragen von Bürgerinnen und Bürgern beantwortet.
Besonders gefragt sind Themen wie:
- Digitale Agenda der EU (AI Act, Digital Services Act, Digital Markets Act)
- Krieg in der Ukraine
- Regionale Nachrichten und Auswirkungen europäischer Politik.

Kurz gesagt: ChatEurope ist der erste europäische Nachrichten-Chatbot, der geprüfte Informationen aus seriösen Quellen bündelt, um die demokratische Meinungsbildung zu stärken.

Hier eine kritische Einordnung von ChatEurope mit Chancen und Grenzen:

Chancen von ChatEurope

Stärkung der Informationsqualität: Bürger erhalten geprüfte, faktenbasierte Antworten aus seriösen Quellen (dpa, AFP, ANSA, El País etc.). Das ist ein Gegengewicht zu Social-Media-Desinformation.
Europäische Perspektive: Statt national fragmentierter Berichterstattung bündelt ChatEurope Inhalte aus mehreren Ländern und Sprachen – ein Schritt zu einer gemeinsamen europäischen Öffentlichkeit.
Niedrige Zugangshürden: Durch den Chatbot-Ansatz können auch Menschen erreicht werden, die klassische Nachrichtenportale nicht regelmäßig nutzen.
Transparenz über EU-Politik: Gerade bei komplexen Themen wie AI Act, Digital Markets Act oder Energiepolitik kann ChatEurope Bürgern verständliche Erklärungen liefern.

Risiken und Grenzen

Abhängigkeit von wenigen Medienhäusern: Die Inhalte stammen von einem Konsortium. Das sichert zwar Qualität, kann aber auch zu einer eingeschränkten Themenvielfalt führen.
Technologische Limitierungen: Sprachmodelle (hier von Mistral) sind nur so gut wie ihre Trainings- und Prompt-Architektur. Verzerrungen oder Fehlinterpretationen sind möglich.
Vertrauensfrage: Bürger, die ohnehin skeptisch gegenüber »Mainstream-Medien« sind, könnten ChatEurope als »EU-Propaganda« abtun.
Skalierung & Aktualität: Ob die Plattform mit der Geschwindigkeit von Social Media mithalten kann, bleibt offen. Gerade bei Krisen (z. B. Ukraine-Krieg, Energiepreise) ist Aktualität entscheidend.
Governance: Wer entscheidet, welche Fragen wie beantwortet werden? Transparenz über redaktionelle Leitlinien ist hier zentral.

Strategische Implikationen

Für die EU: ChatEurope kann ein demokratiepolitisches Instrument sein, um Vertrauen in Institutionen zu stärken – wenn es transparent und pluralistisch bleibt.
Für Medienhäuser: Es ist ein Experiment, wie man KI nutzen kann, um Reichweite und Relevanz zu sichern.
Für Bürger: Es bietet eine niedrigschwellige Möglichkeit, sich zu informieren – ersetzt aber nicht die kritische Auseinandersetzung mit unterschiedlichen Quellen.

Genki Absmeier

768 Artikel zu „Fake News“

News | IT-Security | Kommunikation | Tipps

Fake News: Was Beeinflussungsoperationen bewirken und wie man sich schützen kann

4. Oktober 2024

Beeinflussung durch falsche Fakten, Memes und Videos ist in den sozialen Medien inzwischen an der Tagesordnung. Mit Falschnachrichten steuern die Akteure politische Themen und Entscheidungen und stiften Angst und Misstrauen. Dabei nehmen sie Organisationen ebenso ins Visier wie Einzelpersonen. Unternehmen und Behörden können sich schützen, indem sie ein Bewusstsein für Beeinflussung entwickeln und proaktiv handeln.…