Warum Chatkontrolle zum Scheitern verurteilt ist – oder noch Schlimmeres droht

foto freepik

Die EU diskutiert seit Jahren über Chatkontrolle. Jetzt hat die Bundesregierung ihre Haltung geändert: Statt Nein sagt sie nur noch »unentschlossen«. Damit wächst die Gefahr, dass die EU den riskanten Vorschlag beschließt. Chatkontrolle widerspricht nicht nur den europäischen Datenschutzgesetzen, sondern es wird auch praktisch nicht funktionieren. Im besten Fall bleibt das Gesetz wirkungslos, aber im schlimmsten Fall verschärft es viele Probleme.

 

Was Chatkontrolle erreichen will

Chatkontrolle soll Missbrauchsdarstellungen in digitalen Nachrichten erkennen, sogenanntes CSAM (Child Sexual Abuse Material). Die EU-Richtlinie 2011/93/EU schreibt bereits vor, dass Mitgliedstaaten Folgendes bestrafen müssen:

  • Herstellung, Verbreitung, Weitergabe und Besitz von CSAM
  • vorsätzlichen Zugriff auf CSAM-Websites
  • Grooming, also die gezielte Kontaktaufnahme von Erwachsenen zu Minderjährigen mit Missbrauchsabsicht im Internet

Außerdem müssen Anbieter in der EU gehostete CSAM-Seiten löschen und bei Fällen im Ausland mit Partnern zusammenarbeiten.

Dabei stellt niemand in Frage, dass diese Verbrechen aktiv bekämpft werden müssen. Aber Chatkontrolle ist dafür aus unterschiedlichen Gründen ungeeignet.

 

Technik macht den Plan unbrauchbar

Verschiedene Fachgremien der EU und in Deutschland haben Chatkontrolle bereits geprüft. Ihr Urteil: Es ist technisch nicht machbar. Der Wissenschaftliche Dienst des Europäischen Parlaments (EPRS) stellte in einer Analyse gravierende technische Lücken fest. Bekannte Inhalte lassen sich meist zuverlässig erkennen. Schwieriger wird es aber bei neuem Material, das noch nicht in Datenbanken erfasst ist, und bei Grooming-Versuchen. Hier liefern die Systeme zu viele Fehler.

Hinzu kommt ein unlösbares Problem: Die Überwachung von Ende-zu-Ende-verschlüsselter Kommunikation ist technisch nicht mit dem geplanten Erkennungsauftrag vereinbar. Diese Schwäche wird im Vorschlag der EU-Kommission kaum berücksichtigt. Zudem besteht laut EPRS die Gefahr, dass einvernehmliche Kommunikation zwischen Jugendlichen fälschlich als Missbrauch eingestuft wird.

 

Folgen für Polizei und Justiz

Die fehlerhafte Technik führt so unmittelbar zu massenhaften Fehlalarmen. Strafverfolgungsbehörden müssten jeden einzelnen Fall prüfen. Das würde Ermittler binden, statt sie zu entlasten – und im schlimmsten Fall zu falschen Verdächtigungen und Verfahren gegen Unschuldige führen.

Auch der Wissenschaftliche Dienst des Deutschen Bundestages kam in einer Stellungnahme gegenüber dem Digitalausschuss zu einem ähnlichen Urteil: Neben der Sorge vor flächendeckender Internetüberwachung warnten alle neun befragten Experten, dass die Strafverfolgung mit falschen Meldungen überlastet würde.

 

Das offensichtlichste Problem: Kriminelle umgehen die Chatkontrolle

Überwachung funktioniert nur, wenn die Betroffenen nichts davon wissen. Chatkontrolle ist das Gegenteil: Es wäre ein öffentlich bekanntes Gesetz. Anbieter müssen ihre Nutzer wahrscheinlich regelmäßig darüber informieren, dass sie auf Verstöße gegen das Gesetz zum Schutz von Kindern vor sexueller Ausbeutung (CSAM) überwacht werden.

Die Folgen ist leicht absehbar: Kriminelle weichen auf alternative Dienste aus – etwa verschlüsselte Messenger, TOR-Services, VPNs, Darknet-Angebote oder Plattformen, die nicht reguliert werden. Damit wären gerade die Personen, die die Chatkontrolle eigentlich ins Visier nehmen soll, für die Behörden nicht mehr auffindbar.

Das Konzept Chatkontrolle dürfte zum Scheitern verurteilt sein. Aber das ist nur das Best-Case Szenario.

 

Mehr als nur Scheitern – welche Risiken Chatkontrolle nach sich zieht

Das wahrscheinlichste Ergebnis: Chatkontrolle bleibt wirkungslos. Doch dabei wird es dann nicht bleiben. Eine bereits eingeführte Massenüberwachung lässt sich selten zurückdrehen. Wenn die erhofften Erfolge ausbleiben, werden die Befürworter nicht aufgeben. Wahrscheinlicher ist, dass sie noch mehr Kontrolle fordern.

Das beginnt mit Angriffen auf die Ende-zu-Ende-Verschlüsselung. Behörden könnten Hintertüren verlangen, die zwangsläufig unsicher sind – wie der »Salt Typhoon«-Hack gezeigt hat, bei dem Angreifer gezielt Schwachstellen in solchen Zugangsmöglichkeiten ausnutzten. Noch gravierender wäre ein weiterer Ausbau der Überwachung: zunehmende Zensur, staatliche Kontrolle und ein schleichender Abbau grundlegender Freiheitsrechte. Beispiele wie die »Great Firewall« in China zeigen, wohin dieser Weg führen kann. Was heute noch in weiter Ferne erscheint, könnte schneller Realität werden, als man denkt.

Wir können also gar nicht vorsichtig genug sein, wenn es um den Schutz unserer Freiheitsrechte geht. Chatkontrolle löst keine Probleme. Es schafft neue.

Benjamin Schilz, CEO, Wire

Benjamin Schilz ist ein erfahrener internationaler Unternehmer mit einer beeindruckenden Erfolgsbilanz bei der Bereitstellung innovativer Cybersicherheitslösungen. Er gründete Acorus Networks, ein Unternehmen für Cybersicherheit und Cloud-Management mit Sitz in Frankreich, das später mit Volterra fusioniert wurde. Bei Volterra spielte er eine Schlüsselrolle, indem er zusätzliche Investitionen sicherte, den globalen Betrieb sowie die Strategie zur Implementierung im Kundenumfeld leitete und schließlich die Übernahme durch das weltweit tätige Technologieunternehmen F5 aushandelte und abschloss. Anschließend übernahm er dort die Position des Vice President für Infrastruktur und Betrieb.

 

2041 Artikel zu „Chat Kontrolle“

Schattenwirtschaft wächst in der Rezession gegen den Trend

Das Volumen der Schattenwirtschaft (Definition der Bundeszentrale für politische Bildung) ist laut Angaben des Instituts für Angewandte Wirtschaftsforschung (IAW) in den letzten Jahren kontinuierlich gestiegen [1]. Für das laufende Jahr geht das Tübinger Institut davon aus, dass hierzulande über 500 Milliarden Euro ohne Kenntnis des Fiskus erwirtschaftet werden. Im Verhältnis zum offiziellen BIP Deutschlands entspricht…

Umgang mit KI-Risiken: Identity, Zugriff und Kontrolle

Datenschutz und Sicherheitsrisiken durch KI bereiten Führungskräften die größten Sorgen. Damit KI-Agenten die ihnen zugedachten Aufgaben erfüllen können, benötigen sie oft Zugriff auf die Daten, Systeme und Ressourcen des Unternehmens. Je mehr Zugriff sie dabei besitzen, desto mehr können sie leisten. Daher drängt es sich – vor allem in dieser »Wild-West-Phase« der Tests und Experimente…

Die Schattenkosten von KI-Investitionen und wie man sie sichtbar macht

In den vergangenen Jahren hat der Hype um künstliche Intelligenz zu Milliarden-Investitionen und großen Erwartungen geführt. Organisationen hoffen auf spürbare Effizienz- und Produktivitätssteigerungen sowie eine grundlegende Verbesserung ihrer Abläufe. In Deutschland erwarten laut der Bitkom-Studie »Künstliche Intelligenz in der deutschen Wirtschaft« 73 Prozent der Unternehmen eine Stärkung ihrer Wettbewerbsfähigkeit, 64 Prozent sinkende Kosten und 68…

Schatten-KI im Unternehmen: Risiken erkennen, Vertrauen sichern

Wer glaubt, dass das KI-Zeitalter nur positive Überraschungen parat hat, irrt gewaltig. Eine neue Herausforderung nimmt bereits Form an: die Schatten-KI. Gemeint ist der unkontrollierte Einsatz von KI-Tools außerhalb formeller Governance-Strukturen, also ohne Freigabe oder Überwachung durch IT, Security oder Compliance. Schatten-KI verbreitet sich sogar noch schneller, als das seinerzeit bei der Schatten-IT der Fall…

Schatten-IT durch übergroße Anhänge: Warum der E-Mail-Versand oft zur Sicherheitslücke wird

Mitarbeiter, die dringend große Dateien versenden müssen, greifen nicht selten zu frei verfügbaren Filetransfer-Diensten im Internet. Es gibt viele Angebote, die leicht zu bedienen sind und in Sekunden funktionieren – ein Upload-Link genügt. Doch was aus Sicht der Nutzer pragmatisch und effizient erscheint, birgt für Unternehmen erhebliche Risiken. Datenschutz, IT-Sicherheit und Nachvollziehbarkeit bleiben dabei oft…

Peering: Der unterschätzte Erfolgsfaktor der KI-Infrastruktur

Während KI ins Zentrum der Wertschöpfung rückt, bleibt eine zentrale Herausforderung oft unbeachtet: die Latenz – und damit die Zeit, die bei einer Datenübertragung vergeht. Denn: Rechenleistung und intelligente Algorithmen allein reichen in der KI-Ökonomie nicht aus. Entscheidend ist die Geschwindigkeit, mit der sich Daten übertragen lassen. »KI wird nur dann flächendeckend funktionieren, wenn die…

Sichtbarkeit im Schatten der KI – Wie Unternehmen 2025 online wahrgenommen werden

KI generiertes Bild Unternehmen stehen vor einer grundlegenden Veränderung der digitalen Sichtbarkeit. Nicht mehr nur klassische Suchmaschinen oder soziale Netzwerke entscheiden darüber, ob ein Unternehmen gefunden wird – sondern zunehmend generative KI-Systeme wie Google Gemini, OpenAI ChatGPT oder Apple Intelligence. Diese nutzen strukturierte Daten, Bewertungsportale und vernetzte Unternehmensverzeichnisse als Basis für ihre Empfehlungen. Die Folge:…

Wer KI richtig wertschätzen will, muss in die zugrundeliegende Infrastruktur investieren

Ein Kommentar von Jeff Wittich, Chief Product Officer bei Ampere. Anlässlich des AI Appreciation Day schenkt die Tech-Branche weltweit dem Thema künstliche Intelligenz mehr Aufmerksamkeit. Dabei rücken häufig jedoch nur die erstaunlichen Fähigkeiten der Technologie ins Rampenlicht der Feierlichkeiten – von autonomen Systemen und Sprachmodellen bis hin zu Echtzeitentscheidungen. Vielmehr beginnt die Wertschätzung für KI…

Cloudbasierte KI-Anwendungen und die Gefahr der Schatten-KI

Die rasante Verbreitung cloudbasierter KI revolutioniert Unternehmen, birgt aber eine unterschätzte Gefahr: die »Schatten-KI«. Die unkontrollierte Nutzung von cloudbasierten KI-Tools erhöht die Komplexität der Cybersicherheit und stellt neue Herausforderungen für den Schutz sensibler Daten und Prozesse dar.   Der von Elon Musks xAI-Start-up entwickelte KI-Chatbot Grok ist seit Ende Mai auf Microsofts Azure-Cloud-Plattform verfügbar. Die…

Dienstleistungsunternehmen setzen stark auf künstliche Intelligenz – unterschätzen aber Risiken und Absicherung

KI-Nutzung in deutschen Dienstleistungsunternehmen bereits weit verbreitet. Entscheider sehen Effizienzsteigerung als wichtigstes Ziel. Bedenken beziehen sich vor allem auf Datenschutz und Fehleranfälligkeit. Nur ein Viertel sind gegen Risiken im Zusammenhang mit KI versichert.   Künstliche Intelligenz (KI) ist längst in deutschen Unternehmen im Dienstleistungssektor voll angekommen – das zeigt eine aktuelle Umfrage zu Nutzung, Chancen…

Einmal in die Cloud und wieder zurück: Unternehmen wollen wieder mehr Kontrolle über ihre IT-Infrastruktur

Das Thema Cloud ist in fast allen IT-Abteilungen nach wie vor allgegenwärtig. Aber immer häufiger stellt sich auch Ernüchterung ein: Die hohen Erwartungen an Kosteneinsparungen und Komplexitätsreduktion haben sich nicht überall erfüllt – oft ist sogar das Gegenteil eingetreten. Hinzu kommen neue Unsicherheiten durch aktuelle geopolitische Veränderungen und eine neue Wahrnehmung der Bedeutung von digitaler…

Deutschland übertrifft Europa bei GenAI-Investitionen und ROI mit KI-Einsatz in Prozessoptimierung, Cybersicherheit und Qualitätskontrolle

Eine globale Studie zeigt, dass deutsche Hersteller trotz Herausforderungen bei der Personalentwicklung und Datennutzung die höchsten GenAI-Renditen in Europa erzielen.   Rockwell Automation, das Unternehmen für industrielle Automatisierung und digitale Transformation, hat die deutschen Ergebnisse seines 10. jährlichen Berichts zur intelligenten Fertigung vorgestellt [1]. Die Daten zeigen, dass der Fertigungssektor erhebliche Investitionen und Erträge in…

Meta AI hat Gemini als datenhungrigsten Chatbot abgelöst

Google Gemini hat abgedankt. Meta hat kürzlich seine Chatbot-App Meta AI vorgestellt, die als neuer Datenkönig gilt. Laut einer Studie des Cybersicherheitsunternehmens Surfshark sammelt Meta AI Nutzerdaten wie niemand zuvor [1]. Dieser Chatbot übertrifft alle anderen analysierten Chatbots, da er 32 von 35 Datentypen erfasst, was mehr als doppelt so viel ist wie der Durchschnitt.…

KI-Agenten: Unternehmen in Deutschland unterschätzen Nutzen für den Vertrieb

Drei Viertel sind unsicher, ob sie 2028 neue Kundengruppen bedienen werden. 40 Prozent nutzen GenAI im Marketing, 31 Prozent im Vertrieb. Analyse: Unternehmen setzen KI nicht konsequent genug ein.   Unternehmen in Deutschland sind skeptisch hinsichtlich des durchgängigen Einsatzes von KI-Agenten. Nur 25 Prozent der Entscheiderinnen und Entscheider glauben, dass sie grundsätzlich mithilfe von GenAI-Lösungen…

Schattenwirtschaft: Mehr als 3 Millionen Deutsche arbeiten schwarz

Rund fünf Prozent der Deutschen haben in den vergangenen zwölf Monaten schwarzgearbeitet, zeigt eine neue Studie des Instituts der deutschen Wirtschaft (IW). Insbesondere jüngere Menschen arbeiten am Finanzamt vorbei. Um Schwarzarbeit zu bekämpfen, muss die Politik die Steuer- und Abgabenlast senken.   Es ist ein verlockendes Angebot, wenn der Handwerker anbietet, ohne Rechnung zu arbeiten:…

Selbsteinschätzung der Lehrkräfte: Note 2,5 für ihre Digitalkompetenz

Mehr als zwei Drittel setzen digitale Lernplattformen ein.   Mit dem Tablet Matheaufgaben lösen, am Smartboard chemische Reaktionen aufzeichnen, im Deutschunterricht einen Podcast aufnehmen – die Einsatzmöglichkeiten digitaler Tools und Geräte zur zeitgemäßen Unterrichtsgestaltung sind enorm. Und die Lehrerinnen und Lehrer sind der Meinung, dass sie mit diesen neuen Tools recht gut umgehen können. Für…

Cloud-Trends 2025: Flexibilität, Kostenkontrolle und digitale Souveränität

Die angespannte Wirtschaftslage stellt viele Unternehmen vor erhebliche Herausforderungen. Gleichzeitig steigen die regulatorischen Anforderungen, und die Risiken durch Abhängigkeiten von großen Anbietern rücken immer stärker in den Fokus. Diese Herausforderungen erfordern von Unternehmen neue Ansätze, ihre IT-Infrastrukturen flexibler, unabhängiger und widerstandsfähiger zu machen. Multi-Cloud-Strategien, digitale Souveränität und der Ausbruch aus dem Vendor Lock-in werden daher…

Mitarbeiter nutzen Schatten-KI trotz Unternehmensrichtlinien

75 Prozent der Wissensarbeiter nutzen bereits KI. 54 Prozent der deutschen Wissensarbeiter nutzen Schatten-KI. 49 Prozent würden nicht darauf verzichten, selbst wenn es verboten wäre.   Mehr als die Hälfte aller Mitarbeiter nutzt »Schatten-KI«, also nicht vom Unternehmen bereitgestellte KI-Tools. Dies geht aus der aktuellen Studie »Chasing Shadows – Getting Ahead of Shadow AI« der…

KMU: Diese Fehleinschätzungen kursieren rund um NIS2

Mit der neuen EU-Richtlinie für Cybersicherheit erweitert sich der Kreis der betroffenen Firmen von rund 2.000 Unternehmen auf geschätzte 30.000. Während sich Großbetriebe von ihren Rechtsabteilungen beraten lassen, sind viele Mittelständler auf sich gestellt – und verunsichert.   Das Risiko, Opfer einer Cyberattacke zu werden, ist derzeit höher denn je – und Unternehmen sind dafür…