foto freepik ki

Unternehmen gehen beim Einsatz von Large Language Models (LLMs) ohne angemessene Regularien, Verifikation und Aufsicht erhebliche rechtliche, finanzielle und reputationsbezogene Risiken ein.

Die Studie »Risks of Unmanaged AI Reliance: Evaluating Regional Biases, Geofencing, Data Sovereignty, and Censorship in LLM Models« von Trend Micro zeigt, dass KI-Systeme je nach geografischem Standort, Sprache, Modelldesign und integrierten Kontrollmechanismen teils deutlich unterschiedliche Ergebnisse lieferten [1]. In kundenorientierten oder entscheidungsunterstützenden Einsatzszenarien könnten solche Inkonsistenzen das Vertrauen untergraben, im Widerspruch zu lokalen regulatorischen oder kulturellen Rahmenbedingungen stehen und kostspielige geschäftliche Folgen nach sich ziehen.

Trend-Micro-Forscher testeten mehr als 100 KI-Modelle mit über 800 gezielt entwickelten Prompts, um Verzerrungen, politisches und kulturelles Kontextverständnis, Geofencing-Verhalten, Signale zur Datensouveränität sowie kontextuelle Einschränkungen zu analysieren. Tausende wiederholte Experimente dienten dazu, Veränderungen der Ausgaben über Zeit und Standorte hinweg zu messen. Insgesamt werteten die Forscher mehr als 60 Millionen Eingabetokens und über 500 Millionen Ausgabetokens aus.

Die Ergebnisse zeigen, dass identische Eingaben je nach Region und Modell unterschiedliche Antworten erzeugen und selbst bei wiederholten Interaktionen mit demselben System variieren. In politisch sensiblen Szenarien, etwa bei der Darstellung umstrittener Gebiete oder nationaler Identitäten, weisen die Modelle klare regionale Ausrichtungsunterschiede auf. In weiteren Tests lieferten die Systeme inkonsistente oder veraltete Ergebnisse in Bereichen, die hohe Präzision erfordern, darunter Finanzberechnungen und zeitkritische Informationen.

»Viele Unternehmen gehen davon aus, dass KI wie klassische Software funktioniert, bei der dieselbe Eingabe zuverlässig dieselbe Ausgabe erzeugt«, erklärt Robert McArdle, Director of Cybersecurity Research bei Trend Micro. »Unsere Forschung zeigt, dass diese Annahme nicht zutrifft. LLMs verändern ihre Antworten abhängig von Region, Sprache und Schutzmechanismen und diese Antworten können sich von einer Interaktion zur nächsten unterscheiden. Werden KI-Ausgaben direkt in Customer Journeys oder Geschäftsentscheidungen eingebunden, riskieren Unternehmen den Verlust der Kontrolle über Markenkommunikation, Compliance-Positionierung und kulturelle Anschlussfähigkeit.«

Der Bericht hebt hervor, dass sich diese Risiken insbesondere für globale Unternehmen verstärken, die KI grenzüberschreitend einsetzen. Dort müsse ein KI-gestützter Service häufig gleichzeitig unterschiedlichen rechtlichen Rahmenbedingungen, politischen Sensibilitäten und gesellschaftlichen Erwartungen gerecht werden. Zudem verweist die Studie auf besondere Herausforderungen für den öffentlichen Sektor: KI-generierte Inhalte könnten dort als offizielle Orientierung wahrgenommen werden, während der Einsatz nicht lokalisierter Modelle Risiken für Souveränität und Zugänglichkeit berge.

»KI sollte nicht als Plug-and-Play-Produktivitätswerkzeug betrachtet werden«, ergänzt Robert McArdle. »Unternehmen müssen sie als Abhängigkeit mit hohem Risiko behandeln, die klare Regularien, eindeutige Verantwortlichkeiten und die menschliche Verifikation aller nutzerseitigen Ausgaben erfordert. Dazu gehört auch, von KI-Anbietern Transparenz darüber einzufordern, wie sich Modelle verhalten, auf welchen Daten sie basieren und wo Schutzmechanismen greifen. Wenn KI mit einem klaren Verständnis ihrer Grenzen eingesetzt und mit Kontrollmechanismen versehen wird, die dem tatsächlichen Verhalten dieser Systeme in realen Umgebungen Rechnung tragen, kann sie Innovation und Effizienz erheblich vorantreiben.«

[1] Die vollständige Studie Risks of Unmanaged AI Reliance: Evaluating Regional Biases, Geofencing, Data Sovereignty, and Censorship in LLM Models finden Sie hier:

https://www.trendmicro.com/vinfo/de/security/news/cybercrime-and-digital-threats/how-unmanaged-ai-adoption-puts-enterprises-at-risk

Wichtige Erkenntnisse

Die Analyse hat sieben zentrale Aspekte ergeben, die Organisationen bei der Bewertung und Einführung von LLM-basierten Systemen berücksichtigen sollten:

Geschäftsrisiken:

Der Einsatz von LLMs in kundenorientierten Prozessen kann erhebliche rechtliche, finanzielle und reputationsbezogene Risiken bergen, wenn keine geeigneten Kontrollmechanismen vorhanden sind. Werden LLM-Ergebnisse unreflektiert in Geschäftsprozesse übernommen, können Unternehmen solchen Risiken ausgesetzt sein. Negative Kundenerfahrungen können zu Kundenabwanderung und Umsatzverlust führen. Es ist entscheidend, diese Risiken zu verstehen, zu bewerten und zu quantifizieren, um sie zu minimieren.

Voreingenommenheit (Bias):

Die KI-Modelle zeigten je nach Region, aus der die Fragen gestellt wurden, unterschiedliche Grade an Voreingenommenheit. Beispielsweise unterschieden sich die Antworten auf Fragen zu Taiwan und der Krim deutlich je nach geografischem Standort, was regionale politische Voreingenommenheiten widerspiegelt. Im Test wurden verschiedene Arten von Bias festgestellt, darunter rechnerische Fehler (z. B. fehlerhafte mathematische Berechnungen, da LLMs nicht logisch rechnen), soziale, geopolitische, kulturelle und sprachliche Verzerrungen.

Nicht-deterministische Natur von KI:

Im Gegensatz zu traditionellen Computersystemen, bei denen die Ausgabe immer gleich ist, ist die Natur von KI nicht-deterministisch. Das bedeutet, dass die Ergebnisse für identische Eingaben erheblich variieren können. Für Unternehmen wird es dadurch schwierig, die Auswirkungen KI-generierter Ausgaben vorherzusehen und zu steuern.

Zugänglichkeit:

Die Verfügbarkeit von GenAI-Lösungen variierte stark zwischen verschiedenen Regionen. Einige Modelle waren in bestimmten geografischen Gebieten leichter zugänglich, während andere eingeschränkt oder gar nicht verfügbar waren.

Zensur:

Einige KI-Modelle unterlagen einer spürbaren Zensur, insbesondere in Regionen mit strengen Informationskontrollrichtlinien. Antworten auf sensible Themen wie ausländische Agenten und Medienplattformen wurden häufig durch eingebaute Kontrollmechanismen gefiltert oder verändert.

Datensouveränität:

In den Antworten der KI-Modelle zeigten sich Hinweise auf Datensouveränität, was darauf hindeutet, dass Datenlokalisierung und regionale Datenrichtlinien die Ausgaben der Modelle beeinflussen. Modelle aus einer bestimmten Region haben mehr Einblick in regionsspezifische Daten.

Geofencing:

Die Geofencing-Eigenschaften der Modelle waren deutlich erkennbar: Bestimmte Antworten wurden je nach Standort des Nutzers eingeschränkt oder angepasst. Der Zugang zu einigen regionalen Modellen ist zudem auf IP-Bereiche bestimmter Länder oder Nutzer einer bestimmten Nationalität beschränkt.

Wie können Unternehmen die Herausforderungen beim Einsatz von KI und insbesondere Large Language Models (LLMs) bewältigen?

Die genannten Risiken – wie Geschäftsrisiken, Voreingenommenheit, Nicht-Determinismus, Zugänglichkeit, Zensur, Datensouveränität und Geofencing – erfordern einen systematischen und verantwortungsvollen Umgang.

Empfohlene Maßnahmen zur Bewältigung dieser Herausforderungen:

Klare Regularien und Verantwortlichkeiten etablieren:

Unternehmen sollten interne Richtlinien für den Einsatz von KI entwickeln, die Verantwortlichkeiten klar zuweisen und die menschliche Verifikation aller KI-Ausgaben sicherstellen. KI darf nicht als Plug-and-Play-Produktivitätswerkzeug betrachtet werden, sondern als Abhängigkeit mit hohem Risiko.

Transparenz von KI-Anbietern einfordern:

Es ist wichtig, von KI-Anbietern Offenheit darüber zu verlangen, wie Modelle funktionieren, auf welchen Daten sie basieren und wo Schutzmechanismen greifen. Nur so können Unternehmen die Grenzen und das Verhalten der Systeme verstehen und kontrollieren.

Regionale und regulatorische Anforderungen berücksichtigen:

Gerade globale Unternehmen müssen sicherstellen, dass KI-gestützte Services den unterschiedlichen rechtlichen Rahmenbedingungen, politischen Sensibilitäten und gesellschaftlichen Erwartungen in den jeweiligen Märkten gerecht werden.

Bias und Nicht-Determinismus erkennen und minimieren:

Unternehmen sollten regelmäßig testen, wie KI-Modelle auf verschiedene Eingaben reagieren, um Verzerrungen und inkonsistente Ergebnisse zu identifizieren. Die Ergebnisse sollten dokumentiert und bei der Entscheidungsfindung berücksichtigt werden.

Datensouveränität und Geofencing beachten:

Die Auswahl und Konfiguration von KI-Modellen sollte so erfolgen, dass regionale Datenrichtlinien und Zugriffsrechte eingehalten werden. Unternehmen müssen prüfen, ob die Modelle in den relevanten Regionen verfügbar und konform sind.

Zensur und Zugänglichkeit überwachen:

Es empfiehlt sich, die Antworten der KI auf sensible Themen regelmäßig zu überprüfen und sicherzustellen, dass keine unerwünschte Zensur oder Einschränkung der Zugänglichkeit vorliegt.

Fazit

Die Bewältigung dieser Herausforderungen erfordert einen ganzheitlichen Ansatz, der technische, rechtliche und organisatorische Aspekte vereint. Mit klaren Regeln, Transparenz, regelmäßiger Überprüfung und Anpassung der Systeme sowie einer bewussten Einbindung menschlicher Kontrolle können Unternehmen die Risiken minimieren und die Vorteile von KI verantwortungsvoll nutzen.

Albert Absmeier & KI

4684 Artikel zu „KI Risiko“

News | Business | IT-Security | Ausgabe 11-12-2025 | Security Spezial 11-12-2025

Welche Compliance-Risiken beschert KI deutschen Unternehmen – Vom Regelhüter zum Risikonavigator

29. Dezember 2025

Das Interview mit Oliver Riehl, Regional Vice President DACH bei NAVEX, beleuchtet die Herausforderungen und Chancen, die künstliche Intelligenz (KI) für deutsche Unternehmen im Bereich Compliance mit sich bringt. Riehl betont, dass KI helfen kann, Ordnung in die wachsende Komplexität der Regularien zu bringen, jedoch eine gute Governance und klare Richtlinien erforderlich sind, um effektiv eingesetzt zu werden. Zudem wird die Bedeutung einer vertrauensvollen Compliance-Kultur hervorgehoben, um Datenverluste zu vermeiden und die Effizienz von Hinweisgebersystemen zu steigern.