Illustration Absmeier foto freepik

Unternehmen lassen KI unbeaufsichtigt laufen, als ob sie einem Praktikanten große Entscheidungen anvertrauen, anstatt einfache Aufgaben – obwohl sie noch nicht klug genug sind.

Stellen Sie sich vor, Sie kommen an einem Bahnhof während der Hauptverkehrszeit an einem überfüllten Zug irgendwo in Bangladesch oder Indien vorbei. Sie wissen vielleicht nicht, wohin er fährt, aber da so viele Menschen an Bord sind, nehmen Sie an, dass sie irgendwohin fahren, wo es sich lohnt – also steigen Sie auch ein. Macht das Sinn? Nicht wirklich. Doch es ist nicht weniger unlogisch, als wenn lokale Unternehmen sich beeilen, einen KI-Agenten zu implementieren, nur weil andere Unternehmen es tun. Aber wissen sie tatsächlich, was ein KI-Agent tut oder wie man entscheidet, ob die Vorteile die Risiken überwiegen?

Die Definition eines KI-Agenten selbst könnte Ihnen Schauer über den Rücken jagen. Laut IBM ist ein KI-Agent ein System, das Aufgaben autonom ausführen kann. KI-Agenten bieten personalisierte und umfassende Antworten und lernen im Laufe der Zeit, sich an ihre Benutzer anzupassen. Aber um dies zu tun, müssen sie die Feinheiten Ihrer Organisation kennen – und hier beginnt das ganze Problem.

Die KI-Technologie ist noch sehr jung, und wir sind nicht sehr vertraut damit, wie sie funktioniert. Manche Benutzer sind misstrauisch gegenüber ihr, und die Gegenreaktion gegen KI wächst, da sie Urheberrechtsgesetze verletzt, Menschen arbeitslos macht und bestehende gesellschaftliche Vorurteile verstärkt.

Für Unternehmen öffnet sie die Tür zu neuen Risiken.

Hier ist ein interessantes Beispiel. Eine neue Studie von Forschern der Princeton University und Sentient, einem KI-Unternehmen, hat herausgefunden, dass KI-Agenten anfällig für Gedächtnisinjektionsangriffe sind, die dann ihr Verhalten manipulieren können. Kurz gesagt bedeutet dies, dass ein Angreifer eine falsche Erinnerung in einen KI-Agenten einpflanzen kann, die dieser dann für zukünftige Entscheidungen verwendet.

Das Papier forderte dazu auf, die Bedrohung anzugehen, da ein solcher Angriff zu anhaltenden, plattformübergreifenden Sicherheitsverletzungen führen könnte. Zusammen mit diesen Verletzungen kommen der Verlust des Benutzervertrauens, die Systemintegrität und die Betriebssicherheit.

Böswillige Hacker nutzen jede Gelegenheit, um unsere zunehmende Abhängigkeit von KI auszunutzen. In einem gut dokumentierten Fall wurde beispielsweise gezeigt, dass Googles Gemini anfällig für langfristige Gedächtniskorruption ist.

Hacker arbeiten hart daran, KI-Agenten zu manipulieren. Da Sie höchstwahrscheinlich einem KI-Agenten Ihre internen Daten und Prozesse anvertraut haben, kann er zur Achillesferse Ihrer Organisation werden. Dieses Problem wird ständig angegangen, wobei Sicherheitsforscher unermüdlich daran arbeiten, verschiedene Schwachstellen zu beheben.

Aber es gibt etwas, das viel schwerer zu beheben ist – unsere Vorurteile. Laut einer Forbes-Geschichte aus dem Jahr 2021 führte KI-Voreingenommenheit dazu, dass 80 % der schwarzen Hypothekenantragsteller abgelehnt wurden. Jahre vergehen, aber das Problem in der Branche bleibt bestehen: Letztes Jahr fanden Forscher der Lehigh University heraus, dass LLM-Trainingsdaten wahrscheinlich anhaltende gesellschaftliche Vorurteile widerspiegeln.

Viele von uns glauben fälschlicherweise, dass KI objektiv und unvoreingenommen ist, weil sie nur Mathematik, Software oder eine Maschine ist. Wir könnten nicht falscher liegen. Erstens werden alle LLMs mit fehlerhaften Datenbanken trainiert, deren Daten von Menschen über Jahrhunderte hinweg gesammelt und organisiert wurden. Infolgedessen wissen Algorithmen mehr über weiße Männer als über farbige Menschen, Frauen oder andere historisch unterrepräsentierte Gruppen in verschiedenen Bereichen und Archiven.

Würden Sie einem KI-Agenten die Aufgabe anvertrauen, Kredite zu vergeben oder abzulehnen? Was ist mit Beförderungen? Würden Sie einem KI-Agenten vertrauen, Bewerber zu sichten oder zu entscheiden, wer ein Vorstellungsgespräch bekommt? Würden Sie KI-Agenten verwenden, um Kautions- oder Urteilsentscheidungen zu empfehlen? Und wenn ja, wären Sie 100 % transparent darüber, wie Sie KI einsetzen?

Wenn Ihr robotischer Praktikant versagt, werden Sie in der Lage sein, den Fehler und die dahinterstehende Logik zu erklären? Ich liebe, wie es die Harvard Business Review ausdrückte – ethische Albträume vervielfachen sich mit den Fortschritten der KI.

Verstehen Sie mich nicht falsch. Ich bin absolut dafür, Aufgaben zu delegieren und die langweiligsten und zeitaufwändigsten Jobs einem Stück Code zu überlassen. Aber da so viele Organisationen KI im Eiltempo implementieren, mache ich mir Sorgen, dass nicht genug über die dringendsten Probleme diskutiert wird.

Um ein wenig abzuschweifen, Mitarbeiter beschweren sich tatsächlich darüber, dass ihre Arbeitgeber zu langsam sind, um einige KI-Tools zu genehmigen. Infolgedessen verwenden sie einige Algorithmen heimlich, was noch schlimmer ist.

Zusätzlich zu den zunehmenden ethischen Problemen und Sicherheitsfragen treibt der Einsatz von agentischer KI die Kosten in die Höhe, während sie fragwürdigen Nutzen für Unternehmen liefert.

Gartner, ein amerikanisches Forschungs- und Beratungsunternehmen, prognostiziert, dass bis Ende 2027 mehr als 40 % der agentischen KI-Projekte abgebrochen werden. Warum? Wegen hoher Kosten, unklarem Nutzen und unzureichenden Risikokontrollen. Experten glauben, dass die meisten agentischen KI-Projekte durch Hype getrieben und oft falsch angewendet werden. Sie raten dazu, agentische KI nur dann zu verfolgen, wenn sie klaren Nutzen oder eine solide Kapitalrendite bietet.

Seien Sie klüger als diejenigen, die aus Angst, etwas zu verpassen, auf den Zug aufspringen. Wir Introvertierten scherzen gerne über die Angst, einbezogen zu werden. Ihr Unternehmen könnte das Mantra »schnell scheitern« singen, aber da KI mit privaten Daten umgeht, wird ein solcher Fehler nicht schmerzlos sein.

Sie könnten schnell scheitern, aber Sie werden wahrscheinlich auch groß scheitern. Nehmen Sie sich also Zeit, denken Sie kritisch nach und priorisieren Sie Sicherheit vor Geschwindigkeit. Bevor Sie eintauchen, sollten Sie diese praktischen Schritte in Betracht ziehen:

Führen Sie gründliche Risikobewertungen durch, um potenzielle Schwachstellen und Auswirkungen zu identifizieren.
Beginnen Sie mit kleinen Pilotprojekten, um KI-Agenten in kontrollierten Umgebungen zu testen, bevor Sie sie skalieren.
Implementieren Sie starke Datenverwaltungspolitiken, um sensible Informationen zu schützen und die Einhaltung sicherzustellen.
Stellen Sie Transparenz bei der KI-Entscheidungsfindung sicher, indem Sie dokumentieren, wie Entscheidungen getroffen werden, und die Prozesse überprüfbar machen.
Investieren Sie in kontinuierliche Überwachung und Prüfung, um Probleme frühzeitig zu erkennen und Ihre Systeme kontinuierlich zu verbessern.
Viele Unternehmen rufen letztendlich menschliche Experten hinzu, um nach KI-Fehlern aufzuräumen, was normalerweise mehr kostet, als von Anfang an einen Experten einzustellen. Sparen Sie sich den Kopfschmerz (und zusätzliche Rechnungen), indem Sie einen echten Menschen die Arbeit Ihrer KI überprüfen lassen.

Denken Sie daran, dass viel Aufregung um KI-Agenten nichts weiter als ein Rauchvorhang ist, um zu verschleiern, dass wir es mit einem Ungeheuer zu tun haben, über das wir nicht viel wissen. Vielleicht sollten wir es also noch nicht alleine entscheiden lassen.

Jurgita Lapienytė

Jurgita Lapienytė ist Chefredakteurin bei Cybernews, wo sie ein Team von Journalisten und Sicherheitsexperten leitet, das Cyberbedrohungen durch Forschung, Tests und datengetriebene Berichterstattung aufdeckt. Mit einer Karriere, die sich über mehr als 15 Jahre erstreckt, hat sie über wichtige globale Ereignisse berichtet, darunter die Finanzkrise 2008 und die Terroranschläge in Paris 2015, und hat durch investigativen Journalismus Transparenz gefördert. Als leidenschaftliche Verfechterin des Bewusstseins für Cybersicherheit und Frauen in der Technik hat Jurgita führende Persönlichkeiten der Cybersicherheit interviewt und unterrepräsentierten Stimmen in der Branche Gehör verschafft. Sie wurde als Cybersecurity-Journalistin des Jahres ausgezeichnet und in der Liste der 40 unter 40 im Bereich Cybersicherheit des Top Cyber News Magazine aufgeführt.

282 Artikel zu „KI Ethik Risiko“

Ausgabe 7-8-2025 | News | Business | Künstliche Intelligenz

Der Aufstieg KI-gestützter GRC-Systeme – Vom Bauchgefühl zur Datenhoheit

31. August 2025

Der Einsatz künstlicher Intelligenz verändert in rasantem Tempo die Art und Weise, wie Unternehmen ihr Governance, Risiko- und Compliance-Management (GRC) organisieren. Die Regulierung durch den EU AI Act bringt zusätzlich neue Anforderungen und potenzielle Risiken mit sich. Statt sich hinter absoluten Verboten zu verstecken, sind Organisationen jetzt gefordert, klare interne Leitplanken für den Einsatz von KI zu definieren und Governance-Strukturen frühzeitig anzupassen.