Illustration Absmeier foto freepik

Künstliche Intelligenz (KI) wird heute schon vielfach bei der Entscheidungsfindung benutzt. Doch was passiert, wenn die Datengrundlage, auf der diese Entscheidungen beruhen, verzerrt ist? Eine geschlechtsspezifische Voreingenommenheit, die technische und gesellschaftliche Folgen haben kann.

Prof. Dr. Christian Prinz, Molekularmediziner, Professor für Data Science und Künstliche Intelligenz an der »SRH Fernhochschule – The Mobile University« lehrt und forscht rund um das Thema KI. Für ihn ist klar: KI ist nur so objektiv wie die Daten, mit denen sie trainiert wurde. Das Problem: Viele dieser Daten spiegeln gesellschaftliche Vorurteile wider. Besonders deutlich wird das in der Medizin. Studien zeigen, dass Frauen bei Brustschmerzen im Schnitt länger auf ein EKG warten als Männer. Ihre Symptome werden häufiger als psychisch eingestuft, insbesondere wenn sie von der vermeintlich männlichen Herzinfarktsymptomatik abweichen. Und das hat Auswirkungen auf die Ergebnisse, wenn man die KI mit diesen Studiendaten trainiert, um sie dann zur Unterstützung rund um eine Herzinfarktdiagnose einzusetzen.

Die Daten lügen nicht. Oder doch?

»Die vorhandenen Daten sind immer die Grundlage. Wenn sie Bias enthalten, dann produzieren sie Bias behaftete Vorhersagen. Das passiert oft unbemerkt, wenn man nicht genau auf die Daten schaut«, erklärt Prinz. Überlässt man also der KI das Feld unkontrolliert, entsteht laut dem Wissenschaftler bei gesellschaftlich positiven Entwicklungen in der KI oft wieder ein Reset, weil deren Datengrundlage somit massiv überholt ist.

In seiner Forschung beschäftigt sich Christian Prinz unter anderem mit geschlechtsspezifischen Unterschieden in medizinischen Daten und den Risiken algorithmischer Entscheidungen. Aus diesem Bereich liefert er ein konkretes Beispiel: Eine Frau klagt über Übelkeit, Rückenschmerzen und Erschöpfung: Symptome, die durchaus zu einem Herzinfarkt gehören, aber oft übersehen werden. »Die KI erkennt solche Fälle oft schlechter, weil sie auf Datensätzen basiert, in denen Männer überrepräsentiert sind und weibliche Symptomatiken als ›atypisch‹ gelten«, so Prinz.

Wenn Algorithmen benachteiligen

Nicht nur in der Medizin, auch in anderen Bereichen zeigt sich Gender Bias. Ein großer internationaler Onlinehändler stoppte ein Bewerbertool, weil es Frauen systematisch benachteiligte. Die KI bewertete Begriffe und Formulierungen aus alten Bewerbungen – mehrheitlich von Männern – als besonders positiv. Frauen mit ähnlichen Qualifikationen wurden schlechter eingestuft.

Dabei ist Bias nicht nur ein Datenproblem, sondern auch eine Frage der Modellierung. »KI übernimmt nicht nur die Muster aus den Daten, sondern reproduziert auch die Denkweisen ihrer Entwickler«, sagt Prinz. Gerade bei generativer KI sei das besonders kritisch: »Wenn ChatGPT etwa beim Programmieren hilft, übernimmt es oft Codefragmente mit inhärenten Verzerrungen. Diese werden dann weitergetragen.«

Präzise, aber falsch: Bias und Noise

Vorhersagefehler lassen sich grob in zwei Kategorien einteilen: Bias (Verzerrung) und Noise (Zufälligkeit). »Ein gutes Bild liefert das Dartspiel: Wenn man zehnmal in die rechte obere Ecke trifft, ist man sehr präzise, aber nicht richtig. Das ist Bias. Wenn die Pfeile wild um das Zentrum streuen, ist das Noise«, erklärt Prinz.

»Diversität in den Daten ist essenziell«

Vollständig ausschließen lässt sich Bias wohl nie. Doch es gibt wirkungsvolle Maßnahmen, um ihn zu erkennen und zu reduzieren. Technisch helfen Fairnessmetriken, De-Bias-Methoden oder Explainability-Tools, die nachvollziehbar machen, wie eine KI zu ihren Entscheidungen kommt. Organisatorisch sind interdisziplinäre Teams, Audits und Ethikleitlinien notwendig. Und gesellschaftlich braucht es mehr Aufklärung und Verantwortung.

»Ein wichtiger Faktor ist auch die Datenqualität«, betont Prinz. »Wenn wir KI mit verzerrten oder unausgewogenen Daten füttern, dürfen wir uns über diskriminierende Ergebnisse nicht wundern. Diversität in den Daten ist essenziell.« Noch wichtiger ist aber laut dem Professor der SRH Fernhochschule, dass in den Daten das abgebildet sein muss, was vorhergesagt werden soll.

Eine Frage der Gerechtigkeit

Gender Bias in der künstlichen Intelligenz ist kein Randphänomen. Er betrifft viele Lebensbereiche und kann reale Folgen haben: Etwa, wenn eine Frau wegen ihrer »atypischen« Symptome nicht rechtzeitig behandelt wird. Oder wenn qualifizierte Bewerberinnen von einem Algorithmus aussortiert werden.

»Doch die Technik ist nicht unser Feind«, sagt Prinz. Er ist sich sicher: KI kann helfen, Entscheidungen objektiver und besser zu machen, wenn sie richtig eingesetzt wird. Dazu gehört, bestehende Ungleichheiten zu erkennen und nicht unreflektiert in neue Systeme zu übernehmen. Nur so kann KI zu einem Werkzeug der Gerechtigkeit werden; und nicht zu einem Verstärker alter Vorurteile.

Was ist Gender Bias in der künstlichen Intelligenz?

Gender Bias bezeichnet eine systematische Verzerrung in Daten oder Entscheidungen aufgrund des Geschlechts. In der künstlichen Intelligenz entsteht dieser Bias oft, weil die Trainingsdaten gesellschaftliche Ungleichheiten widerspiegeln. Wenn etwa in medizinischen Datensätzen überwiegend Männer vertreten sind, erkennt eine KI typische weibliche Symptome schlechter. Auch Bewerbungs-KIs oder Sprachmodelle wie ChatGPT können Vorurteile übernehmen. Zum Beispiel indem sie Männer mit Führung, Frauen mit Pflege assoziieren.

Bias kann sich in allen Phasen der KI-Entwicklung einschleichen:

Datenerhebung: Wenn bestimmte Gruppen unterrepräsentiert sind
Datenverarbeitung: Wenn fehlerhafte Annahmen getroffen werden
Modelltraining: Wenn Algorithmen bestehende Muster verstärken
Anwendung: Wenn Entscheidungen ohne menschliches Hinterfragen getroffen werden

Ziel fairer KI-Entwicklung ist es, diese Verzerrungen zu erkennen, zu benennen und zu minimieren.

Den zugehörigen Fachtext mit allen zugrundeliegenden Quellen finden Sie hier:

https://www.mobile-university.de/tw-digitalisierung/gender-bias-in-der-kuenstlichen-intelligenz/

Prof. Dr. Christian Prinz

Christian Prinz ist Molekularmediziner und spezialisiert in MR-Neuroimmunpharmakologie und klinischen Datenwissenschaften. Nach Stationen in Erlangen, Parma, Berlin und Heidelberg als Wissenschaftler, später Projektmanager und Consultant in der medizinischen Softwareentwicklung lehrte Christian Prinz seit 2022 im Bereich Data Science & Analytics an der SRH Fernhochschule – The Mobile University als Fachdozent. Seit März 2025 hält er eine Professur für Data Science und künstliche Intelligenz.

Sicherheitsprobleme bei Grok: KI vergrößert die Angriffsfläche

Das neueste Grok-Debakel liest sich wie eine Fallstudie darüber, wie man keinen AI-Chatbot auf den Markt bringt. Elon Musks xAI, frisch aus dem Hype-Zyklus für Grok 4.0, befand sich im Schadensbegrenzungsmodus, nachdem der Bot antisemitische Klischees verbreitet, Hitler gelobt und mit einer Art von »Wahrheitssuche«-Rhetorik nachgelegt hatte, die zu einem Dog-Whistle für »alles ist erlaubt« geworden ist.

Die Antwort des Unternehmens bestand darin, die Beiträge zu löschen und zu versprechen, dass die Filter beim nächsten Mal funktionieren werden, während der Eigentümer des Unternehmens, Elon Musk, manipulative Eingaben durch Benutzer verantwortlich machte.

Die Kernschwachstelle liegt hier im Design von Grok. Als »wahrheitssuchende« Alternative zu stärker kontrollierten Chatbots vermarktet, wurde Grok mit weniger Schutzmaßnahmen und einer Bereitschaft entwickelt, die rohesten Ränder des Online-Diskurses widerzuspiegeln. Es scheint sehr ähnlich wie X nach Musks Übernahme des Unternehmens zu funktionieren.

Diese Designphilosophie, gepaart mit der berüchtigten »Compliance« des Modells gegenüber Benutzereingaben, schuf einen perfekten Sturm für Prompt-Injection-Angriffe. Dies ist ein äußerst gefährlicher Angriffsvektor, da Bedrohungsakteure, wenn sie die richtigen Fragen stellen, Chatbots dazu bringen können, Anweisungen zu geben, wie man Uran anreichert, eine Bombe baut oder Methamphetamin zu Hause herstellt.

Auf diese Weise könnten Chatbots auch dazu verwendet werden, Hassreden zu verstärken, Verschwörungstheorien zu verbreiten und sogar genozidale Figuren zu loben, alles unter dem Banner der »freien Meinungsäußerung«.

Was aus einer Cybersicherheitsperspektive am besorgniserregendsten ist, ist das Fehlen einer proaktiven Verteidigung. Die Antwort von xAI war eine Lehrbuchreaktion auf Vorfälle (nicht, dass sie jemals gut für die Schuldigen funktioniert) – die Beiträge löschen, die Eingabeaufforderungen patchen und das Beste hoffen.

Aber in der modernen Informationssicherheit ist das nicht genug. Richtige Sicherheit erfordert gegnerisches Red-Teaming vor dem Start, nicht, nachdem der Schaden angerichtet wurde. Es erfordert geschichtete Kontrollen – robuste Eingabevalidierung, Ausgabemonitoring, Anomalieerkennung und die Fähigkeit, Modelle zu isolieren oder zurückzusetzen, wenn sie aus dem Ruder laufen.

Der Rollout von Grok, der mit dem Start der Version 4.0 zusammenfiel, deutet darauf hin, dass das Modell ohne ausreichende Penetrationstests oder ethisches Red-Teaming live geschaltet wurde, wodurch Millionen in Echtzeit einem Risiko ausgesetzt wurden.

Die regulatorischen Konsequenzen einer unverantwortlichen Chatbot-Entwicklung entfalten sich bereits. Die Türkei hat Grok wegen Beleidigungen gegen Erdoğan verboten, und Polen beabsichtigt, den Chatbot bei der EU zu melden, weil er polnische Politiker beleidigt hat. Dies sind Signale dafür, dass die Ära des »schnellen Handelns« für KI vorbei ist.

Unter dem EU-Digitaldienstegesetz und ähnlichen Gesetzen sind Plattformen nun für algorithmische Schäden verantwortlich und es drohen massive Geldstrafen und betriebliche Einschränkungen. Die Kosten unsicherer KI werden in Gerichtsbeschlüssen, Compliance-Audits und dem Verlust des öffentlichen Vertrauens gemessen.

Vielleicht ist das heimtückischste Risiko, wie generative KI wie Grok bestehende Bedrohungen verstärken und Vorurteile verstärken kann. In den falschen Händen ist ein Chatbot ein Megafon.

Koordinierte Gegner könnten solche Systeme für Einflussoperationen, Belästigungskampagnen oder sogar ausgeklügelte Phishing- und Social-Engineering-Angriffe nutzen, alles in beispiellosem Ausmaß und Tempo. Jeder Fehler, jeder verpasste Filter wird sofort zu einer Waffe.

Um unsere Gesellschaften zu schützen, müssen wir erkennen, dass generative KI eine lebendige, sich entwickelnde Angriffsfläche ist, die neue Strategien, neue Transparenz und unermüdliche Wachsamkeit erfordert.

Wenn Unternehmen diese Fehler weiterhin als isolierte Pannen behandeln, werden sie nicht nur von Angreifern überholt, sondern auch von Regulierungsbehörden angegangen und von Nutzern verlassen.

Jurgita Lapienytė

ÜBER DIE AUTORIN

Jurgita Lapienytė ist Chefredakteurin bei Cybernews, wo sie ein Team von Journalisten und Sicherheitsexperten leitet, das Cyberbedrohungen durch Forschung, Tests und datengetriebene Berichterstattung aufdeckt. Mit einer Karriere, die sich über mehr als 15 Jahre erstreckt, hat sie über wichtige globale Ereignisse berichtet, darunter die Finanzkrise 2008 und die Terroranschläge in Paris 2015, und hat durch investigativen Journalismus Transparenz gefördert. Als leidenschaftliche Verfechterin des Bewusstseins für Cybersicherheit und Frauen in der Technik hat Jurgita führende Persönlichkeiten der Cybersicherheit interviewt und unterrepräsentierten Stimmen in der Branche Gehör verschafft. Sie wurde als Cybersecurity-Journalistin des Jahres ausgezeichnet und in der Liste der 40 unter 40 im Bereich Cybersicherheit des Top Cyber News Magazine aufgeführt.

407 Artikel zu „Bias KI“

News | Favoriten der Redaktion | Künstliche Intelligenz | Strategien | Tipps

Fakten statt Fiktion: Was tun gegen KI-Halluzinationen und KI-Bias?

14. März 2025

Generative KI ist unglaublich gut darin, Informationen zu recherchieren und aufzubereiten. Unfehlbar ist sie allerdings nicht – sie kann durchaus falsch liegen oder vorurteilsbehaftete Ergebnisse liefern. Doch es gibt Maßnahmen, mit denen Unternehmen das Risiko von Halluzinationen und Bias minimieren können. Immer mehr Unternehmen setzen generative KI (GenAI) ein, um beispielsweise Mitarbeitern den Zugang zu…