Illustration Absmeier foto freepik

Unternehmen nutzen immer häufiger KI-Modelle, die ihre Mitarbeiter unterstützen und entlasten. Doch wie lässt sich sicherstellen, dass diese Modelle unvoreingenommen gegenüber Merkmalen wie Geschlecht, Rasse, Religion und vielen weiteren Kriterien sind? Unternehmen wie Infosys haben Rahmenwerke entwickelt, in denen das Thema verantwortungsvolle KI einen großen Stellenwert einnimmt – und Unternehmen dabei unterstützt, ethische KI-Modelle zu entwickeln.

Martin Weis, Global Co-Lead Artificial Intelligence, Analytics & Automation, Infosys Consulting antwortet.

Viele Menschen befürchten, dass KI-Modelle Vorurteile in Bezug auf Geschlecht, Rasse, Religion usw. enthalten. Wie können Unternehmen, die KI-Modelle entwickeln und einsetzen, gewährleisten, dass diese Modelle möglichst unvoreingenommen sind?

Der Umgang und die Minimierung von Vorurteilen in KI-Modellen, insbesondere in Bezug auf sensible Aspekte wie Geschlecht, Rasse, Religion, ist eine entscheidende Herausforderung für Unternehmen, die KI entwickeln und einsetzen. Wir haben in unserem Infosys Topaz Framework im Kapitel »Verantwortungsvolle KI« einige Strategien aufgenommen. Diese lassen sich einsetzen, um sicherzustellen, dass die KI-Modelle so unvoreingenommen wie möglich sind:

1. Umfangreiche Trainingsdaten:
   KI-Modelle lernen aus Daten. Verzerrungen lassen sich deutlich reduzieren, wenn gewährleistet ist, dass die Trainingsdaten vielfältig und repräsentativ für verschiedene Geschlechter, Rassen, Religionen und andere demografische Merkmale sind. Dies bedeutet, dass bewusst Daten von unterrepräsentierten Gruppen einbezogen werden.
2. Techniken, um Verzerrungen zu erkennen und abzuschwächen:
   Unternehmen sollten Techniken einsetzen, um Verzerrungen in KI-Modellen zu erkennen und abzumildern. Dazu gehört die Analyse der Leistung des Modells auf Basis verschiedener demografischer Gruppen. So lassen sich Modell und Trainingsprozess anpassen, um etwaige Diskrepanzen zu beseitigen.
3. Regelmäßige Überprüfungen:
   Regelmäßige Überprüfungen von KI-Modellen auf Verzerrungen durch externe Organisationen oder interne Teams können dabei helfen, Probleme, die im Laufe der Zeit auftreten, zu erkennen und zu beheben.
4. Ethische Richtlinien und Standards:
   Ethische Richtlinien und Standards bei der KI-Entwicklung zu entwickeln und einzuhalten kann Teams dabei unterstützen, Entscheidungen zu treffen, die Voreingenommenheit beziehungsweise Vorurteile minimieren.
5. Diverse Entwicklungsteams:
   Diverse Teams bringen unterschiedliche Perspektiven ein und sind eher in der Lage, potenzielle Verzerrungen in KI-Modellen zu erkennen. Es kann von Vorteil sein, sicherzustellen, dass das Team, das die KI entwickelt, über eine Vielfalt unterschiedlicher Hintergründe verfügt.
6. Transparenz und Erklärbarkeit:
   Der Aufbau von transparenten und erklärbaren KI-Modellen hilft zu verstehen, wie Entscheidungen getroffen werden. Dies kann entscheidend sein, um Verzerrungen zu identifizieren und zu beseitigen.
7. Feedback-Mechanismen:
   Die Einführung von Mechanismen, die es den Anwendern ermöglichen, Verzerrungen oder unfaire Ergebnisse zu melden. Dies kann wertvolle Erkenntnisse darüber liefern, wo die KI möglicherweise versagt und verbessert werden muss.
8. Zusammenarbeit und Forschung:
   Die Zusammenarbeit mit akademischen Einrichtungen, gemeinnützigen Verbänden und anderen Organisationen, die sich mit ethischer KI befassen, unterstützt Unternehmen dabei, sich über die neuesten Forschungsergebnisse und bewährte Verfahren zur Minimierung von Vorurteilen zu informieren.
9. Einhaltung gesetzlicher Vorschriften:
   Die Einhaltung von Compliance-Richtlinien und -Standards im Hinblick auf KI und Nichtdiskriminierung kann Unternehmen bei der Entwicklung unvoreingenommener KI-Modelle unterstützen.
10. Kontinuierliches Lernen:
    Unternehmen müssen erkennen, dass KI wie jede Technologie nicht perfekt ist und kontinuierliches Lernen erfordert. Organisationen sollten sich in ihrem Ansatz bei der KI-Entwicklung zu ständiger Weiterbildung verpflichten.

Unternehmen sind in der Lage, Verzerrungen in KI-Modellen deutlich zu reduzieren, wenn sie diese Strategien umsetzen. Es ist aber außerdem wichtig, sich einzugestehen, dass es ein schwieriges, wenn nicht gar unmögliches Ziel ist, Verzerrungen vollständig zu beseitigen. Der Schlüssel dazu: kontinuierliche Anstrengungen und das Engagement für Fairness und ethische KI-Praktiken.

Wie müssen die Menschen geschult werden, um mit KI-Modellen die besten Ergebnisse zu erzielen? Und wie können sie Verzerrungen in solchen Modellen erkennen?

Die Schulung der Mitarbeiter ist entscheidend, um KI-Modelle effektiv zu nutzen, potenzielle Verzerrungen zu erkennen und von den Vorteilen von KI zu profitieren. Gleichzeitig lassen sich so Risiken und Fehler reduzieren. Im Folgenden einige Tipps, wie sich dies erreichen lässt.

Trainings für den effektiven Einsatz von KI-Modellen:

1. KI-Fähigkeiten und -Grenzen verstehen:
   Anwender müssen ein grundlegendes Verständnis dafür entwickeln, was KI kann und was nicht. Dazu gehört der Zweck des KI-Modells, seine Stärken und Grenzen sowie der Kontext, in denen es effektiv eingesetzt werden kann.
2. Technische Ausbildung:
   Je nach der Komplexität des KI-Systems müssen die Nutzer technisch geschult werden. Dies kann von grundlegenden Anweisungen zur Interaktion mit der KI bis hin zu fortgeschrittenen Schulungen reichen, um die KI-Einstellungen zu optimieren und anzupassen.
3. Datenkenntnis:
   Das Verständnis der Daten, die in die KI-Modelle einfließen, ist entscheidend. Die Anwender sollten die Bedeutung hochwertiger, vielfältiger und repräsentativer Daten erkennen. Nur so funktioniert künstliche Intelligenz optimal.
4. Fähigkeiten zum kritischen Denken und zur Entscheidungsfindung:
   Die Nutzer sollten die von der KI gewonnenen Erkenntnisse kritisch hinterfragen und interpretieren. Menschliches Urteilsvermögen und bereichsspezifisches Wissen lässt sich entsprechend verknüpfen.
5. Ethische und verantwortungsvolle Nutzung:
   Ethische Überlegungen und die Bedeutung einer verantwortungsvollen Nutzung von KI müssen Teil von Schulungen sein. Dazu gehört auch, die Privatsphäre zu achten und das Bewusstsein für mögliche gesellschaftliche Auswirkungen zu schärfen.
6. Einhaltung rechtlicher und behördlicher Vorschriften:
   Das Verständnis des rechtlichen und regulatorischen Umfelds hinsichtlich des Einsatzes von KI, insbesondere in Sektoren wie Gesundheitswesen, Finanzen und Recht, ist unerlässlich.

Identifizierung von Verzerrungen in KI-Modellen:

1. Bewusstsein für Verzerrungsarten:
   Nutzer müssen über die verschiedenen Arten von Verzerrungen (zum Beispiel Datenverzerrung, algorithmische Verzerrung, Bestätigungsverzerrung) aufgeklärt werden – und wie in KI-Systemen sichtbar werden.
2. Ergebnisse in verschiedenen Gruppen analysieren:
   Die Anwender sollten lernen, die KI-Ergebnisse in verschiedenen demografischen Gruppen zu analysieren und zu vergleichen. So lassen sich Ungleichheiten feststellen.
3. Datenquellen verstehen:
   Mitarbeiter sollten die Quellen und der Art der Daten verstehen, die das KI-Modell trainieren. Der Grund: Verzerrungen führen oft von nicht repräsentativen oder voreingenommenen Daten her.
4. Entscheidungsfindungsprozesse des Modells hinterfragen:
   Anwender sollten den Entscheidungsprozess kontinuierlich hinterfragen, um zu verstehen, wie die Schlussfolgerungen zustande kommen.
5. Regelmäßiges Testen und Prüfen:
   Nutzer sollten KI-Modelle regelmäßig testen und auf Verzerrungen hin überprüfen. Hier können speziell entwickelte Werkzeuge und Methoden unterstützen.
6. Externes Feedback einholen:
   Anwender sollten darin geschult werden, Feedback von verschiedenen Personengruppen, die von den KI-Entscheidungen betroffen sind, einzuholen und einzubeziehen, um Verzerrungen nicht zu übersehen.
7. Kontinuierliche Weiterbildung:
   Schließlich sollten die Nutzer verstehen, dass sich KI und gesellschaftliche Normen ständig weiterentwickeln. Kontinuierliche Schulungen sind daher unerlässlich, um mit neuen Entwicklungen und Best Practices bei der Identifizierung und Entschärfung von Vorurteilen Schritt zu halten.

Effektive Schulungsprogramme, die diese Elemente kombinieren, versetzen Anwender in die Lage, KI-Technologien verantwortungsbewusst und effektiv zu nutzen. Gleichzeitig bewahren sie sich einen kritischen Blick auf ihre Grenzen und potenziellen Vorurteile.