Diskriminierung in KI-Anwendungen verhindern

Viele Menschen stehen künstlicher Intelligenz skeptisch gegenüber, weil sie Algorithmen für ungerecht oder voreingenommen halten. Dass diese tatsächlich diskriminierende Entscheidungen treffen können, haben einige Beispiele in den vergangenen Jahren gezeigt. Pegasystems, ein führender Anbieter von strategischen Software-Lösungen für Vertrieb, Marketing, Service und Operations, erklärt, wie Unternehmen Vorurteile und Diskriminierung in ihren KI-Anwendungen verhindern.

 

Ende Oktober will die Enquete-Kommission des Bundestages nach zwei Jahren Diskussionen endlich einen Gesamtbericht über künstliche Intelligenz (KI) vorlegen. Darin wird sie auch auf die Bedeutung von diskriminierungsfreier KI hinweisen, denn obwohl in KI-Anwendungen scheinbar objektive Algorithmen zum Einsatz kommen, treffen sie nicht immer neutrale und gerechte Entscheidungen. Manchmal ist die Datenbasis das Problem, die nicht ausgeglichen gewählt wurde oder bereits gesellschaftliche Ungleichheiten abbildet, manchmal steckt der Fehler in den Algorithmen selbst, die bestimmte Merkmale zu stark gewichten oder aus Korrelationen eine Kausalität ableiten, die nicht existiert. Beispiele für KI-Anwendungen, die Menschen aufgrund bestimmter Eigenschaften diskriminieren, sind in den vergangenen Jahren immer wieder bekannt geworden, etwa Gesichtserkennungsalgorithmen, die Probleme haben, Frauen und dunkelhäutige Menschen zu erkennen. Auch gezielte Manipulationen gab es, beispielsweise als der Chatbot eines großen Softwarekonzerns aus echten Konversationen in sozialen Netzwerken lernen sollte und Anwender ihn mit rassistischen Äußerungen binnen wenigen Stunden zum Rassisten machten.

Kein Wunder also, dass viele Verbraucher künstlicher Intelligenz skeptisch gegenüberstehen und gerade bei wichtigen Entscheidungen eher Menschen als einer KI vertrauen [1]. Setzen Unternehmen KI-basierte Anwendungen ein, etwa bei der Auswahl von Bewerbern, der Vergabe von Krediten oder bei der Bearbeitung von Versicherungsfällen, müssen sie die Lösungen und Ergebnisse während der Entwicklung, der Trainingsphase und im laufenden Betrieb genau kontrollieren, um unfaire und diskriminierende Entscheidungen zu erkennen. Die beiden wichtigsten Bausteine dafür sind transparente Algorithmen und Simulationen.

Anzeige

 

Transparenz und Erklärbarkeit

Transparente Algorithmen sind notwendig, damit Entwickler und Nutzer der KI-Anwendungen verstehen, wie Entscheidungen gefällt werden und wie sich bestimmte Eigenschaften auf die Entscheidungen auswirken. Sehr komplexe Algorithmen, die eine Art »Black Box« sind, liefern möglicherweise bessere Ergebnisse, sind aber intransparent und bergen ein Risiko, weil umstrittene Entscheidungen nur unzureichend erklärt werden können. Unternehmen müssen daher abwägen, wie viel Transparenz und damit Erklärbarkeit für das konkrete Einsatzgebiet notwendig ist. Bei transparenten Algorithmen können sie bereits im Vorfeld mit Simulationen, die spezielle Testdaten oder echte Daten verwenden, schnell erkennen, welche als diskriminierend eingestuften Eigenschaften – etwa Alter, Geschlecht oder Herkunft – zu verzerrten Entscheidungen führen. Sei es, dass ältere Menschen eher einen Kredit gewährt bekommen als jüngere, dass Männer eher zu Vorstellungsgesprächen eingeladen werden als Frauen oder dass bei der Regulierung von Unfallschäden häufiger ein Gutachter zu Versicherten mit ausländischem Namen geschickt wird als zu Versicherten mit deutschem Namen.

Anzeige

Allerdings sind nicht alle Diskriminierungen so offensichtlich – die Stärke von KI-Anwendungen ist es schließlich, Zusammenhänge besser und schneller zu erkennen als Menschen. Zum Beispiel könnte eine KI auch vom Vornamen auf das Alter schließen oder von der Buchstabenhäufigkeit im Nachnamen auf die Herkunft. Darum müssen alle Eigenschaften, die in die Entscheidungsfindung einfließen, mit Simulationen auf eine mögliche Diskriminierung abgeklopft werden. Gute KI-Systeme erkennen die zu starke Gewichtung bestimmter Eigenschaften nicht nur in Simulationen, sondern auch im Live-Betrieb, sodass kontinuierlich nachjustiert werden kann.

»Eine Bevorzugung oder Benachteiligung bestimmter Personengruppen sieht man einem KI-Algorithmus nicht an – man erkennt sie erst in der Simulation oder im Live-Betrieb, wenn einzelne Eigenschaften die Entscheidungen in die eine oder andere Richtung beeinflussen«, erklärt Dr. Kay Knoche, Principal Solution Consultant bei Pegasystems. »Die Abwägung, welche Eigenschaften bei der Entscheidungsfindung nicht berücksichtigt werden sollen und wie viel Transparenz ein Algorithmus bieten soll, muss für jeden Anwendungsfall die Fachabteilung vornehmen. Die Entwickler der KI können nicht darüber entscheiden, wann eine hohe Vorhersagequalität und hohe Erfolgsquoten wichtig sind und wann diskriminierungsfreie Ergebnisse und Auditierbarkeit.«

Dr. Kay Knoche, Principal Solution Consultant bei Pegasystems

[1] Pegasystems-Studie »Was Verbraucher wirklich über KI denken«, https://www.pega.com/de/ai-survey

 

156 Artikel zu „KI Ethik“

KI und Ethik – Wunsch kontra Wirklichkeit

Studie zeigt: Mehrheit hält ethische Auseinandersetzung mit künstlicher Intelligenz für wichtig. Ethische Richtlinien in Unternehmen sind aber noch in den Kinderschuhen. Künstliche Intelligenz (KI) verändert die Unternehmenswelt. Dem stimmen die meisten der 600 befragten Unternehmensvertreter aus dem aktuellen »Digitalisierungsmonitor 2020« der Management- und Technologieberatung BearingPoint zu. Dass bei weltverändernden Innovationen auch immer die Frage der…

Datenethik für KI wird zur Top-Priorität

CIOs müssen die ethische Nutzung von Daten zu einer Top-Priorität machen, um mit der sich schnell entwickelnden Regulierungslandschaft Schritt zu halten. Wir befinden uns inmitten der vierten industriellen Revolution. Daten sind zu einem der wertvollsten Güter geworden, nicht zuletzt deshalb, weil künstliche Intelligenz stark von ihnen abhängt. KI und maschinelles Lernen werden derzeit in vielen…

KI ist nicht die Killer-Applikation bei Threat Intelligence 

An der Nutzung von Künstlicher Intelligenz führt auch beim Thema Cyber-Security kein Weg mehr vorbei. Intelligente Algorithmen helfen, Bedrohungen besser und schneller zu erkennen. NTT erklärt, welche Vorteile KI-basierte Systeme bei Threat Intelligence bieten und wo ihre Grenzen liegen.   Cyber-Angriffe sind in den letzten Jahren immer ausgefeilter, effektiver und schneller geworden. Um sich zur…

KI: Die Diskrepanz zwischen ethischem Handeln und Problembewusstsein

  Das Bewusstsein für ethische Fragestellungen beim Einsatz von Künstlicher Intelligenz (KI) ist in Unternehmen und Verwaltungen gestiegen. Dennoch fällt die diesjährige Erfolgsbilanz gemischt aus, da nur in Teilbereichen Verbesserungen erzielt wurden. Ein Grund: Nur 53 Prozent der Organisationen verfügen über eine Führungskraft, die für ethische und vertrauenswürdige KI-Systeme verantwortlich ist. Zugleich sind im Vergleich…

KI für Kundendienst, Verkauf und Sicherheit

Rund 50 Milliarden US-Dollar Umsatz werden 2020 laut einer IDC-Schätzung mit Anwendungen für künstliche Intelligenz (KI) erwirtschaftet. Wie die Statista-Grafik zeigt soll sich das Marktvolumen bis 2024 mehr als verdoppeln. »Unternehmen werden KI einführen – nicht nur, weil sie es können, sondern weil sie es müssen«, so Ritu Jyoti von IDC. Und weiter: »KI ist…

4 Schwerpunkte für datenschutzkonforme KI-Lösungen

Was sind die vier wichtigsten Herausforderungen bei Konzeption und Einsatz von KI-Anwendungen im Unternehmen?   Der Siegeszug künstlicher Intelligenz spielt beim jüngst ausgelösten Digitialisierungsschub eine herausragende Rolle, schließlich erobert KI ständig neue Anwendungsfelder und findet sich so immer häufiger im praktischen Einsatz. Die Security-Verantwortlichen in Unternehmen stellt diese Entwicklung jedoch vor komplexe, neue Herausforderungen, denn…

Automatisiertes, KI-generiertes Spear Fishing in großem Stil – Wachsende Notwendigkeit gefälschte Texte zu erkennen

Obwohl sich Vectra AZ darauf konzentriert, KI zur Cyberabwehr einzusetzen, beobachtet das Unternehmen auch, wie KI-Fortschritte von Cyberangreifern genutzt werden könnten. »Ein Bereich, in dem in letzter Zeit einige überraschende Fortschritte erzielt wurden, ist die Generierung natürlicher Sprache. Insbesondere hat OpenAI einen Generator für natürliche Sprache geschaffen, der in der Lage ist, kohärente Antworten in…

Data Science für die IT-Sicherheit: KI-Human-Teams können Cyberangreifer stoppen

Trotz der erstaunlichen Fortschritte bei der Leistung der künstlichen Intelligenz in den letzten Jahren ist keine KI perfekt. Tatsächlich wird die Unvollkommenheit einer KI in der Regel durch die Messung der Genauigkeit des Modells an einem Testdatensatz deutlich gemacht. Perfekte Ergebnisse werden weder erwartet noch sind sie üblich.   Christopher Thissen, Data Scientist bei Vectra…

Nachhaltigkeit: Braucht es Ethik in der Lieferkette?

Verbraucher interessieren sich zunehmend dafür, wie Produkte hergestellt und transportiert werden und wie sich ihr Konsum auf Umwelt und Gesellschaft auswirkt. Dies ist jedoch nicht nur ein Thema für Konsumgüter, auch die Industrie zieht hier längst nach. Tatsächlich ergab eine OpenText-Umfrage, dass 92 % der produzierenden Unternehmen ihre Corporate-Social-Responsibility-Reputation (CSR) als wichtig für ihren Gesamtauftritt…

KI in deutschen Unternehmen – Durchstarten ist angesagt

Welche neuen Entwicklungen helfen Unternehmen, KI erfolgreich einzuführen? Über kein Thema wurde in den vergangenen Monaten so viel diskutiert wie Künstliche Intelligenz. Doch was davon tatsächlich in deutschen Unternehmen umgesetzt wird, steht auf einem anderen Blatt Papier. Selbst deutsche Schlüsselindustrien wie der Maschinenbau adaptieren die neue Technologie nur schleppend. So zeigt eine Umfrage des Vereins…

Auf dem Weg zur transparenten KI

  Im Schach, Poker und Go hat künstliche Intelligenz (KI) die Menschheit längst überflügelt. Auch Röntgenbilder oder Aktienkurse analysiert sie bereits ähnlich gut – und teilweise sogar besser – als ein Experte aus Fleisch und Blut. Doch auch die präzisesten KI-basierten Analysen haben einen Makel: Bis jetzt ist es für einen Menschen oft kaum nachvollziehbar,…

KI und der Wunsch nach noch mehr Effizienz  

Effizienzsteigerung und Prozessverbesserung sind die größten Treiber bei der Implementierung von künstlicher Intelligenz. Die einen sprechen von Revolution, die anderen wissen nicht einmal, ob es KI-Initiativen in ihrem Unternehmen gibt. Die Unterschiede könnten nicht größer sein, zeigt der aktuelle »Digitalisierungsmonitor 2020« von BearingPoint, für den 600 Unternehmensvertreter zum Thema KI befragt wurden [1]. Mit 94…

Warum immer mehr Unternehmen in KI investieren (sollten)

Von Industrie 4.0 über Internet of Things bis hin zu Business Process Transformation also die Umgestaltung der Geschäftsprozesse – die Digitalisierung hat viele Facetten. Künstliche Intelligenz spielt dabei in allen Bereichen eine wesentliche Rolle. Sie ist in der Lage, Abläufe effizienter zu gestalten, Abweichungen zu erkennen, bevor sie womöglich Schaden anrichten, oder relevanten Daten für…

KI-Schub für Unternehmen: Sechs Entwicklungen, die zeigen, wie künstliche Intelligenz Prozesse im Alltag beflügeln

KI-Einsatzmöglichkeiten im Zusammenspiel mit Unternehmensanwendungen. Dass künstliche Intelligenz (KI) eines der Trendthemen schlechthin ist, steht außer Frage. Eine aktuelle PwC-Studie kommt jedoch zu dem Ergebnis, dass erst sechs Prozent der Unternehmen in Deutschland KI einsetzen oder implementieren – es gibt demnach immensen Nachholbedarf. Oracle hat jetzt Anwendungsbereiche im ERP- und Geschäftssoftware-Umfeld zusammengestellt, in denen KI…

Wo KI drauf steht ist auch KI drin?

KI als Trendthema zur Jahreswende oder langfristig ein kritischer Faktor für effiziente IT- und Datennutzung? Nicht erst seit der Jahreswende ist KI als Schlagwort in aller Munde. Die Zahl der Unternehmen, die zumindest behaupten, KI-Fähigkeiten zu nutzen, steigt rapide an, besonders in der Cybersicherheitsbranche. Nachdem laut einer Studie von MMC Ventures 40 Prozent der selbsternannten…

KI mit Byte und Siegel? Eine Einschätzung zu den KI-TÜV-Plänen der Bundesregierung

  Jetzt macht Deutschland in künstliche Intelligenz (KI): mit Formularen, Verordnungen und Prüfplaketten. Diesen Eindruck erwecken einige Überschriften der letzten Tage. Die Pläne des sogenannten KI-TÜVs der Bundesregierung machten die Runde. Im Bundesministerium für Arbeit und Soziales angesiedelt, soll das KI-Observatorium – so die offizielle, etwas altbackene Bezeichnung – das Thema KI voranbringen. Der Zwischenbericht…

Phänomen KI – Hype oder reale Chance für Herausforderungen in der Cybersicherheit?

Die aktuelle Flut an KI-fähigen Geschäftsmodellen und KI-Angeboten sorgt vielerorts für Irritationen, das sich nicht wenige KI-Initiativen – zumindest bis dato – primär als Marketing-Stunts erweisen. Nachdem bei 40 Prozent der selbsternannten »KI-Unternehmen« in Europa entlarvt wurde, dass in ihren Lösungen KI gar nicht zum Einsatz kommt*, ist es verständlich, dass die Versprechen vieler Unternehmen…

Kommt jetzt die Persönlichkeitsanalyse mit KI?

Mit künstlicher Intelligenz (KI) kann man heute Informationen aus Hirnscans ableiten, die früher undenkbar waren. Forscher können beispielsweise vorhersagen, wie jemand bei einem Persönlichkeitstest abschneiden wird. Das haben bereits mehrere Studien gezeigt. Auch individuelle Prognosen für das Auftreten und die zukünftige Entwicklung von psychischen Krankheiten scheinen möglich. Die Neurowissenschaftler Simon Eickhoff und Robert Langner vom…

KI befeuert Meetings: Drei Gründe, warum künstliche Intelligenz kreative Teamarbeit fördert

Welche Aufgaben können KI-Technologien in Meetings übernehmen, um Mitarbeiter zu entlasten und mehr Raum für Ideen zu schaffen? An künstlicher Intelligenz führt kein Weg vorbei. Das haben mittlerweile auch die meisten Befragten einer internationalen Umfrage erkannt, die IDG im Auftrag von LogMeIn durchgeführt hat. KI-gesteuerte Kommunikationswerkzeuge spielen für Unternehmen der unterschiedlichsten Branchen demnach eine immer…

Ethik bei künstlicher Intelligenz entscheidend für Vertrauen der Öffentlichkeit in Unternehmen

Verbraucher fordern neue Regulierungen für KI und sind bereit, bei positiven KI-Erfahrungen mehr zu kaufen. Führungskräfte aus neun von zehn Unternehmen haben eine ethisch fragliche KI-Nutzung beobachtet. Unternehmensführung, Datenwissenschaftlicher und HR/Marketing bei der Umsetzung von ethischen KI-Strategien gefragt.   Ethische Grundsätze gewinnen für das Vertrauen der Öffentlichkeit in die künstliche Intelligenz (KI) eine immer bedeutendere…