Viele Menschen stehen künstlicher Intelligenz skeptisch gegenüber, weil sie Algorithmen für ungerecht oder voreingenommen halten. Dass diese tatsächlich diskriminierende Entscheidungen treffen können, haben einige Beispiele in den vergangenen Jahren gezeigt. Pegasystems, ein führender Anbieter von strategischen Software-Lösungen für Vertrieb, Marketing, Service und Operations, erklärt, wie Unternehmen Vorurteile und Diskriminierung in ihren KI-Anwendungen verhindern.
Ende Oktober will die Enquete-Kommission des Bundestages nach zwei Jahren Diskussionen endlich einen Gesamtbericht über künstliche Intelligenz (KI) vorlegen. Darin wird sie auch auf die Bedeutung von diskriminierungsfreier KI hinweisen, denn obwohl in KI-Anwendungen scheinbar objektive Algorithmen zum Einsatz kommen, treffen sie nicht immer neutrale und gerechte Entscheidungen. Manchmal ist die Datenbasis das Problem, die nicht ausgeglichen gewählt wurde oder bereits gesellschaftliche Ungleichheiten abbildet, manchmal steckt der Fehler in den Algorithmen selbst, die bestimmte Merkmale zu stark gewichten oder aus Korrelationen eine Kausalität ableiten, die nicht existiert. Beispiele für KI-Anwendungen, die Menschen aufgrund bestimmter Eigenschaften diskriminieren, sind in den vergangenen Jahren immer wieder bekannt geworden, etwa Gesichtserkennungsalgorithmen, die Probleme haben, Frauen und dunkelhäutige Menschen zu erkennen. Auch gezielte Manipulationen gab es, beispielsweise als der Chatbot eines großen Softwarekonzerns aus echten Konversationen in sozialen Netzwerken lernen sollte und Anwender ihn mit rassistischen Äußerungen binnen wenigen Stunden zum Rassisten machten.
Kein Wunder also, dass viele Verbraucher künstlicher Intelligenz skeptisch gegenüberstehen und gerade bei wichtigen Entscheidungen eher Menschen als einer KI vertrauen [1]. Setzen Unternehmen KI-basierte Anwendungen ein, etwa bei der Auswahl von Bewerbern, der Vergabe von Krediten oder bei der Bearbeitung von Versicherungsfällen, müssen sie die Lösungen und Ergebnisse während der Entwicklung, der Trainingsphase und im laufenden Betrieb genau kontrollieren, um unfaire und diskriminierende Entscheidungen zu erkennen. Die beiden wichtigsten Bausteine dafür sind transparente Algorithmen und Simulationen.
Transparenz und Erklärbarkeit
Transparente Algorithmen sind notwendig, damit Entwickler und Nutzer der KI-Anwendungen verstehen, wie Entscheidungen gefällt werden und wie sich bestimmte Eigenschaften auf die Entscheidungen auswirken. Sehr komplexe Algorithmen, die eine Art »Black Box« sind, liefern möglicherweise bessere Ergebnisse, sind aber intransparent und bergen ein Risiko, weil umstrittene Entscheidungen nur unzureichend erklärt werden können. Unternehmen müssen daher abwägen, wie viel Transparenz und damit Erklärbarkeit für das konkrete Einsatzgebiet notwendig ist. Bei transparenten Algorithmen können sie bereits im Vorfeld mit Simulationen, die spezielle Testdaten oder echte Daten verwenden, schnell erkennen, welche als diskriminierend eingestuften Eigenschaften – etwa Alter, Geschlecht oder Herkunft – zu verzerrten Entscheidungen führen. Sei es, dass ältere Menschen eher einen Kredit gewährt bekommen als jüngere, dass Männer eher zu Vorstellungsgesprächen eingeladen werden als Frauen oder dass bei der Regulierung von Unfallschäden häufiger ein Gutachter zu Versicherten mit ausländischem Namen geschickt wird als zu Versicherten mit deutschem Namen.
Allerdings sind nicht alle Diskriminierungen so offensichtlich – die Stärke von KI-Anwendungen ist es schließlich, Zusammenhänge besser und schneller zu erkennen als Menschen. Zum Beispiel könnte eine KI auch vom Vornamen auf das Alter schließen oder von der Buchstabenhäufigkeit im Nachnamen auf die Herkunft. Darum müssen alle Eigenschaften, die in die Entscheidungsfindung einfließen, mit Simulationen auf eine mögliche Diskriminierung abgeklopft werden. Gute KI-Systeme erkennen die zu starke Gewichtung bestimmter Eigenschaften nicht nur in Simulationen, sondern auch im Live-Betrieb, sodass kontinuierlich nachjustiert werden kann.
»Eine Bevorzugung oder Benachteiligung bestimmter Personengruppen sieht man einem KI-Algorithmus nicht an – man erkennt sie erst in der Simulation oder im Live-Betrieb, wenn einzelne Eigenschaften die Entscheidungen in die eine oder andere Richtung beeinflussen«, erklärt Dr. Kay Knoche, Principal Solution Consultant bei Pegasystems. »Die Abwägung, welche Eigenschaften bei der Entscheidungsfindung nicht berücksichtigt werden sollen und wie viel Transparenz ein Algorithmus bieten soll, muss für jeden Anwendungsfall die Fachabteilung vornehmen. Die Entwickler der KI können nicht darüber entscheiden, wann eine hohe Vorhersagequalität und hohe Erfolgsquoten wichtig sind und wann diskriminierungsfreie Ergebnisse und Auditierbarkeit.«
Dr. Kay Knoche, Principal Solution Consultant bei Pegasystems
[1] Pegasystems-Studie »Was Verbraucher wirklich über KI denken«, https://www.pega.com/de/ai-survey
156 Artikel zu „KI Ethik“
NEWS | TRENDS 2020 | TRENDS WIRTSCHAFT | FAVORITEN DER REDAKTION | KÜNSTLICHE INTELLIGENZ
KI und Ethik – Wunsch kontra Wirklichkeit
Studie zeigt: Mehrheit hält ethische Auseinandersetzung mit künstlicher Intelligenz für wichtig. Ethische Richtlinien in Unternehmen sind aber noch in den Kinderschuhen. Künstliche Intelligenz (KI) verändert die Unternehmenswelt. Dem stimmen die meisten der 600 befragten Unternehmensvertreter aus dem aktuellen »Digitalisierungsmonitor 2020« der Management- und Technologieberatung BearingPoint zu. Dass bei weltverändernden Innovationen auch immer die Frage der…
NEWS | BUSINESS | KÜNSTLICHE INTELLIGENZ
Datenethik für KI wird zur Top-Priorität
CIOs müssen die ethische Nutzung von Daten zu einer Top-Priorität machen, um mit der sich schnell entwickelnden Regulierungslandschaft Schritt zu halten. Wir befinden uns inmitten der vierten industriellen Revolution. Daten sind zu einem der wertvollsten Güter geworden, nicht zuletzt deshalb, weil künstliche Intelligenz stark von ihnen abhängt. KI und maschinelles Lernen werden derzeit in vielen…
NEWS | IT-SECURITY | KÜNSTLICHE INTELLIGENZ
KI ist nicht die Killer-Applikation bei Threat Intelligence
An der Nutzung von Künstlicher Intelligenz führt auch beim Thema Cyber-Security kein Weg mehr vorbei. Intelligente Algorithmen helfen, Bedrohungen besser und schneller zu erkennen. NTT erklärt, welche Vorteile KI-basierte Systeme bei Threat Intelligence bieten und wo ihre Grenzen liegen. Cyber-Angriffe sind in den letzten Jahren immer ausgefeilter, effektiver und schneller geworden. Um sich zur…
NEWS | TRENDS 2020 | KÜNSTLICHE INTELLIGENZ
KI: Die Diskrepanz zwischen ethischem Handeln und Problembewusstsein
Das Bewusstsein für ethische Fragestellungen beim Einsatz von Künstlicher Intelligenz (KI) ist in Unternehmen und Verwaltungen gestiegen. Dennoch fällt die diesjährige Erfolgsbilanz gemischt aus, da nur in Teilbereichen Verbesserungen erzielt wurden. Ein Grund: Nur 53 Prozent der Organisationen verfügen über eine Führungskraft, die für ethische und vertrauenswürdige KI-Systeme verantwortlich ist. Zugleich sind im Vergleich…
NEWS | TRENDS 2020 | KÜNSTLICHE INTELLIGENZ
KI für Kundendienst, Verkauf und Sicherheit
Rund 50 Milliarden US-Dollar Umsatz werden 2020 laut einer IDC-Schätzung mit Anwendungen für künstliche Intelligenz (KI) erwirtschaftet. Wie die Statista-Grafik zeigt soll sich das Marktvolumen bis 2024 mehr als verdoppeln. »Unternehmen werden KI einführen – nicht nur, weil sie es können, sondern weil sie es müssen«, so Ritu Jyoti von IDC. Und weiter: »KI ist…
NEWS | IT-SECURITY | KÜNSTLICHE INTELLIGENZ
4 Schwerpunkte für datenschutzkonforme KI-Lösungen
Was sind die vier wichtigsten Herausforderungen bei Konzeption und Einsatz von KI-Anwendungen im Unternehmen? Der Siegeszug künstlicher Intelligenz spielt beim jüngst ausgelösten Digitialisierungsschub eine herausragende Rolle, schließlich erobert KI ständig neue Anwendungsfelder und findet sich so immer häufiger im praktischen Einsatz. Die Security-Verantwortlichen in Unternehmen stellt diese Entwicklung jedoch vor komplexe, neue Herausforderungen, denn…
NEWS | KÜNSTLICHE INTELLIGENZ
Automatisiertes, KI-generiertes Spear Fishing in großem Stil – Wachsende Notwendigkeit gefälschte Texte zu erkennen
Obwohl sich Vectra AZ darauf konzentriert, KI zur Cyberabwehr einzusetzen, beobachtet das Unternehmen auch, wie KI-Fortschritte von Cyberangreifern genutzt werden könnten. »Ein Bereich, in dem in letzter Zeit einige überraschende Fortschritte erzielt wurden, ist die Generierung natürlicher Sprache. Insbesondere hat OpenAI einen Generator für natürliche Sprache geschaffen, der in der Lage ist, kohärente Antworten in…
NEWS | IT-SECURITY | KÜNSTLICHE INTELLIGENZ
Data Science für die IT-Sicherheit: KI-Human-Teams können Cyberangreifer stoppen
Trotz der erstaunlichen Fortschritte bei der Leistung der künstlichen Intelligenz in den letzten Jahren ist keine KI perfekt. Tatsächlich wird die Unvollkommenheit einer KI in der Regel durch die Messung der Genauigkeit des Modells an einem Testdatensatz deutlich gemacht. Perfekte Ergebnisse werden weder erwartet noch sind sie üblich. Christopher Thissen, Data Scientist bei Vectra…
NEWS | BUSINESS PROCESS MANAGEMENT | FAVORITEN DER REDAKTION | GESCHÄFTSPROZESSE
Nachhaltigkeit: Braucht es Ethik in der Lieferkette?
Verbraucher interessieren sich zunehmend dafür, wie Produkte hergestellt und transportiert werden und wie sich ihr Konsum auf Umwelt und Gesellschaft auswirkt. Dies ist jedoch nicht nur ein Thema für Konsumgüter, auch die Industrie zieht hier längst nach. Tatsächlich ergab eine OpenText-Umfrage, dass 92 % der produzierenden Unternehmen ihre Corporate-Social-Responsibility-Reputation (CSR) als wichtig für ihren Gesamtauftritt…
NEWS | BUSINESS | KÜNSTLICHE INTELLIGENZ | ONLINE-ARTIKEL
KI in deutschen Unternehmen – Durchstarten ist angesagt
Welche neuen Entwicklungen helfen Unternehmen, KI erfolgreich einzuführen? Über kein Thema wurde in den vergangenen Monaten so viel diskutiert wie Künstliche Intelligenz. Doch was davon tatsächlich in deutschen Unternehmen umgesetzt wird, steht auf einem anderen Blatt Papier. Selbst deutsche Schlüsselindustrien wie der Maschinenbau adaptieren die neue Technologie nur schleppend. So zeigt eine Umfrage des Vereins…
NEWS | KÜNSTLICHE INTELLIGENZ | SICHERHEIT MADE IN GERMANY
Auf dem Weg zur transparenten KI
Im Schach, Poker und Go hat künstliche Intelligenz (KI) die Menschheit längst überflügelt. Auch Röntgenbilder oder Aktienkurse analysiert sie bereits ähnlich gut – und teilweise sogar besser – als ein Experte aus Fleisch und Blut. Doch auch die präzisesten KI-basierten Analysen haben einen Makel: Bis jetzt ist es für einen Menschen oft kaum nachvollziehbar,…
NEWS | TRENDS 2020 | BUSINESS PROCESS MANAGEMENT | DIGITALISIERUNG | DIGITALE TRANSFORMATION | KÜNSTLICHE INTELLIGENZ
KI und der Wunsch nach noch mehr Effizienz
Effizienzsteigerung und Prozessverbesserung sind die größten Treiber bei der Implementierung von künstlicher Intelligenz. Die einen sprechen von Revolution, die anderen wissen nicht einmal, ob es KI-Initiativen in ihrem Unternehmen gibt. Die Unterschiede könnten nicht größer sein, zeigt der aktuelle »Digitalisierungsmonitor 2020« von BearingPoint, für den 600 Unternehmensvertreter zum Thema KI befragt wurden [1]. Mit 94…
NEWS | KÜNSTLICHE INTELLIGENZ | ONLINE-ARTIKEL | STRATEGIEN
Warum immer mehr Unternehmen in KI investieren (sollten)
Von Industrie 4.0 über Internet of Things bis hin zu Business Process Transformation also die Umgestaltung der Geschäftsprozesse – die Digitalisierung hat viele Facetten. Künstliche Intelligenz spielt dabei in allen Bereichen eine wesentliche Rolle. Sie ist in der Lage, Abläufe effizienter zu gestalten, Abweichungen zu erkennen, bevor sie womöglich Schaden anrichten, oder relevanten Daten für…
NEWS | KÜNSTLICHE INTELLIGENZ | LÖSUNGEN
KI-Schub für Unternehmen: Sechs Entwicklungen, die zeigen, wie künstliche Intelligenz Prozesse im Alltag beflügeln
KI-Einsatzmöglichkeiten im Zusammenspiel mit Unternehmensanwendungen. Dass künstliche Intelligenz (KI) eines der Trendthemen schlechthin ist, steht außer Frage. Eine aktuelle PwC-Studie kommt jedoch zu dem Ergebnis, dass erst sechs Prozent der Unternehmen in Deutschland KI einsetzen oder implementieren – es gibt demnach immensen Nachholbedarf. Oracle hat jetzt Anwendungsbereiche im ERP- und Geschäftssoftware-Umfeld zusammengestellt, in denen KI…
NEWS | IT-SECURITY | KÜNSTLICHE INTELLIGENZ
Wo KI drauf steht ist auch KI drin?
KI als Trendthema zur Jahreswende oder langfristig ein kritischer Faktor für effiziente IT- und Datennutzung? Nicht erst seit der Jahreswende ist KI als Schlagwort in aller Munde. Die Zahl der Unternehmen, die zumindest behaupten, KI-Fähigkeiten zu nutzen, steigt rapide an, besonders in der Cybersicherheitsbranche. Nachdem laut einer Studie von MMC Ventures 40 Prozent der selbsternannten…
NEWS | KOMMENTAR | KÜNSTLICHE INTELLIGENZ
KI mit Byte und Siegel? Eine Einschätzung zu den KI-TÜV-Plänen der Bundesregierung
Jetzt macht Deutschland in künstliche Intelligenz (KI): mit Formularen, Verordnungen und Prüfplaketten. Diesen Eindruck erwecken einige Überschriften der letzten Tage. Die Pläne des sogenannten KI-TÜVs der Bundesregierung machten die Runde. Im Bundesministerium für Arbeit und Soziales angesiedelt, soll das KI-Observatorium – so die offizielle, etwas altbackene Bezeichnung – das Thema KI voranbringen. Der Zwischenbericht…
NEWS | IT-SECURITY | KÜNSTLICHE INTELLIGENZ
Phänomen KI – Hype oder reale Chance für Herausforderungen in der Cybersicherheit?
Die aktuelle Flut an KI-fähigen Geschäftsmodellen und KI-Angeboten sorgt vielerorts für Irritationen, das sich nicht wenige KI-Initiativen – zumindest bis dato – primär als Marketing-Stunts erweisen. Nachdem bei 40 Prozent der selbsternannten »KI-Unternehmen« in Europa entlarvt wurde, dass in ihren Lösungen KI gar nicht zum Einsatz kommt*, ist es verständlich, dass die Versprechen vieler Unternehmen…
NEWS | KÜNSTLICHE INTELLIGENZ
Kommt jetzt die Persönlichkeitsanalyse mit KI?
Mit künstlicher Intelligenz (KI) kann man heute Informationen aus Hirnscans ableiten, die früher undenkbar waren. Forscher können beispielsweise vorhersagen, wie jemand bei einem Persönlichkeitstest abschneiden wird. Das haben bereits mehrere Studien gezeigt. Auch individuelle Prognosen für das Auftreten und die zukünftige Entwicklung von psychischen Krankheiten scheinen möglich. Die Neurowissenschaftler Simon Eickhoff und Robert Langner vom…
NEWS | DIGITALE TRANSFORMATION | KOMMUNIKATION | KÜNSTLICHE INTELLIGENZ
KI befeuert Meetings: Drei Gründe, warum künstliche Intelligenz kreative Teamarbeit fördert
Welche Aufgaben können KI-Technologien in Meetings übernehmen, um Mitarbeiter zu entlasten und mehr Raum für Ideen zu schaffen? An künstlicher Intelligenz führt kein Weg vorbei. Das haben mittlerweile auch die meisten Befragten einer internationalen Umfrage erkannt, die IDG im Auftrag von LogMeIn durchgeführt hat. KI-gesteuerte Kommunikationswerkzeuge spielen für Unternehmen der unterschiedlichsten Branchen demnach eine immer…
NEWS | BUSINESS | DIGITALISIERUNG | FAVORITEN DER REDAKTION | INFOGRAFIKEN | KÜNSTLICHE INTELLIGENZ | STRATEGIEN
Ethik bei künstlicher Intelligenz entscheidend für Vertrauen der Öffentlichkeit in Unternehmen
Verbraucher fordern neue Regulierungen für KI und sind bereit, bei positiven KI-Erfahrungen mehr zu kaufen. Führungskräfte aus neun von zehn Unternehmen haben eine ethisch fragliche KI-Nutzung beobachtet. Unternehmensführung, Datenwissenschaftlicher und HR/Marketing bei der Umsetzung von ethischen KI-Strategien gefragt. Ethische Grundsätze gewinnen für das Vertrauen der Öffentlichkeit in die künstliche Intelligenz (KI) eine immer bedeutendere…