KI: Die Diskrepanz zwischen ethischem Handeln und Problembewusstsein

 

Das Bewusstsein für ethische Fragestellungen beim Einsatz von Künstlicher Intelligenz (KI) ist in Unternehmen und Verwaltungen gestiegen. Dennoch fällt die diesjährige Erfolgsbilanz gemischt aus, da nur in Teilbereichen Verbesserungen erzielt wurden. Ein Grund: Nur 53 Prozent der Organisationen verfügen über eine Führungskraft, die für ethische und vertrauenswürdige KI-Systeme verantwortlich ist. Zugleich sind im Vergleich zum Vorjahr mit 62 statt 76 Prozent weniger Verbraucher der Ansicht, dass Unternehmen vollständig transparent offenlegen, wie persönliche Daten verwendet werden. Zu diesen und weiteren Erkenntnissen kommt die Capgemini Studie “ AI and the ethical Conundrum: How Organizations can build ethically robust AI Systems and gain Trust”. Sie hebt auch hervor, dass der Fokus auf ethische Aspekte entscheidend ist, um das transformative Potenzial von KI für Umwelt, Wirtschaft und Gesellschaft auszuschöpfen.

 

Organisationen sehen zunehmend den Handlungsbedarf hinsichtlich ethischer KI-Systeme: 45 Prozent haben 2020 eine KI-Charta definiert (2019: 5 Prozent) und zwei Drittel (65 Prozent) der Führungskräfte sind sich bewusst, dass KI-Systeme potenziell zu diskriminierenden Entscheidungen führen können. 58 Prozent geben zudem an, ihre Mitarbeiter über die möglichen Auswirkungen der KI-Nutzung aufgeklärt zu haben. Dennoch verzeichnen KI-Systeme 2020 allein in der ethischen Dimension Erklärbarkeit Fortschritte gegenüber 2019. Zudem meinen nur 40 Prozent der KI-Entwickler sowie 27 Prozent der KI-Anwender aus Marketing und Vertrieb nachvollziehen zu können, wie Entscheidungen durch KI getroffen werden. Auf Seiten der Verbraucher erwarten hingegen 71 Prozent, dass Unternehmen solche Entscheidungen genau herleiten können. Weiterhin setzen 66 Prozent voraus, dass KI-Modelle fair und vorurteilsfrei agieren und Interaktionen transparent ablaufen.

Anzeige

 

Für die Studie befragte das Capgemini Research Institute insgesamt 2.900 Konsumenten in sechs Ländern sowie knapp 900 Führungskräfte in zehn Ländern, jeweils einschließlich Deutschland. Die Ergebnisse wurden zudem mit verschiedenen Studien des Vorjahres verglichen.

 

Anzeige

COVID-19 wirkt sich negativ auf die Transparenz von KI-Verfahren aus

Die Studie untersucht KI-Systeme anhand der vier ethischen Dimensionen Erklärbarkeit, Fairness, Überprüfbarkeit und Transparenz und kommt zu dem Ergebnis, dass sich 2020 ausschließlich die „Erklärbarkeit“ verbessert hat: Demnach können mit 64 Prozent doppelt so viele Organisationen wie 2019 die Funktionsweise ihrer KI-Systeme in einfacher Sprache erklären. Eine Überprüfung der Datensätze und KI-Systeme zwecks einer fairen Gleichbehandlung aller Gruppen nehmen 65 Prozent (2019: 66 Prozent) vor. Ebenfalls um einen Prozentpunkt auf 45 Prozent sank die Zahl der Unternehmen, die unabhängige Audits bei ihren KI-Systemen gemäß der „Überprüfbarkeit“ ethischer Aspekte durchführen. Am stärksten ging die Anzahl an Unternehmen zurück, die KI-Anwender transparent über die möglichen Auswirkungen von KI-Entscheidungen informieren; ihr Anteil sank von 73 auf 59 Prozent (Deutschland: von 63 auf 52 Prozent). Dies spiegelt sich auch im gesunkenen Vertrauen der Verbraucher, von denen 62 Prozent (2019: 76 Prozent) den Unternehmen attestieren, transparent zu agieren.

 

Als mögliche Ursachen hierfür nennt die Studie die gestiegene Komplexität von KI-Anwendungen, den Versuch, Geschäftspraktiken zu schützen sowie die Auswirkungen auf den Algorithmus durch die Corona-Pandemie. Demnach haben ein verändertes Konsumentenverhalten, der Mangel an historischen Daten für vergleichbare Situationen sowie die geänderte Gewichtung von Sicherheitsaspekten und weiterer Kriterien dazu geführt, dass Systeme neu gestaltet und an die neue Normalität angepasst werden mussten.

 

Kundenerwartungen und staatliche Regulierungen üben Handlungsdruck aus

Viele öffentliche und private Institutionen haben zusätzliche KI-Technologien eingeführt, um den Folgen der Corona-Pandemie zu begegnen. Entsprechend wird das Vertrauen der Verbraucher in KI-Interaktionen künftig umso wichtiger. Zugleich erhöhen gesetzliche Rahmenbedingungen den Druck auf Unternehmen. So hat die Europäischen Kommission ethische Leitlinien entwickelt [1] und die US-Handelskommission FTC Anfang 2020 Richtlinien für eine transparente KI [2] aufgestellt. Letztere sehen vor, dass Verbrauchern bei negativen Entscheidungen – beispielsweise einem abgelehnten Kredit – die zur Entscheidungsfindung zentralen Datenpunkte offengelegt werden. Damit sollen sie die Chance erhalten, falsche oder irreführende Angaben zu korrigieren. Von den Unternehmen geben 62 Prozent (Deutschland: 67 Prozent) an, in ihrer Region geltende Datenschutzbestimmungen wie GDPR zu erfüllen, eine Steigerung um 13 Prozentpunkte im Vergleich zu 2019.

 

Die Studie zeigt, dass Datensätze mitunter tatsächlich soziale und kulturelle Vorurteile („Bias“) aufweisen [3], wobei sich 65 Prozent der Führungskräfte des Problems diskriminierender Verzerrungen bewusst sind. Einer rechtlichen Prüfung wurden bereits 60 Prozent der Unternehmen (Deutschland: 54 Prozent) unterzogen.   Insgesamt  22 Prozent (Deutschland: 21 Prozent) der Unternehmen wurden in den letzten drei Jahren von Kunden damit konfrontiert, dass sie KI-basierte Entscheidungen anzweifeln, beziehungsweise die  Entscheidungsfindung nachvollziehen wollen. Hierin liegt ein Erfolgsrisiko, da 45 Prozent der Kunden negative Erfahrungen mit Freunden und Verwandten teilen und sie dazu anhalten würden, nicht mit den entsprechenden Unternehmen in Kontakt zu treten. Jeweils 39 Prozent würden bei fragwürdigen Entscheidungen eine Erklärung verlangen, beziehungsweise auch höhere Kosten in Kauf nehmen, um zu einem menschlichen Ansprechpartner zu wechseln. Über ein Viertel der Verbraucher (27 Prozent) würde den Kontakt zur entsprechenden Organisation abbrechen.

 

Rechenschaft für Führungskräfte in ethischen Belangen etablieren

Unternehmen sollten gemäß der Studie eine verantwortliche Führungskraft, etwa einen Chief Ethics Officer, etablieren, um ethisch robuste KI-Systeme sicherzustellen. Momentan ist diese Funktion in 53 Prozent der Unternehmen vorhanden. Über einen Ombudsmann oder eine Hotline, an die sich Kunden und Mitarbeiter bezüglich ethischer Fragen zu KI-Systemen wenden können, verfügt ebenfalls nur jedes zweite Unternehmen. Zudem sollten auch Führungskräfte der Geschäfts- wie Technologieebenen gewährleisten können, dass in ihrem Bereich eingesetzte KI-Anwendungen ethische Ergebnisse liefern.

 

Zusammenfassend hebt die Studie sieben zentrale Maßnahmen[4] hervor, die für den Aufbau eines ethisch robusten KI-Systems entscheidend sind und auf einem belastbaren Fundament aus Führung, Steuerung („Governance“) und internen Prozessen basieren müssen. Organisationen sollten daher:

 

  • den beabsichtigen Zweck des KI-Systems präzise beschreiben können und die potenzielle Gesamtwirkung ermitteln
  • KI aktiv zum Nutzen von Gesellschaft und Umwelt einsetzen
  • die Prinzipien von Vielfalt und Inklusion im gesamten Lebenszyklus der KI-Systeme verankern
  • die Transparenz mit Hilfe geeigneter Technologie-Werkzeuge optimieren
  • sicherstellen, dass KI-Erfahrungen auf den Menschen ausgerichtet sind und KI-Systeme unter menschlicher Aufsicht stehen
  • gewährleisten, dass KI-Systeme technisch robust sind
  • die Privatsphäre schützen, indem Nutzern die Kontrolle über ihre KI-Interaktionen gegeben wird

 

Fabian Schladitz, KI-Experte und Leiter des AI Center of Excellence bei Capgemini in Deutschland, bemerkt: „In Deutschland betrachten wir die ethischen Dimensionen von Künstlicher Intelligenz häufig recht eindimensional und stark auf die Risikominimierung fokussiert. Dennoch treten KI-Anwendungen als App zur Gesichtsdekoration, als Stauvorhersage bei der Navigation oder als Gesichtserkennung in intelligenten Kameras vielfach in unser Leben, nur stammen sie dann aus einem anderen Land. Deutsche Unternehmer sollten daher die Chance ergreifen und das transformative Potential von KI nutzen, um gesellschaftlichen Nutzen zu stiften und gesellschaftliche Verantwortung zu übernehmen. Dies wirkt sich nicht nur positiv auf die Reputation des Unternehmens aus, denn das Gelernte kann auch einen maßgeblichen Beitrag zur Geschäftsentwicklung leisten. Die Studie liefert konkrete Vorschläge, wie wir Risiken begegnen und auf Regulierungsmaßnahmen reagieren können, um uns langfristig einen Wettbewerbsvorteil zu sichern.“

 

Methodik
Für die Studie führte Capgemini von April bis Mai 2020 eine weltweite Umfrage unter Verbrauchern und Führungskräften durch. Dazu wurden 2.900 Verbraucher in sechs Ländern (China, Deutschland, Frankreich, Großbritannien, den Niederlanden und den USA) sowie 884 Führungskräfte (Tätigkeitsfelder: Informationstechnologie, KI-Entwickler, Datenwissenschaftler, Verkauf, Marketing und Kundendienst) in zehn Ländern (zusätzlich Indien, Italien, Schweden und Spanien) befragt. Die Ergebnisse wurden zudem mit den Ergebnissen verschiedener Studien aus dem Zeitraum von April bis Juni 2019 verglichen, an denen 5.000 Verbraucher und 722 Führungskräfte, darunter KI-Entwickler, Datenwissenschaftler, Vertriebs- und Marketingteams, teilgenommen haben. Weiterhin führte Capgemini von August bis September 2020 Tiefeninterviews mit einer Reihe von Führungskräften, Wissenschaftlern und Fachleuten aus dem Bereich „Ethik und KI“ durch.
[1] Europäische Kommission, „Ethics guidelines for trustworthy AI”, April 2019.
[2] FTC.Gov, „Using Artificial Intelligence and Algorithms”, April 2020.
[3] SSIR, „The Problem With COVID-19 Artificial Intelligence Solutions and How to Fix Them”, Juni 2020.
[4] Die sieben Maßnahmen leiten sich von den sieben Prinzipien für ethische KI ab, wie sie von der EU-Kommission definiert wurden.

 

149 Artikel zu „Ethik KI“

KI und Ethik – Wunsch kontra Wirklichkeit

Studie zeigt: Mehrheit hält ethische Auseinandersetzung mit künstlicher Intelligenz für wichtig. Ethische Richtlinien in Unternehmen sind aber noch in den Kinderschuhen. Künstliche Intelligenz (KI) verändert die Unternehmenswelt. Dem stimmen die meisten der 600 befragten Unternehmensvertreter aus dem aktuellen »Digitalisierungsmonitor 2020« der Management- und Technologieberatung BearingPoint zu. Dass bei weltverändernden Innovationen auch immer die Frage der…

Datenethik für KI wird zur Top-Priorität

CIOs müssen die ethische Nutzung von Daten zu einer Top-Priorität machen, um mit der sich schnell entwickelnden Regulierungslandschaft Schritt zu halten. Wir befinden uns inmitten der vierten industriellen Revolution. Daten sind zu einem der wertvollsten Güter geworden, nicht zuletzt deshalb, weil künstliche Intelligenz stark von ihnen abhängt. KI und maschinelles Lernen werden derzeit in vielen…

KI für Kundendienst, Verkauf und Sicherheit

Rund 50 Milliarden US-Dollar Umsatz werden 2020 laut einer IDC-Schätzung mit Anwendungen für künstliche Intelligenz (KI) erwirtschaftet. Wie die Statista-Grafik zeigt soll sich das Marktvolumen bis 2024 mehr als verdoppeln. »Unternehmen werden KI einführen – nicht nur, weil sie es können, sondern weil sie es müssen«, so Ritu Jyoti von IDC. Und weiter: »KI ist…

4 Schwerpunkte für datenschutzkonforme KI-Lösungen

Was sind die vier wichtigsten Herausforderungen bei Konzeption und Einsatz von KI-Anwendungen im Unternehmen?   Der Siegeszug künstlicher Intelligenz spielt beim jüngst ausgelösten Digitialisierungsschub eine herausragende Rolle, schließlich erobert KI ständig neue Anwendungsfelder und findet sich so immer häufiger im praktischen Einsatz. Die Security-Verantwortlichen in Unternehmen stellt diese Entwicklung jedoch vor komplexe, neue Herausforderungen, denn…

Automatisiertes, KI-generiertes Spear Fishing in großem Stil – Wachsende Notwendigkeit gefälschte Texte zu erkennen

Obwohl sich Vectra AZ darauf konzentriert, KI zur Cyberabwehr einzusetzen, beobachtet das Unternehmen auch, wie KI-Fortschritte von Cyberangreifern genutzt werden könnten. »Ein Bereich, in dem in letzter Zeit einige überraschende Fortschritte erzielt wurden, ist die Generierung natürlicher Sprache. Insbesondere hat OpenAI einen Generator für natürliche Sprache geschaffen, der in der Lage ist, kohärente Antworten in…

Data Science für die IT-Sicherheit: KI-Human-Teams können Cyberangreifer stoppen

Trotz der erstaunlichen Fortschritte bei der Leistung der künstlichen Intelligenz in den letzten Jahren ist keine KI perfekt. Tatsächlich wird die Unvollkommenheit einer KI in der Regel durch die Messung der Genauigkeit des Modells an einem Testdatensatz deutlich gemacht. Perfekte Ergebnisse werden weder erwartet noch sind sie üblich.   Christopher Thissen, Data Scientist bei Vectra…

Nachhaltigkeit: Braucht es Ethik in der Lieferkette?

Verbraucher interessieren sich zunehmend dafür, wie Produkte hergestellt und transportiert werden und wie sich ihr Konsum auf Umwelt und Gesellschaft auswirkt. Dies ist jedoch nicht nur ein Thema für Konsumgüter, auch die Industrie zieht hier längst nach. Tatsächlich ergab eine OpenText-Umfrage, dass 92 % der produzierenden Unternehmen ihre Corporate-Social-Responsibility-Reputation (CSR) als wichtig für ihren Gesamtauftritt…

KI in deutschen Unternehmen – Durchstarten ist angesagt

Welche neuen Entwicklungen helfen Unternehmen, KI erfolgreich einzuführen? Über kein Thema wurde in den vergangenen Monaten so viel diskutiert wie Künstliche Intelligenz. Doch was davon tatsächlich in deutschen Unternehmen umgesetzt wird, steht auf einem anderen Blatt Papier. Selbst deutsche Schlüsselindustrien wie der Maschinenbau adaptieren die neue Technologie nur schleppend. So zeigt eine Umfrage des Vereins…

Auf dem Weg zur transparenten KI

  Im Schach, Poker und Go hat künstliche Intelligenz (KI) die Menschheit längst überflügelt. Auch Röntgenbilder oder Aktienkurse analysiert sie bereits ähnlich gut – und teilweise sogar besser – als ein Experte aus Fleisch und Blut. Doch auch die präzisesten KI-basierten Analysen haben einen Makel: Bis jetzt ist es für einen Menschen oft kaum nachvollziehbar,…

KI und der Wunsch nach noch mehr Effizienz  

Effizienzsteigerung und Prozessverbesserung sind die größten Treiber bei der Implementierung von künstlicher Intelligenz. Die einen sprechen von Revolution, die anderen wissen nicht einmal, ob es KI-Initiativen in ihrem Unternehmen gibt. Die Unterschiede könnten nicht größer sein, zeigt der aktuelle »Digitalisierungsmonitor 2020« von BearingPoint, für den 600 Unternehmensvertreter zum Thema KI befragt wurden [1]. Mit 94…

Warum immer mehr Unternehmen in KI investieren (sollten)

Von Industrie 4.0 über Internet of Things bis hin zu Business Process Transformation also die Umgestaltung der Geschäftsprozesse – die Digitalisierung hat viele Facetten. Künstliche Intelligenz spielt dabei in allen Bereichen eine wesentliche Rolle. Sie ist in der Lage, Abläufe effizienter zu gestalten, Abweichungen zu erkennen, bevor sie womöglich Schaden anrichten, oder relevanten Daten für…

KI-Schub für Unternehmen: Sechs Entwicklungen, die zeigen, wie künstliche Intelligenz Prozesse im Alltag beflügeln

KI-Einsatzmöglichkeiten im Zusammenspiel mit Unternehmensanwendungen. Dass künstliche Intelligenz (KI) eines der Trendthemen schlechthin ist, steht außer Frage. Eine aktuelle PwC-Studie kommt jedoch zu dem Ergebnis, dass erst sechs Prozent der Unternehmen in Deutschland KI einsetzen oder implementieren – es gibt demnach immensen Nachholbedarf. Oracle hat jetzt Anwendungsbereiche im ERP- und Geschäftssoftware-Umfeld zusammengestellt, in denen KI…

Wo KI drauf steht ist auch KI drin?

KI als Trendthema zur Jahreswende oder langfristig ein kritischer Faktor für effiziente IT- und Datennutzung? Nicht erst seit der Jahreswende ist KI als Schlagwort in aller Munde. Die Zahl der Unternehmen, die zumindest behaupten, KI-Fähigkeiten zu nutzen, steigt rapide an, besonders in der Cybersicherheitsbranche. Nachdem laut einer Studie von MMC Ventures 40 Prozent der selbsternannten…

KI mit Byte und Siegel? Eine Einschätzung zu den KI-TÜV-Plänen der Bundesregierung

  Jetzt macht Deutschland in künstliche Intelligenz (KI): mit Formularen, Verordnungen und Prüfplaketten. Diesen Eindruck erwecken einige Überschriften der letzten Tage. Die Pläne des sogenannten KI-TÜVs der Bundesregierung machten die Runde. Im Bundesministerium für Arbeit und Soziales angesiedelt, soll das KI-Observatorium – so die offizielle, etwas altbackene Bezeichnung – das Thema KI voranbringen. Der Zwischenbericht…

Phänomen KI – Hype oder reale Chance für Herausforderungen in der Cybersicherheit?

Die aktuelle Flut an KI-fähigen Geschäftsmodellen und KI-Angeboten sorgt vielerorts für Irritationen, das sich nicht wenige KI-Initiativen – zumindest bis dato – primär als Marketing-Stunts erweisen. Nachdem bei 40 Prozent der selbsternannten »KI-Unternehmen« in Europa entlarvt wurde, dass in ihren Lösungen KI gar nicht zum Einsatz kommt*, ist es verständlich, dass die Versprechen vieler Unternehmen…