Illustration Absmeier foto freepik ki

Das Zeitalter der künstlichen Intelligenz (KI) ist selten offensichtlicher zu sehen als in der Finanzwelt. Ein Beispiel ist eine große australische Bank, die nach einer KI-basierten Lösung für die Herausforderungen bei der Kreditentscheidung suchte. Sie ging über die typischen Erfahrungen mit Kreditbüros hinaus, um umfassende Kreditbewertungen zu ermöglichen. Es wurden soziale Medien und Live-Daten-Feeds integriert, um eine öffentliche Stimmungsanalyse und ein ganzheitliches Verständnis eines bestimmten Unternehmens zu erhalten.

KI leistet diese Analysen und unterstützt Finanzinstitute bei dieser Arbeit. In Verbindung mit differenzierten Fragen verschaffen KI-gesteuerte Erkenntnisse Kreditsachbearbeitern einer Bank ein umfassenderes Bild, das sie für ihre endgültigen Kreditentscheidungen nutzen können. Insgesamt trägt KI dazu bei, ein Kreditergebnis für Unternehmen effizienter und schneller zu erzielen. Dazu gehören auch integrierte Funktionen wie Chat-Bots, die den Kreditsachbearbeitern ein besseres Erlebnis bieten.

KI bei Finanzdienstleistern

Die Finanzdienstleistungslandschaft verändert sich aufgrund einer Reihe von dynamischen politischen, wirtschaftlichen und marktwirtschaftlichen Kräften konstant. Künstlicher Intelligenz kommt in dieser Hinsicht eine zentrale Bedeutung zu.

Schon jetzt unterstützt KI Bereiche wie die Beziehungspflege zu vermögenden Privatpersonen, sowie die Verhandlung und Verwaltung von Bündelverträgen. Betrug im Zahlungsverkehr zu erkennen oder Zahlungsausfälle zu verhindern unterstützt KI ebenfalls. Eine KI-gestützte Portfolioanalyse und eine darauf basierende Beratung gibt Kundenbetreuern ein umfassendes Verständnis des Portfolios – und zwar auf kosteneffiziente Weise. Dies war zuvor nicht möglich. Eine Studie von Juniper Research aus dem Jahr 2022 prognostiziert, dass KI-gestützte Systeme zur Betrugserkennung- und -vermeidung Unternehmen bis 2027 mehr als 10,4 Milliarden US-Dollar einsparen werden [1].

Der KI-Anwendungsbereich lässt sich auf jeden anderen Bereich ausdehnen, der datenintensiv ist und eine schnelle und umfassende Konsolidierung von Wissen, Zusammenfassungen, Erklärungen usw. erfordert.

Unzulänglichkeiten des derzeitigen KI-Ansatzes

Ursprünglich war ein Black-Box-Ansatz die Norm für die Implementierung von KI. Diesem Ansatz fehlt es jedoch an Klarheit, Transparenz und Fairness bei Entscheidungen. Die Kunden würden das Vertrauen in ihre Banker verlieren, wenn sie ihnen ohne überzeugende Begründung einen Kredit verweigern oder eine niedrige Kreditwürdigkeit zuerkennen.

Die Aufsichtsbehörden verlangen außerdem einen Prüfpfad für Entscheidungen sowie die Zuordnung zu den Quellen – dies kann durchaus schwierig sein. Diese Anforderungen rücken die Erklärbarkeit in den Vordergrund. Ein weiterer Grund ist die Frage, ob Quelldaten verfügbar sind, da ein großer Teil der Daten vertraulich und geschützt ist. Ohne Quelldaten ist die Funktionsweise des KI-Modells eingeschränkt. Wird ein Risikoentscheidungssystem ohne Begründung der Entscheidung angewandt, ist es schlichtweg inakzeptabel.

Während die Anwendbarkeit von KI im Kerngeschäft von Finanzinstituten derzeit begrenzt ist, ist der Einsatz fortschrittlicher Techniken, die die Erklärungsfrage lösen, den Anwendungsbereich von KI erweitern.

Die regulatorischen Anforderungen sind hingegen komplexer. Im Rahmen des Black-Box-Ansatzes können KI-Systeme zu Verzerrungen und Transparenzproblemen führen – und damit zu unbeabsichtigten Verstößen gegen die Vorschriften.

Der Übergang vom Black-Box-KI-Modell zu einem erklärbaren KI-Modell ist der logische Weg.

KI für KI – die entscheidende Neuerung

KI-Modelle erklärbar zu machen, ist enorm wichtig: Dadurch lassen sich verschiedene Herausforderungen lösen, mit denen Finanzinstitute konfrontiert sind. Dazu gehören beispielsweise Betrugsprävention, Zahlungsverkehr, Cyber Security oder Vermögenszuweisung. Prüfbarkeit und Rückverfolgbarkeit sind entscheidend, um den Grundwerten der Integrität und Ethik gerecht zu werden. Außerdem unterstützen Banken so dabei, das soziale Gefüge aufrechtzuerhalten.

Für Finanzinstitute ist es außerdem wichtig: Sie müssen die komplexen Beziehungen zwischen Variablen verstehen – Vermögenszuweisungen, Hypotheken, Kreditvergabe usw. KI-Algorithmen sind zwar leistungsfähig und können diese Zusammenhänge darlegen. Es muss jedoch sichergestellt sein, dass diese Modelle auch schlechte Leistungen diagnostizieren.

KI für KI ist eine Idee, die für eine erklärbare KI in der Praxis von zentraler Bedeutung ist. Ihr Rahmen beruht auf einer Reihe wichtiger Attribute. Dazu gehören Transparenz, Klarheit, Fairness, Beseitigung von Vorurteilen, Schutz der Menschenrechte, gleichberechtigter Zugang und Inklusivität, um die digitale Kluft zu überbrücken.

KI für KI als Grundlage für den Aufbau erklärungsfähiger KI-Modelle schafft Vertrauen und beseitigt gleichzeitig Vorurteile. Damit ist der Weg für das Vertrauen der Kunden und die Einhaltung von Vorschriften gleichermaßen geebnet. Darüber hinaus ist auch die Basis für eine verantwortungsvolle KI-Einführung gelegt, die ethische Innovationen ermöglicht.

Erklärbare KI in den Arbeitsablauf einbauen

Erklärbare KI ist keine separate Übung, sondern muss proaktiv als Teil der Modellentwicklung integriert sein. Nur so lässt sich sicherzustellen, dass sie von vornherein berücksichtigt wird. Technische Leitplanken in jedem Schritt des Entwicklungszyklus unterstützen die Implementierung.

Es ist ermutigend, dass viele Finanzinstitute die begrenzten Aussichten der Black-Box-KI überwinden. Dank Techniken wie Reinforcement Learning und Feinabstimmung lassen sich die heutigen Retrieval-Augmented-Generation-Modelle (RAG) kontinuierlich verbessern und anpassen – abhängig auch von den Interaktionen und dem Feedback der Nutzer.

Hier übernehmen Datenwissenschaftler, verantwortliche KI-Berater, Fachleute, Rechts- und Regulierungsexperten, Ethiker usw. eine entscheidende Rolle. Wie effektiv Prozesse zur Datenbereinigung, zur Beseitigung von Verzerrungen und zur Einhaltung gesetzlicher Vorschriften sind, hängt auch von der Technologie ab, die Unternehmen zum Trainieren und Erstellen des Modells verwenden.

Bestehende Open-Source-Modelle sind möglicherweise nicht leistungsfähig genug, so dass die Finanzinstitute ihre Modelle selbst oder über ein Konsortium erstellen. Als beispielsweise eine dänische multinationale Bank wichtige Leitplanken und Data-Governance-Maßnahmen gemäß erklärbarer KI-Standards implementierte, setzte sie im Kern eine LLM-Proxy-Schicht ein – einen Gatekeeper, der Daten kontrolliert, die in das KI-System ein- und ausgehen. Dies war enorm wichtig dafür, dass sie Datenübertragung an offene KI-APIs mit integrierten Telemetrie- und Datensicherheitsmaßnahmen schützen, die eine verantwortungsvolle KI-Nutzung gewährleisten.

Gerade im Finanzsektor sind die Anforderungen an die Compliance sehr hoch. Daher sollten Unternehmen frühzeitig mit Aufsichtsbehörden zusammenarbeiten, wenn sie fortschrittliche KI-Anwendungen entwickeln.

Der Weg zur Erklärbarkeit

Um die Erklärbarkeit von KI zu erreichen, müssen Unternehmen auch entsprechend vorbereitet sein. Mit der Weiterentwicklung der Modelle entwickeln sich auch die Anforderungen in Bezug auf Investitionen, Infrastruktur und Datenverfügbarkeit weiter. KI-Anwendungen werden künftig erschwinglicher und zugänglicher sein. Dies führt wiederum zu mehr Innovationen und höherem Nutzen. Dies ist möglich, solange verantwortungsvolle KI-Leitplanken vorhanden sind und die Erklärbarkeit zunimmt.

Die Umstellung auf erklärbare KI-Modelle mag nicht einfach sein, aber sie ist notwendig. Finanzdienstleister müssen jetzt Schritte unternehmen, um den Weg für robuste, erklärbare KI-Rahmenwerke zu ebnen. Für Finanzinstitute ist es wichtig zu dokumentieren, wie das KI-System funktioniert. Dazu gehört auch welche Daten zum Training verwendet wurden und welche Algorithmen zum Einsatz kommen. Dies fördert die Erklärbarkeit, den Wissensaustausch, die Rechenschaftspflicht sowie die Einhaltung von Vorschriften.

Schließlich ist eine kontinuierliche Kontrolle unerlässlich, um mit der sich schnell entwickelnden Technologie und den Modellen Schritt zu halten. Darüber hinaus lässt sich so gewährleisten, dass sie Parameter wie Fairness, Unvoreingenommenheit und Compliance inmitten des Wandels einhalten.

Jay Nair, EVP, Industry head, Financial Service and Public Sector, Infosys

[1] https://www.juniperresearch.com/press/ai-enabled-financial-fraud-detection-spend/

358 Artikel zu „KI Ethik „

News | Trends Wirtschaft | Favoriten der Redaktion | Trends 2020 | Künstliche Intelligenz

KI und Ethik – Wunsch kontra Wirklichkeit

25. Januar 2020

Studie zeigt: Mehrheit hält ethische Auseinandersetzung mit künstlicher Intelligenz für wichtig. Ethische Richtlinien in Unternehmen sind aber noch in den Kinderschuhen. Künstliche Intelligenz (KI) verändert die Unternehmenswelt. Dem stimmen die meisten der 600 befragten Unternehmensvertreter aus dem aktuellen »Digitalisierungsmonitor 2020« der Management- und Technologieberatung BearingPoint zu. Dass bei weltverändernden Innovationen auch immer die Frage der…