foto freepik

Im Rahmen des EU-geförderten Projekts MAMMOth zeigt IDnow, wie sich Verzerrungen in KI-Systemen erkennen und reduzieren lassen – ein wichtiger Schritt hin zu vertrauenswürdiger digitaler Identitätsprüfung.

Das EU-geförderte Projekt MAMMOth (Multi-Attribute, Multimodal Bias Mitigation in AI Systems) hat nach drei Jahren intensiver Arbeit zentrale Ergebnisse zur Verringerung von Verzerrungen in KI-Systemen veröffentlicht [1]. Gefördert durch das EU-Programm Horizon Europe, vereint das Projekt Organisationen aus Wissenschaft, Wirtschaft und Gesellschaft aus ganz Europa [2]. IDnow, ein europäischer Anbieter von Plattformen für Identitätsprüfung, war als Industriepartner direkt an der Umsetzung des Projekts beteiligt [3]. Durch gezielte Forschung und Tests wurde ein optimiertes KI-Modell entwickelt, um Verzerrungen bei der Gesichtserkennung deutlich zu reduzieren. Dieses Modell ist nun in die Lösungen von IDnow integriert.

Algorithmische Verzerrung in der Praxis bekämpfen

Gesichtserkennung mithilfe künstlicher Intelligenz kommt zunehmend für die Identitätsprüfung im Internet zum Einsatz, beispielsweise bei der Eröffnung eines Bankkontos oder der Registrierung für Carsharing. Dazu können Personen ein Bild ihres Gesichts aufnehmen und eine KI gleicht dieses dann mit dem Ausweisfoto ab. Solche Systeme können jedoch Bias aufweisen, die bei bestimmten demografischen Gruppen zu schlechteren Ergebnissen führen. Dies liegt an der Unterrepräsentation von Minderheiten in öffentlichen Datensätzen, was zu höheren Fehlerraten für Menschen mit dunkleren Hauttönen führen kann.

Wie stark diese Diskrepanzen sein können, zeigte eine Studie des MIT Media Lab: Während Gesichtserkennungssysteme bei hellhäutigen Männern eine Fehlerquote von nur 0,8 Prozent aufwiesen, lag sie bei dunkelhäutigen Frauen bei 34,7 Prozent [4]. Diese Zahlen machen deutlich, wie unausgewogen viele KI-Systeme sind – und wie dringend es ist, auf diversere Daten zu setzen.

Im Rahmen von MAMMOth arbeitete IDnow gezielt daran, solche Verzerrungen in der Gesichtserkennung zu identifizieren und zu minimieren – mit dem Ziel, Fairness und Zuverlässigkeit gleichermaßen zu erhöhen.

»Forschungsprojekte wie MAMMOth sind entscheidend, um die Lücke zwischen wissenschaftlicher Innovation und praktischer Anwendung zu schließen«, sagt Montaser Awal, Director of AI & ML bei IDnow. »Durch die Zusammenarbeit mit führenden Expertinnen und Experten konnten wir unsere Technologie gezielt weiterentwickeln und gerechter gestalten.«

Technologischer Fortschritt mit messbarem Impact

Im Rahmen des Projekts untersuchte IDnow mögliche Verzerrungen in seinem Gesichtserkennungsalgorithmus, entwickelte eigene Ansätze, um diese Biases zu reduzieren, und testete zusätzlich Methoden zur Bias-Mitigation, die von anderen Projektpartnern vorgeschlagen wurden.

Da Ausweisfotos häufig von den ausstellenden Behörden farblich angepasst werden, kann beispielsweise der Hautton eine herausfordernde Rolle spielen, insbesondere wenn die Kalibrierung nicht für dunklere Hauttöne optimiert ist. Eine solche Fehlkalibrierung kann zu Unstimmigkeiten zwischen einem Selfie-Bild und dem Aussehen der Person auf einem Ausweisfoto führen.

Um dieses Problem zu lösen, verwendete IDnow eine Style-Transfer-Methode, die den Trainingsdatensatz erweitert. Dadurch wurde das Modell widerstandsfähiger gegenüber unterschiedlichen Bedingungen – und die Verzerrung zulasten dunklerer Hauttöne konnten deutlich reduziert werden.

Tests auf öffentlichen und unternehmenseigenen Datensätzen zeigten, dass sich durch die neue Trainingsmethode eine Steigerung der Verifikationsgenauigkeit um acht Prozent erzielen ließ – bei gleichzeitig nur 25 Prozent des ursprünglichen Trainingsdatenvolumens. Noch bedeutender: Der Genauigkeitsunterschied zwischen Personen mit hellerer und dunklerer Hautfarbe konnte um über 50 Prozent reduziert werden – ein wichtiger Schritt hin zu gerechterer Identitätsprüfung ohne Kompromisse bei Sicherheit oder Nutzerfreundlichkeit.

Das daraus resultierende verbesserte KI-Modell wurde im März 2025 in die Lösungen von IDnow zur Identitätsprüfung integriert und ist seitdem produktiv im Einsatz.

Standard für verantwortungsvolle KI setzen

Neben den konkreten Produktverbesserungen plant IDnow, das im Projekt entwickelte Open-Source-Toolkit MAI-BIAS künftig in internen Entwicklungs- und Evaluierungsprozessen zu nutzen. Damit kann Fairness bereits vor der Veröffentlichung neuer KI-Modelle umfassend geprüft und dokumentiert werden – ein wichtiger Beitrag zu verantwortungsbewusster KI-Entwicklung.

»Bias zu adressieren, stärkt nicht nur Fairness und Vertrauen, sondern macht unsere Systeme auch robuster und anpassungsfähiger«, ergänzt Montaser Awal. »Das stärkt das Vertrauen in unsere Modelle und zeigt, dass sie für verschiedene Nutzergruppen in unterschiedlichen Märkten gleichermaßen zuverlässig funktionieren.« 

[1] https://mammoth-ai.eu/

[2] https://research-and-innovation.ec.europa.eu/funding/funding-opportunities/funding-programmes-and-open-calls/horizon-europe_en

[3] https://www.idnow.io/de/

[4] https://www.aclu-mn.org/en/news/biased-technology-automated-discrimination-facial-recognition#:~:text=The%20error%20rate%20for%20light,published%20by%20MIT%20Media%20Lab.

499 Artikel zu „Bias „

News | Favoriten der Redaktion | Künstliche Intelligenz | Services | Strategien

Wenn Maschinen Vorurteile lernen: Wie gefährlich ist Bias in der künstlichen Intelligenz?

12. Juli 2025

Künstliche Intelligenz (KI) wird heute schon vielfach bei der Entscheidungsfindung benutzt. Doch was passiert, wenn die Datengrundlage, auf der diese Entscheidungen beruhen, verzerrt ist? Eine geschlechtsspezifische Voreingenommenheit, die technische und gesellschaftliche Folgen haben kann. Prof. Dr. Christian Prinz, Molekularmediziner, Professor für Data Science und Künstliche Intelligenz an der »SRH Fernhochschule – The Mobile University«…