Das Projektkonsortium ExamAI analysiert in zwei neuen Publikationen elf Anwendungsszenarien künstlicher Intelligenz aus den Bereichen Personalmanagement und Produktionsautomatisierung. Der Fokus liegt auf Fairness- und Safety-Aspekten.

Künstliche Intelligenz (KI) erhält zunehmend Einzug in verschiedenste Bereiche der Arbeitswelt und ist teilweise bereits fester Bestandteil betrieblicher Abläufe. Insbesondere im Personal- und Talentmanagement sowie in der maschinellen Produktion sind algorithmische Entscheidungssysteme (ADM-Systeme) weit verbreitet. Im Forschungsprojekt »KI Testing & Auditing« (ExamAI) unter der Leitung der Gesellschaft für Informatik e.V. gehen die Beteiligten relevanten Fragen im Zusammenhang mit dem Einsatz von ADM-Systemen nach: Wie können Verfahren aussehen, die einen beherrschbaren, nachvollziehbaren und fairen Einsatz von künstlicher Intelligenz ermöglichen? Wie lassen sich diese durchführen und welche institutionellen Anforderungen müssen dafür beachtet werden?

Zur Beantwortung dieser Fragen wurden nun elf Szenarien aus den zwei Anwendungsbereichen Personal- und Talentmanagement sowie Mensch-Maschine-Kooperation in der Industrieproduktion vorgestellt. Die Szenarien sollen kritische Abläufe aber auch Nutzen beim Einsatz von KI veranschaulichen und dienen als Ausgangspunkt einer juristischen sowie informatischen Analyse bestehender Probleme, Ungleichbehandlungen, Sicherheitsrisiken und Rechtsverstöße im Bereich KI und Arbeit.

Nikolas Becker, Projektleiter ExamAI: »In den beiden Publikationen nehmen wir Szenarien unter die Lupe, in denen Mitarbeiterinnen und Mitarbeiter bei ihrer Arbeit in Kontakt mit künstlicher Intelligenz kommen. Dabei identifizieren wir Schadens- und Diskriminierungspotenziale, die wir im weiteren Projektverlauf genauer untersuchen werden. Die Arbeit im Projekt ExamAI zeigt aber auch, dass KI-Technologien am Arbeitsplatz eine Reihe positiver Konsequenzen haben können – so kann KI beispielsweise Gefahrensituationen in der Produktion erkennen.«

Personal und Talentmanagement

Im Personalbereich gibt es eine Vielzahl von Anwendungsmöglichkeiten von KI. Den besonders einschlägigen widmet sich die Publikation Anwendungsszenarien KI-Systeme im Personal- und Talentmanagement. Dabei sind etwa eine KI-basierte Software bei der Vorhersage der Jobkündigungsbereitschaft, eine Persönlichkeitsbewertung anhand von Lebensläufen oder der Einsatz eines Chatbots der Personalabteilung. Die Gefahrenpotenziale im Personalkontext sind dabei vielfältig. So kann es etwa zu Diskriminierungen bei der Vergabe von Arbeitsschichten oder zu Benachteiligungen bei internen Fördermaßnahmen kommen.

Mensch-Maschine-Kooperation in der Industrieproduktion

In der Industrieproduktion besteht unter Umständen auch physisches Gefahrenpotenzial. Durch einen unkontrollierten und intransparenten Einsatz von KI könnten Mitarbeiter durch kollaborative Roboter (Cobots) oder Fahrerlose Transportsysteme (FTS) verletzt werden. Aber auch in vermeintlich harmlosen Betriebsabläufen, wie der Planung von Routen in der Logistik schlummert Diskriminierungspotenzial. In vier Szenarien werden relevante Aspekte in Bezug auf den Einsatz von KI in der Industrieproduktion aufgezeigt.

Im weiteren Verlauf des Projekts dienen die veröffentlichen Szenarien als Grundlage für eine tiefergehende juristische und softwarebezogene Analysen.

https://testing-ai.gi.de

https://testing-ai.gi.de/fileadmin/GI/Projekte/KI_Testing_Auditing/ExamAI_Publikation_Anwendungsszenarien_KI_Industrie.pdf

https://testing-ai.gi.de/fileadmin/GI/Projekte/KI_Testing_Auditing/ExamAI_Publikation_Anwendungsszenarien_KI_Industrie.pdf

803 Artikel zu „KI in der Arbeitswelt“

NEWS | KÜNSTLICHE INTELLIGENZ

Das zeichnet eine verantwortungsvolle KI aus

27. Dezember 2020

Trifft künstliche Intelligenz diskriminierende Entscheidungen oder schlägt Kunden unpassende Angebot vor, kann das den Ruf und den Umsatz von Unternehmen ernsthaft beschädigen. Wie kann man sich mit einer verantwortungsvollen KI davor schützen?. Immer mehr Unternehmen setzen bei ihren Angeboten auf künstliche Intelligenz (KI). Ihre Algorithmen schlagen Produkte und Services vor, hauchen Chatbots Leben ein…