foto freepik ki

Um möglichen Risiken wie dem Missbrauch personenbezogener Daten und der Privatsphäre sowie der Menschenwürde durch KI vorzubeugen, nimmt die Europäische Union (EU) mit dem »Artificial Intelligence Act« eine internationale Vorreiterrolle mit regulatorischen Überwachungsanforderungen für KI-Systeme ein. Neben dem EU AI Act gibt es auch aus den USA Vorgaben für KI, jedoch bezieht sich der »National Artificial Intelligence Initiative Act« von 2020 auf die Bestärkung des Investments und der Forschung und Entwicklung von KI (…). Erst Anfang Oktober 2022 hat das Weiße Haus in den USA eine weitere Richtlinie (AI Bill of Rights) zum Umgang mit künstlicher Intelligenz veröffentlicht. Trotz des fortschreitenden Regulierungsbedarfs und des öffentlichen Drucks, setzt man in den USA jedoch weiterhin eher auf das Konzept von freiwillig umzusetzenden Richtlinien und Rahmenwerken [1].

Wir haben zu diesem Thema mit Curtis Wilson gesprochen, Data Scientist bei der Synopsys SIG.

Wo liegen die Vor- und Nachteile des europäischen Regulierungsansatzes? Empfinden Sie den Ansatz der Europäer eventuell sogar als zu weitreichend?

Die Vorteile der EU-Regulierung für die Endbenutzer liegen auf der Hand – sicherere Produkte, sicherere Daten usw. Aber auch Unternehmen profitieren davon: Nutzer bringen ihnen potenziell ein höheres Maß an Vertrauen entgegen. Wir verwenden die Daten unserer Nutzer, um möglichst gute KI-Modelle zu erstellen. Wir beobachten, wie diese Nutzer mit den Modellen interagieren und überwachen, wie sie die Ergebnisse nutzen. Diese Informationen dienen anschließend dazu, die Modelle zu verbessern. In Umgebungen, in denen Menschen KI-Produkten nicht vertrauen, kann das unglaublich schwierig werden. Die EU-Vorschriften sind durchaus geeignet, den Nutzern die Gewissheit zu geben, dass ihre Daten sicher sind und angemessen verwendet werden. Ein Nachteil einer stärkeren Regulierung ist die damit einhergehende Bürokratie. Mehr Formulare, mehr Papierkram, mehr Audits. Dies wirkt sich gerade auf kleine und mittlere Unternehmen (KMU) aus, die nicht über die gleichen Rahmenbedingungen und Voraussetzungen verfügen wie größere Firmen. Hier sollte man auf jeden Fall etwas tun, um diese Nachteile auszugleichen. Eine Lockerung der Vorschriften halte ich allerdings nicht für ideal. Stattdessen bevorzuge ich die im EU AI Act verwendete Methode. Die Mitgliedstaaten sind verpflichtet, »regulatorische Sandboxes« einzurichten. KMU haben so die Möglichkeit, mit ihren KI-Produkten zu experimentieren. Gleichzeitig bekommen sie Unterstützung dabei, sich mit den rechtlichen Rahmenbedingungen vertraut zu machen, die sie einhalten müssen. Es ist langfristig sinnvoller, Unternehmen mit Systemen zu unterstützen, die ihnen helfen, Vorschriften einzuhalten, statt die Vorgaben zu lockern.

Wenn die US-Regierung jetzt beschließen würde, Meta gesetzlich zu zwingen, keine personenbezogenen Daten für das Training seiner KI mehr zu nutzen, welche Art von Gesetzen würde das sein? Und wie lange würde dies realistisch dauern?

Ein vollständiges Verbot hätte massive Auswirkungen. Die meisten Menschen würden wohl ihre Google-Suchanfragen, ihren YouTube-Verlauf oder ihre Amazon-Einkäufe als private, personenbezogene Daten betrachten. Dennoch werden diese Informationen an KI-Systeme weitergegeben, die Suchergebnisse priorisieren oder Produkte und Videos empfehlen. Selbst innerhalb der EU ist es Meta nicht verboten, seine KI mit personenbezogenen Daten zu trainieren. Man muss EU-Nutzern lediglich ein Opt-out-Recht einräumen. Und selbst dann heißt das nicht, dass diese Daten rückwirkend aus zuvor trainierten Modellen entfernt würden. Anders ausgedrückt: realistisch betrachtet wird das gar nicht passieren. Regeln nach europäischem Vorbild erfordern mehr Transparenz und räumen den Nutzern deutlich mehr Rechte ein, was die Verwendung ihrer Daten anbelangt. Ein aus meiner Sicht wesentlich realistischeres Modell. Beim EU AI Act hat es vom ersten Whitepaper bis zur Verabschiedung des Gesetzes etwa vier Jahre gedauert. Aber in den USA ist die politische Situation eine gänzlich andere, und auch die aktuellen Diskussionen und die Wahrnehmung in Bezug auf KI unterscheiden sich deutlich. Aufgrund dessen lässt sich kaum abschätzen, wie lange es dauern würde, eine solche Regulierung durchzusetzen.

Wie sollte ein Ansatz zur Regulierung von KI aussehen, der sowohl die Privatsphäre der Kunden schützt als auch Innovationen in den USA fördert?«

Transparenzvorschriften, die den Nutzern im Idealfall ein Widerspruchsrecht einräumen, sind der beste Weg, die Privatsphäre der Kunden zu schützen und gleichzeitig Unternehmen nicht übermäßig zu belasten. Ein legitim agierendes Unternehmen sollte im Allgemeinen kein Problem damit haben, offenzulegen, wofür es die betreffenden Daten verwendet. Zudem ist es aus technischer Sicht relativ einfach zu verhindern, dass bestimmte Daten in ein KI-Modell gelangen.

Das Problem liegt vielmehr wieder in der damit verbundenen Bürokratie. Unmengen von Formularen, Protokolle, die definiert und befolgt werden müssen, die Audits, welche die Einhaltung der Vorschriften sicherstellen usw. Das ist die Realität hinter jeder Art von Regulierung. Trotzdem. Statt die Vorgaben auszuhöhlen, bevorzuge ich Lösungen, die Unternehmen dabei unterstützen, sie einzuhalten (wie die bereits erwähnten KI »Regulation Sandboxes« der EU).

In Bezug auf eine Regulierung künstlicher Intelligenz, welchen Ansatz werden die USA vermutlich verfolgen? Wie lange wird es erwartungsgemäß mit der praktischen Umsetzung dauern?

Während auf Bundesebene noch nicht allzu viel passiert ist, verfügt bereits etwa ein Drittel der US-Bundesstaaten über irgendeine Form von KI-Regulierung. Transparenz ist ein wichtiges Thema bei diesen Vorschriften. Das betrifft die Sensibilisierung der Nutzer dafür, dass sie mit einem Chatbot sprechen oder künstlich generiertes Material betrachten, und geht bis zur Regulierung von Deepfakes. In 13 Bundesstaaten existieren Vorgaben, die es Kunden unter bestimmten Umständen (meist im Zusammenhang mit der Erstellung des Profils) ermöglichen, die Verarbeitung ihrer Daten durch KI-Modelle abzulehnen.

[1] https://www.ey.com/de_de/insights/consulting/was-der-eu-ai-act-fuer-unternehmen-bedeutet

722 Artikel zu „KI Regulierung“

Trends 2024 | News | Künstliche Intelligenz

KI-Trends 2024: Hardwaremonopol, Fertigungsindustrie und Regulierung

10. Januar 2024

Gainfarm-CTO und KI-Experte Christian Behrens über die Trends 2024 im Bereich Künstlicher Intelligenz. Künstliche Intelligenz (KI) war das große Thema in der Tech-Community im Jahr 2023 – und auch 2024 wird KI für reichlich Gesprächsstoff sorgen. »Neue Technologien, Fortschritte und Anwendungsmöglichkeiten werden künstliche Intelligenz immer stärker zu einem wesentlichen Bestandteil der Gesellschaft machen«, sagt…