EU-KI-Gesetz: Bürokratie oder hilfreiche Leitplanken?

foto freepik ki

Das EU-KI-Gesetz ist das weltweit strengste Regelwerk für künstliche Intelligenz (KI). Was bedeutet das für Ihr Unternehmen?

 

Das EU-KI-Gesetz, das weltweit erste umfassende Regelwerk für künstliche Intelligenz (KI), wird die Landschaft der KI maßgeblich verändern. Während Unternehmen auf der ganzen Welt KI in ihre Geschäftstätigkeit integrieren, ist es entscheidend, die Auswirkungen dieser wegweisenden Gesetzgebung zu verstehen.

Die Europäische Union hat das bahnbrechende Gesetz über künstliche Intelligenz verabschiedet, das erste umfassende Regelwerk für KI weltweit [1]. Wie bei anderen Bereichen, insbesondere beim Datenschutz, hat der gesetzgeberische Ansatz der EU auch in anderen Teilen der Welt erheblichen Einfluss gehabt, obwohl es noch zu früh ist, um zu sagen, ob die politischen Entscheidungsträger in anderen Ländern das Gesetz als Vorbild betrachten werden. Das EU-KI-Gesetz verfolgt einen horizontalen Ansatz, der KI unabhängig davon regelt, ob es sich um ein eigenständiges Softwareangebot oder um Hardware handelt, wie ein selbstfahrendes Auto. Es verfolgt auch einen lebenszyklusorientierten Ansatz und regelt Aspekte der KI von der Qualität der Daten, die zur Entwicklung des Dienstes verwendet werden, über die Prüfung auf Genauigkeit und Verzerrung bis hin zur menschlichen Aufsicht, dem Einsatz und der Überwachung nach dem Inverkehrbringen. Alle an der Entwicklung, der Einführung, dem Verkauf, dem Vertrieb und der Nutzung von KI-Systemen beteiligten Parteien sind durch das Gesetz verpflichtet.

Da KI-Systeme, die auf dem EU-Markt angeboten werden, häufig auch in anderen Teilen der Welt verkauft werden und das EU-KI-Gesetz auch dann gilt, wenn die Ergebnisse eines KI-Systems in der EU verwendet werden, ist ein kohärenter globaler Ansatz zur Umsetzung der Anforderungen ratsam, um die Einhaltung der Vorschriften zu gewährleisten.

 

Schlüsselelemente des EU-KI-Gesetzes

Das EU-KI-Gesetz befasst sich mit drei zentralen Risikobereichen [2]:

  • Verbotene KI:
    Bestimmte Anwendungen von KI werden als unannehmbare Risiken angesehen, zum Beispiel die biometrische Identifizierung in Echtzeit durch Strafverfolgungsbehörden in öffentlichen Bereichen.
  • Hochrisiko-KI:
    Für sogenannte Hochrisikofälle, das heißt, für Fälle, in denen der Einsatz von KI die Rechte oder die wesentlichen Möglichkeiten des Einzelnen beeinträchtigen könnte (etwa in den Bereichen Strafverfolgung, Bildung und Beschäftigung), wird ein Regulierungssystem eingeführt.
  • Transparenz für allgemeine KI:
    Für grundlegende Modelle wie große Sprachmodelle (LLMs) werden Transparenzverpflichtungen auferlegt, damit die Nutzer mehr Informationen darüber erhalten, wie diese Modelle entwickelt werden und wann sie eingesetzt werden.

 

Risikomanagement und KI-Governance

Risikomanagement steht im Mittelpunkt des Ansatzes des EU-KI-Gesetzes. Aus diesem Grund sollten Unternehmen festlegen, wer die Gesamtverantwortung für das Risikomanagement trägt. Diese Person sollte dann mit einem funktionsübergreifenden Team zusammenarbeiten, dem Vertreter der Rechtsabteilung, des Datenschutzes, der Sicherheit und des Unternehmens angehören, um zu ermitteln, welche KI-Systeme das Unternehmen entwickelt oder einsetzt, und um für jedes dieser Systeme die potenziellen Risiken zu bewerten, die von diesen Systemen ausgehen. Das Team kann dann ermitteln, wie diese Risiken angegangen oder abgemildert werden können.

Es gibt eine starke Übereinstimmung zwischen guter KI-Governance und den Anforderungen des EU-KI-Gesetzes. Bei jeder KI-Entwicklung ist es wichtig, einen Prozess zur Identifizierung, Bewertung und Verwaltung von Risiken zu haben. Um gute Ergebnisse zu erzielen, müssen Unternehmen qualitativ hochwertige Daten verwenden. Auch die Leistung des KI-Modells muss unbedingt überwacht werden, um ein Abdriften zu vermeiden und mögliche Verzerrungen abzuschwächen. Und jede KI, die Empfehlungen ausspricht, sollte einer menschlichen Kontrolle unterliegen. Alles in allem ist ein durchgängiger Fokus auf die KI-Governance erforderlich.

Aus geschäftsstrategischer Sicht müssen Unternehmen ganzheitlich darüber nachdenken, wie sie die KI-Governance in ihre Entwicklungs- und Compliance-Prozesse einbinden können. Bei der Entwicklung von KI-Produkten müssen Unternehmen prüfen, ob sie in den Geltungsbereich des Gesetzes fallen, und Prozesse einrichten, um die Einhaltung der darin enthaltenen Verpflichtungen zu gewährleisten. Wenn ein Unternehmen KI-Systeme einsetzt, die von anderen entwickelt wurden und unter das Gesetz fallen, muss es diese Systeme in Übereinstimmung mit den Anweisungen des Systementwicklers verwenden und eine menschliche Aufsicht über die Verwendung aller Systemergebnisse sicherstellen.

In vielerlei Hinsicht ähnelt dies den Compliance-Verpflichtungen in anderen Bereichen; dennoch wird es für Unternehmen wichtig sein, die einzigartigen Aspekte der KI zu berücksichtigen – einschließlich neuer Risiken, die von anderen rechtlichen Rahmenbedingungen nicht abgedeckt werden – und das erforderliche Fachwissen zu entwickeln, um sie verantwortungsvoll zu nutzen. Und bei der Umsetzung des Gesetzes kann es sinnvoll sein, bestimmte Bestimmungen nur auf Angebote anzuwenden, die auf den europäischen Markt gebracht werden – so wie Unternehmen manchmal bestimmte Bestimmungen der Datenschutzgrundverordnung nur auf Daten anwenden, die aus Europa stammen.

Alles in allem werden Sie durch den Aufbau eines starken KI-Governance-Programms einen großen Teil des Weges zurücklegen. Die Besonderheiten des EU-KI-Gesetzes müssen zwar immer noch berücksichtigt werden, aber wie bei einem starken Datenschutzprogramm handelt es sich dabei um Anpassungen, die auf einem starken Fundament aufbauen.

 

Wie man anfängt

Es gibt eine Reihe von Ressourcen und Tools, die Ideen für die Gestaltung und Umsetzung von KI-Governance-Programmen liefern können. Das U.S. National Institute for Standards and Technology hat ein KI-Risikomanagement-Rahmenwerk und unterstützende Materialien veröffentlicht, die Unternehmen bei der Identifizierung, Kartierung, Messung und Überwachung von Risiken helfen. Und schließlich bieten Risikomanagementprogramme aus anderen Compliance-Bereichen, wie zum Beispiel dem Datenschutz, eine hilfreiche Vorlage für die Gestaltung eines Programms für KI-Systeme.

 

Wann wird das EU KI-Gesetz in Kraft treten?

Das EU KI-Gesetz sieht je nach Risikokategorie unterschiedliche Fristen für die Umsetzung seiner Bestimmungen vor, die mit der Veröffentlichung im Amtsblatt nach der endgültigen Verabschiedung beginnen:

  • Inakzeptables Risiko KI: sechs Monate ab Verabschiedung
  • KI für allgemeine Zwecke: 12 Monate
  • KI mit hohem Risiko: 24 Monate
  • Alle Risikokategorien mit einigen Ausnahmen: 36 Monate

 

Schlussfolgerung

Wie bei jedem neuen Gesetz wird es wichtig sein zu sehen, wie es angewandt wird. Beim KI-Gesetz bleibt viel der Entwicklung von Normen überlassen, und so wird es wichtig sein zu sehen, wie sich Normen auf die Einhaltung auswirken werden. Ferner gibt es mehrere damit verbundene Regulierungsstellen, die in den Mitgliedstaaten für die Durchsetzung des Gesetzes oder die Beratung zu bestimmten Aspekten zuständig sein werden. Es wird aufschlussreich sein, zu beobachten, wie sich diese Beratung im Laufe der Zeit entwickelt. Diese Aspekte sorgen aber auch für Flexibilität, sodass das Gesetz auch dann noch funktionieren kann, wenn sich die KI-Technologie auf neue und unvorhergesehene Weise weiterentwickelt.

Jason Albert, Global Chief Privacy Officer, ADP

 

[1] https://artificialintelligenceact.eu/
[2] https://artificialintelligenceact.eu/high-level-summary/

 

1032 Artikel zu „KI Governance“

 

 

 

Wirtschaft rechnet mit Kontrollverlust über KI-Governance

Die Wirtschaft muss mehr Verantwortung bei Trendtechnologien wie KI übernehmen. Andernfalls übernehmen staatliche Behörden in den nächsten fünf Jahren die Regulierung, so die jüngste Studie von Pegasystems [1]. In der von iResearch geleiteten Untersuchung wurden 1.350 C-Level Executives in zwölf Ländern nach ihrer Einschätzung zu der Entwicklung von Technologietrends wie KI, Hyperautomation, Extended Reality (XR),…

DevSecOps-Teams zweifeln an der Sicherheit von KI-generiertem Code

Die Umfrage analysiert das »Tauziehen«, das KI-gestützte Codierungstools im Software-Entwicklungsprozess hervorrufen.   Der Bericht »Global State of DevSecOps 2024« von Black Duck Software, Inc. (»Black Duck«) analysiert Trends, Herausforderungen und Chancen, die sich auf die Software-Sicherheit auswirken. Die Daten belegen, dass der umfassende Einsatz von KI die Art und Weise, wie Software entwickelt wird, grundlegend…

KI-gestützte Chatbot-Assistenten für Knowledge Worker

KI-gesteuerte virtuelle Assistenten sind bereits für ein Fünftel der Knowledge Worker weltweit die Tools, die sie am häufigsten einsetzen. ChatGPT dabei häufiger genutzt als Slack.   Mehr als einer von fünf Knowledge Workern weltweit (23 Prozent) setzt inzwischen auf KI-Assistenten der nächsten Generation als meistgenutztes Arbeitsmittel bzw. meistgenutzte Anwendung, so eine Umfrage von The Adaptavist…

Industrielle KI-Revolution: Für industrielle Dienstleister ist jetzt Zeitpunkt auf generative Intelligenz zu setzen

Die Bedeutung von generativer KI für industrielle Dienstleistungen.   Aufgrund der schnellen Ausbreitung von ChatGPT, Gemini und anderen großen Sprachmodellen entwickelt sich generative künstliche Intelligenz (generative KI) in rasantem Tempo weiter und gewinnt entsprechend an Bedeutung. Dies eröffnet Unternehmen ganz neue Möglichkeiten zur Steigerung von Effizienz, Innovation und Wettbewerbsfähigkeit. Auch für den industriellen Dienstleistungssektor wird…

KI-Wissen und Führungsqualitäten entscheidend für mehr Vertrauen und Leistung

Mitarbeitende sehen künstliche Intelligenz, maschinelles Lernen sowie die Förderung von Führungsqualitäten als ihre größten Qualifikationslücken. Nur jeder fünfte Mitarbeitende in Deutschland bewertet die Talententwicklungsprogramme ihres Unternehmens als hochwirksam. Mitarbeitende wünschen sich mehr Zeit, neue interaktive Lernformate und mehr Unterstützung durch die Führungskräfte, um ihren Weiterbildungsbedarf zu decken.   Skillsoft, eine Plattform für transformative Lernerfahrungen, hat…

KI muss als Teaminitiative gesehen werden

Der Einsatz von KI und ML in Unternehmen nimmt kontinuierlich zu. Er ist aber mit zahlreichen Herausforderungen verbunden, die von der Entwicklung über die Bereitstellung bis zur Verwaltung von KI- und ML-Modellen reichen. Folglich muss ein Unternehmen eine KI-Initiative immer als abteilungsübergreifende Teamaufgabe betrachten. Hier kann eine offene Hybrid-Cloud-Plattform als ideales Fundament für den Aufbau…

Vom Kreditinstitut zur Technologie-Oase: Wie die digitale Ära das Banking bis 2035 revolutioniert

Wir schreiben das Jahr 2035: Sie wachen auf und überprüfen Ihre Finanzen über einen sprachaktivierten digitalen Assistenten, der als Hologramm von Elvis erscheint. Nach der Authentifizierung durch Stimm- und Fingerabdruck-Biometrie liefert Ihnen der verstorbene King of Rock’n’Roll einen Überblick über Ihre Ausgaben, Ersparnisse und Investitionen in einem personalisierten Dashboard, das alle Ihre Konten und Finanzdaten…

KI-Regulierung Europa vs. USA

Um möglichen Risiken wie dem Missbrauch personenbezogener Daten und der Privatsphäre sowie der Menschenwürde durch KI vorzubeugen, nimmt die Europäische Union (EU) mit dem »Artificial Intelligence Act« eine internationale Vorreiterrolle mit regulatorischen Überwachungsanforderungen für KI-Systeme ein. Neben dem EU AI Act gibt es auch aus den USA Vorgaben für KI, jedoch bezieht sich der »National…

Deutsche Unternehmen haben nicht genug Kompetenz für KI

»Cybersicherheit in Zahlen« zeigt: Firmen kämpfen mit Sicherheitsrisiken und fehlendem Know-how. Für den zielgerichteten Einsatz von künstlicher Intelligenz (KI) in Unternehmen braucht es Angestellte mit dem entsprechenden Fachwissen sowie Maßnahmen zur sicheren Anwendung. Beides ist in Deutschland noch mangelhaft – das zeigt die neue repräsentative Studie »Cybersicherheit in Zahlen« [1]. 87 Prozent aller befragten Personen…

Probleme mit dem Datenvertrauen führen zu negativen Auswirkungen auf Daten- und KI-Initiativen

Precisely, Anbieter von Datenintegrität, veröffentlichte eine neue Studie, die in Zusammenarbeit mit dem Center for Applied AI and Business Analytics am LeBow College of Business der Drexel University (Drexel LeBow) durchgeführt wurde [1]. Die wichtigsten Erkenntnisse aus dem diesjährigen »2025 Outlook: Data Integrity Trends and Insights« beleuchten die drängendsten Herausforderungen, denen sich Unternehmen bei der…

KI und Kosten-Nutzen-Rechnung: Wenn ein Wunderkind erwachsen werden soll

Für den kosteneffizienten Einsatz von KI braucht es mehr als die Technologie selbst. Fünf Mythen, bei denen Finanzdienstleister aufhorchen sollten.   Der Siegeszug der KI: Von Marketing bis Marktforschung, Big-Data-Analyse bis Betrugsprävention integrieren Finanzdienstleister künstliche Intelligenz (KI) in ihre Geschäftsprozesse. In der Regel arbeiten sie dabei mit den marktbeherrschenden Public-Cloud-Anbietern zusammen. Aber auch mittelständische Private-Cloud-Dienstleister…

Digitale Transformation: KI für IT, Vertrieb und Marketing

Unternehmen erleben heute mit der künstlichen Intelligenz (KI) einen Déjà-vu-Moment. Ähnlich wie bei früheren Technologiesprüngen – dem Aufkommen des PCs, des Internets oder der Cloud-Technologie – stehen sie an einem Wendepunkt, an dem die breite Einführung von KI die Unternehmenslandschaft transformiert. Diese Erkenntnis wird durch eine globale Studie gestützt, bei der über 7.000 Mitarbeitende befragt…

7 von 10 Unternehmen wollen generative KI für Sicherheit und IT-Business-Alignment einsetzen

Tenable Studie: 71 Prozent der deutschen Unternehmen planen Einsatz von generativer KI, um Sicherheitsmaßnahmen zu verbessern und IT-Ziele und Business in Einklang zu bringen. In puncto Implementierung sind allerdings nur 17 Prozent zuversichtlich.   Laut einer Studie von Tenable, dem Unternehmen für Exposure-Management, planen 71 Prozent der deutschen Unternehmen in den nächsten 12 Monaten den…

Maßnahmen für den verantwortungsvollen Einsatz von generativer KI

Die Vorteile von generativer KI (GenAI) sind mittlerweile unbestritten und finden auch in der Geschäftswelt zunehmend Anwendung. So verbessern generative KI-Systeme unter anderem Strategien für das Informationsmanagement, optimieren Prozesse und sorgen für eine effizientere Arbeitsweise der Mitarbeitenden. Trotzdem bestehen unter den Anwendern häufig noch Zweifel an der Vertrauenswürdigkeit und Sicherheit der Technologie. Das hindert Unternehmen…

KMUs (noch) zurückhaltend beim KI-Einsatz

Der Mittelstand verspricht sich vom KI-Einsatz insbesondere mehr Innovationstärke (26 Prozent) sowie zufriedenere Kunden (23 Prozent). Die Hälfte der Kleinunternehmen setzt künstliche Intelligenz (KI) nicht ein, und plant dies auch nicht.   Künstliche Intelligenz (KI) ist eine der wichtigsten Schlüsseltechnologien für die digitale Transformation von Wirtschaft und Industrie. Doch bei vielen deutschen Unternehmen steckt der…

Was hindert Unternehmen daran den vollen Nutzen von KI zu entfalten?

Eine aktuelle Studie unterstreicht den rasanten Fortschritt bei der Nutzung von KI und identifiziert die häufigsten Anwendungsfälle sowie Herausforderungen.  Cloudera, Anbieter für hybride Datenplattformen, Analytik und KI, gibt die Ergebnisse der aktuellen Studie »The State of Enterprise AI and Modern Data Architecture« bekannt [1]. Für diese wurden 600 IT-Führungskräfte aus den USA, EMEA- und der…

Unterstützung bei der Umsetzung des KI-Gesetzes der EU

Risiken minimieren, Qualität sichern, Vertrauen fördern: Im August ist mit der EU-Verordnung über künstliche Intelligenz (engl. »AI Act«) das weltweit erste umfassende Gesetz zur Regulierung von KI in Kraft getreten. Nun müssen betroffene Unternehmen die neuen Regularien fristgerecht umsetzen, andernfalls drohen Strafzahlungen. Mit einem neuen Angebot im Bereich KI-Governance & Qualitätsmanagement unterstützt das Fraunhofer-Institut für…

Nachhaltigkeit als zentraler Aspekt – Die Zukunft der KI-Infrastruktur wird wahrscheinlich ein Hybridmodell sein

Supermicro bringt Innovationen für die IT-Infrastruktur in den Bereichen Enterprise, Cloud, KI, Metaverse und 5G Telco/Edge oft als Erster auf den Markt. Der Anbieter von IT-Gesamtlösungen im Rack-Scale-Format achtet besonders auf ein umweltfreundliches und energiesparendes Portfolio von Servern, Speichersystemen, Switches und Software. Wir sprachen mit Thomas Jorgensen, Senior Director Technology Enablement bei Supermicro über die Entwicklung und die Marktposition, den KI-Trend und die speziellen Anforderungen an die Infrastruktur, über Nachhaltigkeit, Flüssigkühlungslösungen und die Zukunft von Rechenzentren.