Freiwilliger KI-Mindeststandard

Quelle: MISSION KI

Normen und Standards sind entscheidend für den digitalen Fortschritt und um Vertrauen in die Nutzung neuer Technologien aufzubauen. Der EU AI Act definiert daher strenge Anforderungen an Hochrisiko-Systeme. Von vielen KI-Entwicklungen geht jedoch ein geringes Risiko aus. Um diesen Unternehmen gleichermaßen Orientierung für die Implementierung vertrauenswürdiger KI zu geben, hat die MISSION KI einen freiwilligen Mindeststandard entwickelt. Eine erste Version wurde auf dem Digital-Gipfel der Bundesregierung am 21. Oktober 2024 in Frankfurt am Main vorgestellt.

 

Der MISSION KI Mindeststandard fokussiert sich auf KI- Anwendungen unterhalb der Hoch-Risikoschwelle und ist anschlussfähig an die Anforderungen des EU AI Acts. Der Mindeststandard will somit Qualität und Vertrauenswürdigkeit sicherstellen, ohne Innovationen zu hemmen. Um den Mindeststandard prüfbar zumachen, übersetzt dieser abstrakte Qualitätswerte in konkrete Prüfverfahren. Ziel ist es zum einen, das Vertrauen der Anwender in KI-Technologien zu stärken. Zum anderen soll er Wettbewerbsvorteile für KI-Anbieter, die den Standard anwenden, und Verlässlichkeit für KI-Betreiber, die die KI-Komponenten einsetzen, schaffen. Hierfür arbeitet MISSION KI mit den Partnern PwC Deutschland, TÜV AI.Lab, VDE Verband der Elektrotechnik Elektronik Informationstechnik, CertifAI, AI Quality & Testing Hub und dem Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS zusammen.

 

Der neue Mindeststandard bietet klare Vorteile:

KI-Anbieter können von einem effizienten Qualitätsnachweis profitieren, der für große Unternehmen sowie für Start-ups gleichermaßen nutzbar ist. Da sich Unternehmen, die den Standard verwenden, durch vergleichbare Qualitätskriterien positiv am Markt abheben, können sie ihre Wettbewerbsfähigkeit verbessern. KI-Betreiber wiederum profitieren von einer höheren Markttransparenz und Zuverlässigkeit der eingesetzten KI-Anwendungen.

Manfred Rauhmeier, Vorsitzender der acatech Stiftung und Sekretär des acatech Koordinationskomitees:

»Wir begrüßen es sehr, dass MISSION KI Anbietern einen Standard zur Verfügung stellt, der ihnen die Möglichkeit gibt, ihre KI-Anwendungen bereits im frühen Entwicklungsprozess vertrauenswürdig auszurichten, sozusagen ›trustworthy by design‹. So erhalten sie einen Qualitätsnachweis und können sich hierdurch am Markt positionieren. Dies ist ein wichtiger Schritt, mit dem wir die Wettbewerbsfähigkeit unserer Unternehmen stärken.«

Hendrik Reese, PwC:

»Während der EU AI Act erstmals weitgehend (Rechts-) Sicherheit für KI schafft, stehen Unternehmen oftmals vor der Frage, was die Anforderungen konkret bedeuten. Hier frühzeitig einen Orientierungsrahmen zu geben, entfaltet Dynamik für den KI-Markt in Europa. Auf Adoption kommt es jetzt an, um die wirtschaftlichen Potenziale zu entfalten. Prüfungen und Vertrauensnachweise in der Technologiewertschöpfungskette leisten überdies einen wichtigen Beitrag.«

Der MISSION KI Mindeststandard basiert auf den »Ethik-Leitlinien für eine vertrauenswürdige KI«, die durch die hochrangige Expertengruppe »HLEG-KI«, einberufen von der Europäische Kommission, festgelegt wurden. Die Expertengruppe hat zentrale Prinzipien definiert, die zur Bewertung der Vertrauenswürdigkeit von KI-Systemen dienen sollen. Das Aufgreifen dieser Prinzipien, zu denen Verlässlichkeit, KI-spezifische Cybersicherheit, Datenqualität, -schutz und -management, Nicht-Diskriminierung, Transparenz sowie menschliche Aufsicht und Kontrolle gehören, stellt die Anschlussfähigkeit des MISSION KI Mindeststandards an die europäische KI-Regulierung und Standardisierung sicher. In einem nächsten Schritt wird das Team den Standard sowie die damit verbundenen Prüfkriterien und -verfahren anhand bereits im Einsatz befindlicher KI-Anwendungen erproben. Durch die Erprobung wird sichergestellt, dass der Standard bedarfsorientiert und praxistauglich entwickelt wird. Die Entwicklung und Erprobung des Standards sollen bis Ende 2025 abgeschlossen werden.

Das ist MISSION KI

MISSION KI – Nationale Initiative für Künstliche Intelligenz und Datenökonomie ist ein Projekt der acatech – Deutsche Akademie der Technikwissenschaften, gefördert i.H.v. 32 Mio. Euro vom Bundesministerium für Digitales und Verkehr (BMDV). Das Vorhaben soll die digitale Wettbewerbsfähigkeit stärken und bedient als Hebelprojekt der Digitalstrategie gleich zwei der Handlungsfelder: Es unterstützt die Entwicklung einheitlicher Standards und verbessert die Verfügbarkeit und Auffindbarkeit von Daten. Weitere Informationen: www.mission-ki.de

 

Ansprechpartner
Dr. Peyman Khodabakhsh
Projektleitung MISSION KI – Nationale Initiative für Künstliche Intelligenz und Datenökonomie
acatech – Deutsche Akademie der Technikwissenschaften
T +49 (0)30 20630964-5
khodabakhsh@acatech.de
Mehr zu aktuellen Projekten der MISSION KI: https://mission-ki.de/de/aktuelles

 

2695 Artikel zu „KI Vertrauen“

KI-Wissen und Führungsqualitäten entscheidend für mehr Vertrauen und Leistung

Mitarbeitende sehen künstliche Intelligenz, maschinelles Lernen sowie die Förderung von Führungsqualitäten als ihre größten Qualifikationslücken. Nur jeder fünfte Mitarbeitende in Deutschland bewertet die Talententwicklungsprogramme ihres Unternehmens als hochwirksam. Mitarbeitende wünschen sich mehr Zeit, neue interaktive Lernformate und mehr Unterstützung durch die Führungskräfte, um ihren Weiterbildungsbedarf zu decken.   Skillsoft, eine Plattform für transformative Lernerfahrungen, hat…

Probleme mit dem Datenvertrauen führen zu negativen Auswirkungen auf Daten- und KI-Initiativen

Precisely, Anbieter von Datenintegrität, veröffentlichte eine neue Studie, die in Zusammenarbeit mit dem Center for Applied AI and Business Analytics am LeBow College of Business der Drexel University (Drexel LeBow) durchgeführt wurde [1]. Die wichtigsten Erkenntnisse aus dem diesjährigen »2025 Outlook: Data Integrity Trends and Insights« beleuchten die drängendsten Herausforderungen, denen sich Unternehmen bei der…

PKI und Post-Quanten-Kryptographie: Wachsender Bedarf an digitalem Vertrauen

Der PKI & Digital Trust Report 2024 von Keyfactor verdeutlicht Herausforderungen im Bereich digitaler Identitäten und Hindernisse bei der Vorbereitung von Organisationen auf die Post-Quanten-Kryptografie.    Keyfactor, die Identity-first Security-Lösung für moderne Unternehmen, und Vanson Bourne geben die Ergebnisse des PKI & Digital Trust Report 2024 bekannt, für den weltweit 1.200 IT-Experten und -Führungskräfte (300…

KI-Studie 2024: Einblicke in Nutzung und Vertrauen in der Gesellschaft

Kein Thema ist heute so brandaktuell, aufregend und kontrovers wie künstliche Intelligenz. KI verändert Arbeitsprozesse grundlegend, daher ist es wichtig, Sichtweisen auf ChatGPT und Co. zu verstehen. Der von Evergreen Media in Zusammenarbeit mit SKOPOS GmbH & Co. KG erstellte Report »KI-Studie 2024: Nutzung & Vertrauen in der Gesellschaft« liefert spannende Einblicke in die Nutzung…

Umfrage offenbart mangelndes Vertrauen in KI am Arbeitsplatz

Führungskräfte und ihre Teams haben wenig Vertrauen in die verantwortungsbewusste Entwicklung und Nutzung von künstlicher Intelligenz.   Workday veröffentlicht eine globale Studie zu einem hochaktuellen Thema [1]. Sie zeigt, dass die Rolle von KI in der Arbeitswelt weitgehend kritisch gesehen wird. Management und Belegschaft sind sich einig darin, dass künstliche Intelligenz den Unternehmen enorme Transformationschancen…

Aufklärungsbedarf: Mehr als 80 Prozent der Befragten hat kein Vertrauen in KI-erstellte Inhalte

Künstliche Intelligenz wurde dieses Jahr an vielen Stellen zur Zukunft der Medienbranche erklärt, doch eine neue Umfrage von nextMedia.Hamburg zeigt, wie viel Arbeit noch geleistet werden muss, ehe KI –generierte Inhalte von den Konsumentinnen und Konsumenten angenommen werden.   Über 80 Prozent der Befragten geben an, dass sie nur geringes oder gar kein Vertrauen in…

KI und die Vertrauensfrage: Wie transparent muss Technologie sein?

Bei wichtigen Entscheidungen ist eine zweite Meinung oft hilfreich. Doch was, wenn diese zweite Meinung von einer künstlichen Intelligenz (KI) statt von einem Menschen stammt? Können wir Maschinen vertrauen?   Bei einer KI-basierten Produktempfehlung im Online-Shop eines Händlers mag die Antwort darauf noch egal sein. Versicherungen oder Banken hingegen sollten Erklärungen liefern, wenn ein Algorithmus…

Mehr als 460 Milliarden Dollar zusätzlicher Gewinn durch bessere Datenpraktiken, Vertrauen in künstliche Intelligenz (KI) und Geschäftsintegration

Gemeinsam besser: Studie zeigt, dass Unternehmen KI und Daten bündeln müssen, um einen strategischen Wert zu schaffen.   Nach der neuen Studie des Infosys Knowledge Institute, dem Thought-Leadership- und Forschungszweig von Infosys, können Unternehmen über 460 Milliarden US-Dollar an zusätzlichen Gewinnen erwirtschaften, wenn sie die drei nachfolgenden Dinge beherzigen: Datenpraktiken verbessern, auf künstliche Intelligenz (KI)…

Bis 2030 wird KI zu einem unverzichtbaren Werkzeug

Mit Infosys Aster stellte das Unternehmen kürzlich eine KI-gestützte Marketing-Suite vor und verspricht damit hochwertige Markenerlebnisse, effizienteres Marketing und schnelleres Wachstum. Wir sprachen mit Satish H C, Executive Vice President Data & Analytics Infosys Limited, über Trends und Herausforderungen und wie sich Führungskräfte am besten wappnen.     Kann Künstliche Intelligenz (KI) wirklich alle Probleme…

Mitarbeiter nutzen Schatten-KI trotz Unternehmensrichtlinien

75 Prozent der Wissensarbeiter nutzen bereits KI. 54 Prozent der deutschen Wissensarbeiter nutzen Schatten-KI. 49 Prozent würden nicht darauf verzichten, selbst wenn es verboten wäre.   Mehr als die Hälfte aller Mitarbeiter nutzt »Schatten-KI«, also nicht vom Unternehmen bereitgestellte KI-Tools. Dies geht aus der aktuellen Studie »Chasing Shadows – Getting Ahead of Shadow AI« der…

KI schreibt Code: Schnell, effektiv und manchmal fehlerhaft

Manchmal könnte man den Eindruck gewinnen, als wären wir ganz plötzlich im Zeitalter der künstlichen Intelligenz (KI) gelandet. Mit dem rasanten Aufstieg kommerzieller Large Language Models (LLMs) und generativer KI-Tools wie OpenAI ChatGPT, Microsoft Copilot und Google Gemini ist künstliche Intelligenz jetzt in aller Munde – Bedenken eingeschlossen. Aber KI-Konzepte und -Systeme existieren schon seit…

Maschinelle Identitäten von KI-Lösungen stehen zunehmend im Fokus der Angreifer

Menschliche und maschinelle Identitäten stellen durch die Zugriffsmöglichkeiten auf kritische Ressourcen für jedes Unternehmen ein großes Sicherheitsrisiko dar. Durch die zunehmende Nutzung von Lösungen der generativen KI steigt gerade die Gefahr von Attacken auf KI-Maschinen-Identitäten. Drei Angriffsszenarien könnten in naher Zukunft Probleme bereiten. Welchen Abwehrmechanismus gibt es?   Maschinelle Identitäten sind heute der wichtigste Treiber…

Nutzung von KI im Bereich AEC/Infrastruktur – Intelligenter statt härter arbeiten

KI ermöglicht die Automatisierung von Aufgaben, die Prüfung alternativer Entwürfe, die Verbesserung von Prognosen der Kosten und der Projektdauer, die Verbesserung der Qualität von Leistungen und Projektergebnissen. KI wird die Art und Weise, wie Unternehmen Anlagen entwerfen, bauen und betreiben, verändern. Julien Moutte, Chief Technology Officer bei Bentley Systems erklärt im Interview zudem die entscheidende Rolle der KI bei der Lösung von Herausforderungen in den Bereichen Nachhaltigkeit, Klimaresilienz und -anpassung sowie Kapazitäten und Leistungsfähigkeit der Arbeitskräfte.

Nur 11 Prozent der CIOs haben KI vollständig implementiert

CIO-Studie zum aktuellen Stand von KI und Hindernissen in Unternehmen: Bedenken bezüglich Daten und Sicherheit erschweren Einführung.   84 Prozent der CIOs von Unternehmen glauben, dass künstliche Intelligenz (KI) für ihre Unternehmen genauso bedeutend sein wird wie die Entwicklung des Internets. Doch nur 11 Prozent geben an, die Technologie bereits in vollem Umfang einzusetzen. Gründe…

Ausgereiftes, flexibles, vertrauenswürdiges, europäisches Produkt auf Open-Source-Basis – Digitale Souveränität: ein Muss für Cybersicherheit

Digitale Souveränität ist kein Luxus. Gerade für Deutschland, die größte Volkswirtschaft Europas, ist sie nicht nur eine Frage der nationalen Sicherheit, sondern auch eine Notwendigkeit für ­wirtschaftliches Wachstum und gesellschaftliche Entwicklung. Deutsche Behörden und Unternehmen müssen in der Lage sein, Kontrolle über ihr digitales Umfeld auszuüben. Dies betrifft Daten, digitale Infrastrukturen, Online-Plattformen und besonders Cybersicherheitsmaßnahmen.

Erfolgreiche KI-Projekte beginnen mit dem Readiness-Check

  Das KI-Potenzial ist praktisch unerschöpflich. Doch um es richtig zu nutzen und daraus echte Wettbewerbsvorteile zu generieren, muss vorab die Bereitschaft des Unternehmens dafür geklärt werden. Der IT-Dienstleister CGI erklärt, warum der Readiness-Check so wichtig ist, was er genau analysiert und was mit den daraus gewonnenen Erkenntnissen passiert.   Künstliche Intelligenz ist für Unternehmen…

Generative KI für Sicherheitsteams – Innovative Entwicklungen verantwortungsvoll nutzen

Generative KI hat das Potenzial, die Leistung von Sicherheitsteams zu maximieren – es müssen aber auch die damit verbundenen Herausforderungen gemeistert werden. Es gilt Risiken und potenziellen Missbrauch zu minimieren. Was ist bei der Einführung generativer KI-Technologie zu beachten?