Künstliche Intelligenz braucht Regeln

Anzeige

Illustration: Geralt Absmeier

+++ KI-gestützte Anwendungen in Abhängigkeit vom Risiko regulieren.

+++ Sicherheit besonders kritischer KI-Systeme durch unabhängige Prüfungen gewährleisten.

+++ VdTÜV veröffentlicht Positionspapier.

 

Der TÜV-Verband hat eine gesetzliche Regulierung von Produkten und Anwendungen mit künstlicher Intelligenz (KI) gefordert, um die Sicherheit von Menschen und den Schutz der Umwelt auch in der digitalen Welt gewährleisten zu können. »Sind beim Einsatz von künstlicher Intelligenz die Gesundheit von Menschen oder ihre elementaren Grundrechte in Gefahr, sollten KI-Systeme bestimmte Sicherheitsanforderungen erfüllen müssen«, sagte Marc Fliehe, Leiter Digitalisierung und Cybersecurity beim TÜV-Verband (VdTÜV). Das gelte zum Beispiel für automatisierte Fahrzeuge, medizinische Diagnosen, mit Menschen interagierende Roboter oder Entscheidungssysteme, die Personen betreffen.

»Unser Ziel ist es, den breiten Einsatz von künstlicher Intelligenz zu fördern und gleichzeitig die damit einhergehenden Gefahren zu verringern«, betonte Fliehe. Aufgrund der unerschöpflichen Vielfalt möglicher KI-Anwendungen sei klar, dass nicht alle KI-Systeme die gleichen Anforderungen erfüllen müssen. Daher sollten KI-gestützte Systeme in Risikoklassen eingeteilt und nach ihrem Gefährdungspotenzial reguliert werden. Die Maßnahmen können von einem vollständigen Regulierungsverzicht über formelle Anforderungen wie Transparenzpflichten und – im nächsten Schritt – Zulassungsverfahren vor der Markteinführung bis zu einem Verbot bestimmter, besonders gefährlicher oder ethisch fragwürdiger KI-Anwendungen reichen. Der TÜV-Verband unterstützt damit die Pläne der EU-Kommission, die einen europäischen Rechtsrahmen für KI-Systeme schaffen will und ihre Vorstellungen im »Weißbuch zur Künstlichen Intelligenz« zusammengefasst hat.

Hintergrund der Regulierungsbestrebungen ist die zunehmende Digitalisierung und Vernetzung der Welt. Fahrzeuge, Maschinen, Geräte und Produkte aller Art verfügen über digitale Funktionen und treffen autonom Entscheidungen, die Menschen schützen, aber auch in Gefahr bringen können. Darüber hinaus können KI-Systeme falsche Vorhersagen treffen oder Menschen diskriminieren, wenn sie fehlerhaft programmiert oder trainiert worden sind. Der TÜV-Verband hat deshalb folgende Forderungen an die Politik formuliert:

  • Rechtsrahmen KI-tauglich machen

Der europäische Rechtsrahmen trägt den Herausforderungen durch KI nicht ausreichend Rechnung. Grundlegende Anforderungen an KI-gestützte Anwendungen sollten sowohl übergreifend als auch sektorspezifisch formuliert werden.

  • KI-gestützte Anwendungen in Risikoklassen einteilen

Für die Einteilung in Risikoklassen müssen eindeutige Kriterien definiert werden. Die Risikobewertung bildet die Grundlage für weitere Vorgaben an das jeweilige KI-System.

  • Vertrauen durch unabhängige Drittprüfung schaffen

Bei KI-gestützten Anwendungen mit hohem Risiko sollte eine unabhängige Konformitätsbewertung erfolgen. So wird überprüft, ob die Anwendungen die gesetzlich formulierten Anforderungen erfüllen und in der Nutzung sicher sind.

  • Verfahren der Konformitätsbewertung weiterentwickeln

Die Methoden der Konformitätsbewertung müssen mit der technologischen Entwicklung Schritt halten. Dafür müssen zum Teil völlig neue Verfahren und Methoden gefunden werden.

  • Europäische Datenstrategie sinnvoll gestalten

Daten spielen im Zusammenhang mit Künstlicher Intelligenz eine herausragende Rolle. So ist die Verfügbarkeit sowie die Qualität der Daten ausschlaggebend für die Entwicklung und den Einsatz KI-gestützter Anwendungen. Eine zielführende KI-Regulierung setzt daher eine europäische Datenstrategie voraus.

Seine Forderungen hat der TÜV-Verband in einem Positionspapier zusammengefasst, das abrufbar ist unter: https://www.vdtuev.de/news/positionspapier-ki .

 

Über den TÜV-Verband: Der Verband der TÜV e.V. (VdTÜV) vertritt die politischen und fachlichen Interessen seiner Mitglieder gegenüber Politik, Verwaltung, Wirtschaft und Öffentlichkeit. Der Verband setzt sich für technische und digitale Sicherheit bei Produkten, Anlagen und Dienstleistungen durch unabhängige Prüfungen und qualifizierte Weiterbildung ein. Mit seinen Mitgliedern verfolgt der TÜV-Verband das Ziel, das hohe Niveau der technischen Sicherheit in unserer Gesellschaft zu wahren und Vertrauen für die digitale Welt zu schaffen.

 

813 Artikel zu „KI Regel künstliche Intelligenz“

4 Schwerpunkte für datenschutzkonforme KI-Lösungen

Was sind die vier wichtigsten Herausforderungen bei Konzeption und Einsatz von KI-Anwendungen im Unternehmen?   Der Siegeszug künstlicher Intelligenz spielt beim jüngst ausgelösten Digitialisierungsschub eine herausragende Rolle, schließlich erobert KI ständig neue Anwendungsfelder und findet sich so immer häufiger im praktischen Einsatz. Die Security-Verantwortlichen in Unternehmen stellt diese Entwicklung jedoch vor komplexe, neue Herausforderungen, denn…

Wertstromkinematik: Flexibles Produktionssystem für Variantenvielfalt

Vom Sportschuh bis zur Autoausstattung wünschen sich Kundinnen und Kunden immer individueller gestaltete Produkte. Industrie- und Konsumgüter mit hohem Individualisierungsgrad und Qualitätsanspruch in entsprechend kleineren Stückzahlen wirtschaftlich und konkurrenzfähig herzustellen, erfordert geeignete Fertigungsprozesse. Forscherinnen und Forscher des Karlsruher Instituts für Technologie (KIT) entwickeln gemeinsam mit Industriepartnern ein neuartiges Produktionsplanungssystem, das die hohe Produktivität und Genauigkeit…

Abläufe verbessern und automatisieren – Wie Unternehmen mit KI ihre Geschäftsprozesse erfolgreich optimieren

Künstliche Intelligenz bietet zweifellos eine ganze Reihe von Optionen, um Geschäftsprozesse zu optimieren, von der Kundenbetreuung mittels Chat-Bots bis zur Steuerung mobiler Roboter. Doch wer KI einsetzen will, sollte nicht nur die passende technische Lösung im Blick haben. Vielmehr gilt es, auch den Menschen einzubinden, also Mitarbeiter, Kunden und Partner.

Automatisiertes, KI-generiertes Spear Fishing in großem Stil – Wachsende Notwendigkeit gefälschte Texte zu erkennen

Obwohl sich Vectra AZ darauf konzentriert, KI zur Cyberabwehr einzusetzen, beobachtet das Unternehmen auch, wie KI-Fortschritte von Cyberangreifern genutzt werden könnten. »Ein Bereich, in dem in letzter Zeit einige überraschende Fortschritte erzielt wurden, ist die Generierung natürlicher Sprache. Insbesondere hat OpenAI einen Generator für natürliche Sprache geschaffen, der in der Lage ist, kohärente Antworten in…

Künstliche Intelligenz für die Zukunft der Cybersicherheit

320.000 neue Schadprogramme täglich: Diese Zahl hat das Bundesamt für Sicherheit in der Informationstechnik (BSI) in seinem Lagebericht 2019 veröffentlicht. Neben der zunehmenden Zahl der Angriffe werden diese immer professioneller. Cyber-Defense-Lösungen, die zur Entdeckung und Bewertung von Cyberangriffen künstliche Intelligenz (KI) nutzen, liefern dabei wertvolle Informationen für Cyber-Defense-Teams und sind von grundlegender Bedeutung für die…

Data Science für die IT-Sicherheit: KI-Human-Teams können Cyberangreifer stoppen

Trotz der erstaunlichen Fortschritte bei der Leistung der künstlichen Intelligenz in den letzten Jahren ist keine KI perfekt. Tatsächlich wird die Unvollkommenheit einer KI in der Regel durch die Messung der Genauigkeit des Modells an einem Testdatensatz deutlich gemacht. Perfekte Ergebnisse werden weder erwartet noch sind sie üblich.   Christopher Thissen, Data Scientist bei Vectra…

Mit KI und IoT aus der Pandemie

Für fast jedes fünfte kleine und mittelständische Industrieunternehmen (KMU) in Deutschland (18,9 Prozent) sind moderne Technologien wie künstliche Intelligenz (KI) oder Internet of Things (IoT) »wichtiger als je zuvor«, um erfolgreich oder weitgehend unbeschadet durch die aktuelle Covid-19-Pandemie zu kommen. Das ist das wichtigste Ergebnis einer neuen Studie von techconsult im Auftrag von Microsoft Deutschland.…

Datenschutz beim Website-Tracking

Das Tracking des Surfverhaltens gehört zum Alltag der Internetnutzung. Unternehmen verwenden es beispielsweise, um Werbeanzeigen auf die persönlichen Belange der potenziellen Kunden zuzuschneiden oder ihre Reichweite zu messen. Viele Anbieter von Trackingdiensten werben mit sicherem Datenschutz, indem sie die Datensätze generalisieren und so anonymisieren. Wie sicher dieses Verfahren ist, haben Informatikerinnen und Informatiker des Karlsruher…

Aus- und Weiterbildung: Wie künstliche Intelligenz die IT-Berufe verändert

KI wird die Berufswelt verändern und das betrifft auch die Tätigkeitsfelder der IT-Spezialisten selbst. Routinetätigkeiten, teilweise sogar die Programmierung, können von Algorithmen übernommen werden. Übergreifendes Wissen, Beratungskompetenz dagegen werden künftig ebenso gefragt sein wie spezifisches Branchenwissen. Eine zukunftsorientiere Aus- und Weiterbildung von Young Professionals sollte diese Entwicklungstendenzen im Blick haben.   Künstliche Intelligenz, kurz KI,…

Wie künstliche Intelligenz hilft, Krankheiten zu bekämpfen – Revolution im Gesundheitswesen

Die Herausforderungen im Gesundheitswesen sind gewaltig. Die Kosten steigen, das Geld ist knapp und die Margen sinken. Gleichzeitig fehlt es an Pflegepersonal, die vorhandenen Fachkräfte sind überarbeitet. Kliniken müssen effizient wirtschaften, um Patienten die bestmögliche Versorgung zu gewährleisten – und gleichzeitig Datensicherheits- und Compliance-Anforderungen bei der Verarbeitung der anfallenden Daten sicherstellen.

Die drei Kernelemente der KI-Revolution im Kundendialog

Marketingstrategien und ihre operative Umsetzung im Kundendialog erleben durch die Einbindung künstlicher Intelligenz aktuell eine fundamentale Umwälzung. Ausgelöst wird dieser Paradigmenwechsel durch den Einsatz von neuen, KI-gestützten Anwendungen. Pegasystems, ein Anbieter von strategischen Softwarelösungen für Vertrieb, Marketing, Service und Operations, zeigt die drei erfolgskritischen Kernpunkte, die bei der Implementierung KI-gestützter Marketingkampagnen berücksichtigt werden müssen.  …

Das kann KI in der Praxis leisten

Von Schlaglocherkennung bis Röntgenbild-Analyse: Bitkom veröffentlicht Leitfaden »Konkrete Anwendungsfälle von künstlicher Intelligenz & Big Data in der Industrie«. Alle reden über künstliche Intelligenz und Datenanalyse – aber vielen Unternehmen fehlt es an Ideen, wie sie die Technologien einsetzen können. Der Digitalverband Bitkom hat deshalb in einem Leitfaden zwölf konkrete Anwendungsbeispiele für KI und Big Data…

Studie zeigt, dass Unternehmen, die auf künstliche Intelligenz setzen, Gewinne 80 Prozent schneller steigern können

Weltweite Umfrage verdeutlicht, wie Unternehmen neue Technologien nutzen können, um Abläufe im Bereich Finance and Operations zu verbessern. Unternehmen, die KI und andere neue Technologien im Bereich Finance and Operations einsetzen, steigern ihren jährlichen Gewinn um 80 Prozent schneller als Firmen, die derartige Lösungen nicht nutzen. Zu diesem Ergebnis kommt eine neue Studie der Enterprise…

Fünf Regeln zur Bewältigung einer Cybersicherheitskrise: Vorstände und Verantwortliche unter Druck

Das aktuelle Allianz Risk Barometer 2020 – als weltweit größte Risikostudie – hat kritische Geschäftsunterbrechungen, die durch Cybersicherheitsverletzungen verursacht werden, als das größte Risiko für Unternehmen erkannt [1]. »Wann man von einer Cybersicherheitskrise betroffen sein wird, lässt sich nie vorhersagen. Unternehmen können aber Zeit gewinnen, indem sie einen gut einstudierten und effektiven Cyber-Resiliency-Plan aufstellen, der…

Conversation Hijacking: Best Practices zum Schutz vor hochpersonalisierten Angriffen

Beim Conversation Hijacking klinken sich Cyberkriminelle in bestehende Geschäftskonversationen ein oder initiieren neue Konversationen auf Grundlage von ausgespähten Informationen. Conversation Hijacking ist häufig Teil einer E-Mail-Kontenübernahme: Hierbei überwachen Kriminelle das kompromittierte Konto, um Unternehmensvorgänge, Geschäftsaktivitäten, Zahlungsverfahren und andere Details auszuspionieren. Die gekaperten Konten selbst nutzen Angreifer jedoch eher selten für Conversation Hijacking, da der Kontobesitzer…

Künstliche Intelligenz, Green IT & Hyperautomation: die wichtigsten IT-Trends für 2020

Automatisierung hilft Druckereien, profitable Businessmodelle zur Unterstützung von Kunden aus Werbung und Marketing zu entwickeln. Produktionsanlagen warten, Verkehr in Smart Cities steuern oder Bilder digital erkennen: Künstliche Intelligenz wird in vielen Bereichen eingesetzt und ist daher das zentrale IT-Thema 2020. Hundertfach kürzere Latenzzeiten durch 5G und Hyperautomatisierung werden KI weiter vorantreiben und das tägliche Leben…

Sieben Regeln für den Erfolg in der Retail-Revolution

Der Einzelhandel befindet sich derzeit in einer Umbruchphase, bei der die Gewinner und Verlierer noch nicht feststehen. Einzelhändler sollten deswegen darauf achten, wie sie diese tiefgreifenden Veränderungen für sich nutzen können. dunnhumby, Anbieter von Datenanalysen, hat sieben Regeln aufgestellt, denen Einzelhändler im Moment folgen sollten, um aktuelle Herausforderungen zu meistern und zukünftige Erfolge zu garantieren.…

Diese fünf KI-Trends werden das Jahr 2020 prägen

Das Thema künstliche Intelligenz wird die Unternehmen auch im nächsten Jahr wieder beschäftigen. Die IntraFind Software AG, ein Search-Spezialist, der für seine Lösungen auch KI und modernste Machine-Learning-Verfahren nutzt, sieht dabei fünf zentrale Entwicklungen:   Echter Mehrwert von KI wird genutzt. Nach Jahren des KI-Hypes kehrt in das Thema nun langsam Vernunft ein. Immer mehr…