Unternehmen fordern freiwillig gesetzliche Regeln für künstliche Intelligenz

Anzeige

+++ Große Mehrheit fordert Klärung von Haftungsfragen und klare Kennzeichnung.

+++ Nur jedes zehnte Unternehmen setzt KI bisher ein.

+++ Wirtschaft erwartet starke Auswirkungen auf den Arbeitsmarkt.

+++ TÜV-Verband stellt Studie zu künstlicher Intelligenz vor.

 

Die deutschen Unternehmen stehen künstlicher Intelligenz sehr positiv gegenüber und erhoffen sich durch die Nutzung der Technologie entscheidende Wettbewerbsvorteile. Gleichzeitig befürwortet eine große Mehrheit gesetzliche Vorgaben für den Einsatz künstlicher Intelligenz: Neun von zehn Unternehmen (90 Prozent) fordern gesetzliche Regelungen, um Haftungsfragen zu klären. 87 Prozent sind der Meinung, dass KI-Anwendungen in Abhängigkeit von ihrem Risiko reguliert werden sollten. Und 84 Prozent wünschen sich, dass Produkte und Anwendungen mit künstlicher Intelligenz für die Nutzer klar gekennzeichnet werden. Das hat eine repräsentative Studie ergeben, für die im Auftrag des TÜV-Verbands 500 Unternehmen ab 50 Mitarbeiter:innen befragt wurden [1].

„Künstliche Intelligenz ist eine Schlüsseltechnologie der Digitalisierung mit enormen Chancen, die aber einen gesetzlichen Rahmen braucht“, sagte Dr. Dirk Stenkamp, Präsident des TÜV-Verbands (VdTÜV), bei Vorstellung der Studienergebnisse in Berlin. „KI-Anwendungen sollten bestimmte Sicherheitsanforderungen erfüllen, wenn bei ihrer Nutzung die Gesundheit von Menschen oder ihre elementaren Grundrechte wie Privatsphäre oder Gleichberechtigung in Gefahr sind.“ Risiken bestünden zum Beispiel bei automatisierten Fahrzeugen, medizinischen Diagnosen oder der Personalauswahl. Stenkamp: „Nur mit klaren gesetzlichen Vorgaben können wir Vertrauen in künstliche Intelligenz schaffen und eine breite Nutzung ermöglichen.“

Laut den Studienergebnissen nutzen derzeit erst 11 Prozent der Unternehmen KI-Anwendungen. Weitere 4 Prozent planen die Nutzung und 15 Prozent diskutieren darüber. Als Hemmnisse für eine (stärkere) Nutzung nennen die Befragten neben fehlenden Anwendungen (50 Prozent) unter anderem rechtliche Unsicherheiten (42 Prozent), Sorge vor Datenschutzproblemen (41 Prozent), einen Mangel an Know-how bzw. Fachkräften (41 Prozent) oder auch Sicherheitsbedenken (27 Prozent). Stenkamp: „Gerade der Mittelstand traut sich an künstliche Intelligenz noch nicht ran. Vielen Unternehmen fehlt es an Know-how, was zu Unsicherheiten beim Einsatz der Technologie führt.“

Laut Umfrage empfinden 82 Prozent der befragten Geschäftsführer und IT-Verantwortlichen etwas Positives oder sehr Positives, wenn sie an künstliche Intelligenz denken. Eine große Mehrheit (78 Prozent) ist außerdem davon überzeugt, dass ihnen der KI-Einsatz entscheidende Wettbewerbsvorteile verschaffen kann. Unter den KI-Nutzern setzt gut jedes dritte Unternehmen (35 Prozent) die Technologie für innerbetriebliche Zwecke ein. 29 Prozent nutzen KI in ihren Produkten und Dienstleistungen, um diese mit zusätzlichen Funktionen auszustatten oder in anderer Form zu verbessern. 23 Prozent machen beides.

„Die Anwendungsgebiete von KI-Systemen sind sehr vielfältig und ziehen sich durch sämtliche Unternehmensbereiche“, sagte Stenkamp. So verwenden 45 Prozent der KI-Nutzer die Technologie in der IT (z.B. im Netzwerkmanagement), 39 Prozent im Kundenservice (z.B. als Chatbots), 30 Prozent im Marketing (z.B. für Hypertargeting), 27 Prozent in der Produktion (z.B. Roboter und Cobots) oder 22 Prozent in der Entwicklung (z.B. für Simulationen).

Wenn es um die Nutzung der Technologie geht, wünschen sich Unternehmen mehr Orientierung für ihr Business. „KI-Systeme sind häufig eine Art Blackbox, deren Entscheidungen die Nutzer nicht nachvollziehen können“, sagte Stenkamp. Daher würden es mehr als vier von fünf Unternehmen befürworten (84 Prozent), wenn die Zuverlässigkeit einer KI von unabhängigen Experten bestätigt würde. Bei der Anschaffung eines KI-Systems würden 86 Prozent ein Produkt bevorzugen, das über ein neutrales Prüfzeichen verfügt. Und 85 Prozent fordern, dass die Sicherheit von KI-Anwendungen von herstellerunabhängigen Stellen geprüft wird.

Unternehmen erwarten strukturelle Veränderungen durch künstliche Intelligenz

Die befragten Unternehmen rechnen damit, dass der breite Einsatz von künstlicher Intelligenz zu strukturellen Umbrüchen führen wird: 80 Prozent erwarten große oder sehr große Veränderungen in der Wirtschaft insgesamt, 40 Prozent in ihrer Branche und 31 Prozent in ihrem eigenen Unternehmen. Vor allem die Arbeitswelt könnte künstliche Intelligenz revolutionieren: 77 Prozent der Unternehmen sind der Meinung, dass sich Jobprofile und berufliche Tätigkeiten durch den Einsatz von KI stark verändern werden. Vier von fünf Befragten (80 Prozent) erwarten, dass KI-Systeme die meisten Routineaufgaben übernehmen werden. Gleichzeitig glauben fast ebenso viele (78 Prozent), dass KI-Anwendungen den Menschen in der Regel nicht ersetzen, sondern ihn unterstützen werden. „Fast alle Unternehmen sind der Meinung, dass die Beschäftigten lernen müssen, mit KI-Anwendungen umzugehen“, sagte Stenkamp. „Entsprechend groß ist der Weiterbildungsbedarf.“

Eine knappe Mehrheit der befragten Unternehmen erwartet (52 Prozent), dass der Einsatz von KI zum Abbau sehr vieler Arbeitsplätze führen wird. Auf der anderen Seite gehen 45 Prozent davon aus, dass die Technologie viele neue Jobs schaffen wird. Stenkamp: „Eine breite Anwendung von künstlicher Intelligenz wird einen Strukturwandel auslösen, den Wirtschaft, Politik, Gewerkschaften und andere gemeinsam gestalten müssen.“

Aus Sicht der Prüforganisationen sind gesetzliche Vorgaben für künstliche Intelligenz notwendig, um die Technologie sicherer zu machen und ihr damit zum Durchbruch zu verhelfen.

 

Die Empfehlungen des TÜV-Verbands im Überblick:

  • Europäischen Rechtsrahmen KI-tauglich machen: Der Gesetzgeber sollte grundlegende Anforderungen an KI-gestützte Anwendungen in Bezug auf Kriterien wie körperliche Unversehrtheit, Gleichberechtigung, Privatsphäre oder IT-Sicherheit sowohl übergreifend als auch sektorspezifisch formulieren.
  • KI-Systeme nach Risikoklassen regulieren: Nicht jede KI muss die gleichen Anforderungen erfüllen. So ist eine E-Mail-Spam-Erkennung anders zu behandeln als ein autonomes Fahrzeug. Für die Einteilung in Risikoklassen müssen eindeutige Kriterien definiert werden.
  • Unabhängige Prüfungen bei sicherheitsrelevanter KI: Bei risikobehafteten KI-Systemen sollte eine unabhängige Konformitätsbewertung erfolgen. So wird überprüft, ob KI-Anwendungen die gesetzlichen Anforderungen erfüllen und in der Nutzung sicher sind.
  • Prüfmethoden weiterentwickeln: Die Methoden der Konformitätsbewertung müssen mit der technologischen Entwicklung Schritt halten. Dafür müssen zum Teil völlig neue Verfahren und Methoden entwickelt werden. Die Prüforganisationen leisten hier ihren Beitrag, brauchen dafür aber auch Unterstützung aus der Wissenschaft und der Politik.
  • Datenstrategie gestalten: Die Verfügbarkeit und Qualität von Daten spielen für den Erfolg von künstlicher Intelligenz eine herausragende Rolle. Eine zielführende KI-Regulierung setzt daher eine nationale und eine europäische Datenstrategie voraus.
  • Trainingsdaten berücksichtigen: KI-Anwendungen sind lernende Systeme, deren Funktionen und Wirkungen von der Menge und Qualität ihrer Trainingsdaten abhängig sind. Der Zugang zu Trainingsdaten muss in den Datenstrategien geregelt werden.

 

„Mit dem ‚Weißbuch KI‘ der EU-Kommission sowie den Ergebnissen der Datenethikkommission und der Enquete-Kommission künstliche Intelligenz liegen fundierte Analysen und Vorschläge auf dem Tisch“, sagte Stenkamp. „Jetzt muss es an die Umsetzung gehen.“

 

Die vollständigen Ergebnisse der Studie und weitere Informationen sind hier abrufbar.

https://www.vdtuev.de/dok_view?oid=818288

 

 

[1] Methodik-Hinweis: Grundlage der Studienergebnisse ist eine repräsentative Umfrage des Marktforschungsinstituts Ipsos im Auftrag des TÜV-Verbands unter 500 Unternehmen ab 50 Mitarbeitenden in Deutschland. Befragt wurden Geschäftsführer und IT-Verantwortliche.
Über den TÜV-Verband: Der Verband der TÜV e. V. (VdTÜV) vertritt die politischen und fachlichen Interessen seiner Mitglieder gegenüber Politik, Verwaltung, Wirtschaft und Öffentlichkeit. Der Verband setzt sich für technische und digitale Sicherheit bei Produkten, Anlagen und Dienstleistungen durch unabhängige Prüfungen und qualifizierte Weiterbildung ein. Mit seinen Mitgliedern verfolgt der TÜV-Verband das Ziel, das hohe Niveau der technischen Sicherheit in unserer Gesellschaft zu wahren und Vertrauen für die digitale Welt zu schaffen.

 

1515 Artikel zu „KI Vertrauen“

KI ist nicht die Killer-Applikation bei Threat Intelligence 

An der Nutzung von Künstlicher Intelligenz führt auch beim Thema Cyber-Security kein Weg mehr vorbei. Intelligente Algorithmen helfen, Bedrohungen besser und schneller zu erkennen. NTT erklärt, welche Vorteile KI-basierte Systeme bei Threat Intelligence bieten und wo ihre Grenzen liegen.   Cyber-Angriffe sind in den letzten Jahren immer ausgefeilter, effektiver und schneller geworden. Um sich zur…

KI: Die Diskrepanz zwischen ethischem Handeln und Problembewusstsein

  Das Bewusstsein für ethische Fragestellungen beim Einsatz von Künstlicher Intelligenz (KI) ist in Unternehmen und Verwaltungen gestiegen. Dennoch fällt die diesjährige Erfolgsbilanz gemischt aus, da nur in Teilbereichen Verbesserungen erzielt wurden. Ein Grund: Nur 53 Prozent der Organisationen verfügen über eine Führungskraft, die für ethische und vertrauenswürdige KI-Systeme verantwortlich ist. Zugleich sind im Vergleich…

KI für Kundendienst, Verkauf und Sicherheit

Rund 50 Milliarden US-Dollar Umsatz werden 2020 laut einer IDC-Schätzung mit Anwendungen für künstliche Intelligenz (KI) erwirtschaftet. Wie die Statista-Grafik zeigt soll sich das Marktvolumen bis 2024 mehr als verdoppeln. »Unternehmen werden KI einführen – nicht nur, weil sie es können, sondern weil sie es müssen«, so Ritu Jyoti von IDC. Und weiter: »KI ist…

Datensicherheit und Datenschutz: Das Vertrauen im Kundenservice gewinnen

Wie Unternehmen mit den Daten ihrer Kunden umgehen, bewerten Verbraucher in einer aktuellen Umfrage von Genesys. Aus dieser lässt sich klar herauslesen: Big Data und künstliche Intelligenz haben in den Contact Centern nur Erfolg, wenn der Mensch der Technik hinsichtlich Datensicherheit und Privatsphäre vertraut. Darin liegt eine Chance.   Nach dem langen Corona-Lockdown beginnen viele…

Wertstromkinematik: Flexibles Produktionssystem für Variantenvielfalt

Vom Sportschuh bis zur Autoausstattung wünschen sich Kundinnen und Kunden immer individueller gestaltete Produkte. Industrie- und Konsumgüter mit hohem Individualisierungsgrad und Qualitätsanspruch in entsprechend kleineren Stückzahlen wirtschaftlich und konkurrenzfähig herzustellen, erfordert geeignete Fertigungsprozesse. Forscherinnen und Forscher des Karlsruher Instituts für Technologie (KIT) entwickeln gemeinsam mit Industriepartnern ein neuartiges Produktionsplanungssystem, das die hohe Produktivität und Genauigkeit…

Abläufe verbessern und automatisieren – Wie Unternehmen mit KI ihre Geschäftsprozesse erfolgreich optimieren

Künstliche Intelligenz bietet zweifellos eine ganze Reihe von Optionen, um Geschäftsprozesse zu optimieren, von der Kundenbetreuung mittels Chat-Bots bis zur Steuerung mobiler Roboter. Doch wer KI einsetzen will, sollte nicht nur die passende technische Lösung im Blick haben. Vielmehr gilt es, auch den Menschen einzubinden, also Mitarbeiter, Kunden und Partner.

KI im Mittelstand: Die 5 größten Herausforderungen

Eine Technologie auf dem Vormarsch: Künstliche Intelligenz (KI) wird in technologienahen Umgebungen wie der IT oder der industriellen Fertigung bereits seit geraumer Zeit vielfältig eingesetzt. Doch durch die enorme Leistungsfähigkeit heutiger KI-Lösungen erschließen sich zunehmend auch in anderen Wirtschaftsbereichen weitere Anwendungsmöglichkeiten.   Gerade in den vergangenen Monaten stellten viele Unternehmen fest: KI und Automatisierung können…

5 Gründe, warum Partner PKI-Lösungen in Betracht ziehen sollten

In einer Zeit wo der Trend zum Remote Working unvermindert anhält, sorgen PKI-Lösungen für mehr Sicherheit in Unternehmen. Wer nicht ohnehin schon erwogen hat PKI-Lösungen (Public Key Infrastructure) in sein Portfolio aufzunehmen, sollte jetzt definitiv darüber nachdenken. Laut einem Bericht von »MarketsandMarkets« von 2019 wird der weltweite Markt für Verschlüsselungssoftware bis 2024 von 7,5 Milliarden…

KI-Strategie für Unternehmen: In acht Schritten zur digitalen Transformation

Verband der Internetwirtschaft fordert frühzeitige Verteilung geplanter KI-Milliarden. Nur ein Digitalministerium kann einer übergreifenden KI-Strategie gerecht werden. KI-Studie beschreibt acht Dimensionen zum Digital Shift.   Künstliche Intelligenz ist für das künftige Wachstum der deutschen Wirtschaft ein wichtiger Faktor. Dies zeigt auch die gemeinsame Studie des Verbands der Internetwirtschaft und der Unternehmensberatung Arthur D. Little, unterstützt…

Verlust von Kundenvertrauen und Markenwert während der Covid-19-Krise

Studie deckt Lücken in vorhandenen Systemen, negative Konsequenzen von Kommunikationsfehlern und die verstärkte Notwendigkeit zur digitalen Transformation auf.   Mehr als zwei Drittel der Entscheidungsträger räumen den Verlust von Kundenvertrauen und negative Auswirkungen auf den Markenwert während der Covid-19-Krise ein. Grund dafür sind Kommunikationsfehler, das zeigt eine globale Untersuchung von Pegasystems [1]. Die vom Marktforscher…

Zero-Trust: Vertrauen Sie niemandem!

Sicherheitsstrategien zur Absicherung von Remote-Arbeitskräften auf Grundlage einer Zero-Trust-Sicherheits-Strategie. Die Belegschaft vieler Unternehmen arbeitet derzeit noch immer fast vollständig von Zuhause aus. Das hat gravierenden Einfluss auf die Sicherheitsstrategie eines Unternehmens, da die Mitarbeiter nun nicht mehr geschützt durch die Unternehmenssicherheit Zugang zu verschiedenen internen Unternehmensressourcen haben. Für Unternehmen ist es jetzt besonders wichtig ihre…

Datenschutz und Covid-19-Tracking – ein Widerspruch?

Covid-19 bringt die Diskussionen um Datenschutz an einen entscheidenden Punkt, der unseren Umgang mit sensiblen Daten langfristig beeinflussen wird. Auf der einen Seite ist Datenschutz ein entscheidender Faktor für das Vertrauen der Menschen in ein Unternehmen. Auf der anderen Seite merken wir gerade, dass Datenschutz uns in einer Form die Hände bindet, wie wir es…

Software Defined Networking macht Unternehmen fit für die Digitalisierung

Die Digitalisierung stellt die IT-Infrastrukturen vieler Unternehmen zunehmend vor Herausforderungen, denn: Die hohen Anforderungen an Agilität, Sicherheit und Skalierung können die meist historisch gewachsenen Infrastrukturen oft nicht mehr erfüllen. Der Veränderungsdruck auf die IT ist groß, insbesondere bei den Netzwerkinfrastrukturen. Eine Lösung ist Software Defined Networking (SDN). Damit verfügen Unternehmen nicht nur in Krisensituationen über…

Datenschutz beim Website-Tracking

Das Tracking des Surfverhaltens gehört zum Alltag der Internetnutzung. Unternehmen verwenden es beispielsweise, um Werbeanzeigen auf die persönlichen Belange der potenziellen Kunden zuzuschneiden oder ihre Reichweite zu messen. Viele Anbieter von Trackingdiensten werben mit sicherem Datenschutz, indem sie die Datensätze generalisieren und so anonymisieren. Wie sicher dieses Verfahren ist, haben Informatikerinnen und Informatiker des Karlsruher…

KI in deutschen Unternehmen – Durchstarten ist angesagt

Welche neuen Entwicklungen helfen Unternehmen, KI erfolgreich einzuführen? Über kein Thema wurde in den vergangenen Monaten so viel diskutiert wie Künstliche Intelligenz. Doch was davon tatsächlich in deutschen Unternehmen umgesetzt wird, steht auf einem anderen Blatt Papier. Selbst deutsche Schlüsselindustrien wie der Maschinenbau adaptieren die neue Technologie nur schleppend. So zeigt eine Umfrage des Vereins…

Datenschutz: Deutsche vertrauen Hausbank am meisten

Deutsche Verbraucher vertrauen ihrer eigenen Hausbank am meisten, wenn es um ihre Finanzdaten geht. 78 Prozent würden auch am ehesten ihrer Bank erlauben, die eigenen Kontodaten gezielt auszuwerten. Mit 68 Prozent liegen die gesetzlichen Krankenkassen auf dem zweiten Platz und damit noch vor staatlichen Stellen wie den Finanz- und Sozialbehörden. Schlecht schneiden Vergleichsportale und Smartphone-Banken…

Vier KI-Trends für das neue Jahrzehnt

In den 90er Jahren kamen Heimcomputer groß raus, in den sogenannten Nullerjahren setzte sich das Internet flächendeckend durch und im letzten Jahrzehnt waren Smart Devices »das Ding«. Verschiedene Dekaden haben prägende Technologien hervorgebracht, die Wirtschaft und Gesellschaft nachhaltig beeinflussen. In den 20er Jahren des aktuellen Jahrhunderts wird künstliche Intelligenz mindestens eine davon sein – vermutlich…