Emerging tech, emerging concerns: Vertrauen gegenüber Generative AI schwindet

foto freepik ki-generiert

Im letzten Jahr zeigten sich deutsche Unternehmen wenig beeindruckt von den Sicherheitsrisiken von ChatGPT und Co. Sie vertrauten den vielversprechenden Generative-AI-Anwendungen und ihren Vorteilen bedingungslos. Nun legen die Ergebnisse einer aktuellen Gigamon-Studie  jedoch nahe, dass die Skepsis gegenüber diesen Tools in den vergangenen zwölf Monaten zugenommen hat [1].

Es sind nun mehrere Jahre vergangen, seit ChatGPT den Hype um Generative AI und einen Tsunami an neuen KI-Tools ausgelöst hat. Viele Unternehmen stellten sich im Zuge dessen die Frage, wie sicher und vertrauenswürdig die Technologie überhaupt ist. Schließlich wird sie – ähnlich wie Instant Messaging und Social Media Apps – im öffentlichen Diskurs besonders in Sachen Sicherheit eher kritisch hinterfragt. Gigamon, Experte im Bereich Deep Observability, hat auch in diesem Jahr wieder 150 deutsche CIO/CISOs zu diesem Thema befragt. Sie beantworteten dabei Fragen rund um das Thema Sicherheit moderner Technologien und Umgang mit Risiken. Im Vergleich zur letztjährigen Untersuchung lassen die aktuellen Ergebnisse eine deutliche Veränderung in der Wahrnehmung vermuten [2].

 

180-Grad-Wende: Kritischerer Blick auf GenAI-Tools

Laut der Gigamon-Studie von 2023 stand die Mehrheit der deutschen Unternehmen Generative AI im letzten Jahr noch optimistisch gegenüber [2]. 75 Prozent der befragten CIO/CISOs sahen keinen Grund, ChatGPT nicht zu nutzen. Der Rest hatte das Tool entweder bereits aus dem Unternehmen verbannt (fünf Prozent) oder beschäftigte sich mit den Risiken, um eine baldige Entscheidung zu treffen (20 Prozent). Mittlerweile hat diese Einstellung eine 180-Grad-Wende gemacht. Heute setzen deutlich weniger deutsche Unternehmen die Technologie bedenkenlos ein (31 Prozent). 25 Prozent haben die Initiative ergriffen und ChatGPT und Google Gemini abgeschafft (25 Prozent); 44 Prozent werten die möglichen Sicherheitsrisiken derzeit noch aus. Somit scheint das Vertrauen in Generative AI im Laufe der letzten zwölf Monate abgenommen zu haben.

 

Vertrauen in Instant Messaging Apps steigt

Eine gänzlich andere Entwicklung ereilt WhatsApp. Im letzten Jahr stieß die Instant Messaging App auf mehrheitliche Ablehnung von Seiten der CIO/CISOs. Damals gaben 67 Prozent an, den Einsatz der Anwendung unterbunden zu haben. Kein einziges der befragten Unternehmen erlaubte WhatsApp innerhalb der geschäftlichen Grenzen. Aus der aktuellen Umfrage geht jedoch hervor, dass sich der Umgang mit der App gelockert hat. Nur noch 22 Prozent der CIO/CISOs haben sie aus Sicherheitsgründen verboten; 34 Prozent gaben an, dass sie keine Bedenken haben, wenn Mitarbeitende WhatsApp nutzen. Geht es um TikTok, hat sich die Lage ebenfalls geändert. Während die Kurzvideo-App 2023 bei zehn Prozent der Befragten nicht sonderlich positiv in deren Gunst stand, 89 Prozent potenzielle Sicherheitsrisiken prüften und nur ein Prozent kein Problem mit ihr hatte, ist der Standpunkt deutscher Unternehmen heute weniger eindeutig. Zwar verbieten mehr von ihnen die Nutzung von TikTok (47 Prozent), aber auch der Anteil derjenigen, die die App erlauben, ist um 23 Prozent gestiegen.

»Deutsche Unternehmen realisieren langsam, dass Generative AI nicht so harmlos ist wie viele von ihnen anfangs gedacht haben. Womöglich sind sie selbst Opfer einer Phishing-Attacke gewesen, bei der täuschend echt wirkende E-Mails generiert wurden oder sie haben andere Nachteile durch die Technologie erfahren. Jedenfalls nehmen mehr Unternehmen die Risiken ernst, die mit ChatGPT, Google Gemini und Co. einhergehen, stellen die Anwendungen eingehend auf den Prüfstand und entscheiden sich zunehmend gegen den bedenkenlosen Einsatz. Doch auch wenn Generative AI genauer unter die Lupe genommen wird, steigt interessanterweise die Akzeptanz anderer Anwendungen wie WhatsApp und TikTok, die bislang unter den wachsamen, skeptischen Augen von CIO/CISOs standen. Umso wichtiger ist es, die Sichtbarkeit der IT-Umgebung zu erhöhen, um möglichen Blind Spots entgegenzuwirken«, sagt Ali Moniri, Technical Lead EMEA bei Gigamon.

 

Unternehmen erkennen zunehmend die Bedeutung von Deep Observability

Die Umfrage zeigt außerdem, dass IT-Verantwortliche in Deutschland zunehmend die Bedeutung von Sichtbarkeit bis hinunter auf Netzwerkebene (Deep Observability) erkennen, um sich vor Bedrohungen zu schützen, die sich über Blind Spots einschleichen könnten. Im Vergleich zum Vorjahr haben viele unter ihnen die Transparenz ihrer Infrastrukturen gefördert. 55 Prozent der Befragten berichten von Sichtbarkeit, die von der Netzwerk- bis zur Anwendungsebene reicht (2023: 28 Prozent). 53 Prozent geben an, dass sie bessere Einblicke in den bislang stark vernachlässigten verschlüsselten Datenverkehr haben (2023: 21 Prozent). Diese Schritte haben dazu geführt, dass sich weniger CIO/CISOs um Blind Spots sorgen als zuvor (31 Prozent; 2023: 52 Prozent). Denn sie sind nun in der Lage, Schwachstellen und aktive Angriffe schneller zu erkennen und zu bekämpfen. Daher ist Deep Observability beim Einsatz von Technologien wie ChatGPT und WhatsApp, die sich als potenzielle Schlupflöcher herausstellen können, ein absolutes Must-have.

 

[1] Methodik: Hybrid-Cloud-Studie 2024: Die globale Studie wurde von Gigamon in Auftrag gegeben und vom 22. März bis 6. April 2024 von Vitreous World durchgeführt. An der Erhebung haben insgesamt 1033 CIO/CISO/CTO/CRO sowie andere Senior IT-Entscheider aus Deutschland (150), Großbritannien, Frankreich, den Vereinigten Staaten, Singapur und Australien teilgenommen.
[2] Methodik: Hybrid-Cloud-Studie 2023: Die globale Studie wurde von Gigamon in Auftrag gegeben und vom 19. April bis 2. Mai 2023 von Vitreous World durchgeführt. An der Erhebung haben insgesamt 1020 CIO/CISO sowie andere C-Level-Manager aus Deutschland (150), Großbritannien, Frankreich, den Vereinigten Staaten, Singapur und Australien teilgenommen.

 

2563 Artikel zu „Vertrauen KI“

PKI und Post-Quanten-Kryptographie: Wachsender Bedarf an digitalem Vertrauen

Der PKI & Digital Trust Report 2024 von Keyfactor verdeutlicht Herausforderungen im Bereich digitaler Identitäten und Hindernisse bei der Vorbereitung von Organisationen auf die Post-Quanten-Kryptografie.    Keyfactor, die Identity-first Security-Lösung für moderne Unternehmen, und Vanson Bourne geben die Ergebnisse des PKI & Digital Trust Report 2024 bekannt, für den weltweit 1.200 IT-Experten und -Führungskräfte (300…

KI-Studie 2024: Einblicke in Nutzung und Vertrauen in der Gesellschaft

Kein Thema ist heute so brandaktuell, aufregend und kontrovers wie künstliche Intelligenz. KI verändert Arbeitsprozesse grundlegend, daher ist es wichtig, Sichtweisen auf ChatGPT und Co. zu verstehen. Der von Evergreen Media in Zusammenarbeit mit SKOPOS GmbH & Co. KG erstellte Report »KI-Studie 2024: Nutzung & Vertrauen in der Gesellschaft« liefert spannende Einblicke in die Nutzung…

Umfrage offenbart mangelndes Vertrauen in KI am Arbeitsplatz

Führungskräfte und ihre Teams haben wenig Vertrauen in die verantwortungsbewusste Entwicklung und Nutzung von künstlicher Intelligenz.   Workday veröffentlicht eine globale Studie zu einem hochaktuellen Thema [1]. Sie zeigt, dass die Rolle von KI in der Arbeitswelt weitgehend kritisch gesehen wird. Management und Belegschaft sind sich einig darin, dass künstliche Intelligenz den Unternehmen enorme Transformationschancen…

Aufklärungsbedarf: Mehr als 80 Prozent der Befragten hat kein Vertrauen in KI-erstellte Inhalte

Künstliche Intelligenz wurde dieses Jahr an vielen Stellen zur Zukunft der Medienbranche erklärt, doch eine neue Umfrage von nextMedia.Hamburg zeigt, wie viel Arbeit noch geleistet werden muss, ehe KI –generierte Inhalte von den Konsumentinnen und Konsumenten angenommen werden.   Über 80 Prozent der Befragten geben an, dass sie nur geringes oder gar kein Vertrauen in…

KI und die Vertrauensfrage: Wie transparent muss Technologie sein?

Bei wichtigen Entscheidungen ist eine zweite Meinung oft hilfreich. Doch was, wenn diese zweite Meinung von einer künstlichen Intelligenz (KI) statt von einem Menschen stammt? Können wir Maschinen vertrauen?   Bei einer KI-basierten Produktempfehlung im Online-Shop eines Händlers mag die Antwort darauf noch egal sein. Versicherungen oder Banken hingegen sollten Erklärungen liefern, wenn ein Algorithmus…

Mehr als 460 Milliarden Dollar zusätzlicher Gewinn durch bessere Datenpraktiken, Vertrauen in künstliche Intelligenz (KI) und Geschäftsintegration

Gemeinsam besser: Studie zeigt, dass Unternehmen KI und Daten bündeln müssen, um einen strategischen Wert zu schaffen.   Nach der neuen Studie des Infosys Knowledge Institute, dem Thought-Leadership- und Forschungszweig von Infosys, können Unternehmen über 460 Milliarden US-Dollar an zusätzlichen Gewinnen erwirtschaften, wenn sie die drei nachfolgenden Dinge beherzigen: Datenpraktiken verbessern, auf künstliche Intelligenz (KI)…

Duzen oder siezen, loben oder schimpfen? So sprechen die Deutschen mit KI-Bots

Fast alle duzen die KI und 3 von 10 bedanken sich bei ihr. 6 Prozent haben ihren KI-Bot schon mal beleidigt – Männer häufiger als Frauen.   »Liebe KI, könnten Sie mir bitte darauf eine Antwort-Mail formulieren?« oder »Hey KI, fass mal den Text zusammen, und zwar schnell!«? Knapp die Hälfte (46 Prozent) der Deutschen…

Zero Trust gegen KI-basierte Cyberangriffe

Das Thema künstliche Intelligenz ist weiterhin omnipräsent. KI wird ein ähnliches Potenzial nachgesagt wie der Dampfmaschine oder dem elektrischen Strom. Auch der Bereich der Cybersicherheit wird durch KI umgekrempelt.   Insbesondere KI-basierte Angriffe und die beste Verteidigung dagegen stehen in vielen Diskussionen im Fokus. KI-basierte Angriffe sind sehr wahrscheinlich noch raffinierter, zielgerichteter und hartnäckiger als…

KI in Produktbeschreibungen schreckt Käufer ab

Forscher der Washington State University ermittelten, dass Produkte mit dem Begriff »KI« in der Beschreibung seltener gekauft werden. Kunden resonieren mit Nachhaltigkeit, Fair Trade und Inklusivität, nicht »Buzzwords« wie KI.   In einer Studie der Washington State University wurde ermittelt, dass Kundinnen und Kunden seltener Kaufentscheidungen bei Produkten treffen, die künstliche Intelligenz (KI) beinhalten. Die…

Viele KI-Projekte bleiben in den Startlöchern stecken

Unternehmen müssen die richtigen Anwendungsfälle identifizieren, die Datenqualität verbessern und experimentierfreudig sein.   Viele Unternehmen beschäftigen sich bereits mit generativer KI (Gen-AI) und versuchen, damit die Produktivität zu steigern und die Benutzererfahrung zu verbessern. Fast drei Viertel der Unternehmen haben laut Accenture künstliche Intelligenz zu ihrer obersten digitalen Investitionspriorität für 2024 gemacht [1]. Aber wenn…

Strategisches Playbook für die effektive Einführung von KI 

Boomi, das Unternehmen für intelligente Integration und Automatisierung, gab die Veröffentlichung eines neuen Berichts »A Playbook for Crafting AI Strategy« bekannt, der in Zusammenarbeit mit MIT Technology Review Insights erstellt wurde [1]. Diese umfassende Studie, die eine weltweite Umfrage unter Führungskräften aus der C-Suite und dem Bereich Daten sowie ausführliche Interviews mit Führungskräften aus der…

KI-Lösungen: Bewältigung der Herausforderungen bei Infrastrukturprojekten in Europa

Milliardenschwere Megaprojekte sind ein fester Bestandteil der dynamischen Landschaft Europas. Zu den sechzehn größten laufenden Bauprojekten der Welt gehören vier Megaprojekte in Europa, wie 1build, International Construction Magazine und Construction Review festgestellt haben. Der Wert dieser Projekte liegt zwischen 20 und 600 Milliarden USD (ca. 18,8 bis 564 Milliarden EUR).   Die Anzahl und der Umfang der…

Microsofts KI-Chef erklärt sämtliche Internet-Inhalte für frei

Was die 90er und KI gemein haben. Erstaunlich tief ließ ein kürzlich erschienenes Interview mit dem KI-Chef von Microsoft, Mustafa Suleyman, im Hinblick auf das weltweit geltende Recht blicken. Sinngemäß wurden hier sämtliche im Web frei verfügbaren Inhalte für kopierbar, reproduzierbar und weiter bearbeitbar erklärt. In einem Interview mit CNBC nahm Suleymann, der sich nach…

Zunehmender KI-Einsatz: 77 Prozent der Mitarbeitenden haben Datenschutzbedenken

Eine deutliche Mehrheit (77 Prozent) der Mitarbeitenden im deutschen Mittelstand sieht die Datensicherheit ihrer Unternehmen bedroht, sollten ihre Unternehmen zunehmend auf den Einsatz von künstlicher Intelligenz (KI) vertrauen. Bei Arbeitgebenden sind die Datenschutzbedenken bei immerhin 54 Prozent sehr groß bis extrem. Dies zeigt die aktuelle Studie »Status Quo, Bedarf und Zukunft der beruflichen Weiterbildung im…

Videotechnologie demonstriert den gelungenen Einsatz moderner KI

Künstliche Intelligenz (KI) scheint die Nachrichten zu dominieren, wie es nur wenigen anderen Technologien gelungen ist. Da das Bewusstsein für KI wächst, wird die Technologie immer genauer unter die Lupe genommen. Wie intelligent ist die Software? Stellt Sie womöglich gar eine potenzielle Bedrohung dar? Wie wird sie mit Menschen interagieren? Wird sie den Menschen im…

Leitfaden für KI und Datenschutz

Datenschutzverstöße gelten in der Wirtschaft als größtes Risiko beim KI-Einsatz. Bitkom veröffentlicht Praxisleitfaden zu künstliche Intelligenz und Datenschutz.   Viele Unternehmen zögern beim Einsatz von KI aus Angst, gegen den Datenschutz zu verstoßen. 70 Prozent aller Unternehmen und sogar 80 Prozent der Unternehmen, die KI nutzen, sehen in einer Bitkom-Umfrage Datenschutzverstöße als größtes Risiko beim…

KI hilft Betrügern: Deep-Fake-Videos zu Dieter Bohlens Ostheoarthritis

Urheber von Gesundheitsspam nutzen KI-Technologien für Social-Media-Kampagnen. Die Bitdefender Labs beobachten weltweite Kampagnen mit KI-generierten Deepfake-Videos und -Audios auf den Social-Media-Plattformen Facebook, Messenger und Instagram. Unter den angeblichen Fürsprechern für Behandlungsmethoden etwa rund um das Thema Knie und Gelenke befinden sich Prominente wie Dieter Bohlen, der bekannte Arzt Dr. Heinz Lüscher, Christiano Ronaldo, Brad Pitt,…

Voraussetzungen für den Einsatz von KI in der Produktion

Dank künstlicher Intelligenz können Industrieunternehmen effizienter und kostengünstiger produzieren, die Produktionsqualität erhöhen und Produktionsstörungen vermeiden – die Einsatzmöglichkeiten für smarte Anwendungen in der Branche sind nahezu unbegrenzt. Doch wollen Unternehmen tatsächlich das volle Potenzial von KI ausschöpfen, benötigen sie dafür geeignete IT-Infrastrukturen. Was müssen diese bieten und leisten?   KI ist das Herzstück der Smart…

Generative KI plus RAG: Warum sie Kontext braucht und woher sie ihn bekommt

Mit generativer künstlicher Intelligenz (KI) sollen menschliche Fähigkeiten erreicht oder gar übertroffen werden. Dafür braucht sie Kontext – wie wir Menschen auch. Warum das so ist und wie generative KI an Kontext gelangt, erläutert der Datenbankhersteller Aerospike.   Die menschliche Kommunikation ist komplex: Wir drücken uns über Wort, Tonfall und Körpersprache aus. Doch das ist noch…

KI und Zusammenarbeit: Chefs nicht fit für KI

Aktuelle Umfrage zum Einfluss der künstlichen Intelligenz auf die Arbeitskultur zeigt Zweifel an Zukunftsfähigkeit der Führungskräfte.   Ist die eigene Führungskraft auf die durch künstliche Intelligenz erwarteten Veränderungen gut vorbereitet? Die große Mehrheit der Beschäftigten zweifelt daran. Das ist das Ergebnis der repräsentativen Umfrage »KI und Arbeitskultur«, für die der Coachingausbilder InKonstellation 1.051 Berufstätige befragt…