So können Unternehmen generative KI mit gutem Gewissen einsetzen

foto freepik

Generative KI bietet enorme Möglichkeiten, kommt aber nicht ohne Risiken ins Haus. Bei einem unbedarften Einsatz drohen Datenschutzverstöße und der Verlust von geistigem Eigentum. Experten zeigen auf, wie Unternehmen ChatGPT und Co. in vier Schritten unter Kontrolle bekommen.

 

Im Handumdrehen Content erstellen, Tabellenkalkulationen erzeugen und sogar Programmcode schreiben: Generative KI bietet immense Möglichkeiten beim Arbeiten und Weiterbilden. In praktisch jedem Unternehmen nutzen Mitarbeiter deshalb inzwischen Tools wie ChatGPT oder Bard.

So nachvollziehbar es ist, dass sich alle auf generative KI stürzen, so riskant ist es auch. Die Anbieter setzen nämlich nicht nur frei verfügbare Informationen dazu ein, ihre KI-Modelle zu trainieren und den Output ihrer Tools zu erzeugen, sondern auch die Eingaben der Nutzer. Persönliche Informationen oder geistiges Eigentum könnten so den Weg in die Antworten andere Anwender finden.

Unternehmen sollten aber der Versuchung widerstehen, den Zugriff auf diese KI-Tools einfach zu sperren. Mitarbeiter können Sperren leicht umgehen, indem sie von außerhalb des Unternehmensnetzwerks darauf zugreifen. Was aber noch viel schwerwiegender ist: Unternehmen behindern dadurch ihre Belegschaft beim produktiven Arbeiten und sorgen für Frust.

Die bessere Strategie ist es, generative KI unter eigene Kontrolle zu bringen, indem Unternehmen die richtigen Einsatzziele adressieren, alle Mitarbeiter an Bord holen und einen geeigneten organisatorischen und technischen Rahmen schaffen. Der Sicherheitsanbieter Forcepoint erläutert, wie das in vier Schritten gelingt.

  1. Klare Geschäftsziele definieren.
    Unternehmen sollten gründlich evaluieren, welche konkrete Einsparungen ihnen generative KI ermöglicht und welchen handfesten Nutzen ihnen diese Technologie bringt. Daraus können sie dann ableiten, ob der Einsatz eventuell auf bestimmte Nutzergruppen wie Marketeers, Ingenieure oder Ärzte eingeschränkt werden sollte. Verständnis dafür, zu welchen Zwecken Mitarbeiter Zugriff auf KI-Tools benötigen, ist die Voraussetzung dafür, diese Tools im eigenen Sinne zu kontrollieren.
  2. Richtlinien festlegen und Mitarbeiter schulen.
    Unternehmen sollten Richtlinien aufsetzen, in denen sie festlegen, welche KI-Tools von wem genutzt werden dürfen und welche Aktionen dabei als riskant einzustufen sind. Solche Richtlinien ermöglichen es ihnen, den Umgang mit Daten zu regeln und zu überwachen. In Schulungen können sie ihre Mitarbeiter über die Risiken von generativer KI aufklären und für die Einhaltung der Richtlinien sensibilisieren.
  3. Datenzentrierte IT-Security einsetzen.
    Trotz umfassender Sensibilisierung kann es immer noch passieren, dass Mitarbeiter im Eifer des Arbeitsalltags versehentlich gegen die Richtlinien verstoßen. Ratsam ist es deshalb, IT-Sicherheitslösungen für Web und Cloud mit Data-Security-Lösungen zu kombinieren. So stellen Unternehmen sicher, dass ihre Mitarbeiter keine unerwünschten KI-Anwendungen einsetzen und automatisch gewarnt werden, wenn sie im Begriff sind, sensible Informationen in Eingabeaufforderungen, sogenannte Prompts, einzugeben oder in die KI-Tools hochzuladen.
  4. Von der Community lernen.
    Wenn sich Unternehmen in Allianzen und Konsortien der KI-Community engagieren, kann ihnen das wertvolle Best Practices für ihre eigenen Initiativen und Governance-Standards sowie für eine verantwortungsvolle Interoperabilität von KI-Systemen liefern. Durch die Zusammenarbeit mit anderen Organisationen steht ihnen ein kollektives Know-how offen, das ihnen dabei hilft, generative KI umsichtig und effizient zu nutzen.

 

»Generative KI bringt einige Herausforderungen mit sich«, erklärt Frank Limberger, Data & Insider Threat Security Specialist bei Forcepoint. »Aber mit den richtigen Maßnahmen für Risikomanagement und Datensicherheit können Unternehmen sie ruhigen Gewissens einsetzen und das transformative Potenzial dieser Technologie voll ausschöpfen.«

 


 

Risiken bei generativer KI

 

Generative KI, bekannt als künstliche Intelligenz, die selbstständig Inhalte erzeugen kann, ist eine der spannendsten und disruptivsten Technologien der Gegenwart. Ob es sich um Texte, Bilder, Musik oder Videos handelt, generative KI kann kreative und originelle Werke schaffen, die oft von menschlichen Werken kaum zu unterscheiden sind. Doch wie bei jeder neuen Technologie gibt es auch bei generativer KI Herausforderungen und Risiken, die Unternehmen beachten müssen, bevor sie sie einsetzen.

Zum einen ist der Datenschutz ein wichtiges Thema. Generative KI basiert auf großen Datenmengen, die oft aus öffentlichen oder privaten Quellen stammen. Diese Daten können sensible oder persönliche Informationen enthalten, die geschützt werden müssen. Wenn Unternehmen generative KI nutzen, müssen sie sicherstellen, dass sie die geltenden Datenschutzgesetze einhalten und die Einwilligung der betroffenen Personen einholen. Außerdem müssen sie transparent sein über die Herkunft und Verwendung der Daten und die Möglichkeit bieten, diese zu korrigieren oder zu löschen.

Zum anderen ist der Schutz des geistigen Eigentums eine weitere Herausforderung. Generative KI kann bestehende Werke imitieren oder modifizieren, was zu Urheberrechtsverletzungen führen kann. Auch die Frage, wem das Urheberrecht an den von generativer KI erzeugten Werken zusteht, ist noch nicht eindeutig geklärt. Unternehmen müssen daher vorsichtig sein, wenn sie generative KI nutzen, um keine Rechte Dritter zu verletzen oder ihre eigenen Rechte zu verlieren. Sie sollten auch klare Vereinbarungen mit den Anbietern von generativer KI treffen, um ihre Haftung und Verantwortung zu regeln.

Wie können Unternehmen also generative KI sicher und effektiv nutzen? Ein erster Schritt ist, sich über die Möglichkeiten und Grenzen dieser Technologie zu informieren und sich mit den rechtlichen und ethischen Aspekten auseinanderzusetzen. Ein zweiter Schritt ist, eine Strategie zu entwickeln, wie generative KI in das eigene Geschäftsmodell integriert werden kann, um Mehrwert zu schaffen und Wettbewerbsvorteile zu erzielen. Ein dritter Schritt ist, geeignete Werkzeuge und Plattformen auszuwählen, die qualitativ hochwertige Ergebnisse liefern und gleichzeitig Sicherheit und Kontrolle gewährleisten.

 

Wie können Unternehmen generative KI unter Kontrolle bekommen?

Es gibt keine einfache Antwort auf diese Frage, aber einige wichtige Schritte, die zu beachten sind. Erstens müssen Unternehmen sich bewusst sein, welche Art von generativer KI sie einsetzen wollen und welche Ziele sie damit verfolgen. Nicht jede Anwendung erfordert die gleiche Qualität oder Ethik der generierten Inhalte. Zweitens müssen Unternehmen sich an die rechtlichen Rahmenbedingungen halten und sicherstellen, dass sie die Rechte und Interessen aller Beteiligten respektieren. Dazu gehört auch, die Herkunft und Authentizität der generierten Inhalte transparent zu machen und mögliche Fehlinformationen oder Schäden zu vermeiden. Drittens müssen Unternehmen sich mit den technischen Herausforderungen auseinandersetzen, die generative KI mit sich bringt. Dazu gehört auch, die Sicherheit und Zuverlässigkeit der Systeme zu gewährleisten und mögliche Angriffe oder Fehler zu erkennen und zu beheben.

Generative KI ist eine faszinierende und vielversprechende Technologie, die aber auch mit Vorsicht und Vertrauen genutzt werden muss. Nur so können Unternehmen das volle Potenzial von generativer KI ausschöpfen und gleichzeitig die Risiken minimieren.

Genki Absmeier

 

1445 Artikel zu „KI Risiken Vorteil“

Generative KI: mehr Vorteile als Risiken

Die Risiken generativer künstlicher Intelligenz – wie Verletzungen des Urheberrechts oder der Cybersicherheit – sind offenkundig. Dennoch glauben international drei von vier Manager, dass ihre Vorteile größer sind als die damit verbundenen Probleme; in Deutschland sagen dies gut zwei Drittel. Nahezu alle Führungskräfte (96 Prozent international, 99 Prozent in Deutschland) stellen fest, dass generative KI…

Alte Fehler nicht wiederholen: Von der Schatten-IT zur Schatten-KI?

Das Potenzial generativer KI hat einen wahren Goldrausch ausgelöst, den niemand verpassen will. Das zeigt eine Studie von Censuswide im Auftrag von Cohesity, einem Anbieter für KI-gestütztes Datenmanagement und -sicherheit [1]. So setzen bereits 86 Prozent von 903 befragten Firmen generative KI-Technologien ein. Welche Herausforderungen diese Entwicklung mit sich bringt und warum Unternehmen trotz aller…

Sechs KI-Trends, die jede IT-Führungskraft im Blick haben sollte

Generative künstliche Intelligenz (KI) hat bereits zu radikalen Veränderungen geführt – und dies war erst der Anfang. In Zukunft sollten IT-Führungskräfte insbesondere die Chancen und Herausforderungen priorisieren, die durch generative KI entstehen – angefangen bei der Art und Weise, wie wir arbeiten, bis hin zur Bewertung von Talenten und der Interaktion mit Kunden.   KI…

So nutzen Unternehmen SAP für ihre Transformation – Change is King

Immer mehr Unternehmen treiben den tiefgreifenden Wandel ihrer IT-Systeme hin zu cloud-basierten Architekturen voran. Dabei steigt die Komplexität, wenn SAP-Lösungen im Spiel sind. Wie IT-Verantwortliche bei der Transformation erfolgversprechend vorgehen und dabei das volle Potenzial aus ihren SAP-Systemen herausholen – das hat Basis Technologies in einer aktuellen Studie untersucht.

GenAI im Unternehmenseinsatz – Wenn die KI anklopft

Die Begeisterung über das Potenzial der generativen KI ist ungebrochen. Von Start-ups über Mittelständler bis hin zu Großkonzernen – viele denken derzeit über den Einsatz von GenAI-Tools nach. Die Unternehmen erhoffen sich von der Automatisierung und der damit verbundenen Effizienzsteigerung spürbare Vorteile, jedoch  birgt die Umsetzung von KI-Projekten auch einige Risiken und Herausforderungen.

Kostentreiber KI: Strategie-Tipps zur Leistungs- und Kostenoptimierung

Unternehmen nutzen vermehrt künstliche Intelligenz zur Optimierung ihrer operativen Effizienz und Produktinnovation. Eine aktuelle Umfrage des Beratungsunternehmens McKinsey zeigt, dass 40 Prozent der befragten Unternehmen aufgrund der rapiden Fortschritte im Bereich der generativen KI ihre Investitionen in KI-Technologien generell erhöhen wollen [1].   Ein Nachteil des zunehmenden Einsatzes ist jedoch, dass KI – insbesondere generative…

KI-gestützte Cybersicherheit bringt Automatisierung, Geschwindigkeit und Skalierbarkeit

KI-gestützte Angriffe werden von deutschen Unternehmen als größte Cyberbedrohung für dieses Jahr angesehen. Die Software-Bewertungsplattform Capterra untersuchte, in welchen Bereichen Unternehmen KI-gestützte Systeme nutzen, um sich vor Angriffen zu schützen und welche Vorteile und Herausforderungen ihnen begegnen [1]. Im Rahmen der Umfrage wurden 670 Teilnehmer befragt, die an den Cybersicherheitsmaßnahmen ihres Unternehmens beteiligt sind und…

Die kritische Rolle der Datenintegrität bei Nutzung generativer KI

Die Anwendung von KI in Unternehmen wird immer populärer. Diese Entwicklung deutet darauf hin, dass Führungskräfte von Unternehmen mehr denn je die Daten, die in ihrem Unternehmen fließen, bewerten müssen, da sich dies direkt auf den Erfolg von KI-Tools auswirkt. Dabei ist es wichtig, die entscheidende Rolle der Datenintegrität – und damit auch der Datenanreicherung…

Generative KI hat enorme Auswirkungen auf Softwareentwicklung und Softwaresicherheit

Seit der Veröffentlichung von ChatGPT im November 2022 arbeitet die Technologiebranche daran, solche auf annähernd menschlichem Level funktionierenden Konversationsschnittstellen zu etablieren und praktisch zu nutzen. Fast jedes größere Unternehmen verbindet heute seine interne oder produktbezogene Dokumentation mit einem großen Sprachmodell, sogenannten »Large Language Models« oder kurz LLMs, um Fragen möglichst schnell zu beantworten. Gleichzeitig kommen…

Mit generativer KI den Produktivitätsbooster einschalten

Generative KI (GenAI) hat das Potenzial, einen jährlichen Produktivitätszuwachs von 2,6 bis 4,4 Billionen US-Dollar zu ermöglichen – Umsatzwachstum durch GenAI für Finanzdienstleistungen, High-Tech, Medien und Biowissenschaften im Branchenvergleich am größten – Steigerung der Arbeitsproduktivität um 0,1 bis 0,6 % pro Jahr möglich. Mit fortschreitender Entwicklung von generativer Künstlicher Intelligenz (GenAI) ergeben sich enorme Potenziale…

Europäische KI-Verordnung: Balance zwischen Innovation und Sicherheit

AI Act: TÜV-Verband begrüßt Zustimmung des Rats. Risikobasierter Ansatz fördert Sicherheit und Vertrauen insbesondere in hockriskante KI-Systeme. Allzweck-KI muss verpflichtende Mindestanforderungen erfüllen. Offene Umsetzungsfragen müssen schnell geklärt werden. TÜV-Organisationen bereiten sich mit dem TÜV AI.Lab auf Umsetzung vor.   Der TÜV-Verband begrüßt die am 2. Februar erfolgte Zustimmung des Rats zur europäischen KI-Verordnung (AI Act),…

Expertenstatements KI-Trends 2024: KI wird unser Leben verändern

Cyberkriminelle mögen zweckmäßige künstliche Intelligenz Martin Zugec, Technical Solutions Director bei Bitdefender   In einer Phase intensiver technologischer Innovationen und angesichts eines schnellen Flusses auch schnell wieder verschwindender Ansätze wird sich die KI weiter turbulent entwickeln. Dennoch lassen sich für 2024 schon einige Trends erkennen. Ganz wichtig ist: KI wird auch Cyberkriminelle in ihren alltäglichen…

IT-Trends 2024: Zwischen alten Risiken und neuen Chancen

»IT doesn’t matter« – so lautete die Überschrift eines Artikels des US-amerikanischen Wirtschaftsjournalisten Nicholas Carr im Jahr 2003. Gemeint war: IT sei ein Standardprodukt, das zwar Kosteneinsparungen bringe, aber keine Investition in die strategische Differenzierung sowie die Wettbewerbs- und Innovationsfähigkeit von Unternehmen ist. Aus heutiger Sicht eine komplette Fehleinschätzung. Aber das ist immer die Gefahr…

Ethische künstliche Intelligenz (KI) entwickeln: Chancen und Herausforderungen für Unternehmen

Unternehmen nutzen immer häufiger KI-Modelle, die ihre Mitarbeiter unterstützen und entlasten. Doch wie lässt sich sicherstellen, dass diese Modelle unvoreingenommen gegenüber Merkmalen wie Geschlecht, Rasse, Religion und vielen weiteren Kriterien sind? Unternehmen wie Infosys haben Rahmenwerke entwickelt, in denen das Thema verantwortungsvolle KI einen großen Stellenwert einnimmt – und Unternehmen dabei unterstützt, ethische KI-Modelle zu…

Diese fünf Trends werden das KI-Jahr 2024 prägen

Das Jahr 2024 wird ganz im Zeichen generativer KI stehen. Welche Entwicklungen sind dabei im Einzelnen zu erwarten?   2023 war das Jahr der generativen KI. Die großen Sprachmodelle, die hinter populären Anwendungen wie ChatGPT stehen, haben die Leistungsfähigkeit von künstlicher Intelligenz bei Textverständnis und Texterstellung auf ein ganz neues Niveau gehoben. Nachdem Unternehmen sich…