foto freepik

Generative KI bietet enorme Möglichkeiten, kommt aber nicht ohne Risiken ins Haus. Bei einem unbedarften Einsatz drohen Datenschutzverstöße und der Verlust von geistigem Eigentum. Experten zeigen auf, wie Unternehmen ChatGPT und Co. in vier Schritten unter Kontrolle bekommen.

Im Handumdrehen Content erstellen, Tabellenkalkulationen erzeugen und sogar Programmcode schreiben: Generative KI bietet immense Möglichkeiten beim Arbeiten und Weiterbilden. In praktisch jedem Unternehmen nutzen Mitarbeiter deshalb inzwischen Tools wie ChatGPT oder Bard.

So nachvollziehbar es ist, dass sich alle auf generative KI stürzen, so riskant ist es auch. Die Anbieter setzen nämlich nicht nur frei verfügbare Informationen dazu ein, ihre KI-Modelle zu trainieren und den Output ihrer Tools zu erzeugen, sondern auch die Eingaben der Nutzer. Persönliche Informationen oder geistiges Eigentum könnten so den Weg in die Antworten andere Anwender finden.

Unternehmen sollten aber der Versuchung widerstehen, den Zugriff auf diese KI-Tools einfach zu sperren. Mitarbeiter können Sperren leicht umgehen, indem sie von außerhalb des Unternehmensnetzwerks darauf zugreifen. Was aber noch viel schwerwiegender ist: Unternehmen behindern dadurch ihre Belegschaft beim produktiven Arbeiten und sorgen für Frust.

Die bessere Strategie ist es, generative KI unter eigene Kontrolle zu bringen, indem Unternehmen die richtigen Einsatzziele adressieren, alle Mitarbeiter an Bord holen und einen geeigneten organisatorischen und technischen Rahmen schaffen. Der Sicherheitsanbieter Forcepoint erläutert, wie das in vier Schritten gelingt.

Klare Geschäftsziele definieren.
Unternehmen sollten gründlich evaluieren, welche konkrete Einsparungen ihnen generative KI ermöglicht und welchen handfesten Nutzen ihnen diese Technologie bringt. Daraus können sie dann ableiten, ob der Einsatz eventuell auf bestimmte Nutzergruppen wie Marketeers, Ingenieure oder Ärzte eingeschränkt werden sollte. Verständnis dafür, zu welchen Zwecken Mitarbeiter Zugriff auf KI-Tools benötigen, ist die Voraussetzung dafür, diese Tools im eigenen Sinne zu kontrollieren.
Richtlinien festlegen und Mitarbeiter schulen.
Unternehmen sollten Richtlinien aufsetzen, in denen sie festlegen, welche KI-Tools von wem genutzt werden dürfen und welche Aktionen dabei als riskant einzustufen sind. Solche Richtlinien ermöglichen es ihnen, den Umgang mit Daten zu regeln und zu überwachen. In Schulungen können sie ihre Mitarbeiter über die Risiken von generativer KI aufklären und für die Einhaltung der Richtlinien sensibilisieren.
Datenzentrierte IT-Security einsetzen.
Trotz umfassender Sensibilisierung kann es immer noch passieren, dass Mitarbeiter im Eifer des Arbeitsalltags versehentlich gegen die Richtlinien verstoßen. Ratsam ist es deshalb, IT-Sicherheitslösungen für Web und Cloud mit Data-Security-Lösungen zu kombinieren. So stellen Unternehmen sicher, dass ihre Mitarbeiter keine unerwünschten KI-Anwendungen einsetzen und automatisch gewarnt werden, wenn sie im Begriff sind, sensible Informationen in Eingabeaufforderungen, sogenannte Prompts, einzugeben oder in die KI-Tools hochzuladen.
Von der Community lernen.
Wenn sich Unternehmen in Allianzen und Konsortien der KI-Community engagieren, kann ihnen das wertvolle Best Practices für ihre eigenen Initiativen und Governance-Standards sowie für eine verantwortungsvolle Interoperabilität von KI-Systemen liefern. Durch die Zusammenarbeit mit anderen Organisationen steht ihnen ein kollektives Know-how offen, das ihnen dabei hilft, generative KI umsichtig und effizient zu nutzen.

»Generative KI bringt einige Herausforderungen mit sich«, erklärt Frank Limberger, Data & Insider Threat Security Specialist bei Forcepoint. »Aber mit den richtigen Maßnahmen für Risikomanagement und Datensicherheit können Unternehmen sie ruhigen Gewissens einsetzen und das transformative Potenzial dieser Technologie voll ausschöpfen.«

Risiken bei generativer KI

Generative KI, bekannt als künstliche Intelligenz, die selbstständig Inhalte erzeugen kann, ist eine der spannendsten und disruptivsten Technologien der Gegenwart. Ob es sich um Texte, Bilder, Musik oder Videos handelt, generative KI kann kreative und originelle Werke schaffen, die oft von menschlichen Werken kaum zu unterscheiden sind. Doch wie bei jeder neuen Technologie gibt es auch bei generativer KI Herausforderungen und Risiken, die Unternehmen beachten müssen, bevor sie sie einsetzen.

Zum einen ist der Datenschutz ein wichtiges Thema. Generative KI basiert auf großen Datenmengen, die oft aus öffentlichen oder privaten Quellen stammen. Diese Daten können sensible oder persönliche Informationen enthalten, die geschützt werden müssen. Wenn Unternehmen generative KI nutzen, müssen sie sicherstellen, dass sie die geltenden Datenschutzgesetze einhalten und die Einwilligung der betroffenen Personen einholen. Außerdem müssen sie transparent sein über die Herkunft und Verwendung der Daten und die Möglichkeit bieten, diese zu korrigieren oder zu löschen.

Zum anderen ist der Schutz des geistigen Eigentums eine weitere Herausforderung. Generative KI kann bestehende Werke imitieren oder modifizieren, was zu Urheberrechtsverletzungen führen kann. Auch die Frage, wem das Urheberrecht an den von generativer KI erzeugten Werken zusteht, ist noch nicht eindeutig geklärt. Unternehmen müssen daher vorsichtig sein, wenn sie generative KI nutzen, um keine Rechte Dritter zu verletzen oder ihre eigenen Rechte zu verlieren. Sie sollten auch klare Vereinbarungen mit den Anbietern von generativer KI treffen, um ihre Haftung und Verantwortung zu regeln.

Wie können Unternehmen also generative KI sicher und effektiv nutzen? Ein erster Schritt ist, sich über die Möglichkeiten und Grenzen dieser Technologie zu informieren und sich mit den rechtlichen und ethischen Aspekten auseinanderzusetzen. Ein zweiter Schritt ist, eine Strategie zu entwickeln, wie generative KI in das eigene Geschäftsmodell integriert werden kann, um Mehrwert zu schaffen und Wettbewerbsvorteile zu erzielen. Ein dritter Schritt ist, geeignete Werkzeuge und Plattformen auszuwählen, die qualitativ hochwertige Ergebnisse liefern und gleichzeitig Sicherheit und Kontrolle gewährleisten.

Wie können Unternehmen generative KI unter Kontrolle bekommen?

Es gibt keine einfache Antwort auf diese Frage, aber einige wichtige Schritte, die zu beachten sind. Erstens müssen Unternehmen sich bewusst sein, welche Art von generativer KI sie einsetzen wollen und welche Ziele sie damit verfolgen. Nicht jede Anwendung erfordert die gleiche Qualität oder Ethik der generierten Inhalte. Zweitens müssen Unternehmen sich an die rechtlichen Rahmenbedingungen halten und sicherstellen, dass sie die Rechte und Interessen aller Beteiligten respektieren. Dazu gehört auch, die Herkunft und Authentizität der generierten Inhalte transparent zu machen und mögliche Fehlinformationen oder Schäden zu vermeiden. Drittens müssen Unternehmen sich mit den technischen Herausforderungen auseinandersetzen, die generative KI mit sich bringt. Dazu gehört auch, die Sicherheit und Zuverlässigkeit der Systeme zu gewährleisten und mögliche Angriffe oder Fehler zu erkennen und zu beheben.

Generative KI ist eine faszinierende und vielversprechende Technologie, die aber auch mit Vorsicht und Vertrauen genutzt werden muss. Nur so können Unternehmen das volle Potenzial von generativer KI ausschöpfen und gleichzeitig die Risiken minimieren.

Genki Absmeier

1445 Artikel zu „KI Risiken Vorteil“

NEWS | TRENDS 2023 | KÜNSTLICHE INTELLIGENZ

Generative KI: mehr Vorteile als Risiken

8. Juli 2023

Die Risiken generativer künstlicher Intelligenz – wie Verletzungen des Urheberrechts oder der Cybersicherheit – sind offenkundig. Dennoch glauben international drei von vier Manager, dass ihre Vorteile größer sind als die damit verbundenen Probleme; in Deutschland sagen dies gut zwei Drittel. Nahezu alle Führungskräfte (96 Prozent international, 99 Prozent in Deutschland) stellen fest, dass generative KI…