Generative KI – die Büchse der Pandora? 6 wichtige Faktoren für eine KI-Policy

foto freepik

Ob wir es wollen oder nicht – generative künstliche Intelligenz (KI) findet ihren Weg in immer mehr Unternehmen und gehört bereits fast zum Mainstream. Dabei gehen Unternehmen sehr unterschiedlich mit den Tools um und verfolgen individuelle Ansätze bei der Einführung. Warum ist es dringend notwendig, eine verbindliche KI-Richtlinie zu entwickeln und welche Aspekte sollten dabei beachtet werden.

 

Bei der aktuellen Diskussion um generative KI-Tools gehen die Ansichten weit auseinander. Die einen sehen es als Technologie mit enormem Potenzial, die anderen sehen vor allem die aktuellen Risiken beim Einsatz. Entsprechend unterschiedlich ist der Umgang mit der Technologie.

Samsung beispielsweise verbot die Verwendung von ChatGPT, nachdem Mitarbeiter versehentlich vertrauliche Informationen mit dem Tool geteilt hatten. Apple, Amazon, JPMorgan Chase & Co. und andere Organisationen haben ähnliche Einschränkungen.

Microsoft hingegen hat sich die ChatGPT-Technologie zu eigen gemacht, ebenso wie andere Unternehmen. Expedia, Coca Cola und Slack, um nur einige zu nennen, integrieren die generativen KI-Tools in ihre Projekte und fördern den Einsatz dieser Technologie, um die Arbeitsprozesse ihrer Mitarbeiter zu unterstützen.

Unabhängig davon, wo ein Unternehmen in Bezug auf generative KI steht, ist es unerlässlich, klare, umsetzbare Richtlinien und Vorgaben zu erstellen, zu kommunizieren und durchzusetzen.
Wichtige Aspekte für Richtlinien zum Umgang mit KI

Verbindliche Vorgaben oder »Policies« zum Einsatz von generativer KI helfen Unternehmen bei der Bewältigung der ethischen, rechtlichen, rufschädigenden und gesellschaftlichen Herausforderungen, die mit dem Einsatz von KI-Systemen zur Generierung von Inhalten verbunden sind. So können Organisationen einen verantwortungsvollen Einsatz der KI-Technologie sicherstellen und gleichzeitig die Interessen von Nutzern und Kunden schützen. Bei der Ausarbeitung der KI-Policy, sollten folgende grundlegende Faktoren berücksichtigen werden:

 

  1. Compliance – Einhaltung geltender Gesetze: Der Einsatz von generativen KI-Technologien kann rechtliche Auswirkungen haben. Beispielsweise kann die Erstellung von Inhalten das Urheberrecht, die Privatsphäre oder andere Rechte an geistigem Eigentum verletzen. Das kann rechtliche Konsequenzen nach sich ziehen. Eine Strategie mit klarem Regelwerk in Bezug auf generative KI-Tools hilft Unternehmen, relevante Gesetze und Vorschriften zu verstehen und einzuhalten. Damit wird das Risiko von Rechtsstreitigkeiten und Haftungsrisiken verringert.
  2. Datenschutz und Sicherheit: Generative KI-Modelle erfordern oft große Datenmengen, um effektiv trainieren zu können. Die KI-Policy einer Organisation sollte Datenschutz- und Sicherheitsbedenken berücksichtigen und sicherstellen, dass Benutzerdaten und andere sensible Informationen verantwortungsbewusst und sicher gehandhabt werden. Dazu gehört die Festlegung von Verfahren zur Datenanonymisierung, Einwilligung, Zugriffskontrollen und Einhaltung geltender Datenschutzbestimmungen.
  3. Ethische Aspekte: Generative KI-Technologien, wie Sprachmodelle, können äußerst realistische und überzeugende Inhalte erstellen – einschließlich Text, Bilder und Videos. Ohne klare Richtlinien können Organisationen versehentlich irreführende oder inkorrekte Informationen erstellen oder verbreiten. Eine KI Policy trägt dazu bei, dass Nutzer eine Reihe ethischer Vorgaben berücksichtigen und so den Missbrauch von KI-Technologie verhindern.
  4. Reputation und Vertrauen: Organisationen, die KI-Systeme zur Generierung von Inhalten nutzen, bleiben für die Qualität und Richtigkeit dieser Inhalte verantwortlich. Klare Regeln helfen dabei, Standards und Richtlinien zur Wahrung des Rufs der Organisation zu wahren und damit auch das Vertrauen der Kunden, Nutzer und Stakeholder. Durch die Sicherstellung, dass generierte Inhalte korrekt und transparent sind, können Unternehmen Vertrauen bei ihren Zielgruppen aufbauen.
  5. Bias und Fairness: KI-Systeme können unbeabsichtigt Bias in den für das Training verwendeten Daten etablieren oder verstärken. Eine KI-Richtlinie sollte Maßnahmen zur Identifizierung und Abschwächung von Vorurteilen und zur Förderung von Fairness und Inklusion umfassen. Dazu sollten Aspekte wie Diversität in die Schulung einbezogen werden. Auch eine regelmäßige Überprüfung der Modelle und die Implementierung von Mechanismen zur Korrektur sollten bedacht werden.
  6. Soziale Auswirkungen: Generative KI kann erhebliche Auswirkungen auf die Gesellschaft haben, indem sie die öffentliche Meinung beeinflusst, Narrative prägt und Entscheidungsprozesse beeinflusst. Mit einer verbindlichen Richtlinie können Organisationen die umfassenderen gesellschaftlichen Auswirkungen ihrer KI-Systeme besser steuern. Dazu gehört es auch, sich am öffentlichen Diskurs zu beteiligen, mit externen Stakeholdern zusammenzuarbeiten und Verantwortung für die gesellschaftlichen Folgen der KI-generierten Inhalte zu übernehmen.

Alexis Hernandez, Anwalt und Experte für Compliance sowie Datenschutz bei Skillsoft

 

Weitere Information rund um Trainingsmöglichkeiten, die einen verantwortungsvollen und effizienten Einsatz von KI-Tools unterstützen, gibt es auch hier: Führung im KI-Zeitalter – Skillsoft
https://www.skillsoft.com/de/course/f %C3 %BChrung-im-ki-zeitalter-e60c2c35-657d-4e78-a19f-1ca71c65e0fb
sowie unter How Practice Makes Perfect with Skillsoft’s CAISY™ Conversation AI Simulator – Skillsoft:
https://www.skillsoft.com/blog/how-practice-makes-perfect-with-skillsofts-caisy-conversation-ai-simulator