foto freepik ki

Die Vorteile von generativer KI (GenAI) sind mittlerweile unbestritten und finden auch in der Geschäftswelt zunehmend Anwendung. So verbessern generative KI-Systeme unter anderem Strategien für das Informationsmanagement, optimieren Prozesse und sorgen für eine effizientere Arbeitsweise der Mitarbeitenden. Trotzdem bestehen unter den Anwendern häufig noch Zweifel an der Vertrauenswürdigkeit und Sicherheit der Technologie. Das hindert Unternehmen daran, das volle Potenzial von GenAI auszuschöpfen. Um generative KI gewinnbringend einzusetzen, müssen Unternehmen also das nötige Vertrauen herstellen. Der Schlüssel zum Erfolg liegt dabei in gezieltem Informationsmanagement und verantwortungsbewusste Governance.

Lilija Kucinskaja, Manager EMEA AI & Analytics SCs bei OpenText hat fünf Tipps, die Unternehmen dabei helfen, einen sicheren Umgang mit KI-Systemen zu fördern:

Vertrauenswürdige Inhalte und Data Labeling nutzen

Generative KI ist nur so gut, wie die Inhalte, die ihr zugrunde liegen. Für den anfänglichen Trainingsprozess benötigen Unternehmen, die ihr eigenes KI-System aufsetzen wollen, daher unbedingt einen umfangreichen und qualitativen Datensatz sowie vielseitige Datenquellen, die das Modell mit relevanten und vertrauenswürdigen Informationen versorgen. Dabei erweist sich auch Data Labeling als hilfreich, bei dem unterschiedliche Datenpunkte so gekennzeichnet werden, dass Machine-Learning-Algorithmen deren Bedeutung besser verstehen. Diese Vorgehensweise ermöglicht es, die wichtigsten Daten in kürzester Zeit mit Hilfe von Prompts zu finden und sorgt für zuverlässigen und akkuraten Output.

Content Sprawl verhindern

Unter Content Sprawl verstehen sich verstreute, aus Bequemlichkeit kopierte Daten und Dokumente, die zur Bearbeitung geöffnet werden, aber dann unvollständig zurückbleiben. Inhalte wie diese können zwar kurzfristig zweckdienlich sein, wenn sie jedoch von mangelhafter Qualität sind, besteht das Risiko, dass generative KI-Systeme darauf basierend fehlerhaften Output generieren. Um das zu verhindern und die Präzision und Relevanz von KI-generierten Antworten zu optimieren, ist sorgfältiges Informationsmanagement das A und O.

Kontext ist Key

Damit generative KI-Modelle Informationen richtig verarbeiten und zuverlässigen Output generieren können, müssen alle eingespeisten Daten im Zusammenhang mit den kontextgebenden Informationen verarbeitet werden, die im Idealfall bereits dem Geschäftskontext entsprechen. Als besonders effektiv erweist es sich hier sogar einzelne Geschäftsvorgänge zu berücksichtigen und Daten etwa bestimmten Kunden oder Projekten zuzuordnen.

Angemessene Sicherheitsmaßnahmen ergreifen

Große kommerzielle Sprachmodelle sind nicht auf die Prozesse und Richtlinien einzelner Unternehmen zugeschnitten. Denn wenn diese uneingeschränkten Zugriff auf unternehmensinterne Daten haben, kann das ein erhebliches Sicherheitsrisiko darstellen. Daher sollten Betriebe ihren Mitarbeitenden sichere KI-Tools und möglichst unternehmenseigene Modelle zur Nutzung zur Verfügung stellen, um den Gebrauch von Schatten-IT zu verhindern.

KI-Governance umsetzen

Gesetzgebungen wie Datenschutzvorschriften, die den Umgang mit KI regulieren, bilden sich immer noch heraus und müssen im Laufe des Prozesses stetig an die sich rasch verändernden Bedingungen der Technologie angepasst werden. Bis es so weit ist, dass Regierungen entsprechende Vorgaben vollumfänglich umsetzen, müssen Unternehmen Eigeninitiative ergreifen. Sie stehen in der Verantwortung die Voraussetzungen für die ethische Nutzung von KI-Modellen zu schaffen und sich an allgemeine sowie branchenspezifische Richtlinien im Rahmen von KI-Governance zu halten. Hier stehen vor allem die Minimierung von Bias-Risiken ebenso wie die Gewährleistung von Privatsphäre und Datenschutz im Vordergrund.

2592 Artikel zu „KI Vertrauen“

Trends 2024 | News | Trends Security | IT-Security | Whitepaper

PKI und Post-Quanten-Kryptographie: Wachsender Bedarf an digitalem Vertrauen

11. April 2024

Der PKI & Digital Trust Report 2024 von Keyfactor verdeutlicht Herausforderungen im Bereich digitaler Identitäten und Hindernisse bei der Vorbereitung von Organisationen auf die Post-Quanten-Kryptografie. Keyfactor, die Identity-first Security-Lösung für moderne Unternehmen, und Vanson Bourne geben die Ergebnisse des PKI & Digital Trust Report 2024 bekannt, für den weltweit 1.200 IT-Experten und -Führungskräfte (300…