foto freepik ki

Donald Trump streicht die bestehenden Vorgaben zur Kontrolle von künstlicher Intelligenz in den USA und kündigt ein 500 Milliarden Investment in die Technologie an. Damit gerät Europa weiter in Gefahr: Die wirtschaftliche Wettbewerbsfähigkeit ist ernsthaft beeinträchtigt, führende KI-Denker wandern ab und Europa wird seine Technologiesouveränität nicht mehr sicherstellen können. Ein Statement von KI-Experte Carsten Kraus.

Carsten_Kraus © Matthias_Trenn

Kurz nach seiner Vereidigung als US-Präsident hebt Donald Trump das Dekret seines Vorgängers zu Gefahren durch KI-Systeme auf. Nach dem Dekret sollen KI-Entwicklungen, die eine Gefahr für die nationale Sicherheit, Wirtschaft oder öffentliche Gesundheit darstellen können, Sicherheitstests unterzogen werden müssen. Zusätzlich kündigt er mit Project Stargate ein 500 Milliarden Dollar Investment in KI an. Die Streichung des Dekrets und die Investitionen können eine ernsthafte Verschärfung der Situation für Europa bedeuten:

Die europäische Wirtschaft ist gefährdeter denn je

»Mit der Streichung des Dekrets gerät Europa noch weiter in Gefahr, wirtschaftlich abgehängt zu werden«, sagt Carsten Kraus. »Künstliche Intelligenz ist nicht einfach nur eine weitere Innovation, sondern die wichtigste zentrale Querschnittstechnologie, die sämtliche Branchen transformieren und weitreichende geopolitische Auswirkungen haben wird.« Dank massiver staatlicher Investments in KI in China und einer bisher lockeren Regulierung in den USA war Europa in punkto KI ohnehin schon abgehängt – nun ist die Lage noch problematischer: »In Europa sorgt die Einführung des AI Acts der Europäischen Union zwar für eine Vorreiterrolle im Bereich KI-Regulierung – hat aber durch die drohenden hohen Strafen bei Nichteinhaltung auch eine maximal abschreckende Wirkung auf europäische Unternehmen. Wer KI aus Angst vor Strafen nicht nutzt, verpasst Effizienzgewinne von zirka 20 Prozent. So wird kein europäisches Unternehmen Weltmarktführer bleiben können – vor allem wenn die USA nun noch unregulierter und mit mehr finanzieller Unterstützung an KI forschen und diese anwenden können.«

Fachkräfte wandern in die USA ab – Weniger Innovation aus Europa

Mit der Streichung des Dekrets werden die USA für Unternehmen und führende KI-Köpfe noch attraktiver: »Ich habe schon oft darüber gesprochen, dass Startups, Wissenschaftler und hochqualifizierte Fachkräfte Europa verlassen, um in den USA bessere Forschungs- und Entwicklungsmöglichkeiten zu finden. »Mit der aktuellen Entscheidung wird dieser Trend weiter an Dynamik gewinnen”, so Kraus.

Europa braucht eigene KI mit europäischen Werten

Large Language Models wie ChatGPT spiegeln stets die Werte und politischen Vorstellungen ihres Entstehungsumfeldes (Trainingsdaten) wieder – deshalb müssen Modelle in Europa auch aus Europa kommen und mit entsprechenden Daten trainiert sein. »Wer in Zukunft über technologische Souveränität verfügen möchte, muss eigene KI-Lösungen entwickeln oder vorantreiben, Europa muss dringend mehr eigene Ansätze entwickeln«, sagt Carsten Kraus. »Eine komplett neue Software ist nicht zwingend erforderlich, auch Open-Source-Lösungen können genutzt werden. Entscheidend ist jedoch ein vollständig eigenständiges Training – von Grund auf. Studien von Anthropic zeigen, dass fortgeschrittene Modelle ihre Hidden Agendas verbergen können. »Dieses Risiko müssen wir durch eigene Trainingsansätze – die unsere Werte widerspiegeln, minimieren.«

Damit Europa im globalen KI-Wettrennen sowie wirtschaftlich auch weiterhin eine Chance auf eine führende Position hat, gilt es jetzt die Weichen zu stellen. Carsten Kraus setzt sich dafür ein, Anreize für Startups zu schaffen, die an eigenen Modellen und Technologien forschen – in Europa. Investitionen in technologische Infrastruktur sind dabei ebenso essenziell wie finanzielle Anreize und ein starkes Innovationsökosystem, beispielsweise durch einen gemeinsamen Pool an verlässlichen Daten aus Europa. Gleichzeitig helfen eine klügere Ausgestaltung des AI Acts sowie eine umfassende Aufklärung über die Inhalte dabei, Angst vor Strafen zu verhindern – damit europäische Unternehmen befähigt sind, die Potenziale von KI gewinnbringend zu nutzen. Damit Europa seinen Wohlstand und seine wirtschaftliche Position auf Dauer sichern kann, müssen jetzt Maßnahmen getroffen werden.

Das sagt die Copilot-KI von Microsoft:

Warum sollte KI reguliert werden?

Die Regulierung von künstlicher Intelligenz (KI) ist ein heiß diskutiertes Thema, und das aus gutem Grund. Hier sind einige der Hauptgründe, warum KI reguliert werden sollte:

Sicherheit und Schutz:
KI-Systeme können in kritischen Bereichen wie Gesundheitswesen, Verkehr und Finanzen eingesetzt werden. Eine Fehlfunktion oder ein Missbrauch könnte schwerwiegende Folgen haben. Regulierung hilft, Sicherheitsstandards zu setzen und Risiken zu minimieren.
Ethik und Fairness:
KI kann Vorurteile und Diskriminierung verstärken, wenn sie auf voreingenommenen Daten trainiert wird. Durch Regulierung können ethische Standards und Fairness sichergestellt werden, um Diskriminierung zu vermeiden.
Transparenz und Verantwortlichkeit:
Es ist wichtig, dass die Entscheidungen von KI-Systemen nachvollziehbar und transparent sind. Regulierung kann dazu beitragen, dass Unternehmen und Entwickler für die Funktionsweise ihrer KI-Systeme verantwortlich gemacht werden.
Schutz der Privatsphäre:
KI-Systeme sammeln und verarbeiten große Mengen an Daten, oft auch persönliche Daten. Regulierung kann sicherstellen, dass der Datenschutz gewahrt bleibt und die Privatsphäre der Nutzer geschützt wird.
Verhinderung von Missbrauch:
Ohne Regulierung könnten KI-Technologien für schädliche Zwecke eingesetzt werden, wie z.B. für Überwachung, Manipulation oder Cyberangriffe. Durch Regulierung können solche Missbräuche verhindert werden.

Die Europäische Union (EU) hat bereits Schritte unternommen, um KI zu regulieren, und dient oft als Vorbild für andere Länder.

Genki Absmeier

Wenn man KI nicht reguliert, öffnet man dann nicht die Büchse der Pandora?

Das ist eine treffende Metapher. Ohne Regulierung könnte KI tatsächlich eine Art »Büchse der Pandora« öffnen. Hier sind einige der potenziellen Risiken:

Unkontrollierte Verbreitung:
KI-Technologien könnten ohne angemessene Kontrolle und Sicherheitsmaßnahmen weit verbreitet werden, was zu unvorhersehbaren und möglicherweise gefährlichen Konsequenzen führen könnte.
Missbrauch:
Ohne Regulierung könnten KI-Systeme für schädliche Zwecke wie Überwachung, Manipulation oder Cyberangriffe eingesetzt werden.
Verstärkung von Ungleichheiten:
KI könnte bestehende soziale und wirtschaftliche Ungleichheiten verschärfen, wenn sie nicht fair und ethisch eingesetzt wird.
Verlust der Privatsphäre:
KI-Systeme könnten große Mengen an persönlichen Daten sammeln und verarbeiten, was zu erheblichen Datenschutzproblemen führen könnte.
Mangelnde Verantwortlichkeit:
Ohne klare Regeln und Verantwortlichkeiten könnten Unternehmen und Entwickler schwer zur Rechenschaft gezogen werden, wenn ihre KI-Systeme Schaden anrichten.

Die Regulierung von KI ist daher entscheidend, um sicherzustellen, dass diese Technologien sicher, fair und verantwortungsvoll eingesetzt werden.

Genki Absmeier

Warum muss KI reguliert werden?

24. Januar 2025

Es gibt einen allgemeinen Trend, KI stärker zu regulieren, sei es durch dedizierte Gesetze, Verordnungen oder zentrale Empfehlungen. Risikobasierte Ansätze wie in der EU dominieren und scheinen am besten geeignet, Menschen in lebenswichtigen Bereichen vor den negativen Auswirkungen von KI zu schützen.

Die EU als Vorbild bei der weltweiten KI-Regulierung

Mit dem EU AI Act hat die Europäische Union im Mai 2024 die weltweit erste umfassende Regulierung für künstliche Intelligenz verabschiedet. KI-Systeme mit inakzeptablem Risiko, etwa für Social Scoring oder Emotionserkennung am Arbeitsplatz, sind in den Mitgliedsstaaten künftig verboten. KI-Systeme mit hohem Risiko hingegen sind zulässig, müssen aber in einer EU-Datenbank registriert werden und strenge Auflagen hinsichtlich Sicherheit, Dokumentation, Qualität der Trainingsdaten und menschlicher Aufsicht erfüllen.

Als Hochrisiko-KI gilt KI in Produkten, die wie Fahrzeuge und medizinische Geräte unter die Produktsicherheitsvorschriften der EU fallen, oder in kritischen Infrastrukturen, der Strafverfolgung und anderen sensiblen Bereichen. Generative KI wiederum muss bestimmte Transparenzanforderungen erfüllen und beispielsweise offenlegen, wenn Inhalte mit KI generiert wurden oder urheberrechtlich geschütztes Material für das Training verwendet wurde. Bei Verstößen gegen den EU AI Act drohen Unternehmen Bußgelder von bis zu 35 Millionen Euro oder 7 Prozent des Jahresumsatzes.

Warum braucht KI überhaupt Regulierung?

KI trifft bereits heute viele Entscheidungen, die Einfluss auf das Leben von Menschen haben. Einige dieser Entscheidungen sind weitreichend, etwa wenn es um die Auswahl von Bewerbern oder die Vergabe von Krediten geht. Die Regulierung soll sicherstellen, dass KI sicher, fair, transparent und nachvollziehbar entscheidet, denn unreguliert kann KI durchaus voreingenommen oder unfair agieren – sei es, weil sie aufgrund verzerrter oder falscher Trainingsdaten nicht objektiv ist oder bewusst manipuliert wurde, um bestimmte Entscheidungen zu erzwingen. Verhält sich das KI-System wie eine »Black Box«, lassen sich seine Entscheidungen nicht nachvollziehen und überprüfen.

Wurde KI bisher nicht reguliert?

Auch in Ländern ohne dedizierte KI-Gesetze unterliegt KI gewissen Auflagen, und auch in der EU war KI vor dem EU AI Act nicht unreguliert. Viele Vorgaben finden sich in bereits bestehenden Gesetzen, etwa zum Datenschutz, und in branchenspezifischen Richtlinien und Verordnungen, etwa für den Finanzsektor. Hinzu kommen Standards und Empfehlungen internationaler Organisationen wie der UN, der OECD, der ISO und dem IEEE, die überwiegend ethische Leitplanken setzen. Darüber hinaus sind die Mitgliedsstaaten der EU natürlich an die Charta der Grundrechte der Europäischen Union gebunden, die eine Diskriminierung von Menschen verbietet, und die Mitgliedsstaaten des Europarats an dessen KI-Konvention, die sich auf den Schutz von Menschenrechten, Demokratie und Rechtsstaatlichkeit fokussiert.

Welche KI-Gesetze gibt es außerhalb der EU?

Dedizierte KI-Gesetze sind bislang noch die Ausnahme und decken oft nur sehr spezifische Sachverhalte ab. In China zum Beispiel dürfen Deepfakes nur mit Zustimmung der jeweiligen Personen erstellt werden und sind zu kennzeichnen. In Kalifornien müssen Chatbots und Social-Media-Bots sich als solche zu erkennen geben. Südkorea ist eines der wenigen Länder, das ein mit dem EU AI Act vergleichbares Gesetz besitzt, den AI Basic Act. Dieser macht strenge Vorgaben für »High-Impact KI« und generative KI, verbietet allerdings keine Form von KI-Systemen und sieht deutlich niedrigere Strafzahlungen bei Verstößen vor.

Viele andere Länder arbeiten an dedizierten KI-Gesetzen und verfolgen dabei häufig einen risikobasierten Ansatz, beispielsweise Brasilien und Kanada. Der EU AI Act kann hier als Vorbild dienen und dazu beitragen, weltweit ähnliche Regelungen einzuführen, die es den Unternehmen erleichtern, ihre KI-Systeme global anzubieten und einzusetzen.

Welche Trends gibt es in der KI-Regulierung?

Es gibt allgemein einen Trend, KI stärker zu regulieren – sei es durch dedizierte Gesetze, Verordnungen und Richtlinien oder durch zentrale Empfehlungen für Behörden und Unternehmen. Noch sind dedizierte Gesetze die Ausnahme, aber viele Länder arbeiten bereits daran. Risikobasierte Ansätze wie in der EU dominieren und scheinen derzeit am besten geeignet, Menschen in lebenswichtigen Bereichen vor den negativen Auswirkungen von KI zu schützen. Darüber hinaus stehen die geplanten Gesetze und Richtlinien in der Regel im Einklang mit den OECD-Grundsätzen für KI, die unter anderem die Achtung der Menschenrechte, Transparenz, Sicherheit, Nachhaltigkeit und Accountability einfordern.

5902 Artikel zu „KI Wirtschaft“

News | Digitalisierung | Infrastruktur | Internet der Dinge | Künstliche Intelligenz

KI für die Realwirtschaft

20. Januar 2025

Gründer des RWTH-Startups dataMatters Dr. Daniel Trauth: »Wir sind ein reales Unternehmen und wachsen mit zufriedenen Kunden statt mit Wagniskapital. Unser Zielmarkt ist die Smartisierung der realen Welt, von Smart Buildings über die Smart Factory bis hin zur Smart City.« Beispiel: Mülltonnen mit Internetverbindung zu Künstlicher Intelligenz im Rechenzentrum. »Wir arbeiten in der Realwirtschaft…