foto freepik ki

Angreifer nutzen KI nicht mehr nur zur Steigerung ihrer Produktivität, sondern experimentieren mit neuen Funktionen und Szenarien. Es gibt erstmals Malware-Familien, die während der Ausführung Large Language Models (LLMs) verwenden. Bedrohungsakteure verwenden Social-Engineering-Methoden, um Sicherheitsvorkehrungen von KI-Tools zu umgehen. Staatlich geförderte Akteure nutzen KI, um alle Phasen ihrer Aktivitäten zu verbessern. Der Untergrund-Markt für illegale KI-Tools ist im Jahr 2025 gereift. Angreifer nutzen gängige KI-Plattformen, greifen jedoch oft auf Modelle aus dem kriminellen Untergrund zurück, die keinen Beschränkungen unterliegen. Google nutzt seine Threat Intelligence, um die Aktivitäten von Angreifern zu vereiteln und zu unterbinden.

Die Google Threat Intelligence Group (GTIG) gibt im AI Threat Tracker einen Überblick darüber, wie Cyberkriminelle künstliche Intelligenz (KI) einsetzen [1]. Mit neuen Erkenntnissen knüpft der Bericht an die Analyse »Adversarial Misuse of Generative AI« vom Januar 2025 an und zeigt, dass sich die KI-gestützten Fähigkeiten von Bedrohungsakteuren deutlich weiterentwickelt haben [2].

Beim Betrachten der allgemeinen Bedrohungslage wurde eine große Veränderung sichtbar, die sich in den letzten Monaten vollzogen hat: Angreifer nutzen künstliche Intelligenz nicht mehr nur zur Steigerung ihrer Produktivität, sondern experimentieren mit neuen Funktionen und Szenarien. Sie setzen in aktiven Kampagnen neuartige, KI-gestützte Malware ein, die das Angriffsverhalten während der Ausführung dynamisch verändert.

Das Wichtigste auf einen Blick:

Erste Verwendung von »Just-in-Time«-KI in Malware:
GTIG hat erstmals Malware-Familien wie PROMPTFLUX und PROMPTSTEAL identifiziert, die während der Ausführung Large Language Models (LLMs) verwenden. Diese Tools generieren dynamisch bösartige Skripte und verschleiern ihren eigenen Code, um nicht erkannt zu werden. Zudem nutzen sie KI-Modelle, um bösartige Funktionen nach Bedarf zu erstellen, anstatt sie fest in die Malware zu programmieren. Diese Entwicklung steckt zwar noch in den Kinderschuhen, stellt jedoch einen bedeutenden Schritt in Richtung autonomer und anpassungsfähiger Malware dar.
Social Engineering zur Umgehung von Sicherheitsmechanismen:
Bedrohungsakteure verwenden in ihren Prompts Social-Engineering-Methoden, um Sicherheitsvorkehrungen von KI-Tools zu umgehen. Beispielsweise haben sich Hacker als Studenten in einem »Capture the Flag«-Wettbewerb oder als Cybersicherheitsforscher ausgegeben, um für die Entwicklung ihrer Tools bestimmte Informationen von dem KI-Assistenten Gemini zu bekommen, die sonst gesperrt wären.
Kontinuierliche Erweiterung des gesamten Angriffszyklus:
Staatlich geförderte Akteure, beispielsweise aus Nordkorea, Iran oder der Volksrepublik China, nutzen Gemini, um alle Phasen ihrer Aktivitäten zu verbessern. Das reicht von der Aufklärung und Recherche über die Erstellung von Phishing-Ködern bis hin zum technischen Support für ihre »Command and Control«-Maßnahmen und die Datenexfiltration.
Reifer Markt für KI-Tools im Bereich Cyberkriminalität:
Der Untergrund-Markt für illegale KI-Tools ist im Jahr 2025 gereift. Google hat mehrere multifunktionale Tools identifiziert, die Phishing, die Entwicklung von Malware und die Erforschung von Schwachstellen unterstützen. Solche Angebote senken die Einstiegshürde für weniger versierte Akteure drastisch.

Billy Leonard, Technischer Leiter der Google Threat Intelligence Group, erläutert: »Angreifer nutzen durchaus gängige KI-Plattformen – doch deren

Schutzmechanismen sorgen dafür, dass viele auf Modelle aus dem kriminellen Untergrund zurückzugreifen. Solche Tools unterliegen keinen Beschränkungen und können weniger fortgeschrittenen Akteuren einen erheblichen Vorteil verschaffen. Derzeit sind mehrere vom ihnen verfügbar, und wir gehen davon aus, dass sie die Einstiegshürden für viele Kriminelle senken werden.«

Google nutzt seine Threat Intelligence, um die Aktivitäten von Angreifern zu vereiteln und zu unterbinden – einschließlich der Cyberaktivitäten durch staatlich unterstützte Akteure. Darüber hinaus fließen die neu gewonnenen Erkenntnisse über die Ausnutzung von Google-Produkten, -Diensten, Nutzern und Plattformen in die Sicherheitsmaßnahmen und -richtlinien von Google ein, um weiteren Missbrauch zu verhindern und die Sicherheit der Nutzer in großem Maßstab zu gewährleisten.

[1] Weitere Informationen finden Sie im vollständigen AI Threat Tracker. https://services.google.com/fh/files/misc/advances-in-threat-actor-usage-of-ai-tools-en.pdf

[2] https://cloud.google.com/blog/topics/threat-intelligence/adversarial-misuse-generative-ai?e=48754805&hl=en

3384 Artikel zu „Cyberangriff“

Trends 2025 | News | Trends Security | IT-Security

Zunehmende Bedrohung durch menschzentrierte Cyberangriffe

26. Oktober 2025

Bedrohungsakteure ändern ihre Taktik, um menschliche Kontaktpunkte aus jedem Blickwinkel anzugehen – innerhalb von Geschäftsabläufen und über Kanäle hinweg –, um koordinierte Kampagnen durchzuführen, die herkömmliche Abwehrmaßnahmen überwältigen. Die Auswertung des Global Threat Intelligence Report für 2025 von Mimecast zeigt zentrale Trends, darunter den Anstieg intelligenter KI-gestützter Phishing- und Social-Engineering-Angriffe sowie die verstärkte Nutzung…