foto freepik

Künstliche Intelligenz (KI) macht es Cyberkriminellen immer leichter, ihre eigenen »Produktivitätstools« zu entwickeln. Sie ermöglicht es, täuschend echt wirkende Inhalte für Angriffe in immer schneller werdendem Tempo zu erstellen. Dabei kommen sowohl legitime Apps , die für böswillige Zwecke missbraucht werden, als auch speziell entwickelte Tools, die in der Cybercrime-Unterwelt kursieren, zum Einsatz.

KI-Tools durchsuchen gezielt das Internet nach Unternehmensinformationen und werten diese aus, wodurch Angreifende detaillierte Profile von Mitarbeitenden oder anderen Zielpersonen erstellen können. Diese Informationen bilden die Basis für raffinierte Social-Engineering-Angriffe. In einigen Fällen locken Täter ihre Opfer in zunehmend komplexe Betrugsmaschen, etwa durch gefälschte, KI-gestützte Produktbewertungen und KI-generierte Online-Shops. Betrüger erstellen dafür komplette Webseiten und E-Commerce-Marken, einschließlich erfundener Unternehmensgeschichten und Kundenrezensionen. Mithilfe von Deepfakes, Stimmklonen, Phishing-E-Mails und täuschend echt aussehenden Fake-Webseiten geben sich Angreifende im großen Stil als seriöse Anbieter aus.

KI-gestützte Betrugsangriffe finden laut dem Microsoft Anti-Fraud-Team weltweit statt, wobei ein großer Teil der Aktivitäten in China und Europa registriert wird – insbesondere in Deutschland. Ein Grund dafür: Deutschland zählt zu den größten Märkten für E-Commerce und Online-Dienste innerhalb der Europäischen Union. Je größer der digitale Markt in einer Region ist, desto höher ist auch das Risiko für Betrugsversuche.

Betrug im Online-Handel

Täuschend echt wirkende E-Commerce-Websites lassen sich heute mithilfe von KI und anderen Tools innerhalb von Minuten erstellen – und erfordern nur minimale technische Kenntnisse. Was früher Tage oder sogar Wochen dauerte, gelingt Angreifenden inzwischen im Handumdrehen. Die gefälschten Seiten sehen oft seriösen Anbietern sehr ähnlich, was es für Verbraucher schwierig macht, sie als Fälschungen zu erkennen.

KI-generierte Produktbeschreibungen, Bilder und Kundenbewertungen sorgen dafür, dass Kunden glauben, bei einem echten Händler einzukaufen. Kriminelle nutzen gezielt das Vertrauen in bekannte Marken aus.

KI-gesteuerte Chatbots im Kundenservice eröffnen Betrügern eine weitere Möglichkeit, täuschend echt aufzutreten. Diese Bots können Betroffene gezielt hinhalten, etwa bei Rückbuchungen, und mit vorgeschobenen Ausreden den Eindruck eines seriösen Anbieters erwecken – obwohl dahinter eine betrügerische Webseite steht.

Microsoft setzt auf einen ganzheitlichen Ansatz, um Kunden mit robusten Schutzmechanismen, die direkt in Produkte und Dienste integriert sind, vor KI-gesteuertem Betrug zu schützen: So bietet der Microsoft Defender for Cloud umfassenden Bedrohungsschutz für Azure-Ressourcen, inklusive Schwachstellenanalysen über Bedrohungserkennung bis hin zum Schutz virtueller Maschinen, Container-Images und Endpunkten.

Microsoft Edge schützt Nutzer aktiv vor betrügerischen Webseiten – etwa durch eine Tippfehlererkennung bei Webadressen und eine Domain-Imitations-Erkennung auf Basis von Deep-Learning-Technologie. Zusätzlich kommt der integrierte Schutz im Scareware Blocker in Edge zum Einsatz. Er basiert auf maschinellem Lernen und erkennt und blockiert potenzielle Betrugsseiten und irreführende Pop-up-Fenster mit alarmierenden Warnungen, die vortäuschen, der Computer sei kompromittiert. Ziel solcher Angriffe ist es, Angst zu schüren und Betroffene dazu zu bringen, betrügerische Supportnummern anzurufen oder gefährliche Software herunterzuladen.

Betrug mit Job- und Stellenangeboten

Durch den rasanten Fortschritt generativer KI ist es für Betrüger deutlich einfacher geworden, gefälschte Job-Inserate zu erstellen. Sie nutzen gestohlene Daten für falsche Profile, veröffentlichen automatisch generierte Stellenanzeigen und starten KI-gesteuerte E-Mail-Kampagnen, um Jobsuchende per Phishing zu täuschen. Selbst Vorstellungsgespräche und Rückmeldungen werden inzwischen per KI simuliert. Das macht es für Bewerber schwieriger, echte Angebote von Betrug zu unterscheiden.

Um solche Betrugsversuche einzudämmen, sollten Jobplattformen die Multifaktor-Authentifizierung (MFA) für Arbeitgeberkonten verpflichtend machen. So lässt sich verhindern, dass legitime Inserate von Dritten »gekapert« werden. Zusätzlich sollten verfügbare Technologien zur Betrugserkennung eingesetzt werden, um verdächtige Inhalte frühzeitig zu identifizieren.

Betrüger verlangen häufig persönliche Daten wie Lebensläufe oder sogar Bankverbindungen – angeblich zur Verifizierung der Bewerbung. Ein weiteres Warnsignal sind unerwartete SMS oder E-Mails, die lukrative Jobangebote für minimale Qualifikationen versprechen.

Auch Stellenanzeigen, bei denen Zahlungen eingefordert werden, die »zu gut klingen, um wahr zu sein«, per SMS ohne Vorwarnung verschickt werden oder über inoffizielle Wege zu Vorstellungsgesprächen einladen, sollten skeptisch machen – vor allem, wenn formelle Kommunikationswege fehlen.

Tech-Support-Betrüger setzen auf KI

In Tech-Support-Betrugsfällen bringen Betrüger ihre Opfer dazu, unnötige technische Supportleistungen in Anspruch zu nehmen, um ein Gerät oder Softwareprobleme zu beheben, die gar nicht existieren. Bei Betrugsfällen im technischen Support besteht ein erhöhtes Risiko, auch wenn KI keine Rolle spielt. Beispielsweise stellte Microsoft Threat Intelligence Mitte April 2024 fest, dass die auf Ransomware spezialisierte Cybercrime-Gruppe Storm-1811 versuchte, Microsofts Remote-Tool Quick Assist missbrauchte, indem sie sich als IT-Support ausgab. Quick Assist ermöglicht es Nutzern, ihr Windows- oder macOS-Gerät per Fernzugriff freizugeben. Microsoft konnte nicht feststellen, dass bei diesen Angriffen KI zum Einsatz kam. Stattdessen gab sich Storm-811 durch Voice-Phishing (Vishing), als eine Form des Social Engineering, als legitime Organisation aus und überzeugte die Opfer, ihnen über Quick-Assist-Zugriff auf ihr Gerät zu gewähren.

Als Reaktion auf die Aktivitäten von Storm-1811 und ähnliche Gruppen hat Microsoft gezielte Maßnahmen ergriffen – etwa durch Sperrungen verdächtiger Konten, die mit unlauterem Verhalten in Verbindung stehen. Grundsätzlich gilt:

Wer ungefragt Tech-Support anbietet, handelt in den meisten Fällen betrügerisch. 

Gibt sich jemand als Microsoft-Mitarbeiter aus, können Sie den Vorfall unter https://www.microsoft.com/reportascam melden.

Im Rahmen der Secure Future Initiative (SFI) verfolgt Microsoft einen proaktiven Ansatz, um Produkte und Dienste von Grund auf betrugssicher zu gestalten, oder »Fraud-resistant by Design«. Im Januar 2025 gilt eine neue Richtlinie zur Betrugsprävention: Produktteams müssen bereits in der Entwicklungsphase systematisch Maßnahmen gegen Betrug mitdenken und umsetzen.

Empfehlungen:

Stärkere Authentifizierung von Arbeitgebenden: Betrüger kapern häufig echte Unternehmensprofile oder geben sich als Recruiter aus, um Jobsuchende zu täuschen. Jobplattformen sollten daher verpflichtend auf Multifaktor-Authentifizierung (MFA) sowie verifizierte ID1-Funktionen über Entra ID für Arbeitgeberkonten setzen. So wird es für Unbefugte deutlich schwieriger, legitime Profile zu übernehmen.

Erkennung KI-gestützter Bewerbungsbetrügereien: Unternehmen sollten Technologien zur Deepfake-Erkennung einsetzen, um manipulierte Vorstellungsgespräche zu erkennen – etwa durch Erkennung von Auffälligkeiten bei Mimik oder Sprachmustern.

Vorsicht bei Angeboten, die »zu gut klingen, um wahr zu sein«: Webseiten und Jobanzeigen sollten auf Echtheit geprüft werden. Hinweise liefern etwa sichere Verbindungen (https) und Tools wie der Tippfehlerschutz.

Keine sensiblen Daten an nicht verifizierte Quellen herausgeben: Seien Sie misstrauisch bei Stellenanzeigen, die Zahlungen fordern, die auf inoffiziellen Kanälen wie SMS, WhatsApp oder privaten Gmail kommunizieren oder die Kontaktaufnahme über private Telefonnummern anfragen.

Verteidigung gegen Angriffe

Mit Microsofts Security Signals gegen Betrug vorgehen

Microsoft arbeitet gezielt daran, KI-gestützten Betrugsversuchen Einhalt zu gebieten – mit intelligenten Erkennungsmodellen auf Basis von maschinellem Lernen. Diese Technologie ermöglicht es Computern, eigenständig Muster in großen Datenmengen zu erkennen – ohne explizite Anweisungen. Diese Muster werden genutzt, um ein umfassendes KI-Modell zu erstellen, das mit hoher Genauigkeit Vorhersagen treffen kann.

Wir haben direkt in unsere Produkte integrierte Sicherheit entwickelt, die Nutzer vor potenziell schädlichem Verhalten warnen und neue Angriffstypen schnell erkennen und verhindern.

Unser Anti-Fraud-Team hat außerdem eine Domain Impersonation Protection entwickelt – einen Schutzmechanismus vor Domain-Imitation. Der Mechanismus greift bereits bei der Erstellung von Domains mithilfe von Deep-Learning-Technologie ein – ein wichtiger Schritt im Kampf gegen betrügerische E-Commerce-Webseiten und gefälschte Stellenangebote. Auch Microsoft Edge unterstützt mit einem Tippfehlerschutz, während auf LinkedIn KI-gestützte Systeme zur Erkennung gefälschter Jobanzeigen zum Einsatz kommen.

ScamSLMer, auch bekannt als »Scareware Blocker«, ist ein wichtiger Schutz in Microsoft Edge. Der Scareware-Blocker schützt Nutzer vor verdächtigen Seiten, die den Vollbildmodus missbrauchen, und hilft Nutzern durch den Austausch von Feedback mit den menschlichen Prüfern des WDS-SmartScreen-Teams und der ML-Cloud. Nach einer beschleunigten Überprüfung werden von Endnutzern gemeldete bösartige Seiten von WDS-SmartScreen blockiert, um andere vor Missbrauch zu schützen.

Microsoft Defender Smartscreen ist ein cloudbasiertes Sicherheits-Feature, das unsicheres Surfverhalten verhindern soll. Smartscreen analysiert Webseiten, Dateien und Anwendungen auf Grundlage ihres Rufs und typischer Verhaltensmuster. SmartScreen ist in Windows und den Edge-Browser integriert und schützt Nutzer vor Phishing-Angriffen, schädlichen Webseiten und potenziell gefährlichen Downloads.

Darüber hinaus arbeitet Microsofts Digital Crimes Unit (DCU) eng mit Partnern aus dem privaten und öffentlichen Sektor zusammen, um die Infrastruktur hinter betrugsbasierten Angriffen zu zerschlagen. In enger Abstimmung mit Strafverfolgungsbehörden weltweit konnten bereits hunderte Festnahmen erzielt und immer härtere Strafen durchgesetzt werden. Die DCU nutzt Erkenntnisse aus vergangenen Maßnahmen gezielt, um Akteure zu bekämpfen die generative KI für bösartige oder betrügerische Zwecke missbrauchen wollen.

Quick Assist und Remotehilfe: Schutz vor Tech-Support-Betrug

Um Tech-Support-Betrug gezielt zu bekämpfen, haben wir in Quick Assist Warnhinweise integriert, die Nutzer informieren, wenn potenziell betrügerische Support-Anfragen eingehen – etwa von Personen, die sich fälschlich als IT-Abteilung oder technischer Support ausgeben.

Windows-User müssen die Sicherheitswarnung lesen und bestätigen, indem sie das entsprechende Kontrollkästchen anklicken, bevor sie jemandem den Fernzugriff auf ihr Gerät gewähren.

Microsoft hat Quick Assist für Windows-Nutzer erheblich durch den Einsatz des Security Signals verbessert. Als Reaktion auf Tech-Support-Scams und andere Bedrohungen blockiert Microsoft derzeit durchschnittlich 4.415 verdächtige Quick-Assist-Verbindungsversuche pro Tag. Das entspricht etwa 5,46  % aller weltweiten Quick-Assist-Sitzungen. Betroffen sind insbesondere Verbindungen mit verdächtigen Eigenschaften, beispielsweise in Verbindung mit böswilligen Akteuren oder nicht verifizierten Verbindungen.

Der stetige Ausbau der Schutzmechanismen in Quick Assist zielt darauf ab, anpassungsfähigen Cyberkriminellen entgegenzuwirken, die früher einzelne Personen mit betrügerischen Verbindungsversuchen ins Visier nahmen, inzwischen jedoch verstärkt Unternehmen mit organisierten Cybercrime-Kampagnen attackieren. Microsofts Maßnahmen haben geholfen, diese Aktivitäten zu unterbinden.

Die Digital-Fingerprinting-Funktion, die KI und maschinelles Lernen nutzt, unterstützt die Schutzmaßnahmen, indem sie Betrugs- und Risikosignale sammelt, die betrügerische Aktivitäten erkennen. Wenn die Signale einen Betrugsversuch feststellen, wird die Quick Assist-Sitzung automatisch beendet.

Für Unternehmen, die sich gegen Tech-Support-Betrug schützen möchten, bietet Remote Help eine weitere wertvolle Ressource für Mitarbeitende. Remote Help ist für die interne Nutzung in Organisationen konzipiert und enthält Funktionen, die sie besonders für den Unternehmenseinsatz geeignet machen.

Durch die Eindämmung von Betrugsversuchen möchte Microsoft die Sicherheit seiner Produkte insgesamt verbessern und Nutzer bestmöglich vor schädlichen Aktivitäten schützen.

Tipps zum Verbraucherschutz

Betrüger nutzen psychologische Druckmittel wie Dringlichkeit, Verknappung, Vertrauen und sozialen Druck, um Verbraucher zu täuschen. Seien Sie hier besonders achtsam:

Spontankäufe – Betrüger setzen auf künstlichen Zeitdruck, etwa mit limitierten Angeboten oder Countdowns, um zu vorschnellen Käufen zu verleiten.
Vorsicht vor gefälschter sozialer Bestätigung – KI generiert gefälschte Bewertungen, Influencer-Empfehlungen und Erfahrungsberichte, die ein Produkt oder Unternehmen seriös erscheinen lassen.
Nicht unüberlegt auf Anzeigen klicken – Viele betrügerische Webseiten verbreiten sich über KI-optimierte Social-Media-Anzeigen. Verbraucher sollten Domainnamen und Bewertungen gegenchecken, bevor sie einen Kauf tätigen.
Zahlungssicherheit beachten – Vermeiden Sie direkte Banküberweisungen oder Zahlungen in Kryptowährungen, da diese keinen Käuferschutz bieten.

Jobsuchende sollten die Seriosität von Arbeitgebern überprüfen, auf typische Warnsignale bei Jobbetrug achten und keine persönlichen oder finanziellen Daten an nicht verifizierte Unternehmen weitergeben:

Arbeitgeber überprüfen – Nutzen Sie Plattformen wie LinkedIn, Glassdoor oder die offiziellen Firmenwebseite, um die Echtheit des Arbeitgebers zu bestätigen.
Typische Warnzeichen erkennen – Wenn ein Jobangebot Zahlungen im Voraus für Schulungsunterlagen, Zertifikate oder Hintergrundprüfungen verlangt, handelt es sich sehr wahrscheinlich um Betrug. Auch unrealistisch hohe Gehälter oder Remote-Stellen ohne jegliche Erfahrung sollten mit Vorsicht betrachtet werden. E-Mails von kostenlosen Domains (z. B. johndoehr@gmail.com statt hr@unternehmen.com) sind ebenfalls ein typisches Merkmal betrügerischer Angebote.
Vorsicht bei KI-generierten Interviews und Kommunikation – Wenn ein Videointerview merkwürdig wirkt – etwa durch unpassende Lippenbewegungen, roboterhafte Sprache oder seltsame Gesichtsausdrücke – könnte Deepfake-Technologie dahinterstecken. Jobsuchende sollten die Seriosität von Recruitern immer über die offizielle Website des Unternehmens verifizieren, bevor sie auf ein Gespräch eingehen.
Keine persönlichen oder finanziellen Daten preisgeben – Geben Sie unter keinen Umständen Informationen wie Sozialversicherungsnummern, Bankverbindungen oder Passwörter an nicht verifizierte Arbeitgeber weiter.

Microsoft ist Mitglied der Global Anti-Scam Alliance (GASA). Ziel dieser Allianz ist es, Regierungen, Strafverfolgungsbehörden, Verbraucherschutzorganisationen, Finanzaufsichtsbehörden und -anbieter, Marken- und Produktschutzagenturen, soziale Netzwerke, Internetdienstanbieter sowie Cybersicherheitsunternehmen zusammenzubringen, um Wissen auszutauschen und Verbraucher besser vor Betrug zu schützen.

Empfehlungen:

Remote Help: Microsoft empfiehlt den Einsatz von Remote Help anstelle von Quick Assist für den internen IT-Support. Remote Help ist speziell für die interne Nutzung innerhalb einer Organisation konzipiert und verfügt über Funktionen, die vor Tech-Support-Betrug schützen. Remote Help wurde so entwickelt, dass es ausschließlich innerhalb des jeweiligen Mandanten einer Organisation verwendet werden kann – und bietet damit eine sicherere Alternative zu Quick Assist.
Digital Fingerprinting: Unsere Funktion für Digital Fingerprinting erkennt bösartiges Verhalten und kann dieses konkret auf bestimmte Personen zurückführen. Das hilft dabei, unbefugte Zugriffe zu überwachen und zu verhindern.
Blockierung von Vollzugriffsanfragen: Quick Assist zeigt jetzt Sicherheitswarnungen an und verlangt von Nutzenden, dass sie per Checkbox das Sicherheitsrisiko beim Teilen ihres Bildschirms aktiv bestätigen. Diese Maßnahme erzeugt einen hilfreichen »Sicherheits-Widerstand«, der besonders dann greift, wenn Nutzer abgelenkt oder im Multitasking sind – und sorgt so für einen zusätzlichen Moment der Aufmerksamkeit vor der Autorisierung.

Der Beitrag ist eine Übersetzung des Microsoft Security Blog-Artikels, den Sie hier im Original lesen können: Cyber Signals Issue 9 | AI-powered deception: Emerging fraud threats and countermeasures | Microsoft Security Blog.

Wir verteidigen alle gemeinsam.

Zwischen April 2024 und April 2025 hat Microsoft:

Betrugsversuche im Wert von 4 Mrd. US-Dollar vereitelt

49.000 betrügerische Partneranmeldungen abgelehnt

etwa 1,6 Mio. Bot-Anmeldeversuche pro Stunde blockiert

1309 Artikel zu „Betrug KI“

News | IT-Security | Künstliche Intelligenz | Tipps

KI-generierten Betrug verhindern: Eine Herausforderung unserer Zeit

19. Februar 2025

Seit dem Aufkommen von generativer KI vor zwei Jahren beschäftigt sie die Fantasie der Menschen und durchdringt immer mehr Bereiche des Lebens – klar, mit zahlreichen Vorteilen, aber auch neuen Risiken. Auch für 2025 sehen die Sicherheitsforscher von Trend Micro KI als wesentlichen Antrieb für kriminelle Machenschaften. KI-generierter Betrug entwickelt sich rasant weiter und ist…

Der Beitrag ist eine Übersetzung des Microsoft Security Blog-Artikels, den Sie hier im Original lesen können: Cyber Signals Issue 9 | AI-powered deception: Emerging fraud threats and countermeasures | Microsoft Security Blog.

Wir verteidigen alle gemeinsam.

Zwischen April 2024 und April 2025 hat Microsoft:

Betrugsversuche im Wert von 4 Mrd. US-Dollar vereitelt

49.000 betrügerische Partneranmeldungen abgelehnt

etwa 1,6 Mio. Bot-Anmeldeversuche pro Stunde blockiert

1309 Artikel zu „Betrug KI“