Betrug mit Deep Fake: die Schattenseite der künstlichen Intelligenz

https://pixabay.com/de/

In den letzten Jahren waren Fake-News eine große Sorge. Es wird angenommen, dass diese Falschmeldungen eine wichtige Rolle bei Wahlprozessen wie den US-Präsidentschaftswahlen 2016 und dem Referendum über den Rückzug des Vereinigten Königreichs aus der EU im selben Jahr gespielt haben.

 

Deep Fakes sind der Einsatz künstlicher Intelligenz, um vermeintlich reale Videos und Audioaufnahmen von Menschen zu erstellen und zu bearbeiten. Um dies zu erreichen, verwenden Deep Fakes »Generative Adversarial Networks« (GANs), eine Art Algorithmus, der aus bestehenden Datensätzen neue Daten erzeugen kann. So kann GAN Tausende von Aufnahmen einer Personenstimme analysieren und daraus eine vollkommen neue Audiodatei erstellen, die genauso klingt und die gleichen Sprachmuster verwendet. Die Beunruhigung um diese Technologie liegt in der Tatsache, dass sie dazu genutzt werden könnte, gefälschte Videos und Aufzeichnungen von Politikern und anderen Persönlichkeiten des öffentlichen Lebens zu verbreiten. So könnte beispielsweise ein Deep Fake eines Politikers, der eine rassistische Rede hält, das Ergebnis einer Wahl beeinflussen oder sogar zu gewalttätigen Ausschreitungen führen.

Die zunehmende Nutzung von KI-basierten Tools hat seine Vor- und Nachteile. Auf der einen Seite bietet es Raum für Entdeckungen und Kreativität. Auf der anderen Seite erlaubt es auch Verbrechen, Täuschung und Betrug.

 

Im März 2019 haben sich Kriminelle genau eines solchen Tools bedient. Eine kommerzielle, sprachgenerierende KI-Software gab sich als Geschäftsführer einer deutschen Muttergesellschaft mit Besitz eines britischen Energieunternehmens aus. Durch manipulative Sprach-Technologie ist es den Angreifern gelungen, das bekanntlich deutsche Akzent- und Stimmmuster des Geschäftsführers zu imitieren. So konnte der Vorstandsvorsitzende des Unternehmens getäuscht und dazu gebracht werden, innerhalb einer Stunde den Betrag in Höhe von 243.000 Dollar an einen ungarischen Lieferanten zu überweisen. Es wurde mehrfach versucht, auch weitere Betrugs-Überweisungen in ähnlicher Form zu inszenieren.

Wie sich herausstellte, wurden der vom Geschäftsführer nach Ungarn überwiesene Betrag schließlich nach Mexiko und an weitere Standorte transferiert. Behörden konnten bislang keine verantwortliche Person oder Gruppe ausmachen. Der Name des Unternehmens und der beteiligten Personen wurden nicht veröffentlicht, da aktuell ermittelt wird.

 

Dies ist der erste Fall, der über KI-basierten Sprachbetrug »Voice Phishing« berichtet

Solche Angriffe sind nur der Anfang dessen, was in Zukunft große Schwierigkeiten für Unternehmen und Organisationen bedeuten könnte. Es ist unwahrscheinlich, dass dies ein Einzelfall bleibt. Im Gegenteil: Sie werden an Häufigkeit gewinnen, sobald Social-Engineering-Angriffe erfolgreich sind. Die Nachahmung von Stimmen erhöht zudem die Gefahr, dass Angreifer private Informationen eines Betroffenen erfassen und diese für weitere Zwecke missbrauchen.

 

Herr Josu Franco, Technologie- und Strategieberater von Panda Security, zitierte Edward Osborne Wilson, »the father of sociobiology« mit den folgenden Worten: »Das eigentliche Problem der Menschheit? Wir haben paläolithische Emotionen, mittelalterliche Institutionen und göttliche Technologien. Es ist außerordentlich gefährlich, da sich diese Form der Bedrohung zu einer allgemeinen Krise entwickeln könnte.«

 

Obwohl der sogenannte »Sprachbetrug« nichts Neues ist, ist dieser Vorfall der erste seiner Art mit Deep-Fake-Technologie. Zwischen 2013 und 2017 stiegen die Vishing-Vorfälle (Voice Phishing) um 350 %. Cybersicherheitsexperten befürchten, dass dieser Vorfall der Beginn eines neuen cyberkriminellen Trends sein könnte, künstliche Intelligenz zu missbrauchen.

 

CyberScams: eine wachsende Bedrohung

Die Bestrebungen von Cyberkriminellen, Unternehmen zu betrügen, haben deutlich zugenommen. Die finanziellen Schäden aufgrund von BEC-Betrug (Business E-Mail Compromise) haben sich zwischen 2017 und 2018 verdoppelt. Wir sehen regelmäßig Schlagzeilen im Zusammenhang mit dieser cyberkriminellen Taktik. Vor Kurzem wurden 281 Personen nach Deep-Fake-Betrug verhaftet. Toyota gab bekannt, dass eine Tochtergesellschaft des Unternehmens 37 Millionen Dollar durch diese Betrugsform verloren hatte.

 

Künstliche Intelligenz, für Gut und Böse

Das hier gezeigte Beispiel zeigt zwar, dass künstliche Intelligenz zur Bekämpfung von Cyberkriminalität eingesetzt werden kann, aber auch, um sie zu stoppen. Deep Learning und Machine Learning sind wichtig für die Automatisierung der Erkennung von Anomalien und Cyberbedrohungen, die die IT-Systeme eines jeden Unternehmens gefährden können. Cyberkriminelle sind immer auf der Suche nach neuen Techniken, um in die Netzwerke von Unternehmen zu gelangen, Unternehmensdaten zu stehlen und Geld zu verdienen. Aus diesem Grund ist es wichtig, über die neuesten Cybersicherheitstrends auf dem Laufenden zu bleiben.

Eine moderne, dynamische Cybersecurity-Lösung kann den Human Factor in der IT-Sicherheit minimieren – das Risiko Mensch lässt sich jedoch nie ganz ausschließen.

 

Textquelle: https://pandanews.de/audio-deepfake-gefaelschte-sprach-technologie-ist-im-kommen/

 

167 Artikel zu „Fake“

Was tun gegen Fake-Bewertungen im Netz?

Jede fünfte Bewertung auf Amazon.co.uk ist fake. Deutsche Zahlen gibt es noch nicht. Aus diesem Grund hat das Bundeskartellamt im Mai dieses Jahres eine Untersuchung gestartet, aus der hervorgehen soll, wie es auf deutschen Bewertungs- und Handelsplattformen um die Echtheit von Kundenmeinungen steht. Die Ergebnisse lassen noch auf sich warten. Klar ist hingegen, dass das…

Facebook löscht Milliarden Fake Accounts

  2,4 Milliarden monatlich aktive Nutzer hat Facebook im Geschäftsbericht für das erste Quartal 2019 gemeldet. Im selben Zeitraum löschte das Unternehmen 2,2 Milliarden Fake-Accounts. Das geht aus dem Community Standards Enforcement Report hervor. Und dabei erwischt Facebook längst nicht alle gegen die Regeln verstoßenden Profile, wie eine weitere Statista-Grafik zeigt. Die enormen Zahlen gehen…

Deepfakes heben Social-Engineering-Angriffe auf eine neue Gefahrenstufe

Social-Engineering-Angriffe stellen eine hohe Gefahr für die IT-Sicherheit dar, weil sie technische Abwehrmaßnahmen umgehen. Noch problematischer wird die Bedrohungslage durch KI- und ML-basierte Deepfakes, die stark im Kommen sind. Unternehmen müssen ein Bewusstsein für diese Gefahren entwickeln und Führungskräfte wie Mitarbeiter entsprechend sensibilisieren.

Fake-Support via Social Media entwickelt sich zur ernsthaften Bedrohung

Proofpoint hat seine aktuelle Analyse der jüngsten Entwicklungen im Bereich Cybersecurity veröffentlicht. Der Q3 Threat Report für Juli, August und September 2018 zeigt überraschende und teilweise alarmierende Entwicklungen bei Angriffsversuchen von Cyberkriminellen. Der vermutlich erschreckendste Trend ist die Zunahme von Betrugsversuchen durch falschen Support via Social Media. Die Sicherheitsforscher von Proofpoint verzeichneten dabei einen Zuwachs…

Medien: Wo Fake News als Problem gesehen werden

Laut einer aktuellen Eurobarometer-Umfrage im Auftrag der Europäischen Kommission [1] sagen durchschnittlich mehr als acht von zehn EU-Bürgern, dass Fake News oder Informationen, die Fakten falsch darstellen/verdrehen ein Problem in ihrem Land sind. Wie die Grafik zeigt sind es mit 70 Prozent in Belgien die wenigsten. Auch in Luxemburg und Dänemark werden Fake News weniger…

Falschmeldungen: Fake News erkennen und bekämpfen

59 Prozent der Deutschen sind schon mal mit so genannten Fake News konfrontiert worden. Wie man dieser falschen Meldungen Herr werden kann, wird heiß diskutiert. Eine Umfrage der Landesanstalt für Medien NRW zeigt nun, wie die Nutzer bisher mit der Identifizierung von falschen Nachrichten umgehen. So erfahren die meisten (48 Prozent) aus anderen Medien, dass…

Fake News, ein europaweites Problem

85 Prozent der für eine aktuelle Erhebung befragten EU-Bürger glauben, dass verzerrende oder falsche Nachrichten in ihrem Land ein Problem sind. Für die Studie wurden im Auftrag der Europäischen Kommission 26.576 Menschen (ab 15 Jahren) in der gesamten Europäischen Union befragt. Aber können die Europäer auch zwischen echten und falschen Informationen unterscheiden. Nur 14 Prozent…

Fake News: Deutsche Medien sind vertrauenswürdig

75 Prozent der Befragten einer PwC-Umfrage halten deutsche Medien für vertrauenswürdig. Das spiegelt sich auch in den meistgenutzten Informationsquellen zu politischen Ereignissen wieder, wie die Infografik von Statista. So belegen öffentlich-rechtliche Fernsehsender hier mit 71 Prozent den ersten Platz vor Tages- und Wochenzeitungen (53 Prozent). An dritter Stelle stehen Gespräche im Familien-, Freundes- oder Kollegenkreis…

Fake Data statt Fake News: 1 von 3 deutschen Verbrauchern verfälscht absichtlich personenbezogene Online-Daten

Am häufigsten fälschen die Deutschen ihre Telefonnummer und ihr Geburtsdatum. Die globale Studie im Überblick Die Einführung neuer Datenschutzvorschriften steht bevor und die Verbraucher achten zunehmend darauf, was mit ihren Informationen geschieht. Vor diesem Hintergrund bewegen sich Sicherheitsexperten häufig auf unbekanntem Terrain und müssen den schwierigen Spagat zwischen Sicherheit und Datenschutz auf der einen Seite…

Fake News finden und bekämpfen

Neues Forschungsprojekt DORIAN: Interdisziplinäres Team entwickelt rechtskonforme Methoden und praxistaugliche Handlungsempfehlungen.   Fake News werden meist zur Stimmungsmache oder gezielten Hetze gegen einzelne Personen verbreitet und können schnell im Internet kursieren. Doch was genau ist eine Fake News und wie lassen sie sich am besten bekämpfen? Mit diesen Fragen beschäftigt sich das im August gestartete…

Die Mehrheit der Wähler erachtet Fake News als Gefahr für die Demokratie

Mehr als die Hälfte der Befragten glaubt, Fake News seien kein neues Phänomen.   Das Marktforschungs- und Beratungsunternehmen YouGov befragte aktuell die deutschen Wähler über deren Nutzung und Wahrnehmung von Medien sowie deren Einschätzung zu Falschmeldungen, den sogenannten Fake News [1]. Am meisten wird der Polizei und dem Bundesverfassungsgericht vertraut. An dritter Stelle folgen dann…