59 Prozent der Deutschen sind schon mal mit so genannten Fake News konfrontiert worden. Wie man dieser falschen Meldungen Herr werden kann, wird heiß diskutiert.

Eine Umfrage der Landesanstalt für Medien NRW zeigt nun, wie die Nutzer bisher mit der Identifizierung von falschen Nachrichten umgehen. So erfahren die meisten (48 Prozent) aus anderen Medien, dass es sich bei Nachrichten um Fake News handelt. 45 Prozent werden allerdings auch selbst tätig und überprüfen dargestellte Fakten und Sachverhalte. Weitere 19 Prozent werden von anderen Nutzern oder Freunden darauf aufmerksam gemacht, dass es sich um Fake News handelt, wie die Grafik zeigt. Hedda Nier

https://de.statista.com/infografik/9891/identifizierung-von-fake-news/

In den letzten Jahren waren Fake-News eine große Sorge. Es wird angenommen, dass diese Falschmeldungen eine wichtige Rolle bei Wahlprozessen wie den US-Präsidentschaftswahlen 2016 und dem Referendum über den Rückzug des Vereinigten Königreichs aus der EU im selben Jahr gespielt haben.

Deep Fakes sind der Einsatz künstlicher Intelligenz, um vermeintlich reale Videos und Audioaufnahmen von Menschen zu erstellen und zu bearbeiten. Um dies zu erreichen, verwenden Deep Fakes »Generative Adversarial Networks« (GANs), eine Art Algorithmus, der aus bestehenden Datensätzen neue Daten erzeugen kann. So kann GAN Tausende von Aufnahmen einer Personenstimme analysieren und daraus eine vollkommen neue Audiodatei erstellen, die genauso klingt und die gleichen Sprachmuster verwendet. Die Beunruhigung um diese Technologie liegt in der Tatsache, dass sie dazu genutzt werden könnte, gefälschte Videos und Aufzeichnungen von Politikern und anderen Persönlichkeiten des öffentlichen Lebens zu verbreiten. So könnte beispielsweise ein Deep Fake eines Politikers, der eine rassistische Rede hält, das Ergebnis einer Wahl beeinflussen oder sogar zu gewalttätigen Ausschreitungen führen.

Die zunehmende Nutzung von KI-basierten Tools hat seine Vor- und Nachteile. Auf der einen Seite bietet es Raum für Entdeckungen und Kreativität. Auf der anderen Seite erlaubt es auch Verbrechen, Täuschung und Betrug.

Im März 2019 haben sich Kriminelle genau eines solchen Tools bedient. Eine kommerzielle, sprachgenerierende KI-Software gab sich als Geschäftsführer einer deutschen Muttergesellschaft mit Besitz eines britischen Energieunternehmens aus. Durch manipulative Sprach-Technologie ist es den Angreifern gelungen, das bekanntlich deutsche Akzent- und Stimmmuster des Geschäftsführers zu imitieren. So konnte der Vorstandsvorsitzende des Unternehmens getäuscht und dazu gebracht werden, innerhalb einer Stunde den Betrag in Höhe von 243.000 Dollar an einen ungarischen Lieferanten zu überweisen. Es wurde mehrfach versucht, auch weitere Betrugs-Überweisungen in ähnlicher Form zu inszenieren.

Wie sich herausstellte, wurden der vom Geschäftsführer nach Ungarn überwiesene Betrag schließlich nach Mexiko und an weitere Standorte transferiert. Behörden konnten bislang keine verantwortliche Person oder Gruppe ausmachen. Der Name des Unternehmens und der beteiligten Personen wurden nicht veröffentlicht, da aktuell ermittelt wird.

Dies ist der erste Fall, der über KI-basierten Sprachbetrug »Voice Phishing« berichtet

Solche Angriffe sind nur der Anfang dessen, was in Zukunft große Schwierigkeiten für Unternehmen und Organisationen bedeuten könnte. Es ist unwahrscheinlich, dass dies ein Einzelfall bleibt. Im Gegenteil: Sie werden an Häufigkeit gewinnen, sobald Social-Engineering-Angriffe erfolgreich sind. Die Nachahmung von Stimmen erhöht zudem die Gefahr, dass Angreifer private Informationen eines Betroffenen erfassen und diese für weitere Zwecke missbrauchen.

Herr Josu Franco, Technologie- und Strategieberater von Panda Security, zitierte Edward Osborne Wilson, »the father of sociobiology« mit den folgenden Worten: »Das eigentliche Problem der Menschheit? Wir haben paläolithische Emotionen, mittelalterliche Institutionen und göttliche Technologien. Es ist außerordentlich gefährlich, da sich diese Form der Bedrohung zu einer allgemeinen Krise entwickeln könnte.«

Obwohl der sogenannte »Sprachbetrug« nichts Neues ist, ist dieser Vorfall der erste seiner Art mit Deep-Fake-Technologie. Zwischen 2013 und 2017 stiegen die Vishing-Vorfälle (Voice Phishing) um 350 %. Cybersicherheitsexperten befürchten, dass dieser Vorfall der Beginn eines neuen cyberkriminellen Trends sein könnte, künstliche Intelligenz zu missbrauchen.

CyberScams: eine wachsende Bedrohung

Die Bestrebungen von Cyberkriminellen, Unternehmen zu betrügen, haben deutlich zugenommen. Die finanziellen Schäden aufgrund von BEC-Betrug (Business E-Mail Compromise) haben sich zwischen 2017 und 2018 verdoppelt. Wir sehen regelmäßig Schlagzeilen im Zusammenhang mit dieser cyberkriminellen Taktik. Vor Kurzem wurden 281 Personen nach Deep-Fake-Betrug verhaftet. Toyota gab bekannt, dass eine Tochtergesellschaft des Unternehmens 37 Millionen Dollar durch diese Betrugsform verloren hatte.

Künstliche Intelligenz, für Gut und Böse

Das hier gezeigte Beispiel zeigt zwar, dass künstliche Intelligenz zur Bekämpfung von Cyberkriminalität eingesetzt werden kann, aber auch, um sie zu stoppen. Deep Learning und Machine Learning sind wichtig für die Automatisierung der Erkennung von Anomalien und Cyberbedrohungen, die die IT-Systeme eines jeden Unternehmens gefährden können. Cyberkriminelle sind immer auf der Suche nach neuen Techniken, um in die Netzwerke von Unternehmen zu gelangen, Unternehmensdaten zu stehlen und Geld zu verdienen. Aus diesem Grund ist es wichtig, über die neuesten Cybersicherheitstrends auf dem Laufenden zu bleiben.

Eine moderne, dynamische Cybersecurity-Lösung kann den Human Factor in der IT-Sicherheit minimieren – das Risiko Mensch lässt sich jedoch nie ganz ausschließen.

Textquelle: https://pandanews.de/audio-deepfake-gefaelschte-sprach-technologie-ist-im-kommen/