Regierungen und Online-Dienste müssen gegen Desinformationskampagnen vorgehen

Angesichts der bevorstehenden US-Präsidentschaftswahlen und anderer Wahlen auf der ganzen Welt ist die Sicherheit von Wahlen sehr wichtig. Es gibt viele Herausforderungen bei der Sicherheit moderner Wahlen. Desinformation und die absichtliche Verbreitung falscher Informationen sind besonders besorgniserregend, da sie nachweislich das Potenzial haben, Demokratien zu destabilisieren und Misstrauen und Spaltungen in der Öffentlichkeit zu schaffen.

Vertrauen erschüttern

Anzeige

 

Das Ziel der Desinformation besteht nicht notgedrungen darin, die Wertesysteme einer Person vollständig zu verändern und ihre Ansichten über politische Parteien zu ändern. Was auch immer die politischen Ansichten einer Person sind, es ist den Angreifern wahrscheinlich egal – sie versuchen oft, das Vertrauen in das demokratische System und das politische Engagement gänzlich zu untergraben. Was auch immer die Absichten des Angreifers sind, mit verschiedenen Versionen der »Wahrheit« werden die Wähler unweigerlich polarisiert und im Wesentlichen von der Wahl abgehalten. Gruppen in der Bevölkerung vom Wählen abzuhalten, kann wirksamer sein, um eine Wahl zu manipulieren, als sie zu ermutigen, auf eine bestimmte Art und Weise abzustimmen.

Methoden von Desinformationskampagnen

Wir beobachten diese Bedrohungen in verschiedener Form auf der ganzen Welt. Memes, voreingenommene Artikel und unmoralische Werbung in den sozialen Medien sind nur einige der Methoden, die im Rahmen von Desinformationskampagnen eingesetzt werden. Wir haben 2018 Beispiele für Bedrohungsakteure gefunden, die falsche Personas in den sozialen Medien benutzen, um für ihre Inhalte zu werben. Die auf verschiedenen Websites veröffentlichten Inhalte bestehen aus einer Mischung aus Originalinhalten und Nachrichtenartikeln, die sich aus anderen Quellen bedienen und zum Teil verändert wurden. Unsere Untersuchungen zeigen, dass nationalstaatlich unterstützte Desinformationskampagnen immer noch andauern, so zum Beispiel Russland und der Iran, die von der Regierung unterstützte Meinungskampagnen durchführen. Es ist besonders wichtig, darauf hinzuweisen, dass diese Kampagnen nicht nur um die Zeit der Wahlen herum stattfinden, sondern das ganze Jahr über weitergehen und Unwahrheiten in das öffentliche Bewusstsein tragen.

Koordinierte Maßnahmen

Es hat einige Reaktionen seitens der Regierungen auf diese Problematik gegeben, wie die Einrichtung eines parlamentarischen Unterausschusses für Desinformation in Großbritannien, aber das reicht nicht aus. Wir müssen verstehen, wie die Fehler der Vergangenheit in Bezug auf Falschinformationen auch in Zukunft weitergehen werden, wenn nicht die entsprechenden Maßnahmen ergriffen werden. Regierungen und Internet-Plattformen müssen ihre Bemühungen koordinieren, um die sich verändernde Bedrohungslandschaft zu kontrollieren – sei es durch Überprüfung der Fakten, Beseitigung irreführender Inhalte oder strengere Regulierung – um der politischen Desinformation ein Ende zu bereiten. Desinformation darf nicht zu einem akzeptierten Übel moderner Wahlen werden.

 

David Grout, CTO EMEA bei FireEye

 


Falschmeldungen: Fake News erkennen und bekämpfen

Illustration: Absmeier, GDJ, Jimgoba

59 Prozent der Deutschen sind schon mal mit so genannten Fake News konfrontiert worden. Wie man dieser falschen Meldungen Herr werden kann, wird heiß diskutiert.

Eine Umfrage der Landesanstalt für Medien NRW zeigt nun, wie die Nutzer bisher mit der Identifizierung von falschen Nachrichten umgehen. So erfahren die meisten (48 Prozent) aus anderen Medien, dass es sich bei Nachrichten um Fake News handelt. 45 Prozent werden allerdings auch selbst tätig und überprüfen dargestellte Fakten und Sachverhalte. Weitere 19 Prozent werden von anderen Nutzern oder Freunden darauf aufmerksam gemacht, dass es sich um Fake News handelt, wie die Grafik zeigt. Hedda Nier

https://de.statista.com/infografik/9891/identifizierung-von-fake-news/


 

Betrug mit Deep Fake: die Schattenseite der künstlichen Intelligenz

https://pixabay.com/de/

In den letzten Jahren waren Fake-News eine große Sorge. Es wird angenommen, dass diese Falschmeldungen eine wichtige Rolle bei Wahlprozessen wie den US-Präsidentschaftswahlen 2016 und dem Referendum über den Rückzug des Vereinigten Königreichs aus der EU im selben Jahr gespielt haben.

 

Deep Fakes sind der Einsatz künstlicher Intelligenz, um vermeintlich reale Videos und Audioaufnahmen von Menschen zu erstellen und zu bearbeiten. Um dies zu erreichen, verwenden Deep Fakes »Generative Adversarial Networks« (GANs), eine Art Algorithmus, der aus bestehenden Datensätzen neue Daten erzeugen kann. So kann GAN Tausende von Aufnahmen einer Personenstimme analysieren und daraus eine vollkommen neue Audiodatei erstellen, die genauso klingt und die gleichen Sprachmuster verwendet. Die Beunruhigung um diese Technologie liegt in der Tatsache, dass sie dazu genutzt werden könnte, gefälschte Videos und Aufzeichnungen von Politikern und anderen Persönlichkeiten des öffentlichen Lebens zu verbreiten. So könnte beispielsweise ein Deep Fake eines Politikers, der eine rassistische Rede hält, das Ergebnis einer Wahl beeinflussen oder sogar zu gewalttätigen Ausschreitungen führen.

Die zunehmende Nutzung von KI-basierten Tools hat seine Vor- und Nachteile. Auf der einen Seite bietet es Raum für Entdeckungen und Kreativität. Auf der anderen Seite erlaubt es auch Verbrechen, Täuschung und Betrug.

 

Im März 2019 haben sich Kriminelle genau eines solchen Tools bedient. Eine kommerzielle, sprachgenerierende KI-Software gab sich als Geschäftsführer einer deutschen Muttergesellschaft mit Besitz eines britischen Energieunternehmens aus. Durch manipulative Sprach-Technologie ist es den Angreifern gelungen, das bekanntlich deutsche Akzent- und Stimmmuster des Geschäftsführers zu imitieren. So konnte der Vorstandsvorsitzende des Unternehmens getäuscht und dazu gebracht werden, innerhalb einer Stunde den Betrag in Höhe von 243.000 Dollar an einen ungarischen Lieferanten zu überweisen. Es wurde mehrfach versucht, auch weitere Betrugs-Überweisungen in ähnlicher Form zu inszenieren.

Wie sich herausstellte, wurden der vom Geschäftsführer nach Ungarn überwiesene Betrag schließlich nach Mexiko und an weitere Standorte transferiert. Behörden konnten bislang keine verantwortliche Person oder Gruppe ausmachen. Der Name des Unternehmens und der beteiligten Personen wurden nicht veröffentlicht, da aktuell ermittelt wird.

 

Dies ist der erste Fall, der über KI-basierten Sprachbetrug »Voice Phishing« berichtet

Solche Angriffe sind nur der Anfang dessen, was in Zukunft große Schwierigkeiten für Unternehmen und Organisationen bedeuten könnte. Es ist unwahrscheinlich, dass dies ein Einzelfall bleibt. Im Gegenteil: Sie werden an Häufigkeit gewinnen, sobald Social-Engineering-Angriffe erfolgreich sind. Die Nachahmung von Stimmen erhöht zudem die Gefahr, dass Angreifer private Informationen eines Betroffenen erfassen und diese für weitere Zwecke missbrauchen.

 

Herr Josu Franco, Technologie- und Strategieberater von Panda Security, zitierte Edward Osborne Wilson, »the father of sociobiology« mit den folgenden Worten: »Das eigentliche Problem der Menschheit? Wir haben paläolithische Emotionen, mittelalterliche Institutionen und göttliche Technologien. Es ist außerordentlich gefährlich, da sich diese Form der Bedrohung zu einer allgemeinen Krise entwickeln könnte.«

 

Obwohl der sogenannte »Sprachbetrug« nichts Neues ist, ist dieser Vorfall der erste seiner Art mit Deep-Fake-Technologie. Zwischen 2013 und 2017 stiegen die Vishing-Vorfälle (Voice Phishing) um 350 %. Cybersicherheitsexperten befürchten, dass dieser Vorfall der Beginn eines neuen cyberkriminellen Trends sein könnte, künstliche Intelligenz zu missbrauchen.

 

CyberScams: eine wachsende Bedrohung

Die Bestrebungen von Cyberkriminellen, Unternehmen zu betrügen, haben deutlich zugenommen. Die finanziellen Schäden aufgrund von BEC-Betrug (Business E-Mail Compromise) haben sich zwischen 2017 und 2018 verdoppelt. Wir sehen regelmäßig Schlagzeilen im Zusammenhang mit dieser cyberkriminellen Taktik. Vor Kurzem wurden 281 Personen nach Deep-Fake-Betrug verhaftet. Toyota gab bekannt, dass eine Tochtergesellschaft des Unternehmens 37 Millionen Dollar durch diese Betrugsform verloren hatte.

 

Künstliche Intelligenz, für Gut und Böse

Das hier gezeigte Beispiel zeigt zwar, dass künstliche Intelligenz zur Bekämpfung von Cyberkriminalität eingesetzt werden kann, aber auch, um sie zu stoppen. Deep Learning und Machine Learning sind wichtig für die Automatisierung der Erkennung von Anomalien und Cyberbedrohungen, die die IT-Systeme eines jeden Unternehmens gefährden können. Cyberkriminelle sind immer auf der Suche nach neuen Techniken, um in die Netzwerke von Unternehmen zu gelangen, Unternehmensdaten zu stehlen und Geld zu verdienen. Aus diesem Grund ist es wichtig, über die neuesten Cybersicherheitstrends auf dem Laufenden zu bleiben.

Eine moderne, dynamische Cybersecurity-Lösung kann den Human Factor in der IT-Sicherheit minimieren – das Risiko Mensch lässt sich jedoch nie ganz ausschließen.

 

Textquelle: https://pandanews.de/audio-deepfake-gefaelschte-sprach-technologie-ist-im-kommen/

 

 


Fake News finden und bekämpfen

Neues Forschungsprojekt DORIAN: Interdisziplinäres Team entwickelt rechtskonforme Methoden und praxistaugliche Handlungsempfehlungen.

Fake News werden meist zur Stimmungsmache oder gezielten Hetze gegen einzelne Personen verbreitet und können schnell im Internet kursieren. Doch was genau ist eine Fake News und wie lassen sie sich am besten bekämpfen?

Mit diesen Fragen beschäftigt sich das im August gestartete und vom Bundesministerium für Bildung und Forschung geförderte Projekt DORIAN. Juristen, Medienwissenschaftler, Psychologen, Informatiker und Journalisten suchen gemeinsam nach Möglichkeiten, um Fake News automatisiert zu erkennen und ihrer Verbreitung entgegenzuwirken. Ziel des Projekts ist die Entwicklung von Methoden und Handlungsempfehlungen, die praxistauglich sind und zugleich den Datenschutz und die Meinungsfreiheit wahren. Projektpartner sind das Fraunhofer-Institut für Sichere Informationstechnologie, die Hochschule der Medien Stuttgart, die Universität Duisburg-Essen und die Universität Kassel. Weitere Informationen zum Projekt finden sich im Internet unter www.sit.fraunhofer.de/dorian

Soziale Netzwerke und Nachrichtenportale im Internet sind zu einer wichtigen Plattform für gesellschaftliche und politische Kommunikation geworden. Koordinierte Fake-News-Kampagnen setzen diese Plattformen zweckentfremdet ein, um manipulierte Nachrichten zu verbreiten. Sie zielen darauf, die öffentliche Stimmung in eine bestimmte Richtung zu lenken, sie sollen als Massenpropaganda wirken oder bestimmte Gruppen gezielt beeinflussen.

Mechanismen zur Aufdeckung und Bekämpfung von Falschmeldungen

Oft ist es aufwendig, Fake News als solche zu entlarven. Bislang gibt es nur wenige Gegenmaßnahmen, meist von Betreibern großer Internetplattformen wie Google oder Facebook sowie Medienhäusern, die Faktencheck-Portale betreiben. Das Projekt DORIAN hat es sich zum Ziel gesetzt, Mechanismen zur Aufdeckung und Bekämpfung von Falschmeldungen zu entwickeln, die gleichzeitig das Recht auf freie Meinungsäußerung sowie die Presse- beziehungsweise Zensurfreiheit und den Datenschutz berücksichtigen. Konkret erstellen die Projektpartner zum Beispiel Handlungsempfehlungen für Bürger, Behörden und Medienhäuser.

»Im Projekt DORIAN untersuchen wir Meinungsmanipulation mit einem umfassenden interdisziplinären Ansatz – damit wollen wir mögliche technische Lösungen zur automatisierten Erkennung und Bekämpfung von Desinformation und Meinungsmanipulation im Internet aufzeigen, die grundrechtskonform sind und nicht zensierend wirken sollen«, erklärt Dr. Michael Kreutzer, Projektleiter am Fraunhofer SIT. Prof. Dr. Martin Steinebach, ebenfalls Fraunhofer SIT, ergänzt: »Wir bringen große Kompetenz im Bereich technischer Datenschutz, Bild- und Textforensik, der Computerlinguistik sowie dem Internet als Infrastruktur in das Projekt ein.«

Rrechtliche Anforderungen

Die rechtlichen Anforderungen im Projekt DORIAN untersucht ein Wissenschaftlerteam der Universität Kassel unter Leitung von Prof. Dr. Alexander Roßnagel. »Wir schauen, in welchen Fällen gegen Fake News rechtlich vorgegangen werden kann und untersuchen, ob der bestehende Rechtsrahmen hierfür ausreicht oder erweitert werden sollte«, sagt Roßnagel, der mit seinem Team auch die Konformität von möglichen Aufdeckungs- und Bekämpfungsmaßnahmen mit dem Datenschutz untersucht.

Medienpsychologie

Das Wissenschaftlerteam der Universität Duisburg-Essen steuert neueste Erkenntnisse aus der Medienpsychologie bei. »Wir untersuchen Prozesse der Meinungsbildung in sozialen Medien sowie Mechanismen zur Weiterleitung von Informationen im Internet«, erklärt Prof. Dr. Nicole Krämer. Ihr Medienpsychologie-Team wird in Studien untersuchen, wie Menschen Falschinformationen wahrnehmen, ob sie in der Erinnerung – selbst nach deren Aufdeckung – haften bleiben und unter welchen Umständen die Bürgerinnen und Bürger Warnungen vor Fake News beachten.

Sammlung von Fake News

Die Hochschule der Medien (HDM) in Stuttgart wird das Untersuchungsmaterial erheben, also eine Sammlung von Fake News erstellen. »Wir steuern zudem Erkenntnisse über politische Kommunikation, journalistische Qualität, Datenjournalismus sowie redaktionelle Abläufe bei«, ergänzen Prof. Dr. Katarina Bader und Prof. Dr. Lars Rinsdorf von der HDM.

Das Projekt DORIAN – Desinformation aufdecken und bekämpfen – läuft bis 2019 und hat ein Gesamtfördervolumen von über einer Million Euro. Mehr Informationen unter www.sit.fraunhofer.de/dorian

 

 

Ziel des Forschungsprojekts Dorian ist die Entwicklung von rechtskonformen Methoden und praxistauglichen Handlungsempfehlungen gegen Fake News.

[1] Die Fraunhofer-Gesellschaft ist die führende Organisation für angewandte Forschung in Europa. Unter ihrem Dach arbeiten 67 Institute und Forschungseinrichtungen an Standorten in ganz Deutschland. 24.000 Mitarbeiterinnen und Mitarbeiter bearbeiten das jährliche Forschungsvolumen von mehr als 2,1 Milliarden Euro. Davon fallen über 1,8 Milliarden Euro auf den Leistungsbereich Vertragsforschung. Über 70 Prozent dieses Leistungsbereichs erwirtschaftet die Fraunhofer-Gesellschaft mit Aufträgen aus der Industrie und mit öffentlich finanzierten Forschungsprojekten. Die internationale Zusammenarbeit wird durch Niederlassungen in Europa, Nord- und Südamerika sowie Asien gefördert.

 

 

27 Artikel zu „Desinformation“

Cyberbedrohungen 2020: Fortgeschrittene KI und intelligente Bedrohungs-Desinformation

Unternehmen die sich proaktiv vor Angriffen schützen wollen, sollten bei ihrer Security-Strategie auf Integration, fortgeschrittene KI und anwendbare Threat Intelligence setzen.   Fortinet hat die Prognosen von FortiGuard Labs zur Bedrohungslandschaft für 2020 veröffentlicht. Die Analysten von Fortinet zeigen darin Methoden, die Cyberkriminelle in der nahen Zukunft voraussichtlich einsetzen werden. Zudem verraten sie wichtige Strategien,…

Auf dem Weg zur transparenten KI

  Im Schach, Poker und Go hat künstliche Intelligenz (KI) die Menschheit längst überflügelt. Auch Röntgenbilder oder Aktienkurse analysiert sie bereits ähnlich gut – und teilweise sogar besser – als ein Experte aus Fleisch und Blut. Doch auch die präzisesten KI-basierten Analysen haben einen Makel: Bis jetzt ist es für einen Menschen oft kaum nachvollziehbar,…

BIP-Wachstum: Coronavirus senkt globales Wirtschaftswachstum

Noch kann niemand sagen, in welchem Umfang der Coronavirus-Ausbruch die Weltwirtschaft beeinflussen wird, aber schon jetzt hat die Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD) ihre Prognose für das laufende Jahr heruntergeschraubt. Der aktuelle Interim Economic Assessment Report der Organisation taxiert das weltweite BIP-Wachstum auf 2,4 Prozent – das sind 0,5 Prozentpunkte weniger als im November 2019. Für Deutschland gehen…

Wenn die künstliche Intelligenz zum TÜV muss

Künstliche Intelligenz: TÜViT entwickelt gemeinsam mit Fraunhofer AISEC einen Ansatz zur Zertifizierung von KI-Algorithmen. Innovatives Prüfverfahren soll die Vertrauenswürdigkeit von KI-Lösungen messbar machen.   Maschinelle Lernverfahren und Systeme der künstlichen Intelligenz (KI) werden bereits heute in zahlreichen IT-Infrastrukturen und vernetzten Endgeräten als zentraler Baustein zur Analyse, Prognose und Steuerung eingesetzt, gleichzeitig wird in Deutschland zunehmend…

Wie sich Machine Learning und künstliche Intelligenz im Laufe der Zeit (nicht) verändert haben

Machine Learning, künstliche Intelligenz, Data Science, Data Mining, … Diese Begriffe haben sich im Laufe der Jahre gewandelt, aber wie viel ist wirklich neu und was gibt es eigentlich schon seit Jahrzehnten? Wird es maschinelles Lernen in 20 Jahren noch geben oder ist der Boom eines Tages einfach vorbei? Wo stehen wir aktuell in der…

Cyberbedrohungen 2020 – Effektive Maßnahmen gegen aktuelle Bedrohungstrends erforderlich

Durch die permanente Analyse aktueller Cyberangriffe ist Unit42, das Malware-Analyse-Team von Palo Alto Networks stets am Puls der Zeit, wenn es um Angriffe auf die IT von Unternehmen geht. Anna Chung, Principal Researcher bei Unit 42 von Palo Alto Networks gibt vor diesem Hintergrund einen fundierten Ausblick auf kommende Bedrohungen und erklärt, wie Unternehmen diesen…

2020: Daten werden sich in Bilanzen niederschlagen, KI muss ethisch und effizient werden

Technologisch hat sich in den vergangenen Jahren extrem viel getan: verschiedene Cloud-Modelle, maschinelles Lernen und KI sowie Flash-Speicher und andere neue Technologien. Nun geht es jedoch darum, ob und wie diese Technologien in den realen Unternehmensalltag Einzug halten, und welche Folgen beziehungsweise Potenziale dies für Unternehmen schafft.   Markus Grau, Principal Systems Engineering im EMEA…

Whitepaper zu konsistenter Bedrohungsjagd – Umgebungen einheitlich betrachten um Eindringlinge zu erkennen

Das SANS Institute hat im Auftrag von Vectra ein Whitepaper mit dem Titel »Threat Hunting with Consistency« veröffentlicht. Das Whitepaper stellt einen alternativen Ansatz für die Bedrohungssuche vor. Dieser Ansatz setzt voraus, die MITRE ATT&CK Matrix als Vokabular zu verwenden, um den Kontext zu umreißen. Dies bedeutet, zunächst anhand von übergeordneten Begriffen für bestimmte Verhaltensweisen…

Cyber Readiness Report 2019: Cybergefahr in Deutschland steigt im Jahresvergleich

Digitalisierung und Vernetzung, zunehmende Aufklärung vor Cybergefahren und zahlreiche medienwirksame Hackerangriffe – und dennoch: Viele deutsche Unternehmen vernachlässigen nach wie vor ihr Cyber-Risikomanagement. Die Zahlen des Hiscox Cyber Readiness Reports 2019 sprechen eine deutliche Sprache und sind alarmierend. Die überwiegende Mehrheit (70 %) der befragten deutschen Unternehmen zählt noch immer zu den sogenannten Cyberanfängern. Auf…

Trend Radar: KI ist gewinnbringend, braucht aber einen strategischen Ansatz

Nach dem erfolgreichen KI-Start folgt jetzt die Kopfarbeit. Wie weit sind Unternehmen mit dem Einsatz von künstlicher Intelligenz? In welchen Bereichen können sie KI schon heute gewinnbringend einsetzen? Wie wichtig ist ein strategischer Ansatz?   Im Rahmen des Pega Trend Radar hat Pegasystems den Einsatz künstlicher Intelligenz (KI) in deutschen Unternehmen beleuchtet. Die Ergebnisse der…

KI-Ausblick 2020: Die 5 wichtigsten KI-Trends für Unternehmen

Künstliche Intelligenz (KI), Machine Learning und Data Analytics sind inzwischen mehr als bloße Hype-Themen – diese Technologien durchdringen verschiedenste Geschäftsbereiche und beeinflussen unseren Alltag schon heute massiv. Mit der zunehmenden Verbreitung von KI in fast allen Branchen wachsen neben den Einsatzgebieten auch die Herausforderungen. OpenText zeigt, in welche Richtung die Entwicklung geht und welche Trends…

ERP 2020: Elf Trends, mit denen sich der Mittelstand befassen sollte

Jedes Unternehmen hat seine Besonderheiten – dennoch sind die Herausforderungen ähnlich. Digitalisierung und ERP-Modernisierung zum Beispiel. An diesen 11 Themen kommt kein Mittelständler mehr vorbei. Einige der Trendlisten, die in den kommenden Tagen und Wochen das Licht der Welt erblicken, zeugen vor allem von der sprachlichen Kreativität erfinderischer Berater und Analysten. Ihr praktischer Nutzwert für…