https://www.eco.de/wp-content/uploads/2018/12/KI_Cybersecurity_Diskussionsgrundlage.pdf
Die heutigen IT-Architekturen unserer IT-Systeme, wie Endgeräte, Server, IoT-Geräte und Netzkomponenten sind zunehmend und sich stetig wandelnden Angriffs- und Bedrohungsszenarien ausgesetzt. Die Anforderungen im Bereich Cybersecurity steigen.
»Der Schaden im Bereich IT-/Cybersicherheit ist mit 55 Milliarden Euro im Jahr in Deutschland jetzt schon zu groß, wächst aber kontinuierlich weiter. Wir müssen uns auf die hohen Schäden und die neue Wirklichkeit von Cyberwar professionell einstellen und deutlich mehr und wirkungsvollere Cybersicherheitslösungen einsetzen. Künstliche Intelligenz kann dazu einen wichtigen Beitrag leisten«, erklärte eco Vorstand Prof. Dr. Norbert Pohlmann gestern im Gespräch mit Bundesinnenminister Horst Seehofer anlässlich des diesjährigen Digitalgipfels in Nürnberg.
Cybersicherheitssysteme, die künstliche Intelligenz (KI) berücksichtigen, werden in der Zukunft helfen, deutlich besser die intelligenten Hacker und deren Angriffe zu entdecken, Schäden zu vermeiden und Risiken im gewünschten Digitalisierungsprozess zu minimieren. Mit Hilfe von künstlicher Intelligenz könne die Erkennungsrate von Angriffen im Netzwerk und in ubiquitären IT-Endgeräten (Smartphone, Notebook, Server, IoT, etc.) deutlich erhöht werden, erläutert Pohlmann in einem im Rahmen des Digitalgipfels als Diskussionsgrundlage erarbeiteten Papier zum Thema künstliche Intelligenz und Cybersicherheit. Mögliche Anwendungsszenarien sieht Pohlmann unter anderem in den Bereichen Betrugsschutz im Online-Banking, Malware-Erkennung, Authentifikationsverfahren, IT-Forensik und Spam-Erkennung.
Eine der größten Herausforderung sei es dabei, KI-Anwendungen zu entwickeln, die die informationelle Selbstbestimmung der Nutzer nicht einschränke. Dadurch können Bürger eventuell in ihrer informationellen Selbstbestimmung eingeschränkt werden. Daher müssten bei der Entwicklung von KI-Anwendungen und Algorithmen hohe ethische und datenschutzkonforme Standards berücksichtigt und einbezogen werden, fordert Pohlmann.
Vor dem Hintergrund der zu erwartenden Entwicklung im Bereich der Bedrohungs- und Angriffsszenarien werde es künftig immer wichtiger, frühzeitig ein genaues Lagebild über die aktuelle Bedrohungs- und Angriffslage zu haben. Pohlmann empfiehlt dazu einen organisierten und kontinuierlichen Austausch zwischen staatlichen und privaten Stellen, Organisationen und Unternehmen. »Nur wenn alle Akteure ihre Informationen miteinander teilen und ihre Kräfte bündeln, kann ein aussagekräftiges und umfangreiches Lagebild über den jeweiligen aktuellen und vergangenen IT-Zustand generiert werden. Mit diesem Wissen ist es Wirtschaft, Unternehmen und staatlichen Stellen möglich, ihre aktuelle Gefährdungslage anhand von IT-Sicherheitslagebildern besser einzuschätzen und präventive IT-Sicherheitsmaßnahmen einzuleiten.
Ein im Rahmen des Digitalgipfels als Diskussionsgrundlage von Prof. Pohlmann erarbeitetes Papier zu künstlicher Intelligenz und Cybersicherheit ist abrufbar unter: https://www.eco.de/wp-content/uploads/2018/12/KI_Cybersecurity_Diskussionsgrundlage.pdf
Künstliche Intelligenz und Cybersicherheit
– Eine Diskussionsgrundlage –
Prof. Norbert Pohlmann, Vorstand IT-Sicherheit und Vertrauen
Stand 19.09.2018
Der Bereich Künstliche Intelligenz (KI) hat sich in den vergangenen Jahren kontinuierlich weiterentwickelt und das Technologiefeld gerade in jüngster Zeit enorme Entwicklungen vollzogen. KI-Systeme und -Anwendungen kommen immer häufiger zum Einsatz. Der verstärkte Einsatz solcher Systeme hat die Debatte um den Umgang mit Künstlicher Intelligenz und den Wechselwirkungen für Staat, Wirtschaft und Gesellschaft belebt. Eine der zentralen Herausforderungen sind dabei Fragestellungen nach dem rechtlichen und gesellschaftlichen Ordnungsrahmen für Künstliche Intelligenz.
Die Bundesregierung hat am 18. Juli 2018 Eckpunkte für eine Strategie Künstliche Intelligenz beschlossen. Die Eckpunkte sollen als Grundlage für die Erarbeitung der Strategie dienen und Orientierung für deren Ziele und Handlungsfelder bis zur Verabschiedung der Strategie im Kabinett geben. Im Deutschen Bundestag wurde die Einsetzung Enquetekommission beschlossen, die sich mit dem Thema Künstliche Intelligenz befassen wird.
In diesem Papier des eco – Verband der Internetwirtschaft e.V. soll dargestellt werden, welche Bedeutung die Künstliche Intelligenz (KI) für die Cybersicherheit in Deutschland hat. Es soll als Diskussionsgrundlage für die Einordung, die Anwendungsszenarien und Herausforderungen sowie die Bedeutung vom Künstlicher Intelligenz im Bereich der Cybersicherheit dienen.
Zukunftsfeld Cybersicherheit
Informationstechnik (IT) und das Internet sind Motor und Basis für das Wohlergehen unserer modernen und globalen Informations- und Wissensgesellschaft. Eine wichtige Erkenntnis ist, dass die heutigen IT- Architekturen unserer IT-Systeme, wie Endgeräte, Server, IoT-Geräte und Netzkomponenten zunehmend und sich stetig wandelnden Angriffs- und Bedrohungsszenarien ausgesetzt sind. Auch die Fähigkeiten von Cyberkriminellen und Hackern entwickeln sich kontinuierlich fort und stellen eine Herausforderung für die Cybersicherheit dar. Täglich können wir den Medien entnehmen, wie sich kriminelle Hacker Schwachstellen für erfolgreiche Angriffe zu Nutze machen, Malware installieren, Passwörter sowie Identitäten stehlen, mit Fake News Wahlen beeinflussen, unsere Endgeräte ausspionieren, usw.
Der Schaden im Bereich IT-/Cybersicherheit ist mit 55 Milliarden Euro im Jahr in Deutschland jetzt schon zu groß, wächst aber kontinuierlich weiter. Die Gefahren durch Cyberwar, der Angriff von anderen Staaten und Terroristen auf unsere Kritischen Infrastrukturen, wird immer wahrscheinlicher. Wir müssen uns auf die hohen Schäden und die neue Wirklichkeit von Cyberwar professionell einstellen und deutlich mehr und wirkungsvollere Cybersicherheitslösungen einsetzen. Cybersicherheit ist seit jeher ein Feld, in dem Innovationen sowohl von Angreifern als auch von Verteidigern genutzt werden. Bislang wurden Cyberangriffe und Cyberabwehr hauptsächlich durch Menschen durchgeführt. Bei zukünftigen Szenarien im Bereich der Cybersicherheit ist von einer intelligenten Kombination von Menschen und KI sowohl auf der Angreifer- als auch auf der Verteidigerseite auszugehen.
Cybersicherheitssysteme, die Künstliche Intelligenz (KI) berücksichtigen, werden in der Zukunft helfen, deutlich besser die intelligenten Hacker und deren Angriffe zu entdecken, Schäden zu vermeiden und Risiken im gewünschten Digitalisierungsprozess zu minimieren. Mit Hilfe von Künstlicher Intelligenz kann die Erkennungsrate von Angriffen im Netzwerk und in ubiquitären IT-Endgeräten (Smartphone, Notebook, Server, IoT, etc.) deutlich erhöht werden. Anders gesagt, können die Erkennungsraten von IT- Systemen, die keine Form der Künstlichen Intelligenz verwenden, nicht dauerhaft auf dem gleichen Sicherheits- und Schutzniveau gehalten werden, wenn auch Angreifer Methoden der KI einsetzen, um IT-Systeme anzugreifen. Somit hat Künstliche Intelligenz vermehrt Auswirkungen auf die Cybersicherheitslage, die durch aktuelle Lagebilder aufzeigbar gemacht werden muss.
Eine große Herausforderung auf Verteidigerseite ist, für welche der sehr vielen erkannten sicherheitsrelevanten Ereignisse zusätzliche noch menschliche Analysten notwendig sind. Nicht alle Ereignisse können durch Spezialisten verarbeitet werden, da die Anzahl der Ereignisse die Verarbeitungsfähigkeit und Verarbeitungskapazitäten menschlicher Analysten an ihre Grenzen bringen. Diesen Umstand können Angreifer ausnutzen und die Verteidiger gezielt ablenken, um unbemerkt in das IT-System einzudringen. Künstliche Intelligenz kann dabei helfen, die Ereignisse in Echtzeit zu analysieren und situationsgerecht zu entscheiden, ob ein menschliches Eingreifen überhaupt noch notwendig ist. In anderen Einsatzszenarien bei denen eine Teilautonomie technisch nicht möglich ist und der Mensch zwingend eingebunden werden muss, kann der Einsatz von KI die Aufgaben und Tätigkeiten des Menschen wesentlich unterstützen. Damit werden die vorhandenen Ressourcen gezielter eingesetzt und das IT-Sicherheitsniveau insgesamt erhöht.
Situationsgerecht bedeutet dabei, dass klassische Verfahren auf Basis von Signaturen nur noch unterstützend eingesetzt werden und neuartige, verhaltensbasierte Verfahren, wie fortgeschrittene Anomalie-Erkennung oder Predictive Analysis Einzug halten. Durch den Einsatz von KI können solche Verfahren möglich werden und einen deutlichen Fortschritt für die Cybersicherheit bringen.
Weiterhin profitieren Identitäts- und Zugangsmanagementsysteme von der automatischen Auswertung der Bewegungsdaten von Nutzern, um nur berechtigten Nutzern den Zugriff zu IT-Systemen und Anwendungen zu geben. Die Sammlung, Verarbeitung und Speicherung von personenbezogenen Daten müssen jedoch im Einklang mit den datenschutzrechtlichen Bestimmungen (etwa DSGVO) stehen. Hierbei ist zu beachten, dass die Datenschutzkonformität eine Asymmetrie bei Angriffsszenarien zwischen Verteidiger und Angreifer darstellen kann. Neuartige, passive Identifikations- und Authentifizierungsverfahren können einen Beitrag leisten und zu einer erhöhten Resilienz und Robustheit von IT- Systemen führen. Durch die fehlende Nutzerinteraktion bei dieser Form der Identifizierung und Authentifizierung, beispielsweise durch die Auswertung von Sensordaten im Smartphone, können IT-Systeme sehr einfach sicherer gemacht werden. Aber auch im Bereich der risikobasierten und adaptiven Authentifizierung wird die KI helfen, angemessene IT-Sicherheit situationsbedingt umzusetzen und so die Schäden deutlich zu minimieren.
Einordnung der Künstlichen Intelligenz
Die Wissenschaft »Data Science« beschäftigt sich mit der Extraktion von Wissen aus den Informationen in Daten. Da es immer mehr Daten mit Informationen gibt, kann auch immer mehr Wissen aus den Informationen der Daten abgeleitet werden, insbesondere auch im Bereich der Cybersicherheit.
Dabei setzt »Künstliche Intelligenz« intelligentes Verhalten in Algorithmen um, mit der Zielsetzung automatisiert eine »menschenähnliche Intelligenz« so gut wie möglich nachzubilden. Maschinelles Lernen (Machine Learning/ML) ist ein Begriff für die »künstliche« Generierung von Wissen aus den Informationen in Daten mit der Hilfe von IT-Systemen. In Lernphasen lernen entsprechende ML-Algorithmen aus vielen, diversen Beispielen simple Muster, Strukturen, komplexe Merkmale und Gesetzmäßigkeiten zu erkennen. Daraus entstehende Regeln können auf neue Daten und ähnliche Situationen angewendet werden, in denen die KI beispielsweise entscheiden muss, ob es sich um einen Angriff oder eine legitime Nutzeraktion handelt.
KI im Bereich der Cybersicherheit
Enorme Fortschritte der Leistungsfähigkeit von IT-Systemen machen die (zentrale) Speicherung und Verarbeitung von immer größeren Massen von Daten möglich. Dadurch werden immer umfangreichere Prozesse des maschinellen Lernens in akzeptabler Zeit durchführbar. Die Möglichkeit, die Daten schnell zu transportieren und viele IT-Systeme parallel zu verwenden, steigern diese Leistung enorm durch bspw. viele Prozessoren und moderne Grafikkarten oder auch ganze Cluster von IT-Systemen in der Cloud.
Neben der Entwicklung der technischen Leistungsfähigkeit sind die mit der fortschreitenden Digitalisierung stetig zunehmenden Daten ein relevanter Faktor für den Erfolg von KI. Sowohl die Quantität als auch die Qualität der
Daten steigt durch die verbreitete Nutzung von Sensoren in allen Bereichen. Von der Datenerfassung der genutzten IT-Dienste, die verwendeten IT-Geräte (Smartphone, Notebook, PC, Server, Automobilen, etc.) und deren Kommunikation untereinander, fallen immer mehr sicherheitsrelevante Informationen in Daten an.
Hinzu kommt die Verfügbarkeit effizienterer Algorithmen, die optimiertes Maschine-Learning ermöglichen. Der Gesamtablauf wird optimiert, wie zum Beispiel eine Reduktion der Komplexität durch intelligent gewählte Input- Daten. Es findet ein iterativer Lernprozess der Algorithmen statt. Algorithmen des maschinellen Lernens werden durch diese stetigen Verbesserungen praktisch umsetzbar gemacht und auch für komplexere Daten effizient.
n der weiteren Entwicklung wird Maschinelles Lernen durch Deep Learning noch effektiver. Deep Learning ist eine Spezialisierung des maschinellen Lernens und nutzt vorwiegend komplexere neuronale Netze. Dabei werden zusammenhängende Schichten aus künstlichen Neuronen zur Datenverarbeitung genutzt. Das Potenzial von Deep Learning besteht darin, dass im Vergleich zu traditioneller KI nicht nur effektiver analysiert werden kann, sondern durch den effektiveren Lernprozess der KI auch mit unvollständigen Daten eine Analyse erfolgreich umgesetzt werden kann. So kann durch den ständigen Lernprozess des Deep Learnings eine KI in bis dahin unbekannten Situationen angewandt werden. Ein Nachteil des Deep Learnings ist die fehlende Transparenz des Lernprozesses. Oft sind es sogenannte Black-Box Modelle, in die Daten hineinlaufen, wodurch Entscheidungen/Klassifizierzungen am Ende nicht nachvollziehbar werden. Im Sinne der Transparenz und des Verständnisses müssen White- und Grey-Box-Modelle erforscht werden, um in die Entscheidungsprozesse blicken zu können. Um diese Modelle besser zu verstehen, sollten entsprechende Forschungsvorhaben unterstützt werden.
Lesen Sie weiter im Positionspapier von eco …
https://www.eco.de/wp-content/uploads/2018/12/KI_Cybersecurity_Diskussionsgrundlage.pdf
Tipps zum Thema Cybersicherheit: So schützen Sie sich in 10 Schritten vor Hackern
IoT verändert Sicherheitsdenken: Warum PKI immer wichtiger wird