DynAISEC - Adaptive AI/ML for Dynamic Cybersecurity Systems

Die Anwendung von Artificial Inteligence (AI) und Machine Learning (ML) im Bereich der Cybersecurity (AI4SEC) ist von steigender Wichtigkeit für den Schutz unserer digitalisierten Gesellschaft. In der Praxis trifft AI4SEC auf verschiedenste Herausforderungen, die einer raschen Lösung bedürfen.

DynAISEC entwickelt AI4SEC in drei kritischen Aspekten weiter, nämlich 

1. der verbesserten Verfügbarkeit von Daten für das Training von AI/ML Modellen durch die Bereitstellung von synthetisierten Daten,
2. die höhere Robustheit gegen die Dynamik von Cyber-Kriminalität indem adaptives und inkrementelles Lernen eingeführt wird, sowie
3. verbesserte Transparenz, Vertrauen und Usability von AI4SEC-Lösungen durch die Anwendung von Explainable AI-Ansätzen.

Ausgangssituation

Cybersecurity ist unabdingbar für unserer digitale Gesellschaft. Der zunehmende Anteil an mobiler Kommunikation, die Vielzahl an heterogenen, miteinander verbundenen Geräten (Internet of Things (IoT), Smartphones, Machine to Machine (M2M) etc.), die wachsende Zahl an kritischen Infrastrukturen, die das Internet nutzen (z.B. Gesundheitswesen, Finanzwesen, Verwaltung), sowie der gesellschaftliche Umbruch zu „all-remote im Zuge der Corona-Pandemie haben die Entwicklung neuer digitaler Bedrohungen und Angriffe gegen alle möglichen Systeme und Unternehmen weiter befeuert. Deren Bewältigung erfordert daher bessere, effizientere und robustere Ansätze in der Cybersecurity.

Darüber hinaus hat der im letzten Jahrzehnt beachtliche Erfolg von Artificial Intelligence und Machine Learning für verschiedenste datengestützte Probleme eine florierende Forschungslandschaft rund um die Anwendung von AI/ML in der Cybersecurity – AISEC – hervorgebracht. Die Übertragung von AISEC in die Praxis ist jedoch nach wie vor höchst anspruchsvoll.

Ziel

Die überwiegende Anzahl bisheriger AI4SEC-Modelle wird offline trainiert und bleibt im Fall von bisher unbekannten Angriffen (hohe False-Negative-Rate) oder in Szenarien mit dynamischer Baseline (hohe False-Positive-Rate) hinter den Erwartungen zurück.

Um inkrementelles Lernen zu ermöglichen, müssen AI4SEC-Modelle erneut trainiert werden, sobald jüngere Daten zur Verfügung stehen. Wie das umgesetzt werden kann, ist eine offene Forschungsfrage.

Vorgehen

In diesem Projekt wird daher die GenDeX-Technologie erforscht und entwickelt. GenDex ist ein kombinierter Ansatz für adaptive Cybersecurity bestehend aus drei wesentlichen Bestandteilen

1. der automatischen und kontinuierlichen Erzeugung von synthetischen Daten mit generativen Modellen als Eingabedaten für das datengestützte Lernen;
2. dem kontinuierlichen Erkennen von Angriffen und Anomalien durch neue AI4SEC-Modelle, die jüngste Entwicklungen der AI/ML nutzen, sowie die Erkennung von sogenannten „Concept Drifts" (d.h. Änderungen in der Statistik der zugrundeliegenden Daten), um den richtigen Punkt für das Re-Training zu erkennen;
3. die automatische Erklärung von AI4SEC-Entscheidungen bei der Erkennung von Angriffen als auch Concept Drifts, um das Verständnis von und Vertrauen in AI4SEC zu erhöhen sowie schnellere Diagnosen und Entscheidungen zu ermöglichen.

Angestrebte Ergebnisse

Die erwarteten Ergebnisse sind: 

• datengetriebene AI4SEC-Modelle mit adaptiven Fähigkeiten für verbesserte Cybersecurity-Performance (höhere Erkennungsraten bei reduzierten, falschen Alarmen);
• Algorithmen für die automatische Generierung von synthetischen Cybersecurity-Daten für adaptives Re-Training mit Garantien bzgl. der Korrektheit der synthetischen Daten;
• Software-Bibliotheken, die die Erklärung von Modelverhalten und –voraussagen erlauben;
• Prototypen für drei spezifische Szenarien, nämlich In-Network Security (Verbreitung von Malware, IoT-targeted attacks, DDoS-Angriffe), Web-browsing End User Security (Phishing, Fake-Site-Erkennung, Privacy Leaks, Data Exposure von MitarbeiterInnen) sowie In-Device Security von mobilen Geräten (Malware Erkennung auf Smartphones).

Projektleitung

Dr.ⁱⁿ Johanna Ullrich - Fakultät für Information, Forschungsgruppe Security and Privacy

Fakultät für Information, Forschungsgruppe Security and Privacy
Dr.ⁱⁿ Johanna Ullrich
Tel.: +43 (664) 881 915 33
E-Mail: johanna.ullrich@univie.ac.at