Zusammen mit dem BSI untersuchen AQT, d-fine und das Fraunhofer AISEC die „Erweiterte Sicherheitsanalyse des Quantum Machine Learning (QML)“. Die Partner vereinigen dabei tiefe Expertise in Quantenhardware (AQT), quantenmaschinellem Lernen (d-fine und Fraunhofer AISEC) und deren Sicherheitsaspekten (d-fine und Fraunhofer AISEC).
Das Projekt untersucht die Sicherheitsaspekte von Quantum-Machine-Learning-Methoden, einem vielversprechenden Anwendungsfeld immer leistungsfähigerer Quantencomputer. Quantum Machine Learning (QML) nutzt Quantenprinzipien wie Superposition und Verschränkung, um bestimmte ML-Probleme schneller zu lösen, komplexe Muster besser zu erkennen und Optimierungsaufgaben effizienter zu bewältigen, wobei die Technologie noch in der Entwicklung steckt.
Ziel der Untersuchungen ist es, klassische Angriffsvektoren und Verteidigungsstrategien auf ihre Übertragbarkeit auf QML zu prüfen und QML-spezifische Bedrohungen, wie etwa Crosstalk, zu analysieren. Ein Schwerpunkt liegt auf der systematischen Untersuchung verschiedener Kombinationen von QML -Methoden, -Angriffen und -Verteidigungen sowie der Evaluierung relevanter Einflussfaktoren. Die gewonnenen Erkenntnisse sollen dazu beitragen, QML-Methoden von Anfang an sicher zu gestalten und langfristige Risiken besser einzuschätzen. Zu diesen Risiken zählen etwa Anfälligkeiten gegenüber Rauschen und Adversarial Attacks, die Gefahr des unberechtigten Kopierens von Modellen (Model Stealing) sowie potenzielle Privacy-Angriffe, die persönliche oder vertrauliche Informationen offenlegen können.
Insbesondere stehen mehrstufige Angriffe im Fokus: Zunächst ist ein Model-Stealing-Angriff auf Basis von Seitenkanalangriffen geplant, um Informationen über den zu schützenden QML-Schaltkreis – etwa die Aufschlüsselung, wann Daten enkodiert werden und wann Verschränkungsgatter angewendet werden – zu gewinnen und gegebenenfalls ein ähnliches Modell zu trainieren, welches das Zielmodell imitiert. Auf der Grundlage dieser Informationen können unter anderem spezifische Störungen entwickelt werden, um die Integrität der Modell-Ausgabe anzugreifen.
Die gewonnenen Erkenntnisse und Ergebnisse der Experimente werden Ende des Jahres in einem konsolidierten Bericht veröffentlicht und der Allgemeinheit zur Verfügung gestellt.
Cedric Brügmann, QML Experte bei d-fine: "Quantum Machine Learning und insbesondere die damit verbundenen Sicherheitsaspekte sind ein noch junges Forschungsgebiet, das wir auch von naturwissenschaftlicher Seite beleuchten müssen."
Pascal Debus, QML Experte bei Fraunhofer AISEC: "Wenn wir nicht wollen, dass unsere Vision der Quanten-KI zu einem Sicherheitsalptraum wird, müssen wir die Sicherheit von Anfang an als Designprinzip behandeln, nicht als nachträglichen Gedanken."
Juris Ulmanis, Hardware Experte bei AQT: “Um einen sicheren Betrieb von Quantencomputern zu realisieren, sollten diese Aspekte bereits in die ersten Entwürfe der Hardware-Architektur eingebaut werden.”
Verfasst von
Cedric Brügman, QML Expert
d-fine
Pascal Debus, QML Expert
Fraunhofer AISEC
Juris Ulmanis, Hardware Expert
AQT
