Fraunhofer-Gesellschaft

Publica

Hier finden Sie wissenschaftliche Publikationen aus den Fraunhofer-Instituten.

Adversarial machine learning

 
: Ruhlig, Klaus

Europäische Sicherheit & Technik : ES & T 69 (2020), Nr.9, S.102
ISSN: 2193-746X
Deutsch
Zeitschriftenaufsatz
Fraunhofer INT ()
adversarial examples; maschinelles Lernen

Abstract
Das Fachgebiet des Adversarial Machine Learning beschäftigt sich mit dem Auffinden von potenziellen Sicherheitslücken in Verfahren des maschinellen Lernens (ML) und der Entwicklung von geeigneten Gegenmaßnahmen diesbezüglich. So können beispielsweise manche ML-Verfahren durch subtile Veränderungen der Bildpunkte eines Bildes dazu veranlasst werden, anstatt des eigentlich dargestellten Objekts ein ganz anderes Objekt zu erkennen, obwohl das veränderte Bild für einen Menschen vom ursprünglichen Bild nicht zu unterscheiden ist. Bisher wurden ML-Verfahren dabei typischerweise nicht unter der Annahme entwickelt, dass sie in einer feindlichen Umgebung eingesetzt werden.

: http://publica.fraunhofer.de/dokumente/N-602398.html