Fraunhofer-Gesellschaft

Publica

Hier finden Sie wissenschaftliche Publikationen aus den Fraunhofer-Instituten.

Adversarial machine learning

 
: Ruhlig, Klaus

:
Fulltext urn:nbn:de:0011-n-6023984 (54 KByte PDF)
MD5 Fingerprint: 50cbd651700c50e4349a0428fb049aa0
Created on: 13.4.2021


Europäische Sicherheit & Technik : ES & T 69 (2020), No.9, pp.102
ISSN: 2193-746X
German
Journal Article, Electronic Publication
Fraunhofer INT ()
adversarial examples; maschinelles Lernen

Abstract
Das Fachgebiet des Adversarial Machine Learning beschäftigt sich mit dem Auffinden von potenziellen Sicherheitslücken in Verfahren des maschinellen Lernens (ML) und der Entwicklung von geeigneten Gegenmaßnahmen diesbezüglich. So können beispielsweise manche ML-Verfahren durch subtile Veränderungen der Bildpunkte eines Bildes dazu veranlasst werden, anstatt des eigentlich dargestellten Objekts ein ganz anderes Objekt zu erkennen, obwohl das veränderte Bild für einen Menschen vom ursprünglichen Bild nicht zu unterscheiden ist. Bisher wurden ML-Verfahren dabei typischerweise nicht unter der Annahme entwickelt, dass sie in einer feindlichen Umgebung eingesetzt werden.

: http://publica.fraunhofer.de/documents/N-602398.html