Adversarial machine learning

Das Fachgebiet des Adversarial Machine Learning beschäftigt sich mit dem Auffinden von potenziellen Sicherheitslücken in Verfahren des maschinellen Lernens (ML) und der Entwicklung von geeigneten Gegenmaßnahmen diesbezüglich. So können beispielsweise manche ML-Verfahren durch subtile Veränderungen der Bildpunkte eines Bildes dazu veranlasst werden, anstatt des eigentlich dargestellten Objekts ein ganz anderes Objekt zu erkennen, obwohl das veränderte Bild für einen Menschen vom ursprünglichen Bild nicht zu unterscheiden ist. Bisher wurden ML-Verfahren dabei typischerweise nicht unter der Annahme entwickelt, dass sie in einer feindlichen Umgebung eingesetzt werden.