Fraunhofer-Gesellschaft

Publica

Hier finden Sie wissenschaftliche Publikationen aus den Fraunhofer-Instituten.

Comparing optimization methods for deep learning in image processing applications

Vergleich von Optimierungsmethoden für Deep Learning in Bildverarbeitungsanwendungen
 
: Geng, A.; Moghiseh, A.; Redenbach, C.; Schladitz, K.

:

Technisches Messen : TM 88 (2021), No.7-8, pp.443-453
ISSN: 0340-837X
ISSN: 0171-8096 (Print)
ISSN: 2196-7113 (Online)
English
Journal Article
Fraunhofer ITWM ()

Abstract
Training a deep learning network requires choosing its weights such that the output minimizes a given loss function. In practice, stochastic gradient descent is frequently used for solving the optimization problem. Several variants of this approach have been suggested in the literature. We study the impact of the choice of the optimization method on the outcome of the learning process at the example of two image processing applications from quite different fields. The first one is artistic style transfer, where the content of one image is combined with the style of another one. The second application is a real world classification task from industry, namely detecting defects in images of air filters. In both cases, clear differences between the results of the individual optimization methods are observed.

 

Während des Trainings eines neuronalen Netzes werden die Gewichte des Netzes so bestimmt, dass die Ausgabe des Netzes die verwendete Verlustfunktion minimiert. Zur Lösung dieses Optimierungsproblems wird in der Praxis häufig das stochastische Gradientenabstiegsverfahren verwendet. In der Literatur finden sich diverse Varianten dieses Ansatzes. In der vorliegenden Arbeit untersuchen wir den Einfluss der Wahl der Optimierungsmethode auf das Training neuronaler Netze. Wir betrachten dazu zwei sehr unterschiedliche Anwendungen aus der Bildverarbeitung. Bei der ersten handelt es sich um die künstlerische Stilübertragung, beider der Inhalt eines Bildes im Stil eines zweiten Bildes dargestellt wird. Als zweite Anwendung betrachten wir ein Klassifikationsproblem aus der industriellen Anwendung, nämlich die Detektion von Defekten in Bildern von Luftfiltern. In beiden Anwendungsbeispielen beobachten wir klare Unterschiede zwischen neuronalen Netzen, die unter Verwendung verschiedener Optimierungsmethoden trainiert wurden.

: http://publica.fraunhofer.de/documents/N-637254.html