Fraunhofer-Gesellschaft

Publica

Hier finden Sie wissenschaftliche Publikationen aus den Fraunhofer-Instituten.

SVM and boosting. One class

 
: Rätsch, G.; Schölkopf, B.; Mika, S.; Müller, K.-R.

:
urn:nbn:de:0011-b-731826 (890 KByte PDF)
MD5 Fingerprint: 2d7cf80d6f8cddb9f86b5aba8392ac32
Erstellt am: 07.08.2002


Sankt Augustin: GMD Forschungszentrum Informationstechnik, 2000, 36 S.
GMD Report, 119
Englisch
Bericht, Elektronische Publikation
Fraunhofer FIRST ()
Klassifizierung; Barrier Optimierung; boosting; support vector machine; classification; outlier detection

Abstract
In dieser Arbeit zeigen wir die Äquivalenz der mathematischen Programme von Support Vector Maschinen (SVM) und Boosting. Jeder SV Algorithmus kann somit in einen boosting-ähnlichen Algorithmus übersetzt werden. Ausgehend von dem one-class SV Algorithmus, illustrieren wir diesen Zusammenhang anhand eines neuen (boosting-ähnlichen) Algorithmus: one-class Leveraging. Dabei werden sogenannte Barrier-Methoden aus der Optimierungstheorie benutzt, um die neuen Algorithmen zu motivieren und ihre Konvergenz zu beweisen. Unser Ein-Klassen-Algorithmus liefert als Ergebnis eine Konvex-Kombination von Funktionen, die charakterisiert ob ein gegebener Testpunkt von der den Trainingsdaten zugrundeliegenden Verteilung generiert wurde oder nicht. Simulationen zeigen die Anwendbarkeit unserer Techniken.

 

We show via an equivalence of mathematical programs that a Support Vector (SV) algorithm can be translated into an equivalent boosting-like algorithm and vice versa. We exemplify this translation procedure for a new algorithm - one-class Leveraging - starting from the one-class Support Vector Machines (1-SVM). This is a first step towards unsupervised learning in a Boosting framework. Building on so-called barrier methods known from the theory of constrained optimization, it returns a function, written as a convex combination of basis hypotheses, that characterizes whether a given test point is likely to have been generated from the distribution underlying the training data. Simulations on one-class classification problems demonstrate the usefulness of our approach.

: http://publica.fraunhofer.de/dokumente/B-73182.html