Die verschiedenen Formulierungen für SVM verstehen

7

Ich arbeite kernlabjetzt seit mehr als einem Jahr mit, aber ich habe mich bei der C-svcKlassifizierung immer an die Vanilla cost ( ) -Formulierung gehalten .

kernlabEnthält natürlich einige andere Formulierungen. Im Handbuch werden einige Klassifizierungsformulierungen kurz zitiert. Ich bin ziemlich vertraut mit Vanille Cost Svms. Zum Beispiel kenne ich das sehr gut C-svcund habe eine vage Vorstellung davon, was eine native Mehrklassenformulierung umfasst, und ich verstehe die Prinzipien von nu-svc.

Könnte jemand bitte etwas Licht auf diese verschiedenen Formulierungen werfen und wie sie gegebenenfalls mit denen verglichen werden C-svc? Informationen zu verschiedenen Überlegungen, Robustheit, Spärlichkeit, Empfindlichkeit gegenüber hoher Dimensionalität oder Klassenungleichgewichten wären sehr nützlich.

  • C-svc: C (Kosten) Klassifizierung
  • nu-svc: (nSV) Klassifizierungν
  • C-bsvc: SVM-Klassifizierung mit gebundenen Einschränkungen
  • spoc-svc Crammer-Singer gebürtige Mehrklassen
  • kbb-svc Weston-Watkins gebürtige Mehrklassen
Firebug
quelle

Antworten:

6

C-SVM:

minimizet(w,b,ξ)=12w22+Cmi=1mξisubject to{yi(Φ(xi),w+b)1ξi(i=1,,m)ξi0

C-svcist die übliche SVM. Das Duale ist:

minimizet(α)=12αTQ^α1Tαsubject to{ytα=00αCm1

Mit .Q^ijyiyjΦ(xi)TΦ(xj)


C-BSVM:

minimizet(w,b,ξ)=12w22+12b2+Cmi=1mξisubject to{yi(Φ(xi),w+b)1ξi(i=1,,m)ξi0

C-bsvcführt den Versatz in das Objektiv ein. Dies vereinfacht die doppelte Lösung, wobei nur noch gebundene Einschränkungen verbleiben.b

minimizet(α)=12αTQα1Tαsubject to0αCm1

MitQij(yiyjΦ(xi)TΦ(xj)+1)


ν -SVM:

minimizet(w,b,ξ,ρ)=12w22νρ+1mi=1mξisubject to{yi(Φ(xi),w+b)ρξi(i=1,,m)ξi0ρ0

nu-svc hat das folgende dual:

minimizet(α)=12αTQ^αsubject to{ytα=00α1m1α1=i=1nαiν

Dies bedeutet, dass mindestens Elemente des Alpha-Vektors ungleich Null sind. Mit anderen Worten, ist eine Untergrenze für den Anteil der Trägervektoren.νν


Karatzoglou, Alexandros, David Meyer und Kurt Hornik. "Support Vector Machines in R." (2005).

Niu, Lingfeng et al. "Zwei neue Zerlegungsalgorithmen für das Training von Vektor-Maschinen mit gebundenen Einschränkungen." Grundlagen der Computer- und Entscheidungswissenschaften 40.1 (2015): 67-86.

Firebug
quelle