Warum nicht jedes Mal eine robuste Regression?

12

Beispiele auf dieser Seite zeigen, dass die einfache Regression stark von Ausreißern beeinflusst wird und dies durch Techniken der robusten Regression überwunden werden kann: http://www.alastairsanderson.com/R/tutorials/robust-regression-in-R/ . Ich glaube, lmrob und ltsReg sind andere robuste Regressionstechniken.

Warum sollte man nicht jedes Mal eine robuste Regression (wie rlm oder rq) durchführen, anstatt eine einfache Regression (lm) durchzuführen? Gibt es Nachteile dieser robusten Regressionstechniken? Vielen Dank für Ihren Einblick.

regression multiple-regression robust rnso
quelle
2
Dies könnte hilfreich sein.
Conjugateprior

Antworten:

6

Der Gauß-Markov-Satz :

In einem linearen Modell mit sphärischen Fehlern (das auf dem Weg die Annahme beinhaltet, dass keine Ausreißer über eine endliche Fehlervarianz vorliegen) ist OLS in einer Klasse von linearen unverzerrten Schätzern effizient - es gibt (allerdings restriktive) Bedingungen, unter denen " Sie können es nicht besser machen als OLS ".

Christoph Hanck
quelle
Wenn es also keine Ausreißer gibt, ist eine lineare Regression am besten. Aber wenn es solche gibt oder wenn andere Annahmen verletzt werden, sollte nur eine robuste Regressionen durchführen. Ist das korrekt?
Rnso
2
Wenn es Ausreißer gibt, sind andere Techniken besser, ja. Ich würde nicht zu dem Schluss kommen, dass "wenn andere Annahmen verletzt werden, dann [...] man robuste Regressionen durchführen sollte" - es ist kein Allheilmittel für alle Verstöße. Fx, wenn Fehler mit Regressoren korreliert sind und Sie nach kausalen Effekten suchen, sind Techniken für instrumentelle Variablen erforderlich.
Christoph Hanck