Erklärungskraft einer Variablen

8

Ich habe ein einfaches lineares Regressionsmodell. Was ich berechnen möchte, ist, wie "wichtig" jede meiner Eingabevariablen ist, dh um eine Aussage wie diese zu machen:

"60% der Vorhersagekraft in diesem Modell stammt von der Variablen var1, wobei var2 und var3 30% bzw. 10% haben."

Was muss ich tun, um diese Prozentsätze zu berechnen?

regression importance user333
quelle
3
Was genau meinst du mit "Vorhersagekraft"? Zum Beispiel kann var3 eine extrem hohe Korrelation mit der abhängigen Variablen in einer Stichprobe aufweisen, aber Sie müssen möglicherweise Vorhersagen treffen, bei denen var3 erheblich von den in der Stichprobe erreichten Werten abweicht, wodurch eine enorme Unsicherheit der Vorhersage entsteht. OTOH, var1 und var2 weisen möglicherweise einzeln schlechte Korrelationen mit dem DV auf, funktionieren jedoch möglicherweise gut für die beabsichtigten Vorhersagen. Dies zeigt an, dass die Messung der "Vorhersagekraft" zusätzlich zum Modell einen bestimmten Vorhersagekontext erfordert .
whuber

Antworten:

10

Das relaimpo R-Paket macht genau das, was Sie tun möchten, und es bietet auch Bootstrap-CIs, wenn der relative Beitrag des einzelnen Prädiktors zum gesamten bewertet wird .R.2

Ein Anwendungsbeispiel finden Sie am Ende dieses Tutorials: Erste Schritte mit einem modernen Ansatz zur Regression .

chl
quelle
+1 für eine einfache Antwort auf eine verfasste Frage. Sie sollten hinzufügen, dass dies nur funktioniert, wenn die Anzahl der Prädiktoren kleiner als beispielsweise 50 ist.
user603
@chl Die Ergebnisse (= Reihenfolge der Wichtigkeit von Regressoren) von RelaImpo weichen drastisch von den Ergebnissen der nicht standardisierten Beta-Werte ab. Ich frage mich, warum das so ist - alle meine 14 Regressoren haben die gleiche Metrik (Bereich 0 - 3), und obwohl Mittelwerte und Standardabweichungen je nach Symptom drastisch variieren, sollten die nicht standardisierten Beta-Gewichte ungefähr ähnliche Ergebnisse liefern wie RelaImpo oder nicht? Vielen Dank.
Torvon