Warum ist R Squared mit LASSO kein gutes Maß für Regressionen?

Das Ziel der Verwendung von LASSO besteht darin, eine spärliche Darstellung (einer vorhergesagten Menge) in dem Sinne zu erhalten, dass nicht viele Kovariaten vorhanden sind. Der Vergleich von Modellen mit tendiert dazu, Modelle mit vielen Kovariaten zu bevorzugen: Tatsächlich wird das Hinzufügen von Kovariaten, die nicht mit dem Ergebnis zusammenhängen, niemals verringern und fast immer zumindest ein wenig erhöhen. Das LASSO-Modell identifiziert das Modell mit der optimalen bestraften Log-Wahrscheinlichkeit (eine nicht bestrafte Log-Wahrscheinlichkeit ist monoton mit dem ). Validierungsstatistiken, die häufiger zum Vergleich von LASSO-Modellen mit anderen Modelltypen verwendet werden, sind beispielsweise der BIC oder das kreuzvalidierte . $R^2$ $R^2$ $R^2$ $R^2$

AdamO
quelle

+1 für klar den Grund präsentieren und Alternative bieten

Haitao Du

Vielen Dank für die tolle Antwort! Würde es Ihnen etwas ausmachen, näher auf "Das LASSO-Modell wird das Modell mit der optimalen bestraften Log-Wahrscheinlichkeit identifizieren (eine nicht bestrafte Log-Wahrscheinlichkeit ist monoton mit dem R2 verbunden)." Ich verstehe den ersten Teil so, dass er das Modell mit der geringsten Fehlermenge auswählt (bei der Vorhersage und über die Bestrafung). Aber ich bin mir nicht sicher, was das Bit in Klammern bedeutet. Bedeutet das, dass nicht bestraftes LL steigt, wenn R2 sinkt? Muss sich das kreuzvalidierte R2 in einem völlig neuen Datensatz befinden? Oder kann es auf den Trainingsdaten basieren?

Dave

\log (2 π) N + 1 - \log (N) + \log (\sum_{i = 1}^{n} r_{i}^{2})

$\log(2\pi)N+1−\log(N)+\log(\sum_{i=1}^n r_i^2)$

1 - \sum_{i = 1}^{n} r_{i}^{2} / \sum_{i = 1}^{n} y_{i}^{2}

$1 - \sum_{i=1}^n r_i^2/\sum_{i=1}^ny_i^2$ . Die Bestrafung trägt indirekt zum Fehler bei. Es ist ein Preis, den Sie zahlen, um die Spärlichkeit durchzusetzen. Das nicht bestrafte Modell weist immer einen geringeren (internen) Fehler auf. Personen führen im Allgemeinen eine Kreuzvalidierung mit demselben Datensatz durch. Das Testen von Modellen in neuen Datensätzen ist eine ganz andere Sache (der "Kreuz" -Teil ist nicht erforderlich) und wird nicht genug durchgeführt.

AdamO

@AdamO Ich denke, es wäre eine gute Idee, Ihren Kommentar in Ihre Antwort umzuwandeln. Es ist sehr gut.

Matthew Drury

Hallo @AdamO, eine letzte Frage. Ich verstehe jetzt, warum traditionelles R2 eine schlechte Maßnahme ist. Ich bin mir jedoch nicht sicher, warum eine Kreuzvalidierung von R2 (innerhalb desselben Datensatzes) in Ordnung ist.

Dave

Warum ist R Squared mit LASSO kein gutes Maß für Regressionen?

Antworten: