Ich habe gelesen, dass das Gruppen-Lasso für die Variablenauswahl und die Sparsamkeit in einer Gruppe von Variablen verwendet wird. Ich möchte die Intuition hinter dieser Behauptung kennen. Warum wird Gruppenlasso dem Lasso vorgezogen? Warum ist der Lösungsweg des Gruppen-Lassos nicht stückweise...
Mir ist klar, dass dieses Thema schon einige Male vorgekommen ist , aber ich bin mir immer noch unsicher, wie ich meine Regressionsergebnisse am besten interpretieren kann. Ich habe einen sehr einfachen Datensatz, bestehend aus einer Spalte mit x-Werten und einer Spalte mit y-Werten , aufgeteilt...
Sind die Cross-Entropie-Kosten im Kontext der Regression sinnvoll (im Gegensatz zur Klassifizierung)? Wenn ja, könnten Sie über TensorFlow ein Spielzeugbeispiel geben? Wenn nicht, warum nicht? Ich habe über Cross-Entropy in Neuronalen Netzen und Deep Learning von Michael Nielsen gelesen und es...
Betrachten Sie das lineare Regressionsmodell y=Xβ+uy=Xβ+u\mathbf{y}=\mathbf{X\beta}+\mathbf{u} , u∼N(0,σ2I)u∼N(0,σ2I)\mathbf{u}\sim N(\mathbf{0},\sigma^2\mathbf{I}) , E(u∣X)=0E(u∣X)=0E(\mathbf{u}\mid\mathbf{X})=\mathbf{0} . Sei vs .H 1 : σ 2 0 & ne; σ 2H0:σ20=σ2H0:σ02=σ2H_0:...
Mit zwei Zufallsvariablen ξξ\xi und ηη\eta können wir ihren "Korrelationskoeffizienten" berechnen cccund die Linie der besten Anpassung zwischen diesen beiden Zufallsvariablen bilden. Meine Frage ist warum? 1) Es gibt Zufallsvariablen, ξξ\xi und ηη\eta die in schlechtester Weise abhängig sind, dh...
In Bishops Buch über maschinelles Lernen wird das Problem der Kurvenanpassung einer Polynomfunktion an eine Reihe von Datenpunkten erörtert. Sei M die Ordnung des angepassten Polynoms. Es heißt so Wir sehen, dass mit zunehmendem M die Größe der Koeffizienten typischerweise größer wird. Insbesondere...
Ich möchte den AICc eines Gratregressionsmodells berechnen. Das Problem ist die Anzahl der Parameter. Für die lineare Regression schlagen die meisten Menschen vor, dass die Anzahl der Parameter der Anzahl der geschätzten Koeffizienten plus Sigma (der Varianz des Fehlers) entspricht. Wenn es um die...
Wenig Hintergrund Ich arbeite an der Interpretation der Regressionsanalyse, aber ich bin sehr verwirrt über die Bedeutung von r, r im Quadrat und der restlichen Standardabweichung. Ich kenne die Definitionen: Charakterisierungen r misst die Stärke und Richtung einer linearen Beziehung zwischen...
Ich erhalte einige verwirrende Ergebnisse für die Korrelation einer Summe mit einer dritten Variablen, wenn die beiden Prädiktoren negativ korreliert sind. Was verursacht diese verwirrenden Ergebnisse? Beispiel 1: Korrelation zwischen der Summe zweier Variablen und einer dritten...
In der Vergangenheit war die schrittweise Regression in vielen biomedizinischen Veröffentlichungen überstrapaziert. Dies scheint sich jedoch durch eine bessere Aufklärung der zahlreichen Themen zu verbessern. Viele ältere Rezensenten fragen jedoch noch danach. Unter welchen Umständen spielt die...
Ich suche eine Referenz, bei der nachgewiesen ist, dass die Harmonischen bedeuten x¯h=n∑ni=11xix¯h=n∑i=1n1xi\bar{x}^h = \frac{n}{\sum_{i=1}^n \frac{1}{x_i}} minimiert (in ) die Summe der quadratischen relativen Fehlerzzz ∑i=1n((xi−z)2xi).∑i=1n((xi−z)2xi).\sum_{i=1}^n \left( \frac{(x_i -...
Soweit ich weiß, ist die Variablenauswahl basierend auf p-Werten (zumindest im Regressionskontext) stark fehlerhaft. Es sieht so aus, als ob die Variablenauswahl basierend auf AIC (oder ähnlichem) auch von einigen aus ähnlichen Gründen als fehlerhaft angesehen wird, obwohl dies ein wenig unklar...
Ich weiß, dass bei der linearen Regression die Antwortvariable stetig sein muss, aber warum ist das so? Ich kann nichts online finden, was erklärt, warum ich keine diskreten Daten für die Antwortvariable verwenden
Eine L1L1L_1 -Norm ist (zumindest teilweise) eindeutig, da p=1p=1p=1 an der Grenze zwischen nicht konvex und konvex liegt. Eine L1L1L_1 -Norm ist die 'spärlichste' konvexe Norm (oder?). Ich verstehe, dass die euklidische Norm p=2p=2p=2 Wurzeln in der Geometrie hat und eine klare Interpretation hat,...
Ich habe diese Frage in Bezug auf eine groß angelegte Regression ( Link ) gelesen , in der whuber einen interessanten Punkt wie folgt hervorhob : "Nahezu jeder statistische Test, den Sie durchführen, ist so leistungsfähig, dass Sie mit ziemlicher Sicherheit einen" signifikanten "Effekt feststellen...
In letzter Zeit musste ich mehrere Artikel in Wirtschaftswissenschaften lesen (ein Bereich, mit dem ich nicht allzu vertraut bin). Eine Sache, die mir aufgefallen ist, ist, dass mit OLS angepasste lineare Regressionsmodelle allgegenwärtig sind, selbst wenn die Antwortvariable binär ist. Meine Frage...
Vor kurzem war ich daran interessiert, ein Beta-Regressionsmodell für ein proportionales Ergebnis zu implementieren. Beachten Sie, dass dieses Ergebnis nicht in einen Binomialkontext passt, da es in diesem Kontext kein aussagekräftiges Konzept für einen diskreten "Erfolg" gibt. Tatsächlich ist das...
Ich lese über die Auswahl der besten Teilmengen im Buch Elemente des statistischen Lernens. Wenn ich 3 Prädiktoren , erstelle ich 2 3 = 8 Teilmengen:x1,x2,x3x1,x2,x3x_1,x_2,x_323=823=82^3=8 Teilmenge ohne Prädiktoren Teilmenge mit Prädiktor x1x1x_1 Teilmenge mit Prädiktor x2x2x_2 Teilmenge mit...
Eine Regression von yyy auf xxx muss nicht kausal sein, wenn Variablen ausgelassen werden, die sowohl xxx als auch yyy . Aber wenn nicht für ausgelassene Variablen und Messfehler, ist eine Regression kausal? Das heißt, wenn jede mögliche Variable in der Regression enthalten
Mir ist klar, dass dies eine potenziell breite Frage ist, aber ich habe mich gefragt, ob es verallgemeinerbare Annahmen gibt, die auf die Verwendung eines GAM (Generalized Additive Model) gegenüber einem GLM (Generalized Linear Model) hinweisen. Jemand sagte mir kürzlich, dass GAMs nur verwendet...