Bei der linearen Regression von Grat und Lasso besteht ein wichtiger Schritt darin, den Abstimmungsparameter Lambda zu wählen. Oft verwende ich die Rastersuche auf der Protokollskala von -6-> 4, sie funktioniert gut auf Grat, aber auf Lasso sollte ich die Reihenfolge berücksichtigen der Größe...
Unten sehen Sie ein Streudiagramm (maximal 10.000 US-Dollar), das die durchschnittliche Spende darstellt, die ein Projekt erhält, und die Wortzahl des Aufsatzes über die Finanzierungsanfrage für alle Projekte, die in den offenen Spenderauswahldaten dargestellt sind . Es gibt ein auffälliges Muster,...
Bei Verwendung des Befehls drop1 in R für die Modellbildung muss die Variable mit dem niedrigsten AIC-Wert gelöscht werden. Was könnte der Grund dafür sein? Ich weiß, dass AIC über Informationsverlust spricht und ein niedrigerer AIC-Wert besser ist, aber das Löschen einer Variablen mit niedrigem...
Wenn wir stochastische Regressoren haben, zeichnen wir zufällige Paare für eine Gruppe von , der sogenannten Zufallsstichprobe, aus einer festen, aber unbekannten Wahrscheinlichkeitsverteilung . Theoretisch erlaubt uns die Zufallsstichprobe, einige Parameter der Verteilung kennenzulernen oder...
Um herauszufinden, wie die LASSORegression funktioniert, habe ich einen kleinen Code geschrieben, der die LASSORegression durch Auswahl des besten Alpha-Parameters optimieren soll . Ich kann nicht herausfinden, warum die LASSORegression nach der Kreuzvalidierung so instabile Ergebnisse für den...
Ich verwende ein multivariates ols-Modell, bei dem meine abhängige Variable der Lebensmittelverbrauchswert ist , ein Index, der aus der gewichteten Summe der Verbrauchsvorkommen einiger bestimmter Lebensmittelkategorien erstellt wird. Obwohl ich verschiedene Spezifikationen des Modells ausprobiert,...
Was sind die neuesten Alternativen zu Gaußschen Prozessen (GP) für nichtparametrische nichtlineare Regression mit Vorhersageunsicherheit, wenn die Größe des Trainingssatzes für Vanille-Allgemeinmediziner unerschwinglich wird, aber immer noch nicht sehr groß ist? Details meines Problems sind: Der...
Ich verwende ein Modell mit mehreren Regressionen und möchte AIC und BIC verwenden, um Modelle auszuwählen. Ich stelle jedoch fest, dass beide Maßnahmen nicht die Anzahl der Variablen berücksichtigen, aus denen wir auswählen können, sondern nur die Anzahl der ausgewählten Variablen. Wenn ich viele,...
Meine Frage bezieht sich auf die Regularisierung in der linearen Regression und der logistischen Regression. Ich mache gerade Woche 3 von Andrew Ngs Kurs über maschinelles Lernen auf Coursera. Ich verstehe, wie Überanpassung ein häufiges Problem sein kann, und ich habe eine gewisse Intuition dafür,...
Ich führe eine logistische Regression durch. Ich habe die folgenden Testdaten erstellt (die beiden Prädiktoren und das Kriterium sind binäre Variablen): UV1 UV2 AV 1 1 1 1 2 1 1 1 3 1 1 1 4 1 1 1 5 1 1 1 6 1 1 1 7 1 1 1 8 0 0 1 9 0 0 1 10 0 0 1 11 1 1 0 12 1 1 0 13 1 0 0 14 1 0 0 15 1 0 0 16 1 0...
Wenn ein Lernalgorithmus (z. B. Klassifizierung, Regression, Clustering oder Dimensionsreduktion) nur das Punktprodukt zwischen Datenpunkten verwendet xxT.xxT.\mathbf {x x^T} Wir können implizit eine höherdimensionale Abbildung verwenden ϕ ( x )ϕ(x)\phi(\mathbf x) Durch den Kernel-Trick wird jede...
Warum wird die logistische Regressionshypothese als Wahrscheinlichkeitsfunktion angesehen? Ich verstehe, dass wir es verwenden, um 0 oder 1 vorherzusagen, aber warum kann eine Funktion (die Hypothese), die Zahlen zwischen 0 und 1 ausgibt, als Wahrscheinlichkeitsfunktion betrachtet werden? Ist das...
Ein reguläres lineares Regressionsmodell ist , wobei unbekannte Koeffizienten sind und \ varepsilon Gaußsches Rauschen mit einem Mittelwert von Null und einer konstanten Varianz ist. Ich baue ein Modell, bei dem der Fehlerbegriff \ varepsilon zwei Komplikationen hat:y=c′x+εy=c′x+εy = c'x +...
Die traditionelle Kammregressionsschätzung ist β^ridge=(XTX+λI)−1XTYβ^ridge=(XTX+λI)−1XTY \hat{\beta}_{ridge} = (X^TX+\lambda I)^{-1} X^T Y ergibt sich aus dem Hinzufügen des .λ||β||22λ||β||22\lambda ||\beta||^2_2 Ich habe mich bemüht, Literatur über die Regularisierung auf einen bestimmten...
Dies ist ein Crosspost von Math SE . Ich habe einige Daten (Laufzeit eines Algorithmus) und ich denke, dass sie einem Potenzgesetz folgen yr e g= k xeinyreg=kxay_\mathrm{reg} = k x^a Ich möchte und bestimmen . Was ich bisher getan habe, ist eine lineare Regression (kleinste Quadrate) durch und...
Dies hängt nicht direkt mit meiner anderen Frage zusammen , obwohl das Thema dasselbe ist. Es ist höchstwahrscheinlich auch eine sehr triviale Frage, aber nehmen Sie sie mit :) Ich habe mit einem Kollegen über die Verwendung der Gaußschen Prozessregression gesprochen und er hat zwei Behauptungen...
In verallgemeinerten linearen Modellen muss die bedingte Verteilung der Antwortvariablen zur Exponentialfamilie gehören. Warum ist diese Einschränkung wichtig? Welche Eigenschaft würde ein Regressionsmodell verlieren, wenn wir eine Verteilung außerhalb der Exponentialfamilie wählen...
Ich bin ein echter Neuling, wenn es um Statistik geht, also beurteilen Sie mich und meine Frage bitte nicht;) Ich mache eine lineare Regressionsanalyse mit SPSS und da meine Daten weder normal verteilt sind noch Homoskedastizität aufweisen, habe ich mich für Bootstrapping entschieden. Jetzt bin ich...
Ich frage mich, ob ganzzahlige Prädiktordaten als kategorisch (daher codierungsbedürftig) oder kontinuierlich behandelt werden sollten. Wenn der Bereich eines bestimmten Prädiktors Xbeispielsweise alle Ganzzahlen zwischen 1 und 230 sind, kann ich ihn dann als kontinuierliche Variable behandeln oder...
Ich habe ein schrittweise abgeleitetes binäres logistisches Regressionsmodell. Ich habe die calibrate(, bw=200, bw=TRUE)Funktion im rmsPaket in R verwendet, um die zukünftige Kalibrierung abzuschätzen. Die Ausgabe ist unten angegeben und zeigt die durch die Bootstrap-Überanpassung korrigierte...