Ich stieß auf eine große Menge an Literatur, die sich dafür einsetzte, die Fisher-Informationsmetrik als natürliche lokale Metrik im Raum der Wahrscheinlichkeitsverteilungen zu verwenden und dann darüber zu integrieren, um Entfernungen und Volumina zu definieren. Aber sind diese "integrierten"...
Ich betreibe ein Logistikmodell. Der tatsächliche Modelldatensatz enthält mehr als 100 Variablen, aber ich wähle einen Testdatensatz aus, in dem sich etwa 25 Variablen befinden. Davor habe ich auch einen Datensatz mit 8-9 Variablen erstellt. Mir wurde gesagt, dass AIC- und SC-Werte verwendet werden...
Ich arbeite derzeit an einem Problem, bei dem es sich um einen kleinen Datensatz handelt und bei dem der Kausalitätseffekt einer Behandlung auf das Ergebnis von Interesse ist. Mein Berater hat mich angewiesen, eine univariate Regression für jeden Prädiktor mit dem Ergebnis als Antwort und dann der...
Ich denke, ich verstehe, wie die Grundlagen des Bootstrapping funktionieren, bin mir aber nicht sicher, wie ich das Bootstrapping zur Modellauswahl oder zur Vermeidung von Überanpassungen einsetzen kann. Würden Sie beispielsweise für die Modellauswahl nur das Modell auswählen, das den geringsten...
Soweit ich weiß, ist die Variablenauswahl basierend auf p-Werten (zumindest im Regressionskontext) stark fehlerhaft. Es sieht so aus, als ob die Variablenauswahl basierend auf AIC (oder ähnlichem) auch von einigen aus ähnlichen Gründen als fehlerhaft angesehen wird, obwohl dies ein wenig unklar...
Als Antwort auf eine Frage zur Modellauswahl in Gegenwart von Multikollinearität schlug Frank Harrell vor : Fügen Sie alle Variablen in das Modell ein, testen Sie jedoch nicht die Auswirkung einer Variablen, die für die Auswirkung konkurrierender Variablen angepasst ist ... Blocktests...
Wenn ich daran interessiert wäre, wechselseitige Wechselwirkungen zwischen einer linearen erklärenden Variablen und einer anderen erklärenden Variablen , die eine quadratische Beziehung zur abhängigen Variablen , , müsste ich sowohl die Wechselwirkung mit der quadratischen Komponente als auch die...
Ich mache eine Prognose in R mit Rob Hyndmans Prognosepaket . Das zum Paket gehörende Papier finden Sie hier . In dem Artikel implementieren die Autoren die Algorithmen nach der Erläuterung der automatischen Vorhersagealgorithmen auf demselben Datensatz. Nach der Schätzung eines exponentiellen...
Ich habe eine Menge von Werten und y, die theoretisch exponentiell zusammenhängen:xxxyyy y=axby=axby = ax^b Eine Möglichkeit, die Koeffizienten zu erhalten, besteht darin, natürliche Logarithmen auf beiden Seiten anzuwenden und ein lineares Modell zu erstellen: > fit <- lm(log(y)~log(x)) >...
In der Vergangenheit war die schrittweise Regression in vielen biomedizinischen Veröffentlichungen überstrapaziert. Dies scheint sich jedoch durch eine bessere Aufklärung der zahlreichen Themen zu verbessern. Viele ältere Rezensenten fragen jedoch noch danach. Unter welchen Umständen spielt die...
Wir haben zwei Modelle, die dieselbe Methode zur Berechnung der Log-Wahrscheinlichkeit verwenden, und der AIC für eines ist niedriger als das andere. Das mit dem niedrigeren AIC ist jedoch weitaus schwieriger zu interpretieren. Wir haben Schwierigkeiten zu entscheiden, ob es sich lohnt, die...
Angenommen, yyy ist eine lineare Funktion von und ein Dummy . Meine Hypothese ist, dass selbst wie ein hedonistischer Index eines Vektors anderer Variablen ist, . Ich habe Unterstützung dafür in einer von (dh , , ..., ) auf . Gibt es eine Möglichkeit, die Gleichwertigkeit dieser beiden Modelle zu...
Ich verwende derzeit die Hauptkomponentenanalyse, um Variablen für die Modellierung auszuwählen. Momentan mache ich die Messungen A, B und C in meinen Experimenten. Was ich wirklich wissen möchte ist: Kann ich weniger Messungen machen und die Aufzeichnung von C und oder B beenden, um Zeit und Mühe...
Hinweis: Diese Frage ist ein Repost, da meine vorherige Frage aus rechtlichen Gründen gelöscht werden musste. Beim Vergleich von PROC MIXED von SAS mit der Funktion lmeaus dem nlmePaket in R bin ich auf einige verwirrende Unterschiede gestoßen. Insbesondere unterscheiden sich die Freiheitsgrade...
Ich möchte das Akaike Information Criterion (AIC) verwenden, um die entsprechende Anzahl von Faktoren auszuwählen, die in einem PCA extrahiert werden sollen. Das einzige Problem ist, dass ich nicht sicher bin, wie ich die Anzahl der Parameter bestimmen soll. Man betrachte eine T×NT×NT\times N...
Der AIC ist definiert als , wobei der Maximum-Likelihood-Schätzer und die Dimension des Parameterraums ist. Bei der Schätzung von vernachlässigt man normalerweise den konstanten Faktor der Dichte. Dies ist der Faktor, der nicht von den Parametern abhängt, um die Wahrscheinlichkeit zu vereinfachen....
Ich betrachte einen großen (aber begrenzten) Raum von Modellen unterschiedlicher Komplexität, die ich mit RJMCMC erforsche . Das Voranstellen des Parametervektors für jedes Modell ist ziemlich informativ. In welchen Fällen (wenn überhaupt) sollte ich mir Sorgen machen, dass das...
Aus meinen Ergebnissen geht hervor, dass GLM Gamma die meisten Annahmen erfüllt, aber ist es eine lohnende Verbesserung gegenüber dem logarithmisch transformierten LM? Die meiste Literatur, die ich gefunden habe, befasst sich mit Poisson- oder Binomial-GLMs. Ich fand den Artikel EVALUIERUNG VON...
Ich verstehe, dass das Grundprinzip des Algorithmus für LLE aus drei Schritten besteht. Ermitteln der Nachbarschaft jedes Datenpunkts anhand einer Metrik wie k-nn. Suchen Sie für jeden Nachbarn Gewichte, die die Auswirkung des Nachbarn auf den Datenpunkt angeben. Konstruieren Sie die niedrig...
In Bishops PRML-Buch sagt er, dass Überanpassung ein Problem bei der Maximum Likelihood Estimation (MLE) ist und Bayesian dies vermeiden kann. Aber ich denke, Überanpassung ist eher ein Problem bei der Modellauswahl als bei der Methode zur Parameterschätzung. Angenommen, ich habe einen Datensatz ,...