Verschiedene Beschreibungen zur Modellauswahl für zufällige Effekte von linearen gemischten Modellen weisen an, REML zu verwenden. Ich kenne den Unterschied zwischen REML und ML auf einer bestimmten Ebene, aber ich verstehe nicht, warum REML verwendet werden sollte, weil ML voreingenommen ist. Ist...
θ^\hat\thetaθ∗\theta^*nn Sie ‖ θ - θ * ‖ ∥θ^−θ∗∥\lVert\hat\theta-\theta^*\rVertO ( 1 / √n )O(1/n−−√)O(1/\sqrt n)‖E θ -θ*‖∥Eθ^−θ∗∥\lVert \mathbb E\hat\theta - \theta^*\rVert‖E θ - θ ‖∥Eθ^−θ^∥\lVert \mathbb E\hat\theta - \hat\theta\rVertO(1/ √n )O(1/n−−√)O(1/\sqrt{n}) Ich interessiere mich für...
Es scheint eine Menge Verwirrung im Vergleich zwischen der Verwendung von glmnetinside caretzur Suche nach einem optimalen Lambda und der Verwendung cv.glmnetderselben Aufgabe zu geben. Viele Fragen wurden gestellt, zB: Klassifizierungsmodell train.glmnet vs. cv.glmnet? Was ist der richtige Weg,...
Im ersten Kapitel des Buches Algebraische Geometrie und Statistische Lerntheorie, das sich mit der Konvergenz von Schätzungen in verschiedenen Funktionsräumen befasst, wird erwähnt, dass die Bayes'sche Schätzung der Schwartz-Verteilungstopologie entspricht, während die Maximum-Likelihood-Schätzung...
Ich frage mich, ob die Maximum-Likelihood-Schätzung jemals in der Statistik verwendet wurde. Wir lernen das Konzept, aber ich frage mich, wann es tatsächlich verwendet wird. Wenn wir die Verteilung der Daten annehmen, finden wir zwei Parameter, einen für den Mittelwert und einen für die Varianz,...
Diese Frage befasst sich mit der eingeschränkten Maximalwahrscheinlichkeitsschätzung (REML) in einer bestimmten Version des linearen Modells, nämlich: Y=X(α)β+ϵ,ϵ∼Nn(0,Σ(α)),Y=X(α)β+ϵ,ϵ∼Nn(0,Σ(α)), Y = X(\alpha)\beta + \epsilon, \\ \epsilon\sim N_n(0, \Sigma(\alpha)), Wobei eine durch ;...
Diese Frage ist inspiriert von der langen Diskussion in den Kommentaren hier: Wie verwendet die lineare Regression die Normalverteilung? In dem üblichen linearen Regressionsmodell wird hier der Einfachheit halber mit nur einem Prädiktor geschrieben: wobei bekannte Konstanten sind und unabhängige...
Angenommen, ich habe ein Modellauswahlproblem und versuche, die Modelle mit AIC oder BIC zu bewerten. Dies ist unkompliziert für Modelle mit der Nummer kkk reellwertigen Parametern. Was ist jedoch, wenn eines unserer Modelle (z. B. das Mallows-Modell ) eine Permutation plus einige reelle Parameter...
Ich versuche, die logistische Regression von Firth zu verstehen (Methode zum Behandeln einer perfekten / vollständigen oder quasi vollständigen Trennung in der logistischen Regression), damit ich sie anderen in vereinfachten Begriffen erklären kann. Hat jemand eine abgedrehte Erklärung, welche...
Im Allgemeinen scheint die Methode der Momente nur mit dem beobachteten Stichprobenmittelwert oder der Varianz mit den theoretischen Momenten übereinzustimmen, um Parameterschätzungen zu erhalten. Dies ist oft dasselbe wie MLE für exponentielle Familien, wie ich erfahre. Es ist jedoch schwierig,...
Wann ist es vorzuziehen, die Maximum-Likelihood-Schätzung anstelle der gewöhnlichen kleinsten Quadrate zu verwenden? Was sind die Stärken und Grenzen eines jeden? Ich versuche, praktisches Wissen darüber zu sammeln, wo sie in allgemeinen Situationen eingesetzt werden
Nach der Zentrierung können die beiden Messungen x und −x als unabhängige Beobachtungen aus einer Cauchy-Verteilung mit Wahrscheinlichkeitsdichtefunktion angenommen werden: f(x:θ)=f(x:θ)=f(x :\theta) = 1π(1+(x−θ)2)1π(1+(x−θ)2)1\over\pi (1+(x-\theta)^2) ,−∞<x<∞,−∞<x<∞, -∞ < x < ∞...
Ich habe einen Code geschrieben, der die Kalman-Filterung (unter Verwendung einer Reihe verschiedener Kalman-Filter [Information Filter et al.]) Für die lineare Gaußsche Zustandsraumanalyse für einen n-dimensionalen Zustandsvektor durchführen kann. Die Filter funktionieren sehr gut und ich bekomme...
Ausgehend von einem Datensatz mit binären Ergebnissen und einer Prädiktormatrix schätzt das logistische Standardregressionsmodell die Koeffizienten , die die Binomialwahrscheinlichkeit maximieren. Wenn vollen Rang hat, ist eindeutig. Wenn keine perfekte Trennung vorliegt, ist sie...
Dies ist ein seltsamer Gedanke, den ich hatte, als ich einige alte Statistiken durchgesehen habe, und aus irgendeinem Grund kann ich mir die Antwort nicht vorstellen. Ein fortlaufendes PDF zeigt die Dichte der beobachteten Werte in einem bestimmten Bereich an. Wenn beispielsweise...
MLE = Maximum Likelihood Estimation MAP = Maximum a posteriori MLE ist insofern intuitiv / naiv, als es nur mit der Beobachtungswahrscheinlichkeit bei gegebenem Parameter (dh der Wahrscheinlichkeitsfunktion) beginnt und versucht, den Parameter zu finden, der der Beobachtung am besten entspricht ....
Ich sehe an verschiedenen Stellen erwähnt, dass ANOVA seine Schätzung mit der Methode der Momente durchführt. Diese Behauptung verwirrt mich, denn obwohl ich mit der Methode der Momente nicht vertraut bin, verstehe ich, dass sie etwas anderes ist als die Methode der maximalen Wahrscheinlichkeit...
Ich habe kürzlich einige alte Artikel von Nancy Reid, Barndorff-Nielsen, Richard Cox und, ja, einem kleinen Ronald Fisher über das Konzept der "bedingten Folgerung" im frequentistischen Paradigma besprochen, was zu bedeuten scheint, dass Folgerungen nur auf dem beruhen "relevante Teilmenge" des...
Ich habe ein Modell zur Vorhersage einer Trajektorie (x als Funktion der Zeit) mit mehreren Parametern. Im Moment berechne ich den quadratischen Fehler (RMSE) zwischen der vorhergesagten und der experimentell aufgezeichneten Flugbahn. Derzeit minimiere ich diesen Unterschied (RMSE) mit simplex...
Diese Frage ist von dieser motiviert . Ich habe zwei Quellen nachgeschlagen und das habe ich gefunden. A. van der Vaart, Assymptotische Statistik: Es ist selten möglich, eine Profilwahrscheinlichkeit explizit zu berechnen, aber ihre numerische Auswertung ist oft machbar. Dann kann die...