MLE = Maximum Likelihood Estimation MAP = Maximum a posteriori MLE ist insofern intuitiv / naiv, als es nur mit der Beobachtungswahrscheinlichkeit bei gegebenem Parameter (dh der Wahrscheinlichkeitsfunktion) beginnt und versucht, den Parameter zu finden, der der Beobachtung am besten entspricht ....
Ich habe Hinweise auf das Erlernen der Bayes'schen Wahrscheinlichkeitstheorie in R gesehen und mich gefragt, ob es mehr davon gibt, vielleicht speziell in Python? Auf das Erlernen der Bayes'schen Wahrscheinlichkeitstheorie, der Inferenz, der Maximum-Likelihood-Schätzung, grafischer Modelle und der...
Der Naive Bayes-Klassifikator ist der Klassifikator, der Elemente einer Klasse auf der Grundlage der Maximierung des hinteren für die Klassenzugehörigkeit zuordnet und davon ausgeht, dass die Merkmale der Elemente unabhängig sind.C P ( C | x )xxxCCCP( C| x)P(C|x)P(C|x) Der 0-1-Verlust ist der...
Bayesianische Statistiken zum ersten Mal lernen; Als ein Winkel zum Verständnis von MCMC fragte ich mich: Ist es etwas, was grundsätzlich nicht anders zu machen ist, oder ist es einfach viel effizienter als die Alternativen? Nehmen wir zur Veranschaulichung an, wir versuchen, die...
Es gibt mehrere mathematisch anspruchsvolle Artikel, die das Bayes'sche Lasso beschreiben, aber ich möchte getesteten, korrekten JAGS-Code, den ich verwenden kann. Könnte jemand einen Beispiel-BUGS / JAGS-Code veröffentlichen, der eine regulierte logistische Regression implementiert? Jedes Schema...
Ich lese gerade Kruschkes hervorragendes Buch "Doing Bayesian Data Analysis". Das Kapitel über hierarchische logistische Regression (Kapitel 20) ist jedoch etwas verwirrend. Abbildung 20.2 beschreibt eine hierarchische logistische Regression, bei der der Bernoulli-Parameter als lineare Funktion der...
Ich versuche hier ein Bayesianisches Logit der Daten durchzuführen . Ich verwende bayesglm()in dem armPaket in R. Die Codierung ist einfach genug: df = read.csv("http://dl.dropbox.com/u/1791181/bayesglm.csv", header=T) library(arm) model = bayesglm(PASS ~ SEX + HIGH, family=binomial(link="logit"),...
Angenommen, wir haben eine Menge von Punkten y={y1,y2,…,yN}y={y1,y2,…,yN}\mathbf{y} = \{y_1, y_2, \ldots, y_N \} . Jeder Punkt wird unter Verwendung der Verteilung p ( y i | x ) = 1 erzeugtyiyiy_ip(yi|x)=12N(x,1)+12N(0,10).p(yi|x)=12N(x,1)+12N(0,10). p(y_i| x) = \frac12 \mathcal{N}(x, 1) + \frac12...
Ich reproduziere die Ergebnisse in Abschnitt 4.2.1 von Grund auf Grenzwahrscheinlichkeit aus der Gibbs-Ausgabe Siddhartha Chib Journal of the American Statistical Association, Bd. 90, Nr. 432 (Dez. 1995), S. 1313-1321. Es ist eine Mischung aus Normalmodellen mit einer bekannten Anzahl von...
Gibt es ein Konjugat für die Laplace-Verteilung ? Wenn nicht, gibt es einen bekannten Ausdruck in geschlossener Form, der sich den Parametern der Laplace-Verteilung annähert? Ich habe ziemlich viel gegoogelt und keinen Erfolg gehabt, daher lautet meine derzeitige Vermutung "Nein" zu den obigen...
Ich bin ziemlich neu auf dem Gebiet der Gaußschen Prozesse und wie sie im maschinellen Lernen angewendet werden. Ich lese und höre immer wieder, dass die Kovarianzfunktionen die Hauptattraktion dieser Methoden sind. Könnte jemand auf intuitive Weise erklären, was in diesen Kovarianzfunktionen vor...
Was sind gute Anhaltspunkte für die minimale Anzahl effektiver Proben , die angestrebt werden sollten, wenn MCMC-Proben abgerufen werden, um Rückschlüsse auf einen bestimmten Parameter zu ziehen? Und ändert sich dieser Ratschlag, wenn das Modell mehr oder weniger komplex
Ich verstehe nicht, wie diese Gleichung abgeleitet wurde. P(I|M1∩M2)≤P(I)P(I′)⋅P(M1|I)P(M2|I)P(M1|I′)P(M2|I′)P(I|M1∩M2)≤P(I)P(I′)⋅P(M1|I)P(M2|I)P(M1|ich′)P(M2|ich′)P(I|M_{1}\cap M_{2}) \leq \frac{P(I)}{P(I')}\cdot \frac{P(M_{1}|I)P(M_{2}|I)}{P(M_{1}|I')P(M_{2}|I')} Diese Gleichung stammt aus der...
Ich habe schon früher danach gefragt und mich wirklich schwer getan, herauszufinden, was einen Modellparameter ausmacht und was ihn zu einer latenten Variablen macht. Wenn man sich also verschiedene Themen zu diesem Thema auf dieser Website ansieht, scheint der Hauptunterschied zu sein: Latente...
Wir wissen also, dass die Zufallssuche besser funktioniert als die Rastersuche, aber ein neuerer Ansatz ist die Bayes'sche Optimierung (unter Verwendung von Gauß'schen Prozessen). Ich habe einen Vergleich zwischen den beiden nachgeschlagen und nichts gefunden. Ich weiß, dass sie bei Stanfords...
Ich bin neu in der Bayesian Statistics-Forschung. Ich habe von Forschern gehört, dass Bayesianische Forscher MCMC besser selbst implementieren als Tools wie JAGS / Stan. Darf ich fragen, was der Vorteil der Implementierung des MCMC-Algorithmus für sich selbst ist (in "nicht ganz schnellen" Sprachen...
Ich versuche, das 95% glaubwürdige Intervall der folgenden posterioren Verteilung zu berechnen. Ich konnte die Funktion in R dafür nicht finden, aber ist der Ansatz unten korrekt? x <- seq(0.4,12,0.4) px <- c(0,0, 0, 0, 0, 0, 0.0002, 0.0037, 0.018, 0.06, 0.22 ,0.43, 0.64,0.7579, 0.7870, 0.72,...
Was ist Bayesian Deep Learning und in welcher Beziehung steht es zur traditionellen Bayesianischen Statistik und zum traditionellen Deep Learning? Was sind die wichtigsten Konzepte und Mathematik? Kann ich sagen, dass es sich nur um nicht parametrische Bayes-Statistiken handelt? Was sind seine...
Ich habe gerade angefangen, Modelle in Stan zu bauen . Um mich mit dem Tool vertraut zu machen, arbeite ich mich durch einige der Übungen in Bayesian Data Analysis (2nd ed.). Die Waterbuck-Übung setzt voraus, dass die Daten , wobei ( N , θ ) unbekannt ist. Da Hamilton-Monte-Carlo keine diskreten...
Ich habe bemerkt, dass in vielen praktischen Anwendungen MCMC-basierte Methoden verwendet werden, um einen Parameter zu schätzen, obwohl der hintere Teil analytisch ist (zum Beispiel, weil der hintere Teil konjugiert war). Für mich ist es sinnvoller, MAP-Schätzer als MCMC-basierte Schätzer zu...