Bewertung der Qualität vorhergesagter Verteilungen

7

Ich habe eine Reihe von Datenpunkten wobei die unabhängigen Variablen sind, und ich glaube, dass jedes so modelliert werden kann, dass es aus einer Exponentialverteilung mit den Parametern .X.ich,yichxyichλich

Wie kann ich die Qualität meiner vorhergesagten Verteilungen in Bezug auf die Beobachtungen bewerten, wenn ich zur Vorhersage von ?X.ichλichyich

Bearbeiten: Dies ist im Wesentlichen die gleiche Frage wie Wie bewertet man die Qualität des Wahrscheinlichkeitsschätzers für Bernoulli-Experimente? aber in einem kontinuierlichen Kontext und nicht in einem binomischen Kontext. Mir ist nicht klar, was ich in diesem Fall anstelle von Kreuzentropie verwenden soll.

Thomas Johnson
quelle

Antworten:

7

Der Standardansatz hierfür ist die Verwendung der Log-Wahrscheinlichkeit der Exponentialverteilung. Genau so wird die Kreuzentropie abgeleitet, es ist die logarithmische Wahrscheinlichkeit der Bernoulli-Verteilung.

Bei einer Exponentialverteilung lautet das PDF:

f(y;;λ)=λe- -λy

Die Log-Wahrscheinlichkeit ist also:

L.L.(λich;;yich)=Log(f(yich;;λich))=Log(λich)- -λichyich

Also, wenn yich sind deine wahren Werte und λich Sind Ihre Vorhersagen, würde ein Exponentialmodell minimieren:

L.L.({λich}};;{yich}})=ichLog(λich)- -λichyich

Das Anpassen von Modellen durch Maximieren der Log-Wahrscheinlichkeit auf diese Weise führt zur Theorie verallgemeinerter linearer Modelle; Das Exponentialmodell ist ein Sonderfall.

Matthew Drury
quelle
3

Die Standardmethode zur Bewertung von Vorhersageverteilungen sind Bewertungsregeln . Die von Matthew Drury empfohlene Log-Wahrscheinlichkeit ist ein Beispiel, es ist die logarithmische Bewertungsregel . Es gibt auch andere. Merkle & Steyvers (2013, Entscheidungsanalyse ) diskutieren, wie verschiedene Bewertungsregeln zusammenhalten und wie man eine auswählt .

Weitere Informationen finden Sie im Tag-Wiki , und wir haben eine Reihe von Fragen mit dem Etikett.

Stephan Kolassa
quelle