Erwarteter Wert eines natürlichen Logarithmus

22

Ich kenne mit a , b- Konstanten, also ist es bei gegebenem E ( X ) einfach zu lösen. Ich weiß auch, dass man das nicht anwenden kann, wenn es eine nichtlineare Funktion ist, wie in diesem Fall E ( 1 / X ) 1 / E ( X ) , und um das zu lösen, muss ich eine Approximation mit machen Taylors. Meine Frage ist also, wie ich E ( lnE(einX+b)=einE(X)+bein,bE(X)E(1/X)1/E(X) ?? nähere ich mich auch mit Taylor?E(ln(1+X))

Matt
quelle
4
Ja, Sie können in diesem Fall die Delta-Methode anwenden.
Michael R. Chernick
5
Sie sollten sich auch mit der Jensen-Ungleichung befassen.
kjetil b halvorsen

Antworten:

27

In der Zeitung

YW Teh, D. Newman und M. Welling (2006), Ein kollabierter Variations-Bayes-Inferenz-Algorithmus für die latente Dirichlet-Allokation , NIPS 2006 , 1353–1360.

Eine Taylor-Expansion zweiter Ordnung um wird verwendet, um E [ log ( x ) ] zu approximieren :x0=E[x]E[Log(x)]

E[Log(x)]Log(E[x])-V[x]2E[x]2.

Diese Annäherung scheint für ihre Anwendung ziemlich gut zu funktionieren.

Wenn Sie dies leicht modifizieren, um es der vorliegenden Frage anzupassen, erhalten Sie durch Linearität der Erwartung

E[Log(1+x)]Log(1+E[x])-V[x]2(1+E[x])2.

Es kann jedoch vorkommen, dass entweder die linke oder die rechte Seite nicht vorhanden ist, während dies bei der anderen Seite der Fall ist. Daher sollte bei der Verwendung dieser Näherung vorsichtig vorgegangen werden.

user1149913
quelle
3
Interessanterweise kann dies verwendet werden, um eine Annäherung an die Digamma-Funktion zu erhalten.
Wahrscheinlichkeitslogik
6

Wenn Sie keinen genauen Ausdruck für benötigen , ist die durch Jensens Ungleichung gegebene Schranke häufig gut genug: log [ E ( X ) + 1 ] E [ log ( X + 1) ) ]E[log(X+1)]

Log[E(X)+1]E[Log(X+1)]
dsaxton
quelle
Ich wollte nur hinzufügen: Wenn keine direkte Berechnung möglich ist und Sie eine einzelne Variable , ist die Ungleichung von jensen Ihre einzige Option, um nützliche Ergebnisse zu erhalten. Während die vorgeschlagene Taylor-Näherung tatsächlich in der Praxis funktioniert, gibt es keine theoretische Rechtfertigung, die verwendet werden könnte, um die Löschung der übrigen Begriffe zu motivieren. (Dabei ist zu beachten, dass die unendlich lange Reihe von ln (1 + x) ohnehin nur in einem Radius | x | <1) konvergiert.)X
chRrr
Ich denke, es sollte da das Protokoll nach unten konkav ist. Log
Deep North
5

Angenommen, Wahrscheinlichkeitsdichte f X . Bevor Sie mit der Approximation beginnen, bedenken Sie, dass Sie für jede messbare Funktion g beweisen können , dass E [ g ( X ) ] = g ( X )XfXG In dem Sinnedasswenn das erste Integral existiert, so die zweiten Fall ist, und sie haben den gleichen Wert.

E[G(X)]=G(X)dP=-G(x)fX(x)dx,
Zen
quelle
1
G(x)=x2
E[|G(X)|]<
2
G(x)=x
2
@prob: Nein, du brauchst diese Bedingung in deinem ersten Kommentar nicht und selbst in einer Situation, die für diese Frage sehr relevant sein könnte! (+1 zu Ihrem zweiten Kommentar, den ich auch kommentieren wollte.)
Kardinal
2
@prob: Es ist ausreichend , aber wenn Sie Ihren ersten Kommentar mit Ihrem zweiten Kommentar vergleichen, werden Sie sehen, warum es nicht notwendig ist ! :-)
Kardinal
4

Es gibt zwei übliche Ansätze:

  1. Wenn Sie die Verteilung von , können Sie möglicherweise die Verteilung von ln ( 1 + X ) ermitteln.Xln(1+X)ln(1+x)fX(x)x

  2. Wie Sie vorschlagen, können Sie, wenn Sie die ersten Momente kennen, eine Taylor-Näherung berechnen.

Glen_b - Setzen Sie Monica wieder ein
quelle