Was ist die Rechtfertigung für die Verwendung von Taylor-Approximationen innerhalb von Erwartungsoperatoren?

8

Ich sehe manchmal Leute, die Taylor Approximation wie folgt verwenden:

E(ex)E(1+x)

Ich weiß, dass die Taylor-Näherung für funktioniert

ex1+x

Mir ist jedoch nicht klar, dass wir die Annäherung innerhalb des Erwartungsoperators durchführen können. Intuitiv denke ich, dass es funktioniert, wenn "die Wahrscheinlichkeit, dass viel größer als 0 ist, gering ist", aber ich bin mir nicht sicher, wie streng dies ist.x

Edit : Ich bin noch verwirrter, wenn wir eine Funktion erwarten:

E(f(ex))?E(f(1+x))
user56834
quelle
1
@repmat, das stimmt überhaupt nicht. Linearität bedeutet keine Kommutativität zwischen Funktions- und Erwartungsoperatoren
user56834

Antworten:

6

Für Ihr spezifisches Beispiel ist die Taylor-Näherung erster Ordnung um , alsox0=0,ex=e0+e0x+R1=1+x+R1

E(ex)=E(1+x)+E(R1)

Die Frage lautet also: "Was können wir über sagen ? Nun, wir wissen nicht so viel, wie wir über die Taylor-Approximation , über das Verhalten des Restes, möchten. E(R1)

Sehen Sie sich dieses Beispiel an, warum der Rest eine verräterische Sache ist, aber ich würde auch vorschlagen, den sehr anregenden Thread durchzulesen, der die Erwartungen der Taylor-Serie (insbesondere des Restes) in dieser Angelegenheit berücksichtigt.

Ein interessantes Ergebnis bei der linearen Regression ist das Folgende: Nehmen wir an, wir haben das wahre nichtlineare Modell

yi=m(xi)+ei

wobei die bedingte Erwartungsfunktion ist, und somit durch Konstruktion .m(xi)E(yixi)=m(xi)E(eixi)=0

Betrachten Sie die Taylor-Näherung erster Ordnung speziell umE(xi)

yi=β0+xiβ+ui,ui=R1i+ei

wobei der Taylor-Rest der Näherung ist, sind die Betas die partiellen Ableitungen der nichtlinearen Funktion in Bezug auf die bei bewerteten 's , während der konstante Term alle anderen sammelt feste Dinge der Annäherung (übrigens ist dies der Grund, warum a) uns gesagt wird, "immer eine Konstante in die Spezifikation aufnehmen", aber dass b) die Konstante in den meisten Fällen nicht sinnvoll interpretiert werden kann).x i E ( x i )R1ixiE(xi)

Wenn wir dann die Schätzung der gewöhnlichen kleinsten Quadrate anwenden, erhalten wir, dass der Taylor-Rest für die Regressoren unkorrigiert wird: und auch . Das erste Ergebnis impliziert, dass die Eigenschaften des OLS-Schätzers für die Betas nicht durch die Tatsache beeinflusst werden, dass wir die nichtlineare Funktion durch ihre Taylor-Näherung erster Ordnung angenähert haben. Das zweite Ergebnis impliziert, dass die Approximation unter demselben Kriterium optimal ist, für das die bedingte Erwartung der optimale Prädiktor ist (mittlerer quadratischer Fehler, hier mittlerer quadratischer Rest). E(R1ixi)=E(R1i)E(xi)E(R1i2)=min

Für diese Ergebnisse werden beide Prämissen benötigt, nämlich dass wir die Taylor-Erweiterung um den erwarteten Wert der Regressoren herum nehmen und OLS verwenden.

Alecos Papadopoulos
quelle
2

Eine Situation, in der dies verwendet wird, ist Asymptotik.

Angenommen, und ist eine glatte Funktion. Dann wobei Konvergenz in der Verteilung bedeutet (auch Konvergenz im Gesetz genannt). Tatsächlich löschen wir die Terme höherer Ordnung in der Erweiterung und Behandlung als Man schreibt Xnμσ/nN(0,1)g

g(Xn)g(μ)|g(μ)|σ/nLN(0,1) as n,
L''
g(x)=g(μ)+g(μ)(xμ)+g(μ)2(xμ)2+g(μ)6(xμ)3+
g(x)g(μ)+g(μ)(xμ).
g(Xn)AN(g(μ),g(μ)2σ2n)
AN'' bedeutet" asymptotisch normal ".
Michael Hardy
quelle
1
Ich denke nicht, dass dies die Frage beantwortet. Sie geben lediglich ein Beispiel an, in dem diese Annäherung vorgenommen wird, und erklären nicht, warum sie legitim ist.
Federico Poloni