Gilt der Bayes-Satz für Erwartungen?

Stimmt es , dass für zwei Zufallsvariablen und ,$A$$B$

$$E(A\mid B)=E(B\mid A)\frac{E(A)}{E(B)}?$$

(1)A

$$E[A\mid B] \stackrel{?}= E[B\mid A]\frac{E[A]}{E[B]} \tag 1$$ Das mutmaßliche Ergebnis ist für unabhängige Zufallsvariablen trivial wahr und mit ungleich Null bedeutet.$(1)$$A$$B$

Wenn , dann beinhaltet die rechte Seite von eine Division durch und so ist bedeutungslos. Es ist nicht relevant , ob und unabhängig sind oder nicht.$E[B]=0$$(1)$$0$$(1)$$A$$B$

Im Allgemeinen gilt nicht für abhängige Zufallsvariablen, es können jedoch spezifische Beispiele für abhängige und die erfüllen . Beachten Sie, dass wir weiterhin darauf bestehen müssen, dass , andernfalls ist die rechte Seite von bedeutungslos. Bedenken Sie, dass eine Zufallsvariable ist , die zufällig eine Funktion der Zufallsvariablen , sagen wir während eine Zufallsvariable ist , die eine Funktion der ist Zufallsvariable , sagen wir$(1)$$A$$B$$(1)$$E[B]\neq 0$$(1)$$E[A\mid B]$g ( B ) E [ B ∣ A $B$$g(B)$$E[B\mid A]$h ( A ) ( 1 $A$$h(A)$ . Also, ist ähnlich zu der Frage , ob$(1)$

g(B)h(A

$$g(B)\stackrel{?}= h(A)\frac{E[A]}{E[B]} \tag 2$$ kann eine wahre Aussage sein, und offensichtlich lautet die Antwort, dass nicht a sein kann Vielfaches von im Allgemeinen.$g(B)$$h(A)$

Meines Wissens gibt es nur zwei Sonderfälle, in denen kann.$(1)$

• Wie oben erwähnt, für unabhängige Zufallsvariablen und , und sind degenerierte Zufallsvariablen (genannt Konstanten , die durch statistisch Analphabeten Menschen) , die gleich und ist, und dann , wenn , wir haben die Gleichheit in ( 1 ) .B g ( B ) h ( A ) E [ A ] E [ B ] E [ B ] ≤ $A$$B$$g(B)$$h(A)$$E[A]$$E[B]$$E[B]\neq 0$$(1)$

• Angenommen, am anderen Ende des Spektrums von der Unabhängigkeit ist wobei g ( ⋅ ) eine invertierbare Funktion ist und somit A = g ( B ) und B = g - 1 ( A ) vollständig abhängige Zufallsvariablen sind. In diesem Fall ist E [ A ∣ B ] = g ( B ) $A=g(B)$$g(\cdot)$$A=g(B)$$B=g^{-1}(A)$ und so wird ( 1 ) zu g ( B ) ? = B E [ A

  $$E[A\mid B] = g(B), \quad E[B\mid A] = g^{-1}(A) = g^{-1}(g(B)) = B$$ $(1)$ das genau gilt, wenng(x)=αx ist,wobeiαeine beliebige reelle Zahl ungleich Null sein kann. Somit giltimmer dann, wennein skalares Vielfaches von, und natürlich mussungleich Null sein (vgl.Michael Hardys Antwort). Die obige Entwicklung zeigt, dasseinelineareFunktion sein muss und dass füraffineFunktionenmit $$g(B)\stackrel{?}= B\frac{E[A]}{E[B]}$$ $g(x) = \alpha x$$\alpha$A B E [ B ] g ( x ) $(1)$$A$$B$$E[B]$$g(x)$g ( x ) = α x + β β ≤ 0 B α β ≤ 0 A = α B + β B ( 1 $(1)$$g(x) = \alpha x + \beta$$\beta \neq 0$. Beachten Sie jedoch, dass Alecos Papadopolous in seiner Antwort und seine Kommentare danach behauptet , dass , wenn eine normale Zufallsvariable mit Nicht - Null - Mittelwert, dann für bestimmte Werte von und , dass er sieht, und erfüllt . Meiner Meinung nach ist sein Beispiel falsch.$B$$\alpha$$\beta\neq 0$$A=\alpha B+\beta$$B$$(1)$

In einem Kommentar zu dieser Antwort, Huber hat vorgeschlagen , die symmetrische vermutete Gleichheit unter Berücksichtigung , wer von natürlich gilt immer für unabhängige Zufallsvariablen unabhängig von den Werten von und und für skalare Vielfache auch. Trivialer gilt natürlich für alle Zufallsvariablen und Mittelwert Null (unabhängig oder abhängig, skalares Vielfaches oder nicht; es spielt keine Rolle!): ist ausreichend für die Gleichheit in . Daher ist möglicherweise nicht so interessant wie E[A]E[B]A=& agr;B(3)ABE[A]=E[B]=0(3)(3)(1

$$E[A\mid B]E[B] \stackrel{?}=E[B\mid A]E[A]\tag{3}$$ $E[A]$$E[B]$$A = \alpha B$$(3)$ $A$$B$$E[A]=E[B]=0$ $(3)$$(3)$$(1)$ als Diskussionsthema.

Das Ergebnis ist im Allgemeinen falsch. Lassen Sie uns das an einem einfachen Beispiel sehen. Es sei eine Binomialverteilung mit den Parametern und die Betaverteilung mit den Parametern , dh ein Bayes'sches Modell mit konjugiertem Prior. Berechnen Sie jetzt einfach die beiden Seiten Ihrer Formel. Die linke Seite ist , während die rechte Seite und die sind sicher nicht gleich.n , p P ( α , β ) E X | P = n P E ( P | X ) E$X \mid P=p$$n,p$$P$$(\alpha, \beta)$$\DeclareMathOperator{\E}{\mathbb{E}} \E X \mid P = nP$

$$\E( P\mid X) \frac{\E X}{\E P} = \frac{\alpha+X}{n+\alpha+\beta} \frac{\alpha/(\alpha+\beta)}{n\alpha/(\alpha+\beta)}$$

Der bedingte Erwartungswert einer Zufallsvariablen unter der Voraussetzung, dass B = b eine Zahl ist, die davon abhängt, welche Zahl b ist. Also nenne es h ( b ) . Dann wird der bedingte erwartete Wert E ( A | B ) ist , h ( B ) , eine Zufallsvariable , deren Wert vollständig durch den Wert der Zufallsvariablen bestimmt wird , B . Also ist E ( A ∣ B ) eine Funktion von B und E $A$$B=b$$b$$h(b).$$\operatorname{E}(A\mid B)$$h(B),$$B$$\operatorname{E}(A\mid B)$$B$ ist eine Funktion von A .$\operatorname{E}(B\mid A)$$A$

Der Quotient ist nur eine Zahl.$\operatorname{E}(A)/\operatorname{E}(B)$

Eine Seite Ihrer vorgeschlagenen Gleichheit wird also von und die andere von B bestimmt , sodass sie im Allgemeinen nicht gleich sein können.$A$$B$

(Vielleicht sollte ich hinzufügen, dass sie im trivialen Fall gleich sein können, wenn die Werte von und B sich gegenseitig bestimmen, wie zum Beispiel, wenn A = α B , α ≤ 0 und E [ B ] ≤ 0 , wenn E [ A ∣ B ] = α B = E [ B ∣ A ] ⋅ α = E [ B ∣ A ] α E [ B $A$$B$$A = \alpha B, \alpha \neq 0$$E[B]\neq 0$Funktionen, die nur an wenigen Stellengleichsind, sind jedochnichtgleich.)

$$E[A\mid B] = \alpha B = E[B\mid A]\cdot\alpha = E[B\mid A]\frac{\alpha E[B]}{E[B]} = E[B\mid A]\frac{E[A]}{E[B]}.$$

Der Ausdruck gilt sicherlich nicht im Allgemeinen. Zum Spaß zeige ich unten, dass, wenn und B gemeinsam einer bivariaten Normalverteilung folgen und Mittelwerte ungleich Null haben, das Ergebnis gilt, wenn die beiden Variablen lineare Funktionen voneinander sind und denselben Variationskoeffizienten haben ( das Verhältnis der Standardabweichung zum Mittelwert) in absoluten Zahlen.$A$$B$

Für gemeinsam Normalen haben wir

$$\operatorname{E}(A \mid B) = \mu_A + \rho \frac{\sigma_A}{\sigma_B}(B - \mu_B)$$

und wir wollen aufzwingen

$$\mu_A + \rho \frac{\sigma_A}{\sigma_B}(B - \mu_B) = \left[\mu_B + \rho \frac{\sigma_B}{\sigma_A}(A - \mu_A)\right]\frac{\mu_A}{\mu_B}$$

$$\implies \mu_A + \rho \frac{\sigma_A}{\sigma_B}(B - \mu_B) = \mu_A + \rho \frac{\sigma_B}{\sigma_A}\frac{\mu_A}{\mu_B}(A - \mu_A)$$

Vereinfache und dann ρ und ordne es neu an$\mu_A$$\rho$

$$B = \mu_B +\frac{\sigma^2_B}{\sigma^2_A}\frac{\mu_A}{\mu_B}(A - \mu_A)$$

Dies ist also die lineare Beziehung, die zwischen den beiden Variablen bestehen muss (sie sind also sicherlich abhängig, wobei der Korrelationskoeffizient absolut gleich eins ist), um die gewünschte Gleichheit zu erhalten. Was heißt das?

Erstens muss auch das befriedigt werden

$$E(B) \equiv \mu_B = \mu_B+\frac{\sigma^2_B}{\sigma^2_A}\frac{\mu_A}{\mu_B}(E(A) - \mu_A) \implies \mu_B = \mu_B$$

so wird dem Mittelwert von (oder von A ) keine andere Einschränkung auferlegt, außer dass sie nicht Null sind. Auch eine Relation für die Varianz muss erfüllt sein,$B$$A$

$$\operatorname{Var}(B) \equiv \sigma^2_B = \left(\frac{\sigma^2_B}{\sigma^2_A}\frac{\mu_A}{\mu_B}\right)^2\operatorname{Var}(A)$$

$$\implies \left(\sigma^2_A\right)^2\sigma^2_B = \left(\sigma^2_B\right)^2\sigma^2_A\left(\frac{\mu_A}{\mu_B}\right)^2$$

$$\implies \left(\frac{\sigma_A}{\mu_A}\right)^2 = \left(\frac{\sigma_B}{\mu_B}\right)^2 \implies (\text{cv}_A)^2 = (\text{cv}_B)^2$$

$$\implies |\text{cv}_A| = |\text{cv}_B|$$

was gezeigt werden sollte.

Es ist zu beachten, dass die Gleichheit des Variationskoeffizienten in absoluten Zahlen ermöglicht, dass die Variablen unterschiedliche Varianzen aufweisen, und dass eine einen positiven Mittelwert und die andere einen negativen hat.