Kann das Neyman-Pearson-Lemma auf den Fall angewendet werden, dass einfache Null und Alternative nicht zur selben Verteilungsfamilie gehören?

Kann das Neyman-Pearson-Lemma auf den Fall angewendet werden, dass eine einfache Null und eine einfache Alternative nicht zu derselben Verteilungsfamilie gehören? Ich verstehe nicht, warum es nicht geht.

Zum Beispiel, wenn die einfache Null eine Normalverteilung und die einfache Alternative eine Exponentialverteilung ist.
Ist der Likelihood-Ratio-Test eine gute Möglichkeit, eine zusammengesetzte Null mit einer zusammengesetzten Alternative zu vergleichen, wenn beide zu verschiedenen Verteilungsfamilien gehören?

Danke und Grüße!

hypothesis-testing mathematical-statistics Tim
quelle

Das ist eine gute Frage.

Glen_b

Wie Sie in der Frage sagen, macht der Beweis keine Annahmen über die Form der beiden Verteilungen. Vertraue der Mathematik.

Cyan

@Cyan: Ist der Likelihood Ratio Test ein guter Weg für Composite Null und Composite Alternative, die zu verschiedenen Distributionsfamilien gehören?

Tim

Um meinen früheren Kommentar zu verdeutlichen: Ich sehe häufig Leute, die "Nein" sagen - in der Tat scheint es sogar in Zeitungen : - "[Likelihood Ratio Tests] ... dürfen nicht verwendet werden, um Rückschlüsse auf die funktionale Form der Verteilung der Daten zu ziehen. " Es wäre schön, wenn solche Behauptungen nicht so oft unbeantwortet bleiben würden.

Glen_b

Dies ist eine nicht-Frage , weil irgendwelche zwei verschiedenen Verteilungen

und

Teil einer kontinuierlichen Ein-Parameter - Familie sind

F

$F$

G

$G$

{p F + (1 - p) G},

$\{pF + (1-p)G\},$

0 \leq p \leq 1

$0\le p \le 1$

Whuber

Antworten:

Ja, Neyman Pearson Lemma kann auf den Fall angewendet werden, dass simple null und simple alternative nicht zur selben Distributionsfamilie gehören.

Wir wollen einen Most Powerful (MP) -Test von gegen seiner Größe konstruieren . $H_0:X\sim N(0,1)$ $H_1 : X\sim \text{Exp}(1)$

Für ein bestimmtes ist unsere kritische Funktion von Neyman Pearson Lemma $k$

ϕ (x) = {\begin{cases} 1, & \frac{f_{1} (x)}{f_{0} (x)} > k \\ 0, & Otherwise \end{cases}

$\phi(x) =\begin{cases} 1,&\dfrac{f_1(x)}{f_0(x)}>k \\0, &\text{Otherwise} \end{cases}$

ist ein MP-Test von gegen seiner Größe. $H_0$ $H_1$

Hier ist

r (x) = \frac{f_{1} (x)}{f_{0} (x)} = \frac{e^{- x}}{\frac{1}{\sqrt{2 π}} e^{- x^{2} / 2}} = \sqrt{2 π} e^{(\frac{x^{2}}{2} - x)}

$r(x)=\dfrac{f_1(x)}{f_0(x)}=\dfrac{e^{\displaystyle -x}}{\frac{1}{\sqrt{2 \pi}}e^{\displaystyle -x^2/2}}=\sqrt{2 \pi}\,\,e^{\displaystyle \left(\frac{x^2} 2-x\right)}$

Man beachte, dass Nun, wenn Sie das Bild vonzeichnen[Ich weiß nicht, wie man ein Bild als Antwort konstruiert], wird aus der Grafik deutlich, dass

r^{'} (x) = \sqrt{2 π} e^{(\frac{x^{2}}{2} - x)} (x - 1) {\begin{cases} < 0, & x < 1 \\ > 0, & x > 1 \end{cases}

$r'(x) =\sqrt{2 \pi}\,\,e^{\displaystyle \left(\frac{x^2} 2-x\right)}(x-1)\\ \begin{cases}<0 ,& x<1\\>0 ,& x>1 \end{cases}$

r (x)

$r(x)$

r (x) > k ⟹ x > c

$r(x)>k \implies x>c$

Also, für ein particualr ist ein MP - Test von gegen von seiner Größe. $c$

ϕ (x) = {\begin{cases} 1, & x > c \\ 0, & Otherwise \end{cases}

$\phi(x) =\begin{cases} 1,&x>c \\0, &\text{Otherwise} \end{cases}$

H_{o}

$H_o$

H_{1}

$H_1$

Sie können testen

1. gegen $H_0:X\sim N(0,\dfrac{1}{2})$ $H_1:X\sim \text{Cauchy}(0,1)$
2. $H_0:X\sim N(0,1)$ $H_1:X\sim \text{Cauchy}(0,1)$
3. $H_0:X\sim N(0,1)$ $H_1:X\sim \text{Double Exponential}(0,1)$

Von Neyman Pearson Lemma.

$\mathbb{\theta}$

Das ist alles von mir.

ANZEIGE
quelle

Q2. Die Wahrscheinlichkeitsrate ist eine hinreichend vernünftige Teststatistik, aber (a) das Neyman-Pearson-Lemma gilt nicht für zusammengesetzte Hypothesen, so dass die LRT nicht unbedingt am leistungsfähigsten ist; & (b) Wilks 'Theorem gilt nur für verschachtelte Hypothesen. Wenn also eine Familie kein Sonderfall der anderen ist (z. B. Exponential / Weibull, Poisson / negatives Binom), kennen Sie die Verteilung des Wahrscheinlichkeitsverhältnisses unter der Null nicht. auch asymptotisch.

Scortchi - Wiedereinsetzung von Monica
quelle

"... Sie kennen die Verteilung des Wahrscheinlichkeitsverhältnisses unter der Null nicht einmal asymptotisch." Das ist kein so großes Problem in einer Welt, in der Sie eine Simulation unter Null in weniger als 20 Zeilen von R.

Cyan

@Cyan: Das Schreiben dieser 20 Zeilen erfordert jedoch möglicherweise einige Überlegungen. Denken Sie daran, dass es sich um eine zusammengesetzte Null handelt. Im Allgemeinen werden wir keine Pivots haben, und ich denke nicht, dass der LR notwendigerweise ein ungefährer Pivot sein wird. Ich nehme an, Sie könnten die LR studieren ...

Scortchi - Reinstate Monica

Du hast genau recht. Das allgemeine Bild ist: Wir wollen eine Teststatistik, die uns maximale Leistung bei einem bestimmten Signifikanzniveau gibt $\alpha$ . Mit anderen Worten, eine Möglichkeit, einen Wert zu berechnen $\phi$ so dass die Punkte Teil des Parameterraums für die $\phi$ übersteigt seine $\alpha^\mathrm{th}$ Quantil unter $H_0$ haben das geringstmögliche Gewicht unter $H_1$ . Das Neyman-Pearson-Lemma zeigt, dass diese Statistik das Wahrscheinlichkeitsverhältnis ist.
In der Originalarbeit von Neyman & Pearson werden auch zusammengesetzte Hypothesen erörtert. In einigen Fällen ist die Antwort einfach - wenn in jeder Familie eine Auswahl bestimmter Verteilungen vorliegt, deren Wahrscheinlichkeitsverhältnis bei Anwendung für die ganze Familie konservativ ist. Dies ist beispielsweise häufig bei verschachtelten Hypothesen der Fall. Es ist jedoch leicht, dass dies nicht geschieht. In diesem Artikel von Cox wird erläutert, was weiter zu tun ist. Ich denke, ein moderner Ansatz wäre es, dies auf bayesianische Weise zu tun, indem die beiden Familien vorrangig behandelt werden.

petrelharp
quelle

Gute Referenz dort - das Cox-Papier.

Scortchi