Lösung für das deutsche Panzerproblem

Gibt es einen formalen mathematischen Beweis dafür , dass die Lösung den German Tank Problem ist eine Funktion von nur der Parameter k (Anzahl der beobachteten Proben) und m (Maximalwert unter beobachteten Proben)? Kann man also mit anderen Worten beweisen, dass die Lösung neben dem Maximalwert unabhängig von den anderen Stichprobenwerten ist?

Wahrscheinlichkeit

Häufige Probleme in der Wahrscheinlichkeitstheorie beziehen sich auf die Wahrscheinlichkeit von Beobachtungen gegebenem Modell und gegebenen Parametern (nennen wir sie ). Zum Beispiel sind die Wahrscheinlichkeiten für bestimmte Situationen in Kartenspielen oder Würfelspielen oft sehr einfach.$x_1, x_2, ... , x_n$$\theta$

In vielen praktischen Situationen handelt es sich jedoch um eine umgekehrte Situation ( Inferenzstatistik ). Das heißt: Die Beobachtung ist gegeben und jetzt ist das Modell unbekannt , oder zumindest kennen wir bestimmte Parameter .$x_1, x_2, ... , x_k$$\theta$

Bei dieser Art von Problemen beziehen wir uns häufig auf einen Begriff, der als Wahrscheinlichkeit der Parameter wird. Dies ist eine Glaubensrate an einen bestimmten Parameter gegebenen Beobachtungen . Dieser Term wird als proportional zur Wahrscheinlichkeit für die Beobachtungen ausgedrückt, unter der Annahme, dass ein Modellparameter hypothetisch wahr wäre. $\mathcal{L(\theta)}$$\theta$$x_1, x_2, .. x_k$$x_1, x_2, .. x_k$$\theta$

Für einen gegebenen Parameterwert unterstützt die Beobachtung diesen bestimmten Parameter (oder die Theorie / Hypothese, die diesen Parameter annimmt) umso mehr, je wahrscheinlicher eine bestimmte Beobachtung ist (relativ zur Wahrscheinlichkeit mit anderen Parameterwerten). . Eine (relativ) hohe Wahrscheinlichkeit wird unsere Überzeugung über diesen Parameterwert stärken (dazu gibt es viel mehr Philosophisches zu sagen).$\theta$$x_1, x_2, .. x_n$

Wahrscheinlichkeit im deutschen Panzerproblem

Für das deutsche Panzerproblem lautet die Wahrscheinlichkeitsfunktion für eine Reihe von Proben :$x_1, x_2, .. x_k$

Ob Sie Proben {1, 2, 10} oder Proben {8, 9, 10} beobachten, sollte keine Rolle spielen, wenn die Proben aus einer gleichmäßigen Verteilung mit dem Parameter . Beide Stichproben sind mit der Wahrscheinlichkeit gleich wahrscheinlich, und unter Verwendung der Idee der Wahrscheinlichkeit sagt die eine Stichprobe nicht mehr über den Parameter als die andere Stichprobe.$\theta$${{\theta}\choose{3}}^{-1}$$\theta$

Die hohen Werte {8, 9, 10} könnten Sie denken / glauben lassen, dass höher sein sollte. Es ist jedoch nur der Wert {10}, der Ihnen wirklich relevante Informationen über die Wahrscheinlichkeit von (der Wert 10 sagt Ihnen, dass zehn oder höher sein wird, die anderen Werte 8 und 9 tragen nichts zu diesen Informationen bei ).$\theta$$\theta$$\theta$

Fisher Neyman Faktorisierungssatz

Dieser Satz sagt Ihnen, dass eine bestimmte Statistik (dh eine Funktion der Beobachtungen, wie der Mittelwert, der Median oder wie beim deutschen Panzerproblem das Maximum) ausreicht (enthält alle Informationen), wenn Sie können in der Wahrscheinlichkeitsfunktion die Terme herausrechnen, die von den anderen Beobachtungen abhängen, so dass dieser Faktor nicht sowohl vom Parameter als auch von (und Der Teil der Wahrscheinlichkeitsfunktion, der die Daten mit den hypothetischen Parameterwerten in Beziehung setzt, hängt nur von der Statistik ab, nicht jedoch von der Gesamtheit der Daten / Beobachtungen.$T(x_1, x_2, … , x_k)$$x_1, x_2, … , x_k$$\theta$$x_1, x_2, … , x_k$

Der Fall des deutschen Panzerproblems ist einfach. Sie können oben sehen, dass der gesamte Ausdruck für die obige Wahrscheinlichkeit bereits nur von der Statistik abhängig ist und der Rest der Werte keine Rolle spielt.$\max(x_1, x_2, .. x_k)$$x_1, x_2, .. x_k$

Kleines Spiel als Beispiel

Nehmen wir an, wir spielen das folgende Spiel wiederholt: ist selbst eine Zufallsvariable und wird mit gleicher Wahrscheinlichkeit entweder 100 oder 110 gezogen. Dann ziehen wir eine Stichprobe .$\theta$$x_1,x_2,...,x_k$

Wir wollen eine Strategie zum Erraten von wählen , basierend auf den beobachteten , die unsere Wahrscheinlichkeit maximiert, die richtige Vermutung von .$\theta$$x_1,x_2,...,x_k$$\theta$

Die richtige Strategie besteht darin, 100 zu wählen, es sei denn, eine der Zahlen in der Stichprobe ist> 100.

Wir könnten versucht sein, den Parameterwert 110 bereits zu wählen, wenn viele der dazu neigen, alle hohe Werte nahe hundert (aber keine genau über hundert) zu sein, aber das wäre falsch. Die Wahrscheinlichkeit für eine solche Beobachtung ist größer, wenn der wahre Parameterwert 100 ist als wenn er 110 ist. Wenn wir also in einer solchen Situation 100 als Parameterwert erraten, ist es weniger wahrscheinlich, dass wir einen Fehler machen (weil der Eine Situation mit diesen hohen Werten nahe hundert, die jedoch immer noch darunter liegen, tritt häufiger auf, wenn der wahre Wert 100 beträgt, als wenn der wahre Wert 110 beträgt.$x_1,x_2,...,x_k$

Sie haben keine genaue Formulierung des "Problems" vorgelegt, daher ist nicht genau klar, was Sie beweisen möchten. Aus Bayes'scher Sicht hängt die hintere Wahrscheinlichkeit von allen Daten ab. Jede Beobachtung einer bestimmten Seriennummer unterstützt diese Nummer jedoch am meisten. Das heißt, bei jeder Beobachtung ist das Quotenverhältnis zwischen posterior und prior für die Hypothese "die tatsächliche Anzahl von Tanks ist " größer als für "die tatsächliche Anzahl von Tanks ist [andere Anzahl als ]". Wenn wir also mit einem einheitlichen Prior beginnen, hat nach dieser Beobachtung den höchsten posterioren Wert.$n$$n$$n$$n$

Stellen Sie sich einen Fall vor, in dem wir den Datenpunkt und die Hypothesen . Offensichtlich ist der hintere Teil für Null. Und unsere Posterioren für werden größer sein als ihre vorherigen. Der Grund dafür ist, dass in der Bayes'schen Argumentation das Fehlen von Beweisen ein Beweis für das Fehlen ist. Jedes Mal, wenn wir die Gelegenheit haben , eine Beobachtung zu machen, die unsere Wahrscheinlichkeit verringert hätte, aber nicht, steigt die Wahrscheinlichkeit. Da wir gesehen haben könnten , was unsere Posterioren für auf Null gesetzt hätte, bedeutet die Tatsache, dass wir es nicht gesehen haben, dass wir unsere Posterioren für erhöhen sollten$13$$N=10,13,15$$N=10$$N=13,15$$16$$N=13,15$$N=13,15$ . Beachten Sie jedoch, dass je kleiner die Zahl, desto mehr Zahlen hätten wir sehen können, die diese Zahl ausgeschlossen hätten. Für wir diese Hypothese verworfen, nachdem wir . Aber für wir mindestens benötigt , um die Hypothese abzulehnen. Da die Hypothese mehr falsifizierbar als , die Tatsache , dass wir nicht fälschen mehr Beweise für ist , als nicht zu fälschen ist ein Beweis für .$N=13$$14,15,16,...$$N=15$$16$$N=13$$N=15$$N=13$$N=13$$N=15$$N=15$

Jedes Mal, wenn wir einen Datenpunkt sehen, setzt er den hinteren Teil von allem, was darunter liegt, auf Null und erhöht den hinteren Teil von allem anderen, wobei kleinere Zahlen den größten Schub erhalten. Somit ist die Zahl, die den insgesamt größten Boost erhält, die kleinste Zahl, deren posterior nicht auf Null gesetzt wurde, dh der Maximalwert der Beobachtungen.

Zahlen, die kleiner als das Maximum sind, beeinflussen, wie viel größer ein Boost ist, aber es hat keinen Einfluss auf den allgemeinen Trend, dass das Maximum den größten Boost erhält. Betrachten Sie das obige Beispiel, in dem wir bereits gesehen haben . Wenn die nächste Zahl , welchen Effekt hat das? Es hilft mehr als , aber beide Zahlen wurden bereits abgelehnt, das ist also nicht relevant. Es hilft mehr als , aber bereits mehr als geholfen , so dass es keinen Einfluss darauf hat, welcher Nummer am meisten geholfen wurde.$13$$5$$5$$6$$13$$15$$13$$15$