Wie modelliere ich eine voreingenommene Münze mit zeitlich variierender Voreingenommenheit?

Modelle von voreingenommenen Münzen haben typischerweise einen Parameter . Eine Möglichkeit, aus einer Reihe von Ziehungen abzuschätzen, besteht darin, einen Beta-Prior zu verwenden und die posteriore Verteilung mit binomialer Wahrscheinlichkeit zu berechnen.$\theta = P(\text{Head} | \theta)$$\theta$

In meinen Einstellungen ändern sich meine Münzeigenschaften aufgrund eines seltsamen physikalischen Prozesses langsam und wird eine Funktion der Zeit . Meine Daten sind eine Reihe von geordneten Zeichnungen, dh . Ich kann davon ausgehen, dass ich nur ein Unentschieden für jedes in einem diskreten und regelmäßigen Zeitraster habe.$\theta$$t$$\{H,T,H,H,H,T,...\}$$t$

Wie würden Sie das modellieren? Ich denke an so etwas wie einen Kalman-Filter, der an die Tatsache angepasst ist, dass die versteckte Variable und die Binomialwahrscheinlichkeit beibehält. Womit könnte ich modellieren , um die Inferenz nachvollziehbar zu halten?$\theta$$P(\theta(t+1)|\theta(t))$

Bearbeiten Sie die folgenden Antworten (danke!) : Ich möchte als Markov-Kette der Ordnung 1 modellieren , wie dies in HMM- oder Kalman-Filtern der Fall ist. Die einzige Annahme, die ich machen kann, ist, dass glatt ist. Ich könnte mit ein kleines Gaußsches Rauschen schreiben (Kalman-Filteridee), aber dies würde die Anforderung brechen, dass muss in bleiben . Nach der Idee von @J Dav könnte ich eine Probit-Funktion verwenden, um die reale Linie auf abzubilden , aber ich habe die Intuition, dass dies eine nicht analytische Lösung ergeben würde. Eine Beta-Verteilung mit Mittelwert$\theta(t)$$\theta(t)$$P(\theta(t+1)|\theta(t)) = \theta(t) + \epsilon$$\epsilon$$\theta$$[0,1]$$[0,1]$$\theta(t)$ und eine größere Varianz könnte den Trick machen.

Ich stelle diese Frage, da ich das Gefühl habe, dass dieses Problem so einfach ist, dass es zuvor untersucht worden sein muss.

Ich bezweifle, dass Sie ein Modell mit analytischer Lösung entwickeln können, aber die Schlussfolgerung kann mit den richtigen Werkzeugen immer noch nachvollziehbar gemacht werden, da die Abhängigkeitsstruktur Ihres Modells einfach ist. Als Forscher für maschinelles Lernen würde ich es vorziehen, das folgende Modell zu verwenden, da die Schlussfolgerung mithilfe der Technik der Erwartungsausbreitung ziemlich effizient gemacht werden kann:

Sei das Ergebnis des ten Versuchs. Definieren wir den zeitvariablen Parameter$X(t)$$t$

$\eta(t+1) \sim \mathcal{N}(\eta(t), \tau^2)$ für .$t \geq 0$

Um mit zu verknüpfen , führen Sie latente Variablen ein$\eta(t)$$X(t)$

$Y(t) \sim \mathcal{N}(\eta(t), \beta^2)$ ,

und Modell sein$X(t)$

$X(t) = 1$ wenn , und wenn nicht. Sie können tatsächlich ignorieren und sie marginalisieren, indem Sie einfach (mit cdf von) sagen Standard normal), aber die Einführung latenter Variablen erleichtert die Inferenz. Beachten Sie außerdem, dass in Ihrer ursprünglichen Parametrisierung .$Y(t) \geq 0$$X(t) = 0$$Y(t)$$\mathbb{P}[X(t)=1] = \Phi(\eta(t)/\beta)$$\Phi$$\theta(t) = \eta(t)/\beta$

Wenn Sie an der Implementierung des Inferenzalgorithmus interessiert sind, lesen Sie dieses Dokument . Sie verwenden ein sehr ähnliches Modell, sodass Sie den Algorithmus leicht anpassen können. Um EP zu verstehen, kann die folgende Seite nützlich sein. Wenn Sie an diesem Ansatz interessiert sind, lassen Sie es mich wissen. Ich kann detailliertere Ratschläge zur Implementierung des Inferenzalgorithmus geben.

Um auf meinen Kommentar einzugehen, ist ein Modell wie p (t) = exp (-t) ein Modell, das einfach ist und die Schätzung von p (t) durch Schätzung von Verwendung der Maximum-Likelihood-Schätzung ermöglicht. Aber nimmt die Wahrscheinlichkeit wirklich exponentiell ab? Dieses Modell wäre eindeutig falsch, wenn Sie Zeiträume mit hoher Erfolgshäufigkeit beobachten als früher und später. Das oszillatorische Verhalten könnte als p (t) = p | sint | modelliert werden . Beide Modelle sind sehr gut handhabbar und können mit maximaler Wahrscheinlichkeit gelöst werden, bieten jedoch sehr unterschiedliche Lösungen.$_0$$_0$$_0$

Ihre Wahrscheinlichkeit ändert sich mit aber wie Michael sagte, wissen Sie nicht wie. linear oder nicht? Es sieht aus wie ein Modellauswahlproblem, bei dem Ihre Wahrscheinlichkeit :$t$$p$

$p=\Phi(g(t,\theta))$ kann von einer stark nichtlinearen -Funktion abhängen . ist nur eine Begrenzungsfunktion, die zwischen 0 und 1 Wahrscheinlichkeiten garantiert.$g(t,\theta)$$\Phi$

Ein einfacher explorativer Ansatz wäre, mehrere Probits für mit unterschiedlichen nichtlinearen zu versuchen und eine -Modellauswahl basierend auf Standardinformationskriterien durchzuführen .$\Phi$$g()$$g()$

So beantworten Sie Ihre überarbeitete Frage:

Wie Sie sagten, würde die Verwendung von probit nur numerische Lösungen implizieren, aber Sie können stattdessen eine logistische Funktion verwenden:

Logistische Funktion:$P[\theta(t+1)] = \frac{1}{1+\exp{(\theta(t)+\epsilon)}}$

Linearisiert durch:$\log{\frac{P}{1-P}} = \theta(t)+\epsilon$

Ich bin mir nicht sicher, wie dies unter dem Kalman-Filter-Ansatz funktionieren kann, glaube aber dennoch, dass eine nichtlineare Spezifikation wie oder viele andere ohne zufälligen Term dies tun wird mach den Job. Wie Sie sehen können, ist diese Funktion "smoth" in dem Sinne, dass sie kontinuierlich und differenzierbar ist. Leider würde das Hinzufügen von zu Sprüngen der resultierenden Wahrscheinlichkeit führen, was Sie nicht möchten. Mein Rat wäre daher, herauszunehmen .ϵ $\theta(t+1)=a t^3 +bt^2+ct + d$$\epsilon$$\epsilon$

Logit-Wahrscheinlichkeit:$P[Coin_{t+1}=H | t] = \frac{1}{1+\exp{(\theta(t))}}$

Sie haben bereits Zufälligkeiten im bernoulli-Ereignis (Markov-Kette) und fügen aufgrund von eine zusätzliche Quelle hinzu . Somit könnte Ihr Problem als Probit oder Logit gelöst werden, geschätzt durch Maximum Likelihood mit als erklärende Variable. Ich nehme an, Sie stimmen zu, dass diese Sparsamkeit sehr wichtig ist. Es sei denn, Ihr Hauptziel ist es, eine bestimmte Methode (HMM und Kalman Filter) anzuwenden und nicht die einfachste gültige Lösung für Ihr Problem zu finden.$\epsilon$$t$