Ich mache eine Frage zu Markov-Ketten und die letzten beiden Teile sagen Folgendes:
- Besitzt diese Markov-Kette eine begrenzende Verteilung? Wenn Ihre Antwort "Ja" ist, finden Sie die Grenzverteilung. Wenn Sie mit "Nein" antworten, erklären Sie, warum.
- Besitzt diese Markov-Kette eine stationäre Verteilung? Wenn Ihre Antwort "Ja" ist, finden Sie die stationäre Verteilung. Wenn Sie mit "Nein" antworten, erklären Sie, warum.
Was ist der Unterschied? Früher dachte ich, die Grenzverteilung wäre, als Sie sie mit berechnet haben, aber dies ist die -te Stufen-Übergangsmatrix. Sie berechneten die Grenzverteilung mit , was ich für die stationäre Verteilung hielt. n Π = Π P
Welches ist welches dann?
markov-process
Kaish
quelle
quelle
Antworten:
Aus einer Einführung in die stochastische Modellierung von Pinsky und Karlin (2011):
In einem frühen Abschnitt hatten sie bereits eine „definierte Begrenzung Wahrscheinlichkeitsverteilung “ durchπ
und gleichwertig
Das obige Beispiel oszilliert deterministisch und weist daher keine Begrenzung auf, wie die Sequenz keine Begrenzung aufweist.{ 1 , 0 , 1 , 0 , 1 , … }
Sie stellen fest, dass eine reguläre Markov-Kette (in der alle n-Stufen-Übergangswahrscheinlichkeiten positiv sind) immer eine begrenzende Verteilung aufweist und dass es sich um die eindeutige nichtnegative Lösung für handeln muss
Dann schreiben sie auf dieselbe Seite wie im Beispiel
Dabei ist (4.27) die Menge der Gleichungen
Das ist genau die gleiche Stationaritätsbedingung wie oben, außer jetzt mit einer unendlichen Anzahl von Zuständen.
Mit dieser Definition der Stationarität kann die Aussage auf Seite 168 rückwirkend angepasst werden als:
quelle
Eine stationäre Verteilung ist eine solche Verteilung , dass , wenn die Verteilung über Zustände in Schritt ist , dann ist auch die Verteilung über Zustände im Schritt ist . Das heißt, Eine Grenzverteilung ist eine solche Verteilung dass die Verteilung über Zustände unabhängig von der Anfangsverteilung gegen konvergiert als die Anzahl von Schritte gehen bis unendlich: unabhängig vonk π k + 1 π π = π P . π π lim k → ∞ π ( 0 ) P k = π , π ( 0 ) { h e ein d s , t a i l s } P = ( 0 1 1 0 ) . π ( 0 ) = ( 0,5 0,5π k π k + 1 π
Diese Kette hat jedoch keine einschränkende Verteilung: Nehmen wir an, wir initialisieren die Münze so, dass sie mit einer Wahrscheinlichkeit von Kopf ist . Da dann alle nachfolgenden Zustände durch den Anfangszustand bestimmt werden, ist der Zustand nach einer geraden Anzahl von Schritten Köpfe mit einer Wahrscheinlichkeit von und nach einer ungeraden Anzahl von Schritten ist der Zustand Köpfe mit einer Wahrscheinlichkeit von . Dies gilt unabhängig davon, wie viele Schritte unternommen werden, sodass die Verteilung über Zustände keine Begrenzung hat.2 / 3 2 / 3 1 / 3
Nun wollen wir den Prozess so modifizieren, dass man bei jedem Schritt nicht unbedingt die Münze dreht. Stattdessen wirft man einen Würfel und wenn das Ergebnis ist, bleibt die Münze wie sie ist. Diese Markov-Kette hat eine Übergangsmatrix Ohne die Mathematik zu durchlaufen, möchte ich darauf hinweisen, dass dieser Prozess den Anfangszustand „vergisst“, da der Zug zufällig weggelassen wird. Nach einer großen Anzahl von Schritten liegt die Wahrscheinlichkeit von Köpfen nahe bei , selbst wenn wir wissen, wie die Münze initialisiert wurde. Somit hat diese Kette die Grenzverteilung .P = ( 1 / 6 5 / 6 5 / 6 1 / 6 ) . 0,5 ( 0,5 0,5 )6
quelle
Abgesehen von der Schreibweise bedeutet das Wort "stationär" "sobald Sie dort sind, bleiben Sie dort"; während das Wort "einschränken" impliziert, dass Sie irgendwann dorthin gelangen, wenn Sie weit genug gehen. Ich dachte nur, das könnte hilfreich sein.
quelle