Vom Standard-HMM zum Bayes-HMM

8

Ich versuche zu verstehen, was der Unterschied zwischen einem Standard-HMM und einem Bayes-HMM ist. Wikipedia erwähnt nur kurz, wie das Modell aussieht, aber ich brauche ein detaillierteres Tutorial. Kennt jemand ein Papier oder eine Implementierung, die ich mir ansehen kann?

Ich habe auch Probleme mit der verwendeten Terminologie. Was bedeutet es praktisch, wenn Sie "ein Dirichlet vor eine Verteilung stellen / setzen"?

bayesian hidden-markov-model Lacher
quelle
1
Kennen Sie frühere und hintere Verteilungen überhaupt? Wenn nicht, lesen Sie ein Beispiel für die Bayes'sche Inferenz auf Binomialdaten durch (dh schließen Sie bei einer beobachteten Folge von Münzwürfen die Wahrscheinlichkeit von Köpfen ab) , dann ist dies eine einfache Verallgemeinerung auf multinomiale Daten (dh bei einigen Rollen einer Verzerrung) seitiger Würfel, schließen Sie die Wahrscheinlichkeit ab, jede Seite zu beobachten). Das letztere Problem, bei dem "ein Dirichlet vor" auf den Wahrscheinlichkeitsvektor gesetzt wird, ist die gleiche Folgerung, die man mit einem Bayes'schen HMM macht. K
Jerad
Hier ist ein gutes, kurzes Papier über Bayes'sche HMMs für die Teil-der-Sprache-Kennzeichnung, das eine gute Erklärung dafür enthält, warum der Bayes'sche Ansatz nützlich ist.
Jerad
Kann jemand ein Beispiel geben, wie es aussehen würde? Im Sinne eines 6-seitigen Würfels wäre der einheitliche Wahrscheinlichkeitsvektor {1/6, 1/6, 1/6, 1/6, 1/6, 1/6}, oder? Und würde es bedeuten, wenn ich einen Dirichlet Prior darauf setzen würde?
Laughingman

Antworten:

2

In Bezug auf das vorherige Dirichlet glaube ich, dass es eine Menge von Variablen gibt, die alle Prozentsätze / Proportionen zwischen 0 und 1 sind und sich alle zu 1 addieren. (Das ist wobei und ) Im Fall von HMMs könnte dies verwendet werden, um die Wahrscheinlichkeit des Übergangs in einen von möglichen Zuständen oder die Wahrscheinlichkeit des Aussendens eines von möglichen Symbolen zu modellieren .nx1…xn0≤xi≤1∑xi=1nn

Die Dirichlet-Wikipedia-Seite sagt es ziemlich gut, besonders der Abschnitt mit dem Titel "Konjugieren zu kategorial / multinomial".

Wayne
quelle