Konvergenz aus dem EM-Algorithmus mit bivariater Mischungsverteilung

Ich habe ein Mischungsmodell, mit dem ich den Maximum-Likelihood-Schätzer für einen gegebenen Datensatz $x$ und einen Satz teilweise beobachteter Daten finden möchte $z$. Ich habe sowohl den E-Schritt (Berechnung der Erwartung von $z$ bei $x$ und der aktuellen Parameter $\theta^k$ ) als auch den M-Schritt implementiert , um die negative log-Wahrscheinlichkeit bei gegebenem zu minimieren $z$.

Wie ich es verstanden habe, steigt die maximale Wahrscheinlichkeit für jede Iteration. Dies bedeutet, dass die negative Log-Wahrscheinlichkeit für jede Iteration abnehmen muss. Während ich iteriere, erzeugt der Algorithmus jedoch tatsächlich keine abnehmenden Werte der negativen Log-Wahrscheinlichkeit. Stattdessen kann es sowohl abnehmen als auch zunehmen. Zum Beispiel waren dies die Werte der negativen Log-Wahrscheinlichkeit bis zur Konvergenz:

Gibt es hier etwas, das ich missverstanden habe?

Außerdem habe ich für simulierte Daten, wenn ich die maximale Wahrscheinlichkeit für die echten latenten (nicht beobachteten) Variablen durchführe, eine nahezu perfekte Anpassung, was darauf hinweist, dass keine Programmierfehler vorliegen. Für den EM-Algorithmus konvergiert er häufig zu klar suboptimalen Lösungen, insbesondere für eine bestimmte Teilmenge der Parameter (dh die Anteile der klassifizierenden Variablen). Es ist bekannt, dass der Algorithmus zu lokalen Minima oder stationären Punkten konvergieren kann, ob es eine herkömmliche Suchheuristik gibt oder ebenfalls, um die Wahrscheinlichkeit zu erhöhen, das globale Minimum (oder Maximum) zu finden . Für dieses spezielle Problem gibt es meines Erachtens viele Fehlklassifizierungen, da aufgrund der bivariaten Mischung eine der beiden Verteilungen Werte mit der Wahrscheinlichkeit eins annimmt (es ist eine Mischung von Lebensdauern, bei denen die wahre Lebensdauer durch ermittelt wird wobei z die Zugehörigkeit zu einer der beiden Verteilungen angibt. Der Indikator z wird natürlich im Datensatz zensiert. $T=z T_0 + (1-z)\infty$$z$$z$

Ich habe eine zweite Zahl hinzugefügt, wenn ich mit der theoretischen Lösung beginne (die nahe am Optimum liegen sollte). Wie jedoch zu sehen ist, weichen die Wahrscheinlichkeit und die Parameter von dieser Lösung in eine deutlich schlechtere ab.

$\mathbf{x_i}=(t_i,\delta_i,L_i,\tau_i,z_i)$$t_i$$i$$\delta_i$$L_i$$\tau_i$$z_i$ist der Indikator, zu welcher Population die Beobachtung gehört (da sie bivariat ist, müssen wir nur 0 und 1 berücksichtigen).

$z=1$$f_z(t)=f(t|z=1)$$S_z(t)=S(t|z=1)$$z=0$$t$$\inf$$f(t|z=0)=0$und . Dies ergibt auch die folgende vollständige Mischungsverteilung:$S(t|z=0)=1$

$f(t) = \sum_{i=0}^{1}p_if(t|z=i) = pf(t|z=1)$ und $S(t) = 1 - p + pS_z(t)$

Wir fahren fort, die allgemeine Form der Wahrscheinlichkeit zu definieren:

$L(\theta;\mathbf{x_i}) = \Pi_i \frac{f(t_i;\theta)^{\delta_i}S(t_i;\theta)^{1-\delta_i}}{S(L_i)^{\tau_i}}$

Jetzt wird nur teilweise beobachtet, wenn , andernfalls ist es unbekannt. Die volle Wahrscheinlichkeit wird$z$$\delta=1$

$L(\theta,p;\mathbf{x_i}) = \Pi_i \frac{\big((p f_z(t_i;\theta))^{z_i}\big)^{\delta_i}\big((1-p)^{(1-z_i)}(p S_z(t_i;\theta))^{z_i}\big)^{1-\delta_i}}{\big((1-p)^{(1-z_i)}(p S_z(L_i;\theta))^{z_i}\big)^{\tau_i}}$

Dabei ist das Gewicht der entsprechenden Verteilung (möglicherweise verbunden mit einigen Kovariaten und ihren jeweiligen Koeffizienten durch eine Verknüpfungsfunktion). In der meisten Literatur wird dies auf die folgende Loglikelihood vereinfacht$p$

$\sum \Big( z_i \ln(p) + (1-p) \ln(1-p) - \tau_i\big(z_i \ln(p) + (1-z_i)\ln(1-p)\big) + \delta_i z_i f_z(t_i;\theta) + (1-\delta_i) z_i S_z(t_i;\theta) - \tau_i S_z(L_i;\theta)\Big)$

Für den M-Schritt wird diese Funktion maximiert, wenn auch nicht vollständig in einer Maximierungsmethode. Stattdessen wissen wir nicht, dass dies in Teile .$l(\theta,p; \cdot) = l_1(\theta,\cdot) + l_2(p,\cdot)$

Für den k: th + 1 E-Schritt müssen wir den erwarteten Wert der (teilweise) nicht beobachteten latenten Variablen . Wir verwenden die Tatsache, dass für dann .$z_i$$\delta=1$$z=1$

$E(z_i|\mathbf{x_i},\theta^{(k)},p^{(k)}) = \delta_i + (1-\delta_i) P(z_i=1;\theta^{(k)},p^{(k)}|\mathbf{x_i})$

Hier haben wir durch$P(z_i=1;\theta^{(k)},p^{(k)}|\mathbf{x_i}) =\frac{P(\mathbf{x_i};\theta^{(k)},p^{(k)}|z_i=1)P(z_i=1;\theta^{(k)},p^{(k)})}{P(\mathbf{x_i};\theta^{(k)},p^{(k)})}$

was uns$P(z_i=1;\theta^{(k)},p^{(k)}|\mathbf{x_i})=\frac{pS_z(t_i;\theta^{(k)})}{1 - p + pS_z(t_i;\theta^{(k)})}$

(Beachten Sie hier, dass , sodass kein Ereignis beobachtet wird. wird die Wahrscheinlichkeit der Daten durch die Schwanzverteilungsfunktion angegeben.$\delta_i=0$$\mathbf{x_i}$

Das Ziel von EM ist es, die beobachtete Datenprotokollwahrscheinlichkeit zu maximieren.

Leider ist es schwierig, dies in Bezug auf zu optimieren . Stattdessen bildet und maximiert EM wiederholt die Hilfsfunktion$\theta$

Wenn maximiert , garantiert EM dies$\theta^{t+1}$$Q(\theta, \theta^t)$

Wenn Sie genau wissen möchten, warum dies der Fall ist, finden Sie in Abschnitt 11.4.7 von Murphys maschinelles Lernen: Eine probabilistische Perspektive eine gute Erklärung. Wenn Ihre Implementierung diese Ungleichheiten nicht erfüllt, haben Sie irgendwo einen Fehler gemacht. Dinge sagen wie

Ich habe eine nahezu perfekte Passform, was darauf hinweist, dass keine Programmierfehler vorliegen

ist gefährlich. Mit vielen Optimierungs- und Lernalgorithmen ist es sehr einfach, Fehler zu machen und dennoch die meiste Zeit richtig aussehende Antworten zu erhalten. Eine Intuition, die ich mag, ist, dass diese Algorithmen für unordentliche Daten gedacht sind. Es ist also nicht verwunderlich, dass sie auch gut mit Fehlern umgehen können!

Weiter zur anderen Hälfte Ihrer Frage:

Gibt es eine konventionelle Suchheuristik oder um die Wahrscheinlichkeit zu erhöhen, das globale Minimum (oder Maximum) zu finden?

Zufällige Neustarts sind der einfachste Ansatz. Am einfachsten ist wahrscheinlich das simulierte Tempern über die Anfangsparameter. Ich habe auch von einer EM-Variante namens deterministisches Tempern gehört , aber ich habe sie nicht persönlich verwendet, kann Ihnen also nicht viel darüber erzählen.