Integrale Identität des Lemmas im infoGAN-Papier

8

Ich bin in der infoGAN-Zeitung auf ein Lemma gestoßen . Ich verstehe die Ableitung von Lemma 5.1 im Nachtrag des Papiers nicht. Es geht wie folgt (als png enthalten):

Ich verstehe den letzten Schritt nicht. Warum kann man in das innerste Integral ziehen und es in umwandeln ? Was sind die geeigneten Regelmäßigkeitsbedingungen von ? $f(x,y)$ $f(x',y)$ $f$

probability pdf conditional-expectation integral spurra
quelle

Ich habe mir das Papier angesehen und glaube nicht, dass der Beweis, den Sie oben geschrieben haben, genau der gleiche ist wie der in dem Papier. Es sah für mich so aus, als ob f (x, y) aus dem innersten Integral herausgezogen wurde, weil es nicht von x 'abhängt.

Michael R. Chernick

Das PNG ist ein Screenshot aus dem Papier :)

Spurra

5

Betrachten Sie den Unterschied erhalten durch Verschieben von in das Integral und Nehmen der Differenz mit ersetzt durch . Konditionalisierung von auf , Dieses innere Objekt ist nach dem Vertauschen der Dummy-Variablen und antisymmetrisch

D = \int_{x} \int_{y} P (x, y) \int_{x^{'}} P (x^{'} | y) [f (x, y) - f (x^{'}, y)] d x^{'} d x d y

$D = \int_x \int_y P(x,y) \int_{x'} P(x'|y) \left[ f(x,y) - f(x',y) \right] \, dx' dx dy$

f (x, y)

$f(x,y)$

x^{'}

$x'$

x

$x$

x^{'}

$x'$

x

$x$

y

$y$

D = \int_{y} P (y) \int_{x} \int_{x^{'}} P (x | y) P (x^{'} | y) [f (x, y) - f (x^{'}, y)] d x^{'} d x d y .

$D = \int_y P(y) \int_x \int_{x'} P(x|y) P(x'|y) \left[ f(x,y) - f(x',y) \right] \, dx' dx dy.$

δ = \int_{x} \int_{x^{'}} P (x | y) P (x^{'} | y) [f (x, y) - f (x^{'}, y)] d x^{'} d x

$\delta = \int_x \int_{x'} P(x|y) P(x'|y) \left[ f(x,y) - f(x',y) \right] \, dx' dx$

x

$x$

x^{'}

$x'$ und wird sein eigenes Negativ, und so ist es gleich Null. Ich vermute, dass die Regelmäßigkeitsbedingungen einfach diejenigen sind, die verhindern, dass diese Integrale auseinander gehen.

jwimberley
quelle

Ich hatte noch keine Zeit, Ihre Antwort durchzugehen. Ich habe Ihnen das Kopfgeld in gutem Glauben zuerkannt, da es in 10 Minuten zu Ende geht, und ich werde mich mit allen möglichen Fragen zur Klärung bei Ihnen melden.

Spurra

1

Ist das ein bekannter Trick? Ohne Ihre Erklärung ist es meiner Meinung nach ziemlich schwierig, dem Beweis in der Zeitung zu folgen.

Attila Kun

1

@kahoon, Williams Antwort unten ist ziemlich identisch mit meiner, aber viel einfacher. Tatsächlich machte ich mir Sorgen um die Regelmäßigkeitsbedingungen, aber ich denke, dass andere Antworten zeigen, dass diese unerheblich sind. Ich würde sagen, dass beide Tricks bekannt sind, aber die einfache Neuetikettierung von William durch Swap-and-Commute ist wahrscheinlich die Art und Weise, wie die Leser mitmachen sollten. Ich denke, es wäre klarer gewesen, wenn sie die zusätzliche Zeile hinzugefügt hätten, die William zeigt.

Jwimberley

@jwimberley Danke! Der Teil "x und x tauschen" in Williams Antwort verwirrte mich für einen Moment, aber ich denke, das ist legal, da wir nur die Dummy-Variablen neu kennzeichnen, oder?

Attila Kun

@kahoon Genau

jwimberley

3

Oder nach der dritten Reihe

\begin{aligned} = \int_{x} \int_{y} p (x | y) p (y) f (x, y) \int_{x^{'}} p (x^{'} | y) d x^{'} d y d x \\ = \int_{x} \int_{y} p (x | y) f (x, y) \int_{x^{'}} p (x^{'}, y) d x^{'} d y d x . \end{aligned}

$\begin{align} &=\int_x\int_yp(x|y)p(y)f(x,y)\int_{x'}p(x'|y)dx'dydx\\ &=\int_x\int_yp(x|y)f(x,y)\int_{x'}p(x',y)dx'dydx. \end{align}$

$x$ $x'$

Wilhelm
quelle

0

Nun, ich denke, es wird intuitiver sein, wenn wir die Gleichung umgekehrt als ableiten

\begin{aligned} E_{x \sim X, y \sim Y | x, x^{'} \sim X | y} [f (x^{'}, y)] & = \int_{x} p (x) \int_{y} p (y | x) \int_{x^{'}} p (x^{'} | y) f (x^{'}, y) d x^{'} d y d x \\ = \int_{y} p (y) \int_{x} p (x | y) \int_{x^{'}} p (x^{'} | y) f (x^{'}, y) d x^{'} d x d y \\ = \int_{y} p (y) \int_{x^{'}} p (x^{'} | y) f (x^{'}, y) \underset{= 1}{\underset{⏟}{\int_{x} p (x | y) d x}} d x^{'} d y \\ = \int_{y} p (y) \int_{x} p (x | y) f (x, y) d x d y \\ = \int_{x} p (x) \int_{y} p (y | x) f (x, y) d y d x \\ = E_{x \sim X, y \sim Y | x} [f (x, y)] \end{aligned}

$\begin{align*} E_{x \sim X, y \sim Y|x, x' \sim X|y} \left[ f(x', y) \right] & = \int_x p(x) \int_y p(y|x) \int_{x'} p(x'|y) f(x', y) dx'dydx \\ & = \int_y p(y) \int_x p(x|y) \int_{x'} p(x'|y) f(x', y) dx'dxdy \\ & = \int_y p(y) \int_{x'} p(x'|y) f(x', y) \underbrace{\int_x p(x|y) dx}_{=1}dx'dy \\ & = \int_y p(y) \int_{x} p(x|y) f(x, y) dxdy \\ & = \int_x p(x) \int_{y} p(y|x) f(x, y) dydx \\ & = E_{x \sim X, y \sim Y|x} \left[ f(x, y) \right] \end{align*}$

Meiden
quelle

0

\begin{matrix} (1) & E_{x \sim X, y \sim Y | x} [f (x, y)] = E_{x \sim X, y \sim Y | x, x^{'} \sim X | y} [f (x^{'}, y)] \end{matrix}

$E_{x \sim X, y \sim Y|x} \left[ f(x, y) \right] = E_{x \sim X, y \sim Y|x, x' \sim X|y} \left[ f(x', y) \right]\tag1$

$(X,Y,X')$
$\begin{matrix} (2) & P_{X, Y, X^{'}} (x, y, z) = P_{X} (x) P_{Y | X} (y | x) P_{X | Y} (z | y), \end{matrix}$ $P_{X,Y,X'}(x,y,z)=P_X(x)P_{Y|X}(y|x)P_{X|Y}(z|y),\tag2$ $E[f(X,Y)] = E[f(X',Y)]$

$(X,Y)$ $(X',Y)$

P_{X^{'} | Y} (z | y) = \int_{x} \frac{P_{X, Y, X^{'}} (x, y, z)}{P_{Y} (y)} d x \overset{(2)}{=} \int_{x} P_{X | Y} (x | y) P_{X | Y} (z | y) d x = P_{X | Y} (z | y) .

$P_{X'|Y}(z|y)=\int_x\frac{ P_{X,Y,X'}(x,y,z)}{P_Y(y)}\,dx\stackrel{(2)}= \int_x P_{X|Y}(x|y)P_{X|Y}(z|y)\,dx=P_{X|Y}(z|y).$

E f (X, Y)

$Ef(X,Y)$

grand_chat
quelle

Integrale Identität des Lemmas im infoGAN-Papier

Antworten: