Nhận dạng tích hợp của bổ đề có trong giấy thông tin

8

Tôi đã bắt gặp một bổ đề trong bài báo InfoGAN . Tôi không hiểu đạo hàm của Bổ đề 5.1 trong phần phụ lục của bài báo. Nó diễn ra như sau (bao gồm png):

Tôi không hiểu bước cuối cùng. Tại sao người ta có thể kéo vào tích phân bên trong nhất, biến nó thành ? Các điều kiện thường xuyên phù hợp của gì? $f(x,y)$ $f(x',y)$ $f$

— spurra
nguồn

Tôi nhìn vào tờ giấy và tôi không nghĩ bằng chứng bạn viết ở trên giống hệt như bằng chứng trong bài báo. Tôi nhận thấy rằng f (x, y) đã được rút ra khỏi tích phân trong cùng vì nó không phụ thuộc vào x '.

— Michael R. Chernick

Png là ảnh chụp màn hình từ tờ giấy :)

— spurra

5

Hãy xem xét sự khác biệt thu được bằng cách di chuyển vào tích phân và lấy chênh lệch với thay thế bằng . Điều kiện hóa trên , Đối tượng bên trong này là đối xứng sau khi hoán đổi các biến giả và

D = \int_{x} \int_{y} P (x, y) \int_{x^{'}} P (x^{'} | y) [f (x, y) - f (x^{'}, y)] d x^{'} d x d y

$D = \int_x \int_y P(x,y) \int_{x'} P(x'|y) \left[ f(x,y) - f(x',y) \right] \, dx' dx dy$

f (x, y)

$f(x,y)$

x^{'}

$x'$

x

$x$

x^{'}

$x'$

x

$x$

y

$y$

D = \int_{y} P (y) \int_{x} \int_{x^{'}} P (x | y) P (x^{'} | y) [f (x, y) - f (x^{'}, y)] d x^{'} d x d y .

$D = \int_y P(y) \int_x \int_{x'} P(x|y) P(x'|y) \left[ f(x,y) - f(x',y) \right] \, dx' dx dy.$

δ = \int_{x} \int_{x^{'}} P (x | y) P (x^{'} | y) [f (x, y) - f (x^{'}, y)] d x^{'} d x

$\delta = \int_x \int_{x'} P(x|y) P(x'|y) \left[ f(x,y) - f(x',y) \right] \, dx' dx$

x

$x$

x^{'}

$x'$ , trở thành tiêu cực của chính nó, và do đó, nó bằng không. Tôi nghi ngờ rằng các điều kiện đều đặn chỉ đơn giản là các điều kiện ngăn các tích phân này chuyển hướng.

— jwimberley
nguồn

Tôi chưa có thời gian để đi qua câu trả lời của bạn. Tôi đã trao phần thưởng cho bạn với thiện chí vì nó sẽ kết thúc sau 10 phút, và tôi sẽ liên lạc lại với bạn với bất kỳ câu hỏi làm rõ nào tôi có thể có.

— spurra

1

Đây có phải là một mẹo nổi tiếng? Không có lời giải thích của bạn, tôi nghĩ khá khó để làm theo bằng chứng trong bài báo.

— Attila Kun

1

@kahoon, câu trả lời của William dưới đây khá giống với tôi nhưng đơn giản hơn nhiều. Trong thực tế, tôi lo lắng về các điều kiện đều đặn, nhưng tôi nghĩ rằng câu trả lời khác cho thấy đây là những điều không quan trọng. Tôi muốn nói cả hai mánh khóe đều nổi tiếng, nhưng các chương trình hoán đổi và trao đổi đơn giản mà William thể hiện có lẽ là cách mà độc giả dự định sẽ làm theo; Tôi nghĩ mọi chuyện sẽ rõ ràng hơn nếu họ thêm dòng bổ sung mà William thể hiện.

— jwimberley

@jwimberley Cảm ơn! Phần "hoán đổi x và x '" trong câu trả lời của William làm tôi bối rối trong giây lát nhưng tôi đoán đó là điều hợp pháp để làm vì chúng ta chỉ đang thay đổi các biến giả phải không?

— Attila Kun

@kahoon Chính xác

— jwimberley

3

Hoặc, sau hàng thứ ba

\begin{aligned} = \int_{x} \int_{y} p (x | y) p (y) f (x, y) \int_{x^{'}} p (x^{'} | y) d x^{'} d y d x \\ = \int_{x} \int_{y} p (x | y) f (x, y) \int_{x^{'}} p (x^{'}, y) d x^{'} d y d x . \end{aligned}

$\begin{align} &=\int_x\int_yp(x|y)p(y)f(x,y)\int_{x'}p(x'|y)dx'dydx\\ &=\int_x\int_yp(x|y)f(x,y)\int_{x'}p(x',y)dx'dydx. \end{align}$

Hoán đổi và sau đó trao đổi thứ tự của các biến. Làm xong $x$ $x'$

— William
nguồn

0

Chà, tôi nghĩ nó sẽ trực quan hơn nếu chúng ta rút ra phương trình ngược lại như

\begin{aligned} E_{x \sim X, y \sim Y | x, x^{'} \sim X | y} [f (x^{'}, y)] & = \int_{x} p (x) \int_{y} p (y | x) \int_{x^{'}} p (x^{'} | y) f (x^{'}, y) d x^{'} d y d x \\ = \int_{y} p (y) \int_{x} p (x | y) \int_{x^{'}} p (x^{'} | y) f (x^{'}, y) d x^{'} d x d y \\ = \int_{y} p (y) \int_{x^{'}} p (x^{'} | y) f (x^{'}, y) \underset{= 1}{\underset{⏟}{\int_{x} p (x | y) d x}} d x^{'} d y \\ = \int_{y} p (y) \int_{x} p (x | y) f (x, y) d x d y \\ = \int_{x} p (x) \int_{y} p (y | x) f (x, y) d y d x \\ = E_{x \sim X, y \sim Y | x} [f (x, y)] \end{aligned}

$\begin{align*} E_{x \sim X, y \sim Y|x, x' \sim X|y} \left[ f(x', y) \right] & = \int_x p(x) \int_y p(y|x) \int_{x'} p(x'|y) f(x', y) dx'dydx \\ & = \int_y p(y) \int_x p(x|y) \int_{x'} p(x'|y) f(x', y) dx'dxdy \\ & = \int_y p(y) \int_{x'} p(x'|y) f(x', y) \underbrace{\int_x p(x|y) dx}_{=1}dx'dy \\ & = \int_y p(y) \int_{x} p(x|y) f(x, y) dxdy \\ & = \int_x p(x) \int_{y} p(y|x) f(x, y) dydx \\ & = E_{x \sim X, y \sim Y|x} \left[ f(x, y) \right] \end{align*}$

— Thuấn
nguồn

0

\begin{matrix} (1) & E_{x \sim X, y \sim Y | x} [f (x, y)] = E_{x \sim X, y \sim Y | x, x^{'} \sim X | y} [f (x^{'}, y)] \end{matrix}

$E_{x \sim X, y \sim Y|x} \left[ f(x, y) \right] = E_{x \sim X, y \sim Y|x, x' \sim X|y} \left[ f(x', y) \right]\tag1$

$(X,Y,X')$
$\begin{matrix} (2) & P_{X, Y, X^{'}} (x, y, z) = P_{X} (x) P_{Y | X} (y | x) P_{X | Y} (z | y), \end{matrix}$ $P_{X,Y,X'}(x,y,z)=P_X(x)P_{Y|X}(y|x)P_{X|Y}(z|y),\tag2$ $E[f(X,Y)] = E[f(X',Y)]$

$(X,Y)$ $(X',Y)$

P_{X^{'} | Y} (z | y) = \int_{x} \frac{P_{X, Y, X^{'}} (x, y, z)}{P_{Y} (y)} d x \overset{(2)}{=} \int_{x} P_{X | Y} (x | y) P_{X | Y} (z | y) d x = P_{X | Y} (z | y) .

$P_{X'|Y}(z|y)=\int_x\frac{ P_{X,Y,X'}(x,y,z)}{P_Y(y)}\,dx\stackrel{(2)}= \int_x P_{X|Y}(x|y)P_{X|Y}(z|y)\,dx=P_{X|Y}(z|y).$

E f (X, Y)

$Ef(X,Y)$

— ông_chat
nguồn