Làm thế nào để bằng chứng từ chối lấy mẫu có ý nghĩa?

Tôi đang tham gia một khóa học về phương pháp Monte Carlo và chúng tôi đã học phương pháp Lấy mẫu từ chối (hoặc Chấp nhận từ chối lấy mẫu) trong bài giảng trước. Có rất nhiều tài nguyên trên web cho thấy bằng chứng của phương pháp này nhưng bằng cách nào đó tôi không bị thuyết phục với chúng.

Vì vậy, trong Lấy mẫu từ chối, chúng tôi có phân phối khó lấy mẫu từ đó. Chúng tôi chọn phân phối dễ lấy mẫu và tìm hệ số sao cho . Sau đó, chúng tôi lấy mẫu từ và với mỗi lần vẽ, , chúng tôi cũng lấy mẫu một từ phân phối đồng đều tiêu chuẩn . $f(x)$ $g(x)$ $c$ $f(x) \leq cg(x)$ $g(x)$ $x_i$ $u$ $U(u|0,1)$

Mẫu được chấp nhận nếu đó là và bị từ chối. $x_i$ $cg(x_i)u \leq f(x_i)$

Bằng chứng mà tôi đã gặp thường chỉ cho thấy và dừng ở đó. $p(x|Accept) = f(x)$

Điều tôi nghĩ về quá trình này là chúng tôi có một chuỗi các biến và một cặp tương ứng với mẫu thứ i ( ) của chúng tôi và liệu nó có được chấp nhận hay không ( ). Chúng tôi biết rằng mỗi cặp độc lập với nhau, như vậy: $x_1,Accept_1,x_2,Accept_2,...,x_n,Accept_n$ $x_i,Accept_i$ $x_i$ $Accept_i$ $x_i,Accept_i$

$P(x_1,Accept_1,x_2,Accept_2,...,x_n,Accept_n) = \prod\limits_{i=1}^n P(x_i,Accept_i)$

Đối với cặp chúng ta biết rằng và . Chúng ta có thể dễ dàng tính nhưng tôi không hiểu làm thế nào nó đủ làm bằng chứng. Chúng ta cần chỉ ra rằng thuật toán hoạt động, vì vậy tôi nghĩ rằng một bằng chứng sẽ cho thấy rằng phân phối theo kinh nghiệm của các mẫu được chấp nhận hội tụ đến là . Ý tôi là, với là số lượng của tất cả các mẫu được chấp nhận và từ chối: $(x_i,Accept_i)$ $P(x_i) = g(x_i)$ $P(Accept_i|x_i) = \frac{f(x_i)}{cg(x_i)}$ $p(x_i|Accept_i)$ $f(x)$ $n\rightarrow\infty$ $n$

$\frac{Number \hspace{1mm} of \hspace{1mm} samples \hspace{1mm} with \hspace{1mm} (A \leq x_i \leq B)}{Number \hspace{1mm} of \hspace{1mm} accepted \hspace{1mm} samples} \rightarrow \int_A^B f(x)dx$ là . $n\rightarrow\infty$

Tôi có sai với kiểu suy nghĩ này không? Hoặc có một mối liên hệ giữa bằng chứng phổ biến của thuật toán và điều này?

Cảm ơn trước

sampling monte-carlo rejection-sampling

— Ufuk Can bicici
nguồn

Câu trả lời:

Bạn nên nghĩ thuật toán là tạo ra các bản vẽ từ một biến ngẫu nhiên, để cho thấy thuật toán hoạt động, nó đủ cho thấy thuật toán rút ra từ biến ngẫu nhiên mà bạn muốn.

Hãy và là các biến ngẫu nhiên vô hướng với file PDF và tương ứng, nơi là một cái gì đó chúng ta đã biết làm thế nào để lấy mẫu từ. Chúng tôi cũng có thể biết rằng chúng ta có thể bị ràng buộc bởi nơi . $X$ $Y$ $f_X$ $f_Y$ $Y$ $f_X$ $Mf_Y$ $M\ge1$

Bây giờ chúng ta tạo thành một biến ngẫu nhiên mới trong đó , điều này nhận giá trị với xác suất và nếu không. Điều này thể hiện các thuật toán 'chấp nhận' một trận hòa từ . $A$ $A | y \sim \text{Bernoulli } \left (\frac{f_X(y)}{Mf_Y(y)}\right )$ $1$ $\frac{f_X(y)}{Mf_Y(y)}$ $0$ $Y$

Bây giờ chúng tôi chạy thuật toán và thu thập tất cả các lần rút từ được chấp nhận, hãy gọi biến ngẫu nhiên này . $Y$ $Z = Y|A=1$

Để chỉ ra rằng , đối với bất kỳ sự kiện , chúng ta phải chỉ ra rằng . $Z \equiv X$ $E$ $P(Z \in E) =P(X \in E)$

Vì vậy, hãy thử điều đó, trước tiên hãy sử dụng quy tắc của Bayes:

$P(Z \in E) = P(Y \in E | A =1) = \frac{P(Y \in E \& A=1)}{P(A=1)}$ ,

và phần trên cùng chúng tôi viết là

\begin{aligned} P (Y \in E & A = 1) & = \int_{E} f_{Y, A} (y, 1) d y \\ = \int_{E} f_{A | Y} (1, y) f_{Y} (y) d y = \int_{E} f_{Y} (y) \frac{f_{X} (y)}{M f_{Y} (y)} d y = \frac{P (X \in E)}{M} . \end{aligned}

$\begin{align*}P(Y \in E \& A=1) &= \int_E f_{Y, A}(y,1) \, dy \\ &= \int_E f_{A|Y}(1,y)f_Y(y) \, dy =\int_E f_Y(y) \frac{f_X(y)}{Mf_Y(y)} \, dy =\frac{P(X \in E)}{M}.\end{align*}$

Và sau đó, phần dưới cùng chỉ đơn giản là

$P(A=1) = \int_{-\infty}^{\infty}f_{Y,A}(y,1) \, dy = \frac{1}{M}$ ,

với lý do tương tự như trên, đặt . $E=(-\infty, +\infty)$

Và những kết hợp để cung cấp cho , đó là những gì chúng tôi muốn, . $P(X \in E)$ $Z \equiv X$

Đó là cách thuật toán hoạt động, nhưng cuối câu hỏi của bạn dường như bạn quan tâm đến một ý tưởng tổng quát hơn, đó là khi phân phối theo kinh nghiệm hội tụ đến phân phối được lấy mẫu từ đâu? Đây là một hiện tượng chung liên quan đến bất kỳ việc lấy mẫu nào nếu tôi hiểu đúng về bạn.

Trong trường hợp này, chúng ta hãy được iid biến ngẫu nhiên tất cả với phân phối . Sau đó, đối với mọi sự kiện , có kỳ vọng theo độ tuyến tính của kỳ vọng. $X_1, \dots, X_n$ $\equiv X$ $E$ $\frac{\sum_{i=1}^n1_{X_i \in E}}{n}$ $P(X \in E)$

Hơn nữa, với các giả định phù hợp, bạn có thể sử dụng định luật mạnh về số lượng lớn để chỉ ra rằng xác suất thực nghiệm hội tụ gần như chắc chắn với xác suất thực.

— Harri
nguồn

Cảm ơn câu trả lời. Bạn có thể làm rõ làm thế nào tôi có thể chỉ ra rằng phân phối theo kinh nghiệm hội tụ đến phân phối mục tiêu bằng cách sử dụng Luật số lớn? Nó chính xác là những gì tôi cố gắng thể hiện trong trường hợp này.

— Ufuk Can bicici 11/03/2016

Glivenko-Cantelli: www2.imperial.ac.uk/~das01/MyWeb/M3S3/Handouts/ Kẻ

— Zen

@Harri Điều làm tôi băn khoăn là việc chúng ta học biến ngẫu nhiên cho thấy sự chấp nhận rút thăm ( ) sau khi chúng ta đã học được giá trị của biến thực. Chúng tôi quan sát các biến theo trình tự , vì vậy nếu chúng tôi sắp quan sát biến , những gì chúng tôi biết về hệ thống là và và vì là độc lập trong số đó, những gì chúng tôi xử lý trước tiên là , sau đó không phải là cách khác.

A = 1

$A=1$

Y_{1}, A_{1}, Y_{2}, A_{2}, . . ., Y_{n}, A_{n}

$Y_1,A_1,Y_2,A_2,...,Y_n,A_n$

Y_{2}

$Y_2$

Y_{1}

$Y_1$

A_{1}

$A_1$

Y_{2}

$Y_2$

P (Y_{2})

$P(Y_2)$

P (A_{2} | Y_{2})

$P(A_2|Y_2)$

— Ufuk Can bicici

Bạn có thể nói thêm về lý do tại sao thứ tự biết và sau đó làm phiền bạn không?

P (Y_{2})

$P(Y_2)$

P (A_{2} | Y_{2})

$P(A_2|Y_2)$

— Harri

Đầu tiên, hãy nhớ rằng một quy trình hoàn chỉnh của phương pháp lấy mẫu từ chối chỉ tạo ra một biến ngẫu nhiên duy nhất . Khi một số được chấp nhận, quy trình sẽ dừng và không còn nữa. Nếu bạn muốn nhiều biến ngẫu nhiên, chỉ cần lặp lại thủ tục nhiều lần. $x_i$ $x_{i+1}$

Trong một số sách giáo khoa, chúng biểu thị sự kiện được chấp nhận và tính xác suất $A$

\begin{aligned} P (A) = & \int_{- \infty}^{\infty} d x \int_{0}^{\frac{f (x)}{c g (x)}} g (x) d u \\ = & \int_{- \infty}^{\infty} \frac{1}{c} f (x) d x \\ = & \frac{1}{c} . \end{aligned}

$\begin{aligned} P(A) =& \int_{-\infty}^{\infty}dx\int_0^{\frac{f(x)}{cg(x)}}g(x)du \\ =& \int_{-\infty}^{\infty}\frac{1}{c}f(x)dx \\ =& \frac{1}{c}. \end{aligned}$

Và

\begin{aligned} f_{X} (x | A) = & \frac{f_{X} (x) \cdot P (A | x)}{P (A)} \\ = & \frac{g (x) \cdot \frac{f (x)}{c g (x)}}{\frac{1}{c}} \\ = & f (x) . \end{aligned}

$\begin{aligned} f_X(x|A) =& \frac{f_X(x) \cdot P(A|x)}{P(A)}\\ =& \frac{g(x) \cdot \frac{f(x)}{cg(x)}}{\frac{1}{c}} \\ =& f(x). \end{aligned}$

Điều khó hiểu là sự chấp nhận ở đây dường như là sự chấp nhận một mẫu duy nhất , nhưng toàn bộ quy trình có thể từ chối nhiều 's. $A$ $x_i$ $x_i$

Có, một bằng chứng chặt chẽ hơn nên xem xét xác suất chấp nhận ở các bước khác nhau. Đặt biểu thị mẫu thứ , biểu thị hàm mật độ xác suất của , biểu thị sự chấp nhận thứ và biểu thị giá trị được chấp nhận cuối cùng. Khi đó, hàm mật độ xác suất của là là và là như đã tính trước đó. Lưu ý là $X_i$ $i$ $f_{X_i}$ $X_i$ $A_i$ $i$ $X_\infty$ $X_\infty$

f_{X_{\infty}} (x) = P (A_{1}) f_{X_{1}} (x | A_{1}) + P (A_{2}) f_{X_{2}} (x | A_{2}) + \dots .

$f_{X_\infty}(x) = P(A_1) f_{X_1}(x|A_1) + P(A_2) f_{X_2}(x|A_2) + \dots.$

P (A_{1})

$P(A_1)$

\frac{1}{c}

$\frac{1}{c}$

f_{X_{1}} (x | A_{1})

$f_{X_1}(x|A_1)$

f (x)

$f(x)$

P (A_{2})

$P(A_2)$

(1 - \frac{1}{c}) \frac{1}{c}

$\left(1-\frac{1}{c}\right)\frac{1}{c}$ trong đó là xác suất từ chối vì chỉ khi bị từ chối mới có chúng tôi có cơ hội chọn .

1 - \frac{1}{c}

$1-\frac{1}{c}$

X_{1}

$X_1$

X_{1}

$X_1$

X_{2}

$X_2$

Và cũng là vì bước thứ hai không bị ảnh hưởng bởi các bước trước đó, xác suất của nó phải giống như bước đầu tiên. Nếu lời giải thích này không thuyết phục bạn, chúng tôi cũng có thể giải quyết nó một cách nghiêm ngặt. Hãy cẩn thận không được xác định khi được chấp nhận (hoặc bạn có thể xác định nó là số tùy ý khi được chấp nhận nếu giá trị không xác định làm bạn khó chịu), vì vậy, đối với các xác suất liên quan đến , chỉ có xác suất có điều kiện được đưa ra hoặc các tập con của có ý nghĩa. Hiện nay $f_{X_2}(x|A_2)$ $f(x)$ $X_2$ $X_1$ $X_1$ $X_2$ $A_1^c$ $A_1^c$

\begin{aligned} f_{X_{2}} (x | A_{2}) = & \frac{P (A_{1}^{c}) f_{X_{2}} (x | A_{1}^{c}) P (A_{2} | X_{2} = x)}{P (A_{2})} \\ = & \frac{P (A_{1}^{c}) f_{X_{2}} (x | A_{1}^{c}) P (A_{2} | X_{2} = x)}{P (A_{1}^{c}) P (A_{2} | A_{1}^{c})} \\ = & \frac{f_{X_{2}} (x | A_{1}^{c}) P (A_{2} | X_{2} = x)}{P (A_{2} | A_{1}^{c})} \\ = & \frac{g (x) \cdot \frac{f (x)}{c g (x)}}{\frac{1}{c}} \\ = & f (x) . \end{aligned}

$\begin{aligned} f_{X_2}(x|A_2) =& \frac{P(A_1^c)f_{X_2}(x|A_1^c)P(A_2|X_2=x)}{P(A_2)} \\ =& \frac{P(A_1^c)f_{X_2}(x|A_1^c)P(A_2|X_2=x)}{P(A_1^c)P(A_2|A_1^c)} \\ =& \frac{f_{X_2}(x|A_1^c)P(A_2|X_2=x)}{P(A_2|A_1^c)} \\ =& \frac{g(x) \cdot \frac{f(x)}{cg(x)}}{\frac{1}{c}} \\ =& f(x). \end{aligned}$ Vì vậy, Đó là kết quả mong muốn. Lưu ý = 1 có ý nghĩa trực quan, cuối cùng một mẫu sẽ được chấp nhận ở bước nào đó .

\begin{aligned} f_{X_{\infty}} (x) = & P (A_{1}) f (x) + P (A_{2}) f (x) + \dots \\ = & (P (A_{1}) + P (A_{2}) + \dots) f (x) \\ = & (\frac{1}{c} + (1 - \frac{1}{c}) \frac{1}{c} + {(1 - \frac{1}{c})}^{2} \frac{1}{c} + \dots) f (x) \\ = & f (x) . \end{aligned}

$\begin{aligned} f_{X_\infty}(x) =& P(A_1) f(x) + P(A_2) f(x) + \dots \\ =& (P(A_1) + P(A_2) + \dots) f(x) \\ =& \left(\frac{1}{c} + \left(1-\frac{1}{c}\right)\frac{1}{c} + \left(1-\frac{1}{c}\right)^2\frac{1}{c} + \dots\right) f(x) \\ =& f(x). \end{aligned}$

P (A_{1}) + P (A_{2}) + \dots

$P(A_1) + P(A_2) + \dots$

i

$i$

— Cosyn
nguồn