Thuật toán gần đúng của đô thị

Cách đây một thời gian, Xi'an đã hỏi tương đương với cdfs của MCMC đối với pdf là gì? Câu trả lời ngây thơ sẽ là sử dụng thuật toán đô thị "gần đúng" theo mẫu

Cho 1. tạo 2. lấy $X^{(t)} = x^{(t)}$
$Y \sim q(y|x^{(t)})$
$X^{(t + 1)} = {\begin{cases} Y & with probability & min (\frac{F (Y + ε) - F (Y - ε)}{F (x^{(t)} + ε) - F (x^{(t)} - ε)}, 1) \\ x^{(t)} & otherwise. \end{cases}$ $X^{(t+1)} = \begin{cases} Y & \text{ with probability } & \min\left( \frac{F(Y+\varepsilon) - F(Y-\varepsilon)}{F(x^{(t)}+\varepsilon) - F(x^{(t)}-\varepsilon)} , 1 \right)\\ x^{(t)} & \text{ otherwise.} \end{cases}$

Trong đó $F$ là CDF đích và $\varepsilon$ là một hằng số nhỏ. Điều này cho phép chúng tôi sử dụng thuật toán của Metropolis với CDF.

Câu hỏi là: có bất kỳ lý do tại sao điều này thực sự có thể là một ý tưởng tồi?

— Tim
nguồn

Bạn đã thấy câu trả lời của tôi cho câu hỏi của Xi'an chưa? Tôi nghĩ rằng chúng tôi đang đề xuất một điều tương tự (trên thực tế, bạn thậm chí không cần sử dụng Đô thị, vì bạn có CDF). Các vấn đề được liệt kê ở cuối câu trả lời của tôi (chi phí đánh giá xấp xỉ là theo cấp số nhân về số lượng kích thước).

— lacerbi

@lacerbi cảm ơn. Tôi biết rằng vì tôi có CDF nên tôi không cần nó, đó chỉ là sự tò mò. Bất cứ điều gì ngoài chi phí?

— Tim

@Tim: cảm ơn bạn đã đề xuất. Một giải pháp tiềm năng khi là đa chiều là tiến hành lấy mẫu Gibbs và thực hiện -der một hướng tại một thời điểm.

X

$X$

ϵ

$\epsilon$

— Tây An

@ Xi'an có, điều này có thể dễ dàng được mở rộng đến Gibbs, MH, v.v.

— Tim

Không, tôi không thấy lý do tại sao đây là một ý tưởng tồi. Dường như với tôi rằng đó là một phần mở rộng tự nhiên (và thú vị) để vẽ các mẫu từ CDF.

Tuy nhiên, tôi tin rằng sự chấp nhận nên được

min (\frac{F (Y + ε) - F (Y)}{F (x^{(t)} + ε) - F (x^{(t)})}, 1)

$\min\left( \frac{F(Y+\varepsilon) - F(Y)}{F(x^{(t)}+\varepsilon) - F(x^{(t)})} , 1 \right)$

bởi vì theo định nghĩa

lim_{ε \to 0} \frac{F (x + ε) - F (x)}{ε} = P D F (x)

$\lim_{\varepsilon\rightarrow 0}\frac{F(x + \varepsilon) - F(x)}{\varepsilon} = PDF(x)$

Tuy nhiên, đây là lần đầu tiên tôi thấy điều này. Với trường hợp mạnh để lấy mẫu từ CDF không tầm thường, đây có thể trở thành một ấn phẩm thú vị.

— Jorge Leitao
nguồn

Tiêu chí chấp nhận được đề xuất bởi OP được thúc đẩy bởi biểu thức khác biệt trung tâm của đạo hàm là , xem ví dụ math.stackexchange.com/a/888280/104295 . (Tôi không biết liệu có lý do nào để tin một trong hai xấp xỉ này để hoạt động tốt hơn trong trường hợp này không).

lim_{ϵ \to 0} (F (x + ϵ) - F (x - ϵ)) / (2 ϵ)

$\lim_{\epsilon\rightarrow 0} (F(x+\epsilon) - F(x-\epsilon)) / (2\,\epsilon)$

— Juho Kokkala

Cách tiếp cận @JuhoKokkala +/- cũng xử lý đồng đều các trường hợp ranh giới.

— Tim

Thuật toán gần đúng của đô thị - nó có ý nghĩa không?