MCMC để xử lý các vấn đề khả năng phẳng

Tôi có một khả năng khá phẳng khiến cho bộ lấy mẫu của Metropolis-Hastings di chuyển qua không gian tham số rất bất thường, tức là không thể đạt được sự hội tụ cho dù các tham số của phân phối đề xuất là gì (trong trường hợp của tôi là gaussian). Không có độ phức tạp cao trong mô hình của tôi - chỉ có 2 tham số, nhưng dường như MH không thể xử lý tác vụ này. Vì vậy, có bất kỳ mẹo xung quanh vấn đề này? Có một bộ lấy mẫu sẽ không tạo ra chuỗi Markov di chuyển rất xa đến đuôi sau không?

Cập nhật vấn đề:
Tôi sẽ cố gắng cải tổ câu hỏi của mình để biết thêm chi tiết. Trước hết tôi sẽ mô tả mô hình.
Tôi có một mô hình đồ họa với hai nút. Mỗi nút được điều chỉnh bởi mô hình tự động Poisson (Besag, 1974) như sau: Hoặc, vì chỉ có hai nút và giả sử cường độ toàn cầu bằng nhau :

p (X_{j} | X_{k} = = x_{k}, \forall k \neq j, Θ) ~ P o Tôi S S o n (e^{θ_{j} + \underset{j \neq k}{Σ} θ_{k j} x_{k}})

$p\left ( X_{j} |X_{k}=x_{k},\forall k\neq j,\Theta \right )\sim Poisson\left ( e^{\theta _{j}+\sum _{j\neq k}\theta _{kj}x_{k}} \right )$

p (X_{1} | X_{2} = = x_{2}, θ, α) ~ P o Tôi S S o n (e^{θ + α x_{2}})

$p\left ( X_{1} |X_{2}=x_{2},\theta, \alpha \right )\sim Poisson\left ( e^{\theta+\alpha x_{2}} \right )$

p (X_{2} | X_{1} = = x_{1}, θ, α) ~ P o Tôi S S o n (e^{θ + α x_{1}})

$p\left ( X_{2} |X_{1}=x_{1},\theta, \alpha \right )\sim Poisson\left ( e^{\theta+\alpha x_{1}} \right )$

Vì là trường Markov, phân phối chung (hoặc khả năng thực hiện ) như sau: Vì tôi giả sử các thầy tu phẳng cho và , hậu thế là sau đó tỷ lệ với Vì $X=[x_{1},x_{2}]$

p (X) = = \frac{e x p (θ (x_{1} + x_{2}) + 2 x_{1} x_{2} α)}{Z (θ, α)} = = \frac{e x p (E (θ, α, X))}{Z (θ, α)}

$p\left ( X \right )=\frac{exp\left ( \theta \left ( x_{1}+x_{2} \right )+2 x_{1}x_{2} \alpha\right )}{Z\left ( \theta, \alpha \right )}=\frac{exp\left ( E\left ( \theta, \alpha, X \right ) \right )}{Z\left ( \theta, \alpha \right )}$

α

$\alpha$

θ

$\theta$

π (θ, α | X) α \frac{e x p (E (θ, α, X))}{Z (θ, α)}

$\pi(\theta, \alpha |X)\propto \frac{exp\left ( E\left ( \theta, \alpha, X \right ) \right )}{Z\left ( \theta, \alpha \right )}$

Z (θ, α)

$Z(\theta, \alpha)$ nói chung là rất khó để đánh giá (rất nhiều tổng kết) Tôi đang sử dụng phương pháp biến phụ trợ do J. Moller (2006). Theo phương pháp này, đầu tiên tôi vẽ một mẫu dữ liệu bằng bộ lấy mẫu Gibbs (vì các điều kiện chỉ là phân phối poisson) sau đó tôi rút ra một đề xuất từ phân phối Gaussian và tính toán theo tiêu chí chấp nhận . Và ở đây tôi có được một chuỗi Markov hoang dã. Khi tôi áp đặt một số ranh giới trong đó chuỗi có thể di chuyển, bộ lấy mẫu dường như hội tụ đến một phân phối nào đó, nhưng một khi tôi di chuyển ít nhất một ranh giới, kết quả phân phối cũng di chuyển và luôn hiển thị trancation. Tôi nghĩ rằng @ Xi'an là đúng - hậu thế có thể không đúng.

X^{'}

${X}'$

H (X^{'}, α^{'}, θ^{'} | X, α, θ)

$H({X}',{\alpha}',{\theta}'|X, \alpha, \theta)$

mcmc likelihood posterior

— Tomas
nguồn

Một khả năng là sử dụng một tham số quy mô lớn hơn để có được các bước lớn hơn. Bạn có thể quan tâm đến gói R mcmcvà lệnh metrop. Bạn có thể sẽ cần một bộ lấy mẫu thích ứng. Bộ lấy mẫu này (twalk) có thể được sử dụng trong loại trường hợp này do nó có tính thích ứng (có lẽ chỉ là "ý kiến thứ hai"). Nó được thực hiện trong R, C và Python. Các mã có thể được tải xuống từ một trong các trang web của tác giả .

@Procrastinator Bạn có thể nói rõ hơn về ý nghĩa của "tham số quy mô lớn hơn" không? Có nghĩa là sử dụng các tham số phương sai lớn hơn cho các đề xuất?

— Tomas

Trước tiên, hãy để tôi làm rõ rằng, nếu khả năng là bằng phẳng, bạn không thực sự muốn rằng bộ lấy mẫu của bạn không "di chuyển rất xa đến đuôi sau". Những gì mong muốn là lấy mẫu đúng từ phân phối (cả, đuôi và trung tâm). Khi sử dụng thuật toán MH với các đề xuất Gaussian, bạn cần chọn ma trận tham số / ma trận hiệp phương thức xác định độ dài của các bước. Chúng phải được chọn cho 1. Lấy mẫu đúng từ phân phối và 2. Lấy tỷ lệ chấp nhận hợp lý.

nếu bạn chỉ có hai tham số thì tích hợp số có lẽ là một lựa chọn tốt hơn

— xác suất

có một cái gì đó sai với biểu hiện khả năng chung. Nếu bạn thử và tính tổng bạn sẽ nhận được . vì vậy khả năng là không đúng như hiện tại được viết.

x_{1}

$x_1$

p (x_{2} | α θ) = g (x_{2}) \sum_{x_{1} = 0}^{\infty} \exp (x_{1} [θ + 2 α x_{2}]) = \infty

$p(x_2|\alpha\theta)=g(x_2)\sum_{x_1=0}^{\infty}\exp(x_1[\theta+2\alpha x_2])=\infty$

— xác suất

Tôi thấy đáng ngạc nhiên khi một khả năng phẳng tạo ra các vấn đề hội tụ: nó thường là trường hợp ngược lại gây ra vấn đề! Kiểm tra đầu tiên thông thường cho các tình huống như vậy là để đảm bảo rằng hậu thế của bạn là đúng : nếu không nó sẽ giải thích cho những chuyến du ngoạn bất tận trong "đuôi". Nếu hậu thế thực sự phù hợp, bạn có thể sử dụng các đề xuất đuôi béo hơn như phân phối Cauchy ... Và thuật toán thích ứng à la Roberts và Rosenthal.

Nếu điều này vẫn "không hoạt động", tôi khuyên bạn nên xem xét việc xác định lại mô hình, sử dụng ví dụ (nghĩa là nếu không có tham số tự nhiên nào khác), một biến đổi logistic, (với tham số tỷ lệ có thể), đưa tham số vào ô vuông đơn vị.

φ (x) = = điểm kinh nghiệm (x) / {1 + điểm kinh nghiệm (x)}

$\varphi(x) = \exp(x)/\{1+\exp(x)\}$

Về các câu trả lời trước đó, việc lấy mẫu Gibbs nghe có vẻ như là một giải pháp có khả năng hơn là từ chối chấp nhận, đòi hỏi phải tìm một phân phối ràng buộc và mở rộng về phía sau, điều này dường như không khả thi đối với công cụ lấy mẫu Metropolis-Hastings mạnh mẽ hơn ...

— Tây An
nguồn

@Xian cảm ơn bạn đã phản hồi về downvote. Có thực sự có tình huống nào bạn muốn chấp nhận từ chối đối với MH không?

— gui11aume

@ gui11aume: nếu bạn có thể tạo ra thuật toán chấp nhận từ chối với một ràng buộc đủ nhỏ để đảm bảo tỷ lệ chấp nhận hợp lý, thì việc chấp nhận từ chối chắc chắn là thích hợp hơn đối với Metropolis-Hastings. Tuy nhiên, điều này khó có thể xảy ra với (a) kích thước lớn và / hoặc (b) phức tạp, có thể là đa phương thức, mục tiêu ...

— Xi'an

Bạn có thể viết phân phối tham số đầu tiên của bạn có điều kiện vào tham số thứ hai của bạn và ngược lại không? Nếu vậy, lấy mẫu Gibbs sẽ là một lựa chọn khả thi. Nó chỉ là một vài dòng mã và nó có thể trộn gần như ngay lập tức trong nhiều trường hợp.

— David J. Harris
nguồn

EDIT: Xem câu trả lời của @ Xi'an và thảo luận sau đó để xem các vấn đề với cách tiếp cận sau.

$t$

$t$ rt() $t$ $\Gamma$ $\Gamma$

— gui11aume
nguồn