Công cụ ước tính MCMC mạnh mẽ của khả năng cận biên?

9

Tôi đang cố gắng tính toán khả năng cận biên cho một mô hình thống kê theo phương pháp Monte Carlo:

f (x) = \int f (x ∣ θ) π (θ) d θ

$f(x) = \int f(x\mid\theta) \pi(\theta)\, d\theta$

Khả năng được xử lý tốt - trơn tru, log-lõm - nhưng chiều cao. Tôi đã thử lấy mẫu quan trọng, nhưng kết quả rất tốt và phụ thuộc nhiều vào đề xuất tôi đang sử dụng. Tôi một thời gian ngắn được coi là làm Hamiltonian Monte Carlo để tính toán mẫu sau giả định một bộ đồng phục trước khi qua và lấy trung bình điều hòa, cho đến khi tôi nhìn thấy này . Bài học kinh nghiệm, trung bình hài có thể có phương sai vô hạn. Có một công cụ ước tính MCMC thay thế gần như đơn giản, nhưng có phương sai hoạt động tốt không? $\theta$

monte-carlo likelihood marginal

— David Pfau
nguồn

Bạn cũng có thể xem xét lấy mẫu monte carlo cơ bản từ trước.

f (x) = E_{π (θ)} (f (x | θ))

$f(x)=E_{\pi(\theta)}(f(x|\theta))$

— xác suất

1

Đó là một giải pháp khả thi. Trong trường hợp này, hãy nhớ rằng các linh mục không phù hợp không còn được phép, và các linh mục với sự hỗ trợ rất phổ biến có thể sẽ gây khó khăn cho việc xấp xỉ Monte Carlo.

— Thiền

1

Một cuốn sách hoàn chỉnh về vấn đề này là Chen, Shao và Ibrahim (2001) . Bạn cũng có thể tìm kiếm các từ khóa như lấy mẫu lồng nhau, lấy mẫu cầu, lấy mẫu phòng thủ, bộ lọc hạt, Savage-Dickey.

— Tây An

8

Làm thế nào về lấy mẫu quan trọng ủ ? Nó có nhiều sai thấp hơn so với lấy mẫu quan trọng thường xuyên. Tôi đã thấy nó được gọi là "tiêu chuẩn vàng" và không khó thực hiện hơn so với lấy mẫu quan trọng "bình thường". Theo nghĩa chậm hơn là bạn phải thực hiện một loạt các động tác MCMC cho từng mẫu, nhưng mỗi mẫu có xu hướng có chất lượng rất cao, do đó bạn không cần nhiều như vậy trước khi ước tính của bạn ổn định.

Sự thay thế chính khác là lấy mẫu quan trọng liên tiếp. Ý thức của tôi là nó cũng khá đơn giản để thực hiện, nhưng nó đòi hỏi một số quen thuộc với Monte Carlo (lọc hạt AKA) mà tôi thiếu.

Chúc may mắn!

Chỉnh sửa để thêm : Có vẻ như bài đăng trên blog của Radford Neal mà bạn đã liên kết cũng đề xuất Lấy mẫu Tầm quan trọng của Anneal. Hãy cho chúng tôi biết nếu nó hoạt động tốt cho bạn.

— David J. Harris
nguồn

2

Điều này có thể giúp làm sáng tỏ một số tính toán về tính toán phân phối biên. Ngoài ra, tôi sẽ khuyên bạn nên sử dụng một phương pháp thông qua các hậu thế sức mạnh được giới thiệu bởi Friel và Pettitt . Cách tiếp cận này có vẻ khá hứa hẹn, mặc dù nó có một số hạn chế. Hoặc bạn có thể xấp xỉ Laplace phân phối sau bằng phân phối bình thường: nếu biểu đồ từ MCMC trông đối xứng và giống như bình thường, thì điều này có thể là xấp xỉ khá tốt.

— Tomas
nguồn