Các thuật toán của Metropolis-Hastings được sử dụng trong thực tế

Tôi đã đọc Blog của Christian Robert hôm nay và khá thích thuật toán mới của Metropolis-Hastings mà anh ấy đang thảo luận. Nó có vẻ đơn giản và dễ thực hiện.

Bất cứ khi nào tôi mã hóa MCMC, tôi có xu hướng gắn bó với các thuật toán MH rất cơ bản, chẳng hạn như di chuyển độc lập hoặc đi bộ ngẫu nhiên trên thang đo nhật ký.

Những thuật toán MH mà mọi người thường xuyên sử dụng? Đặc biệt:

• Tại sao bạn sử dụng chúng?
• Trong một số ý nghĩa, bạn phải nghĩ rằng chúng là tối ưu - sau tất cả bạn sử dụng chúng thường xuyên! Vậy làm thế nào để bạn đánh giá sự tối ưu: dễ mã hóa, hội tụ, ...

Tôi đặc biệt quan tâm đến những gì được sử dụng trong thực tế, tức là khi bạn viết mã cho các chương trình của riêng bạn.

Hybrid Monte Carlo là thuật toán tiêu chuẩn được sử dụng cho các mạng thần kinh. Lấy mẫu Gibbs để phân loại quy trình Gaussian (khi không sử dụng xấp xỉ xác định thay thế).

Lấy mẫu MH được sử dụng khi khó lấy mẫu từ phân phối mục tiêu (ví dụ: khi trước đó không liên hợp với khả năng). Vì vậy, bạn sử dụng phân phối đề xuất để tạo mẫu và chấp nhận / từ chối chúng dựa trên xác suất chấp nhận. Các lấy mẫu Gibbs thuật toán là một trường hợp đặc biệt của MH nơi đề nghị được luôn luôn chấp nhận. Lấy mẫu Gibbs là một trong những thuật toán được sử dụng phổ biến nhất do tính đơn giản của nó nhưng có thể không phải lúc nào cũng có thể áp dụng, trong trường hợp đó, người ta phải dùng đến MH dựa trên các đề xuất chấp nhận / từ chối.

Trong vật lý, đặc biệt là vật lý thống kê, thuật toán kiểu đô thị được sử dụng rộng rãi. Thực sự có vô số biến thể trong số này, và những biến thể mới đang được tích cực phát triển. Đây là chủ đề quá rộng để đưa ra bất kỳ loại mở rộng nào ở đây, vì vậy nếu bạn quan tâm, bạn có thể bắt đầu, ví dụ từ các ghi chú bài giảng này hoặc từ trang web của thư viện ALPS (http://alps.comp-phys.org/mediawiki).

Tôi sử dụng một bộ lấy mẫu lát - ban đầu được đề xuất bởi Neal (2003), mà tôi điều chỉnh thông qua tối ưu hóa heuristic.