Thuật toán thích nghi nào của Metropolis Hastings được triển khai trong gói R MHadaptive?


7

Có nhiều phiên bản của thuật toán Metropolis Hastings thích ứng. Một được thực hiện trong chức năng Metro_Hastingscủa Rgói MHadaptive, xem ở đây . Các tài liệu tham khảo được liệt kê ở đó, Spiegelhalter et al. (2002), thật không may, không chứa một mô tả về bất kỳ thuật toán thích ứng nào, theo như tôi có thể thấy. Tuy nhiên, Metro_Hastingsthuật toán thực hiện rất tốt trong việc lấy mẫu từ phân phối sau của mô hình mà tôi xem xét, đó là lý do tại sao tôi muốn hiểu chi tiết về nó.

Tôi đã đảo ngược thuật toán một chút. Có ai nhận ra thuật toán MH thích ứng này không? Đây là những gì nó làm:

Gọi q là mật độ đích. Initialize θ0,i=0,Σ .

Với n lần lặp {i=1,...,n} làm:

  1. Đề xuất θ1N(θ1|θ0,i1,Σ) .
  2. θ1θ 0 , i : = θ 1 θ 0 , i : = θ 0 , i - 1A=min{1,q(θ1)/q(θ0,i)}θ0,i:=θ1θ0,i:=θ0,i1

Nếu , trong đó một vectơ được xác định sao cho bất kỳ phần tử nào của (mặc định ), có một khoảng cách lặp giữa các phần tử (mặc định ) và không có phần tử (mặc định ), làm:j j > x x = 100 y y = 20 j > z z = 0,75 ni=jjj>xx=100yy=20j>zz=0.75n

  1. Chọn (mặc định ).k=0,5iθ~={θ0k,...,θ0,i}k=0.5i
  2. Cập nhật: trong đó ước tính khả năng tối đa của ma trận hiệp phương sai của giả sử tính quy tắc đa biến.S ~ θΣ:=S(θ~)Sθ~

Bước 1 và 2 là MH tiêu chuẩn. Bước 3 và 4 là các điều chỉnh xảy ra ở các bước và sử dụng các lần lặp trong quá khứ để cập nhật thành ma trận hiệp phương sai của các lần lặp trước.j - k ΣjjkΣ


1
xin lỗi vì câu hỏi ngớ ngẩn, nhưng bạn đã thử liên hệ với chủ sở hữu gói (thứ nhất) và David Spiegelhalter (thứ hai) chưa? Chủ sở hữu gói đã rời McGill vài năm trước, vì vậy 'hoàn toàn có thể địa chỉ email trong gói không bị theo dõi nữa. Tuy nhiên, chỉ với một chút Google-fu, bạn có thể dễ dàng tìm ra các liên hệ hiện tại của anh ấy (tất nhiên tôi không chia sẻ ở đây vì tôi không biết liệu anh ấy có thích không). Nếu bạn không thể liên lạc với anh ấy, David Spiegelhalter là một chàng trai thực sự tốt và tôi nghĩ anh ấy sẽ trả lời bạn nếu bạn gửi mail cho anh ấy.
DeltaIV

@DeltaIV Tôi đã liên lạc với anh ấy nhưng không nhận được hồi âm. Tôi đã không xem xét việc viết thư cho Spiegelhalter thay vào đó vì anh ta chỉ được trích dẫn (imho không chính xác) và tôi không chắc liệu anh ta có biết gì về gói này không. Tôi đã liên lạc với tác giả trên địa chỉ email ghi trong gói. Nó vẫn còn hoạt động rõ ràng và do đó tôi đã không xem xét việc tìm thấy anh ta ở nơi khác. Tôi sẽ thử điều này.
tomka

Tôi đồng ý rằng Spiegelhalter không chắc về các gói: đó là lý do tại sao tôi đề nghị liên hệ với chủ sở hữu gói trước. Tuy nhiên, anh ta có thể biết về thuật toán mà bạn mô tả (hoặc có thể không, nếu anh ta được trích dẫn không chính xác như bạn nghi ngờ). Nếu bạn quản lý để có được câu trả lời cho câu hỏi của bạn, hãy cho chúng tôi biết, tôi tò mò.
DeltaIV

1
@DeltaIV Tôi không thể xác định địa chỉ email tại tổ chức hiện tại của mình. Tôi có thể sẽ cần phải để nó ở đây trừ khi bạn có thể chỉ cho tôi đến nó.
tomka

chắc chắn, hãy thảo luận về điều này trong trò chuyện . Tôi hy vọng rõ ràng tôi muốn giúp đỡ, tôi chỉ quan tâm đến quyền riêng tư của chủ sở hữu gói.
DeltaIV

Câu trả lời:


1

Mô tả của bạn nghe giống như thuật toán thích ứng của Haario et al (1999) . Ý tưởng thực sự là để cập nhật ma trận hiệp phương sai của phân phối đề xuất bằng cách sử dụng một số lượng mẫu cố định gần đây.

Lưu ý rằng thuật toán được mô tả trong Haario et al (1999) hoạt động tốt, nhưng KHÔNG phải là ergodic. Haario et al (2001) đã mô tả một thuật toán cải tiến đó là ergodic. Ý tưởng là cập nhật ma trận hiệp phương sai của phân phối đề xuất bằng cách sử dụng tất cả các mẫu trong quá khứ.

Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.