Khi nào tính bình thường tiệm cận của hậu thế Bayes (Bernstein-von Mises) thất bại?


10

Hãy xem xét hàm mật độ sau được cung cấp (như thường lệ) bởi với mật độ trước và phân phối của quan sát , có điều kiện trên giá trị tham số .π f ( ; θ ) n x 1 ,

π(θ)i=1nf(xi;θ),
πf(;θ)n θx1,,xnθ

Trong một số điều kiện nhất định, phân phối sau là không bình thường (kết quả được gọi là định lý Bernstein-von Mises, xem egvd Vaart, Asymptotic Statistics , Phần 10.2, để biết các lập luận chặt chẽ, hoặc Young & Smith, Yếu tố cần thiết của suy luận thống kê , Phần 9.12 , cho một cuộc thảo luận không chính thức.)

Có bất kỳ ví dụ (hy vọng cơ bản) nào trong đó hậu thế Bayes không bình thường không? Cụ thể là có những ví dụ

  1. π và liên tục khác biệt đối với ?θfθ
  2. π(θ)>0 cho tất cả ?θ

Một ví dụ tôi đã lưu ý trong tài liệu là trong đó là các biến ngẫu nhiên Cauchy độc lập với tham số vị trí . Trong trường hợp này, với xác suất dương tồn tại nhiều cực đại cục bộ của hàm khả năng (Xem Young & Smith, Ví dụ 8.3). Có lẽ điều này có thể trình bày một vấn đề trong định lý B-vM mặc dù tôi không chắc chắn. θX1,,Xnθ

Cập nhật: Điều kiện đủ cho BvM là (như đã nêu trong vd Vaart, Mục 10.2):

  • dữ liệu được lấy từ phân phối với tham số cố địnhθ0

  • thử nghiệm là 'khác biệt theo nghĩa bậc hai' tại với ma trận thông tin Fisher không đơn lẻ Tôi ( θ 0 )θ0I(θ0)

  • ưu tiên là hoàn toàn liên tục trong một khu vực xung quanhθ0

  • mô hình là liên tục và nhận dạng

  • tồn tại một bài kiểm tra phân tách từ đối với một sốH0:θ=θ0H1:θθ0εε>0


Tôi nghĩ nó có liên quan nhiều hơn đến việc hỗ trợ KL của trước có chứa tham số TRUE không?
Henry.L

Câu trả lời:


4

1. Ví dụ Cauchy có mâu thuẫn với Định lý Bernstein von-Mises không?

Không. Định lý Bernstein von-Mises không được áp dụng khi phân phối chung không có thời điểm thứ hai khác biệt. Và rõ ràng là các biến ngẫu nhiên chung iid Cauchy thậm chí không có giây thứ hai hữu hạn. Điều kiện này đòi hỏi một giả định năng lượng giới hạn trên đa tạp Riemannian được xác định bởi số liệu Rao-Fisher không được Cauchys thỏa mãn.

2. Có bất kỳ ví dụ (hy vọng cơ bản) nào trong đó hậu thế Bayes không bình thường không? Cụ thể có những ví dụ trong đó liên tục khác biệt đối với ? cho tất cả ?θ π ( θ ) > 0 θπ,fθπ(θ)>0θ

Đúng. Thật vậy, chúng ta có thể chọn một (không chính xác) không chính xác trước làm cho hậu thế cũng không đúng. Ví dụ: là một ví dụ tầm thường. Một hậu thế không đúng có thể là bình thường. Ví dụ: [Rubio & Steel] (14) đã cung cấp một ví dụ trong đó Jeffereys trước dẫn đến một hậu thế không phù hợp, điều này không thể bình thường cho dù kích thước mẫu lớn đến mức nào. f α C 1πC0fC1

Tài liệu tham khảo

[Rubio & Steel] Rubio, Francisco J. và Mark FJ Steel. "Suy luận trong các mô hình quy mô vị trí hai mảnh với các linh mục Jeffreys." Phân tích Bayes 9.1 (2014): 1-22.


Cảm ơn Henry.L, điều này rất hữu ích, tôi sẽ tra cứu tài liệu tham khảo. Tôi vui mừng vì câu hỏi cuối cùng đã nhận được một số sự chú ý!
Joris Bierkens

Bạn có thể đưa ra một ví dụ đơn giản với một trước thích hợp?
Cagdas Ozgenc
Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.