Giống hay khác nhau? Cách Bayes


10

Nói rằng tôi có mô hình sau:

Poisson(λ){λ1if t<τλ2if tτ

Và tôi suy ra các hậu thế cho và được hiển thị bên dưới từ dữ liệu của tôi. Có cách nào Bayesian của nói (hoặc định lượng) nếu và là giống và khác nhau ?λ1λ2λ1λ2

Có lẽ đo lường xác suất khác vớiλ1λ2 ? Hoặc có lẽ sử dụng phân kỳ KL?

Ví dụ: làm cách nào tôi có thể đo hoặc ít nhất là ?p(λ2λ1)p(λ2>λ1)

Nói chung, một khi bạn có các phần sau được hiển thị bên dưới (giả sử các giá trị PDF khác không ở mọi nơi cho cả hai), cách tốt để trả lời câu hỏi này là gì?

nhập mô tả hình ảnh ở đây

Cập nhật

Có vẻ như câu hỏi này có thể được trả lời theo hai cách:

  1. Nếu chúng ta có các mẫu của hậu thế, chúng ta có thể xem xét tỷ lệ của các mẫu trong đó (hoặc tương đương ). @ Cam.Davidson.Pilon bao gồm một câu trả lời sẽ giải quyết vấn đề này bằng cách sử dụng các mẫu như vậy.λ1λ2λ2>λ1

  2. Tích hợp một số loại khác biệt của hậu thế. Và đó là một phần quan trọng trong câu hỏi của tôi. Sự tích hợp đó sẽ như thế nào? Có lẽ cách tiếp cận lấy mẫu sẽ xấp xỉ tích phân này, nhưng tôi muốn biết công thức của tích phân này.

Lưu ý: Các lô trên đến từ vật liệu này .


Bạn chỉ có thể tính toán phương sai của cả hai bản phân phối và thêm chúng. Đó là phương sai của sự khác biệt trong phương tiện. Sau đó tính toán sự khác biệt trong các phương tiện và xem nó có bao nhiêu độ lệch chuẩn. Bạn có thể xấp xỉ cả hai phân phối với bình thường để bắt đầu và sử dụng các khoảng tin cậy thông thường cho phân phối bình thường. Chúng rõ ràng là những phương tiện khác nhau.
Dave31415


3
Tất cả các tính toán cần thiết được cung cấp trong bài viết của tôi nhưng tôi chưa nghiên cứu trường hợp ( là tỷ lệ của hai tỷ lệ Poisson)H0:{ϕ=1}ϕ
Stéphane Laurent

Cảm ơn @ StéphaneLaurent. Bài viết của bạn là một con trỏ tuyệt vời, nhưng dường như nó đặc trưng cho các quá trình Poisson. Sự so sánh, ở mức độ cao, một Bayes có thể làm gì để ước tính nếu giống hoặc khác với ? Phân tích có phải được phân phối cụ thể? λ2λ1
Amelio Vazquez-Reina

2
Xin lỗi @ user023472 Tôi không có năng lượng trong những ngày này. Xem các bài báo của Bernardo được trích dẫn trong bài báo của tôi. "Nội tại" có nghĩa là phương thức được lấy từ và chỉ từ mô hình.
Stéphane Laurent

Câu trả lời:


6

Tôi nghĩ một câu hỏi tốt hơn là, chúng có khác nhau đáng kể không?

Để trả lời điều này, chúng ta cần tính . Gọi số lượng này . Nếu , thì có một cơ hội bằng nhau lớn hơn cái kia. Mặt khác, nếu thực sự gần bằng 1, thì chúng ta có thể tự tin rằng lớn hơn (đọc: khác) so với .P(λ2>λ1)pp0.50pλ2λ1

Làm thế nào để chúng tôi tính ? Đó là chuyện nhỏ trong khuôn khổ MCMC của Bayes. Chúng tôi có các mẫu từ phía sau, vì vậy, hãy tính toán các mẫu từ lớn hơn :pλ2λ1

 p = np.mean( lambda_2_samples > lambda_1_samples )
 print p

Tôi xin lỗi vì không bao gồm điều này trong cuốn sách, tôi chắc chắn sẽ thêm nó vì tôi nghĩ đó là một trong những ý tưởng hữu ích nhất trong suy luận Bayes


5
Xác suất là 1.0 chúng khác nhau, vì cả hai đều là biến ngẫu nhiên liên tục. Hãy xem xét: dự đoán trước của bạn rằng gì? Bạn có thực sự nghĩ rằng họ thực sự bằng nhau? (Bỏ qua kiểm tra giả thuyết: chúng ta đang sống trong thế giới thực, nơi các biến không bao giờ thực sự bằng nhau). Xem bài này của anh hùng của tôi, Gelman. Tính toán, bạn có thể kiểm tra điều này bằng máy tính . λ1=λ2np.mean( lambda_2_samples != lambda_1_samples)
Cam.Davidson.Pilon

1
Bạn có thể định nghĩa làm thế nào "không bằng" là có ý nghĩa. Ví dụ: nếu trong ví dụ của bạn, bất kỳ sự khác biệt nào ít hơn một không thực sự có ý nghĩa, thì bạn có thể xem và điều đó sẽ cho bạn một thống kê có ý nghĩa đối vớiP(|λ1λ2|>1)P(λ1λ2)
Sam Dickson

3
Để thêm vào nhận xét trước đây của tôi, nếu các biến và rời rạc, thì có khả năng = . λ1λ2λ2λ1
Cam.Davidson.Pilon

1
trời ơi, tôi ghét phải ở trong tình huống đó Nó liên quan đến tích hợp khó chịu. Đối với hầu hết các mô hình, bạn thực sự không thể lấy được hậu thế. Ngay cả khi bạn có thể, vẫn có thể sử dụng máy tính tốt hơn, chỉ vì mục đích lấy mẫu. Tóm lại, mẫu> công thức tính toán như thế này.
Cam.Davidson.Pilon

2
Bạn không đo "đủ lớn hơn". Xem xét phân phối có cực đại bằng 0 và phân phối khác có khối lượng bằng nhau tại các đỉnh -10, 10. Thống kê của bạn - giá trị dự kiến ​​của chỉ số mà một mẫu lớn hơn mẫu kia - cho 0,5, nhưng phân phối rõ ràng hoàn toàn khác nhau.
Neil G

5

Như đã nêu, câu hỏi này là tầm thường. Giả sử và là các biến ngẫu nhiên liên tục, .λ1λ2Pr(λ1=λ2)=0

Tôi nghi ngờ bạn quan tâm đến xác suất và nằm trong một số của nhau. Trong trường hợp đó, khu vực của sự khác biệt về hai mật độ sau trên khoảng là câu trả lời của bạn. Các giá trị chồng chéo lớn hơn cho thấy hai phần sau giống nhau hơn.λ1λ2ϵ[ϵ/2,ϵ/2]

Nếu bạn muốn làm việc với các kết quả mô phỏng (và đối với hầu hết các vấn đề, chúng tôi không có sự lựa chọn xa xỉ), chỉ cần lấy tỷ lệ kết quả trong đó là xấp xỉ.λ2>λ1


Cảm ơn. Làm thế nào để câu trả lời của bạn liên quan đến một số ý tưởng được thảo luận trong các ý kiến ​​của OP?
Amelio Vazquez-Reina

Xin lỗi, nhưng tôi không quen với một trong những phương pháp đó nên tôi không thể bình luận một cách có ý nghĩa. Tuy nhiên, @ Stéphane_Laurent khá thông minh, vì vậy tôi khuyên bạn nên xem qua liên kết ở mức tối thiểu.
Sycorax nói Phục hồi Monica

1
@ user023472 Xin lỗi, hôm nay tôi không có năng lượng để đưa ra câu trả lời về cách tiếp cận khác biệt nội tại. Nó dựa trên sự phân kỳ Kullback-Leibler.
Stéphane Laurent

@ user777 Điều này đòi hỏi phải sửa . Điều gì xảy ra nếu tôi chỉ muốn xem xác suất hoặc ? ϵp(λ2>λ1)p(λ2λ1)
Amelio Vazquez-Reina

Cảm ơn @ user777. Tôi quan tâm đến trường hợp khi chúng tôi không có quyền truy cập vào các mẫu. Bạn đã có một phần trong bài viết của bạn trước đó, nhưng dường như bạn đã xóa nó. Điều đó sẽ trông như thế nào?
Amelio Vazquez-Reina
Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.