Suy luận Bayes cho phân phối đa cực với kiến ​​thức trước không đối xứng?


8

Giả sử tôi sẽ nhận được một số mẫu từ phân phối nhị thức. Một cách để mô hình hóa kiến ​​thức trước đây của tôi là phân phối Beta với các tham số và . Theo tôi hiểu, điều này tương đương với việc đã nhìn thấy "số lần " lần trong các thử nghiệm . Như vậy, một lối tắt tuyệt vời để thực hiện suy luận Bayesian toàn diện là sử dụng như là ý nghĩa mới của tôi về xác suất "đầu" sau khi nhìn thấy đầu trong thử nghiệm .αβαα+βh+αn+α+βhn

Bây giờ giả sử tôi có nhiều hơn hai trạng thái, vì vậy tôi sẽ nhận được một số mẫu từ phân phối đa quốc gia. Giả sử tôi muốn sử dụng phân phối Dirichlet với tham số làm ưu tiên. Một lần nữa như một phím tắt tôi có thể điều trị này như kiến thức trước khi diễn ra sự kiện 's khả năng là tương đương với , và nếu tôi chứng kiến sự kiện lần trong thử nghiệm sau của tôi cho trở thành .αiαiαji hnih+αin+αj

Bây giờ trong trường hợp nhị thức, người ta biết rằng kiến ​​thức trước về "đầu" xảy ra lần trong thử nghiệm tương đương với "đuôi" xảy ra lần trong các thử nghiệm . Về mặt logic, tôi không tin rằng tôi có thể có kiến ​​thức mạnh mẽ hơn về khả năng "đứng đầu" hơn là "đuôi". Điều này trở nên thú vị hơn với nhiều hơn hai kết quả mặc dù. Nếu tôi nói rằng một cái chết 6 mặt, tôi có thể tưởng tượng kiến ​​thức trước đây của tôi về bên "1" tương đương với 10 cái trong 50 thử nghiệm và kiến ​​thức trước đây của tôi về "2" tương đương với 15 twos trong 100 thử nghiệm.αα+ββα+β

Vì vậy, sau tất cả các giới thiệu đó, câu hỏi của tôi là làm thế nào tôi có thể mô hình hóa đúng như kiến ​​thức trước bất đối xứng trong trường hợp đa phương thức? Dường như nếu tôi không cẩn thận, tôi có thể dễ dàng nhận được kết quả phi logic do tổng xác suất / khả năng không đạt tới 1. Có cách nào tôi vẫn có thể sử dụng phím tắt Dirichlet hoặc tôi cần phải hy sinh hoàn toàn và sử dụng một số phân phối trước khác hoàn toàn?

Xin vui lòng tha thứ cho bất kỳ sự nhầm lẫn gây ra bởi lạm dụng tiềm năng trong ký hiệu hoặc thuật ngữ ở trên.


If I have say a 6-sided die, I can imagine my prior knowledge of side "1" being equivalent to 10 ones in 50 trials and my prior knowledge of side "2" as being equivalent to 15 twos in 100 trials.Có lý do đặc biệt nào khiến bạn không muốn thống nhất 'kích thước mẫu tương đương' của mình cho " " và " " (cụ thể là và ) bằng cách sử dụng bội số chung nhỏ nhất của chúng không? Trong trường hợp này và . 1250100α1=20/100α2=15/100
Zhubarb

Nó cho phép bạn đại diện cho các linh mục bất đối xứng trong khi đảm bảoi=1i=6αi=1
Zhubarb

Cuối cùng, bài viết này của Kemp tại al. là rất phù hợp và thú vị để đọc.
Zhubarb

@Berkan Tôi chưa đọc bài báo này (cảm ơn!), Nhưng lý do tôi không thống nhất kích thước mẫu là vì 20/100 không giống với trước ngày 10/50 và thực tế đó rất quan trọng đối với Lý do câu hỏi này đã được hỏi.
Michael McGowan

Bởi vì bạn tự tin hơn trước đây do một đẳng thức cao hơn. cỡ mẫu?
Zhubarb

Câu trả lời:


2

Bạn đã đóng khung câu hỏi của bạn rất tốt.

Tôi nghĩ những gì bạn đang tìm kiếm ở đây là một trường hợp của mô hình phân cấp. Và bạn có thể muốn mô hình hóa nhiều lớp phân cấp (tại thời điểm bạn chỉ nói về các linh mục). Có một lớp siêu ưu tiên khác cho siêu tham số cho phép bạn mô hình hóa các biến số bổ sung trong siêu tham số (vì bạn lo ngại về các vấn đề biến đổi của siêu tham số). Nó cũng làm cho mô hình của bạn linh hoạt và mạnh mẽ (có thể chậm hơn).

Cụ thể trong trường hợp của bạn, bạn có thể hưởng lợi bằng cách có các mục sư cho các tham số phân phối Dirichlet (Beta là trường hợp đặc biệt). Bài đăng này của Gelman nói về cách áp đặt các linh mục vào các tham số của phân phối Dirichlet. Ông cũng trích dẫn các bài báo của mình trong một tạp chí độc học.


Tôi có thể mô hình cụ thể hơn, nhưng tôi không muốn đoán ở đây. Nếu bạn chọn sửa đổi câu hỏi của mình, tôi sẽ thêm chi tiết.
suncoolsu
Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.