Tại sao hỗn hợp của các linh mục liên hợp là quan trọng?

Tôi có một câu hỏi về hỗn hợp của các linh mục liên hợp. Tôi đã học và nói rằng hỗn hợp của các linh mục liên hợp một vài lần khi tôi đang học bayesian. Tôi tự hỏi tại sao định lý này lại quan trọng như vậy, chúng ta sẽ áp dụng nó như thế nào khi chúng ta thực hiện phân tích Bayes.

Cụ thể hơn, một định lý từ Diaconis và Ylivisaker 1985 đã minh họa một định lý như sau:

Cho một mô hình lấy mẫu từ một gia đình hàm mũ, mọi phân phối trước có thể được xấp xỉ bằng một hỗn hợp hữu hạn của các phân phối liên hợp trước.$p(y|\theta)$

Cụ thể hơn, được đưa ra trước , chúng ta có thể rút ra được hậu thế:$p(\theta)=\int p(\theta|\omega)p(\omega)d\omega$

$p(\theta|Y)\propto\int p(Y|\theta)p(\theta|\omega)p(\omega)d\omega\propto\int \frac{p(Y|\theta)p(\theta|\omega)}{p(Y|\omega)}p(Y|\omega)p(\omega)d\omega\propto \int p(\theta|Y, \omega)p(Y|\omega)p(\omega)d\omega$

Vì thế,

$p(\theta|Y)=\frac{\int p(\theta|Y, \omega)p(Y|\omega)p(\omega)d\omega}{\int p(Y|\omega)p(\omega)d\omega}$

Tính toán hậu thế với các linh mục nói chung / tùy tiện trực tiếp có thể là một nhiệm vụ khó khăn.

Mặt khác, việc tính toán các hậu thế với hỗn hợp các linh mục liên hợp là tương đối đơn giản, vì một hỗn hợp các linh mục nhất định trở thành cùng một hỗn hợp của các hậu thế tương ứng.

[Cũng có nhiều trường hợp một số trường hợp được đưa ra trước có thể được xấp xỉ khá tốt bởi một hỗn hợp hữu hạn của các linh mục liên hợp - điều này tạo ra một cách tiếp cận thực tế và dễ áp ​​dụng trong nhiều tình huống, dẫn đến hậu thế gần đúng có thể được thực hiện khá gần đến chính xác.]

Để mở rộng câu trả lời của @ Glen_b chỉ một chút, một hàm ý là chúng ta có thể lấy xấp xỉ dạng đóng cho hậu thế khi sử dụng trước không liên hợp bằng cách sử dụng xấp xỉ trước khi không liên hợp trước với hỗn hợp các linh mục liên hợp và sau đó trực tiếp giải quyết cho sau của gần đúng.

Tuy nhiên, nhìn chung phương pháp này có vẻ khá khó sử dụng. Mặc dù đúng là bạn có thể làm cho hỗn hợp trước tùy ý gần với không liên hợp trước, nhưng nhìn chung sẽ có một số lỗi trong bất kỳ xấp xỉ hữu hạn nào. Các lỗi nhỏ ở trước có thể dễ dàng lan truyền đến các lỗi lớn ở phía sau. Ví dụ: nếu ưu tiên gần đúng ngoại trừ đuôi cực, nhưng dữ liệu cung cấp bằng chứng mạnh mẽ cho thấy các giá trị tham số nằm ở đuôi cực, các lỗi trên đuôi cực của trước sẽ dẫn đến lỗi ở vùng xác suất cao của sau.