Tại sao khả năng trao đổi của các biến ngẫu nhiên là cần thiết trong các mô hình bayesian phân cấp?

Tại sao khả năng trao đổi của các biến ngẫu nhiên là cần thiết cho mô hình Bayes phân cấp?

Khả năng trao đổi không phải là một tính năng thiết yếu của mô hình phân cấp (ít nhất là không ở cấp độ quan sát). Về cơ bản, nó là một dạng tương tự Bayes của "độc lập và phân phối giống hệt" từ các tài liệu tiêu chuẩn. Nó chỉ đơn giản là một cách mô tả những gì bạn biết về tình huống hiện tại. Điều này cụ thể là "xáo trộn" không làm thay đổi vấn đề của bạn. Một cách tôi muốn nghĩ về điều này là xem xét trường hợp bạn được cho nhưng bạn không được cho biết giá trị của . Nếu biết rằng sẽ khiến bạn nghi ngờ các giá trị cụ thể của nhiều hơn các giá trị khác, thì chuỗi này không thể trao đổi. Nếu nó không cho bạn biết gì vềj x j = 5 j $x_{j}=5$$j$$x_{j}=5$$j$$j$, sau đó trình tự được trao đổi. Lưu ý rằng tính dễ thở là "trong thông tin" chứ không phải "trong thực tế" - nó phụ thuộc vào những gì bạn biết.

Mặc dù khả năng trao đổi là không cần thiết về các biến quan sát, nhưng có lẽ sẽ rất khó để phù hợp với bất kỳ mô hình nào nếu không có một số khái niệm về khả năng trao đổi, bởi vì nếu không có khả năng trao đổi, về cơ bản bạn không có lý do nào cho việc quan sát gộp lại. Vì vậy, tôi đoán là suy luận của bạn sẽ yếu hơn nhiều nếu bạn không có khả năng trao đổi ở đâu đó trong mô hình. Ví dụ, hãy xem xét cho . Nếu hoàn toàn có thể trao đổi thì điều này có nghĩa là và . Nếu có thể trao đổi có điều kiện được cung cấp thì điều này có nghĩa lài = 1 , ... , N x i μ i = μ σ i = σ x i μ i σ i = σ x i σ i μ i = μ N $x_{i}\sim N(\mu_{i},\sigma_{i})$$i=1,\dots,N$$x_{i}$$\mu_{i}=\mu$$\sigma_{i}=\sigma$$x_{i}$$\mu_{i}$$\sigma_{i}=\sigma$. Nếu có thể trao đổi có điều kiện được đưa ra thì điều này có nghĩa là . Nhưng lưu ý rằng trong một trong hai trường hợp "có thể trao đổi có điều kiện" này, chất lượng suy luận bị giảm so với trường hợp đầu tiên, bởi vì có thêm một tham số được đưa vào vấn đề. Nếu chúng ta không có khả năng trao đổi, thì về cơ bản chúng ta có vấn đề không liên quan.$x_{i}$$\sigma_{i}$$\mu_{i}=\mu$$N$$N$

Về cơ bản khả năng trao đổi có nghĩa là chúng ta có thể thực hiện suy luận cho bất kỳ và nào có thể trao đổi một phần i $x_{i}\to \text{parameters}\to x_{j}$$i$$j$

"Cần thiết" là quá mơ hồ. Nhưng thay thế các kỹ thuật, nếu chuỗi có thể trao đổi thì độc lập có điều kiện với một số tham số không quan sát được với phân phối xác suất . Đó là, . không cần phải đơn biến hoặc thậm chí là chiều hữu hạn và có thể được biểu diễn thêm dưới dạng hỗn hợp, v.v.X i Θ π p ( X ) = ∫ p ( X i | Θ ) d π ( Θ ) $X=\{X_i\}$$X_i$$\Theta$$\pi$$p(X) = \int p(X_i|\Theta)d\pi(\Theta)$$\Theta$

Khả năng trao đổi là rất cần thiết theo nghĩa các mối quan hệ độc lập có điều kiện này cho phép chúng tôi phù hợp với các mô hình mà chúng tôi gần như chắc chắn không thể khác.

Không phải vậy! Tôi không có chuyên gia ở đây, nhưng tôi sẽ đưa hai xu của mình. Nói chung khi bạn có một mô hình phân cấp, hãy nói

$y|\Theta_{1} \sim \text{N}(X\Theta_{1},\sigma^2)$

$\Theta_{1}|\Theta_{2} \sim\text{N}(W\Theta_{2},\sigma^2)$

Chúng tôi thực hiện các giả định độc lập có điều kiện, nghĩa là có điều kiện trên , có thể trao đổi. Nếu cấp độ thứ hai không thể trao đổi, hơn bạn có thể bao gồm cấp độ khác có thể trao đổi. Nhưng ngay cả trong trường hợp bạn không thể đưa ra giả định về tính ngoại lệ, mô hình vẫn có thể phù hợp với dữ liệu của bạn ở cấp độ đầu tiên. Θ $\Theta_{2}$$\Theta_{1}$

Cuối cùng, nhưng không kém phần quan trọng, khả năng trao đổi chỉ quan trọng nếu bạn muốn nghĩ theo định lý đại diện của De Finetti. Bạn có thể nghĩ rằng các linh mục là công cụ chính quy giúp bạn phù hợp với mô hình của bạn. Trong trường hợp này, giả định khả năng trao đổi cũng tốt như mô hình của bạn phù hợp với dữ liệu. Nói cách khác, nếu bạn nghĩ về mô hình phân cấp Bayes như là cách để có được sự phù hợp hơn với dữ liệu của bạn, thì khả năng trao đổi là không cần thiết trong bất kỳ ý nghĩa nào.