Tại sao một thử nghiệm tỷ lệ khả năng phân phối chi bình phương?

Tại sao thống kê kiểm tra của một thử nghiệm tỷ lệ khả năng phân phối chi bình phương?

$2(\ln \text{ L}_{\rm alt\ model} - \ln \text{ L}_{\rm null\ model} ) \sim \chi^{2}_{df_{\rm alt}-df_{\rm null}}$

Như @Nick đã đề cập, đây là hệ quả của định lý Wilks . Nhưng lưu ý rằng số liệu thống kê thử nghiệm là tiệm $\chi^2$ -distributed, không$\chi^2$ -distributed.

Tôi rất ấn tượng với định lý này vì nó giữ trong một bối cảnh rất rộng. Hãy xem xét một mô hình thống kê với khả năng $l(\theta \mid y)$ nơi $y$ là các quan sát vector của $n$ quan sát được sao độc lập từ một phân phối với tham số $\theta$ thuộc về một submanifold $B_1$ của $\mathbb{R}^d$ với kích thước $\dim(B_1)=s$ . Hãy $B_0 \subset B_1$ là một submanifold với kích thước $\dim(B_0)=m$ . Hãy tưởng tượng bạn đang quan tâm đến việc kiểm tra .$H_0\colon\{\theta \in B_0\}$

Xác định độlệchd(y)=2log(lr(y)). Sau đó, định lý của Wilksnói rằng, theo các giả định thông thường,là không có triệu chứngphân phối với cácbậc tự dokhiđúng.

Nó được chứng minh trong bài báo gốc của Wilk được đề cập bởi @Nick. Tôi nghĩ rằng bài viết này không dễ đọc. Wilks đã xuất bản một cuốn sách sau đó, có lẽ với một bài trình bày dễ nhất về định lý của mình. Một bằng chứng heuristic ngắn được đưa ra trong cuốn sách tuyệt vời của Williams .

Tôi thứ hai bình luận gay gắt của Nick Sabbe, và câu trả lời ngắn gọn của tôi là, Không phải vậy . Ý tôi là, nó chỉ là trong mô hình tuyến tính bình thường. Đối với hoàn toàn bất kỳ loại trường hợp nào khác, phân phối chính xác không phải là . Trong nhiều tình huống, bạn có thể hy vọng rằng các điều kiện định lý của Wilks được thỏa mãn, và sau đó, một cách bất thường các thống kê kiểm tra tỷ lệ khả năng đăng nhập hội tụ trong phân phối đến χ 2 . Hạn chế và vi phạm các điều kiện của định lý Wilks là quá nhiều để coi thường.$\chi^2$$\chi^2$

1. Định lý giả định dữ liệu iid mong đợi các vấn đề với dữ liệu phụ thuộc, chẳng hạn như chuỗi thời gian hoặc mẫu khảo sát khả năng bất bình đẳng (mà các khả năng đang kém được xác định, dù sao, những "thường xuyên" χ 2 bài kiểm tra, chẳng hạn như kiểm tra độc lập trong các bảng ngẫu nhiên, bắt đầu hành xử như một khoản Σ k một k v k , v k ~ iid χ 2 1 ( Rao & Scott ). đối với dữ liệu iid, một k = 1 , và tổng trở thành χ 2 . Nhưng đối với dữ liệu không độc lập, đây không phải là trường hợp dài hơn.$\Rightarrow$$\chi^2$$\sum_k a_k v_k, v_k \sim \mbox{i.i.d.} \chi^2_1$$a_k=1$$\chi^2$
2. $\ge$$\chi^2$
3. $N(\mu_0,\sigma^2_0)$$f N(\mu_1,\sigma_1^2) + (1-f) N(\mu_2,\sigma_2^2)$$f$$f=0$$\mu_1,\sigma_1^2$$f=1$$\mu_2, \sigma_2^2$$\mu_1=\mu_2, \sigma_1=\sigma_2$$f$không được xác định). Ở đây, bạn thậm chí không thể nói thử nghiệm của mình nên có bao nhiêu bậc tự do, vì bạn có số lượng hạn chế khác nhau tùy thuộc vào cách bạn tham số hóa việc lồng nhau. Xem tác phẩm của Jiahua Chen về điều này, ví dụ: CJS 2001 .
4. $\chi^2$$\sum_k a_k v_k, v_k \sim \mbox{i.i.d.} \chi^2_1$$a_k$
5. ${\rm Prob}[d(y) \le x]=F(x;\chi^2_d)[1+O(n^{-1})]$$n$$F(x;\chi^2_d)$$\chi^2_d$$b$${\rm Prob}[d(y)/(1+b/n) \le x]=F(x;\chi^2_d)[1+O(n^{-2})]$$\chi^2$$b$

Để xem xét lại những vấn đề này và các vấn đề bí truyền tương tự về khả năng suy luận, xem Smith 1989 .