Kiểm tra thống kê phổ biến như mô hình tuyến tính

(CẬP NHẬT: Tôi đã tìm hiểu sâu hơn về điều này và đăng kết quả tại đây )

Danh sách các bài kiểm tra thống kê có tên là rất lớn. Nhiều thử nghiệm phổ biến dựa trên suy luận từ các mô hình tuyến tính đơn giản, ví dụ thử nghiệm t một mẫu chỉ là y = β + được thử nghiệm đối với mô hình null y = + ε tức là = μ trong đó μ là null giá trị - thường là μ = 0.

Tôi thấy điều này mang tính hướng dẫn nhiều hơn cho mục đích giảng dạy hơn là học vẹt có tên là mô hình, khi nào nên sử dụng chúng và các giả định của chúng như thể chúng không liên quan gì đến nhau. Cách tiếp cận đó thúc đẩy không thúc đẩy sự hiểu biết. Tuy nhiên, tôi không thể tìm thấy một nguồn tài nguyên tốt thu thập này. Tôi quan tâm nhiều hơn đến sự tương đương giữa các mô hình cơ bản hơn là phương pháp suy luận từ chúng. Mặc dù, theo như tôi có thể thấy, các thử nghiệm tỷ lệ khả năng trên tất cả các mô hình tuyến tính này mang lại kết quả tương tự như suy luận "cổ điển".

Dưới đây là những tương đồng tôi đã học được về cho đến nay, bỏ qua số hạng sai số $\varepsilon \sim \mathcal N(0, \sigma^2)$ và giả định rằng tất cả các giả thuyết không là vắng mặt của một hiệu ứng:

One-mẫu t-test: $y = \beta_0 \qquad \mathcal{H}_0: \beta_0 = 0$.

Cặp-mẫu t-test: $y_2-y_1 = \beta_0 \qquad \mathcal{H}_0: \beta_0 = 0$

Điều này giống hệt với thử nghiệm t một mẫu về sự khác biệt theo cặp.

Hai mẫu t-test: $y = \beta_1 * x_i + \beta_0 \qquad \mathcal{H}_0: \beta_1 = 0$

Trong đó x là một chỉ số (0 hoặc 1).

Pearson tương quan: $y = \beta_1 * x + \beta_0 \qquad \mathcal{H}_0: \beta_1 = 0$

Lưu ý sự tương tự với phép thử t hai mẫu chỉ là hồi quy trên trục x nhị phân.

Tương quan Spearman: $rank(y) = \beta_1 * rank(x) + \beta_0 \qquad \mathcal{H}_0: \beta_1 = 0$

Điều này giống hệt với mối tương quan Pearson trên x và y được chuyển đổi thứ hạng.

One-way ANOVA: $y = \beta_1*x_1 + \beta_2*x_2 + \beta_3*x_3 +... \qquad \mathcal{H}_0: \beta_1, \beta_2, \beta_3, ... = \beta$

nơi $x_i$ là chỉ số chọn phù hợp $\beta$ (một $x$ là 1; những người khác 0). Mô hình này có thể có thể được viết dưới dạng ma trận như như $Y = \beta * X$ .

Hai chiều ANOVA: $y = \beta_1 * X_1 + \beta_2 * X_2 + \beta_3 * X_1 * X_2 \qquad \mathcal{H}_0: \beta_3 = 0$

cho hai yếu tố hai cấp độ. Ở đây $\beta_i$ là các vectơ của betas trong đó một vectơ được chọn bởi vectơ $X_i$ . Các $\mathcal{H}_0$ đưa ra ở đây là hiệu ứng tương tác.

Chúng ta có thể thêm nhiều "thử nghiệm có tên" vào danh sách các mô hình tuyến tính này không? Ví dụ, hồi quy đa biến, các xét nghiệm "không tham số" khác, xét nghiệm nhị thức hoặc RM-ANOVAs?

CẬP NHẬT: các câu hỏi đã được hỏi và trả lời về ANOVA và các bài kiểm tra t dưới dạng mô hình tuyến tính ở đây trên SO. Xem câu hỏi này và được gắn thẻ các câu hỏi liên quan .

Không phải là một danh sách đầy đủ nhưng nếu bạn bao gồm các mô hình tuyến tính tổng quát , phạm vi của vấn đề này sẽ trở nên lớn hơn đáng kể.

Ví dụ:

$p \times k$

Ngoài ra, kiểm tra t cho các phương sai không bằng nhau được xấp xỉ bằng cách sử dụng ước tính lỗi mạnh mẽ của Huber White.