Tại sao phân phối T được sử dụng để kiểm tra giả thuyết hệ số hồi quy tuyến tính?

Trong thực tế, sử dụng phép thử T tiêu chuẩn để kiểm tra tầm quan trọng của hệ số hồi quy tuyến tính là cách làm phổ biến. Các cơ chế tính toán có ý nghĩa với tôi.

Tại sao phân phối T có thể được sử dụng để mô hình hóa thống kê kiểm tra tiêu chuẩn được sử dụng trong kiểm tra giả thuyết hồi quy tuyến tính? Thống kê kiểm tra tiêu chuẩn tôi đang đề cập ở đây:

$$T_{0} = \frac{\widehat{\beta} - \beta_{0}}{SE(\widehat{\beta})}$$

Để hiểu lý do tại sao chúng tôi sử dụng phân phối t, bạn cần biết phân phối cơ bản của và tổng bình phương ( ) còn lại là gì khi hai kết hợp này sẽ cung cấp cho bạn phân phối t. RS$\widehat{\beta}$$RSS$

Phần dễ hơn là phân phối là phân phối bình thường - để xem ghi chú này rằng = vì vậy nó là hàm tuyến tính của trong đó . Do đó, nó cũng được phân phối bình thường, - hãy cho tôi biết nếu bạn cần trợ giúp tạo ra sự phân phối của . β (XTX)-1XTYYY~N(Xβ,σ2Tôin) β ~N(β,σ2(XTX)-1)$\widehat{\beta}$$\widehat{\beta}$$(X^{T}X)^{-1}X^{T}Y$$Y$$Y\sim N(X\beta, \sigma^{2}I_{n})$$\widehat{\beta} \sim N(\beta, \sigma^{2}(X^{T}X)^{-1})$$\widehat{\beta}$

Ngoài ra, , trong đó là số lượng quan sát và là số lượng tham số được sử dụng trong hồi quy của bạn. Bằng chứng về điều này có liên quan nhiều hơn một chút, nhưng cũng đơn giản để rút ra (xem bằng chứng ở đây Tại sao RSS được phân phối vuông lần np? ). n $RSS \sim \sigma^{2}\chi^{2}_{n-p}$$n$$p$

Cho đến thời điểm này tôi đã xem xét mọi thứ trong ký hiệu ma trận / vectơ, nhưng hãy đơn giản sử dụng và sử dụng phân phối bình thường của nó sẽ cho chúng ta: β i-β$\widehat{\beta}_{i}$

$$\begin{equation} \frac{\widehat{\beta}_{i}-\beta_{i}}{\sigma\sqrt{(X^{T}X)^{-1}_{ii}}} \sim N(0,1) \end{equation}$$

Ngoài ra, từ phân phối chi bình phương của chúng ta có: ( n - p ) s $RSS$

$$\begin{equation} \frac{(n-p)s^{2}}{\sigma^{2}} \sim \chi^{2}_{n-p} \end{equation}$$

Đây chỉ đơn giản là sự sắp xếp lại biểu thức chi bình phương đầu tiên và không phụ thuộc vào . Ngoài ra, chúng tôi xác định , đây là một công cụ ước tính không thiên vị cho . Theo định nghĩa của định nghĩa rằng việc phân phối phân phối bình thường cho một bình phương chi độc lập (trên mức độ tự do của nó) mang lại cho bạn một phân phối t (để chứng minh xem: Một bình thường chia cho cung cấp cho bạn bản phân phối t - bằng chứng ) bạn nhận được rằng:s 2 = R S $N(0,1)$ σ2tn-p√$s^{2}=\frac{RSS}{n-p}$$\sigma^{2}$$t_{n-p}$$\sqrt{\chi^2(s)/s}$

$$\begin{equation} \frac{\widehat{\beta}_{i}-\beta_{i}}{s\sqrt{(X^{T}X)^{-1}_{ii}}} \sim t_{n-p} \end{equation}$$

Trong đó .$s\sqrt{(X^{T}X)^{-1}_{ii}}=SE(\widehat{\beta}_{i})$

Hãy cho tôi biết nếu nó có ý nghĩa.

Câu trả lời thực sự rất đơn giản: bạn sử dụng phân phối t vì nó được thiết kế khá nhiều dành riêng cho mục đích này.

Ok, sắc thái ở đây là nó không được thiết kế dành riêng cho hồi quy tuyến tính. Gosset đã đưa ra phân phối mẫu được rút ra từ dân số. Chẳng hạn, bạn vẽ một mẫu và tính giá trị trung bình của nó . Phân phối của một mẫu có nghĩa là gì?$x_1,x_2,\dots,x_n$$\bar x=\sum_{i=1}^n x_i/n$$\bar x$

Nếu bạn biết độ lệch chuẩn (dân số) thực sự , thì bạn sẽ nói rằng biến là từ phân phối chuẩn thông thường . Những rắc rối mà bạn thường không biết và chỉ có thể ước tính nó . Vì vậy, Gosset đã tìm ra bản phân phối khi bạn thay thế bằng trong mẫu số và phân phối hiện được gọi theo tên của từ "Sinh viên t".$\sigma$$\xi=(\bar x-\mu)\sqrt n/\sigma$$\mathcal N(0,1)$$\sigma$$\hat\sigma$$\sigma$$\hat\sigma$

Các kỹ thuật của hồi quy tuyến tính dẫn đến tình huống chúng ta có thể ước tính lỗi tiêu chuẩn của ước tính hệ số , nhưng chúng ta không biết đúng , do đó phân phối Student t cũng được áp dụng ở đây.$\hat\sigma_\beta$$\hat\beta$$\sigma$