Công thức y ~ x + 0 trong R thực sự tính toán như thế nào?

Sự khác biệt thống kê giữa thực hiện hồi quy tuyến tính trong R với formulatập hợp y ~ x + 0thay vì là y ~ xgì? Làm thế nào để tôi giải thích hai kết quả khác nhau?

multiple-regression generalized-linear-model intercept

— JimBoy
nguồn

Câu trả lời:

Thêm +0(hoặc -1) vào một công thức mô hình (ví dụ: in lm()) trong R sẽ chặn việc chặn. Điều này thường được coi là một điều xấu để làm; xem:

Độ dốc ước tính được tính khác nhau tùy thuộc vào việc đánh chặn cũng được ước tính, cụ thể là:

\begin{aligned} (with intercept) & {\hat{β}}_{1} & = \frac{\sum x_{i} y_{i} - \frac{(\sum x_{i}) (\sum y_{i})}{N}}{\sum x_{i}^{2} - \frac{(\sum x_{i})^{2}}{N}} \\ (without intercept) & {\hat{β}}_{1} & = \frac{\sum x_{i} y_{i}}{\sum x_{i}^{2}} \end{aligned}

$\begin{align} \hat\beta_1 &= \frac{\sum x_iy_i - \frac{\big(\sum x_i\big)\big(\sum y_i\big)}{N}}{\sum x_i^2 - \frac{\big(\sum x_i\big)^2}{N}} \tag{with intercept} \\[15pt] \hat\beta_1 &= \frac{\sum x_iy_i}{\sum x_i^2} \tag{without intercept} \end{align}$

Do đại lượng được trừ ("phần phụ") trong cả tử số và mẫu số không nhất thiết là , nên ước tính độ dốc bị sai lệch khi chặn bị chặn. $0$

Giá trị cho cũng được tính khác nhau; xem: $R^2$

Dưới đây là các công thức cơ bản:

\begin{aligned} (with intercept) & R^{2} & = 1 - \frac{\sum (y_{i} - {\hat{y}}_{i})^{2}}{\sum (y_{i} - \bar{y})^{2}} \\ (without intercept) & R^{2} & = 1 - \frac{\sum (y_{i} - {\hat{y}}_{i})^{2}}{\sum y_{i}^{2}} \end{aligned}

$\begin{align} R^2 &= 1 - \frac{\sum (y_i - \hat y_i)^2}{\sum (y_i - \bar y)^2} \tag{with intercept} \\[15pt] R^2 &= 1 - \frac{\sum (y_i - \hat y_i)^2}{\sum y_i^2} \tag{without intercept} \end{align}$

— gung - Phục hồi Monica
nguồn

Cảm ơn bạn, gung! Nếu tôi triệt tiêu Chặn, đột nhiên nhiều bình phương R của tôi sẽ cải thiện. Bạn có thể giúp tôi ra ở đây?

— JimBoy

Tồn tại không có cách nào được thống nhất để tính r bình phương mà không bị chặn. Bình phương r không có cách giải thích thông thường của nó. Thực hiện hồi quy mà không có đánh chặn hầu như luôn luôn là một ý tưởng RẤT RẤT

— LỚN

@Repmat: xem thêm số liệu thống kê.stackexchange.com/questions / 171240 / Giả

@JimBoy: xem thống kê.stackexchange.com/questions/171240/ trên

Nó phụ thuộc vào ngữ cảnh (tất nhiên), trong lm(...)lệnh trong R, nó sẽ triệt tiêu việc chặn. Đó là, bạn làm hồi quy mặc dù nguồn gốc.

Lưu ý rằng hầu hết sách giáo khoa về chủ đề hồi quy, sẽ cho bạn biết rằng việc buộc chặn (với bất kỳ giá trị nào) là một ý tưởng tồi.

Việc giải thích x không thay đổi, nhưng giá trị (so sánh với và không có đánh chặn) sẽ thay đổi, đôi khi rất đáng kể.

— Từ ngữ
nguồn

Cảm ơn bạn, Repmat! Tôi nhận được các ước tính rất khác nhau nếu tôi ngăn chặn việc đánh chặn so với khi tôi không. Ngoài ra, tất cả các bài kiểm tra t trở nên rất có ý nghĩa. Bạn có biết tại sao không?

— JimBoy

Việc chặn sẽ hấp thụ bất kỳ số 0 nào có nghĩa là các biến không có trong mô hình. Khi đánh chặn đi, phương sai phải đi đâu đó. Đây là lý do tại sao hầu hết các cuốn sách, như một quy tắc chung, nói rằng hồi quy mà không có sự can thiệp luôn luôn sai. Đó là, OLS luôn thiên vị và nhất quán trong trường hợp này (với một vài ngoại lệ).

— Repmat