Có điều chỉnh cho các ước tính sai lệch OLS không cần thiết?

Cách xử lý sách giáo khoa thông thường về việc điều chỉnh các biến không cần thiết trong OLS nói rằng công cụ ước tính vẫn không thiên vị, nhưng có thể có phương sai lớn hơn (xem, ví dụ, Greene, Phân tích kinh tế lượng, lần thứ 7, trang 58).

Một ngày khác, tôi tình cờ thấy cách xử lý Nghịch lý của Simpson của Judea Pearl và một trang web đẹp mô phỏng cách "từng bước đưa các biến kiểm soát vào mô hình hồi quy chuyển đổi dấu hiệu của mối liên hệ nhân quả ước tính trong mỗi bước". Đối với tôi, điều này bằng cách nào đó mâu thuẫn với tuyên bố trên. Tôi cảm thấy đây có thể là một vấn đề rất tinh tế (mặc dù cực kỳ quan trọng), vì vậy bất kỳ con trỏ nào đến văn học xa hơn sẽ rất hữu ích. Điều đặc biệt gây ấn tượng với tôi là Greene tuyên bố anh ta có bằng chứng cho đánh giá của mình.

— Julian Schuessler
nguồn

Câu trả lời:

Không có mâu thuẫn.

Đoạn đầu tiên nói về các biến không cần thiết.

Nếu nghịch lý của Simpson áp dụng, các biến không phải là thừa.

— Glen_b -Reinstate Monica
nguồn

Trong vấn đề như được đặt ra trên trang web, nếu một người điều chỉnh cho Z1 và Z2, ước tính bị sai lệch. Z1 dường như không thực sự thừa, nhưng Z2 thì sao? Bằng cách xây dựng, nó không ảnh hưởng đến X hoặc Y, nhưng sự bao gồm của nó làm sai lệch ước tính.

— Julian Schuessler

Tùy thuộc vào mối quan hệ chính xác giữa các biến này, một biến không cần thiết có tương quan cực kỳ cao với một trong các biến độc lập khác có thể dẫn đến đảo ngược dấu hiệu. Điều này cũng được đề cập trong cuốn sách Greene trong phần về đa cộng đồng. Ông nói rằng mức độ đa hình cao có thể dẫn đến các hệ số không ổn định và không đáng tin cậy vì sự kỳ dị gần.

— Andy

Tôi nên đề cập rằng bình luận trước đó là nhiều hơn cho @JulianSchuessler. Đối với câu trả lời của Glen_b +1

— Andy

Z2 không gây X hoặc Y, nhưng nó là

-connected X thông qua biến U không quan sát được, và Y qua Z3. Vì vậy, nó tương quan với cả X và Y. Nếu bạn định nghĩa "không cần thiết" là "độc lập" thì Greene là chính xác - điều chỉnh trên một biến Z độc lập với X và Y sẽ không làm sai lệch ước tính của bạn (trừ trường hợp độc lập là "không chung thủy" đến các mối quan hệ nhân quả). Tôi nghĩ rằng đa cộng đồng là một vấn đề riêng biệt. Xu hướng từ điều hòa trên các biến "collider" không đòi hỏi sự phụ thuộc rất cao giữa các biến và không làm nổ tung phương sai của ước tính của bạn.

d

$d$

— Lizzie Silver

@LizzieSilver: Cảm ơn, đây cũng là sự hiểu biết hiện tại của tôi, khi nhìn sâu hơn vào công việc của Pearl: Nếu một người chặn tất cả các đường dẫn ngược bằng cách bao gồm các biến hồi quy thích hợp, người ta sẽ có được ước tính không thiên vị. Tuy nhiên, điều hoàn toàn rõ ràng từ công việc của Pearl là việc điều chỉnh các biến sai, có thể tương quan với cả X và Y, làm sai lệch ước tính hiệu ứng nhân quả của biến quan tâm. Vì vậy, tôi tự hỏi những gì để làm bằng chứng thông thường của không thiên vị. Có thể hồi quy sai là không thiên vị, nhưng hệ số trong nó không bằng hiệu ứng nhân quả mà là cái gì khác?

— Julian Schuessler

Xem xét một mô hình hồi quy tuyến tính định đề

y_{Tôi} = = b_{0} + b_{1} X_{1 Tôi} + b_{2} X_{2 Tôi} + {bạn}_{Tôi}, Tôi = = 1, . . ., n

$y_i = b_0 + b_1X_{1i} + b_2X_{2i} + u_i,\;\; i=1,...,n$

Là một vấn đề của đại số (và không phải bất kỳ giả định ngẫu nhiên nào), công cụ ước tính OLS trong ký hiệu ma trận là

\hat{b} = = b + {(X^{'} X)}^{- 1} X^{'} bạn

$\hat b = b + \left(\mathbf X'\mathbf X\right)^{-1}\mathbf X'\mathbf u$

Do đó, giá trị dự kiến của nó có điều kiện trên ma trận hồi quy là

E (\hat{b} | X) = = b + {(X^{'} X)}^{- 1} X^{'} E (bạn | X)

$E\left(\hat b\mid \mathbf X\right) = b + \left(\mathbf X'\mathbf X\right)^{-1}\mathbf X'E\left(\mathbf u\mid\mathbf X \right)$

$E\left(\mathbf u\mid\mathbf X \right)=\mathbf 0$

E (\hat{b} | X) = = b + 0 \Rightarrow E (\hat{b}) = = b

$E\left(\hat b\mid \mathbf X\right) = b + \mathbf 0 \Rightarrow E(\hat b) = b$

sử dụng cũng là luật của kỳ vọng lặp đi lặp lại.

$X_2$

Đây là cách các nhà kinh tế lượng hiểu vấn đề. Bây giờ, trong một thiết lập tổng quát hơn, "không cần thiết" có thể có nghĩa là, $X_2$ $y$ $X_1$ $X_2$

— Alecos Papadopoulos
nguồn