Cách khác để lấy hệ số OLS

Trong một câu hỏi khác của tôi , một người trả lời đã sử dụng hệ số OLS sau đây:

Chúng tôi có một mô hình: nơi là không quan sát được. Sau đó, chúng tôi có:
$Y = X_{1} β + X_{2} β_{2} + Z γ + ε,$ $Y = X_1 \beta + X_2 \beta_2 + Z \gamma + \varepsilon,$ $Z$ nơivà. $plim {\hat{β}}_{1} = β_{1} + γ \frac{C o v (X_{1}^{*}, Z)}{V a r (X_{1}^{*})} = β_{1},$ $\text{plim}\, \hat \beta_{1} = \beta_1 + \gamma \frac{Cov(X_1^*, Z)}{Var(X_1^*)} = \beta_1,$ $X_1^* = M_2 X_1$ $M_2 = [I - X_2(X_2'X_2)^{-1}X_2']$

Này khác với thông thường ngoại hình mà tôi đã nhìn thấy trong Kinh tế lượng. Có một giải thích rõ ràng hơn về sự phát sinh này? Có tên cho ma trận không? $\beta = (X'X)^{-1}X'Y$ $M_2$

econometrics regression

— Heisenberg
nguồn

Tôi khá chắc chắn rằng nó được mô tả trong các bài giảng của Hansen, nhưng tôi không có chúng trong tay ngay bây giờ.

— FooBar

Các ma trận là "Annihilator" hoặc "nhà sản xuất còn" ma trận kết hợp với ma trận . Nó được gọi là "annihilator" vì ( dĩ nhiên đối với ma trận của chính nó ). Được gọi là "nhà sản xuất còn lại" vì , trong hồi quy . $\mathbf M = \mathbf I-\mathbf X(\mathbf X'\mathbf X)^{-1}\mathbf X'$ $\mathbf X$ $\mathbf M\mathbf X =0$ $X$ $\mathbf M \mathbf y =\mathbf {\hat e}$ $\mathbf y = \mathbf X \beta + \mathbf e$

Nó là một ma trận đối xứng và idempotent. Nó được sử dụng trong chứng minh định lý Gauss-Markov.

Ngoài ra, nó được sử dụng trong định lý FrischTHER WaughTHER Lovell , từ đó người ta có thể thu được kết quả cho "hồi quy phân vùng", nói rằng trong mô hình (ở dạng ma trận)

y = X_{1} β_{1} + X_{2} β_{2} + u

$\mathbf y = \mathbf X_1\beta_1 + \mathbf X_2\beta_2 + \mathbf u$

chúng ta có điều đó

{\hat{β}}_{1} = (X_{1}^{'} M_{2} X_{1})^{- 1} (X_{1}^{'} M_{2}) y

$\hat \beta_1 = (\mathbf X_1'\mathbf M_2\mathbf X_1)^{-1}(\mathbf X_1'\mathbf M_2)\mathbf y$

Vì là idempotent, chúng ta có thể viết lại ở trên bằng cách $\mathbf M_2$

{\hat{β}}_{1} = (X_{1}^{'} M_{2} M_{2} X_{1})^{- 1} (X_{1}^{'} M_{2} M_{2}) y

$\hat \beta_1 = (\mathbf X_1'\mathbf M_2\mathbf M_2\mathbf X_1)^{-1}(\mathbf X_1'\mathbf M_2\mathbf M_2)\mathbf y$

$M_2$

{\hat{β}}_{1} = ([M_{2} X_{1}]^{'} [M_{2} X_{1}])^{- 1} ([M_{2} X_{1}]^{'} [M_{2} y]

$\hat \beta_1 = ([\mathbf M_2\mathbf X_1]'[\mathbf M_2\mathbf X_1])^{-1}([\mathbf M_2\mathbf X_1]'[\mathbf M_2\mathbf y]$

Nhưng đây là công cụ ước lượng bình phương nhỏ nhất từ mô hình

[M_{2} y] = [M_{2} X_{1}] β_{1} + M_{2} u

$[\mathbf M_2\mathbf y] = [\mathbf M_2\mathbf X_1]\beta_1 + \mathbf M_2\mathbf u$

$\mathbf M_2\mathbf y$ $\mathbf y$ $\mathbf X_2$

$\mathbf y$ $\mathbf X_2$ $\mathbf M_2\mathbf X_1$ $\hat \beta_1$ $\mathbf y$ $\mathbf X_1$ $\mathbf X_2$

$\mathbf X_1$ $\mathbf x_1$ $\mathbf M_2 \mathbf x_1$ $X_1$ $\mathbf X_2$ $\hat \beta_1$ $X_1$ $\mathbf X_2$ $Y$ $\mathbf X_2$

Đây là một phần biểu tượng của Đại số Least-Squares cổ điển.

— Alecos Papadopoulos
nguồn

Bắt đầu trả lời, nhưng tôi có rất nhiều sự trùng lặp với câu trả lời này. Bạn có thể tìm thấy rất nhiều thông tin này trong Chương 3.2.4 của phiên bản thứ 7 của "Phân tích kinh tế lượng" của Bill Greene.

— cc7768

@ cc7768 Vâng, đó là một nguồn tốt cho đại số bình phương nhỏ nhất. Nhưng đừng ngần ngại đăng tài liệu bổ sung. Ví dụ, về cơ bản câu trả lời của tôi chỉ bao gồm câu hỏi thứ hai của OP.

— Alecos Papadopoulos

M_{2} y

$\mathbf M_2y$

X_{1}

$\mathbf X_1$

{\hat{β}}_{1}

$\hat \beta_1$

M_{2} y

$\mathbf M_2y$

M_{2} X_{1}

$\mathbf M_2\mathbf X_1$

@Heisenberg Đúng. Typo. Đã sửa nó, và thêm một chút nữa.

— Alecos Papadopoulos