Tiện ích của định lý Frisch-Waugh

Tôi có nhiệm vụ dạy định lý Frish Waugh về kinh tế lượng, điều mà tôi chưa nghiên cứu.

Tôi đã hiểu các phép toán đằng sau nó và tôi cũng hy vọng ý tưởng "hệ số bạn nhận được cho một hệ số cụ thể từ một mô hình tuyến tính đa bằng với hệ số của mô hình hồi quy đơn giản nếu bạn" loại bỏ "ảnh hưởng của các hồi quy khác". Vì vậy, ý tưởng lý thuyết là loại mát mẻ. (Nếu tôi hoàn toàn hiểu lầm, tôi hoan nghênh sự điều chỉnh)

Nhưng nó có một số cách sử dụng cổ điển / thực tế?

EDIT : Tôi đã chấp nhận một câu trả lời, nhưng tôi vẫn sẵn sàng có những câu trả lời mới mang lại các ví dụ / ứng dụng khác.

— Anthony Martin
nguồn

Một điều hiển nhiên sẽ được thêm vào các ô biến ?

— Cá bạc

Giới thiệu của Dougherty về Kinh tế lượng đề cập đến một ví dụ khác về việc sử dụng định lý Frisch-Waugh-Lovell. Trong những ngày đầu phân tích kinh tế lượng của chuỗi thời gian, nó khá phổ biến trong các mô hình trong đó các biến có xu hướng thời gian xác định để loại bỏ tất cả chúng trước khi hồi quy. Nhưng với FWL, bạn có được các hệ số tương tự chỉ đơn giản bằng cách bao gồm xu hướng thời gian là một biến hồi quy, và hơn nữa điều này mang lại các lỗi tiêu chuẩn "chính xác", vì nó thừa nhận rằng 1 df đã bị tiêu tốn.

— Cá bạc

Dougherty cảnh báo chống lại thủ tục, vì vậy về mặt đó, đây không phải là một ví dụ tuyệt vời, mặc dù đó là một hướng dẫn. Các biến kinh tế thường có vẻ khác biệt - ổn định hơn là ổn định theo xu hướng, do đó, loại hình cố gắng này không hoạt động và có thể dẫn đến hồi quy giả.

— Cá bạc

@Silverfish: FWL là một kỹ thuật đại số thuần túy, vì vậy vấn đề trích xuất một xu hướng xác định là "đúng" đối với DGP cơ bản không còn nghi ngờ gì nữa, nhưng imho không liên quan đến FWL, vì vậy theo nghĩa đó, ví dụ của bạn là hoàn toàn hợp lệ OPs hỏi về hai cách để có được ước tính điểm.

— Christoph Hanck

Tôi đã khai thác mối quan hệ này trong nhiều bài viết, chủ yếu cho mục đích khái niệm và để cung cấp các ví dụ thú vị về hiện tượng hồi quy. Xem, liên alia , stats.stackexchange.com/a/46508 , stats.stackexchange.com/a/113207 và stats.stackexchange.com/a/71257 .

— whuber

Câu trả lời:

Hãy xem xét mô hình dữ liệu bảng hiệu ứng cố định, còn được gọi là mô hình Least Squares Dummy Variabled (LSDV).

có thể được tính bằng cách trực tiếp áp dụng OLS với mô hình nơi là một ma trận của núm vú cao su và đại diện cho cá nhân cụ thể ảnh hưởng bất biến. $b_{LSDV}$

y = X β + D α + ϵ,

$y=X\beta+D\alpha+\epsilon,$

D

$D$

N T \times N

$NT\times N$

α

$\alpha$

Một cách khác để tính toán là áp dụng cái gọi là trong phạm vi chuyển đổi sang mô hình thông thường để có được một phiên bản hạ thấp của nó, tức là Ở đây, , ma trận sản xuất còn lại của một hồi quy trên $b_{LSDV}$

M_{[D]} y = M_{[D]} X β + M_{[D]} ϵ .

$M_{[D]}y=M_{[D]}X\beta+M_{[D]}\epsilon.$

M_{[D]} = I - D (D^{'} D)^{- 1} D^{'}

$M_{[D]}=I-D(D'D)^{-1}D'$

D

$D$

Bởi định lý Frisch-Waugh-Lovell, hai là tương đương, như FWL nói rằng bạn có thể tính toán một tập hợp con của các hệ số hồi quy của một hồi quy (ở ) bằng cách $\hat\beta$

hồi quy trên các biến hồi quy khác (ở đây, ), lưu phần dư (ở đây, hoặc , vì hồi quy trên hằng số chỉ làm mất các biến), sau đó $y$ $D$ $y$ $M_{[D]}y$
hồi quy trên và lưu phần dư và $X$ $D$ $M_{[D]}X$
suy thoái các dư vào nhau, trên . $M_{[D]}y$ $M_{[D]}X$

Phiên bản thứ hai được sử dụng rộng rãi hơn nhiều, bởi vì các bộ dữ liệu bảng thông thường có thể có hàng nghìn đơn vị bảng , do đó cách tiếp cận đầu tiên sẽ yêu cầu bạn chạy hồi quy với hàng ngàn biến hồi quy, đây không phải là ý tưởng hay về số lượng ngay cả hiện nay với tốc độ nhanh máy tính, máy tính nghịch đảo của sẽ rất tốn kém, trong khi thời gian hạ thấp phẩm giá và là chi phí ít. $N$ $(D :X)'(D: X)$ $y$ $X$

— Christoph Hanck
nguồn

Cảm ơn rất nhiều, đây là loại câu trả lời tôi đang tìm kiếm, mặc dù nó hơi tiên tiến để tôi thực sự sử dụng nó. Vì vậy, câu trả lời của bạn là tốt với tôi, nhưng tôi sẽ rất vui nếu tôi có những người khác, tôi có nên chấp nhận bạn không?

— Anthony Martin

Nếu nó giúp nó sẽ thích hợp để làm như vậy. Nhưng chấp nhận sẽ làm giảm cơ hội nhận được câu trả lời tốt hơn, vì vậy bạn có thể cân nhắc chờ đợi trước khi chấp nhận câu trả lời này. Tiền thưởng sẽ tăng thêm cơ hội nhận được nhiều câu trả lời hơn - do không có đủ người dùng trên CV, người thường xuyên trả lời các câu hỏi với số lượng câu hỏi, thậm chí một câu trả lời có thể khiến người dùng tích cực khác kết luận rằng các câu hỏi đã được xử lý. (Tôi đã đăng một câu trả lời đơn giản hơn bên dưới.)

— Christoph Hanck

Đây là một phiên bản đơn giản của câu trả lời đầu tiên của tôi, mà tôi tin là ít liên quan thực tế hơn, nhưng có thể dễ dàng hơn để "bán" cho việc sử dụng trong lớp học.

Các hồi quy và mang lại giống hệt nhau ,

y_{i} = β_{1} + \sum_{j = 2}^{K} β_{j} x_{i j} + ϵ_{i}

$y_i = \beta_1 + \sum_{j=2}^K\beta_jx_{ij} + \epsilon_i$

y_{i} - \bar{y} = \sum_{j = 2}^{K} β_{j} (x_{i j} - {\bar{x}}_{j}) + {\tilde{ϵ}}_{i}

$y_i-\bar{y} = \sum^K_{j=2}\beta_j(x_{ij} - \bar{x}_j) + \tilde{\epsilon}_i$

{\hat{β}}_{j}

$\widehat{\beta}_j$

. Điều này có thể được nhìn thấy như sau: mất

và do đó

j = 2, \dots, K

$j=2,\ldots,K$

x_{1} = 1 := (1, \dots, 1)^{'}

$\mathbf{x}_1=\mathbf{1}:=(1,\ldots,1)'$

sao cho

Do đó, phần dư của hồi quy các biến trên một hằng số,

, chỉ là các biến bị giảm (tất nhiên logic tương tự áp dụng cho

M_{1} = I - 1 (1^{'} 1)^{- 1} 1^{'} = I - \frac{1 1^{'}}{n},

$M_\mathbf{1}=I-\mathbf{1}(\mathbf{1}'\mathbf{1})^{-1}\mathbf{1}'=I-\frac{\mathbf{1}\mathbf{1}'}{n},$

M_{1} x_{j} = x_{j} - 1 n^{- 1} 1^{'} x_{j} = x_{j} - 1 {\bar{x}}_{j} =: x_{j} - {\bar{x}}_{j} .

$M_{\mathbf{1}}\mathbf{x}_j=\mathbf{x}_j-\mathbf{1} n^{-1}\mathbf{1}'\mathbf{x}_j=\mathbf{x}_j-\mathbf{1}\bar{x}_j=:\mathbf{x}_j-\bar{\mathbf{x}}_j.$

M_{1} x_{j}

$M_{\mathbf{1}}\mathbf{x}_j$

y_{i}

$y_i$

— Christoph Hanck
nguồn

Đây là một cách khác, gián tiếp hơn, nhưng tôi tin rằng một điều thú vị, cụ thể là sự kết nối giữa các cách tiếp cận khác nhau để tính toán hệ số tự tương quan một phần của chuỗi thời gian đứng yên.

Định nghĩa 1

{\hat{Y}}_{t} - μ = = α_{1}^{(m)} (Y_{t - 1} - μ) + α_{2}^{(m)} (Y_{t - 2} - μ) + Giáo dục + α_{m}^{(m)} (Y_{t - m} - μ)

$\begin{equation} \hat{Y}_{t}-\mu=\alpha^{(m)}_1(Y_{t-1}-\mu)+\alpha^{(m)}_2(Y_{t-2}-\mu)+\ldots+\alpha^{(m)}_m(Y_{t-m}-\mu) \end{equation}$

m

$m$

α_{m}^{(m)}

$\alpha^{(m)}_m$

$m$ $Y_t$ $Y_{t-1},\ldots,Y_{t-m+1}$ $\rho_m$ $Y_t$ $Y_{t-m}$

$\alpha^{(m)}_j$ $Z_t$ $X_t$

E [X_{t} (Z_{t} - X_{t}^{⊤} α^{(m)})] = = 0

$\begin{equation} E[X_t(Z_t-X_t^\top\mathbf{\alpha}^{(m)})]=0 \end{equation}$

α^{(m)}

$\mathbf{\alpha}^{(m)}$

α^{(m)} = = [E (X_{t} X_{t}^{⊤})]^{- 1} E [X_{t} Z_{t}]

$\begin{equation} \mathbf{\alpha}^{(m)}=[E(X_tX_t^\top)]^{-1}E[X_tZ_t] \end{equation}$

Z_{t} = Y_{t} - μ

$Z_t=Y_t-\mu$

X_{t} = = [(Y_{t - 1} - μ), (Y_{t - 2} - μ), Giáo dục, (Y_{t - m} - μ)]^{⊤}

$X_t=[(Y_{t-1}-\mu),(Y_{t-2}-\mu),\ldots,(Y_{t-m}-\mu)]^\top$

E (X_{t} X_{t}^{⊤}) = (\begin{array}{cccc} γ_{0} & γ_{1} & \dots & γ_{m - 1} \\ γ_{1} & γ_{0} & \dots & γ_{m - 2} \\ ⋮ & ⋮ & ⋱ & ⋮ \\ γ_{m - 1} & γ_{m - 2} & \dots & γ_{0} \end{array})

$E(X_tX_t^\top)=\left(\begin{array}{cccc} \gamma_{0} & \gamma_{1}&\cdots& \gamma_{m-1}\\ \gamma_{1}& \gamma_{0} & \cdots &\gamma_{m-2}\\ \vdots & \vdots & \ddots &\vdots\\ \gamma_{m-1}&\gamma_{m-2} & \cdots & \gamma_{0}\\ \end{array} \right)$

E (X_{t} Z_{t}) = (\begin{matrix} γ_{1} \\ ⋮ \\ γ_{m} \end{matrix})

$E(X_tZ_t)=\left( \begin{array}{c} \gamma_1 \\ \vdots \\ \gamma_m \\ \end{array} \right)$

α^{(m)} = {(\begin{array}{cccc} γ_{0} & γ_{1} & \dots & γ_{m - 1} \\ γ_{1} & γ_{0} & \dots & γ_{m - 2} \\ ⋮ & ⋮ & ⋱ & ⋮ \\ γ_{m - 1} & γ_{m - 2} & \dots & γ_{0} \end{array})}^{- 1} (\begin{matrix} γ_{1} \\ ⋮ \\ γ_{m} \end{matrix})

$\begin{equation} \mathbf{\alpha}^{(m)}=\left(\begin{array}{cccc} \gamma_{0} & \gamma_{1}&\cdots& \gamma_{m-1}\\ \gamma_{1}& \gamma_{0} & \cdots &\gamma_{m-2}\\ \vdots & \vdots & \ddots &\vdots\\ \gamma_{m-1}&\gamma_{m-2} & \cdots & \gamma_{0}\\ \end{array} \right)^{-1}\left( \begin{array}{c} \gamma_1 \\ \vdots \\ \gamma_m \\ \end{array} \right)\end{equation}$

m

$m$

α^{(m)}

$\mathbf{\alpha}^{(m)}$

Vì vậy, chúng tôi sắp xếp một hồi quy bội và tìm một hệ số quan tâm trong khi kiểm soát các hệ số khác.

Định nghĩa 2

$m$ $Y_{t+m}$ $Y_{t-1},\ldots,Y_{t-m+1}$ $Y_{t}$ $Y_{t-1},\ldots,Y_{t-m+1}$

Vì vậy, chúng tôi sắp xếp kiểm soát đầu tiên cho độ trễ trung gian và sau đó tính toán mối tương quan của phần dư.

— Christoph Hanck
nguồn