OLS: trong phương trình 1 có sai lệch chuẩn trong phương trình 2 không?

Giả sử là chuỗi thời gian với , ( và tương tự như đối với , nhưng thay đổi khi hình nộm = 1). và , . Trong một thế giới thực, đây sẽ là lợi nhuận thị trường chứng khoán định kỳ so với hãng (nhưng bạn có thể bỏ qua điều này). Có một hình nộm, tương đương với sự thống nhất so với và bằng không nếu không. Mô hình chuỗi thời gian được ước tính với OLS là: ${X_{it}},{Y_{it}}$ $X_{it}\sim N(0.1,1)$ $\sigma^2(Y_{it}) = 1$ $mean(Y_{it})$ $X_{it}$ $t \in \{1,2,...,200\}$ $i \in \{1,2,...,N\}$ $N$ $D_t$ $t \in \{150,151,...,200\}$ $\forall i$

$(1) Y_{it} = \alpha_i + \beta_i X_{it} + \gamma_i D_{t} + \epsilon_{it}$

Mô hình này thường tuân thủ các giả định Gauss-Markov cho mỗi . Tuy nhiên, chúng tôi có cho tất cả và . $i$ $E[\epsilon_{it}^T \epsilon_{jt}] \not= 0$ $i$ $j$

Bước tiếp theo là xây dựng một vectơ gamma bằng cách sử dụng ước tính $N$ của mô hình $(1)$ . Gọi vectơ này $\bf{\hat{\gamma}}$ . Sau đó chúng tôi sử dụng điều này trong mô hình cắt ngang:

$(2) \hat{\gamma}_i = a + b Z_i + u_i$

trong đó $Z_i$ là một số biến cắt ngang không gây ra bất kỳ vi phạm nào trong các giả định OLS và có liên quan để giải thích $\hat{\gamma}_i$ .

Khiếu nại trong tài liệu kinh tế lượng được áp dụng là $E[\epsilon_{it}^T \epsilon_{jt}] \not= 0$ trong mô hình $(1)$ dẫn đến (i) Không có vấn đề gì đối với ước tính hệ số OLS trong $(2)$ , nhưng (ii) Lỗi tiêu chuẩn thiên vị trong $(2)$ .

Ai đó có thể xin vui lòng gửi ý tưởng về lý do tại sao đây là trường hợp?
Tôi không hiểu $\epsilon_{it}^T$ là gì trong biểu thức $E[\epsilon_{it}^T \epsilon_{jt}] \not= 0$ . Tất nhiên $\epsilon_{it}$ là một vô hướng và bạn không thể hoán đổi một vô hướng. Điều này được thấy TẠI ĐÂY , nơi họ áp dụng phương pháp này.

Bạn nói rằng bạn không hiểu tại sao ước tính phương sai bị sai lệch trong eq 2 và sau đó bạn nói rằng chúng ta có thể bỏ qua ước tính của bạn xảy ra là phương trình 2? Tôi nghĩ tôi hiểu ý của bạn là gì và có thể đưa ra câu trả lời đầu cơ cho điều đó nhưng sẽ tốt hơn nếu bạn chính xác câu hỏi của mình.

γ

$\gamma$

— JDav

Trong thiết lập của bạn, không thể đứng yên, vì giá trị trung bình của nó phụ thuộc vào .

Y_{i t}

$Y_{it}$

t

$t$

— mpiktas

Có ba phiên bản của sự mong đợi (một trong tiêu đề, một trong cơ thể và một phiên bản thứ ba trong các ý kiến). Tất cả chúng kết hợp một chuyển vị bí ẩn mặc dù trong tất cả các trường hợp chỉ có vô hướng. Bạn có phiền chỉnh sửa bài viết của bạn để làm rõ?

— Đức hồng y

@mpiktas Quan sát đúng, có ý nghĩa khác sau (đã cho ). Cảm ơn.

Y_{i t}

$Y_{it}$

t = 150

$t=150$

γ_{i} \neq 0

$\gamma_i \not= 0$

Một số câu trả lời tốt đã được đưa ra - tôi chỉ nói thêm rằng điều này cần được ước tính như một mô hình hệ số ngẫu nhiên (hay còn gọi là mô hình đa cấp cho các nhà xã hội học và tâm lý học, hay còn gọi là mô hình hỗn hợp cho các nhà sinh học). Nếu các nhà kinh tế không biết điều này và ước tính nó bằng thủ tục hai bước, điều đó thật tệ cho họ (và tôi vẫn đang chờ lỗi tiêu chuẩn của Fama-Macbeth chết, điều mà rõ ràng là họ không muốn làm).

— StasK

Câu trả lời:

Để chắc chắn rằng bạn cần đi sâu vào chi tiết, điều này ngụ ý so sánh ma trận hiệp phương sai thực sự với ma trận bạn có được trong giai đoạn ols thứ hai.

Người thật :

Điều này có thể thu được bằng cách thay thế eq.2 thành eq.1, gộp OLS theo sau và từ đó, ma trận hiệp phương sai : $\hat a , \hat b$

$Y_{it} = \alpha_i + \beta_i X_{it} + aD_t + bD_tZ_{i} +D_t u_{i} + \epsilon_{it}$

Sử dụng ký hiệu ma trận để phân chia phương trình trong tham số và các tham số khác dẫn đến: $\gamma$

$Y = X\theta + Z\gamma + \varepsilon$

nơi chúng tôi quan tâm đến , , Z là một vectơ hai cột (một cấu trúc tương tự định nghĩa X nhưng điều này không đáng quan tâm) và trong đó có một cấu trúc đầy đủ giữa các hiệp phương sai đó là lý do tại sao nó không phải là đường chéo ( ) như trong các giả định GAUSS-MARKOV. Bởi Frish-Waugh, chúng ta có thể diễn tả ols như: $V(\hat \gamma)$ $\gamma=[a \; b]$ $Z=[D_t \; D_tZ_i]_{[i=1,..,N;t=1,...,T]}$ $V(\varepsilon) =\Sigma$ $\sigma^2I_{NT}$ $\gamma$

$\hat \gamma = (Z'M_{X}Z)^{-1}Z'M_{X}Y$ trong đó $M_X= I-X(X'X)^{-1}X'$

trong đó ngụ ý phương sai thực sự sau đây:

$V(\hat \gamma) = H\Sigma H'$ trong đó $H = (Z'M_{X}Z)^{-1}Z'M_{X}$

Người khác

Theo giả định của các công ty không tương quan (và khoảng thời gian nhưng đây không phải là vấn đề), có cấu trúc đường chéo đơn giản hơn . Điều này có nghĩa rằng về tam giác là 0. Theo một đặc điểm kỹ thuật thậm chí đơn giản hơn, (một trong đó là ước tính theo mặc định bởi phần mềm kinh tế lượng và thống kê cho OLS) sau giả định GAUSS-Markov nghĩa là ngay cả các điều khoản chéo đều bình đẳng như vậy bị hạ cấp xuống $\Sigma$ $\Delta$ $\Delta$ $\Sigma$ $\Sigma$ $\sigma^2I$

Điều này ngụ ý rằng việc không xem xét mối tương quan giữa các công ty sẽ dẫn đến là: $V(\hat\gamma)$

$V(\hat \gamma) = H\Delta H'$ hoặc $V(\hat \gamma) = H\sigma^2I H' \equiv \sigma^2(Z'M_xZ)^{-1}$

mà, như nó có thể được nhìn thấy, không bằng với sự thật.

— JDav
nguồn

Với các từ khác nhau .. Tôi cơ bản đưa ra cùng một câu trả lời @mpiktas đã đưa ra

— JDav

(1) Thực sự tuyệt vời. (2) Có vẻ như bạn đã bỏ qua khi bạn thể hiện mô hình ở dạng ma trận? Điều này không nên thay đổi bất cứ điều gì bạn đã làm mặc dù. (3) Bạn có biết tại sao OLS danh mục đầu tư cung cấp SE chính xác không? (Xem bài viết năm 1986 tôi liên kết). Đừng bận tâm với câu trả lời (3) nếu bạn không thích tìm ra vấn đề đó.

D_{i} u_{i}

$D_i u_i$

(2) Tôi đã không đặt tất cả các định nghĩa để cho phép một số cho trực giác và để tránh các sản phẩm kronecker ... theo cách này bản demo sẽ "nhanh hơn". Nhưng bạn có thể suy luận rằng thuật ngữ ngẫu nhiên mới là , điều này có nghĩa là nếu các công ty được tương quan bởi thì điều này làm cho thuật ngữ ngẫu nhiên mới tương quan với nó kích thước công ty là tốt. (3) đã không nghe về một OLS danh mục đầu tư, nhưng tôi đoán đó chỉ là một tên gọi khác của một cái gì đó đã tồn tại trong kinh tế lượng chuẩn để del với ma trận Var đầy đủ, như WLS, hoặc Robust OLS, v.v.

ε_{i t} = D_{t} u_{i} + ϵ_{i t}

$\varepsilon_{it} = D_tu_i + \epsilon_{it}$

u_{i}

$u_i$

ε_{i t}

$\varepsilon_{it}$

— JDav

(3) một ước tính tốt ngụ ý một ước tính tốt , OLS danh mục đầu tư bằng cách nào đó đang ước tính toàn bộ cấu trúc và không chỉ phương sai mà không có hiệp phương sai: hoặc một phương sai duy nhất:

Σ

$\Sigma$

Σ

$\Sigma$

Δ

$\Delta$

σ^{2}

$\sigma^2$

— JDav

Tôi nghĩ ký hiệu này là không chính xác, anh ta sử dụng vô hướng trong đó các vectơ là cần thiết để đề cập đến thực tế là giữa các hiệp phương sai không bằng 0 nên ký hiệu của anh ta ngụ ý là một vectơ N hàng. Một cách giải thích khác là anh ta đang đề cập đến yếu tố của . Trong cả hai trường hợp, anh ta đều có nghĩa giống nhau, nhưng vì đó không phải là sự mơ hồ của tạp chí định lượng trong ký hiệu toán học xảy ra ...

ϵ_{i t} = [ϵ_{i t}]_{i = 1, . . ., N}

$\epsilon_{it} = [\epsilon_{it}]_{i=1,...,N}$

i j

$ij$

ϵ_{. t}^{T} ϵ_{. t}

$\epsilon_{.t}^T\epsilon_{.t}$

— JDav

Tôi đang đưa ra một câu trả lời với nhiều chi tiết hơn.

Trong mô hình hồi quy tuyến tính tiêu chuẩn (ở dạng ma trận):

Y = X β + ε

$Y=X\beta+\varepsilon$

ước tính OLS là như sau

\hat{β} = (X^{T} X)^{- 1} X^{T} Y .

$\hat\beta=(X^TX)^{-1}X^TY.$

Phương sai của nó là

V a r (\hat{β}) = (X^{T} X)^{- 1} X^{T} V a r (Y) X (X^{T} X)^{- 1} .

$Var(\hat\beta)=(X^TX)^{-1}X^TVar(Y)X(X^TX)^{-1}.$

Giả định thông thường cho hồi quy là

V a r (Y) = σ^{2} I,

$Var(Y)=\sigma^2I,$

trong đó là ma trận danh tính. Sau đó $I$

V a r (\hat{β}) = σ^{2} (X^{T} X)^{- 1} .

$Var(\hat\beta)=\sigma^2(X^TX)^{-1}.$

Bây giờ trong trường hợp của bạn, bạn có hai mô hình:

Y_{i} = M_{i} δ_{i} + ϵ_{i}

$Y_{i}=M_i\delta_i+\epsilon_i$

và

Γ = L c + u,

$\Gamma=Lc+u,$

Ở đâu

, $Y_i^T=(Y_{i1},...,Y_{iT})$
, với , $M_i=[1,X_i,D]$ $X_i^T=(X_{i1},...,X_{iT})$ $D^T=(D_1,...,D_T)$
$\delta_i^T=(\alpha_i,\beta_i,\gamma_i)$
$\epsilon_i^T=(\epsilon_{i1},...,\epsilon_{iT})$
$\Gamma^T=(\gamma_1,...,\gamma_n)$
, với $L=[1,Z]$ $Z^T=(Z_1,...,Z_n)$
$c^T=(a,b)$
. $u^T=(u_1,...,u_N)$

Lưu ý rằng bạn nêu mô hình thứ hai cho các ước tính của , mà không phải là bình thường, vì thế tôi xác định lại nó trong hình thức thông thường, đối với các "true" . $\gamma$ $\gamma$

Hãy để chúng tôi viết ra ma trận hiệp phương sai cho các ước tính OLS của các hệ số : $c$

V a r (\hat{c}) = (L^{T} L)^{- 1} L^{T} V a r (Γ) L (L^{T} L)^{- 1}

$Var(\hat{c})=(L^TL)^{-1}L^TVar(\Gamma)L(L^TL)^{-1}$

Vấn đề là chúng ta không quan sát . Chúng tôi quan sát ước tính . là một phần của vector $\Gamma$ $\hat\Gamma$ $\hat\gamma_i$

{\hat{δ}}_{i} = δ_{i} + (M_{i}^{T} M_{i})^{- 1} M_{i}^{T} ϵ_{i} .

$\hat\delta_i=\delta_i+(M_i^TM_i)^{-1}M_i^T\epsilon_i.$

Giả sử rằng là ngẫu nhiên và độc lập với và . Điều này chắc chắn giữ cho vì vậy chúng tôi không mất bất cứ điều gì nếu chúng ta mở rộng này cho các yếu tố khác của . $\delta_i$ $\epsilon_i$ $M_i$ $\gamma_i$ $\delta_i$

Chúng ta hãy ngăn xếp tất cả trên đầu trang của mỗi khác: $\hat\delta_i$

{\hat{δ}}^{T} = [δ_{1}^{T}, . . ., δ_{N}^{T}]

$\hat\delta^T=[\delta_1^T,...,\delta_N^T]$

và khám phá phương sai của : $\hat\delta$

V a r (\hat{δ}) = [\begin{matrix} V a r ({\hat{δ}}_{1}) & c o v ({\hat{δ}}_{1}, {\hat{δ}}_{2}) & \dots & c o v ({\hat{δ}}_{1}, {\hat{δ}}_{N}) \\ \dots & \dots & \dots & \dots \\ c o v ({\hat{δ}}_{n}, {\hat{δ}}_{1}) & c o v ({\hat{δ}}_{n}, δ_{2}) & \dots & V a r ({\hat{δ}}_{N}) \end{matrix}]

$Var(\hat\delta)=\begin{bmatrix} Var(\hat\delta_1) & cov(\hat\delta_1,\hat\delta_2) & \dots & cov(\hat\delta_1,\hat\delta_N)\\ \dots & \dots & \dots & \dots\\ cov(\hat\delta_n,\hat\delta_1) & cov(\hat\delta_n,\delta_2) & \dots & Var(\hat\delta_N) \end{bmatrix}$

Giả định rằng và . Đối với chúng tôi có $Var(\epsilon_i)=\sigma^2_\epsilon I$ $E\epsilon_i\epsilon_j^T=0$ $i\neq j$

\begin{aligned} c o v ({\hat{δ}}_{i}, {\hat{δ}}_{j}) & = c o v (δ_{i}, δ_{j}) + c o v ((M_{i}^{T} M_{i})^{- 1} M_{i}^{T} ϵ_{i}, (M_{j}^{T} M_{j})^{- 1} M_{j}^{T} ϵ_{j}) \\ = (M_{i}^{T} M_{i})^{- 1} M_{i}^{T} E (ϵ_{i} ϵ_{j}^{T}) M_{j} (M_{j}^{T} M_{j})^{- 1} \\ = 0 \end{aligned}

$\begin{align} cov(\hat\delta_i,\hat\delta_j)&=cov(\delta_i,\delta_j)+cov((M_i^TM_i)^{-1}M_i^T\epsilon_i,(M_j^TM_j)^{-1}M_j^T\epsilon_j)\\ &=(M_i^TM_i)^{-1}M_i^TE(\epsilon_i\epsilon_j^T)M_j(M_j^TM_j)^{-1}\\ &=0 \end{align}$

Đối với các yếu tố đường chéo, chúng tôi có

V a r ({\hat{δ}}_{i}) = V a r (δ_{i}) + σ_{ϵ}^{2} (M_{i}^{T} M_{i})^{- 1}

$Var(\hat\delta_i)=Var(\delta_i)+\sigma_\epsilon^2(M_i^TM_i)^{-1}$

Chúng ta hãy quay lại với phương sai của . Kể từ khi chúng ta thay thay vì phương sai là những điều sau đây $\hat c$ $\hat\Gamma$ $\Gamma$

V a r (\hat{c}) = (L^{T} L)^{- 1} L^{T} V a r (\hat{Γ}) L (L^{T} L)^{- 1},

$Var(\hat{c})=(L^TL)^{-1}L^TVar(\hat\Gamma)L(L^TL)^{-1},$

Chúng ta có thể trích xuất từ bằng cách chọn các yếu tố thích hợp: $Var(\hat\Gamma)$ $Var(\hat\delta)$

V a r (\hat{Γ}) = V a r (Γ) + d i a g (g_{1}, . . ., g_{n})

$Var(\hat\Gamma)=Var(\Gamma)+diag(g_1,...,g_n)$

Trong đó là phần tử của $g_i$ tương ứng với . Mỗi khác với vì chúng tương ứng với và khác nhau không được coi là bằng nhau. $\sigma_\epsilon^2(M_i^TM_i)^{-1}$ $Var(\hat\gamma_i)$ $g_i$ $g_j$ $X_{it}$ $X_{jt}$

Vì vậy, chúng tôi nhận được kết quả đáng ngạc nhiên, rằng đại số thậm chí nếu chúng ta giả định tất cả các thuộc tính cần thiết, kết quả ma trận hiệp phương sai ít nhất đại số sẽ không được tính bằng OLS thông thường hiệp phương sai ma trận, vì cho rằng chúng ta cần điều đó là hằng số lần ma trận danh tính mà rõ ràng là không. $Var(\hat\Gamma)$

Tất cả các công thức trên đều có nguồn gốc giả sử rằng là hằng số, vì vậy chúng có điều kiện trên . Điều này có nghĩa rằng chúng tôi thực sự tính toán . Bằng cách đặt các giả định bổ sung vào , tôi nghĩ có thể chỉ ra rằng phương sai vô điều kiện là ổn. $X_{ij}$ $X_{ij}$ $Var(\hat\Gamma|X)$ $X_{ij}$

Giả định độc lập được đặt trên cũng có thể được nới lỏng đến không tương quan. $\epsilon_i$

Nó cũng sẽ có thể để nghiên cứu mô phỏng sử dụng để xem cách hiệp phương sai ma trận khác nhau nếu chúng tôi sử dụng thay vì . $\hat\Gamma$ $\Gamma$

— mpiktas
nguồn

Tôi nghĩ vấn đề nằm ở định nghĩa của mô hình thứ hai. Tôi nghĩ rằng nó được giả định rằng

γ_{i} = a + b Z_{i} + u_{i}

$\gamma_i=a+bZ_i+u_i$

với giả định thông thường rằng

c o v (γ_{i}, γ_{j} | Z_{1}, . . ., Z_{N}) = 0,

$cov(\gamma_i,\gamma_j|Z_1,...,Z_N)=0,$

$\gamma_i$ $Z_i$ $\hat{\gamma}$ $\gamma$

c o v (\hat{γ_{i}}, {\hat{γ}}_{j} | Z_{i}) = 0.

$cov(\hat{\gamma_i},\hat{\gamma}_j|Z_i)=0.$

Hiện nay

{\hat{γ}}_{i} = γ_{i} + L (ϵ_{i t}),

$\hat{\gamma}_i=\gamma_i+L(\epsilon_{it}),$

$L$ $\epsilon_{it}$ $Z_i$ $E\epsilon_{it}\epsilon_{jt}\neq0$

Vì giả định không tương quan là trọng tâm để tính toán thống kê OLS thông thường, điều này đưa ra lý do tại sao các lỗi tiêu chuẩn bị sai lệch.

Đây là một phác thảo sơ bộ, nhưng tôi nghĩ ý tưởng sẽ hoạt động nếu bạn có được những chi tiết khó hiểu về máy móc OLS.

— mpiktas
nguồn