Tại sao nó có giá trị để hủy bỏ chuỗi thời gian với hồi quy?

Nó có thể là một câu hỏi kỳ lạ, nhưng là một người mới làm quen với chủ đề này, tôi tự hỏi tại sao chúng ta sử dụng hồi quy để hủy bỏ chuỗi thời gian nếu một trong những giả định của hồi quy là dữ liệu nên được sử dụng trong khi dữ liệu áp dụng hồi quy là không iid?

— FarrukhJ
nguồn

Nói chung không đúng khi chúng tôi đưa ra giả định rằng "dữ liệu" là iid

— Christoph Hanck

Bạn có ý nghĩa chính xác bằng cách giảm giá ?

— Matthew Gunn

Tôi không có thời gian để viết một câu trả lời / tài liệu thích hợp này, nhưng trong tương quan nối tiếp chung không làm sai lệch kết quả của hồi quy tuyến tính (nó thay đổi tính toán thích hợp của các lỗi tiêu chuẩn, khoảng tin cậy, v.v.). Điều này làm cho cách tiếp cận hai giai đoạn cổ điển (phá hủy, sau đó phân tích cho tương quan) hợp lý. (ví dụ: một số googling của "hồi quy tuyến tính tương quan nối tiếp không thiên vị dẫn đến fmwww.bc.edu/ec-c/f2010/228/EC228.f2010.nn12.pdf )

— Ben Bolker

Có lẽ quan trọng hơn, công cụ ước tính OLS của hệ số theo xu hướng tuyến tính hội tụ toàn bộ thứ tự cường độ nhanh hơn (với tốc độ ) so với giá trị thực của nó so với các hồi quy đứng yên ( ), có nghĩa là bạn luôn có thể ước tính xu hướng ngay cả khi bạn bỏ qua các biến cố định. Điều này trái ngược với việc ước tính tác động của các biến cố định từng cái một, trong đó bạn mất tính nhất quán nếu bạn bỏ qua các biến.

n^{- 3 / 2}

$n^{-3/2}$

n^{- 1 / 2}

$n^{-1/2}$

— Richard Hardy

Câu trả lời:

Bạn thật khôn ngoan khi cảm nhận rằng có thể có xung đột giữa các giả định cổ điển về hồi quy tuyến tính bình phương nhỏ nhất bình thường và sự phụ thuộc nối tiếp thường thấy trong cài đặt chuỗi thời gian.

Hãy xem xét Giả định 1.2 (Tính không đồng nhất nghiêm ngặt) của Kinh tế lượng của Fumio Hayashi .

E [ϵ_{i} ∣ X] = 0

$\mathrm{E}[\epsilon_i \mid X] = 0$

Điều này sẽ có nghĩa , rằng bất kỳ dư là trực giao với bất kỳ regressor . Như Hayashi chỉ ra, giả định này bị vi phạm trong mô hình tự phát đơn giản nhất . [1] Hãy xem xét quá trình AR (1): $\mathrm{E}[\epsilon_i \mathbf{x}_j] = \mathbf{0}$ $\epsilon_i$ $\mathbf{x}_j$

y_{t} = β y_{t - 1} + ϵ_{t}

$y_{t} = \beta y_{t-1} + \epsilon_t$

Chúng ta có thể thấy rằng sẽ là một regressor cho , nhưng không phải là trực giao với (tức là ). $y_t$ $y_{t+1}$ $\epsilon_t$ $y_t$ $\mathrm{E}[\epsilon_ty_t]\neq0$

Vì giả định ngoại lệ nghiêm ngặt bị vi phạm, không có đối số nào dựa trên giả định đó có thể được áp dụng cho mô hình AR (1) đơn giản này!

Vì vậy, chúng tôi có một vấn đề khó khăn?

Không, chúng tôi không! Ước tính các mô hình AR (1) với bình phương tối thiểu thông thường là hoàn toàn hợp lệ, hành vi tiêu chuẩn. Tại sao nó vẫn có thể ổn?

Mẫu lớn, đối số tiệm cận không cần ngoại sinh nghiêm ngặt. Một giả định đủ (có thể được sử dụng thay cho tính ngoại lệ nghiêm ngặt) là các biến hồi quy được xác định trước , các biến hồi quy là trực giao với thuật ngữ lỗi đương thời. Xem Hayashi Chương 2 để biết lý lẽ đầy đủ.

Người giới thiệu

[1] Fumio Hayashi, Kinh tế lượng (2000), tr. 35

[2] ibid., P. 134

— Matthew Gunn
nguồn

Các phương pháp hồi quy loại bình phương nhỏ nhất cơ bản không cho rằng các giá trị y là iid Chúng giả định rằng phần dư (tức là giá trị y trừ đi xu hướng thực) là iid

Các phương pháp hồi quy khác tồn tại tạo ra các giả định khác nhau, nhưng điều đó có thể quá phức tạp cho câu trả lời này.

— Geoffrey Brent
nguồn

Giả định cũng sai rõ ràng: chỉ cần nghĩ về một chuỗi thời gian với cả xu hướng tuyến tính và tính thời vụ. Phần dư còn lại từ hồi quy tuyến tính có mối tương quan rõ ràng, do đó không phải là iid.

— DeltaIV

Đó là một câu hỏi hay! Vấn đề thậm chí không được đề cập trong các cuốn sách theo chuỗi thời gian của tôi (tôi có thể cần những cuốn sách hay hơn :) Trước hết, lưu ý rằng bạn không bị buộc phải sử dụng hồi quy tuyến tính để loại bỏ chuỗi thời gian, nếu bộ này có xu hướng ngẫu nhiên (gốc đơn vị )- bạn có thể chỉ cần lấy sự khác biệt đầu tiên. Nhưng bạn phải sử dụng hồi quy tuyến tính, nếu chuỗi có xu hướng xác định. Trong trường hợp này, đúng là phần dư không phải là iid, như bạn nói. Chỉ cần nghĩ về một loạt có xu hướng tuyến tính, các thành phần theo mùa, các thành phần tuần hoàn, vv tất cả cùng nhau - sau khi hồi quy tuyến tính, phần dư là tất cả nhưng độc lập. Vấn đề là sau đó bạn không sử dụng hồi quy tuyến tính để đưa ra dự đoán hoặc hình thành các khoảng dự đoán. Đó chỉ là một phần trong thủ tục suy luận của bạn: bạn vẫn cần áp dụng các phương pháp khác để đến phần dư chưa được xử lý. Vì vậy, trong khi hồi quy tuyến tính mỗi se không phải là một quy trình suy luận hợp lệ (nó không phải là mô hình thống kê chính xác) trong hầu hết các chuỗi thời gian, một quy trình bao gồm hồi quy tuyến tính vì một trong các bước của nó có thể là một mô hình hợp lệ, nếu mô hình mà nó giả định tương ứng với quy trình tạo dữ liệu cho chuỗi thời gian.

— DeltaIV
nguồn

Đừng phân biệt nếu bạn có xu hướng xác định - sự khác biệt chỉ phù hợp với xu hướng ngẫu nhiên (gốc đơn vị). Nếu bạn phân biệt một chuỗi không có gốc đơn vị, bạn sẽ đưa ra loại lỗi trung bình di chuyển tích hợp trong mô hình và điều đó thật khó chịu.

— Richard Hardy

Tôi nghĩ bạn có nghĩa là khác biệt, không phân biệt.

— Hồng Ooi

@RichardHardy thú vị. Bạn có ý nghĩa gì với "xu hướng ngẫu nhiên"? Bạn có nghĩa là chu kỳ? Sẽ

y_{t} = β_{0} + β_{1} y_{t - 1} + ϵ_{t}

$y_t=\beta_0+\beta_1 y_{t-1}+\epsilon_t$ có một xu hướng ngẫu nhiên hoặc xác định theo định nghĩa của bạn?

— DeltaIV

@HongOoi, vâng, xấu của tôi, ý tôi là khác biệt, không phân biệt. DeltaIV, một chuỗi thời gian được cho là có xu hướng ngẫu nhiên nếu chuỗi thời gian là một quá trình tích hợp (= đơn vị gốc). Đây là một thuật ngữ tiêu chuẩn trong tài liệu gốc đơn vị và hợp nhất. Tôi tự hỏi nếu nó có ý nghĩa khác nhau trong các chuỗi khác của văn học. Trong mọi trường hợp, sự khác biệt quá mức (= khác biệt một chuỗi thời gian không có gốc đơn vị) là một hiện tượng khét tiếng, và nó nên được tránh.

— Richard Hardy

@RichardHardy ok, cảm ơn. Tôi sẽ cố gắng ghi lại bản thân về định nghĩa của quy trình tích hợp và gốc đơn vị. Khi bắt đầu, bạn có thể cho tôi biết nếu loạt bài tôi đề xuất được tích hợp hay không? Là gốc rễ mà bạn đề cập đến, gốc rễ của đa thức

y = β_{0} + b e t a_{1} x_{1}

$y=\beta_0+beta_1 x_1$ ?

— DeltaIV