Sự khác biệt giữa điều hòa trên các biến hồi quy so với coi chúng là cố định là gì?

Đôi khi chúng tôi giả định rằng các hồi quy là cố định, tức là chúng không ngẫu nhiên. Tôi nghĩ rằng điều đó có nghĩa là tất cả các dự đoán của chúng tôi, ước tính tham số, vv là vô điều kiện, phải không? Tôi thậm chí có thể đi xa đến mức chúng không còn là biến ngẫu nhiên?

Mặt khác, nếu chúng ta chấp nhận rằng hầu hết các biến hồi quy trong kinh tế nói là ngẫu nhiên vì không có lực lượng bên ngoài nào xác định chúng với một số thử nghiệm trong tâm trí. Kinh tế lượng sau đó điều kiện trên các hồi quy ngẫu nhiên.

Làm thế nào khác với việc coi chúng là cố định?

Tôi hiểu điều hòa là gì. Về mặt toán học, nó có nghĩa là chúng ta làm cho tất cả những quan sát và suy luận có điều kiện trên mà tập hợp các hồi quy và không có tham vọng khi nói rằng kết luận, ước lượng tham số, ước lượng phương sai vv sẽ đã cùng đã chúng ta thấy một thực hiện khác nhau của hồi quy của chúng tôi (ví dụ là mấu chốt trong chuỗi thời gian, trong đó mỗi chuỗi thời gian chỉ được nhìn thấy một lần).

Tuy nhiên, để thực sự nắm bắt sự khác biệt giữa các biến hồi quy cố định so với điều hòa trên các biến hồi quy ngẫu nhiên, tôi tự hỏi liệu có ai ở đây biết một ví dụ về một thủ tục ước lượng hoặc suy luận có giá trị đối với các biến hồi quy cố định nhưng bị phá vỡ khi chúng là ngẫu nhiên (và sẽ được điều hòa trên).

Tôi rất mong được thấy những ví dụ đó!

— Thuê
nguồn

Bạn có quen thuộc với các mô hình lỗi trong biến không?

— robin.datadrivers

Hey @ robin.datadrivers không tôi không thực sự.

— Hirek

Đây là những mô hình được thiết kế đặc biệt để điều chỉnh các ước tính cho lỗi đo lường trong các biến độc lập. Không hoàn toàn giống như các hồi quy ngẫu nhiên, nhưng nó có thể hữu ích cho bạn để xem. Ngoài ra, nghiên cứu khảo sát nói chung thường giả định các biến độc lập được thu thập bởi các khảo sát có lỗi lấy mẫu - có thể có các mô hình ngoài đó có tài khoản cho lỗi lấy mẫu.

— robin.datadrivers

Một suy nghĩ khác mà tôi đã gặp là sử dụng các mô hình Bayes. Các mô hình Bayes có thể coi các biến hồi quy là ngẫu nhiên, bằng cách chỉ định phân phối trước cho chúng. Thông thường nếu chúng được coi là cố định, bạn chỉ định phân phối trước cho các tham số (hệ số, phương tiện, phương sai), nhưng khi bạn thiếu kết quả hoặc kết quả, bạn chỉ định phân phối trước cho chúng. Tôi không biết chính xác làm thế nào tôi sẽ thực hiện nó mà không cần suy nghĩ nhiều hơn, nhưng có lẽ có một cách để chỉ định phân phối trước cho mỗi biến độc lập.

— robin.datadrivers

Ở đây tôi đang ở trên băng mỏng nhưng hãy để tôi thử: Tôi có cảm giác (xin vui lòng nhận xét!) Rằng một sự khác biệt chính giữa thống kê và kinh tế lượng là trong thống kê chúng ta có xu hướng coi các biến hồi quy là cố định, do đó ma trận thiết kế thuật ngữ rõ ràng xuất phát từ thiết kế các thí nghiệm, trong đó giả sử là trước tiên chúng ta chọn và sau đó sửa các biến giải thích.

Nhưng đối với hầu hết các tập dữ liệu, hầu hết các tình huống, đây là một sự phù hợp xấu. Chúng tôi thực sự quan sát các biến giải thích, và theo nghĩa đó, chúng đứng cùng bước với các biến trả lời, cả hai đều được xác định bởi một quá trình ngẫu nhiên ngoài tầm kiểm soát của chúng tôi. Bằng cách coi $x$ là "cố định", chúng tôi quyết định không xem xét nhiều vấn đề có thể gây ra.

Mặt khác, bằng cách coi các biến hồi quy là ngẫu nhiên, như các nhà kinh tế lượng có xu hướng làm, chúng tôi mở ra khả năng mô hình hóa để cố gắng xem xét các vấn đề như vậy. Một danh sách ngắn các vấn đề mà sau đó chúng tôi có thể xem xét và kết hợp vào mô hình hóa là:

lỗi đo lường trong các biến hồi quy
mối tương quan giữa các biến hồi quy và các điều khoản lỗi
phản ứng chậm trễ như hồi quy
...

Có lẽ, điều đó nên được thực hiện thường xuyên hơn nhiều mà nó được thực hiện ngày hôm nay?

EDIT

Tôi sẽ cố gắng đưa ra một lập luận để điều chỉnh các biến hồi quy có phần chính thức hơn. Hãy $(Y,X)$ là một vector ngẫu nhiên, và sự quan tâm là trong hồi quy $Y$ trên $X$ , nơi hồi quy được thực hiện để có nghĩa là kỳ vọng có điều kiện của $Y$ trên $X$ . Theo giả định đa thường sẽ là một hàm tuyến tính, nhưng các đối số của chúng tôi không phụ thuộc vào điều đó. Chúng ta bắt đầu với bao thanh toán mật độ khớp theo cách thông thường

f (y, x) = f (y ∣ x) f (x)

$f(y,x) = f(y\mid x) f(x)$ nhưng những chức năng này không được biết đến vì vậy chúng tôi sử dụng một mô hình tham số

f (y, x; θ, ψ) = f_{θ} (y ∣ x) f_{ψ} (x)

$f(y,x; \theta, \psi)=f_\theta(y \mid x) f_\psi(x)$ nơi

θ

$\theta$ parameterizes phân phối có điều kiện và

ψ

$\psi$ sự phân bố biên của

X

$X$ . Trong mô hình tuyến tính bình thường chúng ta có thể có

θ = (β, σ^{2})

$\theta=(\beta, \sigma^2)$ nhưng đó không phải là giả định. Không gian thông số đầy đủ của

(θ, ψ)

$(\theta,\psi)$ Là

Θ \times Ψ

$\Theta \times \Psi$ , một sản phẩm Descartes, và hai tham số không có phần chung.

$X$ $f_\psi(x)$ $Y$ $f_\theta(y \mid X=x)$ $\theta$ $X$ $\theta$

$\theta$ $f_\psi(x)$ $x$ $\theta$ $\theta$ $X=x$

Trong các thí nghiệm được thiết kế, giả định của nó chủ yếu sẽ được giữ, thường với dữ liệu quan sát thì không. Một số ví dụ về các vấn đề sẽ là: hồi quy với các phản hồi bị trễ như các yếu tố dự đoán. Điều hòa trên các dự đoán trong trường hợp này cũng sẽ điều kiện trên các phản ứng! (Tôi sẽ thêm nhiều ví dụ).

$\S 4.3$

— kjetil b halvorsen
nguồn