Định nghĩa và phân định mô hình hồi quy


13

Một câu hỏi đơn giản đáng xấu hổ - nhưng có vẻ như nó chưa được hỏi về Xác thực chéo trước đây:

  1. Định nghĩa của mô hình hồi quy là gì?

Cũng là một câu hỏi hỗ trợ,

  1. Điều gì không phải là một mô hình hồi quy?

Liên quan đến vấn đề thứ hai, tôi quan tâm đến các ví dụ khó khăn trong đó câu trả lời không rõ ràng ngay lập tức. Ví dụ,

  • Còn các mô hình biến tiềm ẩn (ví dụ ARIMA hoặc GARCH) thì sao?

Câu trả lời:


9

Tôi có thể nói rằng "mô hình hồi quy" là một loại khái niệm meta, theo nghĩa là bạn sẽ không tìm thấy định nghĩa về "mô hình hồi quy", nhưng các khái niệm cụ thể hơn như "hồi quy tuyến tính", "hồi quy phi tuyến tính", "hồi quy mạnh mẽ" và như vậy. Điều này giống như trong toán học, chúng ta thường không định nghĩa "số", nhưng "số tự nhiên", "số nguyên", "số thực", "số p-adic", v.v. và nếu ai đó sẽ muốn bao gồm Đệ tứ trong số các số như vậy! nó không thực sự quan trọng, điều quan trọng là định nghĩa nào được sử dụng bởi cuốn sách / tờ giấy bạn đang đọc vào lúc này.

Các định nghĩa là các công cụ và chủ nghĩa thiết yếu, đó là thảo luận về bản chất của ..., một từ thực sự có nghĩa là gì , hiếm khi đáng giá.

Vậy, điều gì phân biệt một "mô hình hồi quy" với các loại mô hình thống kê khác? Hầu hết, có một biến trả lời , mà bạn muốn mô hình hóa như bị ảnh hưởng bởi (hoặc được xác định bởi) một số bộ biến dự đoán . Chúng tôi không quan tâm đến việc ảnh hưởng theo hướng khác và chúng tôi không quan tâm đến mối quan hệ giữa các biến dự đoán. Hầu hết, chúng tôi lấy các biến dự đoán như đã cho và coi chúng là hằng số trong mô hình, không phải là biến ngẫu nhiên.

Mối quan hệ được đề cập ở trên có thể là tuyến tính hoặc phi tuyến, được chỉ định theo cách tham số hoặc không tham số, v.v.

Để phân định từ các mô hình khác, tốt hơn chúng ta nên xem xét một số từ khác thường dùng để biểu thị một cái gì đó khác cho "mô hình hồi quy", như "lỗi trong biến", khi chúng ta chấp nhận khả năng lỗi đo lường trong các biến dự đoán. Điều đó cũng có thể được bao gồm trong mô tả của tôi về "mô hình hồi quy" ở trên, nhưng thường được coi là một mô hình thay thế.

Ngoài ra, điều gì có nghĩa là có thể khác nhau giữa các lĩnh vực, xem Sự khác biệt giữa điều hòa trên các biến hồi quy so với coi chúng là cố định là gì?

Nhắc lại: điều quan trọng là định nghĩa được sử dụng bởi các tác giả mà bạn đang đọc bây giờ, và không phải là một số siêu hình học về những gì nó "thực sự là".


1
Tôi đồng ý với bản chất câu trả lời của bạn. Câu hỏi của tôi được thúc đẩy bởi đã gặp phải các tuyên bố về mô hình hồi quy khiến tôi tự hỏi câu lệnh đó thực sự áp dụng cho điều gì (và nó không áp dụng cho điều gì). Tất nhiên, bây giờ bạn có thể nói, "sử dụng phán đoán tốt nhất của bạn và kiểm tra các chi tiết cẩn thận", nhưng đôi khi tôi có thể muốn từ chối tuyên bố giả thuyết ngay lập tức nói rằng nó không đúng nói chung (có lẽ chỉ đúng trong một trường hợp rất cụ thể) . Sau đó, tôi cần một định nghĩa để tham khảo. Tất nhiên có nhiều tình huống như vậy trong đó có một định nghĩa chính xác là hữu ích.
Richard Hardy

Sau đó, các shouls đặt câu hỏi cụ thể về những sử dụng mà bạn đã gặp, với các tài liệu tham khảo.
kjetil b halvorsen

2
Tôi không có ý định kén chọn, nhưng hãy nghĩ về nó: ai đó hỏi bạn đang làm gì, bạn nói "Tôi đang phân tích / dự báo / kiểm tra [một cái gì đó] bằng mô hình hồi quy." - "Mô hình hồi quy là gì?" -- (Im lặng). Hoặc một tình huống trong một lớp học toán kinh tế giới thiệu: "Giáo sư, những gì ? Một mô hình hồi quy" -- (Không có câu trả lời). Tôi nghĩ đây là những câu hỏi rất tự nhiên, vì vậy thật tuyệt khi có câu trả lời.
Richard Hardy

1
Vâng, thật tuyệt khi có câu trả lời, nhưng tôi không chắc có một câu trả lời kinh điển mà tất cả có thể đồng ý. Tôi có một ý tưởng rất khác về hồi quy từ một cuốn sách thống kê, chẳng hạn như: "Phân tích hồi quy tuyến tính" như từ một văn bản trong kinh tế lượng. Nhưng một số ý tưởng tất cả có thể đồng ý về. Tôi đoán nó thực sự là một gia đình người mẫu. Sau đó chúng ta có thể hỏi cốt lõi chung của tất cả các mô hình này là gì.
kjetil b halvorsen

7

Hai câu trả lời hay đã được đưa ra, nhưng tôi muốn thêm hai xu của mình.

YX1,Giáo dục,XkY

μ= =E(y|x1,Giáo dục,xk)= =f(x1,Giáo dục,xk)

fμμL1μ

Y


Cảm ơn. Trực giác không bị tổn thương, mặc dù tôi đang tìm kiếm một định nghĩa chính thức hơn mà tôi có thể ném vào một người hỏi tôi, vậy mô hình hồi quy là gì? và sau đó cố gắng chọn chi tiết.
Richard Hardy

@RichardHardy Tôi nghĩ rằng đây là những tính năng quan trọng của mô hình hồi quy được chia sẻ bởi tất cả chúng.
Tim

3
y

2

Một số suy nghĩ dựa trên tài liệu:

F. Hayashi trong Chương 1 của sách giáo khoa tốt nghiệp kinh điển "Kinh tế lượng" (2000) nói rằng các giả định sau đây bao gồm mô hình hồi quy tuyến tính cổ điển:

  1. Tuyến tính
  2. Ngoại lệ nghiêm ngặt
  3. Không có đa cộng đồng
  4. Phương sai lỗi hình cầu
  5. Hồi quy "cố định"

Wooldridge trong Chương 2 của sách giáo khoa kinh tế lượng kinh tế nhập môn cổ điển "Kinh tế lượng nhập môn: Phương pháp hiện đại" (2012) nói rằng phương trình sau định nghĩa mô hình hồi quy tuyến tính đơn giản:

y= =β0+β1x+bạn.

Greene trong Chương 2 của sách giáo khoa toán kinh tế lượng phổ biến "Phân tích kinh tế lượng" (2011)

Mô hình hồi quy tuyến tính cổ điển bao gồm một tập hợp các giả định về cách một bộ dữ liệu sẽ được tạo ra bởi một quy trình tạo dữ liệu cơ bản của cơ sở.

và sau đó đưa ra một danh sách các giả định tương tự như của Hayashi.

Một sự tò mò liên quan đến điểm đạn cuối cùng của OP: Bollerslev "Tính không đồng nhất có điều kiện tự phát" (1986) bao gồm cụm từ "mô hình hồi quy GARCH" trong tiêu đề của phần 5 và cả trong câu đầu tiên của phần đó. Vì vậy, cha đẻ của mô hình GARCH không ngại gọi GARCH là mô hình hồi quy.


1
Yf(X,β)

Đúng, ví dụ của tôi là cho các mô hình hồi quy tuyến tính ; đó là những gì tôi có thể tìm thấy trong các nguồn đáng tin cậy như những cuốn sách giáo khoa này được sử dụng rộng rãi và đã trở thành kinh điển. Tôi không tin tưởng Wikipedia nhiều cho các câu hỏi thống kê và kinh tế lượng. Dù sao, ngay cả trong Wikipedia cũng có một chương "Những giả định ngầm" tương tự như những gì tôi đã trích dẫn từ sách giáo khoa. Về bài đăng khác, bạn có thể đăng phần có liên quan của bình luận của bạn ở đó để tôi có thể trả lời ở đó không? Trong bài đăng này tôi không nói gì về các mô hình biến tiềm ẩn, nhưng thật tốt khi nghe ý kiến ​​của bạn.
Richard Hardy

3
Tại sao điểm 3, "không có đa cộng tuyến"? Tôi chưa bao giờ thấy rằng được sử dụng như một giả định trong bằng chứng của một số kết quả!
kjetil b halvorsen

1
@kjetilbhalvorsen, xin đừng bắt tôi phải chịu trách nhiệm về những gì được viết trong sách giáo khoa mà tôi không phải là tác giả. Nhưng cảm ơn vì bình luận, tất nhiên, và thậm chí nhiều hơn cho câu trả lời!
Richard Hardy
Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.