Là sự đồng nhất mẫu là một giả định của phân tích hồi quy?


8

Tôi đã giả định (tức là tôi nghĩ rằng tôi đã được dạy, lâu hơn tôi có thể nhớ) rằng các phân tích hồi quy cho rằng một mẫu là đồng nhất. Nếu không, thì điều thích hợp là thêm các biến giả vào mã cho các nhóm khác nhau có trong mẫu hoặc thực hiện ANCOVA để kiểm tra xem các tham số nhóm có bằng nhau không. Việc bỏ qua tính không đồng nhất của mẫu có làm mất hiệu lực phân tích hồi quy không?

Câu trả lời:


8

Mẫu thường được coi là đồng nhất theo nghĩa các điều khoản lỗi ϵi trong phương trình yi=β0+β1x1+β2x2++ϵi rõ các điều kiện sau:

  1. Tất cả đều có nghĩa là 0: E(ϵi)=0 cho tất cả i ,
  2. Không được sửa chữa: Cov(ϵi,ϵj)=0 cho ij ,
  3. Tất cả đều có cùng phương sai: Cov(ϵi)=σ2 cho tất cả i .

Chúng được gọi là các điều kiện Gauss-Markov và đảm bảo rằng công cụ ước lượng bình phương nhỏ nhất thông thường hoạt động tốt (không thiên vị, công cụ ước lượng không thiên vị tuyến tính tốt nhất ...).

Lưu ý rằng những điều kiện này có thể được thỏa mãn ngay cả khi bạn có quan sát từ các nhóm khác nhau. Thông thường, đó không phải là trường hợp. Nếu có sự khác biệt về ý nghĩa giữa các nhóm, điều kiện thứ nhất và thứ hai bị vi phạm. Nếu có mối tương quan trong các nhóm, điều kiện thứ hai bị vi phạm. Nếu các nhóm khác nhau về phương sai, thứ ba bị vi phạm.

Vi phạm các điều kiện Gauss-Markov có thể gây ra tất cả các loại vấn đề. Đối với một số hậu quả của phương sai không liên tục, xem trang Wikipedia về tính không đồng nhất .

Các phép biến đổi có thể hữu ích khi điều kiện thứ ba không được đáp ứng, nhưng nếu các nhóm khác nhau gây ra vấn đề với điều kiện một và hai, có vẻ hợp lý hơn khi thêm một biến giả nhóm hoặc sử dụng ANCOVA.


1
+1. Nếu có sự khác biệt giữa các phương tiện nhóm và nó bị bỏ qua trong sự phù hợp mô hình, thì mô hình sẽ phù hợp với xấp xỉ tốt nhất (trong không gian con buộc các nhóm phải đồng nhất) mà vẫn có , sẽ có hiệu quả trung bình các hệ số trên các nhóm. Tất nhiên, khi ý nghĩa của nhóm là khác nhau, mô hình phù hợp này không hữu ích lắm, trừ khi bạn đang cố gắng suy luận về một người được chọn ngẫu nhiên có thành viên nhóm mà bạn không biết. E(ε)=0
Macro

Tôi loại bỏ câu trả lời của mình không phải vì bất cứ điều gì sai mà là vì câu trả lời sau của MansT bao quát nó hoàn toàn hơn ngoại trừ phần mô hình hóa chức năng phương sai như được mô tả trong cuốn sách của Ray Carroll.
Michael R. Chernick
Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.