Mô hình hồi quy với phương sai không bằng nhau

22

Tôi muốn phù hợp với một mô hình tuyến tính (lm) trong đó phương sai phần dư rõ ràng phụ thuộc vào biến giải thích.

Cách tôi biết để làm điều này là bằng cách sử dụng glm với họ Gamma để mô hình hóa phương sai, và sau đó đặt nghịch đảo của nó vào các trọng số trong hàm lm (ví dụ: http://nitro.biosci.arizona.edu/r/ch CHƯƠNG31 .pdf )

Tôi đã tự hỏi:

Đây có phải là kỹ thuật duy nhất?
Những cách tiếp cận khác có liên quan?
Những gói / chức năng R nào liên quan đến kiểu mô hình này? (khác rồi glm, lm)

— Tal Galili
nguồn

4

Nơi nào họ sử dụng glm()sau đó lm()trong chương bạn liên kết đến. Dường như với tôi glm()là tất cả những gì được yêu cầu và sử dụng ở đó, nhưng tôi có thể đã bỏ lỡ điều gì đó. Bạn có thể thử bình phương tối thiểu tổng quát (tính gls()bằng nlme ) cho phép ước tính trọng số để kiểm soát loại không đồng nhất mà bạn đề cập; xem ?varFuncvà làm theo các liên kết từ đó IIRC varFixed()sẽ làm những gì bạn muốn.

— Phục hồi Monica - G. Simpson

Trong 'Proc hỗn hợp', 'chủ đề = tùy chọn' tạo ra cấu trúc khối chéo trong ma trận phương sai - hiệp phương sai của phần dư. Do đó, bạn đã xem xét một mô hình hỗn hợp tuyến tính nói chung để thay đổi giả thuyết đồng đẳng?

— ocram

Cảm ơn Gavin, tôi đã xem xét một chút về các chức năng này. Hai câu hỏi: 1) Bạn có đề nghị hướng dẫn nào không? (Tôi nghi ngờ rằng cuốn sách MASS của tôi là một khởi đầu tốt, nhưng đã tự hỏi nếu bạn có suy nghĩ về nó). 2) Vì mô hình mà tôi phù hợp là một OLS đơn giản, việc ước tính sẽ khác nhau như thế nào khi sử dụng hàm gls? (Nếu tôi nhớ chính xác - không nhiều, vì nó sẽ hoạt động trên một số xấp xỉ mức độ đầu tiên lặp lại, nhưng tôi không chắc chắn về điều này). Ocram - cảm ơn, nhưng tôi không sử dụng SAS.

— Tal Galili

Ở đây trong Phần 2, nó được giải thích cách thực hiện điều này trong STATA cho hồi quy quasipoisson : stata.com/meeting/fnasug08/gutierrez.pdf . Nếu ai đó có thể đề xuất một cách để mã hóa lại điều này trong R, tôi sẽ rất biết ơn.

— a11msp

17

Thuốc chống lại "hiệu ứng loa" bao gồm (trong số những người khác):

$Y$
Sử dụng hồi quy vuông nhỏ nhất có trọng số . Trong phương pháp này, mỗi quan sát được đưa ra yếu tố phương sai riêng. Câu trả lời này cho thấy cách sử dụng WLSR trong R (ví dụ: nếu phương sai của phần dư tỷ lệ với phương tiện, bạn có thể cung cấp trọng số nghịch đảo của giá trị được trang bị trong mô hình không trọng số).
Sử dụng hồi quy mạnh mẽ. Funciton rlm()trong MASSgói R thực hiện ước lượng M, được cho là mạnh mẽ đối với sự bất bình đẳng của phương sai.

Chỉnh sửa tháng 7 năm 2017: Có vẻ như các ô vuông nhỏ nhất, như được đề xuất trong câu trả lời của Greg Snow, là một trong những lựa chọn tốt nhất.

— gui11aume
nguồn

2

Tôi đã xây dựng câu trả lời này cho câu hỏi Stack Overflow .

— Peter Ellis

1

Cũng có thể đáng để chỉ ra tùy chọn bình phương tối thiểu tổng quát, sử dụng gls với tùy chọn trọng số được đặt thành varFixed () - với tôi đây có vẻ như là một trong những tùy chọn thanh lịch hơn ...

— Tom Wenseleers

@TomWenseleers Tôi đồng ý. Lưu ý rằng đây là câu trả lời của Greg Snow.

— gui11aume

9

Với gói gamlss, bạn có thể mô hình hóa phân phối lỗi của phản hồi dưới dạng tuyến tính, phi tuyến tính hoặc hàm trơn tru của các biến giải thích. Đây dường như là một cách tiếp cận khá mạnh mẽ (tôi đã học được rất nhiều về tất cả các khả năng có thể phát sinh trong quá trình lựa chọn mô hình) và mọi thứ được giải thích độc đáo trong một số ấn phẩm (bao gồm cả sách) được tham chiếu tại liên kết ở trên.

— ils
nguồn

8

Các glschức năng trong nlmegói cho R có thể ước tính hồi quy và các mối quan hệ với phương sai đồng thời. Xem weightsđối số và ví dụ thứ 2 trên trang trợ giúp.

— Greg tuyết
nguồn