Các phương pháp để phù hợp với mô hình lỗi đo lường đơn giản của cải


13

Tôi đang tìm kiếm các phương pháp có thể được sử dụng để ước tính mô hình lỗi đo lường "OLS".

yi=Yi+ey,i
xi=Xi+ex,i
Yi=α+βXi

Trong đó các lỗi là độc lập bình thường với phương sai không xác định và . OLS "tiêu chuẩn" sẽ không hoạt động trong trường hợp này.σy2σx2

Wikipedia có một số giải pháp hấp dẫn - hai giải pháp đã cho bạn buộc phải giả sử "tỷ lệ phương sai" hoặc " tỷ lệ tin cậy " được biết đến, trong đó là phương sai của biến hồi quy thực . Tôi không hài lòng với điều này, vì làm thế nào một người không biết phương sai có thể biết tỷ lệ của họ?δ=σy2σx2λ=σX2σx2+σX2σX2Xi

Dù sao, có bất kỳ giải pháp nào khác ngoài hai giải pháp này không yêu cầu tôi phải "biết" bất cứ điều gì về các tham số không?

Giải pháp cho việc đánh chặn và độ dốc là tốt.


chính bài viết Wikipedia cung cấp cho bạn câu trả lời cho câu hỏi này. Nếu bạn giả sử tính bình thường của bộ hồi quy "thực", thì bạn cần có thêm các điều kiện về phân phối lỗi. Nếu biến hồi quy thực sự không phải là Gaussian, thì bạn có một chút hy vọng. Xem Reiersol (1950) .
Đức hồng y

Ngoài ra, ý của bạn là "Giải pháp cho việc đánh chặn và độ dốc là ổn". Đó là hai thông số duy nhất của bạn! Hay bạn đang hy vọng cũng cố gắng sao lưu bộ hồi quy "thật"?
Đức hồng y

@cardinal - Tôi có nghĩa là tôi không đặc biệt quan tâm đến hai tham số tỷ lệ và như bạn nói, hồi quy "đúng" . Xi
xác suất

Tôi hiểu rồi. Điều đó có ý nghĩa.
Đức hồng y

Câu trả lời:


7

Có một loạt các khả năng được JW Gillard mô tả trong Tổng quan lịch sử về hồi quy tuyến tính với các lỗi trong cả hai biến

Nếu bạn không quan tâm đến chi tiết hoặc các lý do cho việc lựa chọn một phương pháp khác hơn, chỉ cần đi với các đơn giản nhất, mà là để vẽ đường qua trọng tâm có độ dốc β = s y / s x , tức là tỷ lệ độ lệch chuẩn quan sát được (làm cho dấu hiệu của độ dốc giống như dấu hiệu của hiệp phương sai của xy ); như bạn có lẽ có thể làm việc ra, điều này đưa ra một đánh chặn trên y trục của α = ˉ y - beta ˉ x .(x¯,y¯)β^=sy/sxxyyα^=y¯β^x¯.

Ưu điểm của phương pháp đặc biệt này là

  1. nó đưa ra cùng một dòng so sánh với y như y với x ,xyyx
  2. nó là bất biến tỷ lệ, do đó bạn không cần phải lo lắng về các đơn vị,
  3. nó nằm giữa hai đường hồi quy tuyến tính thông thường
  4. nó đi qua chúng ở nơi chúng giao nhau ở trung tâm của các quan sát và
  5. nó rất dễ tính toán

Độ dốc là giá trị trung bình hình học của độ dốc của hai độ dốc hồi quy tuyến tính thông thường. Đó cũng là những gì bạn sẽ nhận được nếu bạn chuẩn hóa các quan sát y , vẽ một đường thẳng ở 45 ° (hoặc 135 ° nếu có tương quan âm) và sau đó khử chuẩn hóa đường thẳng. Nó cũng có thể được coi là tương đương với việc đưa ra một giả định ngầm định rằng phương sai của hai bộ lỗi tỷ lệ thuận với phương sai của hai bộ quan sát; theo như tôi có thể nói, bạn tuyên bố không biết cách nào sai.xy

Dưới đây là một số mã R để minh họa: dòng màu đỏ trong biểu đồ là hồi quy OLS của trên X , dòng màu xanh là hồi quy OLS của X trên Y và dòng màu xanh lá cây là phương pháp đơn giản này. Lưu ý rằng độ dốc nên khoảng 5.YXXY

X0 <- 1600:3600
Y0 <- 5*X0 + 700
X1 <- X0 + 400*rnorm(2001)
Y1 <- Y0 + 2000*rnorm(2001)
slopeOLSXY  <- lm(Y1 ~ X1)$coefficients[2]     #OLS slope of Y on X
slopeOLSYX  <- 1/lm(X1 ~ Y1)$coefficients[2]   #Inverse of OLS slope of X on Y
slopesimple <- sd(Y1)/sd(X1) *sign(cov(X1,Y1)) #Simple slope
c(slopeOLSXY, slopeOLSYX, slopesimple)         #Show the three slopes
plot(Y1~X1)
abline(mean(Y1) - slopeOLSXY  * mean(X1), slopeOLSXY,  col="red")
abline(mean(Y1) - slopeOLSYX  * mean(X1), slopeOLSYX,  col="blue")
abline(mean(Y1) - slopesimple * mean(X1), slopesimple, col="green")

@Henry, định nghĩa của bạn của β không thực hiện bất kỳ ý nghĩa với tôi. Có một số "mũ" bị mất? β^
Đức hồng y

Nó có nghĩa là độ lệch chuẩn quan sát được của chia cho độ lệch chuẩn quan sát được của { x i } . Tôi sẽ thay đổi σ để s{yi}{xi}σs
Henry

@Henry, bạn có thể làm rõ một số ý kiến ​​của bạn? Một cái gì đó gây ấn tượng với tôi như được tắt dựa trên mô tả hiện tại của bạn. Hãy β x y là độ dốc giả định y là phản ứng và x là dự đoán. Hãy β y x là độ dốc giả định x là phản ứng và y các dự đoán. Sau đó, β x y = ρ s y / s xβ y x = ρ s x / sβ^xyyxβ^yxxyβ^xy=ρ^sy/sx , nơi ρ là mẫutương quangiữa x y . Do đó giá trị trung bình hình học của hai ước tính độ dốc chỉ là ρ . β^yx=ρ^sx/syρ^xyρ^
Đức hồng y

@cardinal: Không - khi tôi thấy Ý tôi là độ dốc là 1 / b vì nó có thể được viết lại thành y = x / b - c / b . Khi bạn cố vẽ hai đường OLS trên cùng một biểu đồ cùng với các điểm quan sát (ví dụ với y trên trục tung và x trên trục hoành), bạn phải đảo một trong các sườn. Vì vậy, tôi có nghĩa là bạn mất giá trị trung bình hình học của ρ s y / s xs y /x=by+c1/by=x/bc/byxρ^sy/sx, đơn giản làsy/sx. Hoặc, nếu bạn không đủ độc đáo để vẽyxtheo cách khác cho cả hai đường và các điểm được quan sát, thì bạn sẽ có được nghịch đảo của điều đó là độ dốc. sy/ρ^sxsy/sxyx
Henry

@Henry - đó là một câu trả lời khá thú vị. Tôi không nhất thiết nghi ngờ tính hợp lệ của nó, nhưng có một điều làm tôi ngạc nhiên là mối tương quan / hiệp phương sai giữa X hoàn toàn không có trong câu trả lời. Chắc chắn đây sẽ có liên quan đến câu trả lời? YX
xác suất
Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.