Shrunken

Trong đầu tôi đã có một số nhầm lẫn về hai loại công cụ ước tính giá trị dân số của hệ số tương quan Pearson.

A. Fisher (1915) đã chỉ ra rằng đối với hai biến dân bình thường thực nghiệm là một thiên vị tiêu cực đến mức ước lượng , mặc dù xu hướng có thể số tiền thực tế đáng kể chỉ cho cỡ mẫu nhỏ ( ). Mẫu đánh giá thấp theo nghĩa gần với hơn . (Ngoại trừ khi cái sau là hoặc , thì không thiên vị.) Một số ước tính gần như không thiên vị của đã được đề xuất, cái tốt nhất có lẽ là $r$ $\rho$ $n<30$ $r$ $\rho$ $0$ $\rho$ $0$ $\pm 1$ $r$ $\rho$ Olkin và Pratt (1958) đã sửa : $r$

r_{unbiased} = r [1 + \frac{1 - r^{2}}{2 (n - 3)}]

$r_\text{unbiased} = r \left [1+\frac{1-r^2}{2(n-3)} \right ]$

B. Người ta nói rằng trong hồi quy quan sát thấy đánh giá quá cao dân số R bình phương tương ứng. Hoặc, với hồi quy đơn giản, đó là đánh giá quá cao . Dựa trên thực tế đó, tôi đã nhìn thấy nhiều văn bản nói rằng là tích cực thiên vị tương đối để , có nghĩa là giá trị tuyệt đối: là xa hơn từ hơn (? Là tuyên bố true). Các văn bản nói rằng đó là vấn đề tương tự như ước tính quá mức của tham số độ lệch chuẩn theo giá trị mẫu của nó. Tồn tại nhiều công thức để "điều chỉnh" quan sát $R^2$ $r^2$ $\rho^2$ $r$ $\rho$ $r$ $0$ $\rho$ $R^2$ Gần hơn với thông số dân số của nó, W 2ry (1931) là nổi tiếng nhất (nhưng không phải là tốt nhất). Thư mục gốc của ví dụ điều chỉnh được gọi là teo : $R_\text{adj}^2$ $r_\text{adj}^2$ $r$

r_{shrunk} = \pm \sqrt{1 - (1 - r^{2}) \frac{n - 1}{n - 2}}

$r_\text{shrunk} = \pm\sqrt{1-(1-r^2)\frac{n-1}{n-2}}$

Hiện nay là hai ước lượng khác nhau của . Rất khác nhau: cái thứ nhất phồng lên , cái thứ hai xì hơi . Làm thế nào để hòa giải chúng? Nơi để sử dụng / báo cáo một và ở đâu - khác? $\rho$ $r$ $r$

Cụ thể, có thể đúng là công cụ ước tính "thu nhỏ" (gần như) không thiên vị, giống như "không thiên vị", nhưng chỉ trong bối cảnh khác nhau - trong bối cảnh hồi quy không đối xứng. Vì, trong hồi quy OLS, chúng ta coi các giá trị của một bên (bộ dự đoán) là cố định, tham dự mà không có lỗi ngẫu nhiên từ mẫu này đến mẫu khác? (Và để thêm vào đây, hồi quy không cần tính quy tắc hai biến .)

— ttnphns
nguồn

Tôi tự hỏi nếu điều này chỉ xảy ra với một cái gì đó dựa trên sự bất bình đẳng của Jensen. Điều đó, và tính chuẩn tắc bivariate có lẽ là một giả định xấu trong hầu hết các trường hợp.

— Shadowtalker

Ngoài ra, sự hiểu biết của tôi về vấn đề ở B. là hồi quy

là một sự đánh giá quá cao bởi vì sự phù hợp hồi quy có thể được cải thiện tùy ý bằng cách thêm các yếu tố dự đoán. Điều đó đối với tôi không giống như vấn đề tương tự như trong A.

r^{2}

$r^2$

— Shadowtalker

Có thật là

là ước tính sai lệch dương của

cho tất cả các giá trị của

? Đối với phân phối chuẩn hai biến này dường như không phải là trường hợp cho

đủ lớn.

r^{2}

$r^2$

ρ^{2}

$\rho^2$

ρ

$\rho$

ρ

$\rho$

— NRH

Có thể thiên vị đi theo hướng ngược lại cho bình phương của một công cụ ước tính? Ví dụ, với một ước lượng đơn giản hơn, nó có thể được chỉ ra rằng

đối với một số phạm vi của

? Tôi nghĩ rằng đây sẽ là khó khăn để làm nếu

, nhưng có lẽ là một ví dụ đơn giản có thể làm việc ra.

E [\hat{θ} - θ] < 0 < E [{\hat{θ}}^{2} - θ^{2}]

$E[\hat{\theta}-\theta] < 0 < E[\hat{\theta}^2-\theta^2]$

θ

$\theta$

θ = ρ

$\theta = \rho$

— Anthony

Câu trả lời:

Về độ lệch trong tương quan: Khi kích thước mẫu đủ nhỏ để độ lệch có bất kỳ ý nghĩa thực tế nào (ví dụ: n <30 bạn đề xuất), thì độ lệch có thể là điều ít lo lắng nhất của bạn, bởi vì độ chính xác là rất tệ.

Về độ lệch của R ² trong hồi quy bội, có nhiều điều chỉnh khác nhau liên quan đến ước lượng dân số không thiên vị so với ước lượng không thiên vị trong một mẫu độc lập có kích thước bằng nhau. Xem Yin, P. & Fan, X. (2001). Ước tính co rút R ² trong hồi quy bội: So sánh các phương pháp phân tích. Tạp chí giáo dục thực nghiệm, 69, 203-224.

Các phương pháp hồi quy hiện đại cũng giải quyết sự co lại của các hệ số hồi quy cũng như R ² do hậu quả - ví dụ, mạng đàn hồi có xác nhận chéo k- Fold, xem http://web.stanford.edu/~hastie/Papers/ thunnet.pdf .

— Fred Oswald
nguồn

Tôi không biết nếu điều này thực sự trả lời câu hỏi

— Shadowtalker

Tôi nghĩ rằng câu trả lời là trong bối cảnh hồi quy đơn giản và hồi quy bội. Trong hồi quy đơn giản với một IV và một DV, R sq không bị sai lệch dương, và trên thực tế có thể bị sai lệch âm cho r là sai lệch âm. Nhưng trong hồi quy bội với một số IV có thể tương quan với nhau, R sq có thể bị sai lệch tích cực vì bất kỳ "triệt tiêu" nào có thể xảy ra. Do đó, tôi nghĩ rằng R2 đã đánh giá quá cao dân số R bình phương tương ứng, nhưng chỉ trong hồi quy bội

— Đinh lăng
nguồn

R sq is not positively biased, and in-fact may be negatively biasedHấp dẫn. Bạn có thể hiển thị nó hoặc đưa ra một tài liệu tham khảo? - Trong dân số bình thường bivariate, thống kê mẫu Rq có thể quan sát được là ước lượng sai lệch âm?

— ttnphns

Tôi nghĩ rằng bạn là sai. Bạn có thể đưa ra một tài liệu tham khảo để sao lưu yêu cầu của bạn?

— Richard Hardy

Xin lỗi, nhưng đây là một bài tập suy nghĩ nhiều hơn, vì vậy tôi không có tài liệu tham khảo.

— Đinh lăng

Tôi đã đi ra khỏi Nhận xét A ở trên, trong đó Fischer đã chỉ ra rằng trong một tình huống bình thường hai biến, r là một ước lượng sai lệch âm của rho. Nếu đó là trường hợp nó sẽ không theo R sq cũng bị sai lệch tiêu cực?

— Đinh lăng

Có lẽ điều này sẽ hỗ trợ trong cuộc trò chuyện digitalcommons.unf.edu/cgi/

— Kẻ