Làm thế nào để có được khoảng tin cậy về thay đổi bình phương dân số

Vì một ví dụ đơn giản, giả sử rằng có hai mô hình hồi quy tuyến tính

• Mô hình 1 có ba dự đoán, x1a, x2b, vàx2c
• Mô hình 2 có ba dự đoán từ mô hình 1 và hai dự đoán bổ sung x2avàx2b

Có một phương trình hồi quy dân số trong đó phương sai dân số được giải thích là cho Mô hình 1 và cho Mô hình 2. Phương sai gia tăng được giải thích bởi Mô hình 2 trong dân số là ρ 2 ( 2 ) delta ρ 2 = ρ 2 ( 2 ) - ρ 2 ( 1 $\rho^2_{(1)}$$\rho^2_{(2)}$$\Delta\rho^2 = \rho^2_{(2)} - \rho^2_{(1)}$

Tôi quan tâm đến việc thu được các lỗi tiêu chuẩn và khoảng tin cậy cho một công cụ ước tính của . Trong khi ví dụ liên quan đến 3 và 2 yếu tố dự đoán tương ứng, mối quan tâm nghiên cứu của tôi liên quan đến một loạt các số lượng dự đoán khác nhau (ví dụ: 5 và 30). Suy nghĩ đầu tiên của tôi là sử dụng làm công cụ ước tính và khởi động lại nó, nhưng tôi không chắc liệu điều này có được thích hợp. Δ r 2 a d j = r 2 a d j ( 2 ) - r 2 a d j ( 1 $\Delta\rho^2$$\Delta r^2_{adj} = r^2_{adj(2)} - r^2_{adj(1)}$

Câu hỏi

• Là một ước lượng hợp lý của ? Δ ρ $\Delta r^2_{adj}$$\Delta \rho^2$
• Làm thế nào có thể đạt được khoảng tin cậy cho thay đổi bình phương r dân số (nghĩa là )?$\Delta\rho^2$
• Bootstrapping có phù hợp để tính khoảng tin cậy không?$\Delta\rho^2$

Bất kỳ tài liệu tham khảo nào về mô phỏng hoặc tài liệu xuất bản cũng sẽ được hoan nghênh nhất.

Mã ví dụ

Nếu nó giúp, tôi đã tạo một tập dữ liệu mô phỏng nhỏ trong R có thể được sử dụng để thể hiện câu trả lời:

n <- 100
x <- data.frame(matrix(rnorm(n *5), ncol=5))
names(x) <- c('x1a', 'x1b', 'x1c', 'x2a', 'x2b')
beta <- c(1,2,3,1,2)
model2_rho_square <- .7
error_rho_square <- 1 - model2_rho_square
error_sd <- sqrt(error_rho_square / model2_rho_square* sum(beta^2))
model1_rho_square <- sum(beta[1:3]^2) / (sum(beta^2) + error_sd^2)
delta_rho_square <- model2_rho_square - model1_rho_square

x$y <- rnorm(n, beta[1] * x$x1a + beta[2] * x$x1b + beta[3] * x$x1c +
               beta[4] * x$x2a + beta[5] * x$x2b, error_sd)

c(delta_rho_square, model1_rho_square, model2_rho_square)
summary(lm(y~., data=x))$adj.r.square - 
        summary(lm(y~x1a + x1b + x1c, data=x))$adj.r.square

Lý do quan tâm với bootstrap

Tôi đã chạy bootstrap trên một số dữ liệu với khoảng 300 trường hợp và 5 dự đoán trong mô hình đơn giản và 30 dự đoán trong mô hình đầy đủ. Mặc dù ước tính mẫu sử dụng chênh lệch r-vuông đã điều chỉnh là 0.116, khoảng tin cậy được tăng cường chủ yếu là CI95% lớn hơn (0,095 đến 0,214) và giá trị trung bình của bootstraps không ở gần ước tính mẫu. Thay vào đó, giá trị trung bình của các mẫu được tăng cường dường như được tập trung vào ước tính mẫu về sự khác biệt giữa các bình phương r trong mẫu. Điều này bất chấp thực tế là tôi đã sử dụng các ô vuông được điều chỉnh mẫu để ước tính sự khác biệt.

Thật thú vị, tôi đã thử một cách khác của máy tính là$\Delta\rho^2$

1. tính toán thay đổi mẫu r-vuông
2. điều chỉnh thay đổi r-vuông mẫu bằng công thức r-vuông điều chỉnh tiêu chuẩn

Khi được áp dụng cho dữ liệu mẫu, điều này đã làm giảm ước tính của xuống nhưng khoảng tin cậy có vẻ phù hợp với phương pháp tôi đã đề cập đầu tiên, CI95% (.062, .179) với giá trị trung bình là .118.$\Delta \rho^2$.082

Nói chung, tôi lo ngại rằng bootstrapping giả định rằng mẫu là dân số, và do đó, ước tính rằng việc giảm quá mức có thể không thực hiện một cách thích hợp.

Dân số$R^2$

Trước tiên tôi đang cố gắng để hiểu định nghĩa của dân số R bình phương .

Trích dẫn bình luận của bạn:

Hoặc bạn có thể định nghĩa nó không có triệu chứng khi tỷ lệ phương sai được giải thích trong mẫu của bạn khi kích thước mẫu của bạn đạt đến vô cùng.

Tôi nghĩ bạn có nghĩa đây là giới hạn của mẫu khi một lần lặp lại mô hình vô hạn nhiều lần (với cùng các yếu tố dự đoán ở mỗi lần lặp lại). $R^2$

Vậy công thức cho giá trị tiệm cận của mẫu gì? Viết mô hình tuyến tính của bạn như trong https://stats.stackexchange.com/a/58133/8402 và sử dụng các ký hiệu tương tự như liên kết này. Sau đó, người ta có thể kiểm tra xem mẫu sẽ đi tới khi sao chép mô hình vô hạn nhiều lần.$R^²$$\boxed{Y=\mu+\sigma G}$
$R^2$$\boxed{popR^2:=\dfrac{\lambda}{n+\lambda}}$$Y=\mu+\sigma G$

Ví dụ như:

> ## design of the simple regression model lm(y~x0)
> n0 <- 10
> sigma <- 1
> x0 <- rnorm(n0, 1:n0, sigma)
> a <- 1; b <- 2 # intercept and slope
> params <- c(a,b)
> X <- model.matrix(~x0)
> Mu <- (X%*%params)[,1]
> 
> ## replicate this experiment k times 
> k <- 200
> y <- rep(Mu,k) + rnorm(k*n0)
> # the R-squared is:
> summary(lm(y~rep(x0,k)))$r.squared 
[1] 0.971057
> 
> # theoretical asymptotic R-squared:
> lambda0 <- crossprod(Mu-mean(Mu))/sigma^2
> lambda0/(lambda0+n0)
          [,1]
[1,] 0.9722689
> 
> # other approximation of the asymptotic R-squared for simple linear regression:
> 1-sigma^2/var(y)
[1] 0.9721834

Dân số của một mô hình con$R^2$

Bây giờ giả sử mô hình được với và xem xét mô hình .$\boxed{Y=\mu+\sigma G}$$H_1\colon\mu \in W_1$$H_0\colon \mu \in W_0$

Sau đó, tôi đã nói ở trên rằng dân số của mô hình được trong đó và và sau đó người ta chỉ cần có .$R^2$$H_1$$\boxed{popR^2_1:=\dfrac{\lambda_1}{n+\lambda_1}}$$\boxed{\lambda_1=\frac{{\Vert P_{Z_1} \mu\Vert}^2}{\sigma^2}}$$Z_1=[1]^\perp \cap W_1$${\Vert P_{Z_1} \mu\Vert}^2=\sum(\mu_i - \bar \mu)^2$

Bây giờ bạn có xác định dân số của mô hình là giá trị tiệm cận của tính theo mô hình nhưng theo giả định phân phối của mô hình không? Giá trị tiệm cận (nếu có) dường như khó tìm hơn.$R^2$ $H_0$$R^2$$H_0$$H_1$

Thay vì trả lời câu hỏi bạn hỏi, tôi sẽ hỏi tại sao bạn hỏi câu hỏi đó. Tôi giả sử bạn muốn biết liệu

mod.small <- lm(y ~ x1a + x1b + x1c, data=x)

ít nhất là tốt như

mod.large <- lm(y ~ ., data=x)

tại giải thích y. Vì các mô hình này được lồng nhau, nên cách rõ ràng để trả lời câu hỏi này dường như là chạy một phân tích về phương sai so sánh chúng, giống như cách bạn có thể chạy một phân tích về độ lệch cho hai GLM, như

anova(mod.small, mod.large)

Sau đó, bạn có thể sử dụng cải tiến bình phương R mẫu giữa các mô hình như dự đoán tốt nhất của bạn về sự cải thiện phù hợp trong dân số, luôn cho rằng bạn có thể hiểu được dân số R bình phương. Cá nhân tôi không chắc là tôi có thể, nhưng với điều này thì cũng không vấn đề gì.

Nói chung, nếu bạn quan tâm đến số lượng dân số, có lẽ bạn quan tâm đến việc khái quát hóa, do đó, một biện pháp phù hợp mẫu không hoàn toàn là những gì bạn muốn, tuy nhiên, 'đã được sửa chữa'. Ví dụ: xác thực chéo một số lượng ước tính loại và số lượng lỗi thực tế bạn có thể gặp phải từ mẫu, như MSE, dường như sẽ đạt được những gì bạn muốn.

Nhưng rất có thể tôi đang thiếu thứ gì đó ở đây ...

Phần sau đây thể hiện một vài khả năng để tính khoảng tin cậy trên .$\rho^2$

Bootstrap đôi điều chỉnh r-vuông

Dự đoán tốt nhất hiện tại của tôi tại một câu trả lời là thực hiện một bootstrap r-vuông điều chỉnh gấp đôi. Tôi đã thực hiện kỹ thuật này. Nó bao gồm những điều sau đây:

• Tạo một tập hợp các mẫu bootstrap từ dữ liệu hiện tại.
• Đối với mỗi mẫu bootstrapping:
  • tính bình phương r điều chỉnh đầu tiên cho hai mô hình
  • tính bình phương r điều chỉnh thứ hai trên các giá trị r bình phương đã điều chỉnh từ bước trước
  • Trừ mô hình2 từ các giá trị r-vuông được điều chỉnh thứ hai của mô hình1 để có ước tính .$\Delta \rho^2$

Lý do là hình vuông r được điều chỉnh đầu tiên loại bỏ sai lệch được đưa ra bằng cách khởi động (nghĩa là bootstrapping giả định rằng hình vuông r mẫu là hình vuông r dân số). Bình phương r điều chỉnh thứ hai thực hiện hiệu chỉnh chuẩn được áp dụng cho một mẫu bình thường để ước tính bình phương r dân số.

Tại thời điểm này, tất cả những gì tôi có thể thấy là việc áp dụng thuật toán này tạo ra các ước tính có vẻ đúng (nghĩa là theta_hat trong bootstrap rất gần với mẫu theta_hat). Các lỗi tiêu chuẩn phù hợp với trực giác của tôi. Tôi vẫn chưa kiểm tra liệu nó có cung cấp phạm vi bảo hiểm thường xuyên phù hợp trong đó quy trình tạo dữ liệu được biết hay không và tôi cũng không hoàn toàn chắc chắn tại thời điểm này làm thế nào để biện minh có thể được biện minh từ các nguyên tắc đầu tiên

Nếu bất cứ ai thấy bất kỳ lý do tại sao phương pháp này sẽ có vấn đề, tôi rất biết ơn khi nghe về nó.

Mô phỏng bởi Algina et al

Stéphane đã đề cập đến bài báo của Algina, Keselman và Penfield. Họ đã thực hiện một nghiên cứu mô phỏng để kiểm tra độ bao phủ khoảng tin cậy 95% của phương pháp bootstrapping và tiệm cận để ước tính . Các phương pháp bootstrapping của họ chỉ liên quan đến một ứng dụng duy nhất của r-vuông được điều chỉnh, thay vì điều chỉnh kép của r-vuông mà tôi đã đề cập ở trên. Họ phát hiện ra rằng các ước tính bootstrap chỉ cung cấp phạm vi bảo hiểm tốt khi số lượng dự đoán bổ sung trong mô hình đầy đủ là một hoặc có thể là hai. Theo giả thuyết của tôi, đó là bởi vì khi số lượng dự đoán tăng lên, thì sự khác biệt giữa bootstrap r-vuông đơn và đôi được điều chỉnh.$\Delta \rho^2$

Smithson (2001) về việc sử dụng tham số phi tập trung

Smithson (2001) thảo luận về việc tính toán khoảng tin cậy cho một phần dựa trên tham số phi tập trung. Xem trang 615 và 616 nói riêng. Ông gợi ý rằng "thật đơn giản để xây dựng một CI cho và một phần nhưng không phải cho mối tương quan bán nguyệt bình phương." (tr.615)$R^2$$f^2$$R^2$

Người giới thiệu

• Algina, J., Keselman, HJ, & Penfield, RD Khoảng tin cậy RD cho Hệ số tương quan nhiều bán cầu bình phương. PDF
• Smithson, M. (2001). Khoảng tin cậy chính xác cho các kích thước và tham số hiệu ứng hồi quy khác nhau: Tầm quan trọng của phân phối không trung tâm trong các khoảng tính toán. Đo lường giáo dục và tâm lý, 61 (4), 605-632.