Có thể cho

Trong OLS, có thể cho của hồi quy trên hai biến cao hơn tổng cho hai hồi quy trên các biến riêng lẻ. $R^2$ $R^2$

$R^2(Y \sim A + B) > R^2(Y \sim A) + R^2(Y \sim B)$

Chỉnh sửa: Ugh, điều này là tầm thường; đó là những gì tôi nhận được khi cố gắng giải quyết các vấn đề mà tôi nghĩ đến khi ở phòng tập thể dục. Xin lỗi vì đã lãng phí thời gian một lần nữa. Câu trả lời rõ ràng là có.

$Y \sim N(0,1)$

$A \sim N(0,1)$

$B = Y - A$

$R^2(Y \sim A + B) = 1$ , rõ ràng. Nhưng phải là 0 trong giới hạn và nên là 0,5 trong giới hạn. $R^2(Y \sim A)$ $R^2 (Y \sim B)$

regression least-squares

— cá bsd
nguồn

Bạn đang hỏi về bất đẳng thức trong phương trình hiển thị (liên quan đến tổng bình phương còn lại ) hoặc bạn đang hỏi về bất đẳng thức liên quan đến câu trước phương trình đó, tức là liên quan đến , hệ số xác định?

R^{2}

$R^2$

— Đức hồng y

Tôi đã quan tâm đến ; chỉnh sửa để khắc phục sự cố.

R^{2}

$R^2$

— bsdfish

Tốt . Có giải thích hình học tốt đẹp của quá.

— hồng y

Bạn có thể chỉnh sửa câu trả lời của mình và đặt câu trả lời thực sự để câu hỏi không bị "trả lời".

— Karl

Bất kỳ cơ hội nào chúng ta có thể nhận được một câu trả lời trực quan cho điều này? nếu

R^{2}

$R^2$ là phần trăm của phương sai được giải thích, vậy thì làm thế nào người ta có thể giải thích nhiều hơn về phương sai với mô hình đầy đủ, hơn là với một mô hình chuyên dụng cho mỗi biến?

— kmace

Câu trả lời:

Đây là một chút R thiết lập một hạt giống ngẫu nhiên sẽ dẫn đến một bộ dữ liệu cho thấy nó hoạt động.

set.seed(103)

d <- data.frame(y=rnorm(20, 0, 1),
                a=rnorm(20, 0, 1),
                b=rnorm(20, 0, 1))

m1 <- lm(y~a, data=d)
m2 <- lm(y~b, data=d)
m3 <- lm(y~a+b, data=d)

r2.a <- summary(m1)[["r.squared"]]
r2.b <- summary(m2)[["r.squared"]]
r2.sum <- summary(m3)[["r.squared"]]

r2.sum > r2.a + r2.b

Không chỉ có thể (như bạn đã thể hiện một cách phân tích) không khó để làm điều đó. Cho 3 biến phân phối thông thường, dường như xảy ra khoảng 40% thời gian.

— Đồi Mako
nguồn

Ồ Các bạn MIT phải có nhiều thời gian hơn thường được giả định ;-)

— xmjx

Tôi bị mắc kẹt trong một ngày dài của các cuộc họp. :)

— Đồi Benjamin Mako

-1

Điều đó là không thể. Ngoài ra, nếu A và B hoàn toàn tương quan với nhau (nếu r của chúng không khác nhau), rsq của hồi quy trên cả hai sẽ nhỏ hơn tổng của hồi quy riêng của chúng.

Lưu ý rằng ngay cả khi A và B hoàn toàn không tương thích, các rsq được điều chỉnh (sẽ xử phạt theo tỷ lệ trường hợp dự đoán thấp) có thể hơi khác nhau giữa hai giải pháp.

Có lẽ bạn muốn chia sẻ nhiều hơn về bằng chứng thực nghiệm khiến bạn gặp phải.

— rolando2
nguồn

Bạn có thể muốn suy nghĩ lại về điều này. Hoặc, hãy thử một mô phỏng. :)

— Đức hồng y

Lưu ý rằng đó là chính xác khi

A

$A$ và

B

$B$ được liên quan chặt chẽ mà một không thấy sự bất bình đẳng nêu trong câu hỏi. :)

— Đức hồng y

Hãy xem xét kịch bản cực đoan sau, trong đó tôi sẽ sử dụng thông thường hơn

X_{1}

$X_1$ và

X_{2}

$X_2$ thay vì

A

$A$ và

B

$B$ . Hãy phân phối bình thường (tiềm ẩn) bivariate. Để cho

Y

$Y$ là hình chiếu của bivariate bình thường lên hàm riêng với giá trị riêng lớn nhất. Để cho

X_{1}

$X_1$ là hình chiếu lên hàm riêng của giá trị riêng nhỏ nhất. Bất cứ gì

0 < ρ < 1

$0 < \rho < 1$ , để cho

X_{2} = ρ Y + \sqrt{1 - ρ^{2}} X

$X_2 = \rho Y + \sqrt{1-\rho^2} X$ . Sau đó,

R^{2}

$R^2$ cho

X_{1}

$X_1$ bằng không và

R^{2}

$R^2$ cho

X_{2}

$X_2$ có thể được thực hiện nhỏ tùy ý. Nhưng

R^{2}

$R^2$ của

X_{1} + X_{2}

$X_1+X_2$ luôn luôn là 1 (tại sao?). Có lẽ, bạn có thể xem xét chỉnh sửa bài viết của bạn.

— Đức hồng y

...và bởi

X_{1} + X_{2}

$X_1 + X_2$ Tôi có nghĩa là mô hình kết hợp cả hai yếu tố dự đoán, không phải tổng số thực tế của chúng. Một ký hiệu tốt hơn có thể sẽ thông qua tổng số trực tiếp

X_{1} \oplus X_{2}

$X_1 \oplus X_2$ .

— Đức Hồng Y