Phạm vi có thể của

Giả sử là ba chuỗi thời gian, , và$X_1$$X_2$$Y$

Chạy hồi quy tuyến tính thông thường trên ~ ( ), chúng tôi nhận . Hồi quy tuyến tính thông thường ~ được . Giả sử$Y$$X_1$$Y = b X_1 + b_0 + \epsilon$$R^2 = U$$Y$$X_2$$R^2 = V$$U < V$

Giá trị tối thiểu và tối đa có thể có của trên hồi quy ~ ( ) là gì?$R^2$$Y$$X_1 + X_2$$Y = b_1 X_1 + b_2 X_2 + b_0 + \epsilon$

Tôi tin rằng tối thiểu phải là + một giá trị nhỏ, vì việc thêm các biến mới luôn tăng , nhưng tôi không biết cách định lượng giá trị nhỏ này và tôi không biết cách lấy phạm vi tối đa .$R^2$$V$$R^2$

1) EDIT: Cảm nhận Đức Hồng Y của dưới đây cho thấy rằng câu trả lời chính xác cho phút $R^2$ câu hỏi là $V$ . Do đó tôi đang xóa "thú vị" của mình, nhưng cuối cùng không chính xác, hãy trả lời cho phần đó của bài viết của OP.

2) tối đa $R^2$là 1. Hãy xem xét ví dụ sau, phù hợp với trường hợp của bạn.

x1 <- rnorm(100)
x2 <- rnorm(100)
y <- x1 + 2*x2

> summary(lm(y~x1))$r.squared
[1] 0.2378023                 # This is U
> summary(lm(y~x2))$r.squared
[1] 0.7917808                 # This is V; U < V
> summary(lm(y~x1+x2))$r.squared
[1] 1

Ở đây chúng tôi đang sửa phương sai của tại 0. Nếu bạn muốn σ 2 ϵ > 0 , tuy nhiên, mọi thứ thay đổi một chút. Bạn có thể lấy R 2 tùy tiện gần 1 bằng cách làm cho σ 2 ε nhỏ hơn và nhỏ hơn, nhưng, như với các vấn đề tối thiểu, bạn không thể đạt được điều đó, vì vậy không có tối đa. 1 trở thành supremum , vì nó luôn luôn lớn hơn R 2 nhưng nó cũng giới hạn như σ 2 ε → 0 .$\epsilon$$\sigma^2_\epsilon > 0$$R^2$$\sigma^2_\epsilon$$R^2$$\sigma^2_\epsilon \to 0$

Hãy tương đương với mối tương quan giữa X 1 và X 2 , r 1 , Y bằng mối tương quan giữa X 1 và Y , và r 2 , Y tương quan giữa X 2 và Y . Khi đó R 2 cho mô hình đầy đủ chia cho V bằng$r_{1,2}$$X_1$$X_2$$r_{1,Y}$$X_1$$Y$$r_{2,Y}$$X_2$$Y$$R^2$$V$

Vậy cho mô hình đầy đủ chỉ bằng V nếu r 1 , 2 = 0 và r 2 1 , Y = U = 0 hoặc$R^2$$V$$r_{1,2} = 0$$r_{1,Y}^2 = U = 0$

Nếu , R 2 cho mô hình đầy đủ bằng U + V .$r_{1,2} = 0$$R^2$$U + V$

Không có ràng buộc đối với và V , thì tối thiểu là V và sau đó tối đa là min nhỏ hơn ( V + U , 1 ) . Điều này là do hai biến thể tương quan hoàn hảo (trong trường hợp này thêm biến thứ hai không làm thay đổi R 2 tại tất cả) hoặc họ có thể là trực giao trong trường hợp đó bao gồm cả kết quả trong U + V . Nó đã được chỉ ra một cách đúng đắn trong các ý kiến ​​rằng điều này cũng đòi hỏi mỗi cái phải trực giao với 1 , vectơ cột của 1s.$U$$V$$V$$\min(V + U, 1)$$R^2$$U + V$$\mathbf{1}$

Bạn đã thêm ràng buộc . Tuy nhiên, vẫn có thể U = 0 . Đó là, X 1 ⊥ Y , trong trường hợp này, phút = max = V + 0 . Cuối cùng, có thể là X 1 ⊥ X 2 để phía trên ràng buộc vẫn min ( V + U , 1 ) .$U < V \implies X_{1} \neq X_{2}$$U = 0$$X_{1} \perp Y$$\min = \max = V + 0$$X_{1} \perp X_{2}$$\min(V + U, 1)$

Nếu bạn biết nhiều hơn về mối quan hệ giữa và X 2 , tôi nghĩ bạn có thể nói nhiều hơn.$X_{1}$$X_{2}$