Hồi quy với biến độc lập nghịch đảo

Giả sử tôi có -vector của các biến phụ thuộc và -vector của biến độc lập. Khi được vẽ với , tôi thấy rằng có một mối quan hệ tuyến tính (xu hướng tăng) giữa hai. Bây giờ, điều này cũng có nghĩa rằng có một xu hướng giảm tuyến tính giữa và .Y N X Y $N$$Y$$N$$X$$Y$ Y$\frac{1}{X}$$Y$$X$

Bây giờ, nếu tôi chạy hồi quy: và nhận giá trị được trang bịY = β$Y = \beta * X + \epsilon$$\hat{Y} = \hat{\beta}X$

Sau đó, tôi chạy hồi quy: và nhận giá trị được trang bị ~ Y = α$Y = \alpha * \frac{1}{X} + \epsilon$$\tilde{Y} = \hat{\alpha} \frac{1}{X}$

Hai giá trị dự đoán, và có xấp xỉ bằng nhau không? ~ $\hat{Y}$$\tilde{Y}$

 Khi Y được vẽ với , tôi thấy rằng có một mối quan hệ tuyến tính (xu hướng tăng) giữa hai. Bây giờ, điều này cũng có nghĩa là có một xu hướng giảm tuyến tính giữa Y và X$\frac{1}{X}$

Câu cuối cùng là sai: có một xu hướng giảm, nhưng nó không có nghĩa là tuyến tính:

Tôi sử dụng một là hàm cộng với một chút tiếng ồn trên . Như bạn có thể thấy, trong khi âm mưu chống lại mang lại hành vi tuyến tính, chống lại xa tuyến tính. YY$f(x) = \frac{1}{x}$$Y$$Y$ Y$\frac{1}{X}$$Y$$X$

(@whuber chỉ ra rằng âm mưu chống lại không có vẻ tương đồng. Tôi nghĩ rằng nó dường như có phương sai cao hơn cho thấp vì mật độ trường hợp cao hơn nhiều dẫn đến phạm vi lớn hơn về cơ bản là những gì chúng ta Trên thực tế, dữ liệu là homoscedastic: Tôi đã sử dụng để tạo dữ liệu, do đó không phụ thuộc vào kích thước của )$Y$ Y$\frac{1}{X}$$Y$Y = 1 / X + rnorm (length (X), sd = 0.1)$X$

Vì vậy, nói chung mối quan hệ là rất nhiều phi tuyến tính. Đó là, trừ khi phạm vi của bạn quá hẹp để bạn có thể xấp xỉĐây là một ví dụ:d $X$$\frac{d \frac{1}{x}}{dx} = - \frac{1}{x^2} \approx const.$

Điểm mấu chốt:

• Nói chung, rất khó để ước tính hàm bằng hàm tuyến tính hoặc đa thức. Và không có thời hạn bù, bạn sẽ không bao giờ có được xấp xỉ hợp lý.$\frac{1}{X}$
• Nếu khoảng đủ hẹp để cho phép xấp xỉ tuyến tính, dù sao bạn cũng không thể từ dữ liệu để đoán mối quan hệ phải là và không phải tuyến tính ( ).$X$$\frac{1}{X}$$X$

Tôi thấy không có lý do gì để chúng "gần bằng nhau" nói chung - nhưng chính xác thì ý của bạn là gì bằng nhau?

Đây là một ví dụ về đồ chơi:

library(ggplot2)
n <- 10^3
df <- data.frame(x=runif(n, min=1, max=2))
df$y <- 5 / df$x + rnorm(n)
p <- (ggplot(df, aes(x=x, y=y)) +
      geom_point() +
      geom_smooth(method="lm", formula=y ~ 0 + x) +  # Blue, OP's y hat
      geom_smooth(method="lm", formula=y ~ 0 + I(x^-1), color="red"))  # Red, OP's y tilde
p

Bức tranh:

Mô hình "màu xanh" sẽ hoạt động tốt hơn nhiều nếu được phép có thuật ngữ chặn (tức là không đổi) ...