Các lô dư: tại sao biểu đồ so với các giá trị được trang bị, không quan sát các giá trị ?

Trong bối cảnh hồi quy OLS, tôi hiểu rằng một biểu đồ dư (so với các giá trị được trang bị) được xem theo quy ước để kiểm tra phương sai không đổi và đánh giá đặc tả mô hình. Tại sao phần dư được vẽ dựa trên sự phù hợp, mà không phải là giá trị ? Làm thế nào là thông tin khác nhau từ hai lô này?$Y$

Tôi đang làm việc trên một mô hình sản xuất các lô dư sau đây:

Vì vậy, âm mưu so với các giá trị được trang bị có vẻ tốt trong nháy mắt nhanh chóng, nhưng âm mưu thứ hai so với giá trị có một mẫu. Tôi đang tự hỏi tại sao một mô hình rõ rệt như vậy cũng sẽ không biểu hiện trong cốt truyện còn lại và phù hợp ....$Y$

Tôi không tìm kiếm sự giúp đỡ trong việc chẩn đoán các vấn đề với mô hình, mà chỉ cố gắng tìm hiểu sự khác biệt (nói chung) giữa (1) dư so với âm mưu phù hợp & (2) dư so với âm mưu $Y$

Đối với giá trị của nó, tôi chắc chắn rằng mẫu lỗi trong biểu đồ thứ hai là do (các) biến bị bỏ qua ảnh hưởng đến DV. Tôi hiện đang làm việc để có được dữ liệu đó, mà tôi mong đợi sẽ giúp phù hợp với tổng thể và đặc điểm kỹ thuật. Tôi đang làm việc với dữ liệu bất động sản: DV = Giá bán. IV: Sq.ft của ngôi nhà, # không gian nhà để xe, năm xây dựng, năm xây dựng . $^2$

Bằng cách xây dựng, thuật ngữ lỗi trong mô hình OLS không tương thích với các giá trị quan sát được của các hiệp phương X. Điều này sẽ luôn đúng với dữ liệu được quan sát ngay cả khi mô hình mang lại các ước tính sai lệch không phản ánh các giá trị thực của tham số vì giả định của mô hình bị vi phạm (như vấn đề biến bị bỏ qua hoặc vấn đề có quan hệ nhân quả ngược). Các giá trị dự đoán hoàn toàn là một hàm của các hiệp phương sai này, vì vậy chúng cũng không tương thích với thuật ngữ lỗi. Do đó, khi bạn vẽ các phần dư so với các giá trị dự đoán, chúng sẽ luôn trông ngẫu nhiên vì chúng thực sự không tương thích khi xây dựng công cụ ước tính. Ngược lại, điều này hoàn toàn có thể (và thực sự có thể xảy ra) đối với thuật ngữ lỗi của một mô hình có tương quan với Y trong thực tế. Ví dụ, với biến X nhị phân, Y thực sự càng từE(Y | X = 1)hoặc E(Y | X = 0)sau đó phần dư sẽ càng lớn. Đây là trực giác tương tự với dữ liệu mô phỏng trong R nơi chúng ta biết mô hình không thiên vị vì chúng ta kiểm soát quá trình tạo dữ liệu:

rm(list=ls())
set.seed(21391209)

trueSd <- 10
trueA <- 5
trueB <- as.matrix(c(3,5,-1,0))
sampleSize <- 100

# create independent x-values
x1 <- rnorm(n=sampleSize, mean = 0, sd = 4)
x2 <-  rnorm(n=sampleSize, mean = 5, sd = 10)
x3 <- 3 + x1 * 4 + x2 * 2 + rnorm(n=sampleSize, mean = 0, sd = 10)
x4 <- -50 + x1 * 7 + x2 * .5 + x3 * 2  + rnorm(n=sampleSize, mean = 0, sd = 20)
X = as.matrix(cbind(x1,x2,x3,x4))


# create dependent values according to a + bx + N(0,sd)
Y <-  trueA +  X %*%  trueB  +rnorm(n=sampleSize,mean=0,sd=trueSd)


df = as.data.frame(cbind(Y,X))
colnames(df) <- c("y", "x1", "x2", "x3", "x4")
ols = lm(y~x1+x2+x3+x4, data = df)
y_hat = predict(ols, df)
error = Y - y_hat
cor(y_hat, error) #Zero
cor(Y, error) #Not Zero

Chúng tôi nhận được cùng một kết quả tương quan bằng không với một mô hình thiên vị, ví dụ nếu chúng tôi bỏ qua x1.

ols2 = lm(y~x2+x3+x4, data = df)
y_hat2 = predict(ols2, df)
error2 = Y - y_hat2
cor(y_hat2, error2) #Still zero
cor(Y, error2) #Not Zero

Hai sự thật mà tôi cho rằng bạn hài lòng với tôi chỉ nêu:

tôi. $y_i = \hat{y}_i+\hat{e}_i$

ii. $\text{Cov}(\hat{y}_i,\hat{e}_i)=0$

Sau đó:

$\text{Cov}(y_i,\hat{e}_i)=\text{Cov}(\hat{y}_i+\hat{e}_i,\hat{e}_i)$

$\qquad=\text{Cov}(\hat{y}_i,\hat{e}_i) +\text{Cov}(\hat{e}_i,\hat{e}_i)$

$\qquad=0 +\sigma^2_e$

$\qquad=\sigma^2_e$

Vì vậy, trong khi giá trị được trang bị không tương quan với phần dư, quan sát là .

Trong thực tế, điều này là do cả quan sát và phần dư có liên quan đến thuật ngữ lỗi.

Điều này thường làm cho việc sử dụng lô dư cho mục đích chẩn đoán có phần khó khăn hơn.