Tính toán thủ công không khớp với RandomForest () để kiểm tra dữ liệu mới

Tôi biết đây là một Rcâu hỏi khá cụ thể , nhưng tôi có thể suy nghĩ về phương sai tỷ lệ được giải thích, , không chính xác. Ở đây đi.$R^2$

Tôi đang cố gắng sử dụng Rgói randomForest. Tôi có một số dữ liệu đào tạo và dữ liệu thử nghiệm. Khi tôi phù hợp với một mô hình rừng ngẫu nhiên, randomForestchức năng cho phép bạn nhập dữ liệu thử nghiệm mới để kiểm tra. Sau đó nó cho bạn biết tỷ lệ phương sai được giải thích trong dữ liệu mới này. Khi tôi nhìn vào điều này, tôi nhận được một số.

Khi tôi sử dụng predict()hàm để dự đoán giá trị kết quả của dữ liệu thử nghiệm dựa trên mô hình phù hợp với dữ liệu huấn luyện và tôi lấy hệ số tương quan bình phương giữa các giá trị này và giá trị kết quả thực tế cho dữ liệu thử nghiệm, tôi nhận được một số khác. Những giá trị này không khớp với nhau .

Đây là một số Rmã để chứng minh vấn đề.

# use the built in iris data
data(iris)

#load the randomForest library
library(randomForest)

# split the data into training and testing sets
index <- 1:nrow(iris)
trainindex <- sample(index, trunc(length(index)/2))
trainset <- iris[trainindex, ]
testset <- iris[-trainindex, ]

# fit a model to the training set (column 1, Sepal.Length, will be the outcome)
set.seed(42)
model <- randomForest(x=trainset[ ,-1],y=trainset[ ,1])

# predict values for the testing set (the first column is the outcome, leave it out)
predicted <- predict(model, testset[ ,-1])

# what's the squared correlation coefficient between predicted and actual values?
cor(predicted, testset[, 1])^2

# now, refit the model using built-in x.test and y.test
set.seed(42)
randomForest(x=trainset[ ,-1], y=trainset[ ,1], xtest=testset[ ,-1], ytest=testset[ ,1])

Lý do mà các giá trị không khớp là do biến thể báo cáo được giải thích trái ngược với phương sai được giải thích. Tôi nghĩ rằng đây là một sự hiểu lầm phổ biến về được duy trì trong sách giáo khoa. Tôi thậm chí đã đề cập đến điều này trên một chủ đề khác vào ngày khác. Nếu bạn muốn có một ví dụ, hãy xem sách giáo khoa (nếu không khá tốt), Saber và Lee, Phân tích hồi quy tuyến tính , thứ 2. chủ biênR $R^2$randomForest$R^2$

Một định nghĩa chung cho là R 2 = 1 - Σ i ( y i - y i ) $R^2$

Đó là, chúng tôi tính toán sai số bình phương trung bình, chia nó cho phương sai của các quan sát ban đầu và sau đó trừ nó khỏi một. (Lưu ý rằng nếu dự đoán của bạn thực sự xấu, giá trị này có thể bị âm.)

Bây giờ, điều xảy ra với hồi quy tuyến tính ( với thuật ngữ chặn! ) Là giá trị trung bình của phù hợp với . Hơn nữa, vectơ dư trực giao với vectơ của các giá trị được trang bị . Khi bạn đặt hai thứ này lại với nhau, thì định nghĩa sẽ giảm xuống thành một thứ thường gặp hơn, nghĩa là, (Tôi đã sử dụng các chỉ số trong để biểu thị hồi quy tuyến tính .)$\hat{y}_i$$\bar{y}$$y - \hat{y}$$\hat{y}$

Cuộc randomForestgọi đang sử dụng định nghĩa đầu tiên, vì vậy nếu bạn thực hiện

   > y <- testset[,1]
   > 1 - sum((y-predicted)^2)/sum((y-mean(y))^2)

bạn sẽ thấy rằng câu trả lời phù hợp.