Giải thích ước tính lỗi túi cho RandomForestRegressor

Tôi đang sử dụng công cụ hồi quy RandomForest trên dữ liệu của mình và tôi có thể thấy rằng điểm oob thu được là 0,83. Tôi không chắc làm thế nào mà nó lại xuất hiện như thế này. Ý tôi là mục tiêu của tôi là giá trị cao trong phạm vi 10 ^ 7. Vì vậy, nếu đó là MSE thì nó sẽ cao hơn nhiều. Tôi không hiểu những gì 0.83 biểu thị ở đây.

Tôi đang sử dụng RandomForestRegressor của bộ công cụ sklearn.

tôi làm

model = RandomForestRegressor (max_depth = 7, n_estimators = 100, oob_score = True, n_jobs = -1) model.fit (trainX, trainY)

Sau đó, tôi thấy model.oob_score_ và tôi nhận được các giá trị như 0.83809026152005295

Để so sánh các giá trị mục tiêu thực tế (tức là chính xác / thực tế) với các giá trị mục tiêu ước tính (nghĩa là dự đoán) theo rừng ngẫu nhiên, scikit-learn không sử dụng MSE mà là (không giống như MATLAB hoặc ( Breiman 1996b ) ), như bạn có thể thấy trong mã của Forest.py :$R^2$

self.oob_score_ = 0.0
for k in xrange(self.n_outputs_):
    self.oob_score_ += r2_score(y[:, k], predictions[:, k])
self.oob_score_ /= self.n_outputs_

r2_score()tính hệ số xác định aka. R2 , có điểm số tốt nhất có thể là 1.0 và giá trị thấp hơn sẽ tệ hơn.

Tài chính

• Lỗi túi trong Rừng ngẫu nhiên là gì?
• Sự khác biệt giữa hệ số xác định của điểm xác định và điểm trung bình có nghĩa là lỗi bình phương là gì?
• Breiman, Leo. Ước tính tiền túi . Báo cáo kỹ thuật, Cục Thống kê, Đại học California Berkeley, Berkeley CA 94708, 1996b. 33, 34, 1996.