Cây quyết định tăng hiệu chuẩn trong R hoặc MATLAB


8

Trong một so sánh thực nghiệm về các thuật toán học tập được giám sát (ICML 2006), các tác giả (Rich Caruana và Alexandru Niculescu-Mizil) đã đánh giá một số thuật toán phân loại (SVM, ANN, KNN, Rừng ngẫu nhiên, Cây quyết định, v.v.) và báo cáo rằng cây được tăng cường hiệu chuẩn được xếp hạng là thuật toán học tập tốt nhất trên tổng số tám số liệu khác nhau (Điểm F, Vùng ROC, độ chính xác trung bình, entropy chéo, v.v.).

Tôi muốn kiểm tra các cây quyết định được tăng cường hiệu chuẩn trong một trong các dự án của tôi và tự hỏi liệu có ai có thể đề xuất gói R hay thư viện MATLAB tốt cho việc này không.

Tôi còn khá mới với R, mặc dù tôi có nhiều kinh nghiệm với MATLAB và Python. Tôi đã đọc về gbm , câyrpart của R nhưng tôi không chắc liệu các gói này có thực hiện các cây quyết định được tăng cường hiệu chuẩn hay không nếu có các gói khác thực hiện chúng.

Cảm ơn

Câu trả lời:


3

Về R, tôi sẽ bỏ phiếu cho gói gbm ; có một họa tiết cung cấp một cái nhìn tổng quan tốt: Các mô hình tăng cường tổng quát: Hướng dẫn về gói gbm . Nếu bạn đang tìm kiếm một giao diện hợp nhất cho các thuật toán ML, tôi khuyên bạn nên sử dụng gói caret có các phương tiện tích hợp sẵn để xử lý trước dữ liệu, lấy mẫu lại và đánh giá so sánh hiệu suất của mô hình. Các gói khác cho cây được tăng cường được báo cáo trong Bảng 1 của một trong những họa tiết đi kèm, chức năng điều chỉnh mô hình, dự đoán và hiệu suất . Ngoài ra còn có một ví dụ về điều chỉnh tham số cho các cây được tăng cường trong bài báo JSS , trang 10-11.

Lưu ý: Tôi đã không kiểm tra, nhưng bạn cũng có thể xem xét Weka (có giao diện R, Rweka ).


1
Cảm ơn @chl. Tôi sẽ xem xét chúng. Bạn có biết nếu bất kỳ gói nào trong số này cung cấp đầu ra hiệu chuẩn? (tức là xác suất được hiệu chỉnh, thay vì chỉ là điểm số)
Amelio Vazquez-Reina

1
Tôi hiểu câu hỏi là: "Các phương pháp hồi quy platt hay hồi quy đẳng hướng đã được thực hiện trong R chưa?"
charles

@ user023472 Bạn đã bao giờ tìm thấy câu trả lời cho vấn đề này chưa?
charles
Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.