Kết quả lý thuyết cho rừng ngẫu nhiên?


9

Rừng ngẫu nhiên có một danh tiếng trong số các học viên là một trong những kỹ thuật phân loại hiệu quả nhất. Tuy nhiên, chúng ta không bắt gặp chúng nhiều trong các tài liệu lý thuyết học tập, từ đó tôi cho rằng không có kết quả lý thuyết sâu sắc. Nếu một người muốn đi sâu vào lý thuyết này, người ta sẽ bắt đầu từ đâu?


2
Có một bài báo mới trong SODA'15 sắp tới có thể có liên quan. Xem các cuộc
họp.siam.org/sess/dsp_talk.cfm?p=68795

@ChandraChekuri, tôi chỉ thấy một bản tóm tắt, nhưng không phải là một bài báo. Có giấy tờ đầy đủ không? Và nó có liên quan gì đến phương pháp học máy ngẫu nhiên trong rừng (đối với các nhiệm vụ học tập / phân loại có giám sát) không?
DW

@DW Viết thư cho các tác giả và xem họ có sẵn sàng chia sẻ một bản sao không. Tôi nhận thức được kết quả nhưng bản thân tôi đã không nhìn thấy bài báo.
Chandra Chekuri

Câu trả lời:


5

Theo câu trả lời của Simone, Gerard Biau có một số bài viết rất hay về sự hội tụ và tính nhất quán cho các khu rừng ngẫu nhiên. Các phân tích dành cho các phiên bản thuật toán đơn giản hơn một chút so với Breiman 2001, nhưng ít đơn giản hơn so với kết quả trước đó.

Các bài báo của Biau (cùng với các cộng tác viên của anh ấy) đều có sẵn trên trang web của anh ấy:

http://www.lsta.upmc.fr/BIAU/publications.html

Một công việc đặc biệt có liên quan là một công việc "báo chí" về tính nhất quán: http://www.lsta.upmc.fr/BIAU/sbv.pdf

Có 2-3 giấy tờ khác với nội dung rừng ngẫu nhiên. Tôi mới tham gia cstheory, vì vậy tôi không thể đăng nhiều hơn hai liên kết nhưng trang web ấn phẩm ở trên có tất cả.

Tôi hy vọng điều này là giup đỡ. Có vẻ như có một sự bùng nổ của hoạt động gần đây kể từ năm 2008, sau một thời gian sử dụng phương pháp chủ yếu theo kinh nghiệm. Và tin tốt là, các cuộc điều tra lý thuyết dường như cho thấy phương pháp này mạnh mẽ và có các đặc tính tốt.


6

Tôi đoán bạn đã xem bài báo năm 2001 của Breiman về RF. Tôi chỉ có thể chỉ ra một vài tài liệu tham khảo khác:

So sánh thực nghiệm về các đơn giản hóa RF khác nhau cho phép chứng minh các định lý: Thu hẹp khoảng cách: Rừng ngẫu nhiên trong lý thuyết và trong thực tiễn

Đây là tài liệu tham khảo mới nhất tôi có thể cung cấp. Trong bài báo này, bạn cũng có thể tìm thấy một số trích dẫn của các bài báo của Biau về công việc ban đầu về kết quả lý thuyết cho RF.

Nếu bạn quan tâm đến kết quả lý thuyết về tầm quan trọng của biến trong RF: Hiểu về tầm quan trọng của biến trong rừng của cây ngẫu nhiên

Thật ra tôi mới phát hiện ra rằng tác giả của bài báo cuối cùng (Gilles Louppe) vừa đăng trên arxiv luận án tiến sĩ của ông (v2): Tìm hiểu về rừng ngẫu nhiên: Từ lý thuyết đến thực tiễn

Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.