Kích thước nút của Nhật Bản có nghĩa là gì trong Khu rừng ngẫu nhiên?

Tôi không hiểu chính xác ý nghĩa của kích thước nút. Tôi biết nút quyết định là gì, nhưng không phải kích thước nút là gì.

machine-learning random-forest bagging

— sói
nguồn

Một cây quyết định hoạt động bằng cách phân vùng đệ quy của tập huấn luyện. Mỗi nút của một cây quyết định có liên quan đến một bộ điểm dữ liệu từ tập huấn luyện: $t$ $n_t$

n_t là kích thước của mỗi nút

Bạn có thể tìm thấy tham số nodesizetrong một số gói rừng ngẫu nhiên, ví dụ R : Đây là kích thước nút tối thiểu , trong ví dụ trên kích thước nút tối thiểu là 10. Tham số này đặt ngầm định độ sâu của cây.

nodesize từ gói rừng ngẫu nhiên R

Kích thước tối thiểu của các nút thiết bị đầu cuối. Đặt con số này lớn hơn sẽ khiến cây nhỏ hơn được trồng (và do đó mất ít thời gian hơn). Lưu ý rằng các giá trị mặc định là khác nhau để phân loại (1) và hồi quy (5).

Trong các gói khác, bạn trực tiếp tìm thấy tham số depth, ví dụ WEKA :

-depth từ gói rừng ngẫu nhiên WEKA

Độ sâu tối đa của cây, 0 cho không giới hạn. (mặc định 0)

— Simone
nguồn

'Hồ sơ' là gì? Bạn có nghĩa là điểm dữ liệu? Tại sao mỗi nút được liên kết với một tập hợp các bản ghi? Tôi hiểu rừng ngẫu nhiên khá tốt, nhưng tôi không biết biệt ngữ có nghĩa là gì.

— wolfsatthedoor

Vâng, tôi có nghĩa là điểm dữ liệu. Thông thường bạn có thể coi các điểm dữ liệu là bản ghi, thể hiện hoặc ví dụ.

— Simone

Vì vậy, có một quy tắc kích thước nút tối thiểu ngón tay cái để tránh cây quá mức? Tôi có thể tưởng tượng nó phụ thuộc vào kích thước của dữ liệu đào tạo nên có lẽ một tỷ lệ nhất định của kích thước tập dữ liệu?

— Seanosapien

Trong các khu rừng ngẫu nhiên, cây được trồng hoàn toàn: kích thước nút là 1. Quá mức là tránh trồng nhiều cây. Trong cây quyết định nó là khó khăn hơn. Cây không được trồng hoàn toàn và bạn phải thực hiện cắt tỉa để tránh bị thừa.

— Simone

Có vẻ như winnowing là một số loại lựa chọn tính năng để đơn giản hóa cây và tránh bị thừa. Tôi đoán cắt tỉa một cây duy nhất luôn có lợi. Thay vào đó, winnowing đôi khi có thể làm giảm độ chính xác nhưng nó đơn giản hóa cây.

— Simone

Không rõ liệu kích thước nút nằm trong mẫu "trong túi" hay lỗi "hết túi". Nếu nó nằm trong mẫu "ngoài túi" thì hạn chế hơn một chút.

— Kị sĩ bóng đêm
nguồn