Câu hỏi được gắn thẻ «boosting»

Điểm giống và khác nhau giữa 3 phương pháp này là gì: Đóng bao, Tăng cường, Xếp chồng? cái nào tốt nhất? Và tại sao? Bạn có thể cho tôi một ví dụ cho mỗi?

245 machine-learning  boosting  ensemble  bagging  model-averaging 

Tăng cường cây dốc theo đề xuất của Friedman sử dụng cây quyết định làm người học cơ sở. Tôi đang tự hỏi liệu chúng ta nên làm cho cây quyết định cơ sở phức tạp nhất có thể (phát triển đầy đủ) hay đơn giản hơn? Có bất kỳ …

110 machine-learning  random-forest  cart  boosting  ensemble 

Tôi có một dữ liệu mất cân bằng lớp và tôi muốn điều chỉnh các siêu đường kính của tress được tăng cường bằng xgboost. Câu hỏi Có tương đương với gridsearchcv hoặc randomsearchcv cho xgboost không? Nếu không, cách tiếp cận được đề xuất để điều chỉnh các tham …

68 machine-learning  cross-validation  xgboost  boosting 

Định nghĩa ngắn về tăng cường : Một tập hợp những người học yếu có thể tạo ra một người học mạnh không? Một người học yếu được định nghĩa là một bộ phân loại chỉ tương quan một chút với phân loại thực sự (nó có thể gắn nhãn …

51 machine-learning  random-forest  boosting  bagging 

Tôi đang cố gắng tìm hiểu sự khác biệt giữa GBM & Adaboost. Đây là những gì tôi đã hiểu cho đến nay: Có cả hai thuật toán tăng cường, học hỏi từ các lỗi của mô hình trước đó và cuối cùng tạo ra một tổng số trọng số …

48 boosting  gbm  adaboost 

Trong khi tìm hiểu về Gradient Boosting, tôi chưa nghe về bất kỳ ràng buộc nào liên quan đến các thuộc tính của "trình phân loại yếu" mà phương thức sử dụng để xây dựng và tập hợp mô hình. Tuy nhiên, tôi không thể tưởng tượng một ứng dụng …

35 regression  machine-learning  boosting  ensemble  gradient 

Tôi đã theo dõi các cuộc thi của Kaggle trong một thời gian dài và tôi nhận ra rằng nhiều chiến lược chiến thắng liên quan đến việc sử dụng ít nhất một trong số "ba lô lớn": đóng gói, tăng cường và xếp chồng. Đối với hồi quy, thay …

33 predictive-models  boosting  bagging  stacking  model-averaging 

Có tồn tại một số triển khai của họ mô hình GBDT, chẳng hạn như: GBM XGBoost LightGBM Catboost. Sự khác biệt toán học giữa các triển khai khác nhau là gì? Catboost dường như vượt trội so với các triển khai khác ngay cả khi chỉ sử dụng các …

33 boosting  xgboost 

Tôi đang tìm kiếm một lời giải thích về tầm quan trọng của biến tương đối được tính toán trong Gradient Boosted Tree không quá chung chung / đơn giản như: Các biện pháp dựa trên số lần một biến được chọn để phân tách, được cân bằng bởi sự …

33 machine-learning  data-mining  predictive-models  cart  boosting 

Một số hướng dẫn hữu ích để kiểm tra các tham số (ví dụ độ sâu tương tác, độ trễ, tốc độ mẫu, v.v.) bằng GBM là gì? Giả sử tôi có 70-100 tính năng, dân số 200.000 và tôi dự định kiểm tra độ sâu tương tác của 3 …

31 r  hypothesis-testing  cart  boosting 

Tôi đã có một câu hỏi về tham số độ sâu tương tác trong gbm trong R. Đây có thể là một câu hỏi không, tôi xin lỗi, nhưng tham số mà tôi tin là biểu thị số nút thiết bị đầu cuối trong cây, về cơ bản chỉ ra …

30 r  machine-learning  boosting  gbm 

Ví dụ: lấy hàm mục tiêu của mô hình XGBoost trên lần lặp thứ :ttt L( t )= ∑i = 1nℓ ( ytôi, y^( t - 1 )tôi+ft(xi))+Ω(ft)L(t)=∑i=1nℓ(yi,y^i(t−1)+ft(xi))+Ω(ft)\mathcal{L}^{(t)}=\sum_{i=1}^n\ell(y_i,\hat{y}_i^{(t-1)}+f_t(\mathbf{x}_i))+\Omega(f_t) Trong đó là hàm mất, là đầu ra của cây và là chính quy. Một trong những bước chính (nhiều) để tính …

28 optimization  loss-functions  boosting  xgboost  taylor-series 

Xem thêm một câu hỏi tương tự trên stats.SE . Trong các thuật toán thúc đẩy như AdaBoost và LPBoost , người ta biết rằng những người học "yếu" được kết hợp chỉ phải thực hiện tốt hơn cơ hội có ích, từ Wikipedia: Các trình phân loại mà nó …

28 machine-learning  theory  boosting 

Cách dễ nhất để hiểu tăng là gì? Tại sao nó không tăng các phân loại rất yếu "đến vô cùng" (sự hoàn hảo)?

23 machine-learning  boosting 

Tôi có một số câu hỏi liên quan chặt chẽ liên quan đến những người học yếu trong việc học tập (ví dụ như thúc đẩy). Điều này nghe có vẻ ngu ngốc, nhưng lợi ích của việc sử dụng yếu so với người học mạnh là gì? (ví dụ …

22 machine-learning  boosting  ensemble