Câu hỏi được gắn thẻ «xgboost»

Tôi đang cố gắng tìm hiểu sự khác biệt chính giữa GBM và XGBOOST. Tôi đã cố gắng google nó, nhưng không thể tìm thấy bất kỳ câu trả lời hay nào giải thích sự khác biệt giữa hai thuật toán và tại sao xgboost hầu như luôn hoạt động …

40 machine-learning  algorithms  xgboost  ensemble-modeling  gbm 

Tôi đã chạy một mô hình xgboost. Tôi không biết chính xác làm thế nào để giải thích đầu ra của xgb.importance. Ý nghĩa của Gain, Cover và Tần số là gì và làm thế nào để chúng tôi giải thích chúng? Ngoài ra, Split, RealCover và RealCover% có nghĩa …

37 machine-learning  xgboost 

Tôi đang cố gắng đào tạo một mô hình tăng cường độ dốc hơn 50 nghìn ví dụ với 100 tính năng số. XGBClassifierxử lý 500 cây trong vòng 43 giây trên máy của tôi, trong khi GradientBoostingClassifierchỉ xử lý 10 cây (!) trong 1 phút và 2 giây :( …

29 scikit-learn  xgboost  gbm  data-mining  classification  data-cleaning  machine-learning  reinforcement-learning  data-mining  bigdata  dataset  nlp  language-model  stanford-nlp  machine-learning  neural-network  deep-learning  randomized-algorithms  machine-learning  beginner  career  xgboost  loss-function  neural-network  software-recommendation  naive-bayes-classifier  classification  scikit-learn  feature-selection  r  random-forest  cross-validation  data-mining  python  scikit-learn  random-forest  churn  python  clustering  k-means  machine-learning  nlp  sentiment-analysis  machine-learning  programming  python  scikit-learn  nltk  gensim  visualization  data  csv  neural-network  deep-learning  descriptive-statistics  machine-learning  supervised-learning  text-mining  orange  data  parameter-estimation  python  pandas  scraping  r  clustering  k-means  unsupervised-learning 

XGBoost đã và đang làm một công việc tuyệt vời, khi nói đến việc xử lý cả hai biến phụ thuộc phân loại và liên tục. Nhưng, làm cách nào để chọn các tham số được tối ưu hóa cho sự cố XGBoost? Đây là cách tôi áp dụng các …

27 r  python  xgboost 

Tôi đang cố gắng hiểu cái nào tốt hơn (chính xác hơn, đặc biệt là trong các vấn đề phân loại) Tôi đã tìm kiếm các bài viết so sánh LightGBM và XGBoost nhưng chỉ tìm thấy hai: https://medium.com/implodinggradrons/benchmarking-lightgbm-how-fast-is-lightgbm-vs-xgboost-15d224568031 - chỉ về tốc độ nhưng không chính xác. https://github.com/Microsoft/LightGBM/wiki/Experiment - …

25 xgboost 

Tôi đã không rõ ràng về một số khái niệm: XGBoost chuyển đổi người học yếu thành người học mạnh. Lợi thế của việc này là gì? Kết hợp nhiều người học yếu thay vì chỉ sử dụng một cây? Random Forest sử dụng nhiều mẫu khác nhau từ cây …

25 machine-learning  data-mining  random-forest  decision-trees  xgboost 

Tôi hiện đang sử dụng XGBoost trên bộ dữ liệu với 21 tính năng (được chọn từ danh sách 150 tính năng), sau đó mã hóa một lần để nhận được ~ 98 tính năng. Một vài trong số 98 tính năng này có phần dư thừa, ví dụ: một …

23 feature-selection  correlation  xgboost  gbm 

Có cách nào để thêm tầm quan trọng vào các điểm gần đây hơn khi phân tích dữ liệu với xgboost không?

22 xgboost  weighted-data 

Tôi có 3 lớp với bản phân phối này: Class 0: 0.1169 Class 1: 0.7668 Class 2: 0.1163 Và tôi đang sử dụng xgboostđể phân loại. Tôi biết rằng có một tham số được gọi là scale_pos_weight. Nhưng làm thế nào nó được xử lý cho trường hợp 'đa kính' …

17 classification  xgboost  multiclass-classification  unbalanced-classes 

Tôi hiện đang sử dụng XGBoost để dự đoán rủi ro, có vẻ như nó đang làm rất tốt trong bộ phận phân loại nhị phân nhưng đầu ra xác suất bị tắt, tức là thay đổi giá trị của một tính năng trong một quan sát bằng một lượng …

15 machine-learning  classification  xgboost  probability  probability-calibration 

Theo tôi biết, để đào tạo học cách xếp hạng các mô hình, bạn cần có ba điều trong bộ dữ liệu: nhãn hoặc liên quan nhóm hoặc id truy vấn tính năng vector Ví dụ: bộ dữ liệu Microsoft Learning to Rank sử dụng định dạng này (nhãn, id …

14 search  ranking  xgboost  gbm 

Nếu tôi huấn luyện mô hình của mình bằng mã sau: import xgboost as xg params = {'max_depth':3, 'min_child_weight':10, 'learning_rate':0.3, 'subsample':0.5, 'colsample_bytree':0.6, 'obj':'reg:linear', 'n_estimators':1000, 'eta':0.3} features = df[feature_columns] target = df[target_columns] dmatrix = xg.DMatrix(features.values, target.values, feature_names=features.columns.values) clf = xg.train(params, dmatrix) nó kết thúc sau khoảng 1 phút Nếu tôi huấn …

13 machine-learning  python  decision-trees  xgboost  efficiency 

Vấn đề 1: Tôi bối rối trước mô tả của LightGBM liên quan đến cách cây được mở rộng. Họ tuyên bố: Hầu hết các thuật toán học cây quyết định phát triển cây theo cấp độ (độ sâu), như hình ảnh sau: Câu hỏi 1 : Thuật toán "nhất" …

13 decision-trees  xgboost 

Tôi đã cố gắng sử dụng các tính năng quan trọng từ Rừng ngẫu nhiên để thực hiện một số lựa chọn tính năng theo kinh nghiệm cho vấn đề hồi quy trong đó tất cả các tính năng là phân loại và rất nhiều trong số chúng có nhiều …

12 scikit-learn  feature-selection  random-forest  xgboost  categorical-data 

lý lịch: trong xgboost , lần lặp cố gắng khớp một cây f t trên tất cả n ví dụ nhằm giảm thiểu mục tiêu sau:tttftftf_tnnn ∑i=1n[gift(xi)+12hif2t(xi)]∑i=1n[gift(xi)+12hift2(xi)]\sum_{i=1}^n[g_if_t(x_i) + \frac{1}{2}h_if_t^2(x_i)] nơi là thứ tự đầu tiên và các dẫn xuất tự thứ hai qua trước chúng tôi ước lượng tốt nhất …

12 xgboost  gbm