Câu hỏi được gắn thẻ «regularization»

Trên trang 223 trong phần Giới thiệu về Học thống kê , các tác giả tóm tắt sự khác biệt giữa hồi quy sườn và lasso. Họ cung cấp một ví dụ (Hình 6.9) khi "Lasso có xu hướng vượt trội hơn so với hồi quy sườn núi về độ …

36 machine-learning  prediction  lasso  regularization  ridge-regression 

Tôi đang cố gắng phù hợp với mô hình hồi quy tuyến tính đa biến với khoảng 60 biến dự đoán và 30 quan sát, vì vậy tôi đang sử dụng gói glmnet để hồi quy chính quy vì p> n. Tôi đã xem qua tài liệu và các câu …

36 r  regression  regularization  glmnet 

Là chính quy hóa mạng đàn hồi luôn được ưa thích đối với Lasso & Ridge vì nó dường như giải quyết được nhược điểm của các phương pháp này? Trực giác là gì và toán học đằng sau lưới đàn hồi là gì?

35 regression  lasso  regularization  ridge-regression  elastic-net 

Tôi tưởng tượng rằng một hệ số trên một biến càng lớn thì mô hình càng có khả năng "xoay" theo chiều đó, mang lại cơ hội gia tăng để phù hợp với tiếng ồn. Mặc dù tôi nghĩ rằng tôi đã có ý thức hợp lý về mối quan …

33 regression  variance  linear-model  bias  regularization 

Tôi là một kỹ sư phần mềm học máy học, đặc biệt thông qua các khóa học máy của Andrew Ng . Trong khi nghiên cứu hồi quy tuyến tính với chính quy , tôi đã tìm thấy các thuật ngữ khó hiểu: Hồi quy với chuẩn hóa L1 hoặc …

33 regression  terminology  lasso  regularization  ridge-regression 

Làm thế nào để so sánh các phương pháp chuẩn hóa sườn núi, LASSO và thunnet? Ưu điểm và nhược điểm tương ứng của họ là gì? Bất kỳ bài viết kỹ thuật tốt, hoặc ghi chú bài giảng cũng sẽ được đánh giá cao.

33 references  lasso  regularization  ridge-regression  elastic-net 

Tikhonov chính quy hóa và hồi quy sườn là các thuật ngữ thường được sử dụng như thể chúng giống hệt nhau. Có thể chỉ định chính xác sự khác biệt là gì?

33 regression  terminology  regularization  ridge-regression  tikhonov-regularization 

Bất cứ ai cũng có thể đề xuất một giải thích tốt về lý thuyết đằng sau hồi quy bình phương nhỏ nhất một phần (có sẵn trực tuyến) cho người hiểu về SVD và PCA? Tôi đã xem xét nhiều nguồn trực tuyến và không tìm thấy bất cứ …

33 regression  references  regularization  svd  partial-least-squares 

Ví dụ, khi thực hiện hồi quy, hai tham số siêu cần chọn thường là dung lượng của hàm (ví dụ: số mũ lớn nhất của đa thức) và lượng chính quy. Điều tôi bối rối là, tại sao không chỉ chọn một hàm có dung lượng thấp, và sau …

32 regression  machine-learning  optimization  regularization  polynomial 

Lưu ý: Tôi biết rằng L1 có thuộc tính lựa chọn. Tôi đang cố gắng hiểu cái nào sẽ chọn khi lựa chọn tính năng là hoàn toàn không liên quan. Làm thế nào để quyết định sử dụng chính quy (L1 hoặc L2)? Những ưu và nhược điểm của …

30 regression  lasso  regularization  ridge-regression 

Tôi muốn sử dụng GLM và Elastic Net để chọn các tính năng có liên quan đó + xây dựng mô hình hồi quy tuyến tính (nghĩa là cả dự đoán và hiểu biết, vì vậy sẽ tốt hơn nếu chỉ còn lại một vài tham số). Đầu ra liên …

29 r  regularization  glmnet  elastic-net  underdetermined 

Tôi sử dụng hàm auto.arima () trong gói dự báo để phù hợp với các mô hình ARMAX với nhiều biến số khác nhau. Tuy nhiên, tôi thường có một số lượng lớn các biến để chọn và thường kết thúc với một mô hình cuối cùng hoạt động với …

29 r  time-series  lasso  regularization  elastic-net 

Vấn đề lasso có giải pháp dạng đóng: nếu có các cột trực giao. Điều này đã được thể hiện trong chủ đề này: Dẫn xuất của giải pháp lasso dạng đóng .β Lasso j = s g n ( β LS j ) ( | β LS j | …

28 regression  lasso  regularization 

Tôi đã đọc ba lý do chính để chuẩn hóa các biến trước khi một số thứ như Lassohồi quy: 1) Khả năng giải thích của các hệ số. 2) Khả năng xếp hạng tầm quan trọng của hệ số theo độ lớn tương đối của ước tính hệ số …

28 normalization  lasso  standardization  regularization  shrinkage 

Khi tôi sử dụng GAM, nó mang lại cho tôi DF còn lại là (dòng cuối cùng trong mã). Điều đó nghĩa là gì? Vượt ra ngoài ví dụ về GAM, nói chung, số bậc tự do có thể là một số không nguyên?26.626.626.6 > library(gam) > summary(gam(mpg~lo(wt),data=mtcars)) Call: gam(formula …

27 r  degrees-of-freedom  gam  machine-learning  pca  lasso  probability  self-study  bootstrap  expected-value  regression  machine-learning  linear-model  probability  simulation  random-generation  machine-learning  distributions  svm  libsvm  classification  pca  multivariate-analysis  feature-selection  archaeology  r  regression  dataset  simulation  r  regression  time-series  forecasting  predictive-models  r  mean  sem  lavaan  machine-learning  regularization  regression  conv-neural-network  convolution  classification  deep-learning  conv-neural-network  regression  categorical-data  econometrics  r  confirmatory-factor  scale-invariance  self-study  unbiased-estimator  mse  regression  residuals  sampling  random-variable  sample  probability  random-variable  convergence  r  survival  weibull  references  autocorrelation  hypothesis-testing  distributions  correlation  regression  statistical-significance  regression-coefficients  univariate  categorical-data  chi-squared  regression  machine-learning  multiple-regression  categorical-data  linear-model  pca  factor-analysis  factor-rotation  classification  scikit-learn  logistic  p-value  regression  panel-data  multilevel-analysis  variance  bootstrap  bias  probability  r  distributions  interquartile  time-series  hypothesis-testing  normal-distribution  normality-assumption  kurtosis  arima  panel-data  stata  clustered-standard-errors  machine-learning  optimization  lasso  multivariate-analysis  ancova  machine-learning  cross-validation