Câu hỏi được gắn thẻ «shrinkage»

Tôi đang tìm kiếm một định nghĩa phi kỹ thuật về Lasso và nó được sử dụng để làm gì.

81 regression  lasso  regularization  shrinkage 

Hãy xem xét ba hiện tượng sau đây. Nghịch lý của Stein: đưa ra một số dữ liệu từ phân phối chuẩn nhiều biến số trong Rn,n≥3Rn,n≥3\mathbb R^n, \: n\ge 3 , mẫu trung bình không phải là một ước lượng rất tốt của giá trị trung bình thật sự. …

64 regression  mixed-model  ridge-regression  shrinkage  steins-phenomenon 

Mùa lễ đã cho tôi cơ hội cuộn tròn bên đống lửa với The Elements of Statistics Learning . Xuất phát từ quan điểm kinh tế lượng (thường xuyên), tôi gặp khó khăn trong việc sử dụng các phương pháp thu nhỏ như hồi quy sườn, lasso và hồi quy …

61 lasso  ridge-regression  shrinkage  lars 

Tôi hiểu rằng ước tính hồi quy sườn núi là giảm thiểu tổng bình phương còn lại và hình phạt đối với kích thước củaββ\betaββ\beta βridge=(λID+X′X)−1X′y=argmin[RSS+λ∥β∥22]βridge=(λID+X′X)−1X′y=argmin⁡[RSS+λ‖β‖22]\beta_\mathrm{ridge} = (\lambda I_D + X'X)^{-1}X'y = \operatorname{argmin}\big[ \text{RSS} + \lambda \|\beta\|^2_2\big] Tuy nhiên, tôi không hiểu đầy đủ ý nghĩa của thực tế là …

59 regression  least-squares  ridge-regression  shrinkage 

Để giải quyết các vấn đề về lựa chọn mô hình, một số phương thức (LASSO, hồi quy sườn, v.v.) sẽ thu nhỏ các hệ số của các biến dự đoán về 0. Tôi đang tìm kiếm một lời giải thích trực quan về lý do tại sao điều này …

55 lasso  regularization  ridge-regression  intuition  shrinkage 

Xem xét một vấn đề hồi quy cũ tốt với các yếu tố dự đoán và cỡ mẫu . Sự khôn ngoan thông thường là công cụ ước tính OLS sẽ vượt trội và thường sẽ vượt trội hơn so với công cụ ước tính hồi quy sườn:Đó là tiêu …

50 cross-validation  regularization  overfitting  ridge-regression  shrinkage 

Công thức chính xác được sử dụng trong R lm() cho bình phương R đã điều chỉnh là gì? Làm thế nào tôi có thể giải thích nó? Công thức r bình phương điều chỉnh Dường như tồn tại một số công thức để tính bình phương R đã điều …

35 r  regression  r-squared  lm  shrinkage 

Tôi đã đọc ba lý do chính để chuẩn hóa các biến trước khi một số thứ như Lassohồi quy: 1) Khả năng giải thích của các hệ số. 2) Khả năng xếp hạng tầm quan trọng của hệ số theo độ lớn tương đối của ước tính hệ số …

28 normalization  lasso  standardization  regularization  shrinkage 

Giấy ròng đàn hồi ban đầu Zou & Hastie (2005) Chính quy hóa và lựa chọn biến qua lưới đàn hồi giới thiệu hàm mất mạng đàn hồi cho hồi quy tuyến tính (ở đây tôi giả sử tất cả các biến được tập trung và chia tỷ lệ thành …

27 regression  regularization  glmnet  elastic-net  shrinkage 

Tôi đã từng nghe một phương pháp sử dụng Lasso hai lần (như một Lasso đôi) trong đó bạn thực hiện Lasso trên tập biến ban đầu, giả sử S1, lấy một tập thưa thớt gọi là S2, và sau đó thực hiện lại Lasso trên tập S2 để lấy …

26 regression  lasso  regularization  shrinkage  lars 

Hồi quy LASSO thu nhỏ các hệ số về 0, do đó cung cấp lựa chọn mô hình hiệu quả. Tôi tin rằng trong dữ liệu của mình có những tương tác có ý nghĩa giữa hiệp phương sai danh nghĩa và liên tục. Tuy nhiên, không nhất thiết là …

25 machine-learning  lasso  glmnet  shrinkage  penalized 

Đối với mô hình tuyến tính , thuật ngữ co rút luôn là .y=β0+xβ+εy=β0+xβ+εy=\beta_0+x\beta+\varepsilonP(β)P(β)P(\beta) Lý do nào khiến chúng tôi không thu hẹp thuật ngữ (chặn) sai lệch ? Chúng ta có nên thu hẹp thuật ngữ thiên vị trong các mô hình mạng thần kinh?β0β0\beta_0

21 regression  neural-networks  ridge-regression  intercept  shrinkage 

Độ chính xác được định nghĩa là: p = true positives / (true positives + false positives) Có đúng không, như true positivesvà false positivescách tiếp cận 0, độ chính xác tiếp cận 1? Câu hỏi tương tự để nhớ lại: r = true positives / (true positives + false …

20 precision-recall  data-visualization  logarithm  references  r  networks  data-visualization  standard-deviation  probability  binomial  negative-binomial  r  categorical-data  aggregation  plyr  survival  python  regression  r  t-test  bayesian  logistic  data-transformation  confidence-interval  t-test  interpretation  distributions  data-visualization  pca  genetics  r  finance  maximum  probability  standard-deviation  probability  r  information-theory  references  computational-statistics  computing  references  engineering-statistics  t-test  hypothesis-testing  independence  definition  r  censoring  negative-binomial  poisson-distribution  variance  mixed-model  correlation  intraclass-correlation  aggregation  interpretation  effect-size  hypothesis-testing  goodness-of-fit  normality-assumption  small-sample  distributions  regression  normality-assumption  t-test  anova  confidence-interval  z-statistic  finance  hypothesis-testing  mean  model-selection  information-geometry  bayesian  frequentist  terminology  type-i-and-ii-errors  cross-validation  smoothing  splines  data-transformation  normality-assumption  variance-stabilizing  r  spss  stata  python  correlation  logistic  logit  link-function  regression  predictor  pca  factor-analysis  r  bayesian  maximum-likelihood  mcmc  conditional-probability  statistical-significance  chi-squared  proportion  estimation  error  shrinkage  application  steins-phenomenon 

Tôi đã đọc về công cụ ước tính James-Stein. Nó được định nghĩa, trong ghi chú này , như θ^=(1−p−2∥X∥2)Xθ^=(1−p−2‖X‖2)X \hat{\theta}=\left(1 - \frac{p-2}{\|X\|^2}\right)X Tôi đã đọc bằng chứng nhưng tôi không hiểu tuyên bố sau: Về mặt hình học, công cụ ước tính James Gian Stein thu nhỏ từng thành …

19 estimation  terminology  shrinkage  steins-phenomenon 

Tôi có một câu hỏi về tính toán yếu tố co ngót James-Stein trong bài báo Khoa học Mỹ năm 1977 của Bradley Efron và Carl Morris, "Nghịch lý của Stein về thống kê" . Tôi đã thu thập dữ liệu cho các cầu thủ bóng chày và nó được …

18 estimation  shrinkage  steins-phenomenon