Câu hỏi được gắn thẻ «gradient-descent»

Gradient descent là một thuật toán tối ưu hóa lặp đầu tiên. Để tìm mức tối thiểu cục bộ của hàm bằng cách sử dụng độ dốc, người ta thực hiện các bước tỷ lệ với âm của độ dốc (hoặc độ dốc gần đúng) của hàm tại điểm hiện tại. Đối với độ dốc dốc ngẫu nhiên cũng có thẻ [sgd].

2
Có thể đánh giá GLM trong Python / scikit-learn bằng cách sử dụng các bản phân phối Poisson, Gamma hoặc Tweedie làm gia đình cho phân phối lỗi?
Cố gắng học một số Python và Sklearn, nhưng đối với công việc của tôi, tôi cần chạy hồi quy sử dụng các phân phối lỗi từ các gia đình Poisson, Gamma và đặc biệt là Tweedie. Tôi không thấy bất cứ điều gì trong tài liệu về chúng, nhưng …
1
Không có ý nghĩa gì
Trong blog học máy tôi thường xuyên bắt gặp từ "vanilla". Ví dụ: "Vanilla Gradient Descent" hoặc "Vanilla method". Thuật ngữ này theo nghĩa đen là không bao giờ thấy trong bất kỳ sách giáo khoa tối ưu hóa. Ví dụ, trong bài viết này , nó nói: Đây là …
1
R / mgcv: Tại sao các sản phẩm tenor te () và ti () tạo ra các bề mặt khác nhau?
Các mgcvgói cho Rcó hai chức năng cho phù hợp tương tác sản phẩm tensor: te()và ti(). Tôi hiểu sự phân công lao động cơ bản giữa hai người (phù hợp với sự tương tác phi tuyến tính so với việc phân tách tương tác này thành các hiệu ứng …
11 r  gam  mgcv  conditional-probability  mixed-model  references  bayesian  estimation  conditional-probability  machine-learning  optimization  gradient-descent  r  hypothesis-testing  wilcoxon-mann-whitney  time-series  bayesian  inference  change-point  time-series  anova  repeated-measures  statistical-significance  bayesian  contingency-tables  regression  prediction  quantiles  classification  auc  k-means  scikit-learn  regression  spatial  circular-statistics  t-test  effect-size  cohens-d  r  cross-validation  feature-selection  caret  machine-learning  modeling  python  optimization  frequentist  correlation  sample-size  normalization  group-differences  heteroscedasticity  independence  generalized-least-squares  lme4-nlme  references  mcmc  metropolis-hastings  optimization  r  logistic  feature-selection  separation  clustering  k-means  normal-distribution  gaussian-mixture  kullback-leibler  java  spark-mllib  data-visualization  categorical-data  barplot  hypothesis-testing  statistical-significance  chi-squared  type-i-and-ii-errors  pca  scikit-learn  conditional-expectation  statistical-significance  meta-analysis  intuition  r  time-series  multivariate-analysis  garch  machine-learning  classification  data-mining  missing-data  cart  regression  cross-validation  matrix-decomposition  categorical-data  repeated-measures  chi-squared  assumptions  contingency-tables  prediction  binary-data  trend  test-for-trend  matrix-inverse  anova  categorical-data  regression-coefficients  standard-error  r  distributions  exponential  interarrival-time  copula  log-likelihood  time-series  forecasting  prediction-interval  mean  standard-error  meta-analysis  meta-regression  network-meta-analysis  systematic-review  normal-distribution  multiple-regression  generalized-linear-model  poisson-distribution  poisson-regression  r  sas  cohens-kappa 
1
Một mô hình của P (Y | X) có thể được đào tạo thông qua việc giảm độ dốc ngẫu nhiên từ các mẫu không iid của P (X) và mẫu iid của P (Y | X) không?
Khi đào tạo một mô hình được tham số hóa (ví dụ để tối đa hóa khả năng) thông qua việc giảm độ dốc ngẫu nhiên trên một số tập dữ liệu, người ta thường cho rằng các mẫu đào tạo được rút ra từ phân phối dữ liệu đào …
4
Tối ưu hóa giảm dần
Tôi đang cố gắng để hiểu tối ưu hóa độ dốc gốc trong thuật toán ML (machine learning). Tôi hiểu rằng có một hàm chi phí, trong đó mục đích là để giảm thiểu lỗi . Trong trường hợp trọng số đang được tối ưu hóa để đưa ra lỗi …
2
Tại sao các bước của tôi trở nên nhỏ hơn khi sử dụng kích thước bước cố định trong độ dốc giảm dần?
Giả sử chúng ta đang thực hiện một ví dụ đồ chơi trên độ dốc tốt, tối thiểu hóa hàm bậc hai , sử dụng kích thước bước cố định . ( )α = 0,03 A = [ 10 , 2 ; 2 , 3 ]xTAxxTAxx^TAxα=0.03α=0.03\alpha=0.03A=[10,2;2,3]A=[10,2;2,3]A=[10, 2; 2, 3] Nếu …
Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookie và Chính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.