Câu hỏi được gắn thẻ «regularization»

Khi nghĩ về biểu đồ như là một ước tính của hàm mật độ, có hợp lý không khi nghĩ kích thước bin là một tham số ràng buộc cấu trúc cục bộ của hàm đó? Ngoài ra, có cách nào tốt hơn để nói rõ lý do này không?

8 machine-learning  distributions  regularization  histogram  binning 

Chúng ta có thể mô phỏng hồi quy tuyến tính mà không có sự ngẫu nhiên, có nghĩa là chúng ta tạo ra thay vì . Sau đó, nếu chúng ta phù hợp với một mô hình tuyến tính, các hệ số sẽ giống hệt với "sự thật mặt đất". …

8 r  logistic  regularization  linear  separation 

Tôi có thiết lập sau đây cho dự án nghiên cứu Tài chính / Máy học tại trường đại học của mình: Tôi đang áp dụng Mạng thần kinh (Sâu) (MLP) với cấu trúc sau trong Keras / Theano để phân biệt các cổ phiếu vượt trội (nhãn 1) với …

8 machine-learning  neural-networks  deep-learning  regularization  dropout 

Một tính chất cơ bản của hồi quy hiệu ứng ngẫu nhiên là các ước tính đánh chặn ngẫu nhiên bị "thu hẹp" đối với giá trị trung bình chung của phản ứng như là một hàm của phương sai tương đối của mỗi ước tính. U^j=ρjy¯j+(1−ρj)y¯U^j=ρjy¯j+(1−ρj)y¯\hat{U}_j = \rho_j \bar{y}_j …

8 mixed-model  regularization  shrinkage 

Tôi đang hồi quy một công cụ dự đoán liên tục trên 60 biến (cả liên tục và phân loại) bằng LASSO (glmnet). Khi kiểm tra biểu đồ theo dõi biến, tôi nhận thấy rằng khi log lambda tăng, một trong những biến chính có hệ số thực sự tăng. …

8 lasso  regularization  glmnet 

tôi tự hỏi về độ mịn lưới tối ưu và mối quan hệ giữa độ mịn lưới và quá mức là gì trong các phương pháp chính quy hóa như LASSO, hồi quy sườn hoặc lưới đàn hồi. Giả sử tôi muốn điều chỉnh mô hình hồi quy bằng LASSO …

8 lasso  regularization  ridge-regression  overfitting  elastic-net 

Tôi đang cố gắng hiểu làm thế nào chính quy hóa hoạt động theo các phép chiếu lên một quả bóng và phép chiếu Euclide lên đơn giản.tôi*l∗l_* Tôi không chắc là tôi hiểu ý của chúng tôi khi chúng tôi chiếu vectơ trọng lượng lên các quả bóng hoặc …

8 optimization  regularization  projection 

Người ta thường nói rằng các linh mục về thống kê bayes có thể được coi là các yếu tố chính quy vì họ xử phạt các giải pháp trong đó các mật độ xác suất thấp trước đó. Sau đó, đưa ra mô hình đơn giản này có tham …

8 bayesian  regularization  frequentist  philosophical 

Nếu chúng ta chọn các giá trị khác nhau của tham số , chúng ta có thể thu được các giải pháp với các mức độ thưa thớt khác nhau. Có phải nó có nghĩa là đường dẫn chính quy là làm thế nào để chọn tọa độ có thể …

8 lasso  regularization 

Tôi hiểu các hệ số của một phương trình logistic có thể được hiểu là tỷ lệ lẻ. Nếu một thuật ngữ chính quy được thêm vào để kiểm soát sự phù hợp quá mức, làm thế nào điều này thay đổi việc giải thích các hệ số?

8 logistic  interpretation  regression-coefficients  regularization  odds-ratio 

Tôi đang cố gắng tìm ước tính MAP cho một mô hình theo độ dốc. Ưu tiên của tôi là Gaussian đa biến với ma trận hiệp phương sai đã biết. Ở mức độ khái niệm, tôi nghĩ rằng tôi biết làm thế nào để làm điều này, nhưng tôi …

8 normal-distribution  covariance-matrix  regularization  gradient-descent  ridge-regression 

Tôi đang cố gắng thực hiện Chính quy hóa Manifold trong Máy vectơ hỗ trợ (SVM) trong Matlab. Tôi đang làm theo hướng dẫn trong bài báo của Belkin và cộng sự (2006), có phương trình trong đó: f∗=argminf∈Hk∑li=1V(xi,yi,f)+γA∥f∥2A+γI∥f∥2If∗=argminf∈Hk∑i=1lV(xi,yi,f)+γA‖f‖A2+γI‖f‖I2f^{*} = \text{argmin}_{f \in H_k}\sum_{i=1}^{l}V\left(x_i,y_i,f\right)+\gamma_{A}\left\| f \right\|_{A}^{2}+\gamma_{I}\left\| f \right\|_{I}^{2} Trong đó V …

8 machine-learning  svm  regularization 

Tôi đã triển khai phiên bản GLMNET của mạng đàn hồi để hồi quy tuyến tính với một phần mềm khác ngoài R. Tôi đã so sánh kết quả của mình với glmnet của chức năng R ở chế độ Lasso trên dữ liệu bệnh tiểu đường . Lựa chọn …

8 r  lasso  regularization  glmnet  elastic-net 

Chúng tôi có phản hồi và dự đoánY∈RnY∈RnY \in \Bbb R^nX=(x1,x2,⋯,xm)T∈Rn×mX=(x1,x2,⋯,xm)T∈Rn×mX = (x_1, x_2, \cdots, x_m)^T \in \Bbb R^{n \times m} Vấn đề chúng tôi muốn giải quyết là argmink∈Rm(∥Y−Xk∥22+λ∥k∥0)→k0argmink∈Rm(‖Y−Xk‖22+λ‖k‖0)→k0\text{argmin}_{k \in \Bbb R^{m}} (\Vert Y - Xk \Vert_2^2 + \lambda \Vert k \Vert_0) \rightarrow k_0 Tuy nhiên, đó là NP-hard, …

8 regression  feature-selection  regularization 

Tôi mong muốn được tìm hiểu thêm về các kỹ thuật hồi quy chính quy như hồi quy Ridge và Lasso. Tôi muốn biết những gì có thể đạt được bằng cách sử dụng các kỹ thuật này khi so sánh với mô hình hồi quy tuyến tính. Ngoài ra …

8 multiple-regression  regression-coefficients  regularization  ridge-regression