Thống kê và dữ liệu lớn

Câu hỏi được xác thực chéo này hỏi về việc mô phỏng một mẫu có điều kiện về việc có một khoản tiền cố định nhắc nhở tôi về một vấn đề được đặt ra cho tôi bởi George Casella . Đưa ra một mô hình tham số và một …

17 maximum-likelihood  conditional-probability  random-variable  simulation  t-distribution 

Tôi hiểu thế nào là "lời nguyền của chiều" và tôi đã thực hiện một số vấn đề tối ưu hóa chiều cao và biết thách thức của các khả năng theo cấp số nhân. Tuy nhiên, tôi nghi ngờ nếu "lời nguyền về chiều" tồn tại trong hầu hết …

17 clustering  dimensionality-reduction  high-dimensional 

Đối với định mức vectơ, định mức L2 hoặc "khoảng cách Euclide" là định nghĩa được sử dụng rộng rãi và trực quan. Nhưng tại sao định nghĩa định mức "được sử dụng nhiều nhất" hoặc "mặc định" cho ma trận là định mức phổ , nhưng không phải là …

17 matrix  linear-algebra 

Tôi đang chạy một LASSO có một số dự đoán biến phân loại và một số dự đoán liên tục. Tôi có một câu hỏi về các biến phân loại. Bước đầu tiên tôi hiểu là chia từng người trong số họ thành các hình nộm, tiêu chuẩn hóa họ …

17 categorical-data  regression-coefficients  lasso  intercept  categorical-encoding 

Tôi đã đọc (ví dụ, ở đây ) rằng hạt nhân Epanechnikov là tối ưu, ít nhất là theo nghĩa lý thuyết, khi thực hiện ước tính mật độ hạt nhân. Nếu điều này là đúng, thì tại sao Gaussian xuất hiện thường xuyên như hạt nhân mặc định, hoặc …

17 nonparametric  kernel-smoothing 

Tôi đã xây dựng một trình phân loại hồi quy logistic rất chính xác trên dữ liệu của mình. Bây giờ tôi muốn hiểu rõ hơn tại sao nó hoạt động tốt như vậy. Cụ thể, tôi muốn xếp hạng các tính năng nào có đóng góp lớn nhất (tính …

17 machine-learning  logistic  feature-selection  importance 

Bạn có thể cung cấp một ví dụ về công cụ ước tính MLE về giá trị trung bình bị sai lệch không? Tôi không tìm kiếm một ví dụ phá vỡ các công cụ ước tính MLE nói chung bằng cách vi phạm các điều kiện thường xuyên. Tất …

17 maximum-likelihood  mean  bias 

Câu hỏi này là một sự theo dõi hoặc cố gắng để làm sáng tỏ sự nhầm lẫn có thể liên quan đến một chủ đề tôi và nhiều người khác thấy hơi khó khăn, liên quan đến sự khác biệt giữa AIC và BIC. Trong một câu trả lời …

17 model-selection  aic  bic 

Tôi đã đọc về Jeffreys trước trên wikipedia: Jeffreys Prior và thấy rằng sau mỗi ví dụ, nó mô tả cách biến đổi ổn định phương sai biến Jeffreys trước thành đồng phục trước. Ví dụ, đối với trường hợp Bernoulli, nó nói rằng đối với một đồng xu có …

17 bayesian  prior  jeffreys-prior 

Người ta có thể thực hiện hồi quy logit trong R bằng cách sử dụng mã như vậy: > library(MASS) > data(menarche) > glm.out = glm(cbind(Menarche, Total-Menarche) ~ Age, + family=binomial(logit), data=menarche) > coefficients(glm.out) (Intercept) Age -21.226395 1.631968 Có vẻ như thuật toán tối ưu hóa đã hội tụ - …

17 r  generalized-linear-model  optimization  algorithms  logit 

Câu hỏi Phương sai của phân phối nhị thức âm (NB) luôn lớn hơn giá trị trung bình của nó. Khi giá trị trung bình của mẫu lớn hơn phương sai của nó, cố gắng khớp các tham số của NB với khả năng tối đa hoặc với ước lượng …

17 estimation  maximum-likelihood  negative-binomial 

Giả sử rằng tôi có một ma trận dày đặc có kích thước , với phân tách SVDTrong tôi có thể tính toán SVD như sau : .AA \textbf{A}m×nm×nm \times nA=USV⊤.A=USV⊤.\mathbf{A}=\mathbf{USV}^\top.Rsvd(A) Nếu một hàng mới được thêm vào , người ta có thể tính toán phân tách SVD mới dựa …

17 algorithms  svd  linear-algebra  matrix-decomposition  numerics 

Tôi đã suy nghĩ về việc viết một bài đăng trên blog về phân tích thú vị này của Kleinberg (2002) để khám phá những khó khăn của việc phân cụm. Kleinberg phác thảo ba desiderata dường như trực quan cho một chức năng phân cụm và sau đó chứng …

17 mathematical-statistics  clustering  intuition  hierarchical-clustering 

Sự khác biệt giữa LOESS và LowESS là gì? Từ Wikipedia tôi chỉ có thể thấy rằng LOESS là một khái quát của THẤP. Họ có thông số hơi khác nhau?

17 nonparametric  loess 

Nói chung, trong một vấn đề phân loại trong đó mục tiêu là dự đoán chính xác tư cách thành viên của lớp ngoài mẫu, khi nào tôi không nên sử dụng một bộ phân loại đồng bộ? Câu hỏi này liên quan chặt chẽ với Tại sao không luôn …

17 classification  boosting  ensemble  bagging