Thống kê và dữ liệu lớn

Câu hỏi của tôi là về phân loại hàng xóm gần nhất và là về một tuyên bố được đưa ra trong cuốn sách xuất sắc The Elements of Statistics Learning, của Hastie, Tibshirani và Friedman. Tuyên bố là (trang 465, phần 13.3): "Bởi vì nó chỉ sử dụng điểm …

9 classification  k-nearest-neighbour 

Trong học tập củng cố, chúng tôi có một chức năng khen thưởng thông báo cho các đại lý về các hành động và trạng thái hiện tại của nó đang làm tốt như thế nào. Trong một số những gì thiết lập chung, chức năng phần thưởng là một …

9 machine-learning  reinforcement-learning 

Tôi đang xử lý một vấn đề liên quan đến việc tìm độ dốc của hàm mất entropy chéo, ghi tham số trong đó:θθ\theta CE(θ)=−∑iyi∗log(y^i)CE(θ)=−∑iyi∗log(y^i)CE(\theta) = -\sum\nolimits_{i}{y_i*log({\hat{y}_{i}})} Trong đó, và là một đầu vào vector.y^i=softmax(θi)y^i=softmax(θi)\hat{y}_{i} = softmax(\theta_i)θiθi\theta_i Ngoài ra, là một vectơ nóng của lớp đúng và là dự đoán …

9 machine-learning  neural-networks 

Chúng ta biết rằng nếu p∼Beta(α,β)p∼Beta(α,β)p \sim Beta(\alpha, \beta) , sau đó E[lnp]=ψ(α)−ψ(α+β)E[ln⁡p]=ψ(α)−ψ(α+β) \mathbb{E}[\ln p] = \psi(\alpha) - \psi(\alpha + \beta) nơi ψ(.)ψ(.)\psi(.) Là hàm Digamma. Có một hình thức dễ dàng cho E[ln(1−p)]E[ln⁡(1−p)] \mathbb{E}[\ln (1-p)] không?

9 probability  distributions  beta-distribution 

Tôi đang học 'Giới thiệu về học thống kê' của James, Witten, Hastie, Tibshirani. Trong trang 139, trong cuốn sách của họ, họ đã bắt đầu bằng cách giới thiệu Định lý của Bayes . πkhông phải là hằng số toán học, nhưng biểu thị xác suất trước. Không có …

9 self-study  classification 

Tôi đang học về hồi quy. Tôi đã thực hiện một số hồi quy cắt ngang là tốt. Gần đây tôi đã làm một hồi quy chuỗi thời gian đơn giản. Vì vậy, tôi có các vectơ ay & x chứa 1000 quan sát. Tôi đã thực hiện một hồi …

9 regression  time-series  descriptive-statistics 

\def\l{|\!|} Cho hồi quy mạng đàn hồi minb12||y−Xb||2+αλ||b||22+(1−α)λ||b||1minb12||y−Xb||2+αλ||b||22+(1−α)λ||b||1\min_b \frac{1}{2}\l y - Xb \l^2 + \alpha\lambda \l b\l_2^2 + (1 - \alpha) \lambda \l b\l_1 làm thế nào có thể chọn một phạm vi thích hợp của λλ\lambda để xác thực chéo? Trong trường hợp α=1α=1\alpha=1 (hồi quy sườn) công thức …

9 least-squares  lasso  regularization  ridge-regression  elastic-net 

Giáo viên của tôi đã chứng minh rằng đạo hàm thứ hai của entropy chéo luôn luôn dương, do đó hàm chi phí của các mạng thần kinh sử dụng entropy chéo là lồi. Điều này có đúng không? Tôi khá bối rối về điều này bởi vì tôi luôn …

9 neural-networks  convex 

Giả sử trong phân tích hồi quy trong R, tôi có một biến độc lập loại yếu tố với 3 cấp độ trong tập dữ liệu đào tạo của tôi. Nhưng trong tập dữ liệu thử nghiệm, biến nhân tố tương tự có 5 cấp độ. Do đó, tôi không …

9 r  regression  categorical-data  cross-validation  rare-events 

Tôi đang thực hiện một dự án liên quan đến việc thay thế các giá trị bị thiếu trong một tập hợp dữ liệu (lần đầu tiên thực hiện việc này). Điều này liên quan đến việc sử dụng hai phương pháp replacement by meanvà replacement by medianđiền vào các …

9 mean  median  data-imputation 

Tôi muốn mô phỏng một mẫu từ phân phối bình thường hỗn hợp sao cho p×N(μ1,σ21)+(1−p)×N(μ2,σ22)p×N(μ1,σ12)+(1−p)×N(μ2,σ22)p\times\mathcal{N}(\mu_1,\sigma_1^2) + (1-p)\times\mathcal{N}(\mu_2,\sigma_2^2) được giới hạn trong khoảng thay vì . Điều này có nghĩa là tôi muốn mô phỏng một hỗn hợp cắt ngắn của các bản phân phối bình thường.R[0,1][0,1][0,1]RR\mathbb{R} Tôi biết rằng …

9 simulation  random-generation  cdf  mixture  gaussian-mixture 

Tôi đang mô phỏng các thử nghiệm Bernoulli với một giữa các nhóm và sau đó tôi khớp với mô hình tương ứng với các gói:logitθ∼N(logitθ0,12)logitθ∼N(logitθ0,12)\text{logit}\, \theta \sim {\cal N}(\text{logit}\, \theta_0, 1^2)lme4 library(lme4) library(data.table) I <- 30 # number of groups J <- 10 # number of Bernoulli trials within …

9 mixed-model  generalized-linear-model  binomial  random-effects-model  lme4-nlme 

Tôi biết rằng phương sai của sự khác biệt của hai biến độc lập là tổng phương sai và tôi có thể chứng minh điều đó. Tôi muốn biết hiệp phương sai đi đâu trong trường hợp khác.

9 variance  covariance  independence  non-independent 

Tôi có một biến phụ thuộc có thể nằm trong khoảng từ 0 đến vô cùng, với 0 thực sự là những quan sát chính xác. Tôi hiểu việc kiểm duyệt và các mô hình Tobit chỉ áp dụng khi giá trị thực tế của là chưa biết một phần …

9 regression  censoring  truncation  tobit-regression 

Dữ liệu thô của tôi bao gồm chuỗi thời gian 60 ngày với xu hướng giảm. Dữ liệu là hàng tuần nên tần số được đặt thành 7. Tôi đã tính toán sự khác biệt của dữ liệu trông như thế này Khi tôi chạy các âm mưu ACF và …

9 r  time-series  autocorrelation