Thống kê và dữ liệu lớn

Các định nghĩa của một tham số và thống kê khá đồng ý: các tham số và thống kê là các đặc tính số hoặc tóm tắt bằng số của một dân số và mẫu, tương ứng, cho một nghiên cứu nhất định. Tôi không nghĩ rằng đây là cách …

11 terminology  definition 

Bây giờ tôi đang đọc một ghi chú về Thống kê sinh học được viết bởi PMT Education và chú ý các câu sau trong Phần 2.7: Một em bé được sinh ra ở phân vị thứ 50 cho khối lượng nặng hơn 50% trẻ sơ sinh. Một em bé …

11 mathematical-statistics  quantiles  definition 

Khi chúng tôi tính toán sai số chuẩn của hệ số hồi quy, chúng tôi không giải thích cho tính ngẫu nhiên trong ma trận thiết kế . Ví dụ, trong OLS, chúng tôi tính toán làXXXvar ( β^)var(β^)\text{var}(\hat{\beta})var ( ( XTX)- 1XTY) = σ2( XTX)- 1var((XTX)−1XTY)=σ2(XTX)−1\text{var}((X^TX)^{-1}X^TY) = \sigma^2(X^TX)^{-1} Nếu …

11 regression  probability  variance  inference 

Tôi đang cố gắng để hiểu Bayes Factor (BF). Tôi tin rằng họ giống như tỷ lệ khả năng của 2 giả thuyết. Vì vậy, nếu BF là 5, có nghĩa là H1 gấp 5 lần so với H0. Và giá trị 3-10 chỉ ra bằng chứng vừa phải, trong …

11 hypothesis-testing  bayesian  p-value  bayes-factors 

Trong cuốn sách của Goodfellow (2016) về học tập sâu, ông đã nói về sự tương đương của việc dừng sớm với chính quy L2 ( https://www.deeplearningbook.org/contents/THERization.html trang 247). Xấp xỉ bậc hai của hàm chi phí jjj được cho bởi: J^(θ)=J(w∗)+12(w−w∗)TH(w−w∗)J^(θ)=J(w∗)+12(w−w∗)TH(w−w∗)\hat{J}(\theta)=J(w^*)+\frac{1}{2}(w-w^*)^TH(w-w^*) HHHf(w+ϵ)=f(w)+f′(w)⋅ϵ+12f′′(w)⋅ϵ2f(w+ϵ)=f(w)+f′(w)⋅ϵ+12f″(w)⋅ϵ2f(w+\epsilon)=f(w)+f'(w)\cdot\epsilon+\frac{1}{2}f''(w)\cdot\epsilon^2

11 neural-networks  deep-learning  loss-functions  derivative 

Bối cảnh : Tôi có bằng tiến sĩ về tâm lý học xã hội, nơi thống kê lý thuyết và toán học hầu như không được đề cập trong các khóa học định lượng của tôi. Thông qua các sinh viên đại học và lớp, tôi đã được dạy (giống …

11 probability  bayesian  simulation  monte-carlo  frequentist 

Tôi có hàm khả năng cho xác suất dữ liệu của tôi đưa ra một số tham số mô hình , mà tôi muốn ước tính. Giả sử các linh mục phẳng trên các tham số, khả năng tỷ lệ thuận với xác suất sau. Tôi sử dụng một phương …

11 bayesian  maximum-likelihood  optimization  inference  mcmc 

Phân phối bình thường có vẻ không trực quan cho đến khi bạn tìm hiểu CLT, điều này giải thích tại sao nó rất phổ biến trong cuộc sống thực. Nhưng nó có bao giờ phát sinh là phân phối "tự nhiên" cho một số lượng không?

11 normal-distribution  central-limit-theorem 

Theo tài liệu tham khảo Quyển 1 , Quyển 2 và giấy . Nó đã được đề cập rằng có một sự tương đương giữa hồi quy chính quy (Ridge, LASSO và Elastic Net) và các công thức ràng buộc của chúng. Tôi cũng đã xem xét Xác thực chéo …

11 regression  optimization  lasso  ridge-regression  elastic-net 

Nếu Đồng nhất và Bin , thì giá trị trung bình sau của p được đưa ra bởi \ frac {X + 1} {n + 2} .p ~p∼p \sim( 0 , 1 )(0,1)(0,1)X~X∼X \sim( n , p )(n,p)(n, p)pppX+ 1n + 2X+1n+2\frac{X+1}{n+2} Có một tên chung cho công cụ ước …

11 bayesian  terminology  laplace-smoothing 

Lý lịch Trong khoa học máy tính, toán học, và đôi khi trong các lĩnh vực khác, các ví dụ bí mật của bí mật chỉ có thể mang tính giải trí, nhưng hữu ích để minh họa các khái niệm nhất định, ví dụ: Bogosort và Slowsort là các …

11 hypothesis-testing  teaching  humor 

Trong thống kê thường xuyên, khoảng tin cậy 95% là một quy trình tạo khoảng, nếu lặp lại một số lần vô hạn, sẽ chứa tham số thực 95% thời gian. Tại sao điều này hữu ích? Khoảng tin cậy thường bị hiểu lầm. Chúng không phải là một khoảng …

11 hypothesis-testing  bayesian  mathematical-statistics  confidence-interval  frequentist 

Gần đây tôi đã nhận thức được các phương pháp 'không có khả năng' đang được băng bó trong văn học. Tuy nhiên tôi không rõ ý nghĩa của một phương pháp suy luận hoặc tối ưu hóa là không có khả năng . Trong học máy, mục tiêu thường …

11 machine-learning  deep-learning  maximum-likelihood  generative-models  abc 

Tôi thường nói với mọi người về việc mượn thông tin hoặc chia sẻ thông tin trong các mô hình phân cấp của Bayes. Tôi dường như không thể có được một câu trả lời thẳng thắn về ý nghĩa thực sự của nó và nếu nó là duy nhất …

11 machine-learning  bayesian  multilevel-analysis  terminology  hierarchical-bayesian 

Theo như tôi hiểu thì đó là (ít nhất, đó là cách Wikipedia định nghĩa nó ). Nhưng tôi đã tìm thấy tuyên bố này của Efron * (nhấn mạnh thêm): Chuỗi Markov Monte Carlo (MCMC) là câu chuyện thành công lớn của thống kê Bayes hiện đại. MCMC và …

11 mcmc  gibbs