Thống kê và dữ liệu lớn

Ai đó có thể chứng minh mối liên hệ sau đây giữa số liệu thông tin của Fisher và entropy tương đối (hoặc phân kỳ KL) một cách thuần túy toán học không? D(p(⋅,a+da)∥p(⋅,a))=12gi,jdaidaj+(O(∥da∥3)D(p(⋅,a+da)∥p(⋅,a))=12gi,jdaidaj+(O(‖da‖3)D( p(\cdot , a+da) \parallel p(\cdot,a) ) =\frac{1}{2} g_{i,j} \, da^i \, da^j + (O( \|da\|^3) trong …

20 mathematical-statistics  kullback-leibler  fisher-information 

Có cách nào để kiểm tra khả năng phân tách tuyến tính của bộ dữ liệu hai lớp ở kích thước cao không? Các vectơ đặc trưng của tôi dài 40. Tôi biết tôi luôn có thể chạy thử nghiệm hồi quy logistic và xác định tỷ lệ cảnh báo …

20 machine-learning  classification 

Tôi không muốn biết liệu một số hiện tượng trong tự nhiên có phân phối bình thường hay không, nhưng liệu chúng ta có thể thấy hình dạng của đường cong bình thường hay không, ví dụ như chúng ta có thể thấy nó trong hộp Galton. Xem con số …

20 distributions  normality-assumption 

Câu hỏi này đã được di chuyển từ Trao đổi ngăn xếp toán học vì nó có thể được trả lời trên Xác thực chéo. Di cư 6 năm trước . Trong cách tiếp cận thuật toán EM chúng tôi sử dụng Bất đẳng thức Jensen để đi đến logp(x|θ)≥∫logp(z,x|θ)p(z|x,θ(k))dz−∫logp(z|x,θ)p(z|x,θ(k))dzlog⁡p(x|θ)≥∫log⁡p(z,x|θ)p(z|x,θ(k))dz−∫log⁡p(z|x,θ)p(z|x,θ(k))dz\log …

20 mixture  expectation-maximization 

Giả sử là các biến ngẫu nhiên liên tục với các giây thứ hai hữu hạn. Phiên bản dân số của hệ số tương quan xếp hạng của Spearman có thể được định nghĩa là hệ số thời điểm sản phẩm của Pearson của các tích phân xác suất biến …

20 correlation  pearson-r  spearman-rho 

Tôi đang sử dụng libsvm trong chế độ C-SVC với hạt nhân đa thức bậc 2 và tôi bắt buộc phải đào tạo nhiều SVM. Mỗi bộ huấn luyện có 10 tính năng và 5000 vectơ. Trong quá trình đào tạo, tôi nhận được cảnh báo này cho hầu hết …

20 machine-learning  cross-validation  svm  regularization  libsvm 

Tôi muốn thực hiện thuật toán EM bằng tay và sau đó so sánh nó với kết quả normalmixEMcủa mixtoolsgói. Tất nhiên, tôi sẽ rất vui nếu cả hai đều dẫn đến cùng một kết quả. Tài liệu tham khảo chính là Geoffrey McLachlan (2000), Mô hình hỗn hợp hữu …

20 r  expectation-maximization  gaussian-mixture 

Một đồng nghiệp đang phân tích một số dữ liệu sinh học cho luận án của cô với một số Heteroscedasticity khó chịu (hình dưới). Cô ấy đang phân tích nó với một mô hình hỗn hợp nhưng vẫn gặp rắc rối với phần dư. Chuyển đổi log các biến …

20 mixed-model  poisson-distribution  biostatistics 

Tôi đang nghiên cứu một thuật toán dựa trên thực tế là các quan sát thường được phân phối và tôi muốn kiểm tra tính mạnh mẽ của thuật toán đối với giả định này theo kinh nghiệm.YYY Để làm điều này, tôi đang tìm kiếm một chuỗi các biến …

20 data-transformation  normality-assumption  skewness  kurtosis 

Breiman nói rằng những cái cây được trồng mà không cần cắt tỉa. Tại sao? Tôi muốn nói rằng phải có một lý do vững chắc tại sao cây trong rừng ngẫu nhiên không được cắt tỉa. Mặt khác, việc tỉa một cây quyết định duy nhất để tránh sự …

20 machine-learning 

Tôi có một số dữ liệu nhìn từ biểu đồ của phần dư so với thời gian gần như bình thường nhưng tôi muốn chắc chắn. Làm thế nào tôi có thể kiểm tra tính bình thường của phần dư lỗi?

20 hypothesis-testing  normal-distribution  assumptions 

Dữ liệu cho một số loại biến nhất định có xu hướng không bình thường khi được đo trong các quần thể cụ thể (ví dụ mức độ trầm cảm trong dân số của những người mắc chứng Rối loạn trầm cảm chính). Cho rằng Pearson giả định tính quy …

20 correlation 

Giả sử tôi có 20 con chuột. Tôi ghép những con chuột theo một cách nào đó, để tôi có được 10 cặp. Với mục đích của câu hỏi này, nó có thể là một cặp ngẫu nhiên, HOẶC nó có thể là một cặp hợp lý, giống như cố …

20 t-test  paired-data 

Tôi đã được triệu tập cho nhiệm vụ bồi thẩm đoàn. Tôi ý thức được sự liên quan của số liệu thống kê với một số thử nghiệm của bồi thẩm đoàn. Ví dụ, khái niệm "lãi suất cơ bản" và ứng dụng của nó để tính toán xác suất …

20 probability  bayesian  references 

Tôi đã sử dụng nhiều lần cắt bỏ để có được một số bộ dữ liệu hoàn thành. Tôi đã sử dụng các phương thức Bayes trên mỗi bộ dữ liệu đã hoàn thành để có được các bản phân phối sau cho một tham số (một hiệu ứng ngẫu …

20 bayesian  mixed-model  missing-data