Câu hỏi được gắn thẻ «information-theory»

Một nhánh của toán học / thống kê được sử dụng để xác định khả năng mang thông tin của một kênh, cho dù một kênh được sử dụng cho truyền thông hay một kênh được định nghĩa theo nghĩa trừu tượng. Entropy là một trong những biện pháp mà theo đó các nhà lý thuyết thông tin có thể định lượng được sự không chắc chắn liên quan đến việc dự đoán một biến ngẫu nhiên.

2
Thông tin lẫn nhau như xác suất
Có thể thông tin lẫn nhau về entropy chung: 0 ≤ tôi( X, Y)H( X, Y)≤ 10≤I(X,Y)H(X,Y)≤1 0 \leq \frac{I(X,Y)}{H(X,Y)} \leq 1 được định nghĩa là: "Xác suất chuyển một phần thông tin từ X đến Y"? Tôi xin lỗi vì quá ngây thơ, nhưng tôi chưa bao giờ nghiên …
3
Thông tin lý thuyết định lý giới hạn trung tâm
Hình thức đơn giản nhất của CLT lý thuyết thông tin là như sau: Hãy để được iid với trung bình 0 và phương sai 1 . Hãy để f n là mật độ của tổng bình thường Σ n i = 1 X iX1,X2,…X1,X2,…X_1, X_2,\dots000111fnfnf_n∑ni=1Xin√∑i=1nXin\frac{\sum_{i=1}^n X_i}{\sqrt{n}}ϕϕ\phiD(fn∥ϕ)=∫fnlog(fn/ϕ)dxD(fn‖ϕ)=∫fnlog⁡(fn/ϕ)dxD(f_n\|\phi)=\int f_n \log(f_n/\phi) dxnnnD(fn∥ϕ)→0D(fn‖ϕ)→0D(f_n\|\phi)\to …
2
Tương quan giữa hai bộ bài?
Tôi đã viết một chương trình để mô phỏng việc xáo trộn thẻ quá tay . Mỗi thẻ được đánh số, với bộ đồ đi từ CLUBS, DIAMONDS, HEARTS, SPADESvà thứ hạng từ Hai đến Mười rồi Jack, Nữ hoàng, Vua và Ace. Do đó, Two of Club có số …
2
Các số liệu tốt để đánh giá chất lượng của PCA phù hợp, để chọn số lượng các thành phần là gì?
Một số liệu tốt để đánh giá chất lượng phân tích thành phần chính (PCA) là gì? Tôi đã thực hiện thuật toán này trên một tập dữ liệu. Mục tiêu của tôi là giảm số lượng tính năng (thông tin rất dư thừa). Tôi biết tỷ lệ phần trăm …
1
Làm thế nào để tính toán thông tin lẫn nhau?
Tôi la một chut Nhâm lân. Ai đó có thể giải thích cho tôi cách tính thông tin lẫn nhau giữa hai thuật ngữ dựa trên ma trận tài liệu thuật ngữ với sự xuất hiện của thuật ngữ nhị phân là trọng số không? Document1Document2Document3′Why′111′How′101′When′111′Where′100′Why′′How′′When′′Where′Document11111Document21010Document31110 \begin{matrix} & 'Why' & …
2
Kiểm tra giả thuyết và tổng khoảng cách biến đổi so với phân kỳ Kullback-Leibler
Trong nghiên cứu của tôi, tôi đã gặp phải vấn đề chung sau: Tôi có hai phân phối và Q trên cùng một miền và một số lượng lớn (nhưng hữu hạn) các mẫu từ các phân phối đó. Các mẫu được phân phối độc lập và giống hệt nhau …
Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookie và Chính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.