Entropy Rényi ở vô cực hoặc entropy tối thiểu


8

Tôi đang đọc một bài báo đề cập đến giới hạn khi n đi đến vô tận của entropy Rényi. Nó định nghĩa nó là Hn(X)=11nlog2(i=1Npin). Sau đó nó nói rằng giới hạn nhưnlog2(p1). Tôi lại thấy một bài viết có sử dụng tối đa củapisthay vìp1. Tôi nghĩ rằng điều này hoạt động ra khá dễ dàng nếu tất cả cácpisbằng nhau (một phân phối đồng đều). Tôi không có ý tưởng làm thế nào để chứng minh điều này cho bất cứ điều gì khác ngoài việc phân phối thống nhất. Bất cứ ai có thể chỉ cho tôi làm thế nào nó được thực hiện?

Câu trả lời:


7

p1=maxipi

p1ni=1NpinNp1n.
nlogp1+logN1nHn(X)nlogp11n.
nlogN/(1n)0n/(1n)1
Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.