2
Giải thích entropy cho phân phối liên tục?
"Entropy" đại khái nắm bắt mức độ "thông tin" trong phân phối xác suất. Đối với các phân phối rời rạc, có một cách giải thích chính xác hơn nhiều: entropy của một biến ngẫu nhiên rời rạc là giới hạn thấp hơn trên số bit dự kiến cần thiết …