Câu hỏi được gắn thẻ «it.information-theory»

Ví dụ yêu thích của bạn trong đó lý thuyết thông tin được sử dụng để chứng minh một tuyên bố kết hợp gọn gàng một cách đơn giản là gì? Một số ví dụ tôi có thể nghĩ đến có liên quan đến giới hạn thấp hơn cho các …

54 co.combinatorics  big-list  it.information-theory 

Nói một cách không chính thức, độ phức tạp Kolmogorov của chuỗi là độ dài của chương trình ngắn nhất tạo ra x . Chúng ta có thể định nghĩa một khái niệm 'chuỗi ngẫu nhiên' bằng cách sử dụng nó ( x là ngẫu nhiên nếu K ( x …

44 cc.complexity-theory  big-list  co.combinatorics  it.information-theory 

Câu hỏi này đã được hỏi với Jeannette Wing sau bài thuyết trình PCAST của cô về khoa học máy tính. Từ góc độ vật lý, chúng ta có thể có khối lượng thông tin tối đa không? Ngoài "thông tin là gì?" người ta cũng nên tìm hiểu "âm …

33 it.information-theory  physics 

Độ phức tạp tiền tố Kolmogorov (tức là là kích thước của chương trình tự phân định tối thiểu xuất ra x ) có một số tính năng hay:K(x)K(x)K(x)xxx Nó tương ứng với một trực giác cho các chuỗi có patters hoặc cấu trúc có độ phức tạp thấp hơn …

28 it.information-theory  kolmogorov-complexity  formal-modeling 

Tôi đang tìm mã sửa lỗi thuộc loại sau: mã nhị phân với tốc độ không đổi, có thể giải mã được từ một số phần lỗi không đổi, bởi bộ giải mã có thể thực hiện dưới dạng mạch Boolean có kích thước , trong đó N là chiều …

27 co.combinatorics  it.information-theory  coding-theory 

Mã Huffman cho phân phối xác suất ppp là mã tiền tố có độ dài từ mã trung bình có trọng số tối thiểu ∑piℓi∑piℓi\sum p_i \ell_i , trong đó ℓiℓi\ell_i là độ dài của từ mã thứ iii . Một định lý nổi tiếng là độ dài trung bình …

21 optimization  it.information-theory  coding-theory 

Trong lý thuyết thông tin lượng tử, khoảng cách giữa hai kênh lượng tử thường được đo bằng định mức kim cương. Ngoài ra còn có một số cách để đo khoảng cách giữa hai trạng thái lượng tử, chẳng hạn như khoảng cách theo dõi, độ trung thực, v.v …

19 quantum-computing  it.information-theory  quantum-information 

Khi thực hiện bộ lọc Bloom, cách tiếp cận truyền thống yêu cầu nhiều hàm băm độc lập. Kirsch và Mitzenmacher đã chỉ ra rằng bạn thực sự chỉ cần hai và có thể tạo ra phần còn lại dưới dạng kết hợp tuyến tính của chúng. Câu hỏi của …

15 ds.data-structures  it.information-theory  hash-function 

Độ phức tạp thông tin là một công cụ rất hữu ích trong độ phức tạp trong giao tiếp, chủ yếu được sử dụng để làm giảm sự phức tạp trong giao tiếp của các vấn đề phân tán. Có một sự tương tự về độ phức tạp thông tin …

15 it.information-theory  communication-complexity  query-complexity 

Hầu hết chúng ta đều quen thuộc - hoặc ít nhất đã nghe nói về - entropy Shannon của một biến ngẫu nhiên, H(X)=−E[logp(X)]H(X)=−E[log⁡p(X)]H(X) = -\mathbb{E} \bigl[ \log p(X)\bigr] và tất cả các biện pháp lý thuyết thông tin liên quan như entropy tương đối, thông tin lẫn nhau, và …

14 it.information-theory  quantum-information 

Bổ đề: Giả sử tương đương eta chúng ta có điều đó (\x -> ⊥) = ⊥ :: A -> B. Bằng chứng: ⊥ = (\x -> ⊥ x)bằng cách tương đương eta, và (\x -> ⊥ x) = (\x -> ⊥)bằng cách giảm theo lambda. Báo cáo Haskell 2010, …

14 domain-theory  haskell  extensionality  cc.complexity-theory  counting-complexity  fl.formal-languages  automata-theory  cc.complexity-theory  arithmetic-circuits  it.information-theory  shannon-entropy  graph-theory  pr.probability  graph-theory  approximation-algorithms  approximation-hardness  multicommodity-flow  cc.complexity-theory  ds.algorithms  np-hardness  polynomial-time  dynamic-programming  lo.logic  terminology 

Gần đây tôi đã xử lý các thuật toán liên quan đến nén và tôi đã tự hỏi đâu là tỷ lệ nén tốt nhất có thể đạt được bằng cách nén dữ liệu không mất dữ liệu. Cho đến nay, nguồn duy nhất tôi có thể tìm thấy về …

14 it.information-theory  data-streams 

Thuật toán DEFLATE phổ biến sử dụng mã hóa Huffman trên đầu trang Lempel-Ziv. Nói chung, nếu chúng ta có một nguồn dữ liệu ngẫu nhiên (= 1 bit entropy / bit), thì không có mã hóa, kể cả Huffman, có khả năng nén nó trung bình. Nếu Lempel-Ziv là …

13 ds.algorithms  it.information-theory  coding-theory  encoding 

Có nhà nghiên cứu chỉ ra rằng việc xóa bit phải tiêu thụ năng lượng, bây giờ có nghiên cứu nào được thực hiện về mức tiêu thụ năng lượng trung bình của thuật toán với độ phức tạp tính toán không? Tôi đoán, độ phức tạp tính toán tương …

12 cc.complexity-theory  reference-request  it.information-theory  quantum-information  statistical-physics 

Tôi đang tìm kiếm một ràng buộc trên entropy H(X+Y)H(X+Y)H(X+Y) của tổng của hai biến ngẫu nhiên rời rạc độc lập và . Đương nhiên, Tuy nhiên, áp dụng cho tổng biến ngẫu nhiên Bernoulli độc lập , điều này mang lại cho Nói cách khác, ràng buộc phát triển …

12 it.information-theory  shannon-entropy