Thông tin rò rỉ theo thời gian

8

Giả sử tôi có biến ngẫu nhiên một bit và gọi là số tự nhiên. Tôi muốn một chuỗi các biến ngẫu nhiên st $X \in \{0,1\}$ $n$ $0 = X_0, X_1, \ldots, X_n = X$

H (X | {X_{0}, Giáo dục, X_{k}}) = = 1 - \frac{k}{n}

$H\left(X~|~\{X_0,\ldots,X_k\}\right) = 1-\frac{k}{n}$

Đó là, mỗi thêm cung cấp các thông tin của , cho đến khi mọi thứ đã được tiết lộ bởi . Có một công trình tốt đẹp cho chuỗi này? $X_k$ $1/n$ $X$ $X_n = X$

it.information-theory shannon-entropy

— Geoffrey Irving
nguồn

2

Qua Michael Kass: hãy để là một quá trình Wiener bắt đầu từ và xác định $Y(t)$ $Y(0) = X$

f (t) = = H (X | Y (t))

$f(t) = H(X~|~Y(t))$

Sau đó , và được tăng một cách trơn tru ở giữa. Do đó, với mọi chúng ta có thể tìm thấy st có entropy có điều kiện mong muốn ( sẽ là hàm giảm của ). $f(0) = 0$ $f(\infty)=1$ $f(t)$ $k$ $0 \le t \le \infty$ $X_k = Y(t)$ $t$ $k$

— Geoffrey Irving
nguồn

3

Bạn không thể đơn giản lấy

trong đó

là XOR và

là Bernoulli độc lập với

?

X_{k} = X \oplus Y_{k}

$X_k = X \oplus Y_k$

\oplus

$\oplus$

Y_{k}

$Y_k$

p_{k}

$p_k$

— Sasho Nikolov

Vâng, đó là một phương pháp đơn giản hơn. :)

— Geoffrey Irving

0

Vấn đề với việc xây dựng trước đó là không có gì đảm bảo rằng được tiết lộ một cách rõ ràng sau khi bit được truyền đi (dường như là một yêu cầu). Đây là một cấu trúc tương tự hoạt động nếu là số lẻ. Tạo bit ngẫu nhiên với xác suất 1/2, . Hãy và là số 1 và 0 trong . Bây giờ, truyền S nếu và $X$ $n$ $n$ $n$ $S=Y_0, Y_1,...$ $N(0)$ $N(1)$ $S$ $X=1$ hoặc và ; truyền theo cách khác một trong những bổ sung của . $N(1)>N(0)$ $X=0$ $N(1)<N(0)$ $S$

— siravan
nguồn

n = 3

$n=3$

X

$X$

Điều chỉnh. Phân tích trước đây của tôi là không chính xác. Tôi nghĩ có hai cách để xem xét nó. Thuật toán đối xứng trên các bit và truyền một bit thông tin, vì vậy mỗi bit sẽ đóng góp 1 / n bit thông tin. Nhưng nếu chúng ta muốn tính toán xác suất có điều kiện, mọi thứ sẽ trở nên lộn xộn. Tôi tin rằng tình huống này là một biến thể của vấn đề Monty Hall ( en.wikipedia.org/wiki/Monty_Hall_probols ).

— siravan

1

Y (0) = X

$Y(0) = X$