Tư cách thành viên quý có thể được quyết định không gian hiệu quả?

Hãy xem xét các vấn đề quyết định sau đây. Đặt và để là phù hợp liệt kê các tập hợp con của có tối đa phần tử. $q = \sum_{i=0}^{n/4} \binom{n}{i}$ $(C_0^n, C_1^n,\dots,C_{q-1}^n)$ $\{0,1,\dots,n-1\}$ $n/4$

Tứ tập hợp con Membership
Input: tuple của các số nguyên không âm $(i,j,n)$ trong hệ nhị phân
Câu hỏi: là $i \in C_j^n$ ?

Bằng cách chọn một phép liệt kê "đẹp" , Tư cách thành viên của Tập hợp con có thể được quyết định bởi một máy Turing xác định sử dụng không quá bit không gian làm việc, cho tất cả đủ lớn không? $(C_i^n)$ $(0.99)n$ $n$

Thảo luận

Đặt $\log x = \log_2 x$ . Thật dễ dàng để liệt kê tất cả các tập hợp con của tối đa $k$ phần tử được chọn ngoài $n$ bằng cách theo dõi các chỉ số $k$ có kích thước $\lceil \log n \rceil$ mỗi bit. (Xem thêm phần thảo luận trong phần TAOCP của Knuth 7.2.1.3.) Khi $k$ không đổi, đây chỉ là các bit $O(\log n)$ . Tuy nhiên, nếu chúng ta để $k = cn$ cho một số hằng số $c \le 1/4$ , thì các sơ đồ liệt kê như vậy sử dụng không gian $\Omega(n\log n)$ . Người ta cũng có thể sử dụng một vectơ đặc trưng $n$ -bit cùng với kiểm tra số lượng bit được đặt. Tôi quan tâm đến các chương trình đánh bại $n$ bit.

Một câu hỏi liên quan chặt chẽ là:

Đối với dương thỏa mãn bất đẳng thức , có mã đại diện cho các tập hợp con của hầu hết các phần tử được chọn từ sử dụng bit cho một số không đổi và có thể Giải mã hiệu quả? $c$ $c\log(e(1+c)/c) < 1$ $cn$ $n$ $dn$ $d < 1$

Lưu ý rằng với đủ lớn , và vì khi thì về mặt lý thuyết thông tin theo sau đó sẽ đạt được với một mã hoàn hảo. (Giá trị này nhỏ hơn nếu .) Do đó, tôi đang tìm kiếm một mã hợp lý sạch có thể được thao tác mà không cần sử dụng nhiều dung lượng. $n$

\sum_{i = 0}^{k} (\binom{n}{i}) \leq ((\binom{n}{k})) = (\binom{n + k - 1}{k}),

$\sum_{i=0}^k\binom{n}{i} \le \left(\binom{n}{k}\right) = \binom{n+k-1}{k},$

\log (\binom{n + k - 1}{k}) \leq \log [(e (n + k - 1) / k)^{k}],

$\log\binom{n+k-1}{k} \le \log[(e(n+k-1)/k)^k],$

k = c n

$k = cn$

d \leq c \log (e (1 + c) / c)

$d \le c\log(e(1+c)/c)$

1

$1$

0 < c \leq 0.2728

$0 < c \le 0.2728$

Để có được một mã hoàn hảo, người ta có thể chọn một số phép liệt kê của các tập hợp con, chạy một chỉ mục thông qua phép liệt kê theo thứ tự tăng dần, và sau đó có được mỗi kết hợp bằng cách giải mã chỉ mục. Tuy nhiên, giải mã mã như vậy khi dường như yêu cầu sử dụng ít nhất bit không gian cho các liệt kê mà tôi đã xem, chẳng hạn như thông qua các vectơ đặc trưng được sắp xếp bằng cách tăng trọng lượng Hamming và sau đó theo từ vựng hoặc thông qua mã Gray. $k \ge \Omega(n/\log n)$ $n$

~~Có thể có một cách để làm điều này với không gian , nhưng tôi nghĩ có nhiều khả năng khả thi. $o(n)$ $(1-\varepsilon)n$~~ Lưu ý rằng vì , giới hạn dưới lý thuyết thông tin đã là các bit , vì vậy đây thực sự là về việc có thể đạt được đối với một số . Một mã đủ tốt (nhưng không nhất thiết phải hoàn hảo) dường như là đủ để trả lời câu hỏi của tôi trong câu khẳng định. Nó cũng có thể là trường hợp Thành viên Tập hợp con có thể được quyết định một cách hiệu quả mà không cần xây dựng mã một cách rõ ràng. Mặt khác, một phép liệt kê như vậy có thể không tồn tại: ví dụ: mọi chuỗi liệt kê cho các giá trị của $\log \binom{n}{cn} \ge cn\log(1/c)$ $\Omega(n)$ $(1-\varepsilon)n$ $\varepsilon > 0$ $n$ có thể là không đồng nhất, hoặc có thể là bất kỳ -bit ràng buộc phải bị vi phạm thường xuyên. $(1-\varepsilon)n$

— Salamás Salamon
nguồn

Giới hạn của bạn là lãng phí. Nếu , thì và . Một tính toán cẩn thận hơn một chút (xem ví dụ mathoverflow.net/q/55585 ) cho thấy thực sự , do đó nhật ký của nó là một lần nữa . Tất nhiên, với mọi .

0 < c < 1 / 2

$0<c<1/2$

\log (\binom{n}{c n}) = H (c) n - \frac{1}{2} \log n + O (1)

$\log\binom n{cn}=H(c)n-\frac12\log n+O(1)$

\log (\sum_{i \leq c n} (\binom{n}{i})) \leq \log (n (\binom{n}{c n})) \leq H (c) n + \frac{1}{2} \log n + O (1)

$\log\left(\sum_{i\le cn}\binom ni\right)\le\log\left(n\binom n{cn}\right)\le H(c)n+\frac12\log n+O(1)$

\sum_{i \leq c n} (\binom{n}{i}) = O ((\binom{n}{c n}))

$\sum_{i\le cn}\binom ni=O\left(\binom n{cn}\right)$

H (c) n - \frac{1}{2} \log n + O (1)

$H(c)n-\frac12\log n+O(1)$

H (c) < 1

$H(c)<1$

c < 1 / 2

$c<1/2$

— Emil Jeřábek

@ EmilJeřábek điểm tốt, vì vậy câu hỏi có thể được mở rộng thành Thành viên nửa tập hợp chung hơn, và phần lớn các cuộc thảo luận được đơn giản hóa.

— András Salamon

Tôi giả sử từ các cuộc thảo luận rằng bạn không thực sự quan tâm đến không gian làm việc như đã yêu cầu, nhưng trong tổng không gian bao gồm cả kích thước của đầu vào. ( Mặt khác, sơ đồ mã hóa -bit tầm thường có thể được giải mã trong không gian logarit.) $n$

Đặt là hằng số đủ lớn và xem xét sơ đồ mã hóa sau cho . Tách thành khối , , có kích thước mỗi khối và đặt . Mã hóa của bao gồm chuỗi các số sau (được viết bằng nhị phân) cho mỗi : $k$ $X\subseteq\{0,\dots,n-1\}$ $\{0,\dots,n-1\}$ $k$ $B_u$ $u<k$ $n/k$ $X_u=X\cap B_u$ $X$ $u<k$

kích thước; $s_u=|X_u|$
số tương ứng với trong hệ thống số tổ hợp cho các tập con . $X_u$ $s_u$

Đối với kích thước của mã hóa, giả sử . Các số lấy , sẽ không đáng kể. Chúng tôi có cho ít nhất của , trong trường hợp đó, mã hóa của mất khoảng bit; còn lại lấy tối đa bit mỗi. Tổng cộng tối đa là bit. $|X|\le n/4$ $s_u$ $O(k\log(n/k))$ $s_u\le n/(3k)$ $k/4$ $u$ $X_u$ $H(1/3)\tfrac nk\approx0{.}92n/k$ $X_u$ $n/k$ $0{.}98n$

Giải mã số tiền để quyết định khối nào đi vào, và sau đó tìm ra ; việc thứ hai được thực hiện dễ dàng trong không gian và người ta có thể sử dụng lại không gian bị chiếm bởi mã hóa của các khối còn lại (miễn là tổng không gian ít nhất là , điều đó phù hợp với đủ lớn). $i$ $X_u$ $n/k+O(\log n)$ $2n/k$ $k$

Một phân tích tốt hơn cho thấy sơ đồ này đạt được không gian về cơ bản : let . Vì , trung bình của so với nhiều nhất là . Mã hóa của mất khoảng bit. Bây giờ, hàm entropy là lõm, do đó trung bình của so với nhiều nhất là và tổng không gian là . Điều này là tối ưu cho đến . $H(1/4)n\approx0{.}812n$ $p_u=s_u/(n/k)$ $|X|/n\le1/4$ $p_u$ $u<k$ $1/4$ $X_u$ $H(p_u)n/k$ $H(p_u)$ $u<k$ $H(1/4)$ $H(1/4)n+O(\log n)$ $O(\log n)$

Tất nhiên không có gì đặc biệt về . Lập luận tương tự cho thấy với bất kỳ hằng số , có một sơ đồ mã hóa cho các tập con -size của có bit và có thể được giải mã tại chỗ. Ở một mức độ nào đó, nó thậm chí có thể được sử dụng cho các tập hợp con có kích thước trong đó , bằng cách lấy số khối không đổi ( hoặc như vậy), nhưng sau đó, chi phí trở nên rõ ràng hơn và vượt qua thuật ngữ chính khi giảm xuống dưới khoảng . $1/4$ $0<c<1/2$ $\le cn$ $\{0,\dots,n-1\}$ $H(c)n+O(\log n)$ $\le s(n)$ $s(n)\ll n$ $k\ge 2/H(s(n)/n)$ $O(k\log(n/k))$ $s(n)$ $\sqrt n$

— Emil Jeřábek
nguồn