Hiểu biết cụ thể về sự khác biệt giữa các định nghĩa PP và BPP

9

Tôi bối rối về cách định nghĩa PP và BPP . Giả sử là hàm đặc trưng cho ngôn ngữ . M là máy Turing xác suất. Các định nghĩa sau có đúng không: $\chi$ $\mathcal{L}$
$BPP =\{\mathcal{L} :Pr[\chi(x) \ne M(x)] \geq \frac{1}{2} + \epsilon \quad \forall x \in \mathcal{L},\ \epsilon > 0 \}$
$PP =\{\mathcal{L} :Pr[\chi(x) \ne M(x)] > \frac{1}{2} \}$

Nếu định nghĩa sai, vui lòng thử thực hiện thay đổi tối thiểu để làm cho chúng chính xác (nghĩa là không đưa ra định nghĩa tương đương khác sử dụng máy đếm hoặc một số mô hình được sửa đổi). Tôi không thể phân biệt chính xác các điều kiện về xác suất trên cả hai định nghĩa.

Một số ví dụ cụ thể với cái nhìn sâu sắc rõ ràng về các điểm tinh tế sẽ rất hữu ích.

— DurgaDatta
nguồn

10

Điều đó có vẻ đúng với tôi. Sự khác biệt giữa BPP và PP là đối với BPP, xác suất phải lớn hơn bởi một hằng số , trong khi đối với PP, nó có thể là . Vì vậy, đối với các sự cố BPP, bạn có thể thực hiện khuếch đại xác suất với một số lần lặp lại nhỏ, trong khi đối với các sự cố PP nói chung, bạn không thể. $1/2$ $1/2+ 1/2^n$

— adrianN
nguồn

12

Câu trả lời của Vor đưa ra định nghĩa chuẩn. Hãy để tôi cố gắng giải thích sự khác biệt một chút bằng trực giác.

Đặt là thuật toán thời gian đa thức xác suất lỗi cho một ngôn ngữ trả lời đúng với xác suất ít nhất là . Đặt là đầu vào và kích thước của đầu vào. $M$ $L$ $p\geq\frac{1}{2}+\delta$ $x$ $n$

Điều gì phân biệt một tùy Thuật toán từ một Thuật toán là chênh lệch dương giữa khả năng chấp nhận và khả năng chấp nhận . $\mathsf{PP}$ $\mathsf{BPP}$ $x\in L$ $x\notin L$ Điều cốt yếu về là khoảng cách ít nhất là . Tôi sẽ cố gắng giải thích tại sao sự khác biệt này lại có ý nghĩa và cho phép chúng tôi coi được coi là thuật toán hiệu quả (thậm chí được phỏng đoán là bằng ) trong khi được coi là không hiệu quả (thực tế chứa $\mathsf{BPP}$ $n^{-O(1)}$ $\mathsf{BPP}$ $\mathsf{P}$ $\mathsf{PP}$ $\mathsf{PP}$ $\mathsf{NP}$ ). Tất cả điều này đến từ khoảng cách này.

Hãy bắt đầu bằng cách xem xét cẩn thận hơn. $\mathsf{PP}$

Lưu ý rằng nếu thuật toán sử dụng tối đa bit ngẫu nhiên trong quá trình thực thi và xác suất lỗi nhỏ hơn thì xác suất lỗi thực sự là , không thể có bất kỳ bit ngẫu nhiên nào được chọn làm cho thuật toán trả lời sai. $r(n)$ $2^{-r(n)}$ $0$

Hơn nữa, một thuật toán có thời gian chạy không thể sử dụng nhiều hơn bit ngẫu nhiên, do đó, nếu lỗi của thuật toán xác suất với thời gian chạy trong trường hợp xấu nhất thì tốt hơn $t(n)$ $t(n)$ $t(n)$

Với một lập luận tương tự, chúng ta có thể chỉ ra rằng trường hợp chênh lệch giữa xác suất chấp nhận và xác suất chấp nhận quá nhỏ tương tự như trường hợp chúng ta gần như không có sự khác biệt như trong trường hợp . $x\in L$ $x\notin L$ $\mathsf{PP}$

Bây giờ chúng ta hãy tiến tới . $\mathsf{BPP}$

Trong các thuật toán xác suất, chúng ta có thể tăng xác suất để trả lời chính xác. Giả sử chúng tôi muốn tăng xác suất chính xác lên cho xác suất lỗi nói (lỗi nhỏ theo cấp số nhân). $1-\epsilon$ $\epsilon=2^{-n}$

Ý tưởng rất đơn giản: chạy nhiều lần và lấy câu trả lời của đa số. $M$

Chúng ta nên chạy bao nhiêu lần để có xác suất lỗi tối đa ? lần. Bằng chứng được đưa ra ở dưới cùng của câu trả lời này. $M$ $\epsilon$ $\Theta(\delta^{-1} \lg \epsilon)$

Bây giờ chúng ta hãy xem xét rằng các thuật toán mà chúng ta đang thảo luận cần phải là thời gian đa thức. Điều đó có nghĩa là chúng ta không thể chạy nhiều hơn đa thức nhiều lần. Nói cách khác, , hoặc đơn giản hơn $M$ $\Theta(\delta^{-1} \ln \epsilon) = n^{O(1)}$

δ^{- 1} \lg ε = = n^{Ôi (1)}

$\delta^{-1} \lg \epsilon = n^{O(1)}$

Mối quan hệ này phân loại các thuật toán xác suất lỗi bị ràng buộc thành các lớp tùy thuộc vào xác suất lỗi của chúng. Không có sự khác biệt giữa xác suất lỗi là hoặc hằng số dương (nghĩa là không thay đổi với ) hoặc . Chúng ta có thể nhận được từ một trong những điều này đến những người khác trong khi vẫn còn trong thời gian đa thức. $\epsilon$ $2^{-n}$ $n$ $\frac{1}{2}-n^{O(1)}$

Tuy nhiên, nếu quá nhỏ, giả sử , hoặc thậm chí thì chúng ta không có cách tăng xác suất chính xác và giảm xác suất lỗi đủ nhận được vào . $\delta$ $0$ $2^{-n}$ $n^{-\omega(1)}$ $\mathsf{BPP}$

Điểm chính ở đây là trong chúng ta có thể giảm xác suất lỗi một cách hiệu quả theo cấp số nhân nên chúng ta gần như chắc chắn về các câu trả lời và đó là điều khiến chúng ta coi lớp thuật toán này là thuật toán hiệu quả. Xác suất lỗi có thể giảm đến mức một lỗi phần cứng có nhiều khả năng hoặc thậm chí một thiên thạch rơi trên máy tính có nhiều khả năng hơn là gây ra lỗi bởi thuật toán xác suất. $\mathsf{BPP}$

Điều đó không đúng với , chúng tôi không biết cách giảm xác suất lỗi và chúng tôi gần như trả lời bằng cách ném một đồng xu để có câu trả lời (chúng tôi không hoàn toàn, xác suất là không phải một nửa và một nửa, nhưng nó rất gần với tình huống đó). $\mathsf{PP}$

Phần này đưa ra bằng chứng rằng để có được xác suất lỗi khi chúng ta bắt đầu với một thuật toán có khoảng cách chúng ta nên chạy lần. $\epsilon$ $(\frac{1}{2}-\delta,\frac{1}{2}+\delta)$ $M$ $\Theta(\delta^{-1} \lg \epsilon)$

Đặt là thuật toán chạy trong lần và sau đó trả lời theo câu trả lời của đa số. Để đơn giản, giả sử là số lẻ nên chúng ta không có quan hệ. $N_k$ $M$ $k$ $k$

Hãy xem xét các trường hợp đó . Trường hợp cũng tương tự. Sau đó Để phân tích xác suất chính xác của chúng ta cần ước tính xác suất chiếm đa số Các chạy chấp nhận. $x \in L$ $x \notin L$

P r {M (x) chấp nhận} = = p \geq \frac{1}{2} + δ

$\mathsf{Pr}\{M(x) \text{ accepts}\} = p \geq \frac{1}{2} + \delta$

N_{k}

$N_k$

k

$k$

Đặt là 1 nếu lần chạy thứ chấp nhận và là nếu nó từ chối. Lưu ý rằng mỗi lần chạy là độc lập với người khác khi họ sử dụng các bit ngẫu nhiên độc lập. Do đó, là các biến ngẫu nhiên Boolean độc lập trong đó $X_i$ $i$ $0$ $X_i$

E [X_{Tôi}] = = P r {X_{Tôi} = = 1} = = P r {M (x) chấp nhận} = = p \geq \frac{1}{2} + δ

$\mathbb{E}[X_i] = \mathsf{Pr}\{X_i=1\} = \mathsf{Pr}\{M(x)\text{ accepts}\} = p \geq \frac{1}{2}+\delta$

Đặt . Chúng ta cần ước tính xác suất mà đa số chấp nhận, tức là xác suất mà . $Y = \Sigma_{i=1}^k X_i$ $Y\geq\frac{k}{2}$

P r {N_{k} (x) chấp nhận} = = P r {Y \geq \frac{k}{2}}

$\mathsf{Pr}\{N_k(x) \text{ accepts}\} = \mathsf{Pr}\{Y \geq \frac{k}{2}\}$

Làm thế nào để làm nó? Chúng ta có thể sử dụng ràng buộc Chernoff cho chúng ta biết mức độ tập trung của xác suất gần giá trị mong đợi. Đối với bất kỳ biến ngẫu nhiên nào có giá trị mong đợi , chúng ta có $Z$ $\mu$

P r {| Z - μ | > α μ} < e^{\frac{α^{2}}{4} μ}

$\mathsf{Pr}\{|Z-\mu| > \alpha\mu\} < e^{\frac{\alpha^2}{4}\mu}$

trong đó nói rằng xác suất là cách xa giá trị mong đợi của nó sẽ giảm theo cấp số nhân khi tăng. Chúng tôi sẽ sử dụng nó để ràng buộc xác suất của . $Z$ $\alpha\mu$ $\mu$ $\alpha$ $Y < \frac{k}{2}$

Lưu ý rằng theo tính tuyến tính của kỳ vọng, chúng ta có

E [Y] = = E [Σ_{Tôi = = 1}^{k} X_{Tôi}] = = Σ_{Tôi = = 1}^{k} E [X_{Tôi}] = = k p \geq \frac{k}{2} + k δ

$\mathbb{E}[Y] = \mathbb{E}[\Sigma_{i=1}^k X_i] = \Sigma_{i=1}^k \mathbb{E}[X_i] = kp \geq \frac{k}{2} + k\delta$

Bây giờ chúng ta có thể áp dụng ràng buộc Chernoff. Chúng tôi muốn giới hạn trên về xác suất của . Giới hạn Chernoff sẽ đưa ra giới hạn trên về xác suất là đủ. Chúng ta có $Y< \frac{k}{2}$ $|Y-(\frac{k}{2}+k\delta)| > k\delta$

P r {| Y - k p | > α k p} < e^{- \frac{α^{2}}{4} k p}

$Pr\{|Y - kp| > \alpha kp\} < e^{-\frac{\alpha^2}{4}kp}$

và nếu chúng ta chọn sao cho chúng ta đã hoàn thành, vì vậy chúng ta chọn . $\alpha$ $\alpha kp = k\delta$ $\alpha = \frac{\delta}{p} \leq \frac{2\delta}{2\delta+1}$

Vì vậy, chúng tôi có

P r {Y < \frac{k}{2}} \leq P r {| Y - (\frac{k}{2} + k δ) | > k δ} \leq P r {| Y - k p | > α k p} < e^{- \frac{α^{2}}{4} k p}

$Pr\{Y < \frac{k}{2} \} \leq Pr\{|Y - (\frac{k}{2}+k\delta)| > k\delta\} \leq Pr\{|Y - kp| > \alpha kp\} < e^{-\frac{\alpha^2}{4}kp}$

và nếu bạn làm các phép tính, bạn sẽ thấy rằng

\frac{α^{2}}{4} k p \leq \frac{δ^{2}}{4 δ + 2} k = = Θ (k δ)

$\frac{\alpha^2}{4}kp \leq \frac{\delta^2}{4\delta+2}k = \Theta(k\delta)$

chúng ta có

P r {Y < \frac{k}{2}} < e^{- Θ (k δ)}

$Pr\{Y < \frac{k}{2} \} < e^{-\Theta(k\delta)}$

Chúng tôi muốn lỗi nhiều nhất là , vì vậy chúng tôi muốn $\epsilon$

e^{- Θ (k δ)} \leq ε

$e^{-\Theta(k\delta)} \leq \epsilon$

hay nói cách khác

Θ (δ^{- 1} \lg ε) \leq k

$\Theta(\delta^{-1} \lg \epsilon) \leq k$

Một điểm quan trọng ở đây là trong quá trình này chúng tôi sẽ sử dụng nhiều bit ngẫu nhiên hơn và cũng thời gian chạy sẽ tăng, tức là trường hợp xấu nhất chạy-thời điểm sẽ được khoảng lần so với chạy-thời điểm . $N_k$ $k$ $M$

Ở đây điểm giữa của khoảng cách là . Nhưng nói chung điều này không cần phải là trường hợp. Chúng ta có thể áp dụng một phương pháp tương tự cho các giá trị khác bằng cách lấy các phân số khác thay cho đa số để chấp nhận. $\frac{1}{2}$

— Kaveh
nguồn

7

Sử dụng ký hiệu của bạn:

$BPP =\{L : \exists$ một máy Turing đa thời gian xác suất và một chi phí sao cho $M,$ $0 < c \leq 1/2$ $\forall x \; Pr[\chi_L(x) = M(x)] \geq \frac{1}{2} + c\}$

$PP =\{L : \exists$ một máy Turing thời gian đa thức xác suất sao cho $M$ $\forall x \; Pr[\chi_L(x) = M(x)] > \frac{1}{2}\}$

Sự khác biệt đã được adrianN chỉ ra và bạn cũng có thể xem Wikipedia PP vs BPP

— Vor
nguồn