Nguyên lý Minimax của Yao về thuật toán Monte Carlo

$P$ $\mathcal{X}$ $\mathcal{A}$ $P$ $\mathcal{D}$ $\mathcal{R}$ $\mathcal{A}$

min_{A \in A} E c o s t (A, D) \leq max_{x \in X} E c o s t (R, x) for all D and R .

$\min_{A\in\mathcal{A}}\quad\mathbb{E} cost(A,\mathcal{D}) \leq \max_{x\in\mathcal{X}}\quad\mathbb{E} cost(\mathcal{R},x) \quad\quad\text{for all $\mathcal{D}$ and $\mathcal{R}$}.$

Chủ yếu là nguyên tắc của Yao chỉ liên quan đến các thuật toán Las Vegas , nhưng nó có thể được khái quát thành các thuật toán Monte Carlo như sau. trong đó biểu thị chi phí của các thuật toán Monte Carlo sai xác suất nhiều nhất là .

\frac{1}{2} min_{A \in A} E c o s t_{2 ϵ} (A, D) \leq max_{x \in X} E c o s t_{ϵ} (R, x) for all D, R and ϵ \in [0, 1 / 2]

$\frac12 \min_{A\in\mathcal{A}}\quad\mathbb{E} cost_{2\epsilon}(A,\mathcal{D}) \leq \max_{x\in\mathcal{X}}\quad\mathbb{E} cost_{\epsilon}(\mathcal{R},x)\quad\quad\text{for all $\mathcal{D}$, $\mathcal{R}$ and $\epsilon\in [0,1/2]$}$

c o s t_{ϵ} (\cdot, \cdot)

$cost_\epsilon(\cdot,\cdot)$

ϵ

$\epsilon$

Trong bài báo gốc của Yao , mối quan hệ với các thuật toán Monte Carlo được đưa ra tại Định lý 3 mà không cần chứng minh. Bất kỳ gợi ý để chứng minh nó?

randomized-algorithms

— Federico Magallanez
nguồn

Đây chỉ là một nhận xét mở rộng về câu trả lời của Marcos, sử dụng ký hiệu của ông. Tôi không hoàn toàn có thể theo dõi chi tiết lập luận của anh ấy, và câu dưới đây khá ngắn gọn và dễ dàng.

Bằng cách tính trung bình,

\sum_{A} q (A) \sum_{x} d (x) ϵ (A, x) = \sum_{x} d (x) \sum_{A} q (A) ϵ (A, x) \leq λ .

$\sum_A{q(A)\sum_x{d(x)\epsilon(A, x)}} = \sum_x{d(x)\sum_A{q(A)\epsilon(A, x)}} \leq \lambda.$

Thực tế ở trên và bất đẳng thức của Markov ngụ ý . $\sum_{A \in \beta(2\lambda)}{q(A)} \geq 1/2$

Vì vậy, chúng tôi nhận được:

\begin{aligned} max_{x} \sum_{A} q (A) r (A, x) & \geq \sum_{x} d (x) \sum_{A} q (A) r (A, x) \\ = \sum_{A} q (A) \sum_{x} d (x) r (A, x) \\ \geq \sum_{A \in β (2 λ)} q (A) \sum_{x} d (x) r (A, x) \\ \geq (\sum_{A \in β (2 λ)} q (A)) min_{A \in β (2 λ)} \sum_{x} d (x) r (A, x) \\ \geq \frac{1}{2} min_{A \in β (2 λ)} \sum_{x} d (x) r (A, x) \end{aligned}

$\begin{align*} \max_x \sum_A{q(A)r(A,x)} &\geq \sum_x{d(x)\sum_A{q(A)r(A, x)}}\\ &= \sum_A{q(A)\sum_x{d(x)r(A, x)}}\\ &\geq \sum_{A \in \beta(2\lambda)}{q(A)\sum_x{d(x)r(A, x)}}\\ &\geq \left(\sum_{A \in \beta(2\lambda)}{q(A)}\right) \min_{A \in \beta(2\lambda)}{\sum_x{d(x)r(A, x)}}\\ &\geq \frac{1}{2}\min_{A \in \beta(2\lambda)}{\sum_x{d(x)r(A, x)}} \end{align*}$

— Sasho Nikolov
nguồn

Tôi sẽ thử nó. Tôi sẽ sử dụng ký hiệu ban đầu của Yao. Bằng cách này, nó sẽ dễ dàng tương phản với bài báo và định nghĩa của anh ấy.

Đặt là một tập hợp đầu vào hữu hạn và để là tập hợp hữu hạn của các thuật toán xác định có thể không đưa ra câu trả lời đúng cho một số đầu vào. Hãy cũng nếu đưa ra câu trả lời đúng cho và nếu không. Đồng thời biểu thị bằng số lượng truy vấn được thực hiện bởi trên đầu vào , hoặc tương đương, độ sâu của cây quyết định của $\mathcal{I}$ $\mathcal{A}_0$ $\epsilon(A,x)=0$ $A$ $x$ $\epsilon(A,x)=1$ $r(A,x)$ $A$ $x$ $A$

Chi phí trung bình: Với phân phối xác suất trên , chi phí trung bình của thuật toán là . $d$ $\mathcal{I}$ $A\in \mathcal{A}_0$ $C(A,d)=\sum_{x\in\mathcal{I}} d(x)\cdot r(A,x)$

Độ phức tạp phân phối: Đặt . Đối với mọi phân phối trên các đầu vào, hãy để là tập con của được cung cấp bởi . Độ phức tạp phân phối với lỗi cho một vấn đề tính toán được xác định là . $\lambda\in[0,1]$ $d$ $\beta(\lambda)$ $\mathcal{A}_0$ $\beta(\lambda)=\{A : A\in \mathcal{A}_0, \sum_{x\in\mathcal{I}} d(x)\cdot \epsilon(A,x)\leq \lambda\}$ $\lambda$ $P$ $F_{1,\lambda}(P)=\max_{d} \min_{A\in \beta(\lambda)} C(A,d)$

$\lambda$ -tolerance: Một phân phối về gia đình là -tolerant nếu . $q$ $\mathcal{A}_0$ $\lambda$ $\max_{x\in \mathcal{I}} \sum_{A\in\mathcal{A}_0} q(A)\cdot \epsilon(A,x)\leq \lambda$

Chi phí dự kiến: Đối với thuật toán ngẫu nhiên , hãy để là phân phối xác suất là -tolerant trên . Các chi phí dự kiến của cho một đầu vào cho là . $R$ $q$ $\lambda$ $\mathcal{A}_0$ $R$ $x$ $E(R,x)=\sum_{A\in \mathcal{A}_0} q(A)\cdot r(A,x)$

Độ phức tạp ngẫu nhiên: Đặt . Độ phức tạp ngẫu nhiên với lỗi là . $\lambda\in[0,1]$ $\lambda$ $F_{2,\lambda}=\min_R \max_{x\in\mathcal{I}} E(R,x)$

Bây giờ chúng tôi đã sẵn sàng để đi vào kinh doanh. Những gì chúng tôi muốn chứng minh được cung cấp một phân phối trên các đầu vào và thuật toán ngẫu nhiên (nghĩa là phân phối trên ) $d$ $R$ $q$ $\mathcal{A}_0$

Nguyên lý Minimax của Yao cho Thuật toán Montecarlo cho .
$max_{x \in I} E (R, x) \geq \frac{1}{2} min_{A \in β (2 λ)} C (A, d)$ $\begin{equation}\max_{x\in\mathcal{I}} E(R,x)\geq \frac{1}{2}\min_{A\in \beta(2\lambda)} C(A,d) \end{equation}$ $\lambda\in[0,1/2]$

Tôi sẽ theo một cách tiếp cận được đưa ra bởi Fich, Meyer auf der Heide, Ragde và Wigderson (xem Bổ đề 4). Cách tiếp cận của họ không mang lại đặc tính cho các thuật toán Las Vegas (chỉ giới hạn dưới), nhưng nó đủ cho mục đích của chúng tôi. Từ bằng chứng của họ, dễ dàng nhận thấy rằng với mọi và $\mathcal{A}_0$ $\mathcal{I}$

Yêu cầu 1. . $\max_{x\in \mathcal{I}} E(R,x)\geq \min_{A\in \mathcal{A}_0} C(A,d)$

Để có được số chính xác ở đó, chúng tôi sẽ làm một cái gì đó tương tự. Cho rằng phân phối xác suất được đưa ra bởi thuật toán ngẫu nhiên là -tolerant trên chúng ta có Nếu chúng ta thay thế gia đình bằng $q$ $R$ $\lambda$ $\mathcal{A}_0$

\begin{aligned} λ & \geq max_{x \in I} {\sum_{A \in A_{0}} q (A) \cdot ϵ (A, x)} \\ \geq \sum_{x \in I} d (x) \sum_{A \in A_{0}} q (a) \cdot ϵ (A, x) \\ = \sum_{A \in A_{0}} q (a) \sum_{x \in I} d (x) \cdot ϵ (A, x) \\ \geq min_{A \in A_{0}} {\sum_{x \in I} d (x) \cdot ϵ (A, x)} . \end{aligned}

$\begin{align*} \lambda &\geq \max_{x\in \mathcal{I}}\left\{ \sum_{A\in\mathcal{A}_0} q(A)\cdot \epsilon(A,x) \right\}\\ &\geq \sum_{x\in\mathcal{I}} d(x) \sum_{A\in \mathcal{A}_0} q(a)\cdot \epsilon(A,x)\\ &= \sum_{A\in \mathcal{A}_0} q(a)\sum_{x\in\mathcal{I}} d(x) \cdot \epsilon(A,x)\\ &\geq \min_{A\in \mathcal{A}_0}\left\{ \sum_{x\in\mathcal{I}} d(x) \cdot \epsilon(A,x) \right\}. \end{align*}$

A_{0}

$\mathcal{A}_0$

β (2 λ)

$\beta(2\lambda)$ chúng ta thấy rằng

\begin{aligned} λ & \geq max_{x \in I} {\sum_{A \in A_{0}} q (A) \cdot ϵ (A, x)} \\ \geq max_{x \in I} {\sum_{A \in β (2 λ)} q (A) \cdot ϵ (A, x)} \\ \geq \sum_{x \in I} d (x) \sum_{A \in β (2 λ)} q (a) \cdot ϵ (A, x) \\ = \sum_{A \in β (2 λ)} q (a) \sum_{x \in I} d (x) \cdot ϵ (A, x) \\ \geq min_{A \in β (2 λ)} {\frac{1}{2} \sum_{x \in I} d (x) \cdot ϵ (A, x)}, \end{aligned}

$\begin{align*} \lambda &\geq \max_{x\in \mathcal{I}}\left\{ \sum_{A\in\mathcal{A}_0} q(A)\cdot \epsilon(A,x) \right\}\\ &\geq \max_{x\in \mathcal{I}}\left\{ \sum_{A\in\beta(2\lambda)} q(A)\cdot \epsilon(A,x) \right\}\\ &\geq \sum_{x\in\mathcal{I}} d(x) \sum_{A\in \beta(2\lambda)} q(a)\cdot \epsilon(A,x)\\ &= \sum_{A\in \beta(2\lambda)} q(a)\sum_{x\in\mathcal{I}} d(x) \cdot \epsilon(A,x)\\ &\geq \min_{A\in \beta(2\lambda)}\left\{ \frac{1}{2}\sum_{x\in\mathcal{I}} d(x) \cdot \epsilon(A,x) \right\}, \end{align*}$

trong đó bất đẳng thức thứ hai theo sau bởi vì và bất đẳng thức cuối cùng được đưa ra theo định nghĩa của trong đó tổng của 2 chia có thể lớn hơn . Do đó, $\beta(2\lambda) \subseteq \mathcal{A}_0$ $\beta(2\lambda)$ $\lambda$

max_{x \in I} {\sum_{A \in A_{0}} q (A) \cdot ϵ (A, x)} \geq \frac{1}{2} min_{A \in β (2 λ)} {\sum_{x \in I} d (x) \cdot ϵ (A, x)} .

$\begin{equation}\max_{x\in \mathcal{I}}\left\{ \sum_{A\in\mathcal{A}_0} q(A)\cdot \epsilon(A,x) \right\}\geq\frac{1}{2} \min_{A\in \beta(2\lambda)}\left\{ \sum_{x\in\mathcal{I}} d(x) \cdot \epsilon(A,x) \right\}. \end{equation}$

Bằng cách ghi nhận rằng bản đồ để và bản đồ để và yêu cầu bồi thường 1 ở trên, bây giờ chúng tôi một cách an toàn có thể thay thế chức năng trong sự bất bình đẳng trên bằng để có được bất đẳng thức mong muốn. $\epsilon$ $\{0,1\}$ $r$ $\mathbb{N}$ $\epsilon$ $r(A,x)$

— Marcos Villagra
nguồn

Có một lời giải thích ngắn cho việc yếu tố 2 đến từ đâu?

— Robin Kothari

Nói tóm lại, nó xuất phát từ định nghĩa của . Tổng kết trong định nghĩa chia cho 2 nhiều nhất là .

β (2 λ)

$\beta(2\lambda)$

λ

$\lambda$

— Marcos Villagra

một cái gì đó có vẻ xa lạ với tôi theo định nghĩa, vậy tại sao lại là min?

max_{A \in β (2 λ))} {\frac{1}{2} \sum_{x \in I} d (x), ϵ (A, x)} \leq λ

$\max_{A \in \beta(2\lambda))} \left\{\frac{1}{2} \sum_{x \in \mathcal{I}}{d(x), \epsilon(A,x)}\right\} \leq \lambda$

— Sasho Nikolov

và tôi không hiểu câu cuối cùng. Làm thế nào bạn thực hiện một cuộc tranh luận về và sau đó thay thế nó bằng ?

ϵ

$\epsilon$

r

$r$

— Sasho Nikolov

liên quan đến câu hỏi đầu tiên của bạn, tôi đã thêm chi tiết.

— Marcos Villagra