Cạnh tranh với đa số trọng số tối ưu trong thuật toán chuyên gia

Trong vấn đề chuyên gia, chuyên gia cung cấp cho bạn dự đoán nhị phân hàng ngày và bạn phải dự đoán liệu trời sẽ mưa vào ngày mai. $n$

Đó là, vào ngày , bạn biết các dự đoán trong quá khứ của các chuyên gia, thời tiết thực tế cho các ngày và các dự đoán cho ngày mai và phải dự đoán liệu trời sẽ mưa vào ngày hôm sau. $t$ $1,2,\ldots t$

Trong thuật toán Đa số trọng số cổ điển , thuật toán này mắc lỗi , trong đó là số lỗi của chuyên gia giỏi nhất. $O(\log n + m)$ $m$

Đối với tôi, đây dường như là một lời hứa cực kỳ yếu, vì nó không cho phép bất kỳ lợi ích nào từ việc kết hợp dự đoán của một số chuyên gia.

Giả sử rằng mỗi kết quả là , dự đoán của chuyên gia vào ngày là và kết quả của ngày là . Chúng ta có thể xác định một 'tối ưu trọng lớn '' kẻ thù' như một chức năng cân tối ưu , như vậy mà quyết định của kẻ thù vào ngày được định nghĩa là $\{\pm 1\}$ $i$ $t$ $p_{i,t}$ $t$ $o_t$ $w\in\Delta([n])$ $t$ $sign(w\cdot p_t)$ , tức là phần lớn trọng số của các dự đoán, liên quan đến vectơ $w$ . Sử dụng ký hiệu này, đối thủ trước đó (chuyên gia giỏi nhất) chỉ có thể chọn các vectơ đơn vị.

$1,2,\ldots T$

E = = \frac{1}{2} \underset{w \in Δ ([n])}{tối thiểu} Σ_{t = = 1}^{T} | S Tôi g n (w \cdot p_{t}) - o_{t} |

$E = \frac{1}{2}\min_{w\in\Delta([n])} \sum_{t=1}^T|sign(w\cdot p_t)-o_t|$

Làm thế nào bạn sẽ giảm thiểu sự hối tiếc, so với $E$ ?

Để thấy rằng đây là một đối thủ mạnh hơn nhiều, hãy xem xét trường hợp của chuyên gia và ngày trong đó kết quả luôn là . Nếu , thì mỗi chuyên gia có một lỗi, nhưng vectơ đa số có trọng số là không có. $3$ $3$ $1$ $p_1=(1,1,-1), p_2 = (1,-1,1), p_3=(-1,1,1)$ $(1/3,1/3,1/3)$

ds.algorithms machine-learning

— RB
nguồn

Tôi nghĩ rằng bạn đang tìm kiếm phương pháp Exponentiated Gradient: users.soe.ucsc.edu/~manfred/pubs/J36.pdf

— Lev Reyzin

Trọng số nhân có lỗi so với chuyên gia duy nhất tốt nhất (trong số ) qua các vòngChúng tôi có thể tạo "chuyên gia meta" tương ứng với tất cả các đa số có thể có trọng số và sau đó chạy MW để gặp lỗi . Không chắc lớn đến mức nào - có lẽ đủ.

O (\sqrt{T \log n})

$O(\sqrt{T\log n})$

n

$n$

T

$T$

N

$N$

O (\sqrt{T \log N})

$O(\sqrt{T \log N})$

N

$N$

N = n^{O (n)}

$N=n^{O(n)}$

— Thomas

@Thomas - nghĩ về nó một lúc trước. Bạn sẽ phải đặt , khá lớn: oeis.org/A000609 .

N = n^{Θ (n^{2})}

$N=n^{\Theta(n^2)}$

— RB

O (n \sqrt{T \log n})

$O(n \sqrt{T \log n})$ Lỗi là một khởi đầu tốt. Bạn đang nhắm đến cái gì?

— Thomas

@Thomas - đó thực sự là một sự khởi đầu. Tôi đã hy vọng cho một thuật toán và tin rằng nó sẽ khả thi.

o (n \sqrt{T})

$o(n\sqrt T)$

— RB

Nếu bạn không ngại ngẫu nhiên, thì các thuật toán học trực tuyến tiêu chuẩn trong "khung tối ưu hóa lồi trực tuyến" sẽ cung cấp cho bạn về cơ bản những gì bạn yêu cầu, theo mong đợi. Lý do là các thuật toán này được yêu cầu để tạo ra một phân phối cho các chuyên gia ở mỗi bước, chịu tổn thất dự kiến bằng với kỳ vọng chọn một chuyên gia từ phân phối này. Và họ có sự hối tiếc mong đợi thấp so với phân phối tốt nhất trên các chuyên gia, tức là . $w \in \Delta([n])$ $O(\sqrt{\ln n / T})$

Ví dụ: bạn có thể sử dụng thuật toán trọng số nhân cổ điển, chỉ chiếm đa số trọng số nhưng chọn một chuyên gia để theo dõi với xác suất tỷ lệ thuận với "trọng số" của nó. Điều này được đề cập trong khảo sát của Arora (Định lý 6): https://www.cs.princeton.edu/~arora/pub/MWsurvey.pdf

— sử dụng
nguồn

Usul, khi bạn nói "hối tiếc so với phân phối tốt nhất trên các chuyên gia", đó có phải là những gì RB đang yêu cầu? Không phải là cách tiêu chuẩn để sử dụng phân phối cho các chuyên gia để chỉ dự đoán phân đoạn mỗi lần ? Hoặc (nhiều hơn hoặc ít hơn tương đương) để dự đoán 1 với xác suất và -1 nếu không. Sau đó, luôn luôn có một tối ưu chỉ sử dụng một chuyên gia, phải không? Nhưng theo tôi hiểu đề xuất của RB, thì hơi khác một chút: đưa ra dự đoán số nguyên: dấu tại mỗi thời điểm . Có rõ ràng điều này không thể đưa ra dự đoán tốt hơn đáng kể?

w

$w$

w \cdot p_{t}

$w\cdot p_t$

t

$t$

(w \cdot p_{t} + 1) / 2

$(w\cdot p_t + 1)/2$

w

$w$

(w \cdot p_{t})

$(w\cdot p_t)$

t

$t$

— Neal Young

@NealYoung, điểm tốt, tôi đã không nghĩ về điều đó sâu sắc. Tôi mặc nhiên cho rằng bạn có thể lồi lên chức năng khách quan này và nhận được sự hối tiếc tốt cho nó, nhưng điều đó có thể sai ...

— usul