Bất kỳ lớp giả thuyết nào khác ngoài Parity trong ồn ào PAC nhưng không phải trong SQ?


11

Angluin và Laird ('88) học chính thức với dữ liệu bị hỏng ngẫu nhiên trong mô hình "PAC với tiếng ồn phân loại ngẫu nhiên" (hoặc PAC ồn ào). Mô hình này tương tự như học PAC , ngoại trừ nhãn của các ví dụ được cung cấp cho người học bị hỏng (lật), độc lập ngẫu nhiên, với xác suất .η<1/2

Để giúp đỡ đặc trưng cho những gì là learnable trong mô hình PAC ồn ào, Kearns ('93) giới thiệu các mô hình thống kê truy vấn (SQ) cho việc học. Trong mô hình này, người học có thể truy vấn một nhà tiên tri thống kê cho các thuộc tính của phân phối mục tiêu và anh ta đã chỉ ra rằng bất kỳ lớp nào có thể học được đều có thể học được trong PAC ồn ào. Kearns cũng đã chứng minh rằng các chẵn lẻ trên biến không thể học được trong thời gian nhanh hơn đối với một số hằng số .2 n / c cn2n/cc

Sau đó, Blum et al. ('00) tách PAC ồn ào khỏi SQ bằng cách hiển thị rằng các chẵn lẻ trên là đa thức thời gian có thể học được trong mô hình PAC ồn ào nhưng không phải trong mô hình SQ.(log(n)loglog(n))

Câu hỏi của tôi là:

Các chẵn lẻ (trên các biến đầu tiên ) có thể học được trong mô hình PAC ồn ào nhưng không phải trong mô hình SQ. Có bất kỳ lớp học cụ thể nào khác, đủ khác biệt so với tính chẵn lẻ, được biết là có thể học được trong PAC ồn ào nhưng không phải trong SQ không?(log(n)loglog(n))

Câu trả lời:


6

Tôi nghĩ rằng câu trả lời là "không", mặc dù tôi không chắc chắn và cũng sẽ quan tâm đến các ví dụ khác. Một điều được biết là việc học theo thuyết bất khả tri khó hơn đáng kể từ góc độ lý thuyết thông tin trong mô hình SQ. Việc học đơn điệu không liên quan đến lỗi epsilon chỉ yêu cầu ví dụ trong cài đặt PAC (mặc dù nhiệm vụ học tập có thể khó tính toán ...). Trong mô hình SQ, không có thuật toán học bất khả tri cho các bất đồng đơn điệu có sự phụ thuộc đa thức vào về số lượng truy vấn mà nó thực hiện, thậm chí bỏ qua các xem xét tính toán. 1 / εd/ϵ21/ϵ


Cảm ơn, Aaron - đó là sự hiểu biết của tôi về tình trạng của mọi thứ, nhưng tôi không chắc chắn. Nếu không ai cho tôi một ví dụ sớm, tôi sẽ đánh dấu bạn là câu trả lời được chấp nhận.
Lev Reyzin

6

Đây là một câu hỏi hay. Tôi đoán bạn đang tìm kiếm một kỹ thuật phân tách khác nhau chứ không chỉ là một lớp chức năng khác (vì rất dễ đưa ra các ví dụ tự nhiên và nhân tạo của các lớp khái niệm vẫn dựa vào kết quả BKW để phân tách). Tôi sẽ đi xa hơn và nói rằng ngay cả ví dụ về tính chẵn lẻ không phải là sự phân tách quyết định vì mô hình SQ cho phép học với độ ồn nghịch đảo đa thức gần bằng 1/2 trong khi BKW không cho phép nhiễu tỷ lệ . Tôi nghĩ sẽ rất thú vị khi tìm thấy một sự tách biệt "thuần khiết". Có vẻ như điều này cũng đòi hỏi một kỹ thuật mới, trả lời câu hỏi ban đầu của bạn.1/2nϵ


Vâng, đúng vậy, tôi muốn có một kỹ thuật tách khác, và không phải thứ gì đó dựa vào BKW. Câu hỏi bổ sung của bạn về sự tách biệt thuần túy cũng thú vị.
Lev Reyzin
Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.