Kết hợp đặc tính học tập chính xác với các truy vấn thành viên

Chỉnh sửa: Vì tôi chưa nhận được bất kỳ phản hồi / nhận xét nào trong một tuần, tôi muốn nói thêm rằng tôi rất vui khi nghe bất cứ điều gì về vấn đề này. Tôi không làm việc trong khu vực, vì vậy ngay cả khi đó là một quan sát đơn giản, tôi có thể không biết điều đó. Ngay cả một nhận xét như "Tôi làm việc trong khu vực, nhưng tôi chưa thấy một đặc tính như thế này" sẽ hữu ích!

Lý lịch:

Có một số mô hình học tập được nghiên cứu kỹ về lý thuyết học tập (ví dụ: học PAC, học trực tuyến, học chính xác với các truy vấn thành viên / tương đương).

Ví dụ, trong học tập PAC, độ phức tạp mẫu của một lớp khái niệm có một đặc tính tổ hợp tốt về mặt kích thước VC của lớp. Vì vậy, nếu chúng ta muốn học một lớp với độ chính xác và độ tin cậy không đổi, điều này có thể được thực hiện với các mẫu , trong đó d là kích thước VC. (Lưu ý rằng chúng ta đang nói về độ phức tạp của mẫu, không phải độ phức tạp của thời gian.) Ngoài ra còn có một đặc tính tinh tế hơn về độ chính xác và độ tin cậy. Tương tự, mô hình ràng buộc sai lầm của học tập trực tuyến có một đặc tính tổ hợp tốt đẹp.$\Theta(d)$$d$

Câu hỏi:

Tôi muốn biết nếu một kết quả tương tự được biết đến với mô hình học tập chính xác với các truy vấn thành viên. Mô hình được định nghĩa như sau: Chúng tôi có quyền truy cập vào hộp đen mà trên đầu vào cung cấp cho bạn f ( x ) . Chúng ta biết e xuất phát từ một số khái niệm lớp C . Chúng tôi muốn xác định f với càng ít truy vấn càng tốt.$x$$f(x)$$f$$C$$f$

Có một tham số kết hợp của một lớp khái niệm đặc trưng cho số lượng truy vấn cần thiết để tìm hiểu một khái niệm trong mô hình học tập chính xác với các truy vấn thành viên không?$C$

Những gì tôi biết:

Đặc tính tốt nhất mà tôi đã tìm thấy là trong bài báo này của Servedio và Gortler , sử dụng một tham số mà họ gán cho Bshouty, Cleve, Gavaldà, Kannan và Tamon . Họ xác định một tham số tổ hợp gọi là , nơi C là lớp khái niệm, trong đó có các thuộc tính sau. (Đặt Q C là số lượng truy vấn tối ưu cần thiết để tìm hiểu C trong mô hình này.)$\gamma^C$$C$$Q_C$$C$

$Q_C = \Omega(1/\gamma^C)\qquad Q_C = \Omega(\log |C|) \qquad Q_C = O(\log |C|/\gamma^C)$

Đặc tính này là gần như chặt chẽ. Tuy nhiên, có thể có một khoảng cách bậc hai giữa giới hạn trên và dưới. Ví dụ, nếu , thì giới hạn dưới là Ω ( k ) , nhưng giới hạn trên là O ( k 2 ) . (Tôi cũng nghĩ rằng khoảng cách này là có thể đạt được, nghĩa là, tồn tại một lớp khái niệm mà giới hạn dưới là cả Ω ( k ) , nhưng giới hạn trên là O ( k 2 ) .)$1/\gamma^C = \log |C| = k$$\Omega(k)$$O(k^2)$$\Omega(k)$$O(k^2)$

Để lái xe về điểm ví dụ của nai sừng vô danh, hãy xem xét lớp khái niệm bao gồm các hàm chỉ xuất 1 trên một điểm trong {0,1} ^ n. Lớp có kích thước 2 ^ n và 2 ^ n truy vấn là cần thiết trong trường hợp xấu nhất. Hãy xem Kích thước giảng dạy trong trường hợp xấu nhất (Goldman & Schapire) cung cấp một cái gì đó tương tự như những gì bạn đang tìm kiếm.

Tôi không biết về một đặc tính như vậy. Tuy nhiên, đáng lưu ý rằng đối với hầu hết mọi lớp khái niệm, người ta cần truy vấn tất cả các điểm. Để thấy điều này, hãy xem xét lớp khái niệm bao gồm tất cả các vectơ bool n chiều có trọng số Hamming 1. Lớp khái niệm này rõ ràng yêu cầu n truy vấn để tìm hiểu, bằng với số lượng thẻ của nó. Bạn có thể có thể khái quát hóa quan sát này để có được rằng hầu như bất kỳ lớp khái niệm nào cũng yêu cầu thực hiện tất cả các truy vấn.

Tôi nghi ngờ rằng đã đưa ra một khái niệm lớp C làm đầu vào, thật khó để xác định mức độ phức tạp của việc học chính xác lớp khái niệm với các truy vấn thành viên, hoặc thậm chí để ước tính nó là một hằng số. Điều này sẽ đưa ra một số dấu hiệu cho thấy một đặc tính tổ hợp "tốt" không tồn tại. Nếu bạn muốn chứng minh một kết quả độ cứng NP như vậy nhưng hãy thử và không cảm thấy thoải mái khi đăng ở đây và tôi sẽ xem liệu tôi có thể tìm ra nó không (tôi có một số ý tưởng).

Mặc dù những người khác đã chỉ ra câu trả lời. Tôi nghĩ rằng tôi có thể làm cho nó khép kín và chỉ ra tại sao chiều giảng dạy là câu trả lời.

$C$$X$$S\subseteq X$$f$$f$$C$$S$

$\mathcal{T}(f)$$f$$(f,C)=min\{\ |S|\ | \ S\in \mathcal{T}(f) \}$$f$$_{min}(f)$$\mathcal{T}(f)$$(C)=$$_{f\in C}$$(f,C)$$C$

$f$$(f,C)$$_{min}(f)$$(C)$$f$