Đầu ra của Scikit SVM trong phân loại đa lớp luôn cho cùng một nhãn

Tôi hiện đang sử dụng Scikit tìm hiểu với đoạn mã sau:

clf = svm.SVC(C=1.0, tol=1e-10, cache_size=600, kernel='rbf', gamma=0.0, 
              class_weight='auto')

và sau đó thực hiện phù hợp và dự đoán cho một tập hợp dữ liệu với 7 nhãn khác nhau. Tôi có một đầu ra kỳ lạ. Bất kể kỹ thuật xác thực chéo nào tôi sử dụng nhãn dự đoán trên bộ xác thực luôn luôn là nhãn 7.

Tôi thử một số tham số khác, bao gồm cả mặc định đầy đủ ( svm.SVC()) nhưng miễn là phương thức kernel tôi sử dụng rbfthay vì polyhoặc linearnó không hoạt động, trong khi nó hoạt động thực sự tốt polyvà linear.

Ngoài ra, tôi đã thử dự đoán về dữ liệu xe lửa thay vì dữ liệu xác nhận và nó hoàn toàn phù hợp.

Có ai nhìn thấy loại vấn đề này trước đây và biết những gì đang xảy ra ở đây?

Tôi không bao giờ nhìn vào phân phối lớp của tôi một cách chi tiết nhưng tôi biết nó nên có khoảng 30% trong số họ là 7, 14% là 4.

Tôi thậm chí đã thử thực hiện thủ công 1-vs-rest và nó vẫn không hữu ích.

Một nguyên nhân có thể là thực tế bạn không điều chỉnh mô hình của bạn. Bạn cần tìm các giá trị tốt cho và . Trong trường hợp của bạn, mặc định hóa ra là xấu, dẫn đến các mô hình tầm thường luôn mang lại một lớp nhất định. Điều này đặc biệt phổ biến nếu một lớp có nhiều thể hiện hơn các lớp khác. Phân phối lớp học của bạn là gì?$C$$\gamma$

scikit-learn có các phương tiện tìm kiếm siêu tham số hạn chế, nhưng bạn có thể sử dụng nó cùng với một thư viện điều chỉnh như Optunity . Một ví dụ về điều chỉnh scikit-learn SVC với Optunity có sẵn ở đây .

_{Tuyên bố miễn trừ trách nhiệm: Tôi là nhà phát triển chính của Optunity.}

Vấn đề hóa ra là kiểm tra tham số. Tôi đã không thử khi ở gammagiữa 0,0 (tức là 1 / n_feature) và 1. Trên dữ liệu của tôi gammanên chuyển sang một cái gì đó xung quanh1e-8