SVM cho dữ liệu không cân bằng

Tôi muốn thử sử dụng Support Vector Machines (SVM) trên tập dữ liệu của mình. Trước khi tôi thử vấn đề, tôi đã được cảnh báo rằng các SVM không hoạt động tốt trên dữ liệu cực kỳ mất cân bằng. Trong trường hợp của tôi, tôi có thể có tới 95-98% 0 và 2-5% 1.

Tôi đã cố gắng tìm các tài nguyên nói về việc sử dụng các SVM trên dữ liệu thưa thớt / không cân bằng, nhưng tất cả những gì tôi có thể tìm thấy là 'spzzySVM' (sử dụng một lượng nhỏ các vectơ hỗ trợ).

Tôi đã hy vọng ai đó có thể giải thích ngắn gọn:

1. Làm thế nào tốt SVM sẽ được thực hiện với một bộ dữ liệu như vậy
2. Mà, nếu có, phải sửa đổi thuật toán SVM
3. Những tài nguyên / giấy tờ thảo luận về điều này

Nhiều triển khai SVM giải quyết vấn đề này bằng cách gán các trọng số khác nhau cho các trường hợp tích cực và tiêu cực. Về cơ bản, bạn cân các mẫu sao cho tổng trọng số cho các giá trị dương sẽ bằng với các giá trị âm. Tất nhiên, trong đánh giá của bạn về SVM, bạn phải nhớ rằng nếu 95% dữ liệu là âm tính, việc lấy độ chính xác 95% bằng cách luôn dự đoán âm tính là chuyện nhỏ. Vì vậy, bạn phải chắc chắn rằng các số liệu đánh giá của bạn cũng có trọng số để chúng được cân bằng.

Cụ thể libsvm, trong đó bạn đã thêm dưới dạng thẻ, có một cờ cho phép bạn đặt trọng số lớp ( -wtôi tin, nhưng kiểm tra tài liệu ).

Cuối cùng, từ kinh nghiệm cá nhân tôi có thể nói với bạn rằng tôi thường thấy rằng một SVM sẽ mang lại kết quả rất giống nhau có hoặc không có sự điều chỉnh trọng lượng.

Các SVM hoạt động tốt trên dữ liệu thưa thớt và không cân bằng. SVM có trọng số lớp được thiết kế để xử lý dữ liệu không cân bằng bằng cách gán các hình phạt phân loại sai cao hơn cho các trường hợp đào tạo của nhóm thiểu số.

Trong trường hợp dữ liệu thưa thớt như vậy thì SVM sẽ hoạt động tốt.

Như đã nêu bởi @Bitwise, bạn không nên sử dụng độ chính xác để đo hiệu suất của thuật toán.

Thay vào đó, bạn nên tính toán độ chính xác, thu hồi và F-Score của thuật toán.