Tại sao tỷ lệ lại quan trọng đối với phân loại SVM tuyến tính?

Khi thực hiện phân loại SVM tuyến tính, thường hữu ích khi bình thường hóa dữ liệu huấn luyện, ví dụ bằng cách trừ giá trị trung bình và chia cho độ lệch chuẩn và sau đó chia tỷ lệ dữ liệu thử nghiệm với độ lệch chuẩn và trung bình của dữ liệu huấn luyện. Tại sao quá trình này thay đổi đáng kể hiệu suất phân loại?

Tôi nghĩ rằng nó có thể được làm rõ hơn thông qua một ví dụ. Giả sử bạn có hai vectơ đầu vào: X1 và X2. và giả sử X1 có phạm vi (0,1 đến 0,8) và X2 có phạm vi (3000 đến 50000). Bây giờ trình phân loại SVM của bạn sẽ là một ranh giới tuyến tính nằm trong mặt phẳng X1-X2. Yêu cầu của tôi là độ dốc của ranh giới quyết định tuyến tính không nên phụ thuộc vào phạm vi của X1 và X2, mà thay vào đó là sự phân bố các điểm.

Bây giờ hãy đưa ra dự đoán về điểm (0,1, 4000) và (0,8, 4000). Hầu như không có bất kỳ sự khác biệt nào về giá trị của hàm, do đó làm cho SVM kém chính xác hơn vì nó sẽ có độ nhạy ít hơn đối với các điểm theo hướng X1.

SVM cố gắng tối đa hóa khoảng cách giữa mặt phẳng phân cách và các vectơ hỗ trợ. Nếu một tính năng (tức là một chiều trong không gian này) có giá trị rất lớn, nó sẽ thống trị các tính năng khác khi tính khoảng cách. Nếu bạn bán lại tất cả các tính năng (ví dụ: [0, 1]), tất cả chúng đều có cùng ảnh hưởng đến số liệu khoảng cách.