Tại sao các số nhân Lagrange thưa thớt cho các SVM?


8

Tôi đã đọc rằng đối với SVM Phân loại ký quỹ tối đa, sau khi giải quyết vấn đề kép, hầu hết các số nhân độ trễ hóa ra là số không. Chỉ những cái tương ứng với các vectơ hỗ trợ hóa ra là dương.

Tại sao vậy?


1
Bài viết trên Wikipedia về Support Vector Machines trả lời điều này bằng cách chỉ ra rằng các số nhân Lagrange khác không tương ứng với các điểm trên lề, trong đó thông thường sẽ có rất ít.
whuber

Câu trả lời:


4

αTôiαTôi= =0

nhập mô tả hình ảnh ở đây

yTôi(wTxTôi+b)= =1xTôixTôiαTôiC


Ghi chú bài giảng CS229 của Andrew Ng về các SVM giới thiệu các điều kiện bổ sung kép Karush-Kuhn-Tucker (KKT):

nhập mô tả hình ảnh ở đây

nhập mô tả hình ảnh ở đây

nhập mô tả hình ảnh ở đây

nhập mô tả hình ảnh ở đây

Lưu ý rằng chúng ta có thể tạo một số trường hợp trong đó tất cả các vectơ trong tập huấn luyện là các vectơ hỗ trợ: ví dụ: xem Câu hỏi về Máy Vector Hỗ trợ này .

Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.