SVM, cả để phân loại và hồi quy, là về tối ưu hóa một hàm thông qua hàm chi phí, tuy nhiên sự khác biệt nằm ở mô hình chi phí.
Xem xét minh họa này của một máy vectơ hỗ trợ được sử dụng để phân loại.
Vì mục tiêu của chúng tôi là sự phân tách tốt giữa hai lớp, chúng tôi cố gắng tạo ra một ranh giới để lại một lề càng rộng càng tốt giữa các trường hợp gần nhất với nó (các vectơ hỗ trợ), với các trường hợp rơi vào lề này là một khả năng, hoàn toàn có thể phát sinh chi phí cao (trong trường hợp SVM lề mềm).
ε
ξ+, ξ-ε
Điều này cho chúng ta vấn đề tối ưu hóa (xem E. Alpaydin, Giới thiệu về Machine Learning, Phiên bản 2)
m i n 12| | w | |2+ CΣt( ξ++ ξ-)
tùy thuộc vào
rt- ( wTx + w0) ≤ ε + ξt+( wTx + w0) - rt≤ ε + ξt-ξt+, ξt-≥ 0
Các trường hợp nằm ngoài lề của hồi quy SVM phải chịu chi phí tối ưu hóa, do đó, nhằm mục đích giảm thiểu chi phí này như là một phần của tối ưu hóa tinh chỉnh chức năng quyết định của chúng tôi, nhưng thực tế không tối đa hóa biên như trong trường hợp phân loại SVM.
Điều này nên đã trả lời hai phần đầu tiên của câu hỏi của bạn.
εCγ