Support Vector Regression khác biệt như thế nào so với SVM?


11

Tôi biết những điều cơ bản về SVM và SVR, nhưng tôi vẫn không hiểu làm thế nào vấn đề tìm một siêu phẳng tối đa hóa lề phù hợp với SVR.

Thứ hai, tôi đọc một cái gì đó về sử dụng như lề của sự khoan dung trong SVR. Nó có nghĩa là gì?ϵ

Thứ ba, có sự khác biệt nào giữa các tham số chức năng quyết định được sử dụng trong SVM và SVR không?


Tôi đã cố gắng giải thích nó theo cách hình ảnh bằng cách sử dụng số liệu thống kê bên xem.stackexchange.com/questions/82044/iêu
Lejafar

Câu trả lời:


3

SVM, cả để phân loại và hồi quy, là về tối ưu hóa một hàm thông qua hàm chi phí, tuy nhiên sự khác biệt nằm ở mô hình chi phí.

Xem xét minh họa này của một máy vectơ hỗ trợ được sử dụng để phân loại.

nhập mô tả hình ảnh ở đây

Vì mục tiêu của chúng tôi là sự phân tách tốt giữa hai lớp, chúng tôi cố gắng tạo ra một ranh giới để lại một lề càng rộng càng tốt giữa các trường hợp gần nhất với nó (các vectơ hỗ trợ), với các trường hợp rơi vào lề này là một khả năng, hoàn toàn có thể phát sinh chi phí cao (trong trường hợp SVM lề mềm).

ϵ

nhập mô tả hình ảnh ở đây

ξ+,ξε

Điều này cho chúng ta vấn đề tối ưu hóa (xem E. Alpaydin, Giới thiệu về Machine Learning, Phiên bản 2)

mTôin12||w||2+CΣt(ξ++ξ-)

tùy thuộc vào

rt-(wTx+w0)ε+ξ+t(wTx+w0)-rtε+ξ-tξ+t,ξ-t0

Các trường hợp nằm ngoài lề của hồi quy SVM phải chịu chi phí tối ưu hóa, do đó, nhằm mục đích giảm thiểu chi phí này như là một phần của tối ưu hóa tinh chỉnh chức năng quyết định của chúng tôi, nhưng thực tế không tối đa hóa biên như trong trường hợp phân loại SVM.

Điều này nên đã trả lời hai phần đầu tiên của câu hỏi của bạn.

εCγ

Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.