Áp dụng mánh khóe của kernel vào các phương pháp tuyến tính?

Thủ thuật kernel được sử dụng trong một số mô hình học máy (ví dụ: SVM ). Nó được giới thiệu lần đầu tiên trong bài viết "Cơ sở lý thuyết của phương pháp chức năng tiềm năng trong nghiên cứu nhận dạng mẫu" vào năm 1964.

Định nghĩa wikipedia nói rằng nó là

một phương pháp sử dụng thuật toán phân loại tuyến tính để giải quyết vấn đề phi tuyến tính bằng cách ánh xạ các quan sát phi tuyến tính ban đầu vào một không gian có chiều cao hơn, trong đó phân loại tuyến tính sau đó được sử dụng; điều này làm cho một phân loại tuyến tính trong không gian mới tương đương với phân loại phi tuyến tính trong không gian ban đầu.

Một ví dụ về mô hình tuyến tính đã được mở rộng cho các vấn đề phi tuyến tính là PCA kernel . Thủ thuật kernel có thể được áp dụng cho bất kỳ mô hình tuyến tính nào không, hoặc nó có những hạn chế nhất định không?

Thủ thuật kernel chỉ có thể được áp dụng cho các mô hình tuyến tính trong đó các ví dụ trong công thức vấn đề xuất hiện dưới dạng các sản phẩm dấu chấm (Support Vector Machines, PCA, v.v.).

Hai tài liệu tham khảo thêm từ B. Schölkopf :

• Schölkopf, B. và Smola, AJ (2002). Học với hạt nhân . Báo chí MIT.
• Schölkopf, B., Tsuda, K. và Vert, J.-P. (2004). Phương pháp hạt nhân trong sinh học tính toán . Báo chí MIT.

và một trang web dành riêng cho máy kernel .

@ mun1 đưa ra quan điểm chính (+1), tôi là đồng tác giả của một bài báo thảo luận về cách nhân các mô hình tuyến tính tổng quát, ví dụ hồi quy logistic và hồi quy Poisson, nó khá đơn giản.

GC Cawley, GJ Janacek và NLC Talbot, các máy nhân tổng quát, trong Kỷ yếu của Hội nghị chung quốc tế của IEEE / INNS về Mạng thần kinh (IJCNN-2007), trang 1732-1737, Orlando, Florida, Hoa Kỳ, ngày 12 đến 17 tháng 8 năm 2007. ( www , pdf )

Tôi cũng đã viết một hộp công cụ MATLAB (chất lượng nghiên cứu) (đáng buồn là không có hướng dẫn), mà bạn có thể tìm thấy ở đây .

Có thể mô hình hóa phân phối mục tiêu là khá hữu ích trong việc xác định độ không chắc chắn, v.v. vì vậy nó là một bổ sung hữu ích (nếu khá gia tăng) cho các phương pháp học kernel.