Ngoài hạt nhân Fisher

Trong một thời gian, có vẻ như Fisher Kernels có thể trở nên phổ biến, vì chúng dường như là một cách để xây dựng hạt nhân từ các mô hình xác suất. Tuy nhiên, tôi hiếm khi thấy chúng được sử dụng trong thực tế và tôi có quyền hạn rằng chúng có xu hướng không hoạt động tốt. Họ dựa vào tính toán của Thông tin Fisher - trích dẫn Wikipedia:

thông tin Fisher là tiêu cực của kỳ vọng của đạo hàm thứ hai đối với logarit tự nhiên của f. Thông tin có thể được coi là thước đo "độ cong" của đường cong hỗ trợ gần ước tính khả năng tối đa (MLE) của.

Theo như tôi có thể nói điều này có nghĩa là hàm kernel giữa hai điểm sau đó là khoảng cách dọc theo bề mặt cong này - tôi có đúng không?

Tuy nhiên điều này có thể có vấn đề khi sử dụng trong các phương thức kernel, như

1. MLE có thể là một ước tính rất xấu cho một mô hình nhất định
2. Độ cong của đường cong hỗ trợ xung quanh MLE có thể không được sử dụng để phân biệt giữa các trường hợp, ví dụ: nếu bề mặt Khả năng rất cao
3. Điều này dường như vứt bỏ rất nhiều thông tin về mô hình

Nếu đây là trường hợp, có cách nào hiện đại hơn để xây dựng hạt nhân từ các phương pháp xác suất? Ví dụ: chúng ta có thể sử dụng một bộ giữ để sử dụng các ước tính MAP theo cùng một cách không? Những khái niệm khác về khoảng cách hoặc độ tương tự từ các phương pháp xác suất có thể hoạt động để xây dựng hàm nhân (hợp lệ)?

Bạn đã đúng về ba vấn đề bạn nêu ra và cách giải thích của bạn là hoàn toàn chính xác.

Mọi người đã xem xét các hướng khác để xây dựng hạt nhân từ các mô hình xác suất:

• Moreno và cộng sự. đề nghị Kullback-Leibler mặc dù khi điều này thỏa mãn các điều kiện của Mercer không được hiểu rõ khi tôi nhìn lại vấn đề này khi tôi đọc nó.

• Jebara và cộng sự. đề xuất sản phẩm bên trong trong không gian phân phối. Bài viết này nghe rất giống với những gì bạn đang theo đuổi: bạn có thể tải xuống ở đây .

Tôi đã đọc chúng một thời gian trước (2008), không chắc khu vực đó đã phát triển như thế nào trong vài năm qua.

Cũng có những cách không xác suất để làm như vậy; những người trong Tin sinh học đã xem xét các loại lập trình động của sự vật trong không gian của chuỗi và v.v. Những điều này không phải lúc nào cũng là PSD và có vấn đề của riêng họ.