Lựa chọn siêu tham số Bayes đầy đủ trong GPML

Có thể thực hiện lựa chọn siêu tham số Bayesian (1) gần đúng (ví dụ thang đo hiệp phương sai) với mã GPML, thay vì tối đa hóa khả năng cận biên (2) không? Tôi nghĩ rằng việc sử dụng các phương pháp MCMC để giải quyết các tích phân liên quan đến siêu tham số trước sẽ dẫn đến kết quả tốt hơn khi xử lý quá mức. Theo hiểu biết của tôi, khung GPML không bao gồm các tính toán này, nhưng có lẽ có hàng hóa mã bên thứ ba khác.

(1) Giây 5.2, Ch. 5 trong quy trình Gaussian cho học máy, Rasmussen & Williams, 2006

(2) Phần "Hồi quy" trong tài liệu GPML

— Emile
nguồn

Bạn đã nghe nói về INLA chưa? có thể là những gì bạn đang theo đuổi.

— xác suất

Điều này không thêm vào câu hỏi của bạn, nhưng bạn đã quản lý để tìm công việc hữu ích trong lĩnh vực này để đưa các linh mục lên thang đo dài chưa? Hoàn toàn ghét ý tưởng chỉ tối ưu hóa số lượng thang đo chiều dài của GP

— sachinruk

(+1) Câu hỏi tuyệt vời. Đây không phải là MCMC, nhưng có các gói của bên thứ ba cho phép cận biên một phần của siêu âm với GPML thông qua xấp xỉ Laplace, nếu bạn quan tâm. Xem câu hỏi này và câu trả lời liên quan.

— lacerbi

Có một gói khác dành cho học máy bằng cách sử dụng các quy trình Gaussian được gọi là GP ware, theo ý kiến của tôi. Bạn có thể sử dụng MCMC, tích hợp trên lưới, v.v. để làm giảm bớt các siêu đường kính của bạn.

NB Trong tài liệu họ gọi siêu âm chỉ là tham số.

— Mehrdad
nguồn