Hồi quy quy trình Gaussian tăng dần

Tôi muốn thực hiện hồi quy quy trình gaussian tăng dần bằng cách sử dụng cửa sổ trượt trên các điểm dữ liệu đến từng điểm một qua luồng.

Gọi là chiều của không gian đầu vào. Vì vậy, mọi điểm dữ liệu có số phần tử.x i$d$$x_i$$d$

Gọi là kích thước của cửa sổ trượt.$n$

Để đưa ra dự đoán, tôi cần tính toán nghịch đảo của ma trận gram , trong đó và k là hạt nhân hàm mũ bình phương.K i j = k ( x i , x j$K$$K_{ij} = k(x_i, x_j)$

Để tránh K trở nên lớn hơn với mỗi điểm dữ liệu mới, tôi nghĩ rằng tôi có thể xóa điểm dữ liệu cũ nhất trước khi thêm điểm mới và bằng cách này, tôi ngăn không cho gram phát triển. Ví dụ, chúng ta hãy nơi Σ là hiệp phương sai của trọng lượng và φ là hàm lập bản đồ ngầm ngụ ý của các phương mũ hạt nhân.$K = \phi(X)^{T}\Sigma\phi(X)$$\Sigma$$\phi$

Bây giờ hãy để ] và trong đó 's là bởi ma trận cột.$X=[x_{t-n+1}|x_{t-n+2}|...|x_{t}$$X_{new}=[x_{t-n+2}|...|x_{t}|x_{t+1}]$$x$$d$$1$

Tôi cần một cách hiệu quả để tìm ra có khả năng sử dụng . Điều này không giống như nghịch đảo của một vấn đề ma trận được cập nhật cấp 1 có thể được giải quyết hiệu quả với công thức Sherman-Morrison.$K_{new}^{-1}$$K$

Đã có một số thuật toán đệ quy để làm điều này. Bạn nên xem thuật toán nhân đệ quy tối thiểu (KRLS) và các thuật toán GP trực tuyến có liên quan.

• Van Vaerenbergh, S., Santamaria, I., Liu, W. và Principe, JC (2010). Nhân cố định ngân sách cố định bình phương tối thiểu . Trong Âm thanh và xử lý tín hiệu âm thanh (ICASSP), Hội nghị quốc tế IEEE 2010, trang 1882-1885. IEEE.
• Lazaro-Gredilla, M., Van Vaerenbergh, S. và Santamaria, I. (2011). Một cách tiếp cận Bayes để theo dõi với bình phương đệ quy nhỏ nhất . Trong Machine Learning để xử lý tín hiệu (MLSP), Hội thảo quốc tế của IEEE năm 2011, trang 1-6. IEEE.
• Perez-Cruz, F., Van Vaerenbergh, S., Murillo-Fuentes, JJ, Lazaro-Gredilla, M., và Santamaria, I. (2013). Các quy trình Gaussian để xử lý tín hiệu phi tuyến: Tổng quan về những tiến bộ gần đây . Tạp chí xử lý tín hiệu IEEE, 30 (4): 40-50.

Ước lượng từng bước của các mô hình GP được nghiên cứu tốt trong tài liệu. Ý tưởng cơ bản là thay vì điều chỉnh tất cả các quan sát mới mà bạn muốn dự đoán, dựa trên điểm trước một bước và thực hiện điều này nhiều lần. Điều này trở nên gần gũi với bộ lọc kalman.