Cơ sở lý luận của hàm hiệp phương sai Matérn là gì?

Hàm hiệp phương sai Matérn thường được sử dụng làm hàm kernel trong Quá trình Gaussian. Nó được định nghĩa như thế này

$${\displaystyle C_{\nu }(d)=\sigma ^{2}{\frac {2^{1-\nu }}{\Gamma (\nu )}}{\Bigg (}{\sqrt {2\nu }}{\frac {d}{\rho }}{\Bigg )}^{\nu }K_{\nu }{\Bigg (}{\sqrt {2\nu }}{\frac {d}{\rho }}{\Bigg )}}$$

Trong đó là hàm khoảng cách (chẳng hạn như khoảng cách Euclide), \ Gamma là hàm gamma, K_ \ nu là hàm Bessel được sửa đổi của loại thứ hai, \ rho và \ nu là các tham số dương. \ nu là rất nhiều thời gian được chọn là \ frac {3} {2} hoặc \ frac {5} {2} trong thực tế.Γ K $d$$\Gamma$$K_\nu$ν $\rho$$\nu$$\nu$$\frac{3}{2}$$\frac{5}{2}$

Rất nhiều thời gian hạt nhân này hoạt động tốt hơn hạt nhân Gaussian tiêu chuẩn vì nó 'kém mịn màng', nhưng ngoại trừ điều đó, có lý do nào khác khiến người ta thích hạt nhân này không? Một số trực giác hình học về cách nó hoạt động, hoặc một số giải thích về công thức có vẻ khó hiểu sẽ được đánh giá cao.

Ngoài câu trả lời hay của @DahnJahn, tôi nghĩ rằng tôi sẽ cố gắng nói thêm một chút về việc các hàm Bessel và gamma đến từ đâu. Một điểm khởi đầu để đến hàm hiệp phương sai là định lý của Bochner.

Định lý (Bochner) Hàm cố định liên tục $k(x, y) = \widetilde{k}(|x − y|)$ là xác định dương khi và chỉ khi $\widetilde{k}$ là biến đổi Fourier của số đo dương hữu hạn:

$$\widetilde{k}(t) = \int_{\mathbb{R}} e^{−iωt}dµ(ω)$$

Từ đó, bạn có thể suy ra rằng ma trận hiệp phương sai Matérn có nguồn gốc là biến đổi Fourier của (Nguồn) . Điều đó tốt nhưng nó không thực sự cho chúng ta biết làm thế nào bạn đạt được biện pháp tích cực hữu hạn này được đưa ra bởi . Chà, đó là mật độ phổ (công suất) của một quá trình ngẫu nhiên .$\frac{1}{(1+\omega^2)^p}$ f(x$\frac{1}{(1+\omega^2)^p}$$f(x)$

Quá trình ngẫu nhiên nào? Người ta biết rằng một quá trình ngẫu nhiên trên với hàm hiệp phương sai Matérn là một giải pháp cho phương trình vi phân một phần ngẫu nhiên (SPDE) trong đó là nhiễu trắng Gaussian với phương sai đơn vị, là toán tử Laplace và (Tôi nghĩ rằng đây là ở Cressie và Wikle ).$\mathbb{R}^d$

$$(κ^2 − ∆)^{α/2} X(s) = φW(s),$$ $W(s)$ $$\Delta = \sum_{i=1}^d \frac{\partial^2}{\partial x^2_i}$$ $α =ν + d/2$

Tại sao chọn quá trình SPDE / stochastic cụ thể này? Nguồn gốc là trong các số liệu thống kê không gian nơi nó được cho là hiệp phương sai đơn giản và tự nhiên nhất hoạt động tốt trong :$\mathbb{R}^2$

Hàm tương quan hàm mũ là một mối tương quan tự nhiên trong một chiều, vì nó tương ứng với một quá trình Markov. Trong hai chiều, điều này không còn như vậy nữa, mặc dù hàm mũ là một hàm tương quan phổ biến trong công tác địa lý. Whittle (1954) đã xác định mối tương quan tương ứng với phương trình vi phân ngẫu nhiên của loại Laplace:

$$\left[ \left(\frac{\partial}{\partial t_1}\right)^2 + \left(\frac{\partial}{\partial t_2}\right)^2 - \kappa^2 \right] X(t_1, t_2) = \epsilon(t_1 , t_2)$$ trong đó là tiếng ồn trắng. Quá trình mạng rời rạc tương ứng là một sự tự phát thứ hai. (Nguồn)$\epsilon$

Họ các quá trình có trong SDE liên quan đến phương trình Mẹ bao gồm mô hình Ornstein - Uhlenbeck về vận tốc của một hạt trải qua chuyển động Brown. Tổng quát hơn, bạn có thể xác định phổ công suất cho một họ các quy trình cho mọi số nguyên cũng có hiệp phương sai Matérn. Đây là trong phần phụ lục của Rasmussen và Williams.$AR(1)$$AR(p)$$p$

Hàm hiệp phương sai này không liên quan đến quá trình cụm Matérn.

Người giới thiệu

Cressie, Noel và Christopher K. Wikle. Thống kê cho dữ liệu không gian-thời gian. John Wiley & Sons, 2015.

Guttorp, Peter và Tilmann Gneiting. "Các nghiên cứu trong lịch sử xác suất và thống kê XLIX Về gia đình tương quan Mẹ." Biometrika 93.4 (2006): 989-995.

Các quy trình Rasmussen, CE và Williams, CKI Gaussian cho Machine Learning. Báo chí MIT, 2006.

Tôi không biết, nhưng tôi thấy câu hỏi này rất thú vị và đây là những gì tôi nhận được sau khi đọc nó.

Đối với các giá trị nhất định của , hàm hiệp phương sai Matérn có thể được biểu diễn dưới dạng tích số mũ và đa thức. Ví dụ: : Sau đó, không quá ngạc nhiên khi , thực sự hội tụ tới RBF Gaussian : Dành cho , hàm hiệp phương sai Matérn cung cấp hạt nhân hàm mũ tuyệt đối $\nu$$\nu = 5/2$

$$C_{5/2}(d) = \sigma^2\left(1 + \frac{\sqrt 5 d}{\rho} + \frac{5d^2}{3\rho^2} \right) \exp \left(- \frac{\sqrt 5 d}{\rho}\right)$$ $\nu \to \infty$$C_\nu$ $$\lim_{\nu \to \infty} C_\nu(d) = \sigma^2 \exp \left( -\frac{d^2}{2\rho^2}\right)$$ $\nu = 1/2$ $$C_{1/2}(d) = \sigma^2 \exp\left( -\frac{d}{\rho} \right)$$

Hơn nữa, một quy trình Gaussian với hàm hiệp phương sai Matérn với tham số là thời gian khác nhau .$\nu$$\lceil \nu \rceil -1$

Điều này được thể hiện khá độc đáo trên một bức ảnh được chụp từ Rasmussen & Williams (2006)

Trong phép nội suy dữ liệu không gian , Stein (người thực sự đề xuất tên của hàm hiệp phương sai Matérn), lập luận (trg 30) rằng sự khác biệt vô hạn của hàm hiệp phương Gaussian mang lại kết quả không thực tế cho các quá trình vật lý, do chỉ quan sát một phần nhỏ liên tục không gian / thời gian, theo lý thuyết, mang lại toàn bộ chức năng. Do đó, ông đã đề xuất phiên bản Matérn như một sự khái quát hóa có thể phù hợp với các quá trình vật lý thực tế hơn.

Tóm lược

Hàm hiệp phương sai Matérn có thể được xem như là một khái quát của hàm cơ sở xuyên tâm Gaussian . Nó chứa cả hạt nhân hàm mũ tuyệt đối, cho kết quả hoàn toàn khác nhau và có khả năng nắm bắt tốt hơn các quy trình vật lý do tính khác biệt hữu hạn của nó (đối với hữu hạn ).$\nu$

Đối với sự bí ẩn của sự xuất hiện của chức năng Bessel, tôi rất muốn thấy trực giác hơn đằng sau đó, nhưng tôi đoán rằng chính xác đó là hành vi (tiệm cận) của nó trong đã làm cho nó hữu ích trong bối cảnh này và dẫn Stein đến định nghĩa hàm hiệp phương sai Matérn. Điều đó tất nhiên không loại trừ khả năng có một lập luận đẹp về lý do tại sao tất cả những điều đó là đúng.$\nu$