Tính khả năng từ RMSE

Tôi có một mô hình để dự đoán quỹ đạo (x là hàm của thời gian) với một vài tham số. Hiện tại, tôi tính toán sai số bình phương trung bình gốc (RMSE) giữa quỹ đạo dự đoán và quỹ đạo được ghi lại bằng thực nghiệm. Hiện tại, tôi giảm thiểu sự khác biệt này (RMSE) bằng cách sử dụng đơn giản (fminsearch trong matlab). Mặc dù phương pháp này hoạt động để mang lại sự phù hợp tốt, tôi muốn so sánh một số mô hình khác nhau, vì vậy tôi nghĩ rằng tôi cần tính toán khả năng để tôi có thể sử dụng ước tính khả năng tối đa thay vì giảm thiểu RMSE (và sau đó so sánh các mô hình sử dụng AIC hoặc BIC ). Có cách nào tiêu chuẩn để làm điều này?

maximum-likelihood curve-fitting

— Jason
nguồn

Các lỗi bình phương gốc và khả năng thực sự liên quan chặt chẽ. Giả sử bạn có bộ dữ liệu gồm các cặp và bạn muốn mô hình hóa mối quan hệ của họ bằng mô hình . Bạn quyết định giảm thiểu lỗi bậc hai $\lbrace x_i, z_i \rbrace$ $f$

\underset{Tôi}{Σ} {(f (x_{Tôi}) - z_{Tôi})}^{2}

$\sum_i \left(f(x_i) - z_i\right)^2$

Không phải sự lựa chọn này là hoàn toàn tùy ý? Chắc chắn, bạn muốn xử phạt những ước tính hoàn toàn sai nhiều hơn những ước tính đúng. Nhưng có một lý do rất tốt để sử dụng lỗi bình phương.

$\frac{1}{Z}\exp \frac{-(x - \mu)^2}{2\sigma^2}$ $Z$ $z$

L = = \underset{Tôi}{Π} \frac{1}{Z} điểm kinh nghiệm \frac{- (f (x_{Tôi}) - z_{Tôi})^{2}}{2 σ^{2}}

$\mathcal{L} = \prod_i \frac{1}{Z}\exp \frac{-(f(x_i) - z_i)^2}{2\sigma^2}$

Bây giờ nếu bạn lấy logarit của ...

đăng nhập L = = \underset{Tôi}{Σ} \frac{- (f (x_{Tôi}) - z_{Tôi})^{2}}{2 σ^{2}} - đăng nhập Z

$\log \mathcal{L} = \sum_i \frac{-(f(x_i) - z_i)^2}{2\sigma^2} - \log Z$

... Hóa ra nó liên quan rất chặt chẽ với các rms: sự khác biệt duy nhất là một số thuật ngữ không đổi, căn bậc hai và phép nhân.

Câu chuyện dài: Tối thiểu hóa lỗi bình phương gốc tương đương với tối đa hóa khả năng ghi nhật ký của dữ liệu.

— bayerj
nguồn

Cảm ơn đã giải thích rõ ràng. Vì vậy, nếu tôi muốn so sánh hai mô hình (không nhúng) bằng BIC, tôi có thể bỏ các thuật ngữ sigma ^ 2 và Z (giả sử có hiệu quả chúng giống nhau giữa các mô hình) khi tính toán khả năng không?

— Jason

σ

$\sigma$

σ

$\sigma$

đăng nhập L = = \underset{Tôi}{Σ} \frac{(f (x_{Tôi}) - z_{Tôi})^{2}}{2 σ^{2}} - đăng nhập Z

$\log \mathcal{L} = \sum_i \frac{(f(x_i) - z_i)^2}{2\sigma^2} - \log Z$

Có một dấu hiệu tiêu cực bị thiếu trong phân phối Gaussian?

— Manoj

σ

$\sigma$