AIC có thể so sánh giữa các loại mô hình khác nhau không?


27

Tôi đang sử dụng AIC (Tiêu chí thông tin của Akaike) để so sánh các mô hình phi tuyến tính trong R. Có hợp lệ để so sánh AIC của các loại mô hình khác nhau không? Cụ thể, tôi đang so sánh một mô hình được trang bị bởi glm so với một mô hình có thuật ngữ hiệu ứng ngẫu nhiên được trang bị bởi glmer (lme4).

Nếu không, có một cách so sánh như vậy có thể được thực hiện? Hay là ý tưởng hoàn toàn không hợp lệ?

Câu trả lời:


12

Nó phụ thuộc. AIC là một chức năng của khả năng đăng nhập. Nếu cả hai loại mô hình đều tính toán khả năng nhật ký theo cùng một cách (nghĩa là bao gồm cùng một hằng số) thì bạn có thể, nếu các mô hình được lồng vào nhau .

Tôi khá chắc chắn rằng glm()lmer()không sử dụng khả năng đăng nhập tương đương.

Điểm về các mô hình lồng nhau cũng được đưa ra để thảo luận. Một số người nói AIC chỉ hợp lệ cho các mô hình lồng nhau vì đó là cách lý thuyết được trình bày / làm việc thông qua. Những người khác sử dụng nó cho tất cả các loại so sánh.


Theo tôi hiểu thì lme4, theo mặc định sử dụng REML trong đó glm sử dụng ML. Chúng có thể tương đương nếu bạn thực hiện lmer sử dụng ML bằng cách đặt REML = FALSE.
russellpierce

Ngoài nhận xét của bạn, nó còn phụ thuộc vào những gì bạn muốn làm với mô hình. Là mô hình cho dự đoán hoặc Thomas đang tìm kiếm sự kỳ thị? (Tôi nghĩ)
suncoolsu

3
@drnexus: Tôi không nghĩ thế là đủ; bạn phải chắc chắn rằng hằng số chuẩn hóa tương tự đang được áp dụng trong tính toán khả năng nhật ký.
Phục hồi Monica - G. Simpson

2
@Thomas: cho rằng bạn cần phải xem mã hoặc nói chuyện với người đã viết nó để chắc chắn. Nói chung, giả sử khả năng không thể so sánh giữa các phần mềm / gói / chức năng khác nhau.
Phục hồi Monica - G. Simpson

1
@ user3490 Phụ thuộc vào phần mềm và thuật toán được sử dụng để lấy ước tính. Nói chung tôi sẽ cho rằng họ không giống nhau trừ khi tôi biết chắc chắn rằng họ là như vậy.
Phục hồi Monica - G. Simpson

4

Đây là một câu hỏi tuyệt vời mà tôi đã tò mò trong một thời gian.

Đối với các mô hình trong cùng một gia đình (ví dụ: mô hình hồi quy tự động của đơn hàng k hoặc đa thức) AIC / BIC có rất nhiều ý nghĩa. Trong các trường hợp khác, nó ít rõ ràng hơn. Việc tính toán chính xác khả năng đăng nhập (với các điều khoản không đổi) sẽ hoạt động, nhưng sử dụng so sánh mô hình phức tạp hơn như Bayes Factors có lẽ tốt hơn (http://www.jstor.org/ sóng / 291091).

Nếu các mô hình có cùng chức năng mất / lỗi, một giải pháp thay thế là chỉ so sánh khả năng đăng nhập được xác thực chéo. Đó thường là những gì tôi cố gắng làm khi tôi không chắc AIC / BIC có ý nghĩa trong một tình huống nhất định.


0

Lưu ý rằng trong một số trường hợp, AIC thậm chí không thể so sánh các mô hình cùng loại, như các mô hình ARIMA với một thứ tự khác nhau. Trích dẫn dự báo: Nguyên tắc và thực hành của Rob J Hyndman và George Athanasopoulos:

dpqdpq


Thật vậy, nhưng một điểm quan trọng là nó không phải là kiểu mô hình khiến cho việc so sánh trở nên có vấn đề, đó là dữ liệu mà khả năng được xác định.
Richard Hardy
Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.