Có thể là AIC và BIC đưa ra các lựa chọn mô hình hoàn toàn khác nhau?

Tôi đang thực hiện mô hình Hồi quy Poisson với 1 biến phản hồi và 6 biến số. Lựa chọn mô hình bằng cách sử dụng kết quả AIC trong một mô hình với tất cả các đồng biến cũng như 6 thuật ngữ tương tác. Tuy nhiên, BIC dẫn đến một mô hình chỉ có 2 hiệp và không có điều khoản tương tác. Có thể là hai tiêu chí, trông rất giống nhau, mang lại các lựa chọn mô hình hoàn toàn khác nhau?

— WBM
nguồn

Nếu không thể nhận được các đề xuất mô hình khác nhau từ hai số liệu, thì sẽ không có hai số liệu, chúng tôi sẽ luôn sử dụng một số liệu.

— Gregor - phục hồi Monica

Từ "hoàn toàn khác nhau" khó diễn giải khi các mô hình là kết quả của việc lựa chọn từ một tập hợp các tham số rời rạc.

— BallpointBen

Câu trả lời:

Nó thực sự có thể. Như đã giải thích tại https://methodology.psu.edu/AIC-vs-BIC , "BIC xử phạt sự phức tạp của mô hình nặng nề hơn. Cách duy nhất họ nên không đồng ý là khi AIC chọn mô hình lớn hơn BIC."

Nếu mục tiêu của bạn là xác định một mô hình dự đoán tốt, bạn nên sử dụng AIC. Nếu mục tiêu của bạn là xác định một mô hình giải thích tốt, bạn nên sử dụng BIC. Rob Hyndman tóm tắt độc đáo đề xuất này tại
https://robjhyndman.com/hyndsight/to-explain-or-predict/ :

"AIC phù hợp hơn với lựa chọn mô hình để dự đoán vì nó tương đương về mặt không có triệu chứng với xác thực chéo một lần trong hồi quy hoặc xác thực chéo một bước trong chuỗi thời gian. Mặt khác, có thể lập luận rằng BIC phù hợp hơn với lựa chọn mô hình để giải thích, vì nó phù hợp. "

Đề xuất này xuất phát từ bài báo của Galit Shmueli để giải thích hay dự đoán?, Khoa học thống kê, 25 (3), 289-310 ( https://projecteuclid.org/euclid.ss/1294167961 ).

Phụ lục:

Có một loại mô hình thứ ba - mô hình mô tả - nhưng tôi không biết bất kỳ tài liệu tham khảo nào về AIC hoặc BIC phù hợp nhất để xác định một mô hình mô tả tối ưu. Tôi hy vọng những người khác ở đây có thể hòa nhập với những hiểu biết của họ.

— Isabella Ghement
nguồn

“ Cách duy nhất họ nên không đồng ý là khi AIC chọn một mô hình lớn hơn BIC. Kỹ thuật BIC có thể chọn một mô hình lớn hơn nếu

\ln n < 2

$\ln n < 2$ , I E

n \leq 7

$n \le 7$ . Tuy nhiên, hy vọng rằng các mẫu có kích thước 7 không quá nhiều vấn đề. : p

— Dougal

Điểm tốt! Với cỡ mẫu từ 7 trở xuống, tôi sẽ tưởng tượng lựa chọn mô hình nằm ngoài bàn. 😀

— Isabella Ghement

— Subhash C. Davar

@ subhashc.davar: Chưa có câu trả lời - Tôi rất muốn gửi email cho Galit Shmueli và hỏi cô ấy những suy nghĩ của cô ấy về điều đó.

— Isabella Ghement

Nếu chúng ta hiểu ý nghĩa của "mô tả" và thực hiện nghiêm túc, tôi không chắc có ý nghĩa gì khi nói về việc xác định mô hình mô tả tối ưu.

— gung - Phục hồi Monica

Câu trả lời ngắn gọn: có, nó rất có thể. Cả hai áp dụng các hình phạt khác nhau dựa trên số lượng tham số ước tính (2k cho AIC so với ln (n) xk cho BIC, trong đó k là số lượng tham số ước tính và n là cỡ mẫu). Do đó, nếu khả năng đạt được từ việc thêm một tham số là nhỏ, BIC có thể chọn các mô hình khác nhau cho AIC. Hiệu ứng này phụ thuộc vào kích thước mẫu, tuy nhiên.

— NatWH
nguồn

sẽ rất tuyệt khi nói rõ rằng n là cỡ mẫu trong phương trình trên

— fabiob