Giải thích số AIC & BIC

23

Tôi đang tìm kiếm các ví dụ về cách diễn giải các ước tính AIC (tiêu chí thông tin Akaike) và BIC (tiêu chí thông tin Bayes).

Sự khác biệt tiêu cực giữa các BIC có thể được hiểu là tỷ lệ cược sau của một mô hình so với mô hình kia không? Làm thế nào tôi có thể nói điều này thành lời? Ví dụ, BIC = -2 có thể ngụ ý rằng tỷ lệ cược của mô hình tốt hơn so với mô hình khác là xấp xỉ ? $e^2= 7.4$

Bất kỳ lời khuyên cơ bản được đánh giá cao bởi neophyte này.

interpretation aic bic

— Juan
nguồn

Hãy xem chương 2. Phần 2.6 - một phần có sẵn trên sách google - đặc biệt có thể giúp bạn. Books.google.se/ ((Tham khảo: Lựa chọn mô hình và suy luận đa mô hình của Kenneth P. Burnham và David R. Anderson. Springer Verlag)

— boscovich

6

cho mô hình của mộtmô hìnhtiên nghiệmcó thể được tính lại thành trong đó mô hình tốt nhất của bộ mô hình sẽ có . Chúng ta có thể sử dụng cácgiá trị để ước tính cường độ bằng chứng ( ) cho tất cả các mô hình trong bộ mô hình trong đó: $AIC$ $i$ $\mathsf{\Delta}_i=AIC_i-minAIC$ $\mathsf{\Delta}=0$ $\mathsf{\Delta}_i$ $w_i$ Điều này thường được gọi là "trọng lượng của bằng chứng" cho mô hìnhđưa ramộtmô hìnhtiên nghiệm. Khităng,giảm đề xuất mô hìnhsẽ ít hợp lý hơn. Cácgiá trịcó thể được hiểu là xác suất mà mô hìnhlà mô hình tốt nhất được đưa ra chomộtmô hìnhtiên nghiệm. Chúng ta cũng có thể tính toán khả năng tương đối của mô hìnhso với mô hìnhlà

w_{i} = \frac{e^{(- 0.5 Δ_{i})}}{\sum_{r = 1}^{R} e^{(- 0.5 Δ_{i})}} .

$w_i = \frac{e^{(-0.5\mathsf{\Delta}_i)}}{\sum_{r=1}^Re^{(-0.5\mathsf{\Delta}_i)}}.$

i

$i$

Δ_{i}

$\mathsf{\Delta}_i$

w_{i}

$w_i$

i

$i$

w_{i}

$w_i$

i

$i$

i

$i$

j

$j$

. Ví dụ: nếu

và

thì có thể nói mô hình

có khả năng gấp 8 lần so với mô hình

.

w_{i} / w_{j}

$w_i/w_j$

w_{i} = 0.8

$w_i = 0.8$

w_{j} = 0.1

$w_j = 0.1$

i

$i$

j

$j$

Lưu ý, khi mô hình 1 là mô hình tốt nhất (nhỏ nhất ). Burnham và Anderson (2002) gọi đây là tỷ lệ bằng chứng. Bảng này cho thấy tỷ lệ bằng chứng thay đổi như thế nào đối với mô hình tốt nhất. $w_1/w_2 = e^{0.5\Delta_2}$ $AIC$

Information Loss (Delta)    Evidence Ratio
0                           1.0
2                           2.7
4                           7.4
8                           54.6
10                          148.4
12                          403.4
15                          1808.0

Tài liệu tham khảo

Burnham, KP và DR Anderson. 2002. Lựa chọn mô hình và suy luận đa mô hình: một cách tiếp cận lý thuyết thông tin thực tế. Phiên bản thứ hai. Springer, New York, Hoa Kỳ.

Anderson, DR 2008. Mô hình dựa trên suy luận trong khoa học đời sống: sơ khai về bằng chứng. Springer, New York, Hoa Kỳ.

— RioRaider
nguồn

bạn có phiền khi làm rõ những gì

đề cập đến, đặc biệt vì chỉ số của tổng không xuất hiện trong tổng kết. Liệu

span các không gian mô hình?

r

$r$

R

$R$

— dopexxx

Có các mô hình R trong bộ mô hình.

— RioRaider

3

Tôi không nghĩ có bất kỳ cách giải thích đơn giản nào về AIC hoặc BIC như thế. Cả hai đều là số lượng lấy khả năng đăng nhập và áp dụng hình phạt cho số lượng tham số được ước tính. Các hình phạt cụ thể được Akaike giải thích cho AIC trong các bài báo của ông bắt đầu từ năm 1974. BIC đã được Gideon Schwarz chọn trong bài viết năm 1978 của ông và được thúc đẩy bởi một lập luận của Bayes.

— Michael R. Chernick
nguồn

2

Hình phạt có thể được hiểu là một mô hình ủng hộ trước có kích thước cụ thể, mặc dù. Nếu bạn tình cờ chấp nhận điều đó trước đó (có một số biện minh về lý thuyết thông tin), thì bạn có thể tính tỷ lệ chênh lệch sau trực tiếp từ các giá trị IC. Ngoài ra, @RioRaider đề cập đến trọng lượng Akaike, cung cấp cho bạn xác suất rằng một mô hình nhất định là mô hình tốt nhất từ tập hợp về phân kỳ KL. ( Ref --see p. 800).

— David J. Harris

1

Bạn có thể sử dụng BIC như là kết quả của xấp xỉ với yếu tố Bayes. Do đó, bạn không xem xét (nhiều hơn hoặc ít hơn) một phân phối trước. BIC trong giai đoạn lựa chọn mô hình rất hữu ích khi bạn so sánh các mô hình. Để hiểu đầy đủ về BIC, yếu tố Bayes tôi khuyên bạn nên đọc một bài viết (giây 4): http://www.stat.washington.edu/raftery/Research/PDF/socmeth1995.pdf để bổ sung kiến thức với: http: // www .stat.washington.edu / raftery / Nghiên cứu / PDF / kass1995.pdf

— Robert
nguồn