Kế toán cho các tham số rời rạc hoặc nhị phân trong tiêu chí thông tin Bayes

BIC phạt dựa trên số lượng tham số. Điều gì nếu một số tham số là một số loại biến chỉ báo nhị phân? Làm những điều này được tính là tham số đầy đủ? Nhưng tôi có thể kết hợp tham số nhị phân thành một biến rời rạc lấy các giá trị trong . Đây có phải được tính là tham số hoặc một tham số? $m$ $\{0,1,...,2^m-1\}$ $m$

— Băng tần cao
nguồn

Một phần là do sự thiếu chính xác này trong "số lượng tham số" trong BIC mà DIC ( tiêu chí thông tin sai lệch ) đã giới thiệu một số lượng tham số hiệu quả là trong đó và

p_{D} (x) = = E [D (θ) | x] - D (E [θ | x])

$p_D(x) = \mathbb{E}[D(\theta)|x] - D(\mathbb{E}[\theta|x])$

D (θ) = = - 2 đăng nhập f (x | θ)

$D(\theta)=-2\log f(x|\theta)$

Lưu ý rằng

sau đó phụ thuộc vào dữ liệu. (Như đã thảo luậnở đó, DIC cũng có vấn đề của riêng mình!)

DIC (x) = = p_{D} (x) + E [D (θ) | x]

$\text{DIC}(x) = p_D(x) + \mathbb{E}[D(\theta)|x]$

p_{D} (x)

$p_D(x)$

— Tây An
nguồn

E [l o g P (y | M o d e l)] = \log (\int P (y | θ) P_{m o d e l} (θ) d θ)

$E[log P(y|Model)] = \log(\int P(y|\theta)P_{model}(\theta)d\theta)$

Có, BIC là một xấp xỉ của khả năng cận biên. Tuy nhiên, nó chỉ là một xấp xỉ hội tụ đến "sự thật" khi kích thước mẫu phát triển đến vô cùng. Do đó, nó không trực tiếp Bayesian (không sử dụng trước, vì một điều!) Và hoàn toàn không liên quan đến MCMC (trong đó phép tính gần đúng là kiểu Monte Carlo: nếu tôi tăng số lượng mô phỏng, thì phép tính gần đúng sẽ được cải thiện). DIC được nhiều người coi là Bayes hơn (bao gồm B. Carlin và D. Spiegelhatler)

— Tây An

Tôi đoán câu hỏi của tôi là, DIC có phải là một xấp xỉ của khả năng mô hình cận biên không? Tôi đoán tôi nên đọc về nó một mình, nhưng vì chúng tôi đã thảo luận về nó, tôi nghĩ rằng giải thích điều này sẽ làm cho câu trả lời đầy đủ hơn. Cảm ơn!

— highBandWidth