Phương pháp MCMC - đốt mẫu?

Trong các phương pháp MCMC , tôi tiếp tục đọc về burn-inthời gian hoặc số lượng mẫu "burn". Điều này chính xác là gì, và tại sao nó lại cần thiết?

Cập nhật:

Khi MCMC ổn định, nó có ổn định không? Làm thế nào là khái niệm về burn-inthời gian liên quan đến thời gian trộn?

Burn-in dự định sẽ cho Markov Chain thời gian để đạt được phân phối cân bằng của nó, đặc biệt nếu nó đã bắt đầu từ một điểm khởi đầu tệ hại. Để "đốt cháy" một chuỗi, bạn chỉ cần loại bỏ mẫu đầu tiên trước khi bắt đầu thu thập điểm.$n$

Ý tưởng là điểm bắt đầu "xấu" có thể vượt quá các vùng mẫu thực sự có xác suất rất thấp dưới sự phân bố cân bằng trước khi nó ổn định thành phân bố cân bằng. Nếu bạn ném những điểm đó đi, thì những điểm không chắc chắn sẽ rất hiếm.

Trang này đưa ra một ví dụ hay, nhưng nó cũng chỉ ra rằng burn-in giống như một hack / artform hơn là một kỹ thuật nguyên tắc. Về lý thuyết, bạn chỉ có thể lấy mẫu trong một thời gian thực sự dài hoặc tìm cách nào đó để chọn một điểm khởi đầu tốt thay thế.

Chỉnh sửa: Thời gian trộn liên quan đến việc mất bao lâu để chuỗi tiếp cận trạng thái ổn định của nó, nhưng thường rất khó để tính trực tiếp. Nếu bạn biết thời gian trộn, bạn sẽ loại bỏ rất nhiều mẫu, nhưng trong nhiều trường hợp, bạn không. Vì vậy, bạn chọn một thời gian lưu lượng hy vọng đủ lớn để thay thế.

Theo như sự ổn định - nó phụ thuộc. Nếu chuỗi của bạn đã hội tụ, thì ... nó đã hội tụ. Tuy nhiên, cũng có những tình huống chuỗi dường như đã hội tụ nhưng thực ra chỉ là "đi chơi" trong một phần của không gian trạng thái. Ví dụ, hãy tưởng tượng rằng có một số chế độ, nhưng mỗi chế độ được kết nối kém với các chế độ khác. Có thể mất một thời gian rất lâu để người lấy mẫu có thể vượt qua khoảng trống đó và nó sẽ trông giống như chuỗi được hội tụ đúng cho đến khi nó thực hiện bước nhảy đó.

Có những chẩn đoán cho sự hội tụ, nhưng nhiều người trong số họ có một thời gian khó khăn để phân biệt sự hội tụ thực sự và sự hội tụ giả. Chương của Charles Geyer (# 1) trong Sổ tay của Markov Chain Monte Carlo khá bi quan về mọi thứ nhưng điều hành chuỗi càng lâu càng tốt.

Thuật toán Metropolis-Hastings lấy mẫu ngẫu nhiên từ phân phối sau. Thông thường, các mẫu ban đầu không hoàn toàn hợp lệ vì Chuỗi Markov chưa ổn định với phân phối cố định. Việc ghi trong các mẫu cho phép bạn loại bỏ các mẫu ban đầu chưa có tại văn phòng phẩm.