MCMC; Chúng ta có thể chắc chắn rằng chúng ta có một mẫu '' tinh khiết '' và 'đủ lớn' 'từ phía sau không? Làm thế nào nó có thể làm việc nếu chúng ta không?

Đề cập đến chủ đề này: Làm thế nào bạn sẽ giải thích Markov Chain Monte Carlo (MCMC) cho một giáo dân? .

Tôi có thể thấy rằng đó là sự kết hợp của Chuỗi Markov và Monte Carlo: chuỗi Markov được tạo ra với phân phối giới hạn dưới dạng bất biến và sau đó rút ra Monte Carlo (phụ thuộc) từ phân phối giới hạn (= sau của chúng tôi).

Hãy nói (Tôi biết rằng tôi đang đơn giản hóa ở đây) rằng sau khi bước chúng ta đang ở sự phân bố hạn chế $L$ $\Pi$ (*).

Chuỗi Markov là một chuỗi các biến ngẫu nhiên, tôi nhận được một chuỗi , nơi là một biến ngẫu nhiên và là hạn chế '' biến ngẫu nhiên '' Từ đó chúng tôi muốn lấy mẫu. $X_1, X_2, \dots , X_L, \Pi, \Pi, \Pi, \dots \Pi$ $X_i$ $\Pi$

MCMC bắt đầu từ một giá trị ban đầu, tức là là một biến ngẫu nhiên có tất cả khối lượng tại một giá trị đó . Nếu tôi sử dụng chữ in hoa cho các biến ngẫu nhiên, chữ nhỏ cho ngộ của một biến ngẫu nhiên, sau đó các MCMC mang lại cho tôi một chuỗi . Vậy độ dài của chuỗi MCMC là L + n. $X_1$ $x_1$ $x_1,x_2,x_3, \dots x_L, \pi_1, \pi_2, \pi_3, ....\pi_n$

[[* Lưu ý: chữ in hoa là các biến ngẫu nhiên (nghĩa là toàn bộ kết quả) và nhỏ là kết quả, tức là một giá trị cụ thể. *]] $x$

Rõ ràng, chỉ có thuộc về tôi '' sau '' và cho xấp xỉ sau '' tốt '' giá trị của nên '' đủ lớn ''. $\pi_i$ $n$

Nếu tôi tóm tắt này sau đó tôi có một chuỗi MCMC có độ dài , chỉ có liên quan cho xấp xỉ sau tôi, và $x_1,x_2,x_3, \dots x_L, \pi_1, \pi_2, \pi_3, ....\pi_n$ $N=L+n$ $\pi_1,\pi_2,\dots, \pi_n$ $n$ phải đủ lớn.

Nếu tôi bao gồm một số (tức là nhận ra trước khi đạt được phân phối bất biến) trong tính toán gần đúng của hậu thế, thì nó sẽ là '' ồn ào ''. $x_i$

Tôi biết độ dài của chuỗi MCMC , nhưng không có kiến thức về , tức là bước mà tôi chắc chắn lấy mẫu từ phân phối giới hạn, tôi không thể chắc chắn rằng tôi không bao gồm tiếng ồn, tôi cũng không thể đặc biệt chắc chắn về , kích thước mẫu của tôi từ phân phối giới hạn, đặc biệt, tôi không thể chắc chắn liệu nó có '' đủ lớn '' hay không. $N=L+n$ $L$ $n=N-L$

Vì vậy, theo như tôi hiểu, giá trị này của có tầm quan trọng quyết định đối với chất lượng gần đúng của hậu thế (loại trừ nhiễu và một mẫu lớn từ nó) $L$ .

Có cách nào để tìm ước tính hợp lý cho khi tôi áp dụng MCMC không? $L$

(*) Tôi nghĩ rằng, nói chung, sẽ phụ thuộc vào giá trị ban đầu . $L$ $x_1$

mcmc

— cộng đồng
nguồn

TL DR; Bạn không thể ước tính kể từ khi . Vì vậy, giả định đơn giản hóa không bao giờ có thể thực sự có thể. (Có thể có một số trường hợp, nhưng không phải trong thế giới chung của MCMC). Tuy nhiên, bạn có thể quyết định sẽ làm cho độ lệch sớm nhỏ. $L$ $L = \infty$ $N$

Về cơ bản, câu hỏi của bạn tập trung vào "làm thế nào chúng ta có thể ước tính thời gian bị cháy?". Burn-in là hành động vứt bỏ các mẫu ban đầu vì chuỗi Markov chưa hội tụ. Có nhiều chẩn đoán MCMC giúp bạn ước tính thời gian "burn-in", bạn có thể xem đánh giá về chúng ở đây .

Có hai trường thông qua liên quan đến burn-in; cách phổ biến là sử dụng một trong những chẩn đoán đó để quyết định là gì và vứt bỏ các mẫu , và trường thứ hai thông qua đó, các mẫu đầu tiên không quan trọng, vì vậy đừng lo lắng về chúng. Charlie Geyer có một lời ca ngợi về điều này mà tôi đồng ý. $L$ $L$ $L$

Bây giờ, tôi chuyển sang các chi tiết kỹ thuật hơn của câu hỏi của bạn.

Một giả định đơn giản hóa mà bạn đưa ra trong câu hỏi của mình là cuối cùng, (sau các bước ), bộ lấy mẫu sẽ bắt đầu vẽ từ phân phối giới hạn. Vì vậy, các mẫu của bạn sau các bước là bản vẽ thuần túy, mặc dù tương quan. Điều này là sai sự thật. Nói đúng ra, là . Chuỗi Markov không bao giờ thực sự hội tụ vào phân phối giới hạn trong thời gian hữu hạn. Vì vậy, ước tính $L$ $L$ $L$ $\infty$ $L$ là gần như vô nghĩa.

Một cách khác để đặt ra câu hỏi này là: là gì mà sau bước, chuỗi Markov "đủ gần" để phân phối giới hạn. Đây là câu hỏi hầu hết các chẩn đoán cố gắng trả lời. Người ta ngày càng đồng ý rằng các chẩn đoán ở trên nói chung là cực kỳ tự do và có thể chẩn đoán "sự hội tụ" nhiều trước khi cần. Dưới đây là một bài báo cho thấy một số điểm yếu của chẩn đoán. $L$ $L$

Có gì ở trên yêu cầu người sử dụng để làm thay vì là không lo lắng về , lo lắng về . Nói chung, người dùng không quan tâm đến phân phối đầy đủ sau, nhưng với số lượng cụ thể. Thông thường đại lượng này là giá trị trung bình của hậu thế, hoặc bất kỳ chức năng nào khác có thể được viết ra dưới dạng kỳ vọng. Đây là nơi phần "Monte Carlo" của MCMC xuất hiện, vì Monte Carlo biểu thị ước tính tích phân với tổng. Vì vậy, nếu là chuỗi Markov của bạn (thông báo như thế nào tôi bỏ qua , vì là $L$ $N$ $X_1, X_2, X_3, \dots, X_N$ $L$ $L$ $\infty$ ), Và chúng tôi muốn để ước tính sau bình ( ), sau đó $\theta$

{\bar{θ}}_{N} = \frac{1}{N} \sum_{i = 1}^{N} X_{i} .

$\bar{\theta}_N = \dfrac{1}{N} \sum_{i=1}^{N}X_i.$

Ý tưởng là nếu đủ lớn, thì độ lệch ban đầu của mẫu sẽ không đáng kể. Tất nhiên, nếu giá trị ban đầu nằm cách xa không gian xác suất cao của phân phối giới hạn, người dùng có thể bắt mắt và ném đi một vài mẫu đầu tiên. Điều này khác với ước tính $N$ $L$ , vì nó không phải là ước tính, mà là sự coi thường có giáo dục đối với các mẫu bị hỏng rõ ràng.

Bây giờ câu hỏi tất nhiên là: nên lớn như thế nào ? Câu trả lời sẽ phụ thuộc vào làm tốt như thế nào chúng ta muốn ước tính $N$ $\theta$ . Nếu chúng tôi muốn một ước tính tuyệt vời, thì chúng tôi muốn nhiều mẫu hơn, nếu ước tính ok đủ, thì chúng tôi có thể ổn với một mẫu nhỏ hơn. Đây cũng chính xác là những gì xảy ra trong các vấn đề thống kê tiêu chuẩn.

Cách chúng ta định lượng "tốt đẹp" của một ước tính, là để suy nghĩ, "những gì chúng ta có thể nói về ?, Sai số Monte Carlo Dưới những điều kiện hợp lý, có trong thực tế, một chuỗi CLT Markov nói rằng như , đối với bất kỳ phân phối ban đầu $(\bar{\theta}_N - \theta)$ $N \to \infty$

\sqrt{N} ({\bar{θ}}_{N} - θ) \overset{d}{\to} N_{p} (0, Σ),

$\sqrt{N}(\bar{\theta}_N - \theta) \overset{d}{\to} N_p(0, \Sigma),$

nơi và là ma trận hiệp phương sai tiệm cận. Chìa khóa ở đây là kết quả đúng với mọi phân phối ban đầu. $\theta \in \mathbb{R}^p$ $\Sigma$

Khi là nhỏ, chúng ta biết rằng ước lượng là tốt. Bài viết này trình bày ý tưởng dừng lại, và câu trả lời của tôi ở đây tóm tắt phương pháp của họ. Các kết quả trong bài báo của họ cũng bất kể phân phối ban đầu của quá trình. $\Sigma/N$

— Công viên xanh
nguồn

Thx cho câu trả lời (1) Tôi biết rằng

nên

, tôi dứt khoát nói rằng tôi đã được đơn giản hóa. Theo như CLT của bạn, không nên là

cho sự hội tụ trong phân phối? và cho

, được mà tính sau khi thả burn-in giá trị, bởi vì nếu nó là sau khi thả chúng, sau đó phần còn lại vấn đề? (tôi có thể hỏi TL DR nghĩa là gì không?) Cảm ơn vì bài báo, tôi đã đọc chi tiết

L

$L$

\infty

$\infty$

Σ / n

$\Sigma/n$

{\hat{θ}}_{N}

$\hat{\theta}_N$

Cố định một lỗi đánh máy, nó cần phải có được

được tính từ tất cả các mẫu, không có gì đã được giảm xuống. TL DR có nghĩa là "quá dài, không đọc". Tôi quên thêm rằng CLT giữ cho bất kỳ phân phối ban đầu. Tôi sẽ thêm điều đó.

Σ / N

$\Sigma/N$

{\bar{θ}}_{N}

$\bar{\theta}_N$

— Greenparker

X_{1} \sim π

$X_1 \sim \pi$

{\bar{g}}_{n}

$\bar{g}_n$

X_{1} \sim π

$X_1 \sim \pi$

π

$\pi$