Định lý giới hạn trung tâm cho chuỗi Markov

$\newcommand{\E}{\mathbb{E}}$ $\newcommand{\P}{\mathbb{P}}$ Định lý giới hạn trung tâm (CLT) nói rằng đối với độc lập và phân phối nhận dạng (iid) với và , tổng sẽ hội tụ thành một bản phân phối bình thường là : $X_1,X_2,\dots$ $\E[X_i]=0$ $\operatorname{ Var} (X_i)<\infty$ $n\to\infty$

\sum_{i = 1}^{n} X_{i} \to N (0, \sqrt{n}) .

$\sum_{i=1}^n X_i \to N\left(0, \sqrt{n}\right).$

Giả sử thay vào đó $X_1,X_2,\dots$ tạo thành chuỗi Markov trạng thái hữu hạn với phân phối cố định $\P_\infty$ với kỳ vọng 0 và phương sai giới hạn. Có một phần mở rộng đơn giản của CLT cho trường hợp này?

Các bài báo tôi đã tìm thấy trên CLT cho Markov Chains thường xử lý các trường hợp tổng quát hơn nhiều. Tôi sẽ rất biết ơn về một con trỏ đến kết quả chung có liên quan và một lời giải thích về cách áp dụng nó.

markov-process central-limit-theorem

— tom4everitt
nguồn

Bài viết của Lin và Tegmark Hành vi phê phán từ Deep Dynamics đi sâu vào "những hạn chế * của quá trình và phân tích Markov ... có sẵn ở đây ... ai2-s2-pdfs.s3.amazonaws.com/5ba0/

— Mike Hunter

Câu trả lời:

Câu trả lời của Alex R. là gần như đủ, nhưng tôi thêm một vài chi tiết. Trong Định lý giới hạn trung tâm chuỗi Markov - Galin L. Jones , nếu bạn nhìn vào định lý 9, nó nói,

Nếu là chuỗi Markov của Harris ergodic với phân phối cố định , thì CLT giữ cho nếu là ergodic đồng đều và . $X$ $\pi$ $f$ $X$ $E[f^2] < \infty$

Đối với không gian trạng thái hữu hạn, tất cả các chuỗi Markov không thể thay đổi và định kỳ đều thống nhất. Bằng chứng cho điều này liên quan đến một số nền tảng đáng kể trong lý thuyết chuỗi Markov. Một tài liệu tham khảo tốt sẽ là Trang 32, ở dưới cùng của Định lý 18 ở đây .

Do đó, CLT chuỗi Markov sẽ giữ cho bất kỳ chức năng nào có thời điểm thứ hai hữu hạn. Mẫu CLT có được mô tả như sau. $f$

Đặt là công cụ ước tính trung bình thời gian của , sau đó khi Alex R. chỉ ra, như , $\bar{f}_n$ $E_{\pi}[f]$ $n \to \infty$

{\bar{f}}_{n} = \frac{1}{n} \sum_{i = 1}^{n} f (X_{i}) \overset{a.s.}{\to} E_{π} [f] .

$\bar{f}_n = \frac{1}{n} \sum_{i=1}^n f(X_i) \overset{\text{a.s.}}{\to} E_\pi[f].$

Chuỗi CLT của Markov là

\sqrt{n} ({\bar{f}}_{n} - E_{π} [f]) \overset{d}{\to} N (0, σ^{2}),

$\sqrt{n} (\bar{f}_n - E_\pi[f]) \overset{d}{\to} N(0, \sigma^2),$

trong đó

σ^{2} = \underset{Expected term}{\underset{⏟}{{Var}_{π} (f (X_{1}))}} + \underset{Term due to Markov chain}{\underset{⏟}{2 \sum_{k = 1}^{\infty} {Cov}_{π} (f (X_{1}), f (X_{1 + k}))}} .

$\sigma^2 = \underbrace{\operatorname{Var}_\pi(f(X_1))}_\text{Expected term} + \underbrace{2 \sum_{k=1}^\infty \operatorname{Cov}_\pi(f(X_1), f(X_{1+k}))}_\text{Term due to Markov chain}.$

Có thể tìm thấy một dẫn xuất cho thuật ngữ trên Trang 8 và Trang 9 của ghi chú MCMC của Charles Geyer tại đây $\sigma^2$

— Công viên xanh
nguồn

Cảm ơn, điều đó rất rõ ràng! Có một lập luận dễ dàng tại sao các chuỗi Markov trạng thái hữu hạn, không thể sửa chữa và một chu kỳ Markov có tính đồng nhất? (không phải là tôi không tin bạn ^^).

— tom4everitt

@ tom4everitt Thật không may, định nghĩa của "dễ dàng" là chủ quan. Nếu bạn quen thuộc với các điều kiện trôi dạt và thu nhỏ cho chuỗi Markov, thì đối số rất dễ dàng. Nếu không, thì đó sẽ là một cuộc tranh cãi dài. Tôi sẽ cố gắng và tìm một tài liệu tham khảo thay thế. Có thể mất một lúc.

— Greenparker

Điêu đo thật tuyệt vơi. Nếu bạn không tìm thấy bất kỳ, một vài câu gợi ý ở các bước chính vẫn sẽ hữu ích.

— tom4everitt

@ tom4everitt Đã thêm một tham chiếu cho câu trả lời. Hy vọng thế là đủ.

— Greenparker

@Greenparker Tôi có thể nhờ bạn giúp đỡ để hiểu làm thế nào phương sai trong câu trả lời của bạn được bắt nguồn. Tôi đã xem qua các tài liệu tham khảo trong câu trả lời của bạn, nhưng tôi không tìm thấy một dẫn xuất trong đó. Tôi có một nguồn, MC cho MCsist, nhưng tôi không hoàn toàn hiểu nó bắt nguồn từ đó như thế nào. Đó là, thuật ngữ bắt nguồn như thế nào? Cảm ơn bạn!

σ^{2}

$\sigma^2$

— LeastSquaresWonderer

Kết quả "thông thường" cho Markov Chains là Định lý Ergodic của Birkhoff, nói rằng

\frac{1}{n} \sum_{i = 1}^{n} f (X_{i}) \to E_{π} [f],

$\frac{1}{n}\sum_{i=1}^nf(X_i)\rightarrow E_{\pi}[f],$

trong đó là phân phối cố định và thỏa mãn và sự hội tụ gần như chắc chắn. $\pi$ $f$ $E|f(X_1)|<\infty$

Thật không may, sự dao động của sự hội tụ này thường khá khó khăn. Điều này chủ yếu là do khó khăn cực lớn trong việc tìm ra giới hạn tổng biến thiên về tốc hội tụ đến phân phối cố định . Có những trường hợp đã biết trong đó các dao động tương tự như CLT và bạn có thể tìm thấy một số điều kiện trên độ lệch khiến cho sự tương tự giữ: Trên Định lý giới hạn trung tâm chuỗi Markov - Galin L. Jones (Xem Định lý 1). $X_i$ $\pi$

Cũng có những tình huống ngu ngốc, ví dụ như một chuỗi có hai trạng thái, trong đó một trạng thái đang hấp thụ (tức là và Trong trường hợp này không có biến động, và bạn có được sự hội tụ đến một phân phối bình thường suy biến (một hằng số). $P(1\rightarrow 2)=1$ $P(2\rightarrow 1)=0$

— Alex R.
nguồn

Tôi không nghĩ anh ấy hỏi về sự hội tụ gần như chắc chắn. Tôi nghĩ rằng anh ta muốn có một loại 'bản dịch' của một số CLT trên các không gian chung: có lẽ là một lời giải thích về các giả định bắt buộc có nghĩa là gì trong bối cảnh cụ thể của chuỗi không gian trạng thái hữu hạn

— Taylor

Cảm ơn. Một chuỗi Markov trạng thái bình thường, tốt đẹp, hữu hạn sẽ thỏa mãn một cách tầm thường điều kiện trôi dạt? Tôi thậm chí sẽ rất vui khi biết nó chỉ là một chuỗi hai trạng thái, nhưng nó không rõ ràng đối với tôi làm thế nào để chứng minh điều đó.

— tom4everitt