Là MCMC không có bộ nhớ?


18

Tôi đang cố gắng hiểu chuỗi Markov Monte Carlo (MCMC) là gì từ trang Wikipedia tiếng Pháp. Họ nói rằng "các phương thức Monte Carlo chuỗi Markov bao gồm việc tạo ra một vectơ chỉ từ dữ liệu vectơ , do đó, đây là một quá trình" không có bộ nhớ ""xixi1

Les méthodes de Monte-Carlo par chaînes de Markov nhất quán à générer un vecteur uniquement à partir de la donnée du vecteur ; c'est donc un processus «sans mémoire»,xixi1

Tôi không hiểu tại sao họ nói MCMC là "không có bộ nhớ" khi chúng tôi sử dụng thông tin từ dữ liệu vectơ để tạo .xi1xi


3
Bởi vì bạn không phải "nhớ" bất cứ điều gì về quy trình ngoại trừ trạng thái cuối cùng của chuỗi. Tôi đoán bạn vẫn cần một số bộ nhớ nhưng nó chỉ là một phần thông tin.
dùng2974951

xi1 không "nhớ"; đó là đầu vào rõ ràng.
chepner

Câu trả lời:


28

Đặc điểm xác định của chuỗi Markov là phân phối có điều kiện của giá trị hiện tại của nó có điều kiện dựa trên các giá trị trong quá khứ chỉ phụ thuộc vào giá trị trước đó . Vì vậy, mọi chuỗi Markov đều "không có bộ nhớ" đến mức chỉ có giá trị trước đó ảnh hưởng đến xác suất có điều kiện hiện tại và tất cả các trạng thái trước đó đều bị "lãng quên". (Bạn đúng rằng nó không hoàn toàn không có bộ nhớ - xét cho cùng, phân phối có điều kiện của giá trị hiện tại phụ thuộc vào giá trị trước đó.) Điều đó đúng với MCMC và cho bất kỳ chuỗi Markov nào khác.


9
Nếu bạn tiến lên một bước này, bạn có thể nói phân phối có điều kiện của các giá trị tương lai của nó có điều kiện dựa trên các giá trị hiện tại và quá khứ chỉ phụ thuộc vào giá trị hiện tại và theo nghĩa đó, bộ nhớ về quá khứ không cần thiết miễn là biết được vị trí hiện tại
Henry

Ngoại trừ bạn luôn có thể điều chỉnh không gian trạng thái để lưu trữ bất kỳ lượng thông tin hữu hạn nào về quá khứ. Ví dụ, vẫn là Markovian phụ thuộc vào mười trạng thái cuối cùng của bạn, vì bạn chỉ có thể mở rộng không gian trạng thái để đưa thông tin đó vào "trạng thái trước".
David Richerby

15

Trong khi chúng tôi có câu trả lời chính xác, tôi muốn mở rộng thêm một chút về ngữ nghĩa trực quan của tuyên bố. Hãy tưởng tượng rằng chúng ta xác định lại các chỉ số của mình sao cho bạn tạo vectơ từ vectơ . Bây giờ, khoảnh khắc được ẩn dụ là "hiện tại" và tất cả các vectơ đến "sớm hơn" đều không liên quan để tính toán tiếp theo trong tương lai.xi+1xiixi

Thông qua việc đánh số lại đơn giản này, nó trở thành "hoàn toàn không có bộ nhớ" theo nghĩa trực quan - nghĩa là, không quan trọng bằng cách nào hệ thống Markov trở thành trạng thái hiện tại . Chỉ riêng trạng thái hiện tại xác định các trạng thái trong tương lai mà không sử dụng bất kỳ thông tin nào từ các trạng thái trong quá khứ ( ).xin

Một điểm có thể tinh tế hơn: từ "bộ nhớ" cũng đang được sử dụng bởi vì điều này cũng có nghĩa là bạn không thể suy ra các trạng thái trong quá khứ từ trạng thái hiện tại. Khi bạn ở , bạn không biết chuyện gì đã xảy ra "trước" trong . Điều này trái ngược với các hệ thống mã hóa kiến ​​thức về các trạng thái trong quá khứ ở trạng thái hiện tại.xixin


5

Bạn thức dậy. Bạn không biết làm thế nào bạn có được bạn đang ở đâu. Bạn nhìn xung quanh và đưa ra quyết định về những việc cần làm tiếp theo chỉ dựa trên thông tin bạn có sẵn tại thời điểm đó. Đó thực chất là tình huống giống như những gì đang xảy ra trong MCMC.

xixi1xi1xi+1xi


2
Hãy gọi nó là phương thức Hangover
IggyPass

@ThePasbah Gọi nó là bất cứ điều gì bạn muốn. Chỉ cần xin vui lòng vượt qua aspirin.
Dason
Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.