Khi nào MCMC trở nên phổ biến?


18

Có ai biết khoảng năm nào MCMC trở nên phổ biến (nghĩa là một phương pháp phổ biến cho suy luận Bayes)? Một liên kết đến số lượng bài báo MCMC (tạp chí) được xuất bản theo thời gian sẽ đặc biệt hữu ích.


2
Tôi nghi ngờ rằng bất cứ ai cũng có thể cung cấp một năm. Sẽ hợp lý hơn khi xem xét sự khuếch tán của MCMC theo thời gian. Nó bắt nguồn từ những năm 50 với thuật toán Metropolis-Hastings nhưng không được áp dụng rộng rãi và sử dụng cho đến khi xuất hiện sức mạnh tính toán tương đối rẻ tiền bắt đầu từ những năm 80. Theo hiểu biết tốt nhất của tôi, những ứng dụng đầu tiên là trong các công nghệ nhận dạng khuôn mặt Bayes thời bấy giờ. Thứ hai, bắt đầu từ những năm 90, MCMC sử dụng lan rộng sang các lĩnh vực khác như kinh tế & tiếp thị với trường phái Chicago. Hãy xem MCMC thực hành năm 1996 của Gilks ​​& Spiegelhalter .
dùng332577

1
Câu hỏi này rất mơ hồ và kêu gọi ý kiến ​​(không có định nghĩa được chấp nhận về phổ biến hoặc phổ biến). Nó thừa nhận bất kỳ số lượng câu trả lời đúng.
Glen_b -Reinstate Monica

1
@Glen_b Tôi nghĩ rằng câu trả lời dưới đây là tuyệt vời. Bạn có không đồng ý không? Hay bạn đã viết bình luận của bạn trước câu trả lời đó? (Cả hai chỉ nói 'ngày hôm qua').
Peter Flom - Tái lập Monica

2
@Peter Mine đến trước một trong hai câu trả lời; di chuột qua từ "ngày hôm qua" trên mỗi (hoặc bất cứ điều gì biểu thị thời gian đã trôi qua kể từ khi đăng) để xem thời gian UTC chính xác. Tôi nghĩ rằng câu trả lời bạn chỉ ra là một câu trả lời một phần tốt nhưng câu hỏi vẫn sẽ thừa nhận một số câu hỏi hoàn toàn khác nhau mà không có cơ sở tốt để lựa chọn giữa chúng.
Glen_b -Reinstate Monica

Câu trả lời:


25

Bài viết này của Christian (Xi'an) Robert và George Casella cung cấp một bản tóm tắt hay về lịch sử của MCMC. Từ tờ giấy (nhấn mạnh là của tôi).


Những gì có thể được xem một cách hợp lý là thuật toán MCMC đầu tiên là cái mà bây giờ chúng ta gọi là thuật toán Metropolis, được xuất bản bởi Metropolis et al. (1953). Nó xuất phát từ cùng một nhóm các nhà khoa học đã tạo ra phương pháp Monte Carlo, cụ thể là, các nhà khoa học nghiên cứu của Los Alamos, chủ yếu là các nhà vật lý làm việc trên vật lý toán học và bom nguyên tử.


Thuật toán Metropolis sau đó đã được khái quát hóa bởi Hastings (1970) và sinh viên của ông là Peskun (1973,1981)


Mặc dù phần nào được loại bỏ khỏi suy luận thống kê theo nghĩa cổ điển và dựa trên các kỹ thuật trước đây được sử dụng trong Vật lý thống kê, bài báo mang tính bước ngoặt của Geman và Geman (1984) đã đưa mẫu Gibbs vào lĩnh vực ứng dụng thống kê. Bài viết này cũng chịu trách nhiệm cho tên Gibbs lấy mẫu


Cụ thể, Geman và Geman (1984) đã tác động đến Gelfand và Smith (1990) để viết một bài báo là điểm khởi đầu thực sự cho việc sử dụng nhiều phương pháp MCMC của cộng đồng thống kê dòng chính . Nó đã tạo ra sự liên kết mới trong các phương pháp Bayes, tính toán thống kê, thuật toán và các quy trình ngẫu nhiên thông qua việc sử dụng các thuật toán điện toán như bộ lấy mẫu Gibbs và thuật toán của Metropolis Muff Hastings.


Điều thú vị là, bài báo trước đó của Tanner và Wong (1987) về cơ bản có cùng thành phần với Gelfand và Smith (1990), cụ thể là việc mô phỏng từ các bản phân phối có điều kiện là đủ để mô phỏng một cách bất chính từ khớp. Bài báo này được coi là đủ quan trọng trở thành một bài thảo luận trên Tạp chí của Hiệp hội Thống kê Hoa Kỳ, nhưng tác động của nó bị hạn chế theo cách nào đó, so với Gelfand và Smith (1990).


Tôi không thể tìm thấy số lượng bài báo được xuất bản theo thời gian, nhưng đây là một âm mưu Google Ngram cho số lượng đề cập theo thời gian. Nó ít nhiều đồng ý với quan điểm rằng MCMC đã trở nên phổ biến sau bài báo năm 1990 của Gelfand và Smith.

nhập mô tả hình ảnh ở đây


1
Cảm ơn bạn! Tôi coi năm 1990 là ngày quan trọng nhất trong lịch sử của MCMC, vì bốn bài báo của Alan Gelfand và Adrian Smith đã xuất hiện vào năm đó trên các tạp chí Thống kê hàng đầu và đưa ra khái niệm sử dụng chuỗi Markov để mô phỏng đột nhiên. Tôi nhớ đã tham dự một buổi nói chuyện của Adrian Smith vào tháng 6 năm 1989 tại Seherbrooke (PQ) nơi anh ấy đã chứng minh tính phổ quát của ý tưởng bằng cách hiển thị một slide với một vài dòng mã (Fortran?).
Tây An

12

Câu trả lời xuất sắc của knrumsey đưa ra một số lịch sử về sự tiến triển của công việc học tập quan trọng trong MCMC. Một khía cạnh khác đáng để kiểm tra là sự phát triển của phần mềm để tạo điều kiện cho MCMC bởi người dùng thông thường. Các phương pháp thống kê thường được sử dụng chủ yếu bởi các chuyên gia cho đến khi chúng được triển khai trong phần mềm cho phép người dùng thông thường thực hiện chúng mà không cần lập trình. Ví dụ, phần mềm BUGS đã phát hành lần đầu tiên vào năm 1997. Điều đó dường như không thay đổi quỹ đạo tăng trưởng trong âm mưu N-Gram, nhưng nó có thể đã ảnh hưởng đến việc đưa phương thức này vào sử dụng phổ biến trong số những người dùng đã tìm thấy nó đáng sợ để lập trình các thói quen của riêng họ.


Huh, có một thay đổi nhỏ trong dòng cho MCMC vào khoảng năm 1997.
muru

Phát hiện tốt - không chắc chắn liệu nó có phải là một thay đổi đủ lớn để có ý nghĩa thống kê hay không, nhưng dù sao cũng được ghi nhận.
Tái lập lại

Ước tính trực quan, nếu độ dốc trước năm 1997 được duy trì, chúng ta sẽ thấy khoảng 0,000015% vào khoảng năm 2004 (nhưng giá trị thực tế là gần 0,0000225%). Đó là mức tăng 50%. Nhưng tôi cho rằng con số quá nhỏ.
muru

Có lẽ bạn nói đúng - đôi mắt tốt!
Tái lập lại

1
hmmm, BUGS đã được trình bày tại hội nghị thống kê Valencia Bayesian năm 1991.
Xi'an
Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.