Hamiltonian Monte Carlo (HMC): trực giác và sự biện minh đằng sau một biến động lượng phân bố Gaussian là gì?

Tôi đang đọc một bài viết giới thiệu tuyệt vời về HMC của Giáo sư Michael Betancourt, nhưng bị mắc kẹt trong việc hiểu làm thế nào để chúng ta đi về sự lựa chọn phân phối động lượng.

Tóm lược

Ý tưởng cơ bản của HMC là giới thiệu biến động lượng kết hợp với biến mục tiêu . Chúng cùng tạo thành một không gian pha . $p$ $q$

Tổng năng lượng của một hệ thống bảo thủ là một hằng số và hệ thống phải tuân theo các phương trình của Hamilton. Do đó, các quỹ đạo trong không gian pha có thể bị phân hủy thành các mức năng lượng , mỗi mức tương ứng với một giá trị năng lượng và có thể được mô tả như một tập hợp các điểm thỏa mãn: $E$

$H^{-1}(E) = \{(q, p) | H(q, p) = E\}$ .

Chúng tôi muốn ước tính phân phối chung , để bằng cách tích hợp chúng tôi có được phân phối mục tiêu mong muốn . Hơn nữa, có thể được viết tương đương là , trong đó tương ứng với một giá trị cụ thể của năng lượng và là vị trí trên mức năng lượng đó. $\pi(q, p)$ $p$ $\pi(q)$ $\pi(q, p)$ $\pi(\theta_E \hspace{1.5pt} | \hspace{1.5pt} E) \hspace{1.5pt} \pi(E)$ $E$ $\theta_E$

π (q, p) = = {\begin{cases} π (p | q) π (q) \\ π (θ_{E} | E) π (E), phân hủy vi mô \end{cases}

$\begin{equation} \pi(q, p)= \begin{cases} \pi(p \hspace{1.5pt} | \hspace{1.5pt} q) \hspace{1.5pt} \pi(q) \\ \pi(\theta_E \hspace{1.5pt} | \hspace{1.5pt} E) \hspace{1.5pt} \pi(E), \hspace{5pt} \text{microcanonical decomposition} \end{cases} \end{equation}$

Đối với một giá trị đã cho của , tương đối dễ biết hơn, vì chúng ta có thể thực hiện tích hợp các phương trình của Hamilton để lấy điểm dữ liệu trên quỹ đạo . Tuy nhiên, là phần khó khăn mà phụ thuộc vào cách chúng ta xác định đà, mà sau đó xác định năng lượng tổng . $E$ $\pi(\theta_E \hspace{1.5pt} | \hspace{1.5pt} E)$ $\pi(E)$ $E$

Câu hỏi

Dường như với tôi rằng những gì chúng ta theo sau là , nhưng thực tế chúng ta có thể ước tính là , dựa trên giả định rằng có thể gần giống với , như được minh họa trong hình 23 của bài báo. Tuy nhiên, những gì chúng tôi thực sự lấy mẫu dường như là . $\pi(E)$ $\pi(E \hspace{1pt} | \hspace{1pt} q)$ $\pi(E \hspace{2pt} | \hspace{1pt} q)$ $\pi(E)$ $\pi(p \hspace{1pt} | \hspace{1pt} q)$

Q1 : Có phải vì khi chúng ta biết , chúng ta có thể dễ dàng tính toán và do đó ước tính ? $\pi(p \hspace{1pt} | \hspace{1pt} q)$ $E$ $\pi(E \hspace{2pt} | \hspace{1pt} q)$

Để đưa ra giả định rằng giữ, chúng tôi sử dụng động lượng phân tán Gaussian. Hai lựa chọn được đề cập trong bài báo: $\pi(E) \sim \pi(E | q)$

π (p | q) = {\begin{cases} N (p | 0, M) Euclidean-Gaussian kinetic energy \\ N (p | 0, Σ (q)) Reimannian-Gaussian kinetic energy, \end{cases}

$\begin{equation} \pi(p|q)= \begin{cases} \mathcal{N}(p \hspace{1pt}| \hspace{1pt} 0, M) \hspace{5pt} \text{Euclidean-Gaussian kinetic energy} \\ \mathcal{N}(p \hspace{1pt}| \hspace{1pt} 0, \Sigma(q)) \hspace{5pt} \text{Reimannian-Gaussian kinetic energy}, \end{cases} \end{equation}$

Trong đó là hằng số được gọi là số liệu Euclide, hay còn gọi là ma trận khối . $M$ $D \times D$

Trong trường hợp lựa chọn đầu tiên (Euclidean-Gaussian), ma trận khối thực sự độc lập với , vì vậy xác suất chúng tôi đang lấy mẫu thực sự là . Sự lựa chọn động lượng phân phối Gaussian với hiệp phương sai ngụ ý rằng biến mục tiêu là phân phối Gaussian với ma trận hiệp phương sai , vì và cần phải được biến đổi nghịch đảo để giữ cho âm lượng trong không gian pha không đổi . $M$ $q$ $\pi(p)$ $p$ $M$ $q$ $M^{-1}$ $p$ $q$

Câu 2 : Câu hỏi của tôi là làm thế nào chúng ta có thể mong đợi tuân theo phân phối Gaussian? Trong thực tế có thể là bất kỳ phân phối phức tạp nào. $q$ $\pi(q)$

mcmc monte-carlo hmc

— cwl
nguồn

Không quá nhiều so với chúng ta sau , chỉ là nếu và không giống nhau thì việc khám phá của chúng ta sẽ bị hạn chế do chúng ta không thể khám phá tất cả các năng lượng có liên quan. Do đó, trong thực tế, ước tính thực nghiệm của và rất hữu ích để xác định bất kỳ giới hạn tiềm năng nào trong khám phá của chúng tôi, đó là động lực cho biểu đồ so sánh và chẩn đoán E-BFMI. $\pi(E)$ $\pi(E)$ $\pi(E|q)$ $\pi(E)$ $\pi(E|q)$

Vậy, chúng ta biết gì về hai bản phân phối? Khi chúng ta tăng tính chiều của phân phối mục tiêu của chúng ta thì sắp xếp theo kiểu có xu hướng trông ngày càng nhiều Gaussian. Nếu thời gian tích hợp của chúng ta đủ dài thì việc khám phá các tập cấp của chúng ta sẽ cân bằng và nếu là Gaussian thì cũng sẽ có xu hướng ngày càng nhiều Gaussian. $\pi(E)$ $\pi(p | q)$ $\pi(E|q)$

Do đó, động năng Gaussian-Euclide là điểm khởi đầu tốt nhưng không có nghĩa là luôn luôn tối ưu ! Tôi dành một chút thời gian để cố gắng phù hợp với những người mẫu mà Stan hét lên với tôi về chẩn đoán E-BFMI tồi. Động năng Một Gaussian-Riemann có thể là một cải tiến đáng kể trong nhiều trường hợp là yếu tố quyết định ghi vị trí phụ thuộc vào có thể làm cho nhiều hơn đáng kể Gaussian, nhưng điều này vẫn còn nhiều hơn nghiên cứu được thực hiện để hiểu đầy đủ vấn đề. $\pi(p | q)$ $\pi(E)$

— Michael Betancourt
nguồn

Tôi đã cố gắng viết một câu trả lời, nhưng nếu THE Michael Betancourt được xác thực chéo, thì tôi sẽ vui lòng lùi lại :-) chỉ là một ghi chú, "răn đe đăng nhập" rất có thể là một lỗi đánh máy: Tôi cá là bạn có nghĩa là "xác định nhật ký" .

— DeltaIV

Tâng bốc để có câu trả lời của @Michael Betancourt :-) Chỉ tò mò, khi bạn nói "Khi chúng ta tăng tính chiều của phân phối mục tiêu của chúng ta thì sắp xếp theo kiểu

ngày càng nhiều Gaussian", có bằng chứng lý thuyết hay không nó là một quan sát thực nghiệm?

π (E)

$\pi(E)$

— cwl

@cwl - đó là một đối số tiệm cận tiêu chuẩn. Nếu phân phối đích hội tụ đến phân phối phân phối độc lập với dữ liệu hoặc tham số tăng thì

sẽ hội tụ đến

, sẽ được xấp xỉ bởi một Gaussian trên một vài chiều. Mặt khác, chúng tôi có xu hướng tiếp cận Hamiltonian Monte Carlo trong thực tế khi mục tiêu phức tạp nên sự không triệu chứng có thể không liên quan đặc biệt. Do đó việc phòng ngừa rủi ro.

p i (E)

$pi(E)$

c h i^{2}

$chi^{2}$

— Michael Betancourt

Có nó @Michael Betancourt, cảm ơn rất nhiều vì lời giải thích!

— cwl