Suy luận biến đổi trong tiếng Anh đơn giản

Khi xem video trên youtube, tôi cảm thấy mình không thể xác định được suy luận đa dạng là gì. Tôi có thể làm theo các thủ tục trong khi tôi đang xem các bài giảng video về nó. Nhưng khó để xác định những gì thực sự là. Hy vọng được nghe về nó.

Không dựa trên kiến ​​thức của tôi, nhưng đây là một bài báo (bằng tiếng Anh khá đơn giản) mà tôi nghĩ rất phù hợp với câu hỏi: Blei, Kucukelbir & McAuliffe 2016. Suy luận về biến thể: Đánh giá cho các nhà thống kê . https://arxiv.org/abs/1601.00670

Từ tóm tắt:

Một trong những vấn đề cốt lõi của thống kê hiện đại là ước tính mật độ xác suất khó tính. Vấn đề này đặc biệt quan trọng trong thống kê Bayes, trong đó quy định tất cả các suy luận về số lượng chưa biết là một phép tính liên quan đến mật độ sau. Trong bài báo này, chúng tôi xem xét suy luận đa dạng (VI), một phương pháp từ học máy gần bằng mật độ xác suất thông qua tối ưu hóa. VI đã được sử dụng trong nhiều ứng dụng và có xu hướng nhanh hơn các phương pháp cổ điển, chẳng hạn như lấy mẫu Monte Carlo chuỗi Markov. Ý tưởng đằng sau VI là trước tiên đặt ra một gia đình có mật độ dày và sau đó tìm thành viên của gia đình đó gần với mục tiêu. Sự gần gũi được đo bằng phân kỳ Kullback-Leibler. Chúng tôi xem xét các ý tưởng đằng sau suy luận đa dạng trường trung bình, thảo luận về trường hợp đặc biệt của VI được áp dụng cho các mô hình gia đình hàm mũ, trình bày một ví dụ đầy đủ với hỗn hợp Gaussian của Bayes và rút ra một biến thể sử dụng tối ưu hóa ngẫu nhiên để mở rộng dữ liệu lớn. Chúng tôi thảo luận về nghiên cứu hiện đại trong VI và nêu bật các vấn đề mở quan trọng. VI là mạnh mẽ, nhưng nó chưa được hiểu rõ . Hy vọng của chúng tôi khi viết bài báo này là xúc tác nghiên cứu thống kê về lớp thuật toán này.

Họ cũng đưa ra hướng dẫn khi các nhà thống kê nên sử dụng lấy mẫu Monte Carlo chuỗi Markov và khi suy luận đa dạng (xem đoạn So sánh suy luận đa dạng và MCMC trong bài viết).