Từ bất kỳ thuật toán lấy mẫu chung nào, người ta có thể rút ra một thuật toán tối ưu hóa.
Thật vậy, để tối đa hóa chức năng tùy ý , nó cũng đủ để vẽ mẫu từ g ~ e f / T . Đối với T đủ nhỏ, các mẫu này sẽ nằm gần mức tối đa toàn cầu (hoặc cực đại cục bộ trong thực tế) của hàm f .
Ý tôi là "lấy mẫu", vẽ một mẫu giả ngẫu nhiên từ một bản phân phối được cung cấp một hàm khả năng ghi nhật ký được biết đến với hằng số. Chẳng hạn, lấy mẫu MCMC, lấy mẫu Gibbs, Lấy mẫu chùm tia, v.v ... Bằng cách "tối ưu hóa", ý tôi là cố gắng tìm các tham số tối đa hóa giá trị của một hàm nhất định.
Là đảo ngược có thể? Đưa ra một heuristic để tìm tối đa của hàm hoặc biểu thức tổ hợp, chúng ta có thể trích xuất một quy trình lấy mẫu hiệu quả không?
Ví dụ, HMC dường như tận dụng lợi thế của thông tin độ dốc. Chúng ta có thể xây dựng một quy trình lấy mẫu tận dụng xấp xỉ giống như BFGS của Hessian không? (chỉnh sửa: rõ ràng là có: http : // vá.nips.cc / apers / 464 vào quy trình lấy mẫu?
Bối cảnh: một khó khăn trong việc lấy mẫu thường là phần lớn khối lượng phân phối xác suất nằm trong một khu vực rất nhỏ. Có những kỹ thuật thú vị để tìm các vùng như vậy, nhưng chúng không trực tiếp chuyển thành các quy trình lấy mẫu không thiên vị.
Chỉnh sửa: Bây giờ tôi có cảm giác lâng lâng rằng câu trả lời cho câu hỏi đó có phần tương đương với sự bình đẳng của các lớp phức tạp #P và NP, khiến câu trả lời có khả năng là "không". Nó giải thích tại sao mọi kỹ thuật lấy mẫu mang lại một kỹ thuật tối ưu hóa nhưng không phải ngược lại.