Là lấy mẫu hypercube Latin có hiệu quả trong nhiều chiều?

Tôi hiện đang sử dụng Lấy mẫu Hypercube Latin (LHS) để tạo các số ngẫu nhiên thống nhất có khoảng cách đều nhau cho các quy trình Monte Carlo. Mặc dù việc giảm phương sai mà tôi có được từ LHS là tuyệt vời cho 1 chiều, nhưng dường như nó không hiệu quả ở 2 chiều trở lên. Xem LHS là một kỹ thuật giảm phương sai nổi tiếng như thế nào, tôi tự hỏi liệu tôi có thể hiểu sai thuật toán hoặc sử dụng sai nó theo một cách nào đó.

Cụ thể, thuật toán LHS mà tôi sử dụng để tạo cách nhau các biến ngẫu nhiên thống nhất trong các kích thước là:$N$$D$

• Đối với mỗi thứ nguyên , hãy tạo một tập hợp số ngẫu nhiên được phân phối đồng đều sao cho , ...$D$$N$$\{u^1_D,u^2_D...u^N_D\}$$u^1_D \in [0,\frac{1}{N+1}]$$u^2_D \in [\frac{1}{N+1}, \frac{2}{N+1}]$$u^N_D \in [\frac{N}{N+1}, 1]$

• Đối với mỗi thứ nguyên , sắp xếp lại các phần tử từ mỗi bộ một cách ngẫu nhiên. đầu tiên do LHS tạo ra là vectơ có chứa phần tử đầu tiên từ mỗi tập hợp được sắp xếp lại, thứ hai do LHS tạo ra là vectơ chứa phần thứ hai phần tử từ mỗi bộ được sắp xếp lại, v.v ...$D \geq 2$$U(0,1)^D$$D$$U(0,1)^D$$D$

Tôi đã bao gồm một số lô dưới đây để minh họa việc giảm phương sai tôi nhận được trong và cho thủ tục Monte Carlo. Trong trường hợp này, vấn đề liên quan đến việc ước tính giá trị dự kiến ​​của hàm chi phí trong đó và là biến ngẫu nhiên phân phối giữa . Cụ thể, các ô hiển thị giá trị trung bình và độ lệch chuẩn của 100 ước tính trung bình mẫu của cho các cỡ mẫu từ 1000 đến 10000.$D = 1$$D = 2$$E[c(x)]$$c(x) = \phi(x)$$x$$D$$[-5,5]$$E[c(x)]$

Tôi nhận được cùng loại kết quả giảm phương sai bất kể tôi sử dụng triển khai của riêng tôi hay lhsdesignhàm trong MATLAB. Ngoài ra, mức giảm phương sai không thay đổi nếu tôi hoán vị tất cả các bộ số ngẫu nhiên thay vì chỉ các bộ tương ứng với .$D \geq 2$

Các kết quả có ý nghĩa vì lấy mẫu phân tầng trong có nghĩa là chúng ta nên lấy mẫu từ bình phương thay vì bình phương được đảm bảo trải đều.$D = 2$$N^2$$N$

Tôi đã chia các vấn đề được mô tả trong bài viết của bạn thành ba câu hỏi dưới đây. Một tài liệu tham khảo tốt cho các kết quả về Lấy mẫu Hypercube Latin và các kỹ thuật giảm phương sai khác là chương sách này . Ngoài ra, chương sách này cung cấp thông tin về một số 'điều cơ bản' về giảm phương sai.

Q0. Giảm phương sai là gì? Trước khi đi vào chi tiết, thật hữu ích khi nhớ lại "giảm phương sai" thực sự có nghĩa là gì. Như đã giải thích trong chương sách 'cơ bản', phương sai lỗi liên quan đến thủ tục Monte Carlo thường có dạng$\sigma^2/n$theo mẫu IID. Để giảm phương sai lỗi, chúng ta có thể tăng cỡ mẫu$n$ hoặc tìm cách giảm $\sigma$. Giảm phương sai có liên quan đến các cách giảm$\sigma$, vì vậy các phương thức như vậy có thể không có bất kỳ ảnh hưởng nào đến cách thay đổi phương sai lỗi như $n$ khác nhau

Q1. Latin Hypercube Sampling đã được thực hiện đúng chưa? Mô tả bằng văn bản của bạn có vẻ đúng với tôi và phù hợp với mô tả trong chương sách. Nhận xét duy nhất của tôi là phạm vi của $u^i_D$các biến dường như không điền vào toàn bộ khoảng thời gian đơn vị; có vẻ như bạn thực sự yêu cầu$u^i_D \in [\frac{i-1}{N}, \frac{i}{N}]$, nhưng hy vọng lỗi này không ảnh hưởng đến việc triển khai của bạn. Dù sao, thực tế là cả hai triển khai đều cho kết quả tương tự sẽ cho thấy việc triển khai của bạn có khả năng đúng.

Quý 2 Kết quả của bạn có phù hợp với những gì bạn có thể mong đợi từ LHS không? Dự luật 10,4 trong chương sách nói rằng phương sai LHS không bao giờ có thể tệ hơn nhiều so với phương sai thu được từ lấy mẫu IID. Thông thường, phương sai LHS ít hơn nhiều so với phương sai IID. Chính xác hơn, Dự luật 10.1 nêu rõ, đối với ước tính LHS$\hat{\mu}_{LHS}=\frac{1}{n} \sum_{i=1}^n f(X_i)$, chúng ta có

Dành cho $D=1$, mọi chức năng đều là phụ gia $e=0$ và $\mathrm{Var}(\hat{\mu}_{LHS})=o(n^{-1})$từ Dự luật 10.1. Trong thực tế, cho$D=1$ LHS tương đương với phân tầng dựa trên lưới (Phần 10.1 trong chương sách), vì vậy phương sai thực sự là $O(n^{-3})$ (phương trình 10.2 trong chương sách; giả sử $f$liên tục khác biệt). Điều này dường như không phù hợp với biểu đồ đầu tiên của bạn. Điểm chính là$D=1$ là một trường hợp rất đặc biệt!

Dành cho $D=2$, có khả năng là trường hợp đó $e\neq 0$ vì vậy bạn có thể mong đợi một phương sai của trật tự $O(n^{-1})$. Một lần nữa, điều này không phù hợp với biểu đồ thứ hai của bạn. Việc giảm phương sai thực tế đạt được (so với lấy mẫu IID) sẽ phụ thuộc vào mức độ đóng của chức năng bạn chọn là phụ gia.

Tóm lại, LHS có thể có hiệu quả ở các kích thước thấp đến trung bình và đặc biệt đối với các hàm được xấp xỉ bằng các hàm cộng.

http://statweb.stanford.edu/~owen/mc/Ch-var-adv.pdf

Bài viết này thảo luận về việc giảm phương sai của Lấy mẫu Hypercube Latin theo nhiều chiều. LHS không thực thi tính đồng nhất khi lấy mẫu theo nhiều chiều vì nó chỉ lấy mẫu theo từng chiều một cách độc lập và sau đó kết hợp các kích thước một cách ngẫu nhiên. Lấy mẫu phân tầng các thùng N ² như bạn đề cập cũng được gọi là Lấy mẫu trực giao như được thảo luận trên trang Wikipedia: https://en.wikipedia.org/wiki/Latin_hypercube_sampling và hơn nữa thực thi tính đồng nhất đa chiều bằng cách lấy mẫu từ các thùng của thay vào đó, tất cả các kích thước kết hợp.

Với một vài điều chỉnh cho kiểu lấy mẫu này, phương sai lỗi có thể được hiển thị là O (N ^{-1-2 / d} ) (trong ref ở trên). Mặc dù điều này mang lại lợi ích lớn cho kích thước nhỏ, nhưng ở kích thước lớn hơn, nó bắt đầu giảm dần về hiệu suất của Monte Carlo thông thường.

Tôi muốn bình luận về "nghiện". LHS đảm bảo rằng X1 và X2 được phân phối tốt (thường là trong (0,1)), vì vậy nếu một thiết kế chỉ phụ thuộc vào một biến, bạn sẽ có được biểu đồ "hoàn hảo" và giảm phương sai mạnh. Để tích hợp f = 100 * X1 + X2, bạn cũng sẽ nhận được kết quả tốt, nhưng không phải cho X1-X2! Sự khác biệt này có phân phối ngẫu nhiên gần như iid, không có đặc điểm LHS. Trong thiết bị điện tử, các thiết kế thường khai thác rằng 2 ảnh hưởng tham số sẽ chủ yếu hủy từng cái (cặp vi sai, gương hiện tại, mạch bản sao, v.v.), nhưng hiệu ứng của X1-X2 không phù hợp vẫn còn tồn tại và thường chiếm ưu thế. Do đó, phân tích LHS MC hoạt động không tốt hơn MC rnd trong nhiều thiết kế điện.