Lấy mẫu quan trọng là gì?

Tôi đang cố gắng học tăng cường học tập và chủ đề này thực sự khó hiểu với tôi. Tôi đã giới thiệu về thống kê, nhưng tôi không thể hiểu chủ đề này bằng trực giác.

Lấy mẫu quan trọng là một hình thức lấy mẫu từ một phân phối khác với phân phối lợi ích để dễ dàng có được các ước tính tốt hơn về một tham số từ phân phối lợi ích. Thông thường, điều này sẽ cung cấp các ước tính của tham số có phương sai thấp hơn mức có thể thu được bằng cách lấy mẫu trực tiếp từ phân phối ban đầu với cùng cỡ mẫu.

Nó được áp dụng trong các bối cảnh khác nhau. Trong lấy mẫu chung từ phân phối khác nhau cho phép lấy nhiều mẫu hơn trong một phần phân phối lợi ích được quyết định bởi ứng dụng (khu vực quan trọng).

Một ví dụ có thể là bạn muốn có một mẫu bao gồm nhiều mẫu từ đuôi phân phối hơn là lấy mẫu ngẫu nhiên thuần túy từ phân phối quan tâm sẽ cung cấp.

Các bài viết wikipedia mà tôi đã thấy về chủ đề này là quá trừu tượng. Nó là tốt hơn để xem xét các ví dụ cụ thể khác nhau. Tuy nhiên, nó bao gồm các liên kết đến các ứng dụng thú vị như Bayesian Networks.

Một ví dụ về lấy mẫu quan trọng trong những năm 1940 và 1950 là kỹ thuật giảm phương sai (một dạng của Phương pháp Monte Carlo). Xem ví dụ cuốn sách Phương pháp Monte Carlo của Hammersley và Handscomb được xuất bản dưới dạng Sách chuyên khảo Methuen / Chapman và Hội trường năm 1964 và được tái bản vào năm 1966 và sau đó bởi các nhà xuất bản khác. Mục 5.4 của cuốn sách bao gồm Lấy mẫu Tầm quan trọng.

Lấy mẫu quan trọng là một phương pháp mô phỏng hoặc Monte Carlo nhằm mục đích xấp xỉ các tích phân. Thuật ngữ "lấy mẫu" hơi khó hiểu ở chỗ nó không có ý định cung cấp các mẫu từ một phân phối nhất định.

Trực giác đằng sau việc lấy mẫu quan trọng là một tích phân được xác định rõ, như có thể được biểu thị như một kỳ vọng cho một phạm vi rộng phân phối xác suất: trong đó biểu thị mật độ của một phân phối xác suất và được xác định bởi và . (Lưu ý rằng thường khác với .) Thật vậy, lựa chọn dẫn đến các đẳng thức vàI = E f [ H ( X ) ] = ∫ X H ( x ) f ( x

$$\mathfrak{I}=\int_\mathfrak{X} h(x)\,\text{d}x$$ f H h f H ( ⋅ ) h ( ⋅ ) H ( x ) = h ( x $$\mathfrak{I}=\mathbb{E}_f[H(X)]=\int_\mathfrak{X} H(x)f(x)\,\text{d}x$$ $f$$H$$h$$f$$H(\cdot)$$h(\cdot)$ H(x)f(x)=h(x)I=Ef[H(X)]-ff(x)>0h(x)≠0- $$H(x)=\dfrac{h(x)}{f(x)}$$ $H(x)f(x)=h(x)$$\mathfrak{I}=\mathbb{E}_f[H(X)]$$-$ theo một số hạn chế về sự hỗ trợ của , nghĩa là khi . Do đó, như W. Huber đã chỉ ra trong nhận xét của mình, không có sự thống nhất nào trong việc thể hiện một tích phân như một kỳ vọng, mà ngược lại là một mảng vô hạn của các biểu diễn như vậy, một số trong đó tốt hơn so với các tiêu chí khác để so sánh chúng được thông qua. Chẳng hạn, Michael Chernick đề cập đến việc chọn theo hướng giảm phương sai của công cụ ước tính.$f$$f(x)>0$$h(x)\ne 0$$-$$f$

Khi đã hiểu được tính chất cơ bản này, việc thực hiện ý tưởng là dựa vào Định luật số lớn như trong các phương pháp khác của Monte Carlo, tức là mô phỏng [thông qua một trình tạo giả ngẫu nhiên] một mẫu iid phân phối từ và sử dụng xấp xỉ màf Tôi = $(x_1,\ldots,x_n)$$f$

$$\hat{\mathfrak{I}}=\frac{1}{n} \sum_{i=1}^n H(x_i)$$

1. là một công cụ ước tính không thiên vị của$\mathfrak{I}$
2. hội tụ gần như chắc chắn tới$\mathfrak{I}$

Tùy thuộc vào lựa chọn phân phối , công cụ ước tính ở trên có thể có hoặc không có phương sai hữu hạn. Tuy nhiên, luôn tồn tại các lựa chọn cho phép phương sai hữu hạn và thậm chí cho phương sai nhỏ tùy ý (mặc dù các lựa chọn đó có thể không có sẵn trong thực tế). Và cũng tồn tại các lựa chọn của làm cho công cụ ước tính lấy mẫu quan trọng một xấp xỉ rất kém của . Điều này bao gồm tất cả các lựa chọn trong đó phương sai là vô hạn, mặc dù một bài báo gần đây của Chatterjee và Diaconis nghiên cứu cách so sánh các bộ lấy mẫu quan trọng với phương sai vô hạn. Hình dưới đây được lấy từTôi f f Tôi$f$$\hat{\mathfrak{I}}$$f$$f$$\hat{\mathfrak{I}}$${\mathfrak{I}}$blog của tôi thảo luận về bài báo và minh họa sự hội tụ kém của các công cụ ước tính phương sai vô hạn.

Lấy mẫu quan trọng với phân phối quan trọng phân phối mục tiêu phân phối Exp (1) phân phối Exp (1/10) và chức năng quan tâm . Giá trị thực của tích phân là .$h(x)=x$$10$

[Sau đây được sao chép từ cuốn sách Phương pháp thống kê Monte Carlo của chúng tôi .]

Ví dụ sau từ Ripley (1987) cho thấy lý do tại sao nó thực sự có thể trả tiền để tạo từ một phân phối khác với phân phối (bản gốc) xuất hiện trong tích phân quan tâm hoặc, nói cách khác, để sửa đổi biểu diễn của tích phân dưới dạng kỳ vọng đối với mật độ đã cho.∫ X h ( x ) f ( x $f$

$$\int_\mathfrak{X} h(x) f(x)\,\text{d}x$$

Ví dụ (xác suất đuôi Cauchy) Giả sử rằng số tiền lãi là xác suất, , rằng biến Cauchy lớn hơn , nghĩa là, Khi được đánh giá thông qua trung bình theo kinh nghiệm của mẫu iid , phương sai của công cụ ước tính này là (bằng kể từ ).C ( 0 , 1 ) 2 p = ∫ + ∞$p$${\mathcal{C}}(0,1)$$2$p p 1 =

$$p = \int_2^{+\infty} \; {1\over \pi(1 + x^2)} \; \text{d}x \;.$$ $p$ $${\hat{p}}_1 = {1\over m} \; \sum_{j=1}^m \; \mathbb{I}_{X_{j} > 2}$$ $X_1,\ldots,X_m$ $\sim$ $\; \mathcal{C}(0,1)$$p(1-p)/m$$0.127/m$$p=0.15$

Phương sai này có thể được giảm bằng cách tính đến tính chất đối xứng của , vì trung bình có phương sai bằng .${\mathcal{C}}(0,1)$

$${\hat{p}}_2 = {1\over 2m} \; \sum_{j=1}^m \; \mathbb{I}_{|X_{j}| > 2}$$ $p(1-2p)/2m$$0.052/m$

Sự không hiệu quả (tương đối) của các phương pháp này là do việc tạo ra các giá trị bên ngoài miền quan tâm, , theo một cách nào đó, không liên quan đến việc xấp xỉ . [Điều này liên quan đến ước tính khu vực đuôi của Michael Chernick.] Nếu được viết là tích phân ở trên có thể được coi là kỳ vọng của , trong đó . Do đó, một phương pháp đánh giá khác cho là cho$[2,+\infty)$$p$$p$

$$p = {1\over 2} - \int_0^2 \; {1\over \pi(1 + x^2)} \; \text{d}x \;,$$ $h(X) = 2/\pi(1 + X^2)$$X \sim {\mathcal{U}}_{[0, 2]}$$p$ $${\hat{p}}_3 = {1\over 2} - {1\over m} \; \sum_{j=1}^m \; h(U_j)$$ $U_j \sim {\mathcal{U}}_{[0,2]}$. Phương sai của là và tích hợp bởi các phần cho thấy rằng nó bằng . Hơn nữa, vì có thể được viết là tích phân này cũng có thể được xem là kỳ vọng của so với phân bố đồng đều trên và một đánh giá khác của là khi . Việc tích hợp tương tự bởi các bộ phận cho thấy phương sai của${\hat{p}}_3$$(\mathbb{E}[h^2] - \mathbb{E}[h]^2)/m$$0.0285/m$$p$ $$p = \int_0^{1/2} \; {y^{-2}\over \pi(1 + y^{-2})} \; \text{d}y \;,$$ ${1\over 4} \; h(Y) = 1/2\pi(1 + Y^2)$$[0,1/2]$$p$ $${\hat{p}}_4 = {1\over 4 m} \; \sum_{j=1}^m \; h(Y_j)$$ $Y_j \sim {\mathcal{U}}_{[0,1/2]}$${\hat{p}}_{4}$là .$0.95 \; 10^{-4}/m$

So với , việc giảm phương sai do mang lại theo thứ tự , đặc biệt, ngụ ý rằng việc đánh giá này yêu cầu Mô phỏng ít hơn lần so với để đạt được độ chính xác tương tự. ${\hat{p}}_1$${\hat p}_4$$10^{-3}$$\sqrt{1000} \approx 32$$\hat p_1$$\blacktriangleright$