Làm thế nào để phương pháp biến đổi nghịch đảo làm việc?

21

Phương pháp đảo ngược hoạt động như thế nào?
Nói rằng tôi có một mẫu ngẫu nhiên $X_1,X_2,...,X_n$ với mật độ $f(x;\theta)={1\over \theta} x^{(1-\theta)\over \theta}$ trên
$0<x<1$ và do đó với lũy $F_X(x)=x^{1/\theta}$ trên $(0,1)$ . Sau đó, bằng phương pháp đảo ngược tôi nhận được sự phân bố của $X$ là $F_X^{-1}(u)=u^\theta$ .

Vì vậy, hiện $u^\theta$ có sự phân bố của $X$ ? Đây có phải là cách phương pháp đảo ngược hoạt động?

u<-runif(n)
x<-u^(theta)

— clarkson
nguồn

3

Xem chủ đề của chúng tôi về biến đổi tích phân xác suất .

— whuber

1

Có, mặc dù nó thường được gọi là "biến đổi tích phân xác suất." Hãy thử lấy hàm phân phối của

để xem tại sao nó hoạt động.

F^{- 1} (U)

$F^{-1}(U)$

— DSaxton

20

Phương pháp này rất đơn giản, vì vậy tôi sẽ mô tả nó bằng những từ đơn giản. Đầu tiên, lấy hàm phân phối tích lũy của một số phân phối mà bạn muốn lấy mẫu từ đó. Hàm lấy làm giá trị đầu vào và cho bạn biết xác suất lấy được là bao nhiêu $F_X$ $x$ . Vì thế $X \leq x$

F_{X} (x) = Pr (X \leq x) = p

$F_X(x) = \Pr(X \leq x) = p$

nghịch đảo của hàm chức năng như vậy, sẽ lấy làm đầu vào và trả về . Chú ý rằng 's được phân bố đều - điều này có thể được sử dụng để lấy mẫu từ bất kỳ nếu bạn biết . Phương pháp này được gọi là lấy mẫu biến đổi nghịch đảo . Ý tưởng rất đơn giản: thật dễ dàng để lấy mẫu các giá trị thống nhất từ , vì vậy nếu bạn muốn lấy mẫu từ một số $F_X^{-1}$ $p$ $x$ $p$ $F_X$ $F_X^{-1}$ $U(0, 1)$ , chỉ cần mang giá trị $F_X$ $u \sim U(0, 1)$ và chuyển qua để thu được 's $u$ $F_X^{-1}$ $x$

F_{X}^{- 1} (u) = x

$F_X^{-1}(u) = x$

hoặc trong R (để phân phối bình thường)

U <- runif(1e6)
X <- qnorm(U)

Nhìn chung, để hình dung nó nhìn vào CDF bên dưới, chúng tôi nghĩ đến các bản phân phối về mặt xem xét -axis cho xác suất của các giá trị từ -axis. Với phương pháp lấy mẫu này, chúng tôi làm ngược lại và bắt đầu với "xác suất" và sử dụng chúng để chọn các giá trị có liên quan đến chúng. Với các phân phối rời rạc, bạn coi là một dòng từ đến và gán các giá trị dựa trên vị trí một điểm nằm trên dòng này (ví dụ nếu hoặc nếu $y$ $x$ $U$ $0$ $1$ $u$ $0$ $0 \leq u < 0.5$ $1$ để lấy mẫu từ $0.5 \leq u \leq 1$ ). $\mathrm{Bernoulli}(0.5)$

Thật không may, điều này không phải lúc nào cũng có thể vì không phải mọi hàm đều có nghịch đảo của nó, ví dụ: bạn không thể sử dụng phương thức này với các phân phối bivariate. Nó cũng không phải là phương pháp hiệu quả nhất trong mọi tình huống, trong nhiều trường hợp thuật toán tốt hơn tồn tại.

Bạn cũng hỏi phân phối của . Vì là nghịch đảo của , nên và , do đó, các giá trị thu được bằng phương pháp đó có sự phân bố tương tự như . Bạn có thể kiểm tra điều này bằng một mô phỏng đơn giản $F_X^{-1}(u)$ $F_X^{-1}$ $F_X$ $F_X(F_X^{-1}(u)) = u$ $F_X^{-1}(F_X(x)) = x$ $X$

U <- runif(1e6)
all.equal(pnorm(qnorm(U)), U)

— Tim
nguồn

Câu trả lời tốt. Phương pháp này hoạt động khi bạn có các bản phân phối như hàm mũ, Cauchy, Hình học, Pareto, Logistic, Extreme Value Weibull , v.v. Ví dụ: bạn không thể tìm thấy biểu mẫu đóng cho phân phối bình thường . Do đó, bạn sẽ không thể sử dụng phương pháp này. Bạn có thể thử các phương pháp khác như Phương pháp từ chối .

— Abbas Salimi

2

Bạn có thể sử dụng phương pháp biến đổi nghịch đảo với phân phối chuẩn. Có rất nhiều triển khai cho CDF nghịch đảo thông thường . Ví dụ: bạn có thể viết CDF nghịch đảo bình thường bằng cách sử dụng hàm lỗi bổ sung . Một ví dụ thực hiện erfc là ở đây . Đừng tự viết mã erfc; sử dụng thư viện Không tồn tại công thức dạng đóng không có nghĩa là bạn không thể sử dụng các xấp xỉ số chất lượng cao.

— Matthew Gunn

2

Vâng, có sự phân bố của . $U^θ$ $X$

Hai điểm bổ sung về trực giác đằng sau phương pháp biến đổi nghịch đảo có thể hữu ích

(1) Để hiểu thực sự có nghĩa là gì, vui lòng tham khảo biểu đồ trong câu trả lời của Tim để $F^{-1}$ giúp tôi hiểu hàm lượng tử (CDF nghịch đảo)

(2) [Xin vui lòng, chỉ cần bỏ qua những điều sau đây, nếu nó mang lại nhiều nhầm lẫn thay vì rõ ràng]

$X$ $F$

F (X) \sim Unif (0, 1)

$F(X) \sim \text{Unif}(0,1)$

X

$X$

X

$X$

F (X)

$F(X)$

$X$ $X^{1/\theta} \sim \text{Unif}(0,1)$ . Let call this random variable $U$ . So

U = X^{1 / θ}

$U = X^{1/\theta}$ Coming back to your question, you have the opposite task: to generate

X

$X$ out of

U

$U$ . So, indeed

X = U^{θ}

$X=U^\theta$

PS. Alternative names for the method are probability integral transform, inverse transform sampling, the quantile transformation, and, in some sources, "the fundamental theorem of simulation".

— den2042
nguồn