Giải phương trình tích phân đơn giản bằng cách lấy mẫu ngẫu nhiên

Đặt là hàm không âm. Tôi đang quan tâm đến việc tìm kiếm mà Thông báo trước : tất cả những gì tôi có thể làm là lấy mẫu tại các điểm trong . Tôi có thể, tuy nhiên, lựa chọn các địa điểm nơi tôi mẫu ngẫu nhiên, nếu tôi để mong muốn. z ∈ [ 0 , 1 ] ∫ z 0 f ( x $f$$z \in [0,1]$f [ 0 , 1 ]

$$\int_0^{z} f(x)\,dx = \frac{1}{2}\int_0^1 f(x)\,dx$$ $f$$[0,1]$$f$

Câu hỏi:

1. Có thể có được ước tính không thiên vị của sau khi có nhiều mẫu không? Nếu vậy, phương sai sở hữu nhỏ nhất của ước tính như vậy sau mẫu là gì?$z$$k$
2. Nếu không, các thủ tục có sẵn để ước tính và thời gian hội tụ liên quan của chúng là gì.$z$

Như Douglas Zare đã chỉ ra trong các bình luận, điều này có thể rất khó thực hiện nếu chức năng gần bằng 0 hoặc rất lớn. May mắn thay, chức năng tôi cần sử dụng cho chức năng này được giới hạn từ bên trên và bên dưới, vì vậy, giả sử rằng . Hơn nữa, chúng ta cũng có thể giả sử rằng là Lipschitz hoặc thậm chí khác biệt nếu điều đó có ích.$1 \leq f(x) \leq 2$$f$

Như đức hồng y đã chỉ ra trong bình luận của ông, câu hỏi của bạn có thể được trình bày lại như sau.

Theo đại số đơn giản, phương trình tích phân có thể được viết lại thành trong đó là hàm mật độ xác suất được xác định là g g ( x ) = f ( x

$$\int_0^z g(x)\,dx = \frac{1}{2} \, ,$$ $g$ $$g(x)=\frac{f(x)}{\int_0^1 f(t)\,dt} \, .$$

Đặt là biến ngẫu nhiên có mật độ . Theo định nghĩa, , do đó phương trình tích phân của bạn tương đương với có nghĩa là vấn đề của bạn có thể được nêu là:$X$$g$$P\{X\leq z\}=\int_0^z g(x)\,dx$

$$P\{X\leq z\}=\frac{1}{2} \, ,$$

"Đặt là biến ngẫu nhiên có mật độ . Tìm trung vị của "$X$$g$$X$

Để ước tính trung vị của , sử dụng bất kỳ phương pháp mô phỏng nào để vẽ mẫu các giá trị của và lấy ước tính trung bình mẫu của bạn.$X$$X$

Một khả năng là sử dụng thuật toán Metropolis-Hastings để lấy mẫu các điểm có phân phối mong muốn. Do biểu thức của xác suất chấp nhận trong thuật toán Metropolis-Hastings, chúng ta không cần biết giá trị của hằng số chuẩn hóa của mật độ . Vì vậy, chúng tôi không phải thực hiện việc tích hợp này.$\int_0^1 f(t)\,dt$$g$

Mã dưới đây sử dụng một hình thức đặc biệt đơn giản của thuật toán Metropolis-Hastings được gọi là Bộ lấy mẫu độc lập, sử dụng một đề xuất có phân phối không phụ thuộc vào giá trị hiện tại của chuỗi. Tôi đã sử dụng các đề xuất đồng phục độc lập. Để so sánh, tập lệnh đưa ra mức tối thiểu Monte Carlo và kết quả được tìm thấy với tối ưu hóa tiêu chuẩn. Các điểm mẫu được lưu trữ trong vectơ chain, nhưng chúng tôi loại bỏ điểm đầu tiên tạo thành khoảng thời gian gọi là "burn in" của mô phỏng.$10000$

BURN_IN = 10000
DRAWS   = 100000

f = function(x) exp(sin(x))

chain = numeric(BURN_IN + DRAWS)

x = 1/2

for (i in 1:(BURN_IN + DRAWS)) {
    y = runif(1) # proposal
    if (runif(1) < min(1, f(y)/f(x))) x = y
    chain[i] = x
}

x_min = median(chain[BURN_IN : (BURN_IN + DRAWS)])

cat("Metropolis minimum found at", x_min, "\n\n")

# MONTE CARLO ENDS HERE. The integrations bellow are just to check the results.

A = integrate(f, 0, 1)$value

F = function(x) (abs(integrate(f, 0, x)$value - A/2))

cat("Optimize minimum found at", optimize(F, c(0, 1))$minimum, "\n")

Đây là một số kết quả:

Metropolis minimum found at 0.6005409 
Optimize minimum found at 0.601365

Mã này có nghĩa là điểm khởi đầu cho những gì bạn thực sự cần. Do đó, sử dụng cẩn thận.

Chất lượng của xấp xỉ tích phân, ít nhất là trong trường hợp đơn giản là 1D, được đưa ra bởi (Định lý 2.10 trong Niederreiter (1992) ): trong đó là mô đun liên tục của hàm (liên quan đến tổng biến thiên và có thể dễ dàng biểu thị cho các hàm Lipshitz) và là sự khác biệt (cực kỳ) hoặc chênh lệch tối đa giữa tỷ lệ số lần truy cập theo chuỗi

$$\Bigl|\frac 1N \sum_{n=1}^N f(x_n) - \int_0^1 f(u) \, {\rm d}u \Bigr| \le \omega (f; D_N^*(x_1, \ldots, x_N) )$$ $$\omega(f;t) = \sup \{ |f(u)-f(v)| : u, v \in [0,1], |u-v|\le t , t>0\}$$ $$D_N^*(x_1,\ldots,x_N) = \sup_u \Bigl| \frac1N \sum_n 1\bigl\{ x_n \in [0,u) \bigr\} - u \Bigr| = \frac1{2N} + \max_n \Bigl|x_n - \frac{2n-1}{2N}\Bigr|$$ $x_1, \ldots, x_N$của một khoảng thời gian bán mở và số đo Lebesgue của nó . Biểu thức đầu tiên là định nghĩa và biểu thức thứ hai là thuộc tính của các chuỗi 1D trong (Định lý 2.6 trong cùng một cuốn sách).$[0,u)$$u$$[0,1]$

Vì vậy, rõ ràng để giảm thiểu sai số trong phép tính gần đúng tích phân, ít nhất là trong RHS của phương trình của bạn, bạn cần lấy . Xoay các đánh giá ngẫu nhiên, chúng có nguy cơ có một khoảng cách ngẫu nhiên tại một tính năng quan trọng của chức năng.$x_n = (2n-1)/2N$

Một bất lợi lớn cho phương pháp này là bạn phải cam kết giá trị để tạo ra chuỗi phân phối đồng đều này. Nếu bạn không hài lòng với chất lượng gần đúng mà nó cung cấp, tất cả những gì bạn có thể làm là nhân đôi giá trị của và đạt tất cả các điểm giữa của các khoảng được tạo trước đó.$N$$N$

Nếu bạn muốn có một giải pháp trong đó bạn có thể tăng số điểm dần dần, bạn có thể tiếp tục đọc cuốn sách đó và tìm hiểu về trình tự van der Corput và nghịch đảo triệt để. Xem trình tự sai lệch thấp trên Wikipedia, nó cung cấp tất cả các chi tiết.

Cập nhật: để giải quyết cho , xác định tổng một phần Tìm sao cho và nội suy để tìm Nội suy này giả định rằng là liên tục. Nếu thêm có thể phân biệt hai lần, thì phép tính gần đúng này bằng cách tích hợp mở rộng bậc hai để kết hợp và và giải phương trình bậc ba cho .$z$

$$S_k = \frac1N \sum_{n=1}^k f\Bigl( \frac{2n-1}{2N} \Bigr).$$ $k$zN=2k- $$S_k \le \frac12 S_N < S_{k+1},$$ f(⋅)f(⋅)Sk-1Sk+2 $$z_N = \frac{2k-1}{2N} + \frac{S_N/2 - S_k}{N(S_{k+1}-S_k)}.$$ $f(\cdot)$$f(\cdot)$$S_{k-1}$$S_{k+2}$$z$