Số ngẫu nhiên đồng phục giả: Phân bố đều hơn dữ liệu thống nhất thật

Tôi đang tìm cách tạo ra các số ngẫu nhiên có vẻ như được phân phối đồng đều - và mọi thử nghiệm sẽ cho thấy chúng là đồng nhất - ngoại trừ việc chúng được phân phối đều hơn so với dữ liệu thống nhất thực sự .

Vấn đề tôi gặp phải với các randoms đồng phục "thật" là đôi khi chúng sẽ co cụm. Hiệu ứng này mạnh hơn ở cỡ mẫu thấp. Nói một cách thẳng thắn: khi tôi vẽ hai randoms thống nhất trong U [0; 1], có khả năng khoảng 10% rằng chúng nằm trong phạm vi 0,1 và 1% là trong vòng 0,01.

Vì vậy, tôi đang tìm kiếm một cách tốt để tạo ra các số ngẫu nhiên được phân bổ đều hơn các randoms thống nhất .

Ví dụ về trường hợp sử dụng: giả sử tôi đang chơi trò chơi trên máy tính và tôi muốn đặt kho báu ngẫu nhiên trên bản đồ (không quan tâm đến bất kỳ điều gì khác). Tôi không muốn kho báu nằm ở một nơi, nó phải ở khắp nơi trên bản đồ. Với các randoms thống nhất, nếu tôi đặt, giả sử, 10 đối tượng, cơ hội không thấp đến mức có 5 hoặc rất thực sự gần nhau. Điều này có thể cung cấp cho một người chơi một lợi thế hơn người khác. Hãy nghĩ về người quét mìn, cơ hội (mặc dù thấp, nếu có đủ mìn) là bạn thực sự may mắn và giành chiến thắng chỉ với một cú nhấp chuột.

Một cách tiếp cận rất ngây thơ cho vấn đề của tôi là chia dữ liệu thành một lưới. Miễn là số lượng đủ lớn (và có các yếu tố), người ta có thể thực thi tính đồng nhất thêm theo cách này. Vì vậy, thay vì vẽ 12 biến ngẫu nhiên từ U [0; 1], tôi có thể rút 6 từ U [0; .5] và 6 từ U [0,5; 1] hoặc 4 từ U [0; 1/3] + 4 từ U [1/3; 2/3] + 4 từ U [2/3; 1].

Có cách nào tốt hơn để có được sự đồng đều này vào đồng phục không? Nó có lẽ chỉ hoạt động cho các đợt randoms (khi vẽ ngẫu nhiên, tôi rõ ràng phải xem xét toàn bộ phạm vi). Đặc biệt, tôi có thể xáo trộn các hồ sơ một lần nữa sau đó (vì vậy đây không phải là bốn lần đầu tiên từ lần thứ ba đầu tiên).

Làm thế nào về việc làm nó tăng dần? Vì vậy, đầu tiên là trên U [0; 1], sau đó hai từ mỗi nửa, một từ mỗi thứ ba, một từ mỗi thứ tư? Điều này đã được điều tra, và nó tốt như thế nào? Tôi có thể phải cẩn thận sử dụng các trình tạo khác nhau cho x và y để không làm cho chúng tương quan với nhau (xy thứ nhất sẽ luôn ở nửa dưới, thứ hai ở nửa bên trái và thứ ba dưới cùng, thứ ba ở giữa thứ ba và thứ ba trên cùng. .. vì vậy ít nhất một số hoán vị bin ngẫu nhiên cũng cần thiết. Và về lâu dài, nó sẽ quá chẵn, tôi đoán vậy.

Là một nút bên, có một thử nghiệm nổi tiếng cho dù một số phân phối được phân phối quá đồng đều để thực sự thống nhất? Vì vậy, thử nghiệm "đồng phục thực sự" so với "ai đó nhầm lẫn với dữ liệu và phân phối các mục đồng đều hơn". Nếu tôi nhớ lại một cách chính xác, Hopkins Statistic có thể đo lường điều này, nhưng nó cũng có thể được sử dụng để thử nghiệm không? Ngoài ra phần nào đó là một thử nghiệm KS ngược: nếu độ lệch lớn nhất nằm dưới ngưỡng dự kiến ​​nhất định, dữ liệu có được phân phối quá đều không?

Có , có nhiều cách để tạo ra một chuỗi các số được phân bố đều hơn so với đồng phục ngẫu nhiên. Trong thực tế, có cả một lĩnh vực dành riêng cho câu hỏi này; nó là xương sống của quasi-Monte Carlo (QMC). Dưới đây là một chuyến tham quan ngắn về những điều cơ bản tuyệt đối.

Đo độ đồng đều

Có nhiều cách để làm điều này, nhưng cách phổ biến nhất có hương vị hình học mạnh mẽ, trực quan. Giả sử chúng ta quan tâm đến việc tạo điểm x 1 , x 2 , Mạnh , x n trong [ 0 , 1 ] d cho một số nguyên dương$n$$x_1,x_2,\ldots,x_n$$[0,1]^d$ . Xác định trong đólà một hình chữ nhậttrongsao chovà$d$

$$\newcommand{\I}{\mathbf 1} D_n := \sup_{R \in \mathcal R}\,\left|\frac{1}{n}\sum_{i=1}^n \I_{(x_i \in R)} - \mathrm{vol}(R)\right| \>,$$ $R$[ 0 , 1 ] d 0 ≤ một i ≤ b i ≤ 1 R R R v o l ( R ) = Π i ( b i - một i$[a_1, b_1] \times \cdots \times [a_d, b_d]$$[0,1]^d$$0 \leq a_i \leq b_i \leq 1$$\mathcal R$là tập hợp của tất cả các hình chữ nhật như vậy. Thuật ngữ đầu tiên bên trong mô đun là tỷ lệ "quan sát" của các điểm bên trong và thuật ngữ thứ hai là khối lượng của , .$R$$R$$\mathrm{vol}(R) = \prod_i (b_i - a_i)$

Số lượng thường được gọi là sai lệch hoặc sai lệch cực lớn của tập hợp các điểm . Theo trực giác, chúng ta tìm thấy hình chữ nhật "tệ nhất" trong đó tỷ lệ điểm sai lệch nhiều nhất so với những gì chúng ta mong đợi dưới sự đồng nhất hoàn hảo. ( x i ) $D_n$$(x_i)$$R$

Điều này là khó sử dụng trong thực tế và khó tính toán. Đối với hầu hết các phần, mọi người thích làm việc với sự khác biệt của sao , Sự khác biệt duy nhất là tập mà supremum được thực hiện. Đó là tập hợp các hình chữ nhật neo (ở gốc), nghĩa là, trong đó .A a 1 = a 2 = ⋯ = a d =

$$D_n^\star = \sup_{R \in \mathcal A} \,\left|\frac{1}{n}\sum_{i=1}^n \I_{(x_i \in R)} - \mathrm{vol}(R)\right| \>.$$ $\mathcal A$$a_1 = a_2 = \cdots = a_d = 0$

Bổ đề : cho tất cả , . n d Một ⊂ R R ∈ R 2 d $D_n^\star \leq D_n \leq 2^d D_n^\star$$n$$d$
Bằng chứng . Mặt trái ràng buộc rõ ràng kể từ . Giới hạn bên phải theo sau bởi vì mọi có thể được tạo thông qua các hiệp, giao và bổ sung của không quá hình chữ nhật neo (tức là, trong ).$\mathcal A \subset \mathcal R$$R \in \mathcal R$$2^d$$\mathcal A$

Như vậy, chúng ta thấy rằng D ⋆ n$D_n$ và tương đương theo nghĩa là nếu một cái nhỏ khi phát triển, thì cái kia cũng sẽ như vậy. Dưới đây là một hình ảnh (phim hoạt hình) hiển thị hình chữ nhật ứng cử viên cho mỗi sự khác biệt.$D_n^\star$$n$

Ví dụ về trình tự "tốt"

Các chuỗi có chênh lệch sao thấp có thể kiểm chứng thường được gọi, không có gì đáng ngạc nhiên, các chuỗi sai lệch thấp .$D_n^\star$

van der Corput . Đây có lẽ là ví dụ đơn giản nhất. Với , các chuỗi van der Corput được hình thành bằng cách mở rộng số nguyên thành nhị phân và sau đó "phản ánh các chữ số" xung quanh dấu thập phân. Chính thức hơn, điều này được thực hiện với hàm nghịch đảo triệt để trong cơ sở , trong đó và là các chữ số trong khai triển cơ sở của . Hàm này tạo thành cơ sở cho nhiều chuỗi khác nữa. Ví dụ: trong nhị phân là và như vậyi b φ b ( i ) = ∞ Σ k = 0 một k b - k - $d=1$$i$$b$i = ∑ ∞ k = 0 a k b k a k b i 41 101001 a 0 = 1 a 1 = 0 a 2 = 0 a 3 = 1 a 4 = 0 a 5 = 1 x 41 = ϕ 2 ( 41 ) =

$$\newcommand{\rinv}{\phi} \rinv_b(i) = \sum_{k=0}^\infty a_k b^{-k-1} \>,$$ $i = \sum_{k=0}^\infty a_k b^k$$a_k$$b$$i$$41$$101001$$a_0 = 1$ , , , , và . Do đó, điểm thứ 41 trong chuỗi van der Corput là .$a_1 = 0$$a_2 = 0$$a_3 = 1$$a_4 = 0$$a_5 = 1$$x_{41} = \rinv_2(41) = 0.100101\,\text{(base 2)} = 37/64$

Lưu ý rằng vì bit có ý nghĩa nhỏ nhất của dao động trong khoảng từ đến , các điểm cho lẻ nằm trong , trong khi các điểm cho chẵn nằm trong .0 1 x i i [ 1 / 2 , 1 ) x i i ( 0 , 1 / 2 $i$$0$$1$$x_i$$i$$[1/2,1)$$x_i$$i$$(0,1/2)$

Trình tự Halton . Trong số các trình tự chênh lệch thấp cổ điển phổ biến nhất, đây là các phần mở rộng của trình tự van der Corput cho nhiều chiều. Đặt là số nguyên tố nhỏ nhất thứ . Sau đó, điểm thứ của j i x i d x i = ( φ p 1 ( i ) , φ p 2 ( i ) , ... , φ p d ( i ) $p_j$$j$$i$$x_i$$d$ chuỗi Halton là Đối với thấp, chúng hoạt động khá tốt, nhưng có vấn đề ở kích thước cao hơn .

$$x_i = (\rinv_{p_1}(i), \rinv_{p_2}(i),\ldots,\rinv_{p_d}(i)) \>.$$ $d$

Trình tự Halton thỏa mãn . Họ cũng tốt bởi vì họ là$D_n^\star = O(n^{-1} (\log n)^d)$ thể mở rộng ở chỗ việc xây dựng các điểm không phụ thuộc vào sự lựa chọn tiên nghiệm về độ dài của chuỗi .$n$

Trình tự Hammersley . Đây là một sửa đổi rất đơn giản của chuỗi Halton. Thay vào đó, chúng tôi sử dụng Có lẽ đáng ngạc nhiên, lợi thế là chúng có độ chênh lệch sao tốt hơn .D ⋆ n = O ( n - 1 ( log n ) d - 1

$$x_i = (i/n, \rinv_{p_1}(i), \rinv_{p_2}(i),\ldots,\rinv_{p_{d-1}}(i)) \>.$$ $D_n^\star = O(n^{-1}(\log n)^{d-1})$

Dưới đây là một ví dụ về trình tự Halton và Hammersley theo hai chiều.

Trình tự Halton thấm Faure . Một tập hợp hoán vị đặc biệt (cố định là hàm của ) có thể được áp dụng cho khai triển chữ số cho mỗi khi tạo chuỗi Halton. Điều này giúp khắc phục (ở một mức độ nào đó) các vấn đề được đề cập ở các chiều cao hơn. Mỗi hoán vị có tính chất thú vị là giữ và làm điểm cố định.a k i 0 b - $i$$a_k$$i$$0$$b-1$

Quy tắc mạng . Đặt là số nguyên. Lấy trong đó biểu thị phần phân số của . Sự lựa chọn thận trọng của các giá trị mang lại các đặc tính đồng nhất tốt. Lựa chọn kém có thể dẫn đến trình tự xấu. Chúng cũng không thể mở rộng. Đây là hai ví dụ. x i = ( i / n , { i beta 1 / n } , ... , { i β d - 1 / n } $\beta_1, \ldots, \beta_{d-1}${ Y } y

$$x_i = (i/n, \{i \beta_1 / n\}, \ldots, \{i \beta_{d-1}/n\}) \>,$$ $\{y\}$$y$$\beta$

$(t,m,s)$ lưới . lưới trong cơ sở là tập hợp các điểm sao cho mọi hình chữ nhật có thể tích trong chứa điểm. Đây là một hình thức mạnh mẽ của sự đồng nhất. Nhỏ là bạn của bạn, trong trường hợp này. Các chuỗi Halton, Sobol 'và Faure là ví dụ về lưới. Những người này cho vay độc đáo để ngẫu nhiên thông qua tranh giành. Việc xáo trộn ngẫu nhiên (thực hiện đúng) của một mạng lưới mang lại kết quả khác$(t,m,s)$$b$$b^{t-m}$$[0,1]^s$$b^t$$t$$(t,m,s)$$(t,m,s)$$(t,m,s)$ . Các Mint dự án giữ một bộ sưu tập các trình tự như vậy.

Sinh ngẫu nhiên đơn giản: phép quay Cranley-Patterson . Đặt là một chuỗi các điểm. Đặt . Sau đó, các điểm$x_i \in [0,1]^d$$U \sim \mathcal U(0,1)$$\hat x_i = \{x_i + U\}$ được phân phối đồng đều trong .$[0,1]^d$

Dưới đây là một ví dụ với các chấm màu xanh là các điểm ban đầu và các chấm đỏ là các điểm được xoay với các đường nối chúng (và được hiển thị bao quanh, khi thích hợp).

Trình tự phân phối hoàn toàn thống nhất . Đây là một khái niệm thậm chí còn mạnh mẽ hơn về tính đồng nhất đôi khi xuất hiện. Đặt là chuỗi các điểm trong và bây giờ tạo thành các khối chồng chéo có kích thước để có được chuỗi . Vì vậy, nếu , chúng tôi lấy thì , v.v. Nếu, với mọi , , sau đó được cho là phân phối hoàn toàn thống nhất . Nói cách khác, chuỗi mang lại một tập hợp các điểm bất kỳ$(u_i)$$[0,1]$$d$$(x_i)$$s = 3$$x_1 = (u_1,u_2,u_3)$$x_2 = (u_2,u_3,u_4)$ $s \geq 1$$D_n^\star(x_1,\ldots,x_n) \to 0$$(u_i)$thứ nguyên có các thuộc tính mong muốn .$D_n^\star$

Ví dụ: chuỗi van der Corput không được phân phối hoàn toàn thống nhất vì với , các điểm nằm trong ô vuông và các điểm nằm trong . Do đó, không có điểm nào trong hình vuông ngụ ý rằng với , cho tất cả$s = 2$$x_{2i}$$(0,1/2) \times [1/2,1)$$x_{2i-1}$$[1/2,1) \times (0,1/2)$$(0,1/2) \times (0,1/2)$$s=2$$D_n^\star \geq 1/4$$n$ .

Tài liệu tham khảo tiêu chuẩn

Các Niederreiter (1992) chuyên khảo và Fang và Wang (1994) văn bản là những nơi để đi cho tiếp tục thăm dò.

Một cách để làm điều này là tạo ra các số ngẫu nhiên thống nhất, sau đó kiểm tra "độ gần" bằng bất kỳ phương pháp nào bạn thích và sau đó xóa các mục ngẫu nhiên quá gần với người khác và chọn một bộ đồng phục ngẫu nhiên khác để bù cho chúng.

Một phân phối như vậy sẽ vượt qua mọi bài kiểm tra về tính đồng nhất? Tôi chắc chắn hy vọng không! Nó không còn được phân phối đồng đều, bây giờ nó là một số phân phối khác.

Một khía cạnh không trực quan của xác suất là cơ hội là cục bộ. Có nhiều lần chạy trong dữ liệu ngẫu nhiên hơn mọi người nghĩ sẽ có. Tôi nghĩ Tversky đã thực hiện một số nghiên cứu về điều này (tuy nhiên, ông đã nghiên cứu rất nhiều, điều đó thật khó nhớ).

Điều này được biết đến như là một quá trình điểm poisson "lõi cứng" - được đặt tên bởi Brian Ripley trong những năm 1970; tức là bạn muốn nó là ngẫu nhiên, nhưng bạn không muốn bất kỳ điểm nào quá gần nhau. "Lõi cứng" có thể được hình dung như một vùng đệm xung quanh mà các điểm khác không thể xâm nhập.

Hãy tưởng tượng bạn đang ghi lại vị trí của một số chiếc xe trong thành phố - nhưng bạn chỉ ghi điểm tại trung tâm danh nghĩa của chiếc xe. Trong khi họ ở trên đường, không có cặp đôi nào có thể đến gần nhau vì các điểm được bảo vệ bởi "lõi cứng" của thân xe - chúng ta sẽ bỏ qua vị trí siêu tiềm năng trong bãi đỗ xe nhiều tầng :-)

Có các quy trình để tạo các quy trình điểm như vậy - một cách là chỉ tạo các điểm đồng nhất và sau đó loại bỏ bất kỳ quá gần nhau!

Để biết một số chi tiết về các quy trình như vậy, hãy tham khảo ví dụ về điều này

Đối với việc tạo ra các đợt trước, tôi sẽ tạo ra một số lượng lớn các biến thể giả ngẫu nhiên, và sau đó kiểm tra chúng bằng một thử nghiệm như thử nghiệm Kolmogorov - Smirnov. Bạn sẽ muốn chọn bộ có giá trị p cao nhất (nghĩa là là lý tưởng). Lưu ý rằng điều này sẽ chậm, nhưng vì$p \approx 1$$N$ lớn hơn, nó có thể trở nên ít cần thiết hơn.

Đối với thế hệ gia tăng, về cơ bản, bạn đang tìm kiếm một loạt với sự tự tương quan âm vừa phải. Tôi không chắc cách tốt nhất để làm điều đó là gì, vì tôi có rất ít kinh nghiệm với chuỗi thời gian, nhưng tôi nghi ngờ có những thuật toán hiện có cho việc này.

Đối với thử nghiệm "quá chẵn", bất kỳ thử nghiệm nào về việc một mẫu có tuân theo phân phối cụ thể (như KS đã lưu ý ở trên) hay không, bạn chỉ muốn kiểm tra xem , chứ không phải là phương pháp tiêu chuẩn. Tôi đã viết về một ví dụ về phương pháp thay thế này ở đây: chi bình phương luôn là một bài kiểm tra một phía . $p > (1-\alpha)$

Tôi sẽ chính thức hóa vấn đề của bạn theo cách này: Bạn muốn phân phối trên sao cho mật độ là đối với một số định lượng lực đẩy của các điểm. f ( x ) ∝ e ( $[0,1]^n$ k<$f(x) \propto e^{\left(\frac1k\sum_{ij}\lvert x_i-x_j \rvert^{k}\right)^{\frac1k}}$$k<0$

Một cách dễ dàng để tạo các vectơ như vậy là lấy mẫu Gibbs.