Bộ tạo số giả ngẫu nhiên song song

Câu hỏi này chủ yếu liên quan đến một vấn đề kỹ thuật phần mềm thực tế, nhưng tôi sẽ tò mò muốn biết liệu các nhà lý thuyết có thể cung cấp cái nhìn sâu sắc hơn về nó hay không.

Nói một cách đơn giản, tôi có một mô phỏng Monte Carlo sử dụng trình tạo số giả ngẫu nhiên và tôi muốn song song với nó để có 1000 máy tính chạy cùng một mô phỏng. Vì vậy, tôi cần 1000 luồng giả số độc lập.

Chúng ta có thể có 1000 luồng song song với các thuộc tính sau không? Ở đây nên là một PRNG rất nổi tiếng và được nghiên cứu rộng rãi với tất cả các loại tính chất lý thuyết và thực nghiệm tốt đẹp.$X$

1. Các luồng có thể chứng minh tốt như những gì tôi sẽ nhận được nếu tôi chỉ đơn giản sử dụng và chia luồng được tạo bởi thành 1000 luồng.$X$$X$

2. Tạo ra các số tiếp theo trong bất kỳ dòng là (hầu như) càng nhanh càng tạo ra các số tiếp theo với .$X$

Nói cách khác: chúng ta có thể nhận được nhiều luồng độc lập "miễn phí" không?

Tất nhiên, nếu chúng ta chỉ đơn giản sử dụng , luôn loại bỏ 999 số và chọn 1, thì chúng ta chắc chắn sẽ có thuộc tính 1, nhưng chúng ta sẽ mất trong thời gian chạy theo hệ số 1000.$X$

Một ý tưởng đơn giản là sử dụng 1000 bản , với các hạt 1, 2, ..., 1000. Điều này chắc chắn sẽ nhanh, nhưng không rõ ràng nếu các luồng có thuộc tính thống kê tốt.$X$

Sau một số Googling, tôi đã tìm thấy, ví dụ, như sau:

• Các SPRNG thư viện dường như được thiết kế cho mục đích này chính xác, và nó hỗ trợ nhiều PRNGs .

• Mersenne twister dường như là một PRNG phổ biến hiện nay và tôi đã tìm thấy một số tài liệu tham khảo về một biến thể có thể tạo ra nhiều luồng song song.

Nhưng tất cả những điều này nằm cách xa khu vực nghiên cứu của tôi, đến nỗi tôi không thể tìm ra đâu là công nghệ tiên tiến nhất, và công trình nào hoạt động tốt không chỉ trên lý thuyết mà cả trong thực tế.

Một số làm rõ: Tôi không cần bất kỳ loại tài sản mật mã nào; đây là tính toán khoa học Tôi sẽ cần hàng tỷ số ngẫu nhiên, vì vậy chúng tôi có thể quên bất kỳ trình tạo nào có khoảng thời gian .$< 2^{32}$

Chỉnh sửa: Tôi không thể sử dụng RNG thực sự; Tôi cần một PRNG xác định. Thứ nhất, nó giúp rất nhiều với việc gỡ lỗi và làm cho mọi thứ có thể lặp lại. Thứ hai, nó cho phép tôi thực hiện, ví dụ, tìm kiếm trung bình rất hiệu quả bằng cách khai thác thực tế là tôi có thể sử dụng mô hình nhiều đường chuyền (xem câu hỏi này ).

Chỉnh sửa 2: Có một câu hỏi liên quan chặt chẽ @ StackOverflow: Trình tạo số giả ngẫu nhiên cho môi trường cụm .

Bạn có thể sử dụng một sự phát triển của thuật toán Mersenne Twister được phát triển bởi Saito và Matsumoto:

Twers nhanh Mersenne Twister (SFMT) theo định hướng SIMD

SFMT là trình tạo Đăng ký thay đổi phản hồi tuyến tính (LFSR) tạo ra số nguyên giả ngẫu nhiên 128 bit tại một bước. SFMT được thiết kế với sự song song gần đây của các CPU hiện đại, chẳng hạn như hướng dẫn đường ống nhiều giai đoạn và hướng dẫn SIMD (ví dụ: số nguyên 128 bit). Nó hỗ trợ các số nguyên 32 bit và 64 bit, cũng như điểm nổi chính xác gấp đôi làm đầu ra. SFMT nhanh hơn nhiều so với MT, trong hầu hết các nền tảng. Không chỉ tốc độ, mà cả kích thước của các phân phối ở độ chính xác v-bit cũng được cải thiện. Ngoài ra, phục hồi từ trạng thái ban đầu vượt quá 0 nhanh hơn nhiều. Xem Luận văn thạc sĩ của Mutsuo Saito để biết chi tiết .

Thời gian thay đổi từ đến 2 216091 - 1 .$2^{607}-1$$2^{216091}-1$

Sử dụng cùng một trình tạo số pesudorandom để tạo nhiều luồng độc lập bằng cách thay đổi các giá trị ban đầu có thể gây ra sự cố (với xác suất nhỏ không đáng kể). Để tránh sự cố, sử dụng các tham số khác nhau cho mỗi thế hệ được ưu tiên. Kỹ thuật này được gọi là tạo động của các tham số MT.

Trong mã nguồn SFMT, bạn có thể tìm thấy một số ví dụ về các bộ tham số (của các chu kỳ biến) và tập lệnh awk để chuyển đổi tệp CSV thành một bộ tham số có thể biên dịch được. Ngoài ra còn có một công cụ gọi là " Dynamic Creation of Mersenne Twister ".

Các tác giả gần đây đã phát triển một phiên bản sửa đổi khác của Mersenne Twister - Mersenne Twister cho Bộ xử lý đồ họa - được thiết kế để chạy trong GPU và tận dụng các luồng thực thi song song riêng của chúng. Tính năng chính là tốc độ: số nguyên ngẫu nhiên cứ sau 4,6ms trên GeForce GTX 260.$5 \times 10^7$

Các khoảng thời gian của chuỗi được tạo là , 2 23209 - 1 và 2 44497 - 1 cho phiên bản 32 bit và 2 23209 - 1 , 2 44497 - 1 , 2 110503 - 1 cho phiên bản 64 bit. Nó hỗ trợ 128 bộ tham số cho từng thời kỳ, nói cách khác, nó có thể tạo ra 128 chuỗi số giả độc lập cho từng thời kỳ. Chúng tôi đã phát triển Dynamic Creator cho MTGP, tạo ra nhiều bộ tham số hơn$2^{11213}-1$$2^{23209}-1$$2^{44497}-1$$2^{23209}-1$$2^{44497}-1$$2^{110503}-1$

Thật vậy, họ cung cấp một công cụ MTGPDC để tạo tối đa bộ tham số (tức là các luồng độc lập).$2^{32}$

Thuật toán vượt qua các bài kiểm tra ngẫu nhiên chính như Diehard và NIST.

Một bài báo sơ bộ cũng có sẵn trên arXiv: A Variant of Mersenne Twister Thích hợp cho Bộ xử lý đồ họa

Dường như có nhiều cách để giải quyết vấn đề này, nhưng một cách đơn giản là sử dụng Blum Blum Shub PRNG. PRNG này được xác định bởi mối quan hệ lặp lại , trong đó N là một bán kết. Để có được một bit ngẫu nhiên trong số này, bạn chỉ cần lấy bit chẵn lẻ của x i . Những gì tốt đẹp về vấn đề này là vì x i + k = x 2 k i  mod  N = x 2 k  mod  λ ( N )$x_{i+1} = x_i^2 \mbox{ mod }N$$N$$x_i$ bạn có thể tính trực tiếp bất kỳ bước nào trong hằng số thời gian theo k (tức là O ( log ( N ) 3 ) hoặc nhanh hơn tùy thuộc vào thuật toán nhân nào bạn sử dụng cho cấp số nhân mô-đun). Như vậy là bạn có M máy, sau đó cho máy được lập chỉ mục bởi y bạn có thể sử dụng máy phát điện x i + 1 , y = x 2 M mod  λ ( N ) i  mod  N , nơi x 0 , y = $x_{i+k} = x_i^{2^k}\mbox{ mod }N = x_i^{2^k \mbox{ mod } \lambda(N)}\mbox{mod }N$$k$$O(\log(N)^3)$$M$$y$$x_{i+1,y} = x_i^{2^M \mbox{mod }\lambda(N)}\mbox{ mod }N$, nơix0là dòng dõi ngươi. Thuận tiện điều này tạo ra chính xác cùng một dòng số như thể bạn đã sử dụng một luồng duy nhất và lần lượt phân phối đầu ra của nó cho từng máy.$x_{0,y} = x_0^{2^y \mbox{ mod }\lambda(N)}\mbox{ mod }N$$x_0$

Tuy nhiên, đây không phải là PRNG nhanh nhất, vì vậy nó sẽ chỉ hữu ích nếu tổng chi phí của bất cứ điều gì bạn đang làm trong mô phỏng lớn hơn đáng kể so với chi phí của PRNG. Tuy nhiên đó là giá trị chỉ ra rằng nó sẽ được nhanh hơn nhiều cho sự kết hợp nào đó của và N hơn những người khác, đặc biệt là nếu biểu diễn nhị phân của 2 M  mod  λ ( N ) có chứa vài 1s hoặc là nhỏ.$M$$N$$2^M \mbox{ mod }\lambda(N)$

$s$$n$$X$$1000n$$s_1,s_2,\ldots,s_{1000}$$1\le i \le 1000$$s_i$$n$

$X$

Bây giờ, cho như hạt giống cho tôi thứ máy, trong đó sử dụng X để tạo ra dòng giả ngẫu nhiên của riêng mình.$s_i$$i$$X$

Với các tính chất tốt đẹp của , trừ khi s được biết, với bất kỳ 1 ≤ i < j ≤ 1000 , các hạt s i và s j đều độc lập tính toán. Hơn nữa, bạn chỉ phải tạo và lưu một hạt giống nhỏ (ví dụ: s ); do đó, cách tiếp cận này không cần nhiều sự ngẫu nhiên hoặc lưu trữ thực sự.$X$$s$$1 \le i < j \le 1000$$s_i$$s_j$$s$

$f$$M = 1000$$\{ 0, 1, \ldots, M - 1 \}$$j$$i$$f(i + jM)$$M$

Điều này sẽ cung cấp cho bạn một RNG mật mã trên mọi quy trình, nhưng nó không nhất thiết phải đi kèm với chi phí hiệu suất. AES rất nhanh nếu bạn có phần cứng hỗ trợ và ChaCha cũng nhanh bất kể. Tất nhiên, bạn sẽ muốn đo lường điều này trong cài đặt cụ thể của mình để chắc chắn.

$f$

Hiện tại đã có chức năng nhảy cho SFMT (triển khai Mersenne Twister nhanh).

Điều này cho phép tôi khởi tạo 1000 MT để không có chu kỳ trùng lặp. Và SFMT nên nhanh hơn MTGP. Gần như hoàn hảo cho mục đích của tôi.

Bạn chỉ có thể sử dụng 1000 phiên bản của Mersenne Twister được khởi tạo với các hạt khác nhau.

Bạn có thể lấy mẫu các hạt giống từ một Mersenne Twister khác, hoặc, để đảm bảo tính độc lập của chúng, từ trình tạo số giả mã hóa hệ điều hành (/ dev / urandom trong Linux).

Mersenne Twister luôn hoạt động theo cùng một chu kỳ, hạt điều khiển nơi bạn bắt đầu tạo nó. Với các hạt được lấy mẫu độc lập, mỗi máy phát sẽ bắt đầu tại các điểm khác nhau, thường là rất xa, với xác suất giao nhau rất nhỏ.