Tổng các sản phẩm của biến ngẫu nhiên Rademacher

Đặt là các biến ngẫu nhiên độc lập lấy các giá trị hoặc với xác suất 0,5 mỗi. Xét tổng . Tôi muốn giới hạn trên xác suất . Ràng buộc tốt nhất tôi có ngay bây giờ là trong đó c là hằng số phổ quát. Điều này đạt được bằng cách giới hạn thấp hơn xác suất Pr (| x_1 + \ dot + x_n | <\ sqrt {t}) và Pr (| y_1 + \ dot + y_n | <\ sqrt {t}) bằng cách áp dụng các giới hạn đơn giản của Chernoff. Tôi có thể hy vọng có được thứ gì đó tốt hơn đáng kể so với ràng buộc này không? Để bắt đầu, tôi ít nhất có thể nhận được$x_1 \ldots x_a,y_1 \ldots y_b$$+1$$-1$$S = \sum_{i,j} x_i\times y_j$$P(|S| > t)$$2e^{-\frac{ct}{\max(a,b)}}$$c$$Pr(|x_1 + \dots + x_n|<\sqrt{t})$$Pr(|y_1 + \dots + y_n|<\sqrt{t})$$e^{-c\frac{t}{\sqrt{ab}}}$ . Nếu tôi có thể có được các đuôi phụ có thể là tốt nhất nhưng chúng ta có thể mong đợi điều đó (tôi không nghĩ vậy nhưng không thể nghĩ ra một cuộc tranh cãi)?

Quan hệ đại số

$$S = \sum_{i,j} x_i y_j = \sum_i x_i \sum_j y_j$$

trưng bày là sản phẩm của hai khoản tiền độc lập. Bởi vì và là độc lập Bernoulli variates, là một nhị thức biến mà đã được nhân đôi và thay đổi. Do đó, giá trị trung bình của nó là và phương sai của nó là . Tương tự có giá trị trung bình là và phương sai của . Hãy chuẩn hóa chúng ngay bây giờ bằng cách xác định( x i + 1 ) / 2 ( y j + 1 ) / 2 ( 1 / 2 ) X = Σ một i = 1 x i ( một , 1 / 2 ) 0 một Y = Σ b j = 1 y j 0 $S$$(x_i+1)/2$$(y_j+1)/2$$(1/2)$$X=\sum_{i=1}^a x_i$$(a, 1/2)$$0$$a$$Y=\sum_{j=1}^b y_j$$0$$b$

$$X_a = \frac{1}{\sqrt a} \sum_{i=1}^a x_i,$$

từ đâu

$$S = \sqrt{ab} X_a X_b = \sqrt{ab}Z_{ab}.$$

Ở một mức độ cao (và định lượng) chính xác, như phát triển lớn phương pháp tiếp cận phân phối bình thường tiêu chuẩn. Do đó, chúng ta hãy tính xấp xỉ là lần sản phẩm của hai quy tắc chuẩn.X một S √$a$$X_a$$S$$\sqrt{ab}$

Bước tiếp theo là để ý rằng

$$Z_{ab} = X_aX_b = \frac{1}{2}\left(\left(\frac{X_a+X_b}{\sqrt 2}\right)^2 - \left(\frac{X_a-X_b}{\sqrt 2}\right)^2 \right) = \frac{1}{2}\left(U^2 - V^2\right).$$

là bội số của sự khác biệt của bình phương của các biến số chuẩn và độc lập . Phân phối của có thể được tính toán một cách phân tích (bằng cách đảo ngược hàm đặc trưng ): pdf của nó tỷ lệ thuận với hàm Bessel theo thứ tự zero, . Vì hàm này có đuôi theo cấp số nhân, chúng tôi kết luận ngay rằng với và và cố định , không có xấp xỉ nào tốt hơn với so với câu hỏi.V Z a b K 0 ( | z | ) / π a b t Pr a , b ( S > t )$U$$V$$Z_{ab}$$K_0(|z|)/\pi$$a$$b$$t$${\Pr}_{a,b}(S \gt t)$

Vẫn còn một số chỗ cần cải thiện khi một (ít nhất) của và không lớn hoặc tại các điểm ở đuôi gần với . Các tính toán trực tiếp về phân bố của cho thấy độ cong giảm dần của xác suất đuôi tại các điểm lớn hơn nhiều so với , gần vượt quá . Các sơ đồ log-linear của CDF của cho các giá trị khác nhau của (được đưa ra trong các tiêu đề) và (nằm trong cùng các giá trị như , được phân biệt bằng màu sắc trong mỗi ô) cho thấy những gì đang diễn ra. Để tham khảo, biểu đồ giới hạnb S ± một b S $a$$b$$S$$\pm a b$$S$$\sqrt{ab}$ SabaK0S0Pr(S>t)=Pr(-S<-t$\sqrt{ab\max(a,b)}$$S$$a$$b$$a$$K_0$phân phối được hiển thị trong màu đen. (Vì đối xứng quanh , , do đó, nó đủ để nhìn vào đuôi âm.)$S$$0$$\Pr(S \gt t) = \Pr(-S \lt -t)$

Khi phát triển lớn hơn, CDF phát triển gần hơn với đường tham chiếu.$b$

Đặc trưng và định lượng độ cong này sẽ yêu cầu phân tích tốt hơn về xấp xỉ Bình thường với các biến thiên của Binomial.

Chất lượng của xấp xỉ hàm Bessel trở nên rõ ràng hơn trong các phần được phóng to (của góc trên bên phải của mỗi ô). Chúng ta đã đi khá xa vào đuôi. Mặc dù thang dọc logarit có thể che giấu sự khác biệt đáng kể, nhưng rõ ràng vào thời điểm đạt tới , phép tính gần đúng là tốt cho .500 | S | < Một $a$$500$$|S| \lt a\sqrt{b}$

---

Mã R để tính toán phân phối của$S$

Sau đây sẽ mất một vài giây để thực hiện. (Nó tính vài triệu xác suất 36 sự kết hợp của và .) Trên máy chậm hơn, bỏ qua lớn hơn một hoặc hai giá trị của và và tăng giới hạn âm mưu thấp hơn từ lên khoảng .b 10 - 300 10 - $a$$b$ab$10^{-300}$$10^{-160}$

s <- function(a, b) {
  # Returns the distribution of S as a vector indexed by its support.
  products <- factor(as.vector(outer(seq(-a, a, by=2), seq(-b, b, by=2))))
  probs <- as.vector(outer(dbinom(0:a, a, 1/2), dbinom(0:b, b, 1/2)))
  tapply(probs, products, sum)
}

par(mfrow=c(2,3))
b.vec <- c(51, 101, 149, 201, 299, 501)
cols <- terrain.colors(length(b.vec)+1)
for (a in c(50, 100, 150, 200, 300, 500)) {
  plot(c(-sqrt(a*max(b.vec)),0), c(10^(-300), 1), type="n", log="y", 
       xlab="S/sqrt(ab)", ylab="CDF", main=paste(a))
  curve(besselK(abs(x), 0)/pi, lwd=2, add=TRUE)
  for (j in 1:length(b.vec)) {
    b <- b.vec[j]
    x <- s(a,b)
    n <- as.numeric(names(x))
    k <- n <= 0
    y <- cumsum(x[k])
    lines(n[k]/sqrt(a*b), y, col=cols[j], lwd=2)
  }
}

Nhận xét: Tôi đã chỉnh sửa tiêu đề trong nỗ lực phản ánh tốt hơn loại rv nào được xem xét trong câu hỏi. Bất cứ ai cũng cảm thấy tự do để chỉnh sửa.

Động lực: Tôi đoán không cần phải giải quyết giới hạn trên, nếu chúng ta có thể rút ra phân phối của. ( CẬP NHẬT : Chúng tôi không thể - xem ý kiến ​​và câu trả lời của Whuber).$|S_{ab}|$

Biểu thị . Nó rất dễ dàng để xác minh rằng 's có sự phân bố tương tự như ' s và 's. Hàm tạo thời điểm làZ X $Z_k = X_iY_j,\;\; k=1,...,ab$$Z$$X$$Y$

$$M_Z(t) = E[e^{zt}]=\frac 12e^{-t}+\frac 12e^t = \cosh(t)$$

Ngoài ra , bắt đầu với , độc lập theo cặp: Biến (chỉ số có thể là bất kỳ), có hỗ trợ với xác suất tương ứng . Chức năng tạo thời điểm của nó là$Z$$W = Z_1+Z_2$$\{-2,0,2\}$$\{1/4,1/2,1/4\}$

$$M_{W}(t) = E[e^{(z_1+z_2)t}] = \frac 14e^{-2t}+\frac 12 +\frac 14e^{2t}=\\ =\frac 14(e^{-2t}+1)+ \frac 14(e^{2t}+1) = \frac 14 2e^{-t}\cosh(t)+\frac 14 2e^{t}\cosh(t)\\ =\cosh(t)\cdot \cosh(t) = M_{Z_1}(t)M_{Z_2}(t)$$

Tôi sẽ cố gắng nghi ngờ rằng sự độc lập hoàn toàn, như sau (có rõ ràng với những người khôn ngoan hơn không?): Đối với phần này, biểu thị . Sau đó, theo quy tắc chuỗi $Z_{ij}=X_iY_j$

$$P[Z_{ab},...,Z_{11}] = P[Z_{ab}\mid Z_{a,b-1},...,Z_{11}]\cdot ...\cdot P[Z_{13}\mid Z_{12},Z_{11}]\cdot P[Z_{12}\mid Z_{11}]\cdot P[Z_{11}]$$

Bằng sự độc lập theo cặp, chúng ta có . Hãy xem xét . và là điều kiện độc lập trên nên chúng ta có đẳng thức thứ hai bằng sự độc lập theo cặp. Nhưng điều này ngụ ý rằng$P[Z_{12}\mid Z_{11}] = P[Z_{12}]$
$P[Z_{13},Z_{12}\mid Z_{11}]$$Z_{13}$$Z_{12}$$Z_{11}$

$$P[Z_{13}\mid Z_{12},Z_{11}] = P[Z_{13}\mid Z_{11}] = P[Z_{13}]$$

$$P[Z_{13}\mid Z_{12},Z_{11}]\cdot P[Z_{12}\mid Z_{11}]\cdot P[Z_{11}] = P[Z_{13},\,Z_{12},\,Z_{11}] = P[Z_{13}]\cdot P[Z_{12}]\cdot P[Z_{11}]$$

Vv (tôi nghĩ). ( CẬP NHẬT : Tôi nghĩ sai . Độc lập có thể giữ cho bất kỳ bộ ba nào, nhưng không phải cho cả nhóm. Vì vậy, điều tiếp theo chỉ là sự phân phối của một bước đi ngẫu nhiên đơn giản, và không phải là một câu trả lời đúng cho câu hỏi - xem Wolfies 'và Câu trả lời của Whuber).

Nếu sự độc lập hoàn toàn thực sự giữ vững, chúng ta có nhiệm vụ tạo ra sự phân phối một tổng số iid lưỡng phân r_'s

$$S_{ab}=\sum_{k=1}^{ab}Z_k$$

Trông giống như một bước đi ngẫu nhiên đơn giản , mặc dù không có sự giải thích rõ ràng về cái sau như một chuỗi.

Nếu thì hỗ trợ của sẽ là các số nguyên chẵn trong bao gồm 0, trong khi nếu thì hỗ trợ của sẽ là các số nguyên lẻ trong , không có số không. $ab=even$$S$$[-ab,...,ab]$$ab=odd$$S$$[-ab,...,ab]$

Chúng tôi xử lý trường hợp . Suy ra là số lượng lấy giá trị . Sau đó, hỗ trợ của có thể được viết . Đối với bất kỳ trao , chúng tôi có được một giá trị duy nhất cho . Ngoài ra, do xác suất đối xứng và tính độc lập (hoặc chỉ có thể trao đổi?), Tất cả các nhận thức chung có thể có của -variabled đều có thể trang bị được. Vì vậy, chúng tôi đếm và chúng tôi thấy rằng hàm khối lượng xác suất của là,$ab=odd$
$m$$Z$$-1$$S$$S\in \{ab-2m;m\in \mathbb Z_+\cup\{0\};m\le ab\}$$m$$S$$Z$$\{Z_1=z_1,..., Z_{ab}=z_{ab}\}$$S$

$$P(S=ab-2m)={ab \choose m}\cdot \frac 1{2^{ab}}, \qquad 0\le m\le ab$$

Xác định và số lẻ theo cách xây dựng và yếu tố tiêu biểu cho sự hỗ trợ của , chúng ta có$s\equiv ab-2m$$S$

$$P(S=s)={ab \choose \frac{ab-s}{2}}\cdot \frac 1{2^{ab}}$$

Di chuyển đến, vì nếu , phân phối của đối xứng quanh 0 mà không phân bổ khối lượng xác suất về 0, và do đó phân phối củathu được bằng cách "gấp" biểu đồ mật độ xung quanh trục dọc, về cơ bản nhân đôi xác suất cho các giá trị dương,$|S|$$ab=odd$$S$$|S|$

$$P(|S|=|s|)={ab \choose \frac{ab-s}{2}}\cdot \frac 1{2^{ab-1}}$$

Sau đó, chức năng phân phối là

$$P(|S|\le|s|)=\frac 1{2^{ab-1}}\sum_{1\le i\le s,\, i\,odd}{ab \choose \frac{ab-i}{2}}$$

Do đó, với bất kỳ thực , , chúng tôi có xác suất bắt buộc $t$$1\le t<ab$

$$P(|S|> t) = 1- P(|S|\le t) = 1-\frac 1{2^{ab-1}}\sum_{1\le i\le t,\, i\,odd}{ab \choose {\frac{ab-i}{2}}}$$

Lưu ý rằng chỉ báo đảm bảo rằng tổng sẽ chỉ chạy tối đa các giá trị được bao gồm trong hỗ trợ của- ví dụ: nếu chúng ta đặt , vẫn sẽ chạy tới , vì nó bị hạn chế là số lẻ, trên đầu là một số nguyên.$i=odd$$|S|$$t=10.5$$i$$9$

Không phải là một câu trả lời, nhưng một nhận xét về câu trả lời thú vị của Alecos quá dài để phù hợp với một hộp bình luận.

Đặt là các biến ngẫu nhiên Rademacher độc lập và để là các biến ngẫu nhiên Rademacher độc lập. Alecos lưu ý rằng:$(X_1, ..., X_a)$$(Y_1, ..., Y_b)$

$$S_{ab}=\sum_{k=1}^{ab}Z_k \qquad \text{where} \qquad Z_k = X_i Y_j$$

" Trông giống như một cuộc đi bộ ngẫu nhiên đơn giản . Nếu nó giống như một cuộc đi bộ ngẫu nhiên đơn giản, thì sự phân bố của sẽ là đối xứng" không đối xứng hình chuông "khoảng 0.$S$

Để minh họa rằng đó không phải là một cuộc đi bộ ngẫu nhiên đơn giản, đây là một so sánh nhanh về Monte Carlo:

• chấm tam giác: Mô phỏng Monte Carlo của pmf của cho vàa = 5 b = $S$$a = 5$$b = 7$
• chấm tròn: Mô phỏng Monte Carlo của một bước đi ngẫu nhiên đơn giản với bước$n = 35$

Rõ ràng, không phải là một bước đi ngẫu nhiên đơn giản; cũng lưu ý rằng S không được phân phối trên tất cả các số nguyên chẵn (hoặc lẻ).$S$

Monte Carlo

Đây là mã (trong Mathicala ) được sử dụng để tạo một lần lặp duy nhất của tổng , được cho và :a $S$$a$$b$

 SumAB[a_, b_] :=  Outer[Times, RandomChoice[{-1, 1}, a], RandomChoice[{-1, 1}, b]] 
                         // Flatten // Total 

Sau đó, 500.000 đường dẫn như vậy, cho biết khi và , có thể được tạo bằng:b = $a = 5$$b = 7$

 data57 = Table[SumAB[5, 7], {500000}];

Miền hỗ trợ cho sự kết hợp giữa và này là:$a$$b$

{-35, -25, -21, -15, -9, -7, -5, -3, -1, 1, 3, 5, 7, 9, 15, 21, 25, 35}