Phân phối nào mà CDF bình thường nghịch đảo của biến ngẫu nhiên beta tuân theo?

Giả sử bạn xác định:

$$X\sim\mbox{Beta}(\alpha,\beta)$$

$$Y\sim \Phi^{-1}(X)$$

trong đó là nghịch đảo của CDF của phân phối chuẩn thông thường .$\Phi^{-1}$

Câu hỏi của tôi là: Có một phân phối đơn giản mà tuân theo, hoặc có thể xấp xỉ không? $Y$$Y$Tôi đang hỏi bởi vì tôi có một sự nghi ngờ mạnh mẽ dựa trên kết quả mô phỏng (hiển thị bên dưới) rằng hội tụ đến một phân phối bình thường khi và cao, nhưng tôi không biết tại sao nó lại có tính toán học. (Tất nhiên khi , sẽ đồng nhất và sẽ là tiêu chuẩn bình thường, nhưng tại sao điều đó lại đúng với các giá trị cao hơn?).$Y$$\alpha$$\beta$$\alpha=1;\beta=1$$X$$Y$

Nếu điều này hội tụ về mức bình thường, thì các tham số của mức bình thường đó sẽ là gì, về mặt và ? (Tôi hy vọng giá trị trung bình sẽ là \ Phi ^ {- 1} (\ frac {\ alpha} {\ alpha + \ beta}) vì đó là sự biến đổi của chế độ, nhưng tôi không biết độ lệch chuẩn).$\alpha$$\beta$$\Phi^{-1}(\frac{\alpha}{\alpha+\beta})$

(Nói cách khác, điều này có thể hỏi "không $\Phi(\mbox{Norm}(\mu, \sigma))$ hội tụ đến một bản phân phối beta, đối với một số hướng của $\mu$ và $\sigma$ "? dễ trả lời hơn).

Kết quả mô phỏng

Ở đây tôi chỉ ra lý do tại sao tôi có sự nghi ngờ rằng kết quả là bình thường (vì tôi không thể sao lưu nó bằng toán học). Mô phỏng $Y$ có thể được thực hiện trong R với qnormvà rnorm. Ví dụ: chọn tham số cao $\alpha=3000$ và $\beta=7000$ :

hist(qnorm(rbeta(5000, 3000, 7000)))

Điều này không giống bình thường, và qqnormvà thử nghiệm Shapiro-Wilk (trong đó bình thường là giả thuyết null) gợi ý như vậy là tốt:

qqnorm(qnorm(rbeta(5000, 3000, 7000)))

shapiro.test(qnorm(rbeta(5000, 3000, 7000)))
#> 
#>  Shapiro-Wilk normality test
#> 
#> data:  qnorm(rbeta(5000, 3000, 7000))
#> W = 0.99954, p-value = 0.2838

Để khám phá tính quy phạm sâu hơn một chút, tôi thực hiện 2.000 mô phỏng, mỗi lần mô phỏng 5.000 giá trị từ $Y$ , sau đó thực hiện thử nghiệm để so sánh nó với bình thường. (Tôi đã chọn các giá trị 5K vì đó là mức tối đa shapiro.testcó thể xử lý và tối đa hóa khả năng phát hiện các sai lệch so với định mức).

Nếu phân phối thực sự bình thường, chúng tôi sẽ mong giá trị p sẽ đồng nhất (vì null là đúng). Chúng thực sự gần với đồng phục, cho thấy rằng phân phối rất gần với bình thường:

hist(replicate(2000, shapiro.test(qnorm(rbeta(5000, 3000, 7000)))$p.value))

Một số thử nghiệm cho thấy và cao hơn , phân phối gần trở lại bình thường (ví dụ khá xa so với bình thường, nhưng hãy thử và nó dường như ở đâu đó ở giữa).$\alpha$$\beta$rbeta(5000, 3, 7)hist(replicate(2000, shapiro.test(qnorm(rbeta(5000, 30, 70)))$p.value))

Tóm tắc

Bạn đã khám phá lại một phần của công trình được mô tả tại Định lý giới hạn trung tâm cho các mẫu trung bình mẫu , minh họa một phân tích về trung vị của mẫu. (Phân tích rõ ràng được áp dụng, với những sửa đổi thích hợp , cho bất kỳ định lượng nào, không chỉ trung vị). Do đó, không có gì ngạc nhiên khi đối với các tham số Beta lớn (tương ứng với các mẫu lớn), phân phối chuẩn phát sinh theo phép biến đổi được mô tả trong câu hỏi. Điều đáng quan tâm là mức độ gần với phân phối Bình thường ngay cả đối với các tham số Beta nhỏ . Điều đó xứng đáng được giải thích.

Tôi sẽ phác thảo một phân tích dưới đây. Để giữ bài đăng này ở một độ dài hợp lý, nó bao gồm rất nhiều cách vẫy tay gợi ý: Tôi chỉ nhằm mục đích chỉ ra những ý tưởng chính. Do đó, hãy để tôi tóm tắt kết quả ở đây:

1. Khi gần với , mọi thứ đều đối xứng. Điều này gây ra phân phối đã chuyển đổi để trông bình thường.$\alpha$$\beta$

2. Các chức năng của biểu mẫu trông khá bình thường ở vị trí đầu tiên, ngay cả đối với các giá trị nhỏ của và (miễn là cả hai vượt quá và tỷ lệ của chúng không quá gần hoặc ). α β 1 0 $\Phi^{\alpha-1}(x)\left(1-\Phi(x)\right)^{\beta-1}$$\alpha$$\beta$$1$$0$$1$

3. Định mức rõ ràng của phân phối biến đổi là do thực tế là mật độ của nó bao gồm mật độ Bình thường nhân với một hàm trong (2).

4. Khi và tăng, độ rời khỏi Normality có thể được đo bằng các số hạng còn lại trong chuỗi Taylor cho mật độ nhật ký. Thời hạn của đơn hàng giảm tỷ lệ thuận với quyền hạn của vàbeta n ( n - 2 ) / 2 alpha beta . Điều này ngụ ý rằng cuối cùng, cho đủ lớn α và β , tất cả về quyền lực n = 3 hoặc cao hơn đã trở nên tương đối nhỏ, chỉ để lại một bậc hai: đó chính là mật độ nhật ký của một phân phối bình thường.$\alpha$$\beta$$n$$(n-2)/2$$\alpha$$\beta$$\alpha$$\beta$$n=3$

Nói chung, những hành vi độc đáo giải thích tại sao ngay cả đối với nhỏ và beta các quantiles không cực đoan của một cái nhìn mẫu Bình thường iid xấp xỉ bình thường.$\alpha$$\beta$

---

Phân tích

Bởi vì nó có thể hữu ích để khái quát, chúng ta hãy được bất kỳ chức năng phân phối, mặc dù chúng tôi có trong tâm trí F = Φ .$F$$F=\Phi$

Hàm mật độ của một Beta ( α , β ) biến là, theo định nghĩa, tỷ lệ với$g(y)$$(\alpha,\beta)$

$$y^{\alpha-1}(1-y)^{\beta-1}dy.$$

Đặt là biến đổi tích phân xác suất của x và viết f cho đạo hàm của F , ngay lập tức x có mật độ tỷ lệ với$y=F(x)$$x$$f$$F$$x$

$$G(x;\alpha,\beta)=F(x)^{\alpha-1}(1-F(x))^{\beta-1}f(x)dx.$$

Bởi vì đây là một phép biến đổi đơn điệu của phân phối không theo phương thức mạnh (Beta), trừ khi khá lạ, phân phối được chuyển đổi cũng sẽ không đơn phương. Để nghiên cứu mức độ gần với Bình thường, hãy kiểm tra logarit mật độ của nó,$F$

$$\log G(x;\alpha,\beta) = (\alpha-1)\log F(x) + (\beta-1)\log(1-F(x)) + \log f(x) + C\tag{1}$$

Trong đó là hằng số chuẩn hóa không liên quan.$C$

Mở rộng các thành phần của trong chuỗi Taylor để đặt hàng ba xung quanh một giá trị x 0 (mà sẽ được gần gũi với một chế độ). Chẳng hạn, chúng ta có thể viết phần mở rộng của log F là$\log G(x;\alpha,\beta)$$x_0$$\log F$

$$\log F(x) = c^{F}_0 + c^{F}_1 (x-x_0) + c^{F}_2(x-x_0)^2 + c^{F}_3h^3$$

cho một số với | h | ≤ | x - x 0 | . Sử dụng một ký hiệu tương tự cho nhật ký ( 1 - F ) và nhật ký f . $h$$|h| \le |x-x_0|$$\log(1-F)$$\log f$

Thuật ngữ tuyến tính

Thuật ngữ tuyến tính trong do đó trở thành$(1)$

$$g_1(\alpha,\beta) = (\alpha-1)c^{F}_1 + (\beta-1)c^{1-F}_1 + c^{f}_1.$$

Khi là chế độ của G $x_0$ , biểu hiện này là bằng không. Lưu ý rằng bởi vì các hệ số là các hàm liên tục của x 0 , như α và β rất đa dạng, chế độ x 0 sẽ thay đổi liên tục quá. Hơn nữa, một khi α và β là đủ lớn, các c f 1 hạn trở nên tương đối không quan trọng. Nếu chúng tôi hướng đến nghiên cứu giới hạn như α → ∞ và β → ∞ mà α : β ở lại theo tỷ lệ không đổi γ$G(\,;\alpha,\beta)$$x_0$$\alpha$$\beta$$x_0$$\alpha$$\beta$$c^{f}_1$$\alpha\to\infty$$\beta\to\infty$ $\alpha:\beta$$\gamma$, Chúng tôi có thể do đó một lần và cho tất cả chọn một điểm cơ sở mà$x_0$

$$\gamma c^{F}_1 + c^{1-F}_1 = 0.$$

Một trường hợp tốt đẹp là nơi , nơi α = β suốt, và F là đối xứng về 0 . Trong trường hợp đó rõ ràng x 0 = F ( 0 ) = 1 / 2 .$\gamma=1$$\alpha=\beta$$F$$0$$x_0=F(0)=1/2$

Chúng tôi đã đạt được một phương pháp theo đó (a) trong giới hạn, số hạng thứ nhất trong chuỗi Taylor biến mất và (b) trong trường hợp đặc biệt vừa mô tả, số hạng thứ nhất luôn luôn bằng không.

Điều khoản bậc hai

Đây là tổng

$$g_2(\alpha,\beta) = (\alpha-1)c^{F}_2 + (\beta-1)c^{1-F}_2 + c^{f}_2.$$

So với một phân phối bình thường, mà thuật ngữ bậc hai là , chúng ta có thể ước tính rằng - 1 / ( 2 g 2 ( α , β ) ) là xấp xỉ sai của G . Hãy để chúng tôi chuẩn hóa G bằng cách thay đổi kích thước x theo căn bậc hai của nó. chúng tôi không thực sự cần các chi tiết; đủ để hiểu rằng sự thay đổi kích thước này sẽ nhân hệ số của ( $-(1/2)(x-x_0)^2/\sigma^2$$-1/(2g_2(\alpha,\beta))$$G$$G$$x$ trong bản mở rộng Taylor theo ( - 1 / ( 2 g 2 ( α , β ) ) ) n / 2$(x-x_0)^n$$(-1/(2g_2(\alpha,\beta)))^{n/2}.$

Thời hạn còn lại

Đây là điểm cuối: thuật ngữ của đơn hàng trong bản mở rộng Taylor là, theo ký hiệu của chúng tôi,$n$

$$g_n(\alpha,\beta) = (\alpha-1)c^{F}_n + (\beta-1)c^{1-F}_n + c^{f}_n.$$

After standardization, it becomes

$$g_n^\prime(\alpha,\beta) = \frac{g_n(\alpha,\beta)}{(-2g_2(\alpha,\beta))^{n/2})}.$$

Both of the $g_i$ are affine combination of $\alpha$ and $\beta$. By raising the denominator to the $n/2$ power, the net behavior is of order $-(n-2)/2$ in each of $\alpha$ and $\beta$. As these parameters grow large, then, each term in the Taylor expansion after the second decreases to zero asymptotically. In particular, the third-order remainder term becomes arbitrarily small.

The case when $F$ is normal

The vanishing of the remainder term is particularly fast when $F$ is standard Normal, because in this case $f(x)$ is purely quadratic: it contributes nothing to the remainder terms. Consequently, the deviation of $G$ from normality depends solely on the deviation between $F^{\alpha-1}(1-F)^{\beta-1}$ and normality.

This deviation is fairly small even for small $\alpha$ and $\beta$. To illustrate, consider the case $\alpha=\beta$. $G$ is symmetric, whence the order-3 term vanishes altogether. The remainder is of order $4$ in $x-x_0=x$.

Here is a plot showing how the standardized fourth order term changes with small values of $\alpha \gt 1$:

The value starts out at $0$ for $\alpha=\beta=1$, because then the distribution obviously is Normal ($\Phi^{-1}$ applied to a uniform distribution, which is what Beta$(1,1)$ is, gives a standard Normal distribution). Although it increases rapidly, it tops off at less than $0.008$--which is practically indistinguishable from zero. After that the asymptotic reciprocal decay kicks in, making the distribution ever closer to Normal as $\alpha$ increases beyond $2$.

Convergence

Suppose that $\alpha = \beta$ and let $\alpha \to \infty$ and take any small $\varepsilon > 0$. Then $var(X) \to 0$. By Chebyshev's inequality we have $\mathbb{P} [\vert X - 0.5 \vert > \varepsilon] \to 0$ and $\mathbb{P} [\vert Y \vert > \varepsilon] \to 0$. This means that $Y$ converges in probability (not in distribution actually it converges in distribution - to singleton).

Exact distribution

Denote by $f_X$ the density of beta distribution. Then your variable $Y$ has density

$$f_Y (y) = f_X ( \Phi (y) ) \phi (y).$$ Since $\Phi$ does not have a closed form I believe that this is the furthest you can get (analytically). You can try to put it into FullSimplify function in Wolfram Mathematica to see if it finds some better form.

Here is the density in R so you can plot it instead of histogram.

f_y <- function(x, alpha, beta) {
  dbeta(pnorm(x), alpha, beta) * dnorm(x)
}

Modification

However, you are maybe interested in distribution of

$$Z = \Phi^{-1} (\sqrt{\alpha} X)$$ . (still assuming $\alpha = \beta$) This may be useful because $var(\sqrt{\alpha} X) \to 1/8$ (useful because it is not zero).

Here I present a heuristic explanation (which can be made rigorous at least asymptotically). For simplicity, take $k \in \mathbb N$, $k \geq 2$. Let $X \sim \text{Beta}(k,k)$. I want to argue that $Y = \Phi^{-1}(X)$ is approximately normal.

Now let $n=2k-1$. We start by drawing $n$ i.i.d. uniformly distributed random variables $U_1, \dotsc, U_n$. Next, form the order statistics $U_{(1)} \leq \dotsc \leq U_{(n)}$.

It is well known that $U_{(k)} \sim \text{Beta}(k, n+1-k)$, thus:

$$U_{(k)} \sim \text{Beta}(k, k)$$

In other words: The sample median of $n$ i.i.d. uniformly distributed random variables is $\text{Beta}(k,k)$ distributed.

Now let's transform by $Z_i = \Phi^{-1}(U_i)$. Then by the probability integral transform, the $Z_i$ are i.i.d. normally distributed. Also form the order statistics of the $Z_i$ ($Z_{(1)} \leq \dotsc \leq Z_{(n)}$). Since $\Phi^{-1}$ is strictly increasing, it follows that:

$$\Phi^{-1}(U_{(k)}) = Z_{(k)}$$

Therefore, to show that $Y$ is approximately normal, we just have to argue that the sample median of $n$ i.i.d. normal random variables is approximately normal.

For $k$ large, this can be made precise by a central limit theorem for sample medians. For $k$ small, say $k=2$, I will let everyone's gut feeling do the speaking.

For $a \neq b$ (but not too different) one can argue similarly by using corresponding quantiles.