Điều này có đúng không? (tạo ra một Traussated-Norm-multivariate-Gaussian)

Nếu tức là $X\in\mathbb{R}^n,~X\sim \mathcal{N}(\underline{0},\sigma^2\mathbf{I})$

$$f_X(x) = \frac{1}{{(2\pi\sigma^2)}^{n/2}} \exp\left(-\frac{||x||^2}{2\sigma^2}\right)$$

Tôi muốn một phiên bản tương tự của phân phối cắt ngắn-bình thường trong trường hợp đa biến.

Chính xác hơn, tôi muốn tạo một ràng buộc định mức (đến một giá trị ) đa biến Gaussian Y st f_Y (y) = \ started {case} c.f_X (y), \ text {if} || y || \ geq a \\ [2 mm] 0, \ text {nếu không}. \ end {case} trong đó c = \ frac {1} {Prob \ big \ {|| X || \ geq a \ big \}}$\geq a$$Y$

$$f_Y(y) = \begin{cases} c.f_X(y), \text{ if } ||y||\geq a \\[2mm] 0, \text{ otherwise }. \end{cases}$$ $c=\frac{1}{Prob\big\{||X||\geq a\big\}}$

---

Bây giờ tôi quan sát như sau:

Nếu $x=(x_1,x_2,\ldots,x_n)$ , $||x||\geq a$

$\implies |x_n|\geq T\triangleq \sqrt{\max\left(0,\left(a^2-\sum_1^{n-1}x_i^2\right)\right)}$

Do đó, bằng cách chọn $x_1,\ldots,x_{n-1}$ làm mẫu Gaussian, người ta có thể hạn chế $x_n$ làm mẫu trong phân phối cắt ngắn (theo phân phối Gaussian-tail $\geq T$ ) $\mathcal{N}_T(0,\sigma^2)$ , ngoại trừ dấu hiệu được chọn ngẫu nhiên với xác suất $1/2$ .

Bây giờ câu hỏi của tôi là điều này,

Nếu tôi tạo từng mẫu vectơ $(x_1,\ldots,x_n)$ của $(X_1,\ldots,X_n)$ là,

$x_1,\ldots,x_{n-1}\sim \mathcal{N}(0,\sigma^2)$

và

Z 1 ∼ { ± 1 w.p. 1 / 2 } Z 2 ~ N T ( 0 , σ 2$x_n = Z_1 *Z_2~$ ở đâu, , , (tức là a RV cắt ngắn vô hướng với$~Z_1\sim\{\pm1 ~\text{w.p.}~ 1/2\}$$Z_2\sim\mathcal{N}_T(0,\sigma^2)$$T(x_1,\ldots,x_{n-1})\triangleq \sqrt{\max\left(0,\left(a^2-\sum_1^{n-1}x_i^2\right)\right)}$

Sẽ là một tiêu chuẩn-bị hạn chế ( ) đa biến Gaussian? (tức là giống như định nghĩa ở trên). Tôi nên xác minh như thế nào? Bất kỳ đề nghị khác nếu đây không phải là cách?≥ một $(X_1,X_2,\ldots,X_n)$$\geq a$$Y$

BIÊN TẬP:

Dưới đây là biểu đồ phân tán các điểm trong trường hợp 2D với chỉ tiêu bị cắt cụt thành các giá trị trên "1"

Lưu ý: Có một số câu trả lời tuyệt vời dưới đây, nhưng lý do tại sao đề xuất này sai là thiếu. Trong thực tế, đó là điểm chính của câu hỏi này.

Phân phối chuẩn đa biến đối xứng hình cầu. Phân phối mà bạn tìm kiếm cắt ngắn bán kính bên dưới tại . Bởi vì tiêu chí này chỉ phụ thuộc vào độ dài của , phân phối bị cắt cụt vẫn đối xứng hình cầu. Vì độc lập với góc hình cầuvà có phân phối , do đó bạn có thể tạo các giá trị từ phân phối bị cắt chỉ bằng một vài bước đơn giản:ρ = | | X | | $X$$\rho=||X||^2$$a$$X$X / | | X | | $\rho$$X/||X||$χ ( n )$\rho\,\sigma$$\chi(n)$

1. Tạo .$X \sim \mathcal{N}(0,\mathbb{I}_n)$

2. Tạo là căn bậc hai của phân phối bị cắt ở .$P$( một / σ ) $\chi^2(d)$$(a/\sigma)^2$

3. Đặt.$Y = \sigma P\, X/||X||$

Trong bước 1, thu được dưới dạng một chuỗi các thực hiện độc lập của một biến thông thường tiêu chuẩn.$X$$d$

Trong bước 2, dễ dàng được tạo bằng cách đảo ngược hàm lượng tử của phân phối : tạo một biến thống nhất được hỗ trợ trong phạm vi (của lượng tử) giữa và và đặt .F - 1 χ 2 ( d ) U $P$$F^{-1}$$\chi^2(d)$$U$1 P = $F((a/\sigma)^2)$$1$$P = \sqrt{F(U)}$

Dưới đây là biểu đồ gồm nhận thức độc lập như vậy của cho trong nguyên, được cắt dưới đây tại . Phải mất khoảng một giây để tạo ra, chứng thực tính hiệu quả của thuật toán. σ $10^5$$\sigma P$$\sigma=3$một = $n=11$$a=7$

Đường cong màu đỏ là mật độ của phân phối bị cắt bớt được chia tỷ lệ theo . Sự phù hợp chặt chẽ của nó với biểu đồ là bằng chứng về tính hợp lệ của kỹ thuật này.σ = $\chi(11)$$\sigma=3$

Để có được trực giác cho việc cắt ngắn, hãy xem xét trường hợp , trong nguyên. Đây là một biểu đồ phân tán của so với (cho hiện thực độc lập). Nó cho thấy rõ lỗ ở bán kính :σ = 1 n = 2 Y $a=3$$\sigma=1$$n=2$$Y_2$$Y_1$$10^4$$a$

Cuối cùng, lưu ý rằng (1) các thành phần phải có các phân phối giống hệt nhau (do tính đối xứng hình cầu) và (2) ngoại trừ khi , phân phối chung đó không bình thường. Trong thực tế, như phát triển lớn, sự sụt giảm nhanh chóng của (đơn biến) phân phối bình thường gây ra hầu hết các khả năng của đa biến hình cầu cắt ngắn bình thường chụm lại gần bề mặt của -sphere (bán kính ). Do đó, phân phối biên phải xấp xỉ phân phối Beta đối xứng tập trung trong khoảng . Điều này là rõ ràng trong biểu đồ phân tán trước, trong đó a = 0 a n - 1 a ( ( n - 1 ) / 2 , ( n - 1 ) / 2 ) ( - a , a ) a = 3 σ 2 - $X_i$$a=0$$a$$n-1$$a$$((n-1)/2,(n-1)/2)$$(-a,a)$$a=3\sigma$đã lớn ở hai chiều: các điểm giới hạn một vòng (một không gian ) bán kính .$2-1$$3\sigma$

Dưới đây là biểu đồ của các phân phối biên từ mô phỏng kích thước trong chiều với , (trong đó phân phối Beta gần đúng ):$10^5$$3$$a=10$$\sigma=1$$(1,1)$

Vì các lề đầu tiên của quy trình được mô tả trong câu hỏi là bình thường (bằng cách xây dựng), quy trình đó không thể chính xác.$n-1$

---

Đoạn Rmã sau tạo ra hình đầu tiên. Nó được xây dựng để bước song song 1-3 để tạo ra . Nó đã được sửa đổi để tạo ra các con số thứ hai bằng cách thay đổi biến , , , và rồi ban hành lệnh cốt truyện sau khi được tạo ra.$Y$adnsigmaplot(y[1,], y[2,], pch=16, cex=1/2, col="#00000010")y

Thế hệ của được sửa đổi trong mã cho độ phân giải cao hơn số: mã thực sự tạo và việc sử dụng đó để tính toán .$U$$1-U$$P$

Kỹ thuật mô phỏng dữ liệu tương tự theo một thuật toán giả định, tóm tắt nó bằng biểu đồ và áp dụng biểu đồ có thể được sử dụng để kiểm tra phương pháp được mô tả trong câu hỏi. Nó sẽ xác nhận rằng phương pháp không hoạt động như mong đợi.

a <- 7      # Lower threshold
d <- 11     # Dimensions
n <- 1e5    # Sample size
sigma <- 3  # Original SD
#
# The algorithm.
#
set.seed(17)
u.max <- pchisq((a/sigma)^2, d, lower.tail=FALSE)
if (u.max == 0) stop("The threshold is too large.")
u <- runif(n, 0, u.max)
rho <- sigma * sqrt(qchisq(u, d, lower.tail=FALSE)) 
x <- matrix(rnorm(n*d, 0, 1), ncol=d)
y <- t(x * rho / apply(x, 1, function(y) sqrt(sum(y*y))))
#
# Draw histograms of the marginal distributions.
#
h <- function(z) {
  s <- sd(z)
  hist(z, freq=FALSE, ylim=c(0, 1/sqrt(2*pi*s^2)),
       main="Marginal Histogram",
       sub="Best Normal Fit Superimposed")
  curve(dnorm(x, mean(z), s), add=TRUE, lwd=2, col="Red")
}
par(mfrow=c(1, min(d, 4)))
invisible(apply(y, 1, h))
#
# Draw a nice histogram of the distances.
#
#plot(y[1,], y[2,], pch=16, cex=1/2, col="#00000010") # For figure 2
rho.max <- min(qchisq(1 - 0.001*pchisq(a/sigma, d, lower.tail=FALSE), d)*sigma, 
               max(rho), na.rm=TRUE)
k <- ceiling(rho.max/a)
hist(rho, freq=FALSE, xlim=c(0, rho.max),  
     breaks=seq(0, max(rho)+a, by=a/ceiling(50/k)))
#
# Superimpose the theoretical distribution.
#
dchi <- function(x, d) {
  exp((d-1)*log(x) + (1-d/2)*log(2) - x^2/2 - lgamma(d/2))
}
curve((x >= a)*dchi(x/sigma, d) / (1-pchisq((a/sigma)^2, d))/sigma, add=TRUE, 
      lwd=2, col="Red", n=257)

Tôi đã viết điều này giả sử rằng bạn không muốn có bất kỳ điểm nào có | | y | | > a, đó là sự tương tự của việc cắt ngắn một chiều thông thường. Tuy nhiên, bạn đã viết rằng bạn muốn giữ điểm có | y | | > = a và ném ra những người khác. Tuy nhiên, điều chỉnh rõ ràng cho giải pháp của tôi có thể được thực hiện nếu bạn thực sự muốn giữ điểm có | y | | > = a.

Cách đơn giản nhất, vốn là một kỹ thuật rất chung chung, là sử dụng Chấp nhận-Từ chối https://en.wikipedia.org/wiki/Rejection_sampling . Nó sẽ khá nhanh miễn là Prob (| | X ||> a) khá thấp, vì sau đó sẽ không có nhiều từ chối.

Tạo một giá trị mẫu x từ Bình thường đa biến không giới hạn (mặc dù vấn đề của bạn nói rằng Đa biến thông thường là hình cầu, kỹ thuật có thể được áp dụng ngay cả khi không phải vậy). Nếu | | x | | <= a, chấp nhận, nghĩa là sử dụng x, nếu không thì từ chối nó và tạo một mẫu mới. Lặp lại quy trình này cho đến khi bạn có nhiều mẫu được chấp nhận như bạn cần. Tác dụng của việc áp dụng quy trình này là tạo ra y sao cho mật độ của nó là c * f_X (y), nếu | | y | | <= a và 0 nếu | | y | | > a, theo sự điều chỉnh của tôi đối với phần mở đầu của câu hỏi của bạn. Bạn không bao giờ cần phải tính c; nó có hiệu lực tự động được xác định bởi thuật toán dựa trên tần suất các mẫu bị từ chối.

$$f_X(x) \propto \frac{1}{{(2\pi\sigma^2)}^{n/2}} \exp\left(-\frac{||x||^2}{2\sigma^2}\right)\mathbb{I}_{||x||>a}=\frac{1}{{(2\pi\sigma^2)}^{n/2}} \exp\left(-\frac{x_1^2+\ldots+x_n^2}{2\sigma^2}\right)\mathbb{I}_{||x||>a}$$ $$f_X(x) \propto \frac{1}{{(2\pi\sigma^2)}^{(n-1)/2}} \exp\left(-\frac{||x_{-n}||^2}{2\sigma^2}\right)\frac{1}{{(2\pi\sigma^2)}^{1/2}} \exp\left(-\frac{x_n^2}{2\sigma^2}\right)\mathbb{I}_{||x||>a}$$ $$=\frac{1}{{(2\pi\sigma^2)}^{(n-1)/2}} \exp\left(-\frac{||x_{-n}||^2}{2\sigma^2}\right)\frac{1}{{(2\pi\sigma^2)}^{1/2}} \exp\left(-\frac{x_n^2}{2\sigma^2}\right)\mathbb{I}_{||x_{-n}||^2+x_n^2>a^2}$$ $$=\frac{\mathbb{P}(X_n^2>a^2-||x_{-n}||^2)}{{(2\pi\sigma^2)}^{(n-1)/2}} \exp\left(-\frac{||x_{-n}||^2}{2\sigma^2}\right)\qquad\qquad\qquad\qquad\qquad$$ $$\qquad\qquad\qquad\times\frac{\mathbb{P}(X_n^2>a^2-||x_{-n}||^2)^{-1}}{{(2\pi\sigma^2)}^{1/2}} \exp\left(-\frac{x_n^2}{2\sigma^2}\right)\mathbb{I}_{x_n^2>a-||x_{-n}||^2}$$ $$f_{X_{-n}}(x_{-n}) \propto \frac{\mathbb{P}(X_n^2>a^2-||x_{-n}||^2)}{{(2\pi\sigma^2)}^{(n-1)/2}} \exp\left(-\frac{||x_{-n}||^2}{2\sigma^2}\right)$$ $x_n$

1. $X_n$$X_{-n}$
2. $X_{-n}$$\mathbb{P}(X_n^2>a^2-||x_{-n}||^2)$

Cách duy nhất tôi có thể thấy trong việc tận dụng lợi thế của tài sản này là chạy bộ lấy mẫu Gibbs, một thành phần tại một thời điểm, sử dụng các phân phối có điều kiện bình thường bị cắt cụt.

Câu hỏi bắt nguồn từ ý tưởng sử dụng - phân tách điều kiện cơ bản của các phân phối chung - để vẽ các mẫu vectơ.

$X$

$\text{Prob}(||X||>a) \triangleq T$$Y\triangleq X.\mathbb{I}_{||X||>a}$

$$f_Y(y) = \frac{1}{T}\frac{1}{{(2\pi\sigma^2)}^{n/2}} \exp\left(-\frac{||y||^2}{2\sigma^2}\right)\mathbb{I}_{||y||>a}\\ =\frac{1}{T}\frac{1}{{(2\pi\sigma^2)}^{n/2}} \exp\left(-\frac{y_1^2+\ldots+y_n^2}{2\sigma^2}\right)\mathbb{I}_{||y||>a}\\ =\left(\prod_{i=1}^{n-1} \frac{1}{\sqrt{2\pi\sigma^2}} \exp\left(-\frac{y_i^2}{2\sigma^2}\right)\right) \left(\frac{1}{T}\frac{1}{\sqrt{2\pi\sigma^2}} \exp\left(-\frac{y_n^2}{2\sigma^2}\right)\mathbb{I}_{||y||>a}\right)\\ =\underbrace{\left(\prod_{i=1}^{n-1} \frac{1}{\sqrt{2\pi\sigma^2}} \exp\left(-\frac{y_i^2}{2\sigma^2}\right)\right)}_{\text{Gaussians}} \underbrace{\left(\frac{1}{T}\frac{1}{\sqrt{2\pi\sigma^2}} \exp\left(-\frac{y_n^2}{2\sigma^2}\right)\mathbb{I}_{y_n^2>(a^2-y_1^2-\ldots y_{n-1}^2)}\right)}_{\text{Truncated Gaussian??}}$$

Câu trả lời ngắn nhất là yếu tố sau không phải là một Gaussian bị cắt cụt, (quan trọng hơn) thậm chí không phải là một phân phối.

---

Dưới đây là lời giải thích chi tiết về lý do tại sao chính yếu tố trên có một số lỗ hổng cơ bản. Trong một câu duy nhất: mọi yếu tố có điều kiện của phân phối chung nhất định phải đáp ứng một số tính chất rất cơ bản và yếu tố trên không thỏa mãn chúng (Xem bên dưới).

$f_{XY}(x,y)=f_X(x)\cdot f_{Y|X}(y|x)$$f_X(x)$$X$$f_{Y|X}(y|x)$$Y$

1. $f(x,y)$$f_X(x)$
2. $f_{Y|X}(y|x)$$x$

$Y_n|(Y_1\ldots Y_{n-1})$

$(Y_1\ldots Y_{n-1})$

---

Một đề xuất thuật toán như vậy có lẽ là kết quả của quan niệm sai lầm sau: Một khi phân phối tự nhiên là các yếu tố ra khỏi phân phối chung (chẳng hạn như Gaussian ở trên), nó dẫn đến một yếu tố có điều kiện. ---- Không! ---- Yếu tố (thứ hai) khác cũng phải tốt.

---

Lưu ý: Có một câu trả lời tuyệt vời của @whuber trước đó, đó thực sự giải quyết được vấn đề tạo ra một Gaussian đa biến cắt ngắn định mức. Tôi chấp nhận câu trả lời của anh ấy. Câu trả lời này chỉ để làm rõ và chia sẻ sự hiểu biết của riêng tôi và nguồn gốc của câu hỏi.