Đặc điểm đáng ngạc nhiên nhất của phân phối Gaussian (bình thường) là gì?

52

Một phân phối Gaussian được tiêu chuẩn hóa trên có thể được xác định bằng cách cung cấp rõ ràng mật độ của nó: $\mathbb{R}$

\frac{1}{\sqrt{2 π}} e^{- x^{2} / 2}

$\frac{1}{\sqrt{2\pi}}e^{-x^2/2}$

hoặc chức năng đặc trưng của nó.

Như đã nhắc lại trong câu hỏi này, đây cũng là phân phối duy nhất mà giá trị trung bình và phương sai mẫu là độc lập.

Các đặc tính thay thế đáng ngạc nhiên khác của các biện pháp Gaussian mà bạn biết là gì? Tôi sẽ chấp nhận câu trả lời đáng ngạc nhiên nhất

— girard robin
nguồn

39

Điều đáng ngạc nhiên nhất của tôi là ý nghĩa về trung bình và phương sai mẫu, nhưng đây là một đặc điểm đáng ngạc nhiên khác (có thể): nếu và là IID có phương sai hữu hạn với và độc lập, thì và là bình thường. $X$ $Y$ $X+Y$ $X-Y$ $X$ $Y$

Theo trực giác, chúng ta thường có thể xác định khi các biến không độc lập với biểu đồ phân tán. Vì vậy, hãy tưởng tượng một phân tán của các cặp trông độc lập. Bây giờ xoay 45 độ và nhìn lại: nếu nó vẫn trông độc lập, thì tọa độ và riêng lẻ phải bình thường (tất nhiên điều này nói một cách lỏng lẻo). $(X,Y)$ $X$ $Y$

Để xem tại sao bit trực quan hoạt động, hãy xem

[\begin{array}{cc} \cos 45^{\circ} & - \sin 45^{\circ} \\ \sin 45^{\circ} & \cos 45^{\circ} \end{array}] [\begin{matrix} x \\ y \end{matrix}] = \frac{1}{\sqrt{2}} [\begin{matrix} x - y \\ x + y \end{matrix}]

$\left[ \begin{array}{cc} \cos45^{\circ} & -\sin45^{\circ} \newline \sin45^{\circ} & \cos45^{\circ} \end{array} \right] \left[ \begin{array}{c} x \newline y \end{array} \right]= \frac{1}{\sqrt{2}} \left[ \begin{array}{c} x-y \newline x+y \end{array} \right]$

— người dùng 1108
nguồn

3

Jay - về cơ bản là một tuyên bố lại về giá trị trung bình và phương sai là độc lập. là giá trị trung bình được chia tỷ lệ lại và là độ lệch chuẩn được thay đổi tỷ lệ.

X + Y

$X+Y$

X - Y

$X-Y$

— xác suất

5

@probabilityislogic - Tôi thích trực giác của những gì bạn nói, nhưng tôi không nghĩ đó chính xác là sự phục hồi vì không chính xác là thay đổi kích thước của SD: SD quên dấu hiệu. Vì vậy, sự độc lập của giá trị trung bình và SD xuất phát từ sự độc lập của , (khi ), nhưng không phải là cách khác. Đó có thể là những gì bạn có nghĩa là "về cơ bản". Dù sao, đó là thứ tốt.

X - Y

$X - Y$

X + Y

$X+Y$

X - Y

$X-Y$

n = 2

$n = 2$

4

Chúng tôi có thể tìm thấy bằng chứng cho tài sản này ở đâu?

— Royi

1

@Royi xem 16. đây . Với (a), lưu ý rằng . Đối với (b) lưu ý rằng sẽ khao khát thay thế từ đó bạn nhận được . Nếu , thì , do đó với mọi , và có một chuỗi sao cho và với mọi , điều này mâu thuẫn với tính liên tục của tại

2 X = (X + Y) + (X - Y)

$2X=(X+Y)+(X-Y)$

φ (2 t) φ (- 2 t) = (φ (t) φ (- t))^{4}

$\varphi(2t)\varphi(-2t)=(\varphi(t)\varphi(-t))^4$

ψ (t) = φ (t) φ (- t)

$\psi(t)=\varphi(t)\varphi(-t)$

ψ (t) = ψ^{2^{2 n}} (\frac{t}{2^{n}})

$\psi(t)=\psi^{2^{2n}}(\frac{t}{2^n})$

φ (t_{0}) = 0

$\varphi(t_0)=0$

ψ (t_{0}) = 0

$\psi(t_0)=0$

n

$n$

ψ (\frac{t_{0}}{2^{n}}) = 0

$\psi(\frac{t_0}{2^n})=0$

t_{n}

$t_n$

t_{n} \to 0

$t_n\to 0$

φ (t_{n}) = 0

$\varphi(t_n)=0$

n

$n$

φ

$\varphi$

0

$0$ . (c) là straighforward [tiếp tục]

— Gabriel Romon

1

Với (d), . Lưu ý rằng , do đó . Cắm cái này vào đẳng thức trước và chứng minh rằng với cố định , có nghĩa là với mọi . Điều này có nghĩa là là có thật và đẳng thức trong (a) biến thành những gì được hỏi. Một lần nữa, hãy chứng minh rằng và sử dụng để nhận . Do đó và

γ (t) = γ^{2^{n}} (\frac{t}{2^{n}})

$\gamma(t)=\gamma^{2^n}(\frac{t}{2^n})$

φ (t) = 1 - \frac{t^{2}}{2} + o (t^{2})

$\varphi(t)=1-\frac{t^2}2+o(t^2)$

γ (t) = 1 + o (t^{2})

$\gamma(t)=1+o(t^2)$

t

$t$

lim_{n} γ^{2^{n}} (\frac{t}{2^{n}}) = 1

$\lim_n \gamma^{2^n}(\frac{t}{2^n}) = 1$

γ (t) = 1

$\gamma(t)=1$

t

$t$

φ

$\varphi$

φ (t) = φ^{2^{2 n}} (\frac{t}{2^{n}})

$\varphi(t)=\varphi^{2^{2n}}(\frac{t}{2^n})$

φ (t) = 1 - \frac{t^{2}}{2} + o (t^{2})

$\varphi(t)=1-\frac{t^2}2+o(t^2)$

lim_{n} φ^{2^{2 n}} (\frac{t}{2^{n}}) = e^{- t^{2} / 2}

$\lim_n \varphi^{2^{2n}}(\frac{t}{2^n}) = e^{-t^2/2}$

φ (t) = e^{- t^{2} / 2}

$\varphi(t)=e^{-t^2/2}$

X

$X$ là bình thường.

— Gabriel Romon

27

Phân phối liên tục với phương sai cố định tối đa hóa entropy là phân phối Gaussian.

— shabbychef
nguồn

22

Có cả một cuốn sách viết về điều này: "Đặc điểm của luật xác suất thông thường", AM Mathai & G. Perderzoli. Một đánh giá ngắn gọn trong JASA (tháng 12 năm 1978) đề cập đến những điều sau đây:

Đặt là các biến ngẫu nhiên độc lập. Sau đó và là độc lập, trong đó , nếu và chỉ khi [được] phân phối bình thường. $X_1, \ldots, X_n$ $\sum_{i=1}^n{a_i x_i}$ $\sum_{i=1}^n{b_i x_i}$ $a_i b_i \ne 0$ $X_i$

— whuber
nguồn

3

phải có một điều kiện như vậy bị thiếu? ví dụ: nếu n = 2 và không độc lập.

< a, b >= 0

$<a,b>=0$

a_{i} = b_{i} = 1

$a_i=b_i=1$

X_{1} + X_{2}

$X_1+X_2$

X_{1} + X_{2}

$X_1+X_2$

— cướp girard

1

@robin bắt tốt. Tôi cũng đang hoang mang về các bộ định lượng ngầm. Thật không may, tất cả những gì tôi có quyền truy cập là trích dẫn (giật gân) từ đánh giá, không phải cuốn sách. Sẽ rất vui khi tìm thấy nó trong một thư viện và duyệt qua nó ...

— whuber

Cảm giác này giống như một sự khái quát hóa câu trả lời của G. Jay Kerns (hiện là số 1).

— vqv

Tôi nghĩ rằng bạn có thể đang tìm kiếm bài báo của Lukacs & King (1954). Xem câu trả lời này tại math.SE với một liên kết đến bài báo đã nói ở trên.

— Đức Hồng Y

2

Trường hợp mệnh đề này nói "where ", có nghĩa là MỌI bộ vô hướng trong đó "? Tôi ghét nhìn thấy" where "được sử dụng thay cho" cho mọi "hoặc" cho một số "." Trong đó "nên được sử dụng để giải thích ký hiệu của một người, như trong" trong đó là tốc độ ánh sáng và là tổng sản phẩm quốc nội ", v.v.

a_{i} b_{i} \neq 0

$a_i b_i\ne 0$

a_{i} b_{i} \neq 0

$a_i b_i \ne 0$

c

$c$

g

$g$

— Michael Hardy

17

Phân phối Gaussian là phân phối ổn định tổng duy nhất với phương sai hữu hạn.

— shabbychef
nguồn

8

Rằng họ là tổng ổn định và họ là những người duy nhất có phương sai hữu hạn đều bị CLT ép buộc chúng tôi. Phần thú vị của khẳng định này là có tồn tại các phân phối ổn định tổng hợp khác !

— whuber

1

@whuber: quả thật! đặc tính này là một chút mâu thuẫn, và các phân phối tổng ổn định khác có lẽ gây tò mò hơn.

— shabbychef

@whuber thực sự, tôi không thấy CLT ngụ ý thực tế này như thế nào. Nó dường như chỉ cho chúng tôi biết rằng tiệm , tổng của normals là bình thường, không phải là bất kỳ tổng hữu hạn thường được phân phối. Hay bạn cũng phải sử dụng định lý Slutsky bằng cách nào đó?

— shabbychef

3

Áp dụng tiêu chuẩn hóa thông thường, tổng hai tiêu chuẩn là tổng của một phân phối bình thường X_0 cộng với phân phối giới hạn của một chuỗi X_1, X_2, ..., trong đó tổng là phân phối giới hạn của X_0, X_1, ..., bởi CLT Lindeberg-Levy là bình thường.

— whuber

17

Bổ đề của Stein cung cấp một đặc tính rất hữu ích. là Gaussian iff tiêu chuẩn cho tất cả các hàm hoàn toàn liên tục với . $Z$

E f^{'} (Z) = E Z f (Z)

$E f’(Z) = E Z f(Z)$

f

$f$

E | f^{'} (Z) | < \infty

$E|f’(Z)| < \infty$

— vqv
nguồn

12

Định lý [Herschel-Maxwell]: Đặt là một vectơ ngẫu nhiên mà (i) các phép chiếu vào các không gian con trực giao là độc lập và (ii) phân phối của chỉ phụ thuộc vào độ dài. Sau đó được phân phối bình thường. $Z \in \mathbb{R}^n$ $Z$ $\|Z\|$ $Z$

Trích dẫn bởi George Cobb trong giảng dạy thống kê: Một số căng thẳng quan trọng (Chile J. Statistics Vol. 2, số 1, tháng 4 năm 2011) tại trang. 54.

Cobb sử dụng đặc tính này làm điểm bắt đầu để lấy các phân phối , và , mà không sử dụng Giải tích (hoặc lý thuyết xác suất nhiều). $\chi^2$ $t$ $F$

— whuber
nguồn

9

Đặt và là hai biến ngẫu nhiên độc lập có phân phối đối xứng chung sao cho $\eta$ $\xi$

P (| \frac{ξ + η}{\sqrt{2}} | \geq t) \leq P (| ξ | \geq t) .

$P\left ( \left |\frac{\xi+\eta}{\sqrt{2}}\right | \geq t \right )\leq P(|\xi|\geq t).$

Sau đó, các biến ngẫu nhiên là gaussian. (Rõ ràng, nếu và là gaussian trung tâm, thì đó là sự thật.) $\xi$ $\eta$

Đây là Định lý Bobkov-Houdre

— girard robin
nguồn

9

Đây không phải là một đặc tính mà là một phỏng đoán, xuất hiện từ năm 1917 và là do Cantelli:

Nếu là hàm dương trên và và là các biến ngẫu nhiên độc lập sao cho là bình thường, thì là hằng số gần như ở mọi nơi. $f$ $\mathbb{R}$ $X$ $Y$ $N(0,1)$ $X+f(X)Y$ $f$

Được đề cập bởi Gérard Letac ở đây .

— đã làm
nguồn

thật tốt khi bạn đề cập đến nó! Tôi không thể tìm ra trực giác, phải không?

— cướp girard

@robin Đây là điều làm cho phỏng đoán này trở nên đặc biệt: một tuyên bố hoàn toàn cơ bản, một số cách tiếp cận rõ ràng thất bại thảm hại (các chức năng đặc trưng), và người ta không còn gì để nắm bắt ... Nhân tiện, người ta nên đặt cược vào phỏng đoán là đúng Hay sai? Ngay cả điều đó là không rõ ràng (với tôi).

— Đã làm

2

Nếu Gérard Letac không thể chứng minh điều đó, nó có thể tồn tại một phỏng đoán mở trong một thời gian dài ...!

— Tây An

@ Xi'an: Tôi hoàn toàn đồng ý, tất nhiên. (Không biết bạn đã chuyển vùng trong các khu vực này của web ... Tin vui là bạn.)

— Có phải

6

@ Xi'an Dưới đây là bản in lại của Victor Kleptsyn và Aline Kurtzmann với một ví dụ về phỏng đoán Cantelli. Cấu trúc sử dụng một công cụ mới, mà các tác giả gọi là vận chuyển khối lượng Brown và mang lại một hàm không liên tục . Các tác giả tuyên bố rằng họ tin rằng phỏng đoán Cantelli giữ nếu người ta hỏi rằng là liên tục (chúng là hỗn hợp của hai hàm liên tục).

f

$f$

f

$f$

— Đã làm

8

Giả sử một người đang ước tính một tham số vị trí bằng cách sử dụng dữ liệu iid . Nếu là công cụ ước tính khả năng tối đa, thì phân phối lấy mẫu là Gaussian. Theo Lý thuyết Xác suất của Jaynes : Logic của Khoa học Trang 202-4, đây là cách Gauss ban đầu dẫn xuất nó. $\{x_1,...,x_n\}$ $\bar{x}$

— Lục lam
nguồn

Tôi không chắc tôi hiểu đây là một đặc điểm của phân phối bình thường, vì vậy tôi có thể thiếu một cái gì đó. Điều gì xảy ra nếu chúng tôi có dữ liệu Poid và muốn ước tính ? MLE là nhưng phân phối lấy mẫu của không phải là Gaussian - trước hết, phải hợp lý; thứ hai, nếu đó là Gaussian, thì đó sẽ là nhưng đó là .

μ

$\mu$

\bar{x}

$\bar{x}$

\bar{x}

$\bar{x}$

\bar{x}

$\bar{x}$

\sum x_{i}

$\sum{x_i}$

Poisson (n μ)

$\text{Poisson}(n\mu)$

— Cá bạc

2

Giá trị trung bình của Poisson không phải là tham số vị trí!

— kjetil b halvorsen

6

Một đặc tính cụ thể hơn của phân phối bình thường giữa các lớp phân phối vô hạn chia hết được trình bày trong Steutel và Van Harn (2004) .

Một biến ngẫu nhiên vô hạn không phân chia vô hạn có phân phối bình thường khi và chỉ khi nó thỏa mãn $X$
$- \underset{x \to \infty}{lim sup} \frac{\log P (| X | > x)}{x \log (x)} = \infty .$ $-\limsup_{x\rightarrow\infty}\dfrac{\log{\mathbb P}(\vert X\vert>x)}{x\log(x)}=\infty.$

Kết quả này đặc trưng cho phân phối bình thường về hành vi đuôi của nó.

— dùng10525
nguồn

1

Một bằng chứng ngắn về giới hạn đã nêu như sau: Nếu là tiêu chuẩn bình thường, thì là , vì vậy . Nhưng và do đó, kết quả như sau. Một bản phác thảo sơ bộ cho trường hợp của Poisson dường như chỉ ra rằng giới hạn đã cho là , nhưng tôi đã không kiểm tra quá chặt chẽ.

X

$X$

x P (X > x) / φ (x) \to 1

$x \mathbb P(X>x)/\varphi(x)\to 1$

x \to \infty

$x\to \infty$

\log P (X > x) - \log φ (x) + \log x \to 0

$\log\mathbb P(X>x)−\log \varphi(x) + \log x \to 0$

2 \log φ (x) \sim - x^{2}

$2 \log \varphi(x) \sim −x^2$

λ

$\lambda$

— Đức hồng y

6

Trong bối cảnh làm mịn hình ảnh (ví dụ không gian tỷ lệ ), Gaussian là hạt nhân duy nhất có thể phân tách đối xứng xoay *.

Nghĩa là, nếu chúng ta yêu cầu trong đó , thì đối xứng quay yêu cầu tương đương với .

F [x, y] = f [x] f [y]

$F[x,y]=f[x]f[y]$

[x, y] = r [\cos θ, \sin θ]

$[x,y]=r[\cos\theta,\sin\theta]$

\begin{aligned} F_{θ} & = f^{'} [x] f [y] x_{θ} + f [x] f^{'} [y] y_{θ} \\ = - f^{'} [x] f [y] y + f [x] f^{'} [y] x = 0 \\ ⟹ \\ \frac{f^{'} [x]}{x f [x]} & = \frac{f^{'} [y]}{y f [y]} = c o n s t . \end{aligned}

$\begin{align} F_\theta &= f'[x]f[y]x_\theta+f[x]f'[y]y_\theta \\ &= -f'[x]f[y]y+f[x]f'[y]x = 0 \\ &\implies \\ \frac{f'[x]}{xf[x]} &= \frac{f'[y]}{yf[y]} = \mathrm{const.} \end{align}$

\log [f [x]]^{'} = c x

$\log\big[f[x]\big]'=cx$

Yêu cầu là một hạt nhân thích hợp sau đó yêu cầu hằng số âm và giá trị ban đầu dương, mang lại hạt nhân Gaussian. $f[x]$

* Trong bối cảnh phân phối xác suất, có thể tách rời có nghĩa là độc lập, trong khi trong bối cảnh lọc hình ảnh, nó cho phép giảm tích chập 2D tính toán xuống hai cấu trúc 1D.

— GeoMatt22
nguồn

2

+1 Nhưng điều này không tuân theo ứng dụng tức thời của định lý Herschel-Maxwell trong 2D?

— whuber

@whuber Thật vậy, bằng cách nào đó tôi đã bỏ qua câu trả lời của bạn khi xem qua chủ đề này!

— amip nói phục hồi Monica

@whuber Có. Tôi đã không đọc qua chủ đề cũ này một cách chi tiết, và chỉ thêm câu trả lời này theo yêu cầu.

— GeoMatt22

1

@amoeba xem thêm tại đây .

— GeoMatt22

3

Gần đây Ejsmont [1] đã xuất bản bài báo với đặc tính mới của Gaussian:

Đặt là các vectơ ngẫu nhiên độc lập với tất cả các khoảnh khắc, trong đó là không phân phối và để thống kê có phân phối chỉ phụ thuộc vào , trong đó và . Khi đó độc lập và có cùng phân phối bình thường với số không có nghĩa và cho . $(X_1,\dots, X_m,Y) \textrm{ and } (X_{m+1},\dots,X_n,Z)$ $X_i$ $\sum_{i=1}^na_iX_i+Y+Z$ $\sum_{i=1}^n a_i^2$ $a_i\in \mathbb{R}$ $1\leq m < n$ $X_i$ $cov(X_i,Y)=cov(X_i,Z)=0$ $i\in\{1,\dots,n\}$

[1]. Ejsmont, Wiktor. "Một đặc tính của phân phối bình thường bởi sự độc lập của một cặp vectơ ngẫu nhiên." Số liệu thống kê & xác suất 114 (2016): 1-5.

— Daniel
nguồn

1

Đó là một đặc tính tinh tế và hấp dẫn. Cảm ơn bạn đã cải thiện chủ đề này bằng cách chia sẻ nó!

— whuber

1

Chức năng đặc trưng của nó có dạng tương tự như pdf của nó. Tôi không chắc chắn về phân phối khác mà làm điều đó.

— Jason
nguồn

4

Xem câu trả lời này của tôi để biết cách xây dựng các biến ngẫu nhiên có các hàm đặc trưng giống như pdf của chúng.

— Dilip Sarwate

-1

Kỳ vọng cộng với độ lệch chuẩn là các điểm yên của chức năng.

— Tal Galili
nguồn

11

Đây là một thuộc tính của phân phối Bình thường, chắc chắn, nhưng nó không đặc trưng cho nó, bởi vì nhiều phân phối khác cũng có thuộc tính này.

— whuber