Mối quan hệ giữa phân phối gamma và phân phối bình thường


26

Gần đây tôi thấy cần phải lấy ra một pdf cho bình phương của một biến ngẫu nhiên bình thường với giá trị trung bình 0. Vì bất kỳ lý do gì, tôi đã chọn không bình thường hóa phương sai trước đó. Nếu tôi làm điều này một cách chính xác thì pdf này như sau:

N2(x;σ2)= =1σ2πxe-x2σ2

Tôi nhận thấy rằng trên thực tế đây chỉ là một tham số của phân phối gamma:

N2(x;σ2)= =Gamma(x;12,2σ2)

Và sau đó, từ thực tế tổng của hai gamma (có cùng tham số tỷ lệ) bằng một gamma khác, theo đó gamma tương đương với tổng bình thường ngẫu nhiên bình thường.k

NΣ2(x;k,σ2)= =Gamma(x;k2,2σ2)

Điều này là một chút ngạc nhiên đối với tôi. Mặc dù tôi biết phân phối - phân phối tổng số RV bình thường tiêu chuẩn bình phương - là một trường hợp đặc biệt của gamma, tôi không nhận ra gamma về cơ bản chỉ là một khái quát cho phép tổng số bình thường biến ngẫu nhiên của bất kỳ phương sai. Điều này cũng dẫn đến các đặc điểm khác mà tôi chưa từng gặp trước đây, chẳng hạn như phân phối theo cấp số nhân tương đương với tổng của hai phân phối bình thường bình phương.χ2

Đây là tất cả phần bí ẩn đối với tôi. Là phân phối bình thường cơ bản cho sự phát sinh của phân phối gamma, theo cách tôi đã nêu ở trên? Hầu hết các tài nguyên tôi đã kiểm tra không đề cập đến việc hai bản phân phối có liên quan đến bản chất như thế này, hoặc thậm chí đối với vấn đề đó mô tả cách thức gamma có nguồn gốc. Điều này khiến tôi nghĩ rằng một số sự thật cấp thấp hơn đang diễn ra mà tôi chỉ đơn giản nhấn mạnh một cách khó hiểu?


6
Nhiều sách giáo khoa đại học về lý thuyết xác suất đề cập đến tất cả các kết quả trên; nhưng có lẽ văn bản thống kê không bao gồm những ý tưởng? Trong mọi trường hợp, biến ngẫu nhiên chỉ là trong đó là biến ngẫu nhiên bình thường tiêu chuẩn và vì vậy (đối với biến iid) chỉ đơn giản là một biến ngẫu nhiên có tỷ lệ không gây ngạc nhiên cho những người đã nghiên cứu lý thuyết xác suất. N(0,σ2)YtôiσXtôiXtôiΣtôiYtôi2= =σ2ΣtôiXtôi2 χ2
Dilip Sarwate

Tôi đến từ nền tảng thị giác máy tính nên thường không gặp phải lý thuyết xác suất. Không có sách giáo khoa nào của tôi (hoặc Wikipedia) đề cập đến cách giải thích này. Tôi cho rằng tôi cũng đang hỏi, điều gì đặc biệt về tổng bình phương của hai phân phối bình thường làm cho nó trở thành một mô hình tốt cho thời gian chờ đợi (tức là phân phối theo cấp số nhân). Nó vẫn cảm thấy như tôi đang thiếu một cái gì đó sâu sắc hơn.
timxyz

3
Vì Wikipedia định nghĩa phân phối chi bình phương là tổng của Normals bình phương tại en.wikipedia.org/wiki/Chi-squared_distribution#DefDef và đề cập đến chi bình phương là một trường hợp đặc biệt của Gamma (tại en.wikipedia.org/wiki / Gamma_distribution # Other ), người ta hiếm khi có thể tuyên bố những mối quan hệ này không được biết đến nhiều. Phương sai tự nó chỉ đơn thuần là thiết lập đơn vị đo lường (một tham số tỷ lệ) trong mọi trường hợp và do đó không đưa ra biến chứng nào thêm.
whuber

3
Mặc dù những kết quả này nổi tiếng trong lĩnh vực xác suất và thống kê, nhưng bạn hoàn thành tốt cho bạn @timxyz vì đã khám phá lại chúng trong phân tích của riêng bạn.
Phục hồi lại

Kết nối không phải là bí ẩn, đó là bởi vì họ là thành viên của gia đình phân phối theo cấp số nhân, thuộc tính nổi bật mà họ có thể đến bằng cách thay thế các biến và / hoặc tham số. Xem câu trả lời dài hơn dưới đây với các ví dụ.
Carl

Câu trả lời:


18

Như nhận xét của giáo sư Sarwate đã lưu ý, mối quan hệ giữa bình phương bình phương và bình phương là một thực tế được phổ biến rộng rãi - vì đó cũng là thực tế rằng một bình phương chỉ là một trường hợp đặc biệt của phân phối Gamma:

XN(0,σ2)X2/σ2χ12X2σ2χ12=Gamma(12,2σ2)

sự bình đẳng cuối cùng theo sau từ thuộc tính tỷ lệ của Gamma.

Liên quan đến mối quan hệ với số mũ, chính xác, đó là tổng của hai bình phương trung bình không bình phương, mỗi bình phương được chia tỷ lệ theo phương sai của số khác , dẫn đến phân bố mũ:

X1N(0,σ12),X2N(0,σ22)X12σ12+X22σ22χ22σ22X12+σ12X22σ12σ22χ22

σ22X12+σ12X22σ12σ22χ22=Gamma(1,2σ12σ22)=Exp(12σ12σ22)

Nhưng sự nghi ngờ rằng có "một cái gì đó đặc biệt" hoặc "sâu hơn" trong tổng hai bình phương trung bình bằng 0 "làm cho chúng trở thành một mô hình tốt cho thời gian chờ đợi" là không có cơ sở: Trước hết, điều gì đặc biệt về phân bố mũ là một mô hình tốt cho "thời gian chờ đợi"? Tất nhiên là không có bộ nhớ, nhưng có một cái gì đó "sâu hơn" ở đây, hay chỉ là dạng chức năng đơn giản của hàm phân phối mũ, và các thuộc tính của ? Các thuộc tính độc đáo nằm rải rác trên khắp Toán học và hầu hết thời gian, chúng không phản ánh một số "trực giác sâu sắc hơn" hoặc "cấu trúc" - chúng chỉ tồn tại (rất may).e

Thứ hai, bình phương của một biến có rất ít mối quan hệ với mức của nó. Chỉ cần xem xét in, giả sử, [ - 2 ,f(x)= =x :[-2,2]

nhập mô tả hình ảnh ở đây

... Hoặc vẽ biểu đồ mật độ chuẩn thông thường so với mật độ chi bình phương: chúng phản ánh và thể hiện các hành vi ngẫu nhiên hoàn toàn khác nhau, mặc dù chúng có liên quan mật thiết với nhau, vì thứ hai là mật độ của một biến là bình phương thứ nhất. Bình thường có thể là một trụ cột rất quan trọng của hệ thống toán học mà chúng tôi đã phát triển để mô hình hóa hành vi ngẫu nhiên - nhưng một khi bạn bình phương nó, nó sẽ trở thành một thứ hoàn toàn khác.


Cảm ơn đã giải quyết cụ thể các câu hỏi trong đoạn cuối của tôi.
timxyz

2
Không có gì. Tôi phải thừa nhận rằng tôi rất vui vì câu trả lời của mình đã đạt được OP 26 tháng sau khi câu hỏi được đăng.
Alecos Papadopoulos

11

Hãy để chúng tôi giải quyết câu hỏi được đặt ra, Điều này là một phần bí ẩn đối với tôi. Là phân phối bình thường cơ bản cho sự phát sinh của phân phối gamma ...? Thực sự không có gì bí ẩn, chỉ đơn giản là phân phối bình thường và phân phối gamma là thành viên, trong số những người khác thuộc họ phân phối theo cấp số nhân , họ được xác định bởi khả năng chuyển đổi giữa các dạng phương trình bằng cách thay thế các tham số và / hoặc biến. Kết quả là, có nhiều chuyển đổi bằng cách thay thế giữa các bản phân phối, một vài trong số đó được tóm tắt trong hình dưới đây.

nhập mô tả hình ảnh ở đâyLEEMIS, Lawrence M.; Jacquelyn T. MCQUESTON (Tháng 2 năm 2008). "Mối quan hệ phân phối đơn biến" (PDF). Thống kê người Mỹ. 62 (1): 45 bóng53. doi: 10.1198 / 000313008x270448 trích dẫn

Dưới đây là hai mối quan hệ phân phối bình thường và gamma chi tiết hơn (trong số những người khác không xác định, như thông qua chi bình phương và beta).

Đầu tiên Một mối quan hệ trực tiếp hơn giữa phân phối gamma (GD) và phân phối bình thường (ND) với số không trung bình theo sau. Nói một cách đơn giản, GD trở nên có hình dạng bình thường vì tham số hình dạng của nó được phép tăng. Chứng minh rằng đó là trường hợp khó khăn hơn. Đối với GD,

GD(z;a,b)={baza1ezbΓ(a)z>00other.

Như hình dạng GD tham số , hình dạng GD trở thành đối xứng hơn và bình thường, tuy nhiên, như tăng trung bình với sự gia tăng một , chúng ta phải thay đổi trái GD bằng ( một - 1 ) aađể giữ nó đứng yên, và cuối cùng, nếu chúng ta muốn duy trì độ lệch chuẩn tương tự cho GD chuyển của chúng tôi, chúng ta phải giảm quy mô tham số (b) tỷ lệ thuận với(a1)1akb .1a

Để wit, để biến đổi một GD đến một trường hợp hạn chế NĐ chúng tôi thiết lập độ lệch chuẩn là một hằng số ( ) bằng cách cho phép b = kvà chuyển GD ở bên trái để có một phương thức không bằng cách thayz=(một-1)b=1akSau đó,GD((một-1)z=(a1)1ak+x .

GD((một-1)1mộtk+x; một, 1mộtk)= ={(kmột)-mộte-mộtxk-một+1((một-1)kmột+x)một-1Γ(một)x>k(1-một)một0khác.

Lưu ý rằng trong giới hạn như giá trị tiêu cực nhất của x mà GD này là nonzero - . Đó là, hỗ trợ GD bán vô hạn trở thành vô hạn . Lấy hạn như một của reparameterized GD, chúng ta thấymộtx-một

lima(ka)aeaxka+1((a1)ka+x)a1Γ(a)=ex22k22πk=ND(x;0,k2)

k= =2một= =1,2,4,số 8,16,32,64ND(x;0, 22)

nhập mô tả hình ảnh ở đây

Thứ hai Chúng ta hãy xác định rằng do sự giống nhau về hình thức giữa các phân phối này, người ta có thể phát triển khá nhiều mối quan hệ giữa gamma và phân phối bình thường bằng cách kéo chúng ra khỏi không khí mỏng. Để dí dỏm, tiếp theo chúng tôi phát triển một khái quát phân phối gamma "chưa được mở" của một phân phối bình thường.

Lưu ý đầu tiên rằng chính sự hỗ trợ bán vô hạn của phân phối gamma cản trở mối quan hệ trực tiếp hơn với phân phối bình thường. Tuy nhiên, trở ngại đó có thể được loại bỏ khi xem xét phân phối nửa bình thường, cũng có hỗ trợ bán vô hạn. Do đó, người ta có thể khái quát hóa phân phối bình thường (ND) bằng cách gấp nó thành nửa bình thường (HND), liên quan đến phân phối gamma tổng quát (GD), sau đó cho chuyến tham quan của chúng tôi, chúng tôi "mở ra" cả (HND và GD) để tạo một ND tổng quát (GND), do đó.

Phân phối gamma tổng quát

GD(x;α,β,γ,μ)= ={γe-(x-μβ)γ(x-μβ)αγ-1βΓ(α)x>μ0khác,

Có thể được xác định lại thành phân phối nửa bình thường ,

GD(x;12,πθ,2,0)= ={2θe-θ2x2ππx>00khác= =HND(x;θ)

θ= =πσ2.

ND(x;0,σ2)=12HND(x;θ)+12HND(x;θ)=12GD(x;12,πθ,2,0)+12GD(x;12,πθ,2,0),

ngụ ý rằng

GND(x;μ,α,β)=12GD(x;1β,α,β,μ)+12GD(x;1β,α,β,μ)=βe(|xμ|α)β2αΓ(1β),

μα>0β>0β=2β=1β(μα,μ+α)α=π2,β=1/2,1,4α=π2,β=2

nhập mô tả hình ảnh ở đây

Trên đây có thể được xem là phân phối chuẩn hóa tổng quát Phiên bản 1 và trong các tham số hóa khác nhau được gọi là phân phối công suất theo cấp số nhân và phân phối lỗi tổng quát, lần lượt là một trong một số phân phối bình thường tổng quát khác .


2

Đạo hàm của phân phối chi bình phương từ phân phối bình thường rất giống với phân phối gamma từ phân bố mũ.

Chúng ta có thể khái quát hóa điều này:

  • XtôimY= =ΣtôinXtôimn/m

Sự tương tự như sau:

Phân phối bình thường và Chi bình phương liên quan đến tổng bình phương

  • Σxtôi2
    f(x1,x2,...,xn)= =điểm kinh nghiệm(-0,5Σtôi= =1nxtôi2)(2π)n/2

  • Xtôi~N(0,1)

    Σtôi= =1nXtôi2~χ2(ν)

Phân phối theo cấp số nhân và gamma liên quan đến tổng thường xuyên

  • Σxtôi

    f(x1,x2,...,xn)= =điểm kinh nghiệm(-λΣtôi= =1nxtôi)λ-n

  • Xtôi~Exp(λ)

    sau đó Σtôi= =1nXtôi~Gamma(n,λ)


x1,x2,...xn

χ2

fχ2(n)(S)dS= =e-S/2(2π)n/2dVdSdS= =e-S/2(2π)n/2πn/2Γ(n/2)Sn/2-1dS= =12n/2Γ(n/2)Sn/2-1e-S/2dS

V(S)= =πn/2Γ(n/2+1)Sn/2S

Đối với phân phối gamma:

fG(n,λ)(S)dS= =e-λSλ-ndVdSdS= =e-λSλ-nnSn-1n!dS= =λnΓ(n)Sn-1e-λSdS

V(S)= =Snn!là thể tích n chiều của đa giác n vớiΣxtôi<S.


Phân phối gamma có thể được xem là thời gian chờ đợi Y cho nsự kiện thứ trong một quá trình Poisson được phân phối dưới dạng tổng của n biến phân bố theo cấp số nhân.

Như Alecos Papadopoulos đã lưu ý, không có mối liên hệ sâu sắc nào làm cho tổng các biến bình thường bình phương 'một mô hình tốt cho thời gian chờ đợi'. Phân phối gamma là phân phối cho tổng các biến phân phối chuẩn thông thường. Đó là cách hai người đến với nhau.

Nhưng loại tổng và loại biến có thể khác nhau. Trong khi phân phối gamma, khi xuất phát từ phân bố mũ (p = 1), có được sự giải thích về phân bố mũ (thời gian chờ), bạn không thể quay ngược lại và quay lại một tổng các biến Gauss bình phương và sử dụng cùng một cách hiểu đó.

Phân bố mật độ cho thời gian chờ giảm theo cấp số nhân và phân bố mật độ cho lỗi Gaussian giảm theo cấp số nhân (với một hình vuông). Đó là một cách khác để xem hai kết nối.

Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.