Mối quan hệ giữa các bản phân phối Binomial và Beta

Tôi là một lập trình viên nhiều hơn là một nhà thống kê, vì vậy tôi hy vọng câu hỏi này không quá ngây thơ.

Nó xảy ra trong việc thực hiện chương trình lấy mẫu tại các thời điểm ngẫu nhiên. Nếu tôi lấy N = 10 mẫu thời gian ngẫu nhiên về trạng thái của chương trình, tôi có thể thấy hàm Foo được thực thi trên, ví dụ, I = 3 trong số các mẫu đó. Tôi quan tâm đến những gì cho tôi biết về phần thời gian thực tế mà Foo đang thực hiện.

Tôi hiểu rằng tôi được phân phối nhị thức với trung bình F * N. Tôi cũng biết rằng, với I và N, F tuân theo phân phối beta. Trong thực tế, tôi đã xác minh bằng chương trình mối quan hệ giữa hai phân phối đó, đó là

cdfBeta(I, N-I+1, F) + cdfBinomial(N, F, I-1) = 1

Vấn đề là tôi không có cảm giác trực quan cho mối quan hệ. Tôi không thể "hình ảnh" tại sao nó hoạt động.

EDIT: Tất cả các câu trả lời đều đầy thách thức, đặc biệt là @ whuber, mà tôi vẫn cần phải mò mẫm, nhưng đưa ra số liệu thống kê theo thứ tự là rất hữu ích. Tuy nhiên, tôi đã nhận ra rằng tôi nên hỏi một câu hỏi cơ bản hơn: Cho tôi và N, phân phối cho F là gì? Mọi người đã chỉ ra rằng đó là bản Beta, mà tôi biết. Cuối cùng tôi đã tìm ra từ Wikipedia ( Liên hợp trước ) rằng nó dường như là Beta(I+1, N-I+1). Sau khi khám phá nó với một chương trình, nó dường như là câu trả lời đúng. Vì vậy, tôi muốn biết nếu tôi sai. Và, tôi vẫn còn bối rối về mối quan hệ giữa hai cdf được hiển thị ở trên, tại sao chúng lại tổng hợp thành 1 và liệu chúng có liên quan gì đến những gì tôi thực sự muốn biết không.

Xem xét số liệu thống kê theo thứ tự của n + 1 độc lập rút ra từ một phân bố đều. Vì thống kê đơn hàng có phân phối Beta , nên khả năng x [ k ] không vượt quá p được đưa ra bởi tích phân Beta$x_{[0]} \le x_{[1]} \le \cdots \le x_{[n]}$$n+1$$x_{[k]}$$p$

(Tại sao lại như vậy? Đây là một minh chứng không nghiêm ngặt nhưng đáng nhớ. Cơ hội mà nằm giữa p và p + d p là cơ hội trong số các giá trị đồng nhất n + 1 , k trong số chúng nằm giữa 0 và p , ít nhất một trong số chúng nằm giữa p và p + d p , và phần còn lại nằm giữa p + d p và 1. Để đặt hàng đầu tiên trong d p vô hạn$x_{[k]}$$p$$p + dp$$n+1$$k$$0$$p$$p$$p + dp$$p + dp$$1$$dp$chúng ta chỉ cần xem xét trường hợp chính xác một giá trị (cụ thể là ) nằm giữa p và p + d p và do đó giá trị n - k vượt quá p + d p . Vì tất cả các giá trị là độc lập và đồng nhất, xác suất này tỷ lệ thuận với p k ( d p ) ( 1 - p - d p ) n - k . Để thứ tự đầu tiên trong d p này bằng $x_{[k]}$$p$$p + dp$$n - k$$p + dp$$p^k (dp) (1 - p - dp)^{n-k}$$dp$ , chính xác là tích phân của phân phối Beta. Học kỳ$p^k(1-p)^{n-k}dp$ có thể được tính trực tiếp từ đối số này dưới dạng hệ số đa thức ( n + $\frac{1}{B(k+1, n-k+1)}$hoặc xuất phát gián tiếp là hằng số chuẩn hóa của tích phân.)${n+1}\choose{k,1, n-k}$

Theo định nghĩa, sự kiện là k + 1 st giá trị không vượt quá p . Tương đương, ít nhất k + 1 trong các giá trị không vượt quá p : khẳng định đơn giản (và tôi hy vọng rõ ràng này) cung cấp trực giác mà bạn tìm kiếm. Xác suất của câu lệnh tương đương được đưa ra bởi phân phối Binomial,$x_{[k]} \le p$$k+1^\text{st}$$p$ $k+1$$p$

Tóm lại , tích phân Beta chia phép tính của một sự kiện thành một chuỗi các phép tính: tìm ít nhất các giá trị trong phạm vi [ 0 , p ] , có xác suất mà chúng ta thường sẽ tính toán với cdf Binomial, được chia thành hai lần trường hợp độc quyền mà chính xác k các giá trị nằm trong khoảng [ 0 , x ] và 1 giá trị nằm trong khoảng [ x , x + d x ] cho tất cả các thể x , 0 ≤ x < $k+1$$[0, p]$ $k$$[0, x]$$[x, x+dx]$$x$$0 \le x \lt p$và là một chiều dài vô hạn. Tổng hợp trên tất cả các "cửa sổ" [ x , x + d x ] - đó là, tích hợp - phải đưa ra xác suất tương tự như cdf Binomial.$dx$$[x, x+dx]$

Hãy xem pdf của Binomial là hàm của : f ( x ) = ($x$và pdf của Beta là một hàm củap:g(p)=Γ(một+b

Như bạn đã nói, sự phân bố Beta mô tả sự phân bố xác suất thử nghiệm tham số , trong khi phân phối nhị thức mô tả sự phân bố về kết quả tham số tôi . Viết lại câu hỏi của bạn, điều bạn hỏi là tại sao P ( F ≤ i + $F$$I$P(Fn≤i+1)+P(I+1≤fn)=1P(Fn≤i+1)=P(fn<Tôi+1

Tôi thừa nhận rằng điều này có thể không giúp ích cho công thức ban đầu của vấn đề, nhưng có lẽ nó ít nhất giúp xem hai bản phân phối sử dụng cùng một mô hình cơ bản của các thử nghiệm Bernoulli lặp đi lặp lại để mô tả hành vi của các tham số khác nhau.

Ở vùng đất Bayes, phân phối Beta là liên hợp trước cho tham số p của phân phối Binomial.

Không thể nhận xét về các câu trả lời khác, vì vậy tôi phải tạo câu trả lời của riêng mình.

Posterior = C * Likabilities * Prior (C là hằng số làm cho Posterior được tích hợp thành 1)

Đưa ra một mô hình sử dụng phân phối Binomial cho khả năng và phân phối Beta cho Ưu tiên. Sản phẩm của hai sản phẩm tạo ra Posterior cũng là bản phân phối Beta. Vì Prior và Posterior đều là Beta, và do đó chúng là các bản phân phối liên hợp . Prior (Beta) được gọi là liên hợp trước cho khả năng (Binomial). Ví dụ: nếu bạn nhân Beta với Bình thường, Posterior không còn là Beta nữa. Tóm lại, Beta và Binomial là hai bản phân phối thường được sử dụng trong suy luận Bayes. Beta là Conjugate Prior of Binomial, nhưng hai bản phân phối không phải là tập hợp con hoặc superset của cái kia.

Ý tưởng chính của suy luận Bayes là chúng ta đang coi tham số p là một biến ngẫu nhiên nằm trong khoảng [0,1] trái với cách tiếp cận suy luận thường xuyên trong đó chúng ta đang coi tham số p là cố định. Nếu bạn nhìn kỹ vào các thuộc tính của bản phân phối Beta, bạn sẽ thấy Ý nghĩa và Chế độ của nó chỉ được xác định bởi$\alpha$ và $\beta$không liên quan đến tham số p . Điều này, cùng với tính linh hoạt của nó, là lý do tại sao Beta thường được sử dụng làm Ưu tiên.

Tóm tắt: Người ta thường nói rằng phân phối Beta là phân phối trên các bản phân phối! Nhưng có nghĩa là gì?

Về cơ bản nó có nghĩa là bạn có thể sửa chữa $n,k$ và nghĩ về $\mathbb P[Bin(n,p)\geqslant k]$ as a function of $p$. What the calculation below says is that the value of $\mathbb P[Bin(n,p)\geqslant k]$ increases from $0$ to $1$ when you tune $p$ from $0$ to $1$. The increasing rate at each $p$ is exactly $\beta(k,n-k+1)$ at that $p$.

Let $Bin(n,p)$ denote a Binomial random variable with $n$ samples and the probability of success $p$. Using basic algebra we have

It has also some nice combinatorial proof, think of it as an exercise!

So, we have:

Remark To see an interactive version of the plot look at this. You may download the notebook or just use the Binder link.