Là gì trong phân phối Bernoulli?

Trong lý thuyết xác suất Bayes, xác suất là biểu hiện kiến thức của chúng ta về một điều nào đó, không phải là một tính chất của điều đó. Tuy nhiên, tôi luôn thấy mọi người coi là một tham số cần được ước tính. Họ thiết lập một ưu tiên cho , thường ở dạng hàm beta và sau đó cập nhật nó dưới dạng "hiện thực hóa" của biến này. $p$ $p$

Ngay cả Jaynes bayes tuyệt vời đôi khi cũng cho cảm giác rằng anh ta đang "ước tính xác suất" hoặc tìm kiếm "phù hợp nhất với dữ liệu": $p$

Bây giờ chúng tôi chỉ muốn tính đến các giả thuyết thuộc về 'lớp Bernoulli' trong đó có kết quả có thể có trong mỗi thử nghiệm và xác suất của về các lần lặp lại liên tiếp của thí nghiệm được coi là độc lập và đứng yên; $B_m$ $m$ $A_k$

Lý thuyết xác suất, ET Jaynes, trang 297

Điều này làm cho tôi bối rối, vì là không phải là một khả năng , vì nó là một thuộc tính của biến ngẫu nhiên và nó là không phải là một tần số , vì biến đại diện cho một sự kiện duy nhất. $p$

— Martin Drozdik
nguồn

Trong phần được trích dẫn, trên thực tế, Jaynes có cung cấp một cách xử lý Bayes cho việc giải thích và thiết kế để ước tính không? Ngay cả một người Bayes vĩ đại cũng có thể hình dung ra một cuốn sách gọi là "Lý thuyết xác suất" liên quan đến cả cách giải thích xác suất thường xuyên và Bayesian.

p

$p$

— AdamO

Nếu chúng ta là những nhà nhận thức luận nghiêm ngặt, là một niềm tin cho Bayes: một cái gì đó không cố định nhưng có sự không chắc chắn có thể được mô tả với phân phối xác suất. Nếu chúng tôi cần cập nhật niềm tin của mình, chúng tôi thực hiện một thí nghiệm. Trong sự cô lập, thí nghiệm tạo ra khả năng và do đó, một MLE có tất cả các diễn giải thường xuyên, nhưng khi nó cập nhật trước, các thuộc tính của hậu thế có thể hoàn toàn khác nhau. Chế độ Posterior có thể không phải là MLE, trung vị sau có thể không phải là ước tính trung bình không thiên vị.

p

$p$

— AdamO

Chỉ cần một lời cảnh báo, việc giải thích thường xuyên của thí nghiệm được chấp nhận đối với người Bayes, họ tin rằng khả năng nhân rộng vô hạn, độc lập là gần như có thể thực hiện được.

— AdamO

Bạn có quan tâm đặc biệt đến quan điểm Bayes hay chỉ nói chung? Dù bằng cách nào, là một tham số, không có gì hơn. Có vấn đề gì nếu bạn gọi nó là xác suất hay cái gì khác? Như bạn đã nói, nó không phải là PDF, chỉ là sự nhận ra hoặc đầu ra của PDF nếu bạn muốn.

p

$p$

— Digio

Tôi nghĩ rằng bạn đang trộn lên khái niệm khác nhau ở đây. Bản chất của tham số (việc thực hiện rv thống nhất rời rạc) phải độc lập với khung suy luận, sẽ xem tham số đó là biến cố định hoặc ngẫu nhiên. Sau đó, rv Bernoulli là gì lại là một khái niệm khác, không quá khó để giải thích IMHO, nhưng chắc chắn không liên quan trực tiếp đến bản chất của .

p

$p$

p

$p$

— Digio

Câu trả lời:

Trong lý thuyết xác suất Bayes, xác suất là biểu hiện kiến thức của chúng ta về một điều nào đó, không phải là một tính chất của điều đó. Tuy nhiên, tôi luôn thấy mọi người coi là một tham số cần được ước tính. Họ thiết lập một ưu tiên cho , thường ở dạng hàm beta và sau đó cập nhật nó dưới dạng "hiện thực hóa" của biến này. $p$ $p$

Điều này là không liên quan. Nó không liên quan gì đến việc diễn giải ý nghĩa của xác suất, vì đây không phải là về triết học, mà là về đối tượng toán học được xác định rõ. Bạn thấy mọi người thảo luận về giá trị ước tính của vì bạn nhìn vào sổ tay thống kê và thống kê là về ước tính mọi thứ, nhưng là một tham số của phân phối, nó có thể được biết hoặc chưa biết. $p$ $p$

Nếu là biến ngẫu nhiên Bernoulli có xác suất "thành công" , thì theo định nghĩa. Vì vậy, là một tham số của phân phối này, nhưng nó cũng là xác suất của "thành công". $X$ $p$ $\Pr(X=1) = p$ $p$

Điều này làm cho tôi bối rối, vì là không phải là một khả năng , vì nó là một thuộc tính của biến ngẫu nhiên và nó là không phải là một tần số , vì biến đại diện cho một sự kiện duy nhất. $p$

Có, biến ngẫu nhiên mô tả một số "sự kiện đơn lẻ", vì vậy nếu bạn định tung đồng xu, kết quả có thể là một biến ngẫu nhiên vì không chắc chắn. Sau khi bạn tung đồng xu và biết kết quả, nó không còn là ngẫu nhiên nữa, kết quả là chắc chắn. Về xác suất, trong cài đặt thường xuyên, bạn xem xét kịch bản giả thuyết, nơi bạn sẽ lặp lại thí nghiệm tung đồng xu số lần rất lớn và xác suất sẽ bằng tỷ lệ của những người đứng đầu trong số những lần lặp lại đó. Trong chủ quan, thiết lập Bayes , xác suất là thước đo mức độ bạn tin rằng bạn sẽ quan sát đầu.

Tuy nhiên, ở trên không liên quan để đặt câu hỏi là gì . Đó là một tham số cũng tương đương với xác suất "thành công". Câu hỏi làm thế nào để bạn giải thích xác suất và ý nghĩa của nó là một câu hỏi khác nhau. $p$

— Tim
nguồn

$p$ là một tham số chỉ định "xác suất thành công" mà chúng tôi có phân phối xác suất trước và sau.

Ví dụ, chúng tôi có thể có một đồng tiền mà chúng tôi không chắc chắn liệu nó có công bằng ( ) hay không ( ). Mặc dù vậy, sự công bằng, hoặc thiếu nó, là một tài sản của đồng tiền. Chúng tôi chỉ không chắc chắn về tính chất đó của đồng tiền. $p=0.5$ $p\neq 0.5$

Sau đó, chúng tôi, ví dụ, chỉ định phân phối beta trước là phân phối xác suất trước trên các xác suất thành công có thể có trong . Ví dụ, điều đó có thể được truyền cảm hứng bằng cách nhìn vào đồng tiền, đánh giá xem nó có "công bằng" không. Nếu nó có vẻ công bằng, chúng tôi sẽ có xu hướng chỉ định trước với rất nhiều khối lượng xác suất xung quanh . $[0,1]$ $p=0.5$

Trong trường hợp khác, chẳng hạn, khi hình thành một niềm tin trước về xác suất mà một cầu thủ bóng đá sẽ thành công ở hình phạt tiếp theo của mình - cũng là một kết quả Bernoulli, hoặc là một mục tiêu hay không - chúng ta sẽ có khuynh hướng đưa hàng loạt khả năng thêm về xung quanh 0,8, bởi vì các cầu thủ bóng đá chuyên nghiệp ghi bàn trên hầu hết các hình phạt. $p$

Sau đó, chúng tôi sẽ tung đồng xu / quan sát người chơi một vài lần và tóm tắt thông tin trong chức năng khả năng, để có được bản cập nhật, tức là hậu thế.

— Christoph Hanck
nguồn

Cảm ơn bạn đã trả lời của bạn. Tuy nhiên, trong câu đầu tiên bạn nói rằng p là một xác suất. Điều này, theo như tôi biết, là mâu thuẫn với phần còn lại của câu trả lời của bạn, nơi bạn coi p là tài sản của thế giới vật chất (nói về kiến thức về p, linh mục cho p, ...). Nếu tôi hiểu lý thuyết xác suất bayes chính xác, không có khái niệm "xác suất xác suất".

— Martin Drozdik

Tôi xin lỗi vì đã không giải thích quan điểm của tôi một cách thuyết phục, nhưng tôi không thấy vấn đề này. Đó là một xác suất có thể được hiểu theo nghĩa "thường xuyên" - nếu bạn ném đồng xu vô số lần, nó sẽ hiển thị số đầu khi là xác suất thành công.

p * 100 %

$p*100\%$

p

$p$

— Christoph Hanck

Đặc biệt trong đoạn thứ hai bạn đề cập rằng sự công bằng là một tài sản của đồng tiền. Tôi sẽ không đồng ý. Có thể vị trí của trung tâm khối lượng là một tài sản của đồng tiền, nhưng xác suất là trong tâm trí của bạn. Bạn không thể chắc chắn liệu p = 0,5 hay không. Trong mô hình lý luận này, bạn chỉ cần có một p.

— Martin Drozdik

Trung tâm của khối sẽ ảnh hưởng đến tần suất xuất hiện của các đầu, do đó tính năng vật lý của đồng xu sẽ ảnh hưởng đến tham số quan tâm.

— Christoph Hanck

Tôi nghĩ rằng có một mẹo nhỏ đang được thực hiện ở đây. Trong khi người Bayes có một định nghĩa nhất định về xác suất, họ cũng biết rằng những người thường xuyên tồn tại. Bayesians có thể thừa nhận rằng một đồng xu có một tài sản, , có thể được phát biểu như sau: "của đồng tiền tài sản là những gì một frequentist sẽ đo là 'khả năng' của nó hạ cánh trên đầu nếu họ đã thử nghiệm vô hạn với đồng xu".

p

$p$

p

$p$

— Bridolturners

Đối với một biến ngẫu nhiên được xác định trên một không gian xác suất , tham số (một số) là xác suất của một sự kiện nhất định, cụ thể là, sự kiện . Nghĩa là, Số duy nhất hoàn toàn xác định phân phối của vì với bất kỳ tập hợp Borel nào chúng ta có (Ở đây là hàm chỉ thị của $X \sim \operatorname{Bernoulli}(p)$ $(\Omega, \mathcal{F}, P)$ $p$ $\{X = 1\}$

p = P (X = 1) .

$p = P(X = 1).$

p

$p$

X

$X$

B \subseteq R

$B \subseteq \mathbb{R}$

\begin{aligned} P (X \in B) & = 1_{B} (0) P (X = 0) + 1_{B} (1) P (X = 1) \\ = (1 - p) 1_{B} (0) + p 1_{B} (1) . \end{aligned}

$\begin{aligned} P(X \in B) &= \mathbf{1}_B(0)P(X = 0) + \mathbf{1}_B(1) P(X = 1) \\ &= (1 - p) \mathbf{1}_B(0) + p \mathbf{1}_B(1). \end{aligned}$

1_{B}

$\mathbf{1}_B$

B

$B$ .) Đây là lý do tại sao gia đình phân phối Bernoulli được tham số hóa theo khoảng . Thực tế này là độc lập với một cách giải thích thống kê thường xuyên hoặc Bayesian: nó chỉ là một thực tế của xác suất.

[0, 1]

$[0, 1]$

Nếu chúng ta là người Bayes, thì chúng ta muốn tham số là biến ngẫu nhiên với một số phân phối trước. Chính thức, chúng tôi có thể nói rằng tham số của chúng tôi là một biến ngẫu nhiên được hỗ trợ trên và chúng tôi có có nghĩa là gần như chắc chắn (hoặc cho mọi ). Trong trường hợp này, tham số (một biến ngẫu nhiên) là xác suất có điều kiện của sự kiện $p$ $\Pi$ $[0, 1]$

X ∣ Π \sim Bernoulli (Π),

$X \mid \Pi \sim \operatorname{Bernoulli}(\Pi),$

\begin{aligned} P (X = 1 ∣ Π) & = Π, & P (X = 0 ∣ Π) & = 1 - Π \end{aligned}

$\begin{aligned} P(X = 1 \mid \Pi) &= \Pi, & P(X = 0 \mid \Pi) &= 1 - \Pi \end{aligned}$

\begin{aligned} P (X = 1 ∣ Π = p) & = p, & P (X = 0 ∣ Π = p) & = 1 - p \end{aligned}

$\begin{aligned} P(X = 1 \mid \Pi = p) &= p, & P(X = 0 \mid \Pi = p) &= 1 - p \end{aligned}$

p \in [0, 1]

$p \in [0, 1]$

Π

$\Pi$

{X = 1}

$\{X = 1\}$ cho . Xác suất có điều kiện này, cùng với phân phối (phân phối trước), xác định hoàn toàn phân phối của kể từ cho mọi tập hợp Borel .

Π

$\Pi$

Π

$\Pi$

X

$X$

\begin{aligned} P (X \in B) & = E [P (X \in B ∣ Π)] \\ = E [1_{B} (0) P (X = 0 ∣ Π) + 1_{B} (1) P (X = 1 ∣ Π)] \\ = E [(1 - Π) 1_{B} (0) + Π 1_{B} (1)] \\ = (1 - E [Π]) 1_{B} (0) + E [Π] 1_{B} (1) \end{aligned}

$\begin{aligned} P(X \in B) &= E[P(X \in B \mid \Pi)] \\ &= E[\mathbf{1}_B(0)P(X = 0 \mid \Pi) + \mathbf{1}_B(1) P(X = 1 \mid \Pi)] \\ &= E[(1 - \Pi) \mathbf{1}_B(0) + \Pi \mathbf{1}_B(1)] \\ &= (1 - E[\Pi]) \mathbf{1}_B(0) + E[\Pi] \mathbf{1}_B(1) \end{aligned}$

B \subseteq R

$B \subseteq \mathbb{R}$

Trong mọi trường hợp, người thường xuyên hoặc Bayes, tham số thông thường của dữ liệu Bernoulli là xác suất (có thể là biên hoặc có điều kiện) của một số sự kiện.

— Nữ thần Mavrin
nguồn