Phân phối Beta khi lật một đồng xu

Cuốn sách Bayesian của Kruschke nói, liên quan đến việc sử dụng bản phân phối beta để lật một đồng xu,

Ví dụ: nếu chúng ta không có kiến thức trước ngoài kiến thức rằng đồng xu có mặt đầu và mặt đuôi, thì đó là tương đương với việc trước đó đã quan sát một đầu và một đuôi, tương ứng với a = 1 và b = 1.

Tại sao không có thông tin nào tương đương với việc nhìn thấy một đầu và một đuôi - 0 đầu và 0 đuôi có vẻ tự nhiên hơn đối với tôi.

probability bayesian beta-distribution

— Mũ lưỡi trai
nguồn

(+1) Đoạn trích dẫn gây hiểu lầm vì nó mời người đọc đánh đồng hai ý nghĩa rất khác nhau của "quan sát". Ý nghĩa được sử dụng ở đây là việc đã tự kiểm tra đồng tiền - thực tế, điều đó có nghĩa là bạn hiểu thiết lập thử nghiệm. Nhưng kết luận rằng điều này hàm ý

phụ thuộc vào việc diễn giải lại "quan sát" theo nghĩa khác nhau là đã chạy thử nghiệm hai lần trong đó một kết quả là đầu và các đuôi khác. Kiểu bóng bẩy logic này là một cảnh sát trí tuệ; nó chỉ làm cho các phương thức Bayes xuất hiện tùy ý và trơn trượt một cách logic, đó là một điều đáng tiếc.

a = b = 1

$a=b=1$

— whuber

Báo giá là sai: không có lời biện minh nào cho bản Beta trước (1, 1).

— Neil G

Người ta có thể dễ dàng lập luận rằng đó là giá trị thông tin của một quan sát duy nhất - nửa đầu / nửa đuôi.

— Glen_b -Reinstate Monica

Hãy ghi nhớ mục đích dự định của đoạn văn đó trong cuốn sách. Đây được coi là một biện minh trực quan đơn giản cho người dùng mới bắt đầu , rõ ràng không phải là một đối số toán học và chắc chắn không phải là một tuyên bố rằng beta (1,1) là tốt nhất hoặc chỉ mơ hồ trước đó. Ở những nơi khác trong cuốn sách tôi đau đớn chỉ ra rằng những biến thể khiêm tốn của các linh mục mơ hồ không tạo ra sự khác biệt đáng kể nào ở phía sau khi có một lượng dữ liệu vừa phải. (Tất nhiên, ngoại trừ các yếu tố Bayes, rất nhạy cảm với phần trước!) Trong các bài viết khác tôi đã thảo luận về Haldane trước đó.

— John K. Kruschke

Câu trả lời:

Báo giá là một "bàn tay hợp lý" (biểu hiện tuyệt vời!), Như @whuber đã lưu ý trong các nhận xét cho OP. Điều duy nhất chúng ta thực sự có thể nói sau khi thấy rằng đồng xu có đầu và đuôi, là cả hai sự kiện "đầu" và "đuôi" đều không thể xảy ra. Do đó, chúng ta có thể loại bỏ một phần rời rạc trước đó đặt toàn bộ khối xác suất lên "đầu" hoặc "đuôi". Nhưng điều này không tự nó dẫn đến đồng phục trước: câu hỏi tinh tế hơn nhiều. Trước hết chúng ta hãy tóm tắt một chút về nền tảng. Chúng tôi đang xem xét các mô hình liên hợp Beta-Binominal cho Bayesian suy luận của xác suất của người đứng đầu của một đồng xu, được đưa ra độc lập và hệt phân phối (có điều kiện trên ) tung đồng xu. $\theta$ $n$ $\theta$ khi chúng ta quan sát đầu trong quăng: $p(\theta|x)$ $x$ $n$

p (θ | x) = B e t a (x + α, n - x + β)

$p(\theta|x) = Beta(x+\alpha, n-x+\beta)$

chúng ta có thể nói rằng và đóng vai trò của một "số trước của người đứng đầu" và "số trước của đuôi" (pseudotrials), và có thể được hiểu như là một kích thước mẫu có hiệu quả. Chúng tôi cũng có thể đi đến việc giải thích này bằng cách sử dụng biểu nổi tiếng với giá trị trung bình sau như một bình quân gia quyền của giá trị trung bình trước khi $\alpha$ $\beta$ $\alpha+\beta$ và giá trị trung bình mẫu $\frac{\alpha}{\alpha+\beta}$ . $\frac{x}{n}$

Nhìn vào , chúng ta có thể làm cho hai cân nhắc: $p(\theta|x)$

kể từ khi chúng tôi không có kiến thức trước về (tối đa sự thiếu hiểu biết), chúng tôi trực giác hy vọng quy mô mẫu có hiệu quả là "nhỏ". Nếu nó lớn, thì trước đó sẽ được kết hợp khá nhiều kiến thức. Một cách khác để nhìn thấy điều này được lưu ý rằng nếu và là "nhỏ" đối với với và , xác suất hậu nghiệm sẽ không phụ thuộc rất nhiều vào trước của chúng tôi, bởi vì và $\theta$ $\alpha+\beta$ $\alpha$ $\beta$ $x$ $n-x$ $x+\alpha\approx x$ $n-x+\beta\approx n-x$ . Chúng tôi hy vọng rằng một ưu tiên không kết hợp nhiều kiến thức phải nhanh chóng trở nên không liên quan trong một số dữ liệu.
Ngoài ra, vì là giá trị trung bình trước đó, và chúng tôi không có kiến thức trước về sự phân bố của , chúng tôi mong chờ. Đây là một đối số của tính đối xứng - nếu chúng ta không biết gì hơn, chúng ta sẽ không mong đợimột tiên nghiệmrằng phân phối bị lệch về 0 hoặc về 1. Phân phối Beta là $\mu_{prior}=\frac{\alpha}{\alpha+\beta}$ $\theta$ $\mu_{prior}=0.5$

$f (θ | α, β) = \frac{Γ (α + β)}{Γ (α) + Γ (β)} θ^{α - 1} (1 - θ)^{β - 1}$ $f(\theta|\alpha,\beta)=\frac{\Gamma(\alpha + \beta)}{\Gamma(\alpha) +\Gamma(\beta)}\theta^{\alpha-1}(1-\theta)^{\beta-1}$
Biểu thức này chỉ đối xứng xung quanh nếu . $\theta=0.5$ $\alpha=\beta$

$\alpha=\beta=c$ $c$

$\theta$ $\alpha=\beta=1$

$f (θ | 1, 1) = \frac{Γ (2)}{2 Γ (1)} θ^{0} (1 - θ)^{0} = 1$ $f(\theta|1,1)=\frac{\Gamma(2)}{2\Gamma(1)}\theta^{0}(1-\theta)^{0}=1$
$\theta\in[0,1]$ $\alpha=\beta=1$
Bạn có thể chọn một quan điểm khác, quan điểm được OP sử dụng và nói rằng không có thông tin nào tương ứng với việc không nhìn thấy đầu và không có đuôi, tức là

$α = β = 0 \Rightarrow π (θ) \propto θ^{- 1} (1 - θ)^{- 1}$ $\alpha=\beta=0 \Rightarrow \pi(\theta) \propto \theta^{-1}(1-\theta)^{-1}$
$\theta^{-1}(1-\theta)^{-1}$ $I=[0, 1]$ $\theta=0$ $\theta=1$ $\theta$ $\theta$

$\frac{\alpha + x}{\alpha + \beta + n}=\frac{x}{n}$ $\theta$ $\theta$
Cuối cùng, bạn có thể sử dụng mức ưu tiên không phụ thuộc vào tham số của vấn đề, tức là trước Jeffreys, đối với mô hình Beta-Binomial tương ứng với

$α = β = \frac{1}{2} \Rightarrow π (θ) \propto θ^{- \frac{1}{2}} (1 - θ)^{- \frac{1}{2}}$ $\alpha=\beta=\frac{1}{2} \Rightarrow \pi(\theta) \propto \theta^{-\frac{1}{2}}(1-\theta)^{-\frac{1}{2}}$
$\theta$ $\lambda=log(\frac{\theta}{1-\theta})$ $\theta$

Tóm lại, không chỉ có một lựa chọn không rõ ràng cho một sự không phù hợp trước trong mô hình Beta-Binomial. Những gì bạn chọn phụ thuộc vào những gì bạn có nghĩa là không có kiến thức trước và vào các mục tiêu phân tích của bạn.

— DeltaIV
nguồn

$p(\theta=0)=0$ $p(\theta=1)=0$ $\theta$ $p(\theta)={\rm Beta}(h+1,(N-h)+1)$

— người dùng23856
nguồn

Tôi có một thời gian khó hiểu câu trả lời của bạn.

— Michael R. Chernick

p

$p$

θ = 0

$\theta=0$

θ = 1

$\theta=1$