Nghịch lý của dữ liệu iid (ít nhất là đối với tôi)

Theo như kiến thức tổng hợp (và khan hiếm) của tôi về các số liệu thống kê cho phép, tôi hiểu rằng nếu là các biến ngẫu nhiên, thì thuật ngữ này có nghĩa là chúng độc lập và phân phối giống hệt nhau. $X_1, X_2,..., X_n$

Mối quan tâm của tôi ở đây là thuộc tính cũ của các mẫu iid, có nội dung:

p (X_{n} | X_{i_{1}}, X_{i_{2}}, . . ., X_{i_{k}}) = p (X_{n}),

$p(X_{n}|X_{i_1},X_{i_2},...,X_{i_k}) = p(X_{n}),$

cho bất kỳ bộ sưu tập khác biệt của 's st . $i_j$ $1 \leq i_j < n$

Tuy nhiên, người ta biết rằng tổng hợp các mẫu phân phối độc lập cung cấp thông tin về cấu trúc phân phối và kết quả là về trong trường hợp trên, do đó, thực sự không phải là trường hợp: $X_n$

p (X_{n} | X_{i_{1}}, X_{i_{2}}, . . ., X_{i_{k}}) = p (X_{n}) .

$p(X_{n}|X_{i_1},X_{i_2},...,X_{i_k}) = p(X_{n}).$

Tôi biết rằng tôi là nạn nhân của ngụy biện nhưng tôi không biết tại sao. Xin hãy giúp tôi ra cái này

sampling conditional-probability independence

— Cupitor
nguồn

Bạn có biết quy tắc Bayes? Nghe nói kinh điển. Thống kê vs Bayes? Linh mục?

— Matthew Gunn

Tôi không theo dõi cuộc tranh luận ở cuối câu hỏi của bạn. Bạn có thể rõ ràng hơn?

— Glen_b -Reinstate Monica

@Glen_b chính xác thì bạn không theo dõi cái gì? Bạn có ý nghĩa gì khi kết thúc nó? Tôi đang cố gắng nói với các logic khác nhau cả bình đẳng và bất bình đẳng có vẻ hợp lý đó là một nghịch lý.

— Cupitor

Không có nghịch lý ở đây - chỉ đơn thuần là thất bại trong việc áp dụng các định nghĩa phù hợp. Bạn không thể khẳng định có một nghịch lý khi bạn bỏ qua ý nghĩa của những từ bạn sử dụng! Trong trường hợp này, so sánh định nghĩa độc lập với xác suất sẽ cho thấy lỗi.

— whuber

@whuber, tôi giả sử bạn đã nhận thấy "(ít nhất là đối với tôi)" trong tiêu đề câu hỏi của tôi và thực tế là tôi yêu cầu trợ giúp để tìm ra "ngụy biện" cho lập luận của tôi, điều này chỉ ra thực tế rằng điều này thực sự không phải là một nghịch lý thực sự

— Cupitor

Câu trả lời:

Tôi nghĩ rằng bạn đang nhầm lẫn một mô hình ước tính của một phân phối với một biến ngẫu nhiên . Hãy viết lại giả định độc lập như sau: nói rằng nếu bạn biết phân phối cơ bản của ( và, ví dụ, có thể xác định nó bằng một tập hợp các thông số

\begin{matrix} (1) & P (X_{n} | θ, X_{i_{1}}, X_{i_{2}}, \dots, X_{i_{k}}) = P (X_{n} | θ) \end{matrix}

$P(X_n | \theta, X_{i_1}, X_{i_2}, \dots, X_{i_k}) = P(X_n | \theta) \tag{1}$ $X_n$

θ

$\theta$ ) sau đó phân phối không thay đổi do bạn đã quan sát một vài mẫu từ nó.

Ví dụ, nghĩ về là biến ngẫu nhiên đại diện cho kết quả của lần tung thứ của đồng xu. Biết xác suất đầu và đuôi cho đồng xu (mà, btw, giả sử được mã hóa bằng ) là đủ để biết phân phối của . Cụ thể, kết quả của các lần ném trước không thay đổi xác suất của đầu hoặc đuôi cho lần ném thứ và giữ. $X_n$ $n$ $\theta$ $X_n$ $n$ $(1)$

Lưu ý, tuy nhiên, rằng . $P(\theta | X_n) \neq P(\theta | X_{i_1}, X_{i_2}, \dots, X_{i_k})$

— Sobi
nguồn

Cảm ơn nhiều. Khá đến mức. Khá buồn cười là tôi đã đoán được câu trả lời như vậy một thời gian trước nhưng tôi đã quên nó .... Vì vậy, theo như tôi hiểu thì ngụy biện đi với giả định "một mô hình" có thể bán được phân phối biến ngẫu nhiên. Tôi đã làm đúng chứ?

— Cupitor

@Cupitor: Tôi rất vui vì nó hữu ích. Có, dựa trên mô hình, các biến ngẫu nhiên độc lập không ảnh hưởng lẫn nhau. Nhưng, khả năng một phân phối nhất định đã tạo ra một chuỗi các kết quả thay đổi như thế nào khi bạn thấy nhiều mẫu hơn từ phân phối cơ bản (đúng) (bất kể giả định độc lập).

— Sobi

$X$ $\theta$ $P(X_n \mid X_{n-1}, \ldots X_1, \theta) = P(X_n \mid \theta)$

$\theta$ $\theta$ $\theta$

$X_n$ $\theta$

Bayesian và thống kê cổ điển

$x_i$

$P(x_i = H)$ $\theta$ $\theta$
$\theta$

$\theta$ $\theta$

Cái này đi đâu

$n$

P (x_{n} = H ∣ x_{n - 1}, x_{n - 2}, \dots, x_{1}) = P (x_{n} = H) = θ

$P(x_n=H \mid x_{n-1}, x_{n-2}, \ldots,x_{1}) = P(x_n=H) = \theta$

θ

$\theta$

Một người Bayes sâu vào xác suất chủ quan sẽ nói rằng điều quan trọng là xác suất từ quan điểm của cô ấy! . Nếu cô ấy nhìn thấy 10 cái đầu liên tiếp, thì cái đầu thứ 11 có nhiều khả năng bởi vì 10 cái đầu liên tiếp khiến người ta tin rằng đồng xu bị nghiêng về phía đầu.

P (x_{11} = H ∣ x_{10} = H, x_{9} = H, \dots, x_{1} = H) > P (x_{1} = H)

$P(x_{11} = H \mid x_{10}=H, x_{9}=H, \ldots,x_{1}=H) > P(x_1 = H)$

$\theta$ $\theta$ $\theta$

P (x_{11} = H ∣ x_{10} = H, x_{9} = H, \dots, x_{1} = H, θ) = P (x_{1} = H ∣ θ) = θ

$P(x_{11} = H \mid x_{10}=H, x_{9}=H, \ldots,x_{1}=H, \theta) = P(x_1 = H \mid \theta) = \theta$

$\theta$ $\theta$

Ghi chú thêm

Tôi đã cố gắng hết sức để đưa ra một đoạn giới thiệu ngắn ở đây, nhưng những gì tôi đã làm là tốt nhất là khá hời hợt và các khái niệm theo một nghĩa nào đó khá sâu sắc. Nếu bạn muốn đi sâu vào triết lý xác suất, cuốn sách năm 1954 của Savage, Foundation of Statistics là một tác phẩm kinh điển. Google cho bayesian so với thường xuyên và một tấn công cụ sẽ xuất hiện.

Một cách khác để suy nghĩ về các trận hòa IID là định lý của de Finetti và khái niệm về khả năng trao đổi . Trong khuôn khổ Bayes, khả năng trao đổi tương đương với điều kiện độc lập trên một số biến ngẫu nhiên tiềm ẩn (trong trường hợp này là độ trễ của đồng xu).

— Matthew Gunn
nguồn

Về bản chất, cách tiếp cận Bayes sẽ coi một tuyên bố "iid biến ngẫu nhiên" không phải là một tiên đề mà chúng phải là IID mà chỉ là một giả định rất mạnh mẽ rằng chúng là như vậy - và thậm chí bằng chứng mạnh mẽ hơn cho thấy rằng nó rất khó xảy ra các giả định là đúng, thì "sự không tin vào các điều kiện nhất định" sẽ được phản ánh trong các kết quả.

— Peteris

Cảm ơn bạn rất nhiều vì câu trả lời thấu đáo của bạn. Tôi đã nâng cao nó, nhưng tôi nghĩ câu trả lời của Sobi, chỉ ra rõ ràng hơn vấn đề nằm ở đâu, tức là mặc nhiên giả định cấu trúc mô hình (hoặc theo như tôi hiểu)

— Cupitor

@Matthew Gunn: gọn gàng, kỹ lưỡng, và giải thích rất rõ! Tôi đã học được một vài điều từ câu trả lời của bạn, cảm ơn!

— Sobi