Ai đó có thể giúp giải thích sự khác biệt giữa độc lập và ngẫu nhiên?

21

Trong thống kê, độc lập và ngẫu nhiên có mô tả các đặc điểm giống nhau không? Sự khác biệt giữa chúng là gì? Chúng ta thường bắt gặp các mô tả như "hai biến ngẫu nhiên độc lập" hoặc "lấy mẫu ngẫu nhiên". Tôi tự hỏi sự khác biệt chính xác giữa chúng. Ai đó có thể giải thích điều này và đưa ra một số ví dụ? ví dụ quá trình không độc lập nhưng ngẫu nhiên?

distributions sampling randomness

— tiantianchen
nguồn

Đây là hai khái niệm riêng biệt (ở mức độ không sâu) được hợp nhất. "Độc lập" theo nghĩa là các quan sát được tạo độc lập và "các biến độc lập" tạo ra các bản phân phối của chúng.

— ttnphns

3

Đây là một câu hỏi kỳ lạ, bởi vì nếu bạn tham khảo các định nghĩa chính thức về "biến ngẫu nhiên" và "độc lập" - đó là những gì "trong thống kê" dường như gợi ý - bạn sẽ thấy chúng có ít điểm chung.

— whuber

@ttnphns, Có, tôi đoán rằng tôi đã nhầm lẫn hơn về thuật ngữ "quan sát được tạo độc lập" với "được tạo ngẫu nhiên". Trong lấy mẫu, chúng ta thường nghe thấy mẫu đơn giản (đơn giản), khiến tôi cảm thấy giống như các mẫu độc lập. Tôi đoán nếu chúng ta thực sự muốn kết hợp cả hai đặc điểm trong việc mô tả một phương pháp lấy mẫu, thì đó có phải là: việc lựa chọn các quan sát không phụ thuộc vào nhau (= độc lập) và xác suất lựa chọn một quan sát được biết (= ngẫu nhiên)?

— tiantianchen

1

Nếu chúng ta kiểm tra định nghĩa về tính độc lập từ wiki: "Trong lý thuyết xác suất, hai sự kiện là độc lập, độc lập thống kê hoặc độc lập ngẫu nhiên nếu sự xuất hiện của một điều này không ảnh hưởng đến xác suất của sự kiện kia.", Nên dựa vào sự phụ thuộc của hai quan sát. về cách chúng được tạo / chọn, thay vì chúng trông như thế nào trong dữ liệu. Sau đó, hai quan sát giống hệt nhau trong trường hợp tôi đã đề cập ở trên vẫn nên độc lập.

— tiantianchen

2

Xin đừng nhầm lẫn lời giải thích heuristic khi bắt đầu bất kỳ mục Wikipedia nào với một định nghĩa. Định nghĩa được đưa ra dưới tiêu đề "định nghĩa" trong cùng một bài viết . Đây là một trong những câu trả lời của Tim ở đây.

— whuber

35

Tôi sẽ cố gắng giải thích nó bằng các thuật ngữ phi kỹ thuật: Một biến ngẫu nhiên mô tả kết quả của một thử nghiệm; bạn không thể biết trước kết quả chính xác sẽ là gì nhưng bạn có một số thông tin: bạn biết kết quả nào là có thể và bạn biết, với mỗi kết quả, xác suất của nó.

Ví dụ: nếu bạn tung đồng xu công bằng thì bạn không biết trước mình sẽ nhận được đầu hay đuôi, nhưng bạn biết rằng đây là những kết quả có thể xảy ra và bạn biết rằng mỗi loại có 50% khả năng xảy ra.

Để giải thích sự độc lập, bạn phải ném hai đồng xu công bằng. Sau khi tung đồng xu đầu tiên, bạn biết rằng trong lần ném thứ hai, xác suất của đầu vẫn là 50% và đối với đuôi cũng vậy. Nếu lần ném đầu tiên không ảnh hưởng đến xác suất của lần thứ hai thì cả hai lần ném đều độc lập. Nếu lần ném thứ nhất có ảnh hưởng đến xác suất của lần ném thứ hai thì chúng phụ thuộc.

Một ví dụ về việc tung phụ thuộc là khi bạn dán hai đồng xu lại với nhau.

3

Một cặp biến phụ thuộc khác sẽ là "cho dù bạn có đầu" và "bạn có đuôi hay không". Cả hai đều ngẫu nhiên nhưng chúng không độc lập với nhau.

— dùng253751

3

@immibis Hoặc tung xúc xắc công bằng, viết ra giá trị. sau đó cuộn nó một lần nữa và nhân giá trị với giá trị được ghi lại. Giá trị này là ngẫu nhiên, nhưng phụ thuộc vào cuộn đầu tiên.

— Crowley

8

Ngẫu nhiên liên quan đến biến ngẫu nhiên , và độc lập liên quan đến độc lập xác suất. Bằng sự độc lập, chúng tôi có nghĩa là việc quan sát một biến không cho chúng tôi biết bất cứ điều gì về biến khác, hoặc theo thuật ngữ chính thức hơn, nếu và là hai biến ngẫu nhiên, thì chúng tôi nói rằng chúng độc lập nếu $X$ $Y$

p_{X, Y} (x, y) = p_{X} (x) p_{Y} (y)

$p_{X,Y}(x, y) = p_X(x)\,p_Y(y)$

hơn thế nữa

E (X Y) = E (X) E (Y)

$E(XY) = E(X)E(Y)$

và hiệp phương sai của họ bằng không. Biến ngẫu nhiên phụ thuộc vào nếu nó có thể được viết dưới dạng hàm của $Y$ $X$ $X$

Y = f (X)

$Y = f(X)$

Vì vậy, trong trường hợp này là ngẫu nhiên và phụ thuộc vào . $Y$ $X$

Quá trình gọi "không độc lập" là khá sai lệch - độc lập với những gì? Tôi đoán bạn có nghĩa rằng có một số độc lập và biến ngẫu nhiên phân phối hệt (kiểm tra ở đây , hoặc ở đây ) mà đến từ một số quá trình. Bằng cách độc lập, chúng tôi có nghĩa là ở đây họ độc lập với nhau. Có các quy trình tạo ra các biến ngẫu nhiên phụ thuộc, ví dụ $X_1,\dots,X_k$

X_{i} = X_{i - 1} + ε

$X_i = X_{i-1} + \varepsilon$

trong đó là một số nhiễu ngẫu nhiên. Rõ ràng trong trường hợp như vậy phụ thuộc vào , nhưng nó cũng là ngẫu nhiên. $\varepsilon$ $X_i$ $X_{i-1}$

— Tim
nguồn

Những gì hiện

có nghĩa là nếu X là một biến ngẫu nhiên? Tôi nghĩ rằng bạn đang bối rối RVs và các sự kiện: hai RVs X và Y là độc lập nếu các sự kiện

và

là độc lập cho tất cả r, s

P (X)

$P(X)$

P (X \leq r)

$P(X\leq r)$

P (Y \leq s)

$P(Y\leq s)$

— Matthew Towers

Sau đó, bất kỳ hai biến ngẫu nhiên liên tục là độc lập.

— Tháp Matthew

@m_t_ Tôi thực sự không nghĩ rằng việc thảo luận về các ký hiệu dẫn đến bất cứ đâu (xem ví dụ en.wikipedia.org/wiki/iêu )

— Tim

1

@m_t_ này là tách tóc, thấy stats.stackexchange.com/questions/16321/... hoặc math.ucsd.edu/~napkaria/crypto/handouts/IndepDepRV.pdf

— Tim

2

@tiantianchen theo cách khác: nếu bạn có iid các biến ngẫu nhiên, thì bạn có thể xây dựng hàm khả năng bằng cách nhân các pdf riêng lẻ vì chúng độc lập.

— Tim

1

Các biến được sử dụng trong tất cả các lĩnh vực toán học. Các định nghĩa về tính độc lập và tính ngẫu nhiên của một biến được áp dụng đơn phương cho tất cả các dạng toán học, không chỉ cho thống kê.

Ví dụ, trục X và Y trong hình học Euclide 2 chiều biểu thị các biến độc lập, tuy nhiên, giá trị của chúng không (thường) được gán ngẫu nhiên.

Hai biến đã cho có thể là ngẫu nhiên hoặc độc lập (của nhau) hoặc cả hai hoặc không. Thống kê có xu hướng tập trung vào tính ngẫu nhiên (chính xác hơn là xác suất) và việc hai biến có độc lập hay không có thể có nhiều ý nghĩa đối với xác suất của các kết quả đã cho được quan sát.

Bạn có xu hướng nhìn thấy hai tính chất này (tính độc lập và tính ngẫu nhiên) được mô tả cùng nhau khi nghiên cứu thống kê, bởi vì cả hai đều quan trọng để biết và có thể ảnh hưởng đến câu trả lời cho câu hỏi trong tầm tay. Tuy nhiên, các tính chất này không đồng nghĩa và trong các lĩnh vực toán học khác, chúng không nhất thiết phải xảy ra cùng nhau.

— Steve-O
nguồn

Cảm ơn. Bạn có thể giải thích thêm về "liệu hai biến độc lập có thể có nhiều hàm ý cho xác suất của các kết quả đã cho được quan sát hay không."

— tiantianchen

3

Đây là một câu trả lời không thống kê nhằm giải quyết một ý nghĩa "độc lập" khác với câu trả lời được sử dụng trong câu hỏi. Nó cũng nhầm lẫn hai cảm giác của "biến": một là toán học và một là định nghĩa thống kê của biến ngẫu nhiên (chắc chắn không giống với các biến trên trục hình học).

— whuber

1

Khái niệm độc lập là tương đối, trong khi bạn có thể tự mình ngẫu nhiên. Trong ví dụ của bạn, bạn có "hai biến ngẫu nhiên độc lập" và không cần nói về một số "lấy mẫu ngẫu nhiên".

Giả sử bạn đúc một cái chết hoàn hảo nhiều lần. Kết quả là một tiên nghiệm ngẫu nhiên. Biết quá khứ, bạn không thể dự đoán số sau 4. Giả sử tôi tạo một chuỗi từ phía bên kia của khuôn: , . Tôi nhận được . Nó là ngẫu nhiên như cái đầu tiên. Bạn không thể đoán những gì đến sau . Nhưng hai chuỗi hoàn toàn phụ thuộc. $6,5,3,5, 4\ldots$ $6\to1$ $3\to4$ $1,2,4,2, 3\ldots$ $3$

Nếu một người ném hai con xúc xắc song song (không có tương tác giữa chúng), các chuỗi tương ứng của chúng sẽ là ngẫu nhiên và độc lập.

— Laurent Duval
nguồn

1

Đây có thể là một kỹ thuật nhỏ với mức độ của OP, nhưng liên quan đến tuyên bố của bạn "Bạn không thể độc lập (về một cái gì đó) (như một quá trình, một chuỗi)" hãy xem xét các điều sau: Bất kỳ biến ngẫu nhiên X nào, bằng hằng số c với xác suất một, không phụ thuộc vào "mọi thứ", kể cả chính nó. Tức là, đối với một X như vậy, X độc lập với X. Bạn có thể dễ dàng kiểm tra xem theo định nghĩa độc lập.

— Mark L. Stone

@Mark L. Stone Tôi sẽ sửa câu nói sai này. Bởi một mình tôi có nghĩa là "trong chính nó". Theo định nghĩa của bạn, bạn có được phép nói:

độc lập hay

và

độc lập?

X

$X$

X

$X$

X

$X$

— Laurent Duval

X độc lập với chính nó. Tức là, X độc lập với X.

— Mark L. Stone

0

Khi bạn có một cặp giá trị khi cái đầu tiên được tạo ngẫu nhiên và cái thứ hai có bất kỳ sự phụ thuộc nào vào cái đầu tiên. ví dụ chiều cao và cân nặng của một người đàn ông. Có mối tương quan giữa chúng. Nhưng cả hai đều ngẫu nhiên.

— sẹo
nguồn

Mặc dù bài đăng này sử dụng các từ "ngẫu nhiên" và "phụ thuộc", nhưng nó không định nghĩa chúng hoặc phân biệt rõ ràng. Thật vậy, nó dường như gợi ý rằng "ngẫu nhiên = phụ thuộc"!

— whuber

0

Ví dụ về đồng xu là một minh họa tuyệt vời về một biến ngẫu nhiên và độc lập, một cách tốt để nghĩ về một biến ngẫu nhiên nhưng phụ thuộc sẽ là lá bài tiếp theo được rút ra từ bảy ván bài, khả năng - của bất kỳ kết quả số cụ thể nào thay đổi tùy thuộc vào các thẻ được xử lý trước đó, nhưng cho đến khi chỉ còn một giá trị của thẻ trong giày, giá trị của thẻ tiếp theo sẽ vẫn là ngẫu nhiên.

— phantombread
nguồn

3

Có lẽ đáng để thay thế từ "khả năng" bằng "xác suất" ở đây, vì khả năng có một định nghĩa kỹ thuật riêng trong thống kê

— Silverfish

1

Một xác suất phụ thuộc vào các sự kiện khác (thường là các sự kiện trước đó, nhưng đôi khi dựa trên kiến thức về các sự kiện tương lai hoặc đồng thời - thực sự không có hướng tạm thời cho việc này) được gọi là xác suất có điều kiện . Khả năng từ được sử dụng để chỉ một loại "xác suất ngược" (hoặc trong trường hợp liên tục, mật độ xác suất) - nghĩa là, người ta tính xác suất của kết quả (ví dụ: dữ liệu của bạn) có điều kiện trên tham số mô hình của bạn ), nhưng nếu chúng ta nghĩ về điều này theo cách khác, đó là khả năng của tham số đó, dựa trên dữ liệu của bạn .

— Cá bạc

1

π

$π$

π = 1 / 6

$π=1/6$

-1

David Bohm trong tác phẩm Nhân quả và Cơ hội trong Vật lý hiện đại (London: Routledge, 1957/1984) mô tả quan hệ nhân quả, cơ hội, ngẫu nhiên và độc lập:

"Trong tự nhiên, không có gì là không đổi. Mọi thứ đều ở trong trạng thái biến đổi, chuyển động và thay đổi vĩnh viễn. cảm giác rằng nó làm phát sinh tuyệt đối không có gì tồn tại vào thời gian sau này .... mọi thứ đến từ những thứ khác và làm phát sinh những thứ khác. Nguyên tắc này chưa phải là một tuyên bố về sự tồn tại của quan hệ nhân quả trong tự nhiên. bước tiếp theo là lưu ý rằng khi chúng ta nghiên cứu các quá trình diễn ra trong một loạt các điều kiện, chúng ta khám phá ra rằng bên trong tất cả sự phức tạp của thay đổi và biến đổi đều có mối quan hệmà vẫn hiệu quả không đổi. .... Tuy nhiên, tại thời điểm này, chúng tôi gặp một vấn đề mới. Đối với sự cần thiết của một luật nhân quả là không bao giờ tuyệt đối. Do đó, chúng ta thấy rằng người ta phải hình dung ra quy luật tự nhiên chỉ cần thiết nếu một người trừu tượng khỏi các tình huống , đại diện cho các yếu tố độc lập cơ bản có thể tồn tại bên ngoài phạm vi của những điều mà luật pháp đang xem xét và không nhất thiết phải tuân theo từ bất cứ điều gì có thể được chỉ định trong bối cảnh của các luật này. Những tình huống như vậy dẫn đến cơ hội . "(Tr.1-2)

"Xu hướng các tình huống nằm ngoài một bối cảnh nhất định biến động độc lập với các sự kiện bên trong bối cảnh đó đã chứng tỏ nó phổ biến đến mức người ta có thể đưa ra nó như một nguyên tắc; cụ thể là nguyên tắc ngẫu nhiên. đến sự biến động của các tình huống này theo một cách rất phức tạp đối với một loạt các khả năng, nhưng theo cách mà các trung bình thống kê có một hành vi thường xuyên và có thể dự đoán được. " (tr.22)

— không có kinh nghiệm
nguồn

3

Định nghĩa của bạn về "ngẫu nhiên" có vẻ bất thường. Nó dường như được kết nối mật thiết với các khái niệm "dự đoán" và "mẫu" - nhưng chính xác những điều đó có nghĩa là gì? Chẳng hạn, nếu một thử nghiệm có khả năng mang lại bất kỳ số nào giữa

0

$0$ và

1

$1$ đã được quan sát nhất quán để mang lại giá trị của một trong hai

1 / 3

$1/3$ hoặc là

4 / 7

$4/7$ , đó dường như là một "mẫu" và - trong phạm vi nó khác với tập hợp vô hạn ban đầu của các giá trị có thể - ít nhất là một phần "có thể dự đoán được". Nơi bạn viết "nếu bạn vẽ ..." có vẻ như bạn đang tuyên bố rằng không có biến số đơn biến nào có thể là ngẫu nhiên!

— whuber

3

Bạn dường như đang thảo luận về các quá trình ngẫu nhiên (trong thời gian) chứ không phải là ngẫu nhiên và các biến ngẫu nhiên.

— whuber

4

Tôi tin rằng một phần của khó khăn chúng ta gặp phải khi giao tiếp là bạn dường như đang nghĩ đến "độc lập" theo nghĩa của một biến độc lập trong hồi quy. Mặc dù một số yếu tố của câu hỏi có thể gợi ý rằng, cụm từ "hai biến ngẫu nhiên độc lập" và "lấy mẫu ngẫu nhiên" chỉ ra điều khác.

— whuber

1

Tôi thậm chí không thể nói sự hiểu biết của bạn là gì, bởi vì câu trả lời của bạn không cung cấp định nghĩa. Tôi phải đoán những gì bạn đang cố gắng nói từ các ví dụ và mô tả bạn đưa ra. Chúng dường như khác với cảm giác của "ngẫu nhiên" và "độc lập" theo cách tôi đã mô tả trong các bình luận trước đây.

— whuber

1

Tôi muốn thêm vào @whuber nhận xét rằng định nghĩa của bạn đề cập đến các biến ngẫu nhiên ảnh hưởng lẫn nhau có thể gây hiểu nhầm. "Ảnh hưởng" là một thuật ngữ rất mạnh liên quan đến một số loại nhân quả, v.v.

— Tim