Người Bayes có chấp nhận tiên đề của Kolmogorov không?


24

Thông thường lý thuyết xác suất được dạy với các tiên đề của Koleimorov. Do Bayes cũng chấp nhận tiên đề của Kolmogorov?


8
Lý thuyết Bayes xuất phát từ các tiên đề chuẩn của xác suất, do đó từ các tiên đề Kolmogorov.
Tây An

3
@ Tây An: Mức độ niềm tin chủ quan đó có thể được biểu thị bằng xác suất không quá rõ ràng - do đó, câu hỏi và công việc của Ramsey & de Finetti.
Scortchi - Phục hồi Monica

2
Đó là lý do tại sao tôi là một Bayes "khách quan" và bắt đầu với các phân phối trước được xác định theo các tiêu chuẩn của lý thuyết xác suất ...
Xi'an

2
Tôi tin rằng việc giải thích xác suất Cox-Jaynes cung cấp một nền tảng nghiêm ngặt cho xác suất Bayes. (xem câu trả lời của tôi). Tuy nhiên, thật tuyệt khi có ý kiến ​​của Xi'an về điều đó.
Hội nghị thượng đỉnh

1
@Summit: cảm ơn bạn nhưng tôi sợ tôi không quan tâm lắm đến vấn đề này ...!
Tây An

Câu trả lời:


25

Theo tôi, việc giải thích xác suất Cox-Jaynes cung cấp một nền tảng nghiêm ngặt cho xác suất Bayes:

  • Cox, Richard T. "Xác suất, tần suất và kỳ vọng hợp lý." Tạp chí vật lý Mỹ 14.1 (1946): 1-13.
  • Jaynes, Edwin T. Lý thuyết xác suất: logic của khoa học. Báo chí đại học Cambridge, 2003.
  • Beck, James L. "Nhận dạng hệ thống Bayes dựa trên logic xác suất." Kiểm soát cấu trúc và theo dõi sức khỏe 17.7 (2010): 825-847.

Các tiên đề của logic xác suất xuất phát từ Cox là:

  1. Pr[b|một]0
  2. (P2): Pr[b¯|một]= =1-Pr[b|một] (hàm phủ định)
  3. (P3): (chức năng kết hợp)Pr[bc|một]= =Pr[c|bmột]Pr[b|một]

Tiên đề P1 - P3 ngụ ý những điều sau đây (Beck, James L. "Nhận dạng hệ thống Bayes dựa trên logic xác suất." Kiểm soát cấu trúc và theo dõi sức khỏe 17.7 (2010): 825-847):

  1. (P4): a) ; b) ; c)Pr [ ¯ b | b c ] = 0 Pr [ b | c ] [ 0 , 1 ]Pr[b|bc]= =1Pr[b¯|bc]= =0Pr[b|c][0,1]
  2. (P5): a) , b) , trong đó có nghĩa là được chứa trong và có nghĩa là tương đương với .Pr [ a | c ( a b ) ] = Pr [ b | c ( a b ) ] a b a c a b a bPr[a|c(ab)]Pr[b|c(ab)]Pr[a|c(ab)]=Pr[b|c(ab)]abacabab
  3. (P6):Pr[ab|c]=Pr[a|c]+Pr[b|c]Pr[ab|c]
  4. (P7): Giả sử rằng mệnh đề nói rằng một và chỉ một trong các mệnh đề là đúng, thì: b 1 , ... , b Ncb1,Giáo dục,bN
    • a) Định lý cận biên:Pr[một|c]= =Σn= =1NP[mộtbn|c]
    • b) Định lý xác suất tổng:Pr[một|c]= =Σn= =1NPr[một|bnc]Pr[bn|c]
    • c) Định lý Bayes: Với :Pr [ b k | a c ] = Pr [ a | b kc ] Pr [ b k | c ]k= =1,Giáo dục,NPr[bk|mộtc]= =Pr[một|bkc]Pr[bk|c]Σn= =1NPr[một|bnc]Pr[bn|c]

Chúng ngụ ý tuyên bố logic của Kolmogorov, có thể được xem như một trường hợp đặc biệt.

Theo cách giải thích của tôi về quan điểm Bayes, mọi thứ luôn luôn (ngầm) dựa trên niềm tin và kiến ​​thức của chúng tôi.

So sánh sau đây được lấy từ Beck (2010): Nhận dạng hệ thống Bayes dựa trên logic xác suất

Quan điểm của Bayes

Xác suất là thước đo tính hợp lý của một tuyên bố dựa trên thông tin được chỉ định.

  1. Phân phối xác suất đại diện cho các trạng thái của kiến thức hợp lý về các hệ thống và hiện tượng, không phải là thuộc tính vốn có của chúng.
  2. Xác suất của một mô hình là thước đo tính hợp lý của nó so với các mô hình khác trong một tập hợp.
  3. Thực tế định lượng sự không chắc chắn do thiếu thông tin mà không có bất kỳ tuyên bố nào rằng đây là do tính ngẫu nhiên vốn có của tự nhiên.

Quan điểm thường xuyên

Xác suất là tần suất xuất hiện tương đối của một sự kiện ngẫu nhiên vốn có trong thời gian dài .

  1. Phân phối xác suất là thuộc tính vốn có của các hiện tượng ngẫu nhiên.
  2. Phạm vi giới hạn, ví dụ không có ý nghĩa đối với xác suất của một mô hình.
  3. Tính ngẫu nhiên cố hữu được giả định, nhưng không thể được chứng minh.

Cách lấy các tiên đề của Kolmogorov từ các tiên đề ở trên

Sau đây, phần 2.2 của [Beck, James L. "Nhận dạng hệ thống Bayes dựa trên logic xác suất." Kiểm soát cấu trúc và theo dõi sức khỏe 17.7 (2010): 825-847.] Được tóm tắt:

Trong phần sau chúng ta sử dụng: thước đo xác suất trên tập con của tập hữu hạn :A XPr(A)AX

  1. [K1]:Pr(A)0,AX
  2. [K2]:Pr(X)=1
  3. [K3]: nếu và tách rời nhau.Một BPr(AB)=Pr(A)+Pr(B),A,BXAB

Để lấy được (K1 - K3) từ các tiên đề của lý thuyết xác suất, [Beck, 2010] đã đưa ra mệnh đề nêu rõ và chỉ định mô hình xác suất cho . [Beck, 2010] còn giới thiệu thêm .x X x Pr ( A ) = Pr [ x A | π ]πxXxPr(A)=Pr[xA|π]

  • P1 ngụ ý K1 với vàc = πb={xA}c=π
  • K2 theo sau từ ; P4 (a), và bang mà .π x XPr[xX|π]= =1πxX
  • K3 có thể được bắt nguồn từ P6: và tách rời nhau có nghĩa là và là loại trừ lẫn nhau. Do đó, K3:MộtBxMộtxB Pr(xMộtB|π)= =Pr(xMột|π)+Pr(xB|π)

5
Từ K3 của bạn, bạn có thể truy cập (nghiện hữu hạn) nhưng không phải là tiên đề thứ 3 của Kolmogorov, (tính gây nghiện có thể đếm được) khi là các thành phần của trường , và không chỉ là tập con của một tập hợp hữu hạn. Pr(tôi= =1nMộttôi)= =Σtôi= =1nPr(Mộttôi)Pr(tôi= =1Mộttôi)= =Σtôi= =1Pr(Mộttôi)Mộtσ
Scortchi - Phục hồi Monica

2
@Scortchi KRKoch trong bài giới thiệu về Bayesian Statistics trích dẫn Bernardo và Smith (1994), Lý thuyết Bayes, tr. 105, như một nguồn chỉ ra cách giải quyết vô hạn có thể đếm được. Tôi đã không kiểm tra nó, nhưng như một tài liệu tham khảo, nó cũng có thể được đưa ra ở đây.
viết

12

Sau khi phát triển Lý thuyết Xác suất, cần phải chỉ ra rằng các khái niệm lỏng lẻo trả lời cho tên "xác suất" được đo theo khái niệm được xác định chặt chẽ mà họ đã truyền cảm hứng. Xác suất Bayes "chủ quan" được xem xét bởi Ramsey và de Finetti, người độc lập cho thấy rằng việc định lượng mức độ niềm tin chịu sự ràng buộc của sự so sánh và kết hợp (niềm tin của bạn là mạch lạc nếu không ai có thể tạo ra một cuốn sách tiếng Hà Lan chống lại bạn) là một xác suất.

Sự khác biệt giữa các tiên đề chủ yếu là vấn đề về hương vị liên quan đến những gì nên được xác định và những gì có nguồn gốc. Nhưng tính gây nghiện có thể đếm được là một trong những thứ của Kolmogorov không thể lấy được từ Cox hay Finetti, và đã gây tranh cãi. Một số người Bayes (ví dụ de Finetti & Savage) dừng lại ở chứng nghiện hữu hạn & vì vậy không chấp nhận tất cả các tiên đề của Kolmogorov. Họ có thể đặt phân phối xác suất thống nhất trong các khoảng thời gian vô hạn mà không chính xác. Những người khác theo dõi Villegas cũng giả sử tính liên tục đơn điệu, và có được tính gây nghiện đáng kể từ đó.

Ramsey (1926), "Sự thật và xác suất", trong Ramsey (1931), Những nền tảng của toán học và các tiểu luận logic khác

de Finetti (1931), "Sul ýato soggettivo della probabilità", Fundamenta Mathicalæ , 17 , tr 298 - 329

Villegas (1964), "Về xác suất định tính -achebras", Ann. Môn Toán. Thống kê. , 35 , 4.σ


3
Tại sao câu trả lời của tôi chỉ giải quyết với xác suất 'khách quan Bayes'? Công trình bán kết của Cox (1946) giải quyết rõ ràng vấn đề chủ quan! Đó là một bài viết rất thú vị - và dễ đọc. Tôi không nghĩ rằng việc phân biệt giữa xác suất 'chủ quan' và 'khách quan' là hợp lý: Mọi thứ luôn được quy định ngầm cho người thực hiện phân tích -> và về vấn đề này 'chủ quan'.
Hội nghị thượng đỉnh

liên quan đến việc tạo ra các tiên đề đã nêu Kolmogorov từ Cox: Tôi hài lòng với cách nó được thực hiện trong phần 2.2 của Beck, James L. "Nhận dạng hệ thống Bayes dựa trên logic xác suất." Kiểm soát cấu trúc và theo dõi sức khỏe 17.7 (2010): 825-847.
Hội nghị thượng đỉnh

1
@Summit: (1) Bạn nói đúng; đúng hơn là quan điểm xác suất có chủ đích của Ramsey & de Finetti đặt họ vào trại "chủ quan", trong khi Cox thường được áp dụng nhiều hơn. (2) Bạn có nói rằng tính gây nghiện có thể đếm được có thể được suy ra từ các định đề của Cox không?
Scortchi - Phục hồi Monica

Tôi mở rộng câu trả lời của mình, và mong nhận được ý kiến ​​của bạn.
Hội nghị thượng đỉnh

1
@Summit: Cảm ơn - Tôi hy vọng sẽ tìm thấy thời gian để làm cho tôi thậm chí là một nửa triệt để. Tôi đã chỉ ra khoảng cách giữa nơi bạn có thể đến từ định lý của Cox và các tiên đề Kolmogorov "đầy đủ" và nghĩ rằng nó đặc biệt phù hợp với câu hỏi (mặc dù tôi đã quên hoàn toàn khi tôi trả lời lần đầu). Jaynes có một số điều thú vị để nói về BTW này.
Scortchi - Tái lập Monica
Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.