Tôi là một người Bayes có đầu óc đơn giản, người cảm thấy thoải mái trong thế giới ấm cúng của Bayes.

Tuy nhiên, do các lực lượng xấu xa ngoài tầm kiểm soát của tôi, bây giờ tôi phải thực hiện các khóa học tốt nghiệp giới thiệu về thế giới kỳ lạ và kỳ lạ của thống kê thường xuyên. Một số khái niệm này có vẻ rất kỳ lạ đối với tôi và các giáo viên của tôi không thành thạo Bayes, vì vậy tôi nghĩ rằng tôi đã nhận được sự giúp đỡ trên internet từ những người hiểu cả hai.

Làm thế nào bạn sẽ giải thích các khái niệm khác nhau trong thống kê thường xuyên cho một người Bayes tìm thấy chủ nghĩa thường xuyên kỳ lạ và không thoải mái ?

Ví dụ, một số điều tôi đã hiểu:

• Khả năng tối đa ước lượng $\text{argmax}_\theta \;p(D|\theta)$ bằng với công cụ ước tính sau tối đa, nếubằng phẳng.p ( θ $\text{argmax}_\theta \;p(\theta |D)$$p(\theta)$
• (không hoàn toàn chắc chắn về điều này). Nếu một công cụ ước tính nhất định là một thống kê đủ cho một tham số và là phẳng, thì , tức là phân phối lấy mẫu bằng với hàm khả năng và do đó bằng với giá trị sau của tham số được cung cấp trước đó. θp(θ)p( θ |θ)=c1⋅p(D|θ)=c1⋅c2⋅p(θ|D$\hat \theta$$\theta$$p(\theta)$$p(\hat \theta|\theta)=c_1\cdot p(D|\theta)=c_1\cdot c_2\cdot p(\theta|D)$

Đó là những ví dụ về việc giải thích các khái niệm thường xuyên cho một người hiểu những người Bayes.

Làm thế nào bạn có thể giải thích tương tự các khái niệm trung tâm khác của thống kê thường xuyên theo thuật ngữ một Bayes có thể hiểu?

Cụ thể, tôi quan tâm đến các câu hỏi sau:

• Vai trò của lỗi bình phương trung bình là gì? Làm thế nào nó liên quan đến chức năng mất Bayes?
• Làm thế nào để tiêu chí "không thiên vị" liên quan đến tiêu chí Bayes? Tôi biết rằng một người Bayes sẽ không yêu cầu những người ước tính của mình không thiên vị, nhưng đồng thời, một người Bayes có thể sẽ đồng ý rằng một người ước lượng thường xuyên không thiên vị thường mong muốn hơn một người thường xuyên thiên vị (mặc dù anh ta sẽ coi cả hai đều kém hơn công cụ ước tính Bayes). Vậy làm thế nào để một Bayes hiểu không thiên vị?
• Nếu chúng ta có các linh mục phẳng, các khoảng tin cậy thường xuyên có bằng cách nào đó trùng với các Bayes không?
• Điều gì trong tên của Laplace đang diễn ra với các bài kiểm tra đặc điểm kỹ thuật như bài kiểm tra ? Đây có phải là một số trường hợp đặc biệt suy biến của một bản cập nhật Bayes về phân phối trên không gian mô hình?$F$

Tổng quát hơn:

Có một số tài nguyên giải thích chủ nghĩa thường xuyên cho Bayes? Hầu hết các cuốn sách chạy theo cách khác: họ giải thích chủ nghĩa Bayes cho những người có kinh nghiệm trong thống kê thường xuyên.

ps. Tôi đã xem xét, và trong khi có rất nhiều câu hỏi về sự khác biệt giữa Bayes và Chủ nghĩa thường xuyên, không ai giải thích rõ ràng Chủ nghĩa Thường xuyên theo quan điểm của Bayes.

Câu hỏi này có liên quan, nhưng không cụ thể về việc giải thích các khái niệm Thường xuyên cho một người Bayes (nói thêm về việc biện minh cho suy nghĩ thường xuyên nói chung).

Ngoài ra, quan điểm của tôi là không bash thường xuyên. Tôi thực sự muốn hiểu nó tốt hơn

$t$

Hơn nữa, một số khái niệm được đề cập bởi bạn không thực sự là Bayes. Ví dụ, hàm mất mát là một khái niệm chung và chỉ khi bạn kết hợp nó với phân phối trước, bạn mới có rủi ro Bayes.

Một điều đáng nói nữa là ngay cả khi bạn tự khai báo Bayes, thì có lẽ bạn đã sử dụng rất nhiều phương pháp thường xuyên. Ví dụ: nếu bạn sử dụng MCMC để ước tính và sau đó tính giá trị trung bình của chuỗi MCMC làm ước tính điểm của bạn, thì bạn đang sử dụng công cụ ước tính thường xuyên, vì bạn không sử dụng bất kỳ mô hình Bayes và nhà tiên tri nào để lấy ước tính trung bình của MCMC chuỗi.

Cuối cùng, một số khái niệm và công cụ thường xuyên không dễ dịch sang cài đặt Bayes, hoặc "tương đương" được đề xuất là bằng chứng của khái niệm, sau đó là thứ bạn sử dụng trong cuộc sống thực. Trong nhiều trường hợp, các cách tiếp cận đơn giản là khác nhau và tìm kiếm sự tương đồng là một sự lãng phí thời gian.

$\hat θ̂$$θ$$p(θ)$$p(\hat θ̂ |θ)=p(D|θ)=c⋅p(θ|D)$

Điều này là không chính xác:

1. $p(D|θ)=p(\hat θ̂ |θ)\times p(D|\hat θ)$$\hat θ$
2. $p(D|θ)=c⋅p(θ|D)$$D$$θ$
3. $\hat θ$$D$

Hơn nữa, sự đầy đủ không liên quan gì đến chủ nghĩa thường xuyên so với chủ nghĩa Bayes, mặc dù có tồn tại những quan niệm cụ thể về Bayes về sự đầy đủ. Ví dụ như trong so sánh mô hình .

một người Bayes có thể đồng ý rằng một người ước lượng thường xuyên không thiên vị nói chung là mong muốn hơn so với một người thường xuyên thiên vị

Vấn đề với phần này của câu hỏi là các công cụ ước tính Bayes là công cụ ước tính thường xuyên cũng như ở chỗ chúng thỏa mãn các tính chất thường xuyên như sự chấp nhận hoặc đôi khi là tối thiểu. Như đã thảo luận trong một mục CV gần đây , Bayes ước tính theo mất bình phương lỗi có thể không thiên vị . Và không có lý do nào ngoài việc sử dụng chức năng mất đặc biệt để ủng hộ tính không thiên vị: giảm thiểu tổn thất sau là bao gồm tất cả và nếu áp đặt không thiên vị dẫn đến tổn thất cao hơn thì không nên xem xét. (Một điểm cuối cùng là có rất ít chức năng của tham số cho phép các công cụ ước tính không thiên vị.)

Nó xuất hiện với tôi như thể bạn đang xem xét một thế giới của những người thường xuyên và Bayes. Đó không phải là nhiều sắc thái. Giống như nếu bạn phải là người này hay người kia, hoặc như thể các phương pháp được áp dụng được xác định bởi một số niềm tin cá nhân (chứ không phải là sự thuận tiện và vấn đề và thông tin cụ thể trong tay). Tôi tin rằng đây là một quan niệm sai lầm dựa trên các xu hướng hiện tại trong việc tự gọi mình là người thường xuyên hoặc Bayes, và cũng có rất nhiều ngôn ngữ thống kê có thể gây nhầm lẫn. Chỉ cần cố gắng để có một nhóm các nhà thống kê giải thích giá trị p hoặc khoảng tin cậy.

Một số tác phẩm cổ điển có thể giúp bạn hiểu suy luận thường xuyên. Các tác phẩm cổ điển chứa đựng các nguyên tắc cơ bản, gần với sức nóng của cuộc thảo luận giữa những người đề xướng và cung cấp một nền tảng của động lực (thực tế) và sự phù hợp tại thời điểm đó.

Ngoài ra, những tác phẩm cổ điển này dựa trên các phương pháp thường xuyên, được viết vào thời điểm mọi người chủ yếu làm việc với các nguyên tắc Bayes và tính toán xác suất (lưu ý rằng số liệu thống kê không phải lúc nào cũng như khi bạn đang làm việc với một vấn đề toán học điển hình với xác suất, xác suất có thể là rất không xác định).

Xác suất thường xuyên không phải là xác suất nghịch đảo

'Xác suất nghịch đảo' Fisher 1930

Bạn đưa ra một khái niệm về khả năng là một biểu thức Bayes với một căn hộ trước

Tuy nhiên,

1. trong khi toán học trùng khớp (khi giải thích sai, vì bạn có thể nhận được P (x | a) = P (a | x), đến một hằng số, nhưng chúng không giống nhau), cách xây dựng và ý nghĩa là khác nhau.

2. Khả năng không có nghĩa là một 'xác suất Bayes dựa trên các linh mục phẳng, hoặc mặc đồng phục'. Khả năng thậm chí không phải là xác suất và không tuân theo quy tắc phân phối xác suất (ví dụ: bạn không thể thêm khả năng cho các sự kiện khác nhau và tích phân không bằng một), chỉ khi bạn nhân nó với một căn hộ trước, rằng nó trở thành một xác suất, nhưng sau đó ý nghĩa cũng đã thay đổi.

Một số trích dẫn thú vị từ 'xác suất nghịch đảo' 1930 Fisher.

Phương pháp Bayes và thường xuyên là các công cụ khác nhau :

... Có hai biện pháp khác nhau về niềm tin hợp lý phù hợp với các trường hợp khác nhau. Biết dân số chúng ta có thể thể hiện kiến ​​thức không đầy đủ của chúng tôi về, hoặc kỳ vọng về mẫu về mặt xác suất; biết mẫu chúng ta có thể thể hiện kiến ​​thức không đầy đủ của chúng ta về dân số theo khả năng. Chúng ta có thể nêu khả năng tương đối rằng một mối tương quan chưa biết là + 0,6, nhưng không có khả năng nó nằm trong phạm vi .595-.605.

Lưu ý rằng có là một tuyên bố xác suất nhất định, đó là một phương pháp frequentist cung cấp.

$\theta$$\theta$$\theta$

• một phương pháp thường xuyên đưa ra tuyên bố về xác suất một thí nghiệm (với khoảng ngẫu nhiên) sẽ có giá trị thực của tham số (có thể ngẫu nhiên) bên trong khoảng được đưa ra bởi một thống kê.
• Đây không phải là nhầm lẫn với xác suất rằng một thử nghiệm cụ thể (với khoảng thời gian cố định) sẽ có giá trị thực của tham số (cố định) bên trong khoảng được đưa ra bởi thống kê.

Xem thêm 'Về "Lỗi có thể xảy ra" của Hệ số tương quan được giảm từ một mẫu nhỏ.' Fisher 1921 trong đó Fisher chứng minh sự khác biệt của phương pháp của ông không phải là xác suất nghịch đảo của Bayes.

Trong bài báo trước đây, người ta đã tìm thấy, bằng cách áp dụng một phương pháp đã được phát triển trước đó, rằng giá trị << rất có thể >> của mối tương quan của dân số, nhỏ hơn một chút so với mẫu. Kết luận này đã bị chỉ trích bất lợi trong Biometrica , rõ ràng dựa trên giả định không chính xác mà tôi đã suy luận từ định lý Bayes . Trong bài báo này sẽ chỉ ra rằng khi các đường cong lấy mẫu được hiển thị gần như bình thường, hiệu chỉnh mà tôi đã đề xuất bằng khoảng cách giữa giá trị dân số và điểm giữa của đường cong lấy mẫu và theo đó không nhiều hơn hiệu chỉnh của sai lệch không đổi được giới thiệu bằng phương pháp tính toán. Không có giả định như một xác suất tiên nghiệm có liên quan.

và

... hai khái niệm hoàn toàn khác biệt đã bị nhầm lẫn dưới tên << xác suất >> ...

đó là xác suất và khả năng Xem thêm ghi chú về phần cuối của bài viết của Fishers từ năm 1921, trong đó ông nói nhiều hơn về sự nhầm lẫn.

Một lần nữa lưu ý rằng khả năng là một hàm của một tập các tham số, nhưng không phải là hàm mật độ xác suất của tập các tham số đó.

Xác suất được sử dụng cho một cái gì đó bạn có thể quan sát. Ví dụ: xác suất mà một con xúc xắc lăn sáu. Khả năng được sử dụng cho một cái gì đó mà bạn không thể quan sát được, ví dụ như giả thuyết rằng một con xúc xắc lăn sáu 1/6 thời gian.

Ngoài ra, bạn có thể thích công việc của Fisher trong đó anh ấy nhẹ hơn nhiều theo quan điểm của anh ấy về định lý Bayes (vẫn mô tả sự khác biệt). 'Trên nền tảng toán học của thống kê lý thuyết' Fisher 1922 (đặc biệt là phần 6 'giải pháp chính thức cho vấn đề ước tính')

Hơn

Nếu bạn có thể hiểu và đánh giá cao các ý kiến ​​từ Fisher về sự khác biệt giữa xác suất nghịch đảo và nguyên tắc khả năng bạn có thể muốn đọc thêm về sự khác biệt trong các phương pháp thường xuyên.

'Phác thảo một lý thuyết về ước tính thống kê dựa trên lý thuyết cổ điển về xác suất' Neyman 1937

Đó là một tác phẩm 50 trang và khó tóm tắt. Nhưng nó liên quan đến các câu hỏi của bạn về độ lệch không thiên vị , giải thích phương pháp bình phương tối thiểu (và khác biệt với phương pháp khả năng tối đa), và đặc biệt cung cấp cách xử lý các khoảng tin cậy (khoảng cách thường xuyên không giống nhau, duy nhất giống như khoảng thời gian Bayes cho các linh mục phẳng).

Liên quan đến bài kiểm tra F không rõ ràng, những gì trong tên của Laplace bạn nghĩ là sai. Nếu bạn thích sử dụng sớm, bạn có thể xem trong 'Các nghiên cứu về biến đổi cây trồng. II. Phản ứng manurial của các giống khoai tây khác nhau 1923 Fisher và Mackenzie

Bài viết này có biểu hiện của anova trong một mô hình tuyến tính dễ nhận biết, chia các tổng bình phương thành giữa và trong các nhóm.

$\frac{1}{2d_1} + \frac{1}{2d_2}$