Tại sao một người Bayes không được phép nhìn vào phần dư?

Trong bài viết "Thảo luận: Các nhà sinh thái học có nên trở thành Bayes?" Brian Dennis đưa ra một cái nhìn cân bằng và tích cực đáng ngạc nhiên về số liệu thống kê Bayes khi mục đích của anh dường như là để cảnh báo mọi người về nó. Tuy nhiên, trong một đoạn, không có bất kỳ trích dẫn hay biện minh nào, ông nói:

Bayes, bạn thấy, không được phép nhìn vào phần dư của họ. Nó vi phạm nguyên tắc khả năng để đánh giá một kết quả bằng cách nó cực đoan như thế nào dưới một mô hình. Đối với một người Bayes, không có mô hình xấu, chỉ có niềm tin xấu.

Tại sao một Bayes không được phép nhìn vào phần dư? Điều gì sẽ là trích dẫn thích hợp cho điều này (tức là anh ấy trích dẫn ai)?

Dennis, B.
Thảo luận: Các nhà sinh thái học có nên trở thành Bayes?
Ứng dụng sinh thái, Hiệp hội sinh thái Hoa Kỳ , 1996 , 6, 1095-1103

— Mankka
nguồn

Nếu tranh luận đó có hiệu quả, những người thường xuyên không thể sử dụng nguyên tắc khả năng - vì lý do tương tự.

— Glen_b

@Glen: Phân tích thường xuyên không vi phạm nguyên tắc khả năng.

— Scortchi - Phục hồi Monica

@Glen: Một người thường xuyên thực sự chú ý đến LP (phiên bản yếu, tương đương với Nguyên tắc Hiệu quả - phiên bản mạnh chỉ đơn giản là không tương thích với phương pháp thường xuyên) sẽ phải tránh xa việc kiểm tra mô hình. Những người chỉ ngưỡng mộ nó rất vui khi họ có thể sử dụng nó cho công việc ước tính các tham số của một mô hình được chỉ định và vẫn có các phụ trợ độc lập ít nhiều - phần dư - còn lại để kiểm tra mô hình cũ như thế nào.

— Scortchi - Tái lập Monica

Ngay cả khi người thường xuyên thực hiện ước tính ML, anh ta vẫn vi phạm LP vì anh ta xem xét phân phối lấy mẫu của MLE để tìm khoảng tin cậy cho ước tính của mình.

— Zen

@Zen: Anh ta không vi phạm LP yếu miễn là khoảng tin cậy chỉ phụ thuộc vào dữ liệu thông qua chức năng khả năng. Nhưng anh ta sớm muộn có thể vi phạm LP mạnh bằng cách tạo khoảng tin cậy khác nhau dựa trên cùng chức năng khả năng từ một thử nghiệm khác với không gian lấy mẫu khác.

— Scortchi - Tái lập Monica

Câu trả lời:

Tất nhiên Bayes có thể nhìn vào phần dư! Và tất nhiên có những mô hình xấu trong phân tích Bayes. Có thể một vài người Bayes trong số 70 quan điểm được hỗ trợ như thế (và tôi nghi ngờ điều đó), nhưng bạn sẽ khó tìm thấy bất kỳ người Bayes nào ủng hộ quan điểm này trong những ngày này.

Tôi đã không đọc văn bản, nhưng người Bayes sử dụng những thứ như các yếu tố Bayes để so sánh các mô hình. Trên thực tế, một Bayes thậm chí có thể tính xác suất của một mô hình là đúng và chọn mô hình có nhiều khả năng là đúng. Hoặc một Bayes có thể trung bình trên các mô hình, để đạt được một mô hình tốt hơn. Hoặc có thể sử dụng kiểm tra dự đoán sau. Có rất nhiều lựa chọn để kiểm tra một mô hình và mỗi người có thể ủng hộ cách tiếp cận này hay cách khác, nhưng để nói rằng không có mô hình xấu nào trong phân tích Bayes là không có ý nghĩa.

Vì vậy, nhiều nhất, sẽ phù hợp hơn khi nói rằng trong một số phiên bản cực đoan của chủ nghĩa Bayes (phiên bản cực đoan mà hầu như không ai sử dụng trong cài đặt được áp dụng, nhân tiện), bạn không được phép kiểm tra mô hình của mình. Nhưng hơn bạn có thể nói rằng trong một số phiên bản cực đoan của chủ nghĩa thường xuyên, bạn cũng không được phép sử dụng dữ liệu quan sát. Nhưng tại sao phải lãng phí thời gian để thảo luận về những điều ngớ ngẩn này, khi chúng ta có thể thảo luận nếu và khi nào, trong một thiết lập được áp dụng, chúng ta nên sử dụng các phương pháp Bayes hay thường xuyên hay bất cứ điều gì? Đó là điều quan trọng, theo ý kiến khiêm tốn của tôi.

Cập nhật: OP yêu cầu một tài liệu tham khảo của ai đó ủng hộ phiên bản cực đoan của Bayes. Vì tôi chưa bao giờ đọc bất kỳ phiên bản cực đoan nào của Bayes, tôi không thể cung cấp tài liệu tham khảo này. Nhưng tôi đoán rằng Savage có thể là một tài liệu tham khảo. Tôi không bao giờ đọc bất cứ điều gì được viết bởi anh ấy, vì vậy tôi có thể sai.

ps.: Hãy nghĩ về vấn đề của "Bayesian được hiệu chỉnh tốt" ( Dawid (1982), JASA , 77 , 379 ). Một người dự báo Bayesian chủ nghĩa mạch lạc không thể được hiệu chỉnh, và vì vậy sẽ không xem xét mô hình / dự báo của anh ta mặc dù có bất kỳ bằng chứng áp đảo nào cho thấy anh ta không được hiệu chỉnh. Nhưng tôi không nghĩ rằng bất cứ ai trong thực tế có thể tuyên bố là mạch lạc. Vì vậy, xem xét mô hình là quan trọng.

ps2.: Tôi cũng thích bài viết này của Efron . Tài liệu tham khảo đầy đủ là: Efron, Bradley (2005). "Bayes, người thường xuyên, và các nhà khoa học." Tạp chí của Hiệp hội Thống kê Hoa Kỳ 100 (469).

— Manoel Galdino
nguồn

Tôi cũng cho rằng việc cấm không bao giờ được thực hiện nghiêm túc trong thực tế, vì vậy tôi rất ngạc nhiên khi đọc điều này từ Gelman: - "Tôi chắc chắn không muốn quay lại hiện trạng vào khoảng năm 1990 trong thống kê Bayes, trong đó nó được coi là hầu như bất hợp pháp để kiểm tra mô hình của bạn phù hợp với dữ liệu. "

— Scortchi - Phục hồi Monica

Tôi không biết làm thế nào là thống kê Bayes trong những năm chín mươi. Nhưng thật khó để tin rằng trong các cài đặt được áp dụng, Bayes đã không kiểm tra mô hình của họ. Có lẽ họ đã kiểm tra, nhưng không nói!

— Manoel Galdino

\neq

$\neq$

Tôi chắc chắn đồng ý rằng đây không phải là một vấn đề lớn, tôi chỉ tò mò nếu có ai đã công bố về điều này. Bạn đã bao giờ đọc bất cứ ai ủng hộ những "phiên bản cực đoan của chủ nghĩa Bayes" chưa?

— Mankka

Họ có thể nhìn nhưng không chạm vào. Xét cho cùng, phần dư là một phần của dữ liệu không mang bất kỳ thông tin nào về các tham số mô hình và trước đó chúng thể hiện tất cả sự không chắc chắn về những người mà họ không thể thay đổi trước dựa trên những gì họ thấy trong dữ liệu.

Ví dụ: giả sử bạn đang lắp một mô hình Gaussian, nhưng chú ý quá nhiều sự tổn thương trong phần dư. Có lẽ giả thuyết trước đây của bạn nên là phân phối t với xác suất khác không đối với mức độ tự do thấp, nhưng đó không phải là một phân phối t với xác suất bằng không ở khắp mọi nơi trừ mức độ tự do vô hạn. Không có gì trong khả năng có thể dẫn đến xác suất khác không trên các vùng có mật độ sau, trong đó mật độ trước bằng không. Vì vậy, khái niệm về các linh mục cập nhật liên tục dựa trên khả năng từ dữ liệu không hoạt động khi bản gốc trước được chỉ định sai.

Tất nhiên, nếu bạn Google "kiểm tra mô hình Bayes", bạn sẽ thấy đây là một trò nhại thực tế Bayesian; tuy nhiên, nó đại diện cho một điều gì đó gây khó khăn cho các luận điểm của Logic về khoa học cho tính ưu việt của chủ nghĩa Bayes trên cơ sở triết học. Blog của Andrew Gelman rất thú vị về chủ đề này.

— Scortchi - Tái lập Monica
nguồn

Bạn có bất cứ tài liệu tham khảo nào về "khó khăn cho logic khoa học" này không?

— Mankka

Tôi đã đề cập đến Jaynes, Lý thuyết xác suất: Logic của khoa học , trong đó việc sử dụng lặp đi lặp lại định lý của Bayes để cập nhật phân phối xác suất khi dữ liệu mới xuất hiện được coi là mô hình cho sự phát triển của kiến thức khoa học. Tôi chắc rằng anh ấy giải quyết vấn đề của một ưu tiên quá hẹp, nhưng tôi không thể nhớ làm thế nào hoặc làm thế nào thỏa đáng. Và tôi sẽ thay đổi "ưu thế chung" thành "ưu thế trên cơ sở triết học", vì điều đó dường như truyền đạt tốt hơn những gì tôi muốn nói.

— Scortchi - Tái lập Monica

Ví dụ này về việc sử dụng trước Bayes đã được áp dụng để giảm sự xuất hiện (2%) của các kết quả phi vật lý . Sự thiếu vật lý này đã được quy cho một sự pha trộn tức thời phi vật lý (của thuốc trong cơ thể) và đã được sửa chữa bằng cách giả sử không pha trộn ban đầu bằng cách sử dụng một mô hình tốt hơn. Có vẻ tốt hơn để thích ứng mô hình với vấn đề hơn là làm mờ các câu trả lời để phù hợp với định kiến. (+1)

— Carl