Hãy suy nghĩ như một người Bayes, kiểm tra như một người thường xuyên: Điều đó có nghĩa là gì?

Tôi đang xem một số slide bài giảng về một khóa học khoa học dữ liệu có thể được tìm thấy ở đây:

https://github.com/cs109/2015/blob/master/Lectures/01-Int sinhtion.pdf

Thật không may, tôi không thể xem video cho bài giảng này và tại một thời điểm trên slide, người trình bày có văn bản sau:

Một số nguyên tắc chính

Hãy suy nghĩ như một người Bayes, kiểm tra như một người thường xuyên (hòa giải)

Có ai biết điều đó thực sự có nghĩa là gì không? Tôi có cảm giác có một cái nhìn sâu sắc về hai trường phái tư tưởng được tập hợp từ đây.

Sự khác biệt chính giữa các trường thống kê Bayes và thường xuyên phát sinh do sự khác biệt trong giải thích xác suất. Xác suất Bayes là một tuyên bố về niềm tin cá nhân rằng một sự kiện sẽ (hoặc đã) xảy ra. Xác suất thường xuyên là một tuyên bố về tỷ lệ các sự kiện tương tự xảy ra trong giới hạn khi số lượng các sự kiện đó tăng lên.

Đối với tôi, "nghĩ như một người Bayes" có nghĩa là cập nhật niềm tin cá nhân của bạn khi có thông tin mới phát sinh và "kiểm tra [hoặc lo lắng] như một người thường xuyên" có nghĩa là quan tâm đến việc thực hiện các quy trình thống kê được tổng hợp qua các lần sử dụng các quy trình đó, ví dụ: phạm vi bảo hiểm của các khoảng đáng tin cậy là gì, tỷ lệ lỗi Loại I / II, v.v.

Thống kê Bayes tóm tắt niềm tin trong khi thống kê thường xuyên tóm tắt bằng chứng. Người Bayes xem xác suất là một mức độ của niềm tin. Kiểu lý luận bao hàm và khái quát này rất hữu ích cho việc hình thành các giả thuyết. Chẳng hạn, người Bayes có thể tùy ý gán một số xác suất cho khái niệm rằng mặt trăng được làm bằng phô mai xanh, bất kể các phi hành gia có thực sự có thể đi đến đó để xác minh điều này hay không. Giả thuyết này có lẽ được ủng hộ bởi ý tưởng rằng, từ xa, mặt trăng trôngnhư phô mai xanh. Những người thường xuyên không thể hình dung một cách đơn lẻ về một giả thuyết không chỉ là một người rơm, và họ cũng không thể nói bằng chứng ủng hộ giả thuyết này hơn một giả thuyết khác. Thậm chí khả năng tối đa chỉ tạo ra một thống kê "phù hợp nhất với những gì được quan sát". Chính thức, số liệu thống kê Bayes cho phép chúng ta suy nghĩ bên ngoài hộp và đề xuất ý tưởng phòng thủ từ dữ liệu. Nhưng đây là giả thuyết nghiêm ngặt tạo ra trong tự nhiên.

Thống kê thường xuyên được áp dụng tốt nhất để xác nhận các giả thuyết. Khi một thí nghiệm được tiến hành tốt, các số liệu thống kê thường xuyên cung cấp bối cảnh "quan sát độc lập" hoặc "theo kinh nghiệm" cho các phát hiện của các linh mục eschewing. Điều này phù hợp với triết lý khoa học của Karl Popper. Điểm của bằng chứng là không đưa ra một ý tưởng nhất định. Rất nhiều bằng chứng phù hợp với các giả thuyết không chính xác. Bằng chứng chỉ có thể làm sai lệch niềm tin.

Ảnh hưởng của các linh mục thường được coi là một thành kiến ​​trong lý luận thống kê. Như bạn đã biết, chúng ta có thể tạo nên bất kỳ lý do tuyệt vời nào cho lý do tại sao mọi thứ xảy ra. Về mặt tâm lý, nhiều người tin rằng sự thiên vị của người quan sát của chúng ta là kết quả của các linh mục trong não khiến chúng ta không thực sự coi trọng những gì chúng ta thấy. "Hy vọng mây quan sát" như Mẹ Reverend đã nói trong Dune. Popper thực hiện ý tưởng này nghiêm ngặt.

Điều này có tầm quan trọng lịch sử to lớn trong một số thí nghiệm khoa học vĩ đại nhất của thời đại chúng ta. Chẳng hạn, John Snow đã thu thập bằng chứng một cách tỉ mỉ về dịch bệnh Cholera và kết luận một cách sắc sảo rằng Cholera không phải do thiếu đạo đức, và chỉ ra rằng bằng chứng này rất phù hợp với ô nhiễm nước thải: lưu ý rằng ông không kết luậnĐiều này, những phát hiện của Snow có trước sự phát hiện ra vi khuẩn và không có sự hiểu biết cơ học hay nguyên nhân. Một bài diễn văn tương tự được tìm thấy trong Origin of Species. Chúng tôi thực sự không biết liệu mặt trăng được làm bằng phô mai xanh cho đến khi các phi hành gia thực sự đáp xuống bề mặt và thu thập các mẫu. Vào thời điểm đó, hậu thế Bayes đã chỉ định xác suất rất thấp cho bất kỳ khả năng nào khác và những người thường xuyên nhất có thể nói rằng các mẫu rất không phù hợp với bất cứ thứ gì ngoại trừ bụi mặt trăng.

Tóm lại, số liệu thống kê Bayes có thể tuân theo giả thuyết tạo ra và số liệu thống kê thường xuyên có thể tuân theo xác nhận giả thuyết. Đảm bảo rằng dữ liệu được thu thập độc lập trong những nỗ lực này là một trong những thách thức lớn nhất mà các nhà thống kê hiện đại phải đối mặt.

Mỗi Cliff AB's bình luận cho OP, có vẻ như họ đang hướng tới một triết lý thực nghiệm Bayesian. Có ba trường phái tư tưởng chính của Bayes và Empirical Bayes ước tính các linh mục từ dữ liệu, thường là bằng các phương pháp thường xuyên. Điều đó không phù hợp chính xác với trích dẫn (ngụ ý Bayes lên phía trước, mối quan tâm giống như thường xuyên sau đó), nhưng chúng ta không nên bỏ qua Cliff ABnhận xét tuyệt vời.

Ngoài ra, đã có, và vẫn có thể, một trường học Bayes nghĩ rằng bạn không phải kiểm tra bất cứ điều gì sau khi làm thủ tục Bayes. Suy nghĩ hiện đại hơn sẽ sử dụng kiểm tra dự đoán sau, và có lẽ cách tiếp cận kiểm tra hai lần của bạn là những gì trích dẫn được đề cập.

Ngoài ra, triết lý thường xuyên quan tâm đến các thủ tục hơn là suy luận từ dữ liệu. Vì vậy, có lẽ đó cũng là một đầu mối cho ý nghĩa của trích dẫn.

Trong ngữ cảnh của lớp khoa học dữ liệu này, cách giải thích của tôi về "kiểm tra như một người thường xuyên" là bạn đánh giá hiệu suất của chức năng dự đoán hoặc chức năng quyết định của mình đối với dữ liệu xác nhận được tổ chức. Lời khuyên để "suy nghĩ như một người Bayes" bày tỏ quan điểm rằng một chức năng dự đoán xuất phát từ cách tiếp cận Bayes nói chung sẽ cho kết quả tốt.

Nghe có vẻ như "nghĩ như một người Bayes, kiểm tra như một người thường xuyên" đề cập đến cách tiếp cận của một người trong thiết kế và phân tích thống kê. Theo tôi hiểu, suy nghĩ của Bayes liên quan đến một số niềm tin về các tình huống trước đó (về mặt thực nghiệm hoặc thống kê), ví dụ như điểm đọc trung bình của học sinh lớp 4 là 80 từ mỗi phút và một số can thiệp có thể tăng lên 90 từ mỗi phút . Đây là những niềm tin dựa trên các nghiên cứu và giả thuyết trước đây. Tư duy thường xuyên ngoại suy các kết quả (của can thiệp) để có được khoảng tin cậy hoặc các số liệu thống kê khác dựa trên tần suất lý thuyết và thực tế hoặc xác suất của các kết quả này xảy ra lần nữa (nghĩa là "thường xuyên"). Ví dụ: điểm đọc sau can thiệp có thể là 91 từ mỗi phút với khoảng tin cậy 95% từ 85 đến 97 từ / phút và giá trị p liên quan (giá trị xác suất) khác với điểm trước can thiệp. Vì vậy, 95% thời gian, điểm đọc mới sẽ nằm trong khoảng từ 85 đến 97 từ mỗi phút sau khi can thiệp. Do đó, "hãy suy nghĩ như một người Bayes" --- tức là đưa ra giả thuyết, đưa ra giả thuyết, xem xét các bằng chứng trước đó và "kiểm tra như một người thường xuyên" --- tức là, những kết quả thử nghiệm này sẽ xảy ra thường xuyên như thế nào và có khả năng là do cơ hội hơn là sự can thiệp. điểm đọc mới sẽ nằm trong khoảng từ 85 đến 97 từ mỗi phút sau khi can thiệp. Do đó, "hãy suy nghĩ như một người Bayes" --- tức là đưa ra giả thuyết, đưa ra giả thuyết, xem xét các bằng chứng trước đó và "kiểm tra như một người thường xuyên" --- tức là, những kết quả thử nghiệm này sẽ xảy ra thường xuyên như thế nào và có khả năng là do cơ hội hơn là sự can thiệp. điểm đọc mới sẽ nằm trong khoảng từ 85 đến 97 từ mỗi phút sau khi can thiệp. Do đó, "hãy suy nghĩ như một người Bayes" --- tức là đưa ra giả thuyết, đưa ra giả thuyết, xem xét các bằng chứng trước đó và "kiểm tra như một người thường xuyên" --- tức là, những kết quả thử nghiệm này sẽ xảy ra thường xuyên như thế nào và khả năng chúng là do cơ hội hơn là sự can thiệp.