Khi nào (nếu có) là một cách tiếp cận thường xuyên tốt hơn đáng kể so với Bayes?

Bối cảnh : Tôi không được đào tạo chính thức về thống kê Bayes (mặc dù tôi rất thích tìm hiểu thêm), nhưng tôi biết đủ - tôi nghĩ - để có được ý chính tại sao nhiều người cảm thấy thích hợp với thống kê Thường xuyên hơn. Ngay cả những sinh viên đại học trong lớp thống kê giới thiệu (về khoa học xã hội) tôi đang giảng dạy cũng thấy cách tiếp cận Bayes hấp dẫn - "Tại sao chúng ta quan tâm đến việc tính xác suất của dữ liệu, đưa ra giá trị null? Tại sao chúng ta không thể định lượng xác suất của Giả thuyết khống? Hoặc giả thuyết thay thế? Và tôi cũng đã đọc những chủ đề như thế này , chứng thực cho lợi ích thực nghiệm của thống kê Bayes. Nhưng sau đó tôi đã xem qua trích dẫn này của Blasco (2001; nhấn mạnh thêm):

Nếu người gây giống động vật không quan tâm đến các vấn đề triết học liên quan đến cảm ứng, nhưng trong các công cụ để giải quyết vấn đề, cả hai trường phái suy luận Bayesian và thường xuyên đều được thiết lập tốt và không cần thiết phải giải thích tại sao một hoặc trường khác được ưa thích. Hiện tại cả hai đều không gặp khó khăn trong hoạt động, ngoại trừ một số trường hợp phức tạp ... Để chọn trường này hay trường khác phải liên quan đến việc có giải pháp nào trong trường này mà trường kia không đưa ra , để giải quyết vấn đề dễ dàng như thế nào và để các nhà khoa học cảm thấy thoải mái như thế nào với kết quả biểu hiện cụ thể.

Câu hỏi : Trích dẫn của Blasco dường như gợi ý rằng có thể có những lúc phương pháp Thường xuyên thực sự thích hợp hơn so với phương pháp Bayes. Và vì vậy tôi tò mò: khi nào thì một cách tiếp cận thường xuyên sẽ thích hợp hơn so với cách tiếp cận Bayes? Tôi quan tâm đến các câu trả lời giải quyết câu hỏi cả về mặt khái niệm (nghĩa là khi biết xác suất của dữ liệu dựa trên giả thuyết null đặc biệt hữu ích?) Và theo kinh nghiệm (nghĩa là trong những điều kiện nào phương pháp Thường xuyên vượt trội so với Bayesian?).

Cũng tốt hơn nếu các câu trả lời được truyền đạt càng dễ càng tốt - thật tuyệt khi đưa một số câu trả lời trở lại lớp học của tôi để chia sẻ với các học sinh của tôi (mặc dù tôi hiểu một số mức độ kỹ thuật là bắt buộc).

Cuối cùng, mặc dù là người thường xuyên sử dụng số liệu thống kê Thường xuyên, tôi thực sự cởi mở với khả năng Bayesian chỉ thắng trên bảng.

Dưới đây là năm lý do tại sao các phương pháp thường xuyên có thể được ưa thích:

• Nhanh hơn. Cho rằng các số liệu thống kê của Bayes thường đưa ra các câu trả lời gần như giống hệt nhau cho các câu trả lời thường xuyên (và khi họ không biết, Bayesian luôn luôn đi đúng hướng), thực tế là các số liệu thống kê thường xuyên có thể thu được thường nhanh hơn vài bậc một lập luận mạnh mẽ. Tương tự, các phương thức thường xuyên không cần nhiều bộ nhớ để lưu trữ kết quả. Mặc dù những điều này có vẻ hơi tầm thường, đặc biệt là với các bộ dữ liệu nhỏ hơn, thực tế là Bayesian và Người thường xuyên đồng ý về kết quả (đặc biệt là nếu bạn có nhiều dữ liệu thông tin) có nghĩa là nếu bạn quan tâm, bạn có thể bắt đầu quan tâm đến việc ít quan trọng hơn nhiều thứ. Và tất nhiên, nếu bạn sống trong thế giới dữ liệu lớn, những thứ này không hề nhỏ.

• Thống kê không tham số. Tôi nhận ra rằng số liệu thống kê Bayes có số liệu thống kê không tham số, nhưng tôi cho rằng phía thường xuyên của lĩnh vực này có một số công cụ thực tế không thể phủ nhận, chẳng hạn như Hàm phân phối theo kinh nghiệm. Không có phương pháp nào trên thế giới sẽ thay thế EDF, cũng như các đường cong Kaplan Meier, v.v. (mặc dù rõ ràng điều đó không có nghĩa là các phương pháp đó là kết thúc của một phân tích).

• Chẩn đoán ít hơn. Các phương thức MCMC, phương pháp phổ biến nhất để phù hợp với các mô hình Bayes, thường đòi hỏi nhiều công việc của người dùng hơn là bộ phận đối tác thường xuyên của họ. Thông thường, chẩn đoán cho ước tính MLE đơn giản đến mức mọi thực thi thuật toán tốt sẽ tự động thực hiện (mặc dù điều đó không có nghĩa là mọi triển khai có sẵn đều tốt ...). Do đó, chẩn đoán thuật toán thường xuyên thường là "đảm bảo không có văn bản màu đỏ khi lắp mô hình". Cho rằng tất cả các nhà thống kê có băng thông hạn chế, điều này giải phóng nhiều thời gian hơn để đặt câu hỏi như "dữ liệu của tôi có thực sự xấp xỉ bình thường không?" hoặc "những mối nguy hiểm này có thực sự tỷ lệ thuận không?", v.v.

• Suy luận hợp lệ theo mô hình sai chính tả. Chúng ta đều đã nghe nói rằng "Tất cả các mô hình đều sai nhưng một số là hữu ích", nhưng các lĩnh vực nghiên cứu khác nhau thực hiện điều này ít nhiều nghiêm trọng. Tài liệu Thường xuyên có đầy đủ các phương pháp để khắc phục suy luận khi mô hình bị sai chính tả: công cụ ước tính bootstrap, xác thực chéo, công cụ ước tính sandwich (liên kết cũng thảo luận về suy luận MLE chung theo sai chính tả mô hình), phương trình ước lượng tổng quát (GEE), phương pháp ước lượng tổng quát, vv Theo như tôi biết, có rất ít trong tài liệu Bayes về suy luận theo lỗi chính tả mô hình (mặc dù có rất nhiều cuộc thảo luận về kiểm tra mô hình, tức là kiểm tra dự báo sau). Tôi không nghĩ điều này chỉ là tình cờ: đánh giá cách một người ước tính hành xử qua các thử nghiệm lặp đi lặp lại không yêu cầu người ước tính phải dựa trên mô hình "đúng", nhưng sử dụng định lý Bayes thì có!

• Tự do từ trước (đây có lẽ là lý do phổ biến nhất cho lý do tại sao mọi người không sử dụng phương pháp Bayes cho mọi thứ). Sức mạnh của quan điểm Bayes thường được quảng cáo là việc sử dụng các linh mục. Tuy nhiên, trong tất cả các lĩnh vực ứng dụng mà tôi đã làm việc, ý tưởng về một thông tin trước khi phân tích không được xem xét. Đọc tài liệu về cách khơi gợi các linh mục từ các chuyên gia phi thống kê đưa ra lý do chính đáng cho việc này; Tôi đã đọc những bài báo có nội dung như (người rơm độc ác như tự diễn giải cho tôi) "Hãy hỏi nhà nghiên cứu đã thuê bạn vì họ gặp khó khăn trong việc hiểu số liệu thống kê để đưa ra một phạm vi mà họ chắc chắn 90% kích thước hiệu ứng mà họ gặp khó khăn khi tưởng tượng ở trong. Phạm vi này thường sẽ quá hẹp, vì vậy hãy tùy tiện cố gắng khiến họ mở rộng nó ra một chút. Hỏi họ xem niềm tin của họ có giống như phân phối gamma không. Bạn có thể sẽ phải vẽ một bản phân phối gamma cho chúng và chỉ ra làm thế nào nó có thể có đuôi nặng nếu tham số hình dạng nhỏ. Điều này cũng sẽ liên quan đến việc giải thích PDF là gì đối với họ. "(Lưu ý: Tôi không nghĩ ngay cả các nhà thống kê cũng thực sự có thể nói chính xácmột tiên nghiệm cho dù họ chắc chắn 90% hay 95% cho dù kích thước hiệu ứng nằm trong một phạm vi và sự khác biệt này có thể có ảnh hưởng đáng kể đến phân tích!). Sự thật mà nói, tôi khá là không tử tế và có thể có những tình huống khơi gợi một ưu tiên có thể đơn giản hơn một chút. Nhưng bạn có thể thấy đây là một con giun như thế nào. Ngay cả khi bạn chuyển sang các linh mục không thông tin, nó vẫn có thể là một vấn đề; Khi chuyển đổi các tham số, những gì dễ bị nhầm lẫn với các linh mục không có thông tin đột nhiên có thể được xem là rất nhiều thông tin! Một ví dụ khác về điều này là tôi đã nói chuyện với một số nhà nghiên cứu, những người kiên quyết khôngmuốn nghe cách giải thích dữ liệu của một chuyên gia khác bởi vì theo kinh nghiệm, các chuyên gia khác có xu hướng quá tự tin. Họ chỉ muốn biết những gì có thể được suy ra từ dữ liệu của chuyên gia khác và sau đó đi đến kết luận của riêng họ. Tôi không thể nhớ lại nơi tôi đã nghe nó, nhưng ở đâu đó tôi đã đọc cụm từ "nếu bạn là người Bayes, bạn muốn mọi người trở thành người thường xuyên". Tôi giải thích điều đó có nghĩa là về mặt lý thuyết, nếu bạn là người Bayes và ai đó mô tả kết quả phân tích của họ, trước tiên bạn nên cố gắng loại bỏ ảnh hưởng của họ trước và sau đó tìm hiểu xem tác động sẽ là gì nếu bạn sử dụng chính mình. Bài tập nhỏ này sẽ được đơn giản hóa nếu họ đã cho bạn một khoảng tin cậy chứ không phải là một khoảng tin cậy!

Tất nhiên, nếu bạn từ bỏ các linh mục thông tin, vẫn có tiện ích trong các phân tích Bayes. Cá nhân, đây là nơi tôi tin rằng tiện ích cao nhất của họ nằm; có một số vấn đề cực kỳ khó nhận được bất kỳ câu trả lời nào khi sử dụng các phương pháp MLE nhưng có thể được giải quyết khá dễ dàng với MCMC. Nhưng quan điểm của tôi về việc đây là tiện ích cao nhất của Bayes là do các linh mục mạnh về phía tôi, vì vậy hãy dùng nó với một hạt muối.

Một vài lợi thế cụ thể của thống kê thường xuyên:

• Thường có các giải pháp dạng đóng cho các vấn đề thường gặp trong khi bạn sẽ cần một liên hợp trước khi có một giải pháp dạng đóng trong tương tự Bayes. Điều này hữu ích cho một số lý do - một trong số đó là thời gian tính toán.
• Một lý do mà cuối cùng sẽ biến mất: giáo dân được dạy những người thường xuyên thống kê. Nếu bạn muốn được nhiều người hiểu, bạn cần nói thường xuyên.
• Cách tiếp cận "Vô tội cho đến khi được chứng minh có tội" Null Giả thuyết Kiểm tra Ý nghĩa Giả thuyết (NHST) rất hữu ích khi mục tiêu là chứng minh ai đó sai (Tôi sẽ thừa nhận quyền của bạn và hiển thị dữ liệu áp đảo cho thấy bạn sai). Vâng, có NHST tương tự trong Bayesian nhưng tôi thấy các phiên bản thường xuyên hơn và dễ hiểu hơn nhiều.
• Không có thứ gọi là thực sự không thông minh trước đó khiến một số người khó chịu.

Lý do quan trọng nhất để sử dụng các phương pháp Thường xuyên, điều đáng ngạc nhiên chưa được đề cập, là kiểm soát lỗi. Rất thường xuyên, nghiên cứu dẫn đến những diễn giải phân đôi (tôi có nên thực hiện một nghiên cứu xây dựng về điều này hay không? Có nên thực hiện can thiệp hay không?). Phương pháp tiếp cận thường xuyên cho phép bạn kiểm soát chặt chẽ tỷ lệ lỗi Loại 1 của mình. Các cách tiếp cận Bayes không (mặc dù một số kế thừa phổ quát ràng buộc từ các cách tiếp cận khả năng, nhưng ngay cả khi đó, tỷ lệ lỗi có thể khá cao trong các mẫu nhỏ và với ngưỡng bằng chứng tương đối thấp (ví dụ: BF> 3). Các yếu tố của Bayes (xem ví dụ: http://epage.ssrn.com/sol3/ con.cfm? Abauge_id = 604513) nhưng đó vẫn là một cách tiếp cận thường xuyên. Tôi nghĩ rất thường xuyên, các nhà nghiên cứu quan tâm đến việc kiểm soát lỗi hơn là định lượng bằng chứng mỗi lần (liên quan đến một số giả thuyết cụ thể) và tôi nghĩ ít nhất, mọi người đều quan tâm đến việc kiểm soát lỗi ở một mức độ nào đó, và do đó nên sử dụng hai cách tiếp cận bổ sung.

Tôi nghĩ một trong những câu hỏi lớn nhất, với tư cách là một nhà thống kê, bạn phải tự hỏi mình là liệu bạn có tin hay không muốn tuân thủ nguyên tắc khả năng. Nếu bạn không tin vào nguyên tắc khả năng thì tôi nghĩ rằng mô hình thống kê thường xuyên có thể cực kỳ mạnh mẽ, tuy nhiên, nếu bạn tin vào nguyên tắc khả năng đó, thì (tôi tin) bạn chắc chắn phải tán thành mô hình Bayes trong hoặc để không vi phạm nó.

---

Trong trường hợp bạn không quen thuộc với nó, nguyên tắc khả năng cho chúng ta biết là gì:

$\theta$$\mathbf{x}$

$$\ell(\theta;\mathbf{x})=p(\mathbf{x}|\theta)$$ $\mathbf{x}$

$\mathbf{x}$$\mathbf{y}$$\ell(\theta;\mathbf{x})$$\ell(\theta;\mathbf{y})$$C(\mathbf{x},\mathbf{y})$

$$\ell(\theta;\mathbf{x})=C(\mathbf{x},\mathbf{y})\ell(\theta;\mathbf{y})\hspace{.1in}\text{for all }\theta,$$

$\mathbf{x}$$\mathbf{y}$

$C(\mathbf{x},\mathbf{y})$$(\mathbf{x},\mathbf{y})$$C(\mathbf{x},\mathbf{y})$$\theta$

$C(\mathbf{x},\mathbf{y})=1$$\theta$$\theta$

---

Bây giờ, một trong những điểm thu hút của thống kê Bayes là, theo các linh mục đúng đắn, mô hình Bayes không bao giờ vi phạm nguyên tắc khả năng. Tuy nhiên, có những kịch bản rất đơn giản trong đó mô hình thường xuyên sẽ vi phạm nguyên tắc khả năng.

Dưới đây là một ví dụ rất đơn giản dựa trên thử nghiệm giả thuyết. Hãy xem xét những điều sau đây:

Hãy xem xét một thử nghiệm trong đó 12 thử nghiệm Bernoulli đã được thực hiện và 3 thành công đã được quan sát. Tùy thuộc vào quy tắc dừng, chúng tôi có thể mô tả dữ liệu như sau:

• $X|\theta\sim\text{Bin}(n=12,\theta)$$x=3$
• $Y|\theta\sim\text{NegBin}(k=3,\theta)$$y=12$

Và do đó, chúng tôi sẽ có được các hàm khả năng sau: ngụ ý rằng và do đó, theo Nguyên tắc Khả năng, chúng ta sẽ có được những suy luận tương tự về từ khả năng.

$$\begin{align} \ell_1(\theta;x=3)&=\binom{12}{3}\theta^3(1-\theta)^9\\ \ell_2(\theta;y=12)&=\binom{11}{2}\theta^3(1-\theta)^9\\ \end{align}$$ $$\ell_1(\theta;x)=C(x,y)\ell_2(\theta,y)$$ $\theta$

Bây giờ, hãy tưởng tượng thử nghiệm các giả thuyết sau từ mô hình thường xuyên

$$H_o:\theta\geq\frac{1}{2}\hspace{.2in}\text{versus}\hspace{.2in}H_a:\theta<\frac{1}{2}$$

Đối với mô hình Binomial, chúng ta có các phần sau:

$$\begin{align} \text{p-value}&=P\left(X\leq 3|\theta=\frac{1}{2}\right)\\ &=\binom{12}{0}\left(\frac{1}{2}\right)^{12}+\binom{12}{1} \left(\frac{1}{2}\right)^{12}+ \binom{12}{2}\left(\frac{1}{2}\right)^{12}+\binom{12}{3}\left(\frac{1}{2}\right)^{12}=0.0723 \end{align}$$

Lưu ý rằng nhưng các điều khoản khác làm không thỏa mãn nguyên tắc khả năng.$\binom{12}{3}\left(\frac{1}{2}\right)^{12}=\ell_1(\frac{1}{2};x=3)$

Đối với mô hình nhị thức âm, chúng ta có các phần sau:

$$\begin{align} \text{p-value}&=P\left(Y\geq 12|\theta\frac{1}{2}\right)\\ &=\binom{11}{2}\left(\frac{1}{2}\right)^{12}+\binom{12}{2}\left(\frac{1}{2}\right)^{12}+ \binom{13}{2}\left(\frac{1}{2}\right)^{12}+...=0.0375 \end{align}$$

Từ các tính toán giá trị p ở trên, chúng ta thấy rằng trong mô hình Binomial, chúng ta sẽ không từ chối nhưng sử dụng mô hình Binomial âm, chúng ta sẽ từ chối . Do đó, mặc dù có giá trị p và các quyết định dựa trên các giá trị p này, không trùng khớp. Đối số giá trị p này thường được sử dụng bởi người Bayes chống lại việc sử dụng giá trị p thường xuyên.$H_o$$H_o$$\ell_1(\theta;x)\propto\ell_2(\theta;y)$

Bây giờ hãy xem xét lại việc kiểm tra các giả thuyết sau, nhưng từ mô hình Bayes

$$H_o:\theta\geq\frac{1}{2}\hspace{.2in}\text{versus}\hspace{.2in}H_a:\theta<\frac{1}{2}$$

Đối với mô hình Binomial, chúng ta có các phần sau:

$$\begin{align} P\left(\theta\geq\frac{1}{2}|x\right)=\int_{1/2}^1\pi(\theta|x)dx=\int_{1/2}^1\theta^3(1-\theta)^9\pi(\theta)d\theta \bigg/\int_{0}^1\theta^3(1-\theta)^9\pi(\theta)d\theta \end{align}$$

Tương tự, đối với mô hình nhị thức âm, chúng ta có các phần sau:

$$\begin{align} P\left(\theta\geq\frac{1}{2}|y\right)=\int_{1/2}^1\pi(\theta|x)dx=\int_{1/2}^1\theta^3(1-\theta)^9\pi(\theta)d\theta \bigg/\int_{0}^1\theta^3(1-\theta)^9\pi(\theta)d\theta \end{align}$$

Bây giờ sử dụng quy tắc quyết định Bayes, chọn nếu (hoặc một số ngưỡng khác) và lặp lại tương tự cho .$H_o$$P(\theta\geq\frac{1}{2}|x)>\frac{1}{2}$$y$

Tuy nhiên, và vì vậy chúng tôi đến cùng kết luận và do đó phương pháp này thỏa mãn Nguyên tắc khả năng.$P\left(\theta\geq\frac{1}{2}|x\right)=P\left(\theta\geq\frac{1}{2}|y\right)$

---

Và vì vậy, để kết luận những lời huyên thuyên của tôi, nếu bạn không quan tâm đến nguyên tắc khả năng thì việc thường xuyên là tuyệt vời! (Nếu bạn không thể nói, tôi là người Bayes :))

Bạn và tôi đều là nhà khoa học, và là nhà khoa học, chủ yếu quan tâm đến câu hỏi về bằng chứng. Vì lý do đó, tôi nghĩ cách tiếp cận Bayes, khi khả thi, là thích hợp hơn.

Phương pháp tiếp cận Bayes trả lời câu hỏi của chúng tôi: sức mạnh của bằng chứng cho một giả thuyết so với giả thuyết khác là gì? Mặt khác, các phương pháp tiếp cận thường xuyên thì không: Họ chỉ báo cáo liệu dữ liệu có kỳ lạ khi đưa ra một giả thuyết hay không.

Điều đó nói rằng, Andrew Gelman, Bayesian đáng chú ý, dường như tán thành việc sử dụng các giá trị p (hoặc kiểm tra đồ họa giống như giá trị p) để kiểm tra các lỗi trong đặc tả mô hình. Bạn có thể thấy một ám chỉ đến phương pháp này trong bài viết trên blog này .

Cách tiếp cận của anh ấy, theo tôi hiểu, là một quá trình gồm hai bước: Đầu tiên, anh ấy hỏi câu hỏi Bayes về bằng chứng cho một mô hình so với mô hình kia là gì. Thứ hai, ông đặt câu hỏi Thường xuyên về việc liệu mô hình ưa thích có thực sự xem xét tất cả các dữ liệu hợp lý hay không. Có vẻ như một cách tiếp cận lai hợp lý với tôi.

Cá nhân tôi đang gặp khó khăn khi nghĩ về một tình huống mà câu trả lời thường xuyên sẽ được ưu tiên hơn một câu hỏi Bayes. Suy nghĩ của tôi được trình bày chi tiết ở đây và trong các bài viết trên blog khác trên fharrell.com về các vấn đề với giá trị p và kiểm tra giả thuyết null. Những người thường xuyên có xu hướng bỏ qua một vài vấn đề cơ bản. Đây chỉ là một mẫu:

• Bên ngoài mô hình tuyến tính Gaussian có phương sai không đổi và một vài trường hợp khác, các giá trị p được tính toán có độ chính xác không xác định cho tập dữ liệu và mô hình của bạn
• Khi thử nghiệm là tuần tự hoặc thích ứng, thường thì giá trị p thậm chí không thể được tính toán và người ta chỉ có thể đặt mức tổng thể để đạt được$\alpha$
• Những người thường xuyên có vẻ rất vui khi không để lỗi loại I bên dưới, giả sử, 0,05 cho dù bây giờ kích thước mẫu tăng lên
• Không có toa thuốc thường xuyên cho cách hiệu chỉnh bội số được hình thành, dẫn đến một phương pháp đặc biệt

Về điểm đầu tiên, một mô hình thường được sử dụng là mô hình logistic nhị phân. Khả năng đăng nhập của nó là rất không bậc hai, và phần lớn giới hạn độ tin cậy và giá trị p được tính cho các mô hình như vậy là không chính xác. Trái ngược với mô hình logistic Bayes, cung cấp suy luận chính xác.

Những người khác đã đề cập đến kiểm soát lỗi là một lý do cho việc sử dụng suy luận thường xuyên. Tôi không nghĩ rằng điều này là hợp lý, bởi vì lỗi mà họ đề cập là lỗi dài hạn, hình dung một quá trình trong đó hàng ngàn thử nghiệm thống kê được chạy. Một thẩm phán cho biết "xác suất kết án sai trong thời gian dài tại phòng xử án của tôi chỉ là 0,03" nên bị từ chối. Cô bị buộc tội có xác suất cao nhất để đưa ra quyết định chính xác cho người bị kiện hiện tại . Mặt khác, trừ đi xác suất hậu quả của hiệu ứng là xác suất của hiệu ứng 0 hoặc ngược và là xác suất lỗi chúng ta thực sự cần.

Nhiều người dường như không nhận thức được một trường phái triết học thứ ba: chủ nghĩa khả năng. Cuốn sách của AWF Edwards, Likabilities, có lẽ là nơi tốt nhất để đọc về nó. Đây là một bài viết ngắn, ông đã viết.
Chủ nghĩa khả năng tránh những giá trị p, như chủ nghĩa Bayes, nhưng cũng tránh những người Bayes thường hay nghi ngờ trước đây. Có một điều trị giới thiệu ở đây là tốt.

Một trong những nhược điểm lớn nhất của cách tiếp cận thường xuyên đối với việc xây dựng mô hình luôn là, như TrynnaDoStats lưu ý ở điểm đầu tiên, những thách thức liên quan đến việc đảo ngược các giải pháp dạng đóng lớn. Đảo ngược ma trận dạng đóng yêu cầu toàn bộ ma trận nằm trong RAM, một hạn chế đáng kể trên các nền tảng CPU đơn với số lượng lớn dữ liệu hoặc các tính năng phân loại ồ ạt. Các phương pháp Bayes đã có thể giải quyết thách thức này bằng cách mô phỏng các lần rút ngẫu nhiên từ một lần xác định trước. Đây luôn là một trong những điểm bán hàng lớn nhất của các giải pháp Bayes, mặc dù câu trả lời chỉ thu được với chi phí đáng kể trong CPU.

Andrew Ainslie và Ken Train, trong một bài báo từ khoảng 10 năm trước, tôi đã mất tham chiếu, so sánh hỗn hợp hữu hạn (là dạng thường xuyên hoặc dạng đóng) với các cách tiếp cận Bayesian để xây dựng mô hình và thấy rằng qua một loạt các dạng chức năng và số liệu hiệu suất, hai phương pháp mang lại kết quả cơ bản tương đương. Trong đó các giải pháp Bayes có lợi thế hoặc sở hữu tính linh hoạt cao hơn là trong những trường hợp thông tin vừa thưa thớt vừa rất cao.

Tuy nhiên, bài báo đó đã được viết trước khi các thuật toán "phân chia và chinh phục" được phát triển nhằm tận dụng các nền tảng song song ồ ạt, ví dụ, xem bài viết của Chen và Minge để biết thêm về http://dimacs.rutgers.edu/TechnicalReports/TechReports/2012/2012- 01.pdf

Sự ra đời của các phương pháp D & C có nghĩa là, ngay cả đối với các vấn đề hai chiều nhất, thưa thớt nhất, cao nhất, các phương pháp Bayes không còn có lợi thế hơn các phương pháp thường xuyên. Hai phương pháp là ngang nhau.

Sự phát triển tương đối gần đây này đáng chú ý trong bất kỳ cuộc tranh luận nào về những lợi thế hoặc hạn chế thực tế của một trong hai phương pháp.

Các bài kiểm tra thường xuyên tập trung vào việc làm sai lệch giả thuyết null. Tuy nhiên, Thử nghiệm Ý nghĩa Giả thuyết Null (NHST) cũng có thể được thực hiện từ góc độ Bayes, bởi vì trong mọi trường hợp NHST chỉ đơn giản là một phép tính của P (Hiệu ứng quan sát | Hiệu ứng = 0). Vì vậy, thật khó để xác định thời điểm cần thiết phải tiến hành NHST từ góc độ thường xuyên.

Điều đó đang được nói, lập luận tốt nhất để tiến hành NHST bằng cách sử dụng phương pháp thường xuyên là dễ dàng và khả năng tiếp cận. Mọi người được dạy thống kê thường xuyên. Vì vậy, việc điều hành NHST thường xuyên sẽ dễ dàng hơn, bởi vì có nhiều gói thống kê khác giúp cho việc thực hiện điều này trở nên đơn giản. Tương tự, việc truyền đạt kết quả của NHST thường xuyên sẽ dễ dàng hơn, bởi vì mọi người đã quen thuộc với hình thức NHST này. Vì vậy, tôi thấy đó là lý lẽ tốt nhất cho các phương pháp tiếp cận thường xuyên: khả năng tiếp cận các chương trình thống kê sẽ điều hành chúng và dễ dàng truyền đạt kết quả cho các đồng nghiệp. Tuy nhiên, đây chỉ là văn hóa, vì vậy lập luận này có thể thay đổi nếu cách tiếp cận thường xuyên mất quyền bá chủ.

Một số ý kiến:

• Sự khác biệt cơ bản giữa người thống kê Bayes và người theo chủ nghĩa thường xuyên là người Bayes sẵn sàng mở rộng các công cụ xác suất cho các tình huống mà người thường xuyên sẽ không.

  • Cụ thể hơn, người Bayes sẵn sàng sử dụng xác suất để mô hình hóa sự không chắc chắn trong tâm trí của cô qua các thông số khác nhau. Đối với người thường xuyên, các tham số này là vô hướng (mặc dù vô hướng trong đó nhà thống kê không biết giá trị thực). Đối với Bayes, các tham số khác nhau được biểu diễn dưới dạng các biến ngẫu nhiên! Điều này là vô cùng khác nhau. Sự không chắc chắn của Bayes trên các thông số valeus được thể hiện trước .

• Trong thống kê của Bayes, hy vọng là sau khi quan sát dữ liệu, hậu thế áp đảo cái trước, rằng cái trước không quan trọng. Nhưng điều này thường không phải là trường hợp: kết quả có thể nhạy cảm với sự lựa chọn trước! Bayes khác nhau với các linh mục khác nhau không cần phải đồng ý về hậu thế.

Một điểm quan trọng cần ghi nhớ là các tuyên bố của nhà thống kê thường xuyên là những tuyên bố mà bất kỳ hai người Bayes nào cũng có thể đồng ý, bất kể niềm tin trước đó của họ là gì!

Người thường xuyên không bình luận về các linh mục hoặc hậu thế, chỉ đơn thuần là khả năng.

Các tuyên bố của nhà thống kê thường xuyên trong một số ý nghĩa là ít tham vọng hơn, nhưng các tuyên bố táo bạo hơn của Bayesian có thể dựa đáng kể vào sự phân công trước. Trong các tình huống mà các linh mục quan trọng và nơi có sự bất đồng về các linh mục, các tuyên bố có điều kiện, hạn chế hơn về thống kê thường xuyên có thể đứng trên nền tảng vững chắc hơn.

Mục tiêu của nhiều nghiên cứu không phải là đi đến kết luận cuối cùng, mà chỉ để có thêm một chút bằng chứng để tăng dần ý thức của cộng đồng về một câu hỏi theo một hướng .

Số liệu thống kê Bayes là không thể thiếu khi những gì bạn cần là đánh giá một quyết định hoặc kết luận dựa trên bằng chứng có sẵn. Kiểm soát chất lượng sẽ là không thể nếu không có số liệu thống kê Bayes. Bất kỳ thủ tục nào mà bạn cần lấy một số dữ liệu và sau đó hành động trên nó (robot, học máy, ra quyết định kinh doanh) đều có lợi từ thống kê Bayes.

Nhưng rất nhiều nhà nghiên cứu không làm điều đó. Họ đang chạy một số thí nghiệm, thu thập một số dữ liệu và sau đó nói "Dữ liệu chỉ theo cách này", mà không thực sự lo lắng quá nhiều về việc liệu đó có phải là kết luận tốt nhất cho tất cả các bằng chứng mà những người khác đã thu thập được cho đến nay. Khoa học có thể là một quá trình chậm chạp và một tuyên bố như "Xác suất mô hình này đúng là 72%!" thường sớm hoặc không cần thiết.

Điều này cũng phù hợp theo một cách toán học đơn giản, bởi vì các số liệu thống kê thường xuyên thường hóa ra giống như bước cập nhật của một thống kê Bayes. Nói cách khác, trong khi số liệu thống kê Bayes là (Mô hình trước, Bằng chứng) → Mô hình mới, thống kê thường xuyên chỉ là Bằng chứng và để lại cho người khác để điền vào hai phần khác.

Việc thực hiện một phương pháp Bayes thực tế là kỹ thuật hơn so với Phương pháp thường xuyên. Theo "kỹ thuật hơn", ý tôi là: 1) chọn linh mục, 2) lập trình mô hình của bạn theo BUGS / JAGS / STAN và 3) suy nghĩ về việc lấy mẫu và hội tụ.

Rõ ràng, # 1 là khá nhiều không phải là tùy chọn, theo định nghĩa của Bayesian. Mặc dù với một số vấn đề và thủ tục, có thể có các mặc định hợp lý, phần nào che giấu vấn đề từ người dùng. (Mặc dù điều này cũng có thể gây ra vấn đề!)

Việc # 2 có phải là vấn đề hay không phụ thuộc vào phần mềm bạn sử dụng. Số liệu thống kê Bayes thiên về các giải pháp tổng quát hơn các phương pháp thống kê thường xuyên và các công cụ như BUGS, JAGS và STAN là một biểu hiện tự nhiên của điều này. Tuy nhiên, có các hàm Bayes trong các gói phần mềm khác nhau có vẻ hoạt động giống như quy trình thường xuyên thông thường, vì vậy đây không phải lúc nào cũng là một vấn đề. (Và các giải pháp gần đây như các gói R rstanarmvà brmsđang thu hẹp khoảng cách này.) Tuy nhiên, sử dụng các công cụ này rất giống với lập trình bằng ngôn ngữ mới.

Mục số 3 thường được áp dụng, vì phần lớn các ứng dụng Bayes trong thế giới thực sẽ sử dụng lấy mẫu MCMC. (Mặt khác, các quy trình dựa trên MLE thường xuyên sử dụng tối ưu hóa có thể hội tụ đến cực tiểu cục bộ hoặc hoàn toàn không hội tụ và tôi tự hỏi có bao nhiêu người dùng nên kiểm tra điều này và không?)

Như tôi đã nói trong một bình luận, tôi không chắc rằng tự do khỏi các linh mục thực sự là một lợi ích khoa học. Nó chắc chắn thuận tiện theo nhiều cách và tại một số điểm trong quy trình xuất bản, nhưng tôi không chắc nó thực sự làm cho khoa học tốt hơn. (Và trong bức tranh lớn, tất cả chúng ta phải nhận thức được các linh mục của mình là nhà khoa học, hoặc chúng ta sẽ phải chịu mọi loại sai lệch trong các cuộc điều tra, bất kể chúng ta sử dụng phương pháp thống kê nào.)

Về mặt khái niệm : Tôi không biết. Tôi tin rằng số liệu thống kê Bayes là cách suy nghĩ hợp lý nhất nhưng tôi không biện minh tại sao.

Ưu điểm của người thường xuyên là dễ dàng hơn cho hầu hết mọi người ở cấp tiểu học. Nhưng đối với tôi nó thật kỳ lạ. Phải mất nhiều năm cho đến khi tôi thực sự có thể làm rõ về mặt trí tuệ một khoảng tin cậy là gì. Nhưng khi tôi bắt đầu đối mặt với các tình huống thực tế, các ý tưởng thường xuyên có vẻ đơn giản và có liên quan cao.

Theo kinh nghiệm

Câu hỏi quan trọng nhất mà tôi cố gắng tập trung hiện nay là về hiệu quả thực tế: thời gian làm việc cá nhân, độ chính xác và tốc độ tính toán.

Thời gian làm việc cá nhân: Đối với các câu hỏi cơ bản, tôi thực sự gần như không bao giờ sử dụng các phương pháp Bayes: Tôi sử dụng các công cụ thường xuyên cơ bản và sẽ luôn thích kiểm tra t hơn so với tương đương Bayes sẽ khiến tôi đau đầu. Khi tôi muốn biết liệu tôi có giỏi về tictactoe hơn bạn gái hay không, tôi thực hiện một bình phương :-). Trên thực tế, ngay cả trong công việc nghiêm túc như một nhà khoa học máy tính, các công cụ cơ bản thường xuyên chỉ là vô giá để điều tra các vấn đề và tránh kết luận sai do ngẫu nhiên.

Độ chính xác: Trong học máy, nơi dự đoán quan trọng hơn phân tích, không có ranh giới tuyệt đối giữa Bayes và người thường xuyên. MLE là một người phê duyệt thường xuyên: chỉ là một người ước tính. Nhưng MLE thường xuyên (MAP) là một cách tiếp cận Bayes một phần : bạn tìm thấy chế độ của hậu thế và bạn không quan tâm đến phần còn lại của hậu thế. Tôi không biết về sự biện minh thường xuyên về lý do tại sao sử dụng chính quy. Trên thực tế, việc chính quy hóa đôi khi chỉ là không thể tránh khỏi vì ước tính MLE thô được đánh giá quá cao đến mức 0 sẽ là một công cụ dự đoán tốt hơn. Nếu chính quy hóa được đồng ý là một phương pháp Bayes thực sự, thì điều này một mình biện minh rằng Bayes có thể học với ít dữ liệu hơn.

Tốc độ tính toán: các phương thức thường xuyên thường được tính toán nhanh hơn và đơn giản hơn để thực hiện. Và bằng cách nào đó chính quy hóa cung cấp một cách rẻ tiền để giới thiệu một chút Bayes trong đó. Có thể là do các phương thức Bayes vẫn chưa được tối ưu hóa như có thể. Ví dụ, một số triển khai LDA hiện nay rất nhanh. Nhưng họ đòi hỏi công việc rất khó khăn. Đối với ước tính entropy, các phương pháp tiên tiến đầu tiên là Bayes. Họ đã làm việc rất tốt nhưng các phương pháp thường xuyên sớm được phát hiện và mất ít thời gian tính toán hơn ... Đối với thời gian tính toán, các phương pháp thường xuyên thường vượt trội hơn hẳn. Không phải là vô lý, nếu bạn là người Bayes, hãy nghĩ về các phương pháp thường xuyên như là xấp xỉ của các phương pháp Bayes.

Một loại vấn đề trong đó một cách tiếp cận dựa trên Thường xuyên cụ thể đã chi phối bất kỳ Bayes nào là vấn đề dự đoán trong trường hợp M-open.

M-open có nghĩa là gì?

M-open ngụ ý rằng mô hình thực sự tạo ra dữ liệu không xuất hiện trong tập hợp các mô hình mà chúng tôi đang xem xét. Ví dụ, nếu giá trị trung bình thực của là bậc hai là hàm của , tuy nhiên chúng ta chỉ xem xét các mô hình với hàm trung bình là hàm tuyến tính của , chúng ta đang ở trong trường hợp mở M. Nói cách khác, mô hình lỗi đặc tả kết quả trong trường hợp mở M.$y$$x$$x$

Trong hầu hết các trường hợp, đây là một vấn đề lớn đối với các phân tích Bayes; gần như tất cả các lý thuyết mà tôi biết về việc dựa vào mô hình được chỉ định chính xác. Tất nhiên, là các nhà thống kê quan trọng, chúng ta nên nghĩ rằng mô hình của chúng ta luôn bị sai lệch. Đây là một vấn đề khá; hầu hết lý thuyết của chúng tôi dựa trên mô hình là chính xác, nhưng chúng tôi biết nó không bao giờ đúng. Về cơ bản, chúng tôi chỉ khoanh tay với hy vọng rằng mô hình của chúng tôi không quá sai.

Tại sao các phương pháp thường xuyên xử lý việc này tốt hơn?

Không phải tất cả làm. Ví dụ: nếu chúng tôi sử dụng các công cụ MLE tiêu chuẩn để tạo ra các lỗi tiêu chuẩn hoặc xây dựng các khoảng dự đoán, chúng tôi sẽ không tốt hơn so với sử dụng các phương pháp Bayes.

Tuy nhiên, có một công cụ Thường xuyên cụ thể được dành riêng cho mục đích chính xác này: xác thực chéo. Ở đây, để ước tính mô hình của chúng tôi sẽ dự đoán tốt như thế nào về dữ liệu mới, chúng tôi chỉ cần để lại một số dữ liệu khi điều chỉnh mô hình và đo xem mô hình của chúng tôi dự đoán dữ liệu không nhìn thấy tốt như thế nào.

Lưu ý rằng phương pháp này hoàn toàn phù hợp với mô hình lỗi đặc tả, nó chỉ cung cấp một phương pháp để chúng tôi ước tính mức độ mô hình sẽ dự đoán trên dữ liệu mới, bất kể mô hình đó có "chính xác" hay không.

Tôi không nghĩ rằng nó quá khó để tranh luận rằng điều này thực sự làm thay đổi cách tiếp cận để xây dựng mô hình tiên đoán rằng thật khó để biện minh từ góc độ Bayesian (trước khi được cho là đại diện cho kiến thức trước khi trước khi dữ liệu thấy, hàm likelihood là các mô hình, vv) để một điều đó rất dễ dàng để biện minh từ quan điểm của Người thường xuyên (chúng tôi đã chọn mô hình + các tham số chính quy hóa, qua lấy mẫu lặp lại, dẫn đến các lỗi mẫu tốt nhất).

Điều này đã hoàn toàn cách mạng hóa cách suy luận dự đoán được thực hiện. Tôi không nghĩ rằng bất kỳ nhà thống kê nào sẽ (hoặc ít nhất, nên) nghiêm túc xem xét một mô hình dự đoán không được xây dựng hoặc kiểm tra với xác thực chéo, khi nó có sẵn (nghĩa là chúng ta có thể cho rằng các quan sát là độc lập, không cố gắng tính toán để lấy mẫu thiên vị, v.v.).