Danh sách các tình huống trong đó cách tiếp cận Bayes đơn giản hơn, thực tế hơn hoặc thuận tiện hơn

Đã có nhiều cuộc tranh luận trong số liệu thống kê giữa người Bayes và người thường xuyên. Tôi thường tìm thấy những thứ này khá khó chịu (mặc dù tôi nghĩ rằng nó đã chết). Mặt khác, tôi đã gặp một số người có quan điểm hoàn toàn thực tế về vấn đề này, nói rằng đôi khi việc phân tích thường xuyên sẽ thuận tiện hơn và đôi khi việc phân tích Bayes dễ dàng hơn. Tôi thấy quan điểm này thực tế và mới mẻ.

Nó xảy ra với tôi rằng nó sẽ hữu ích để có một danh sách các trường hợp như vậy. Bởi vì có quá nhiều phân tích thống kê và vì tôi cho rằng việc tiến hành phân tích thường xuyên là thực tế hơn (mã hóa kiểm tra t trong WinBUGS có liên quan nhiều hơn so với lệnh gọi chức năng duy nhất được yêu cầu để thực hiện phiên bản dựa trên thường xuyên trong R , ví dụ), thật tuyệt khi có một danh sách các tình huống trong đó cách tiếp cận Bayes đơn giản hơn, thực tế hơn và / hoặc thuận tiện hơn so với cách tiếp cận thường xuyên.

(Hai câu trả lời mà tôi không có hứng thú là: 'luôn luôn' và 'không bao giờ'. Tôi hiểu mọi người có ý kiến ​​mạnh mẽ, nhưng xin đừng phát sóng chúng ở đây. Nếu chủ đề này trở thành một địa điểm cho cuộc cãi vã nhỏ nhặt, tôi có thể sẽ xóa Mục tiêu của tôi ở đây là phát triển một nguồn tài nguyên sẽ hữu ích cho một nhà phân tích có công việc phải làm, không phải là một cái rìu để nghiền.)

Mọi người được hoan nghênh đề xuất nhiều hơn một trường hợp, nhưng vui lòng sử dụng các câu trả lời riêng biệt để làm như vậy, để mỗi tình huống có thể được đánh giá (bỏ phiếu / thảo luận) riêng lẻ. Câu trả lời nên liệt kê: (1) những gì bản chất của tình hình, và (2) tại sao phương pháp Bayes đơn giản trong trường hợp này. Một số mã (giả sử, trong WinBUGS) cho thấy cách phân tích sẽ được thực hiện và tại sao phiên bản Bayes thực tế hơn sẽ là lý tưởng, nhưng tôi hy vọng sẽ quá cồng kềnh. Nếu nó có thể được thực hiện dễ dàng tôi sẽ đánh giá cao nó, nhưng vui lòng bao gồm tại sao một trong hai cách.

Cuối cùng, tôi nhận ra rằng tôi chưa xác định ý nghĩa của một cách tiếp cận là 'đơn giản' hơn so với cách tiếp cận khác. Sự thật là, tôi không hoàn toàn chắc chắn ý nghĩa của một phương pháp này là thực tế hơn phương pháp khác. Tôi cởi mở với các đề xuất khác nhau, chỉ cần xác định cách giải thích của bạn khi bạn giải thích lý do phân tích Bayes thuận tiện hơn trong tình huống bạn thảo luận.

(1) Trong các bối cảnh mà hàm khả năng có thể điều chỉnh được (ít nhất là bằng số), việc sử dụng phương pháp Bayes, bằng phương pháp tính toán gần đúng Bayesian (ABC), đã đạt được một số đối thủ cạnh tranh thường xuyên như khả năng tổng hợp ( 1 , 2 ) hoặc khả năng thực nghiệm vì nó có xu hướng dễ thực hiện hơn (không nhất thiết phải đúng). Do đó, việc sử dụng ABC đã trở nên phổ biến ở những khu vực thường gặp các khả năng khó chữa như sinh học , di truyền và sinh thái . Ở đây, chúng ta có thể đề cập đến một đại dương ví dụ.

Một số ví dụ về khả năng khó hiểu là

• $N$

• $1000+$

Khi phần mềm Bayes được cải thiện, vấn đề "dễ áp ​​dụng hơn" sẽ trở thành vấn đề. Phần mềm Bayes đang trở nên đóng gói ở dạng dễ dàng và dễ dàng hơn. Một trường hợp gần đây là từ một bài báo có tiêu đề, ước tính Bayes thay thế bài kiểm tra t . Trang web sau đây cung cấp các liên kết đến bài viết và phần mềm: http://www.indiana.edu/~kruschke/BEST/

Một đoạn trích từ phần giới thiệu của bài viết:

... một số người có ấn tượng rằng các kết luận từ phương pháp NHST và Bayes có xu hướng đồng ý trong các tình huống đơn giản như so sánh hai nhóm: Vì vậy, nếu câu hỏi quan tâm chính của bạn có thể được thể hiện đơn giản dưới dạng có thể chấp nhận được trong bài kiểm tra, hãy nói , thực sự không cần phải thử và áp dụng toàn bộ máy móc Bayes cho một vấn đề đơn giản như vậy (Brooks, 2003, trang 2694). Bài viết này cho thấy, ngược lại, ước tính tham số Bayes cung cấp thông tin phong phú hơn nhiều so với thử nghiệm NHST t và kết luận của nó có thể khác với thử nghiệm NHST t. Các quyết định dựa trên ước tính tham số Bayes được thiết lập tốt hơn so với các quyết định dựa trên NHST, cho dù các quyết định có được từ hai phương pháp có đồng ý hay không.

$\theta=P(X<Y)$$X$$Y$$X$$Y$$\theta$

$X$$f(x;\xi_1)$$F(x;\xi_1)$$Y$$g(y;\xi_2)$$G(y;\xi_2)$

$(\xi_1,\xi_2)$$\theta$

$(\xi_1,\xi_2)$$(\star)$$\theta$

Tôi được đào tạo về thống kê thường xuyên (thực tế là kinh tế lượng), nhưng tôi chưa bao giờ có lập trường đối đầu với cách tiếp cận Bayes, vì quan điểm của tôi là nguồn gốc triết học của trận chiến "sử thi" này về cơ bản đã sai lầm ngay từ đầu (tôi đã lên sóng quan điểm của tôi ở đây ). Trên thực tế, tôi dự định cũng sẽ rèn luyện bản thân theo cách tiếp cận Bayes trước mắt.

Tại sao? Bởi vì một trong những khía cạnh của thống kê thường xuyên làm tôi say mê nhất là một nỗ lực toán học và khái niệm, đồng thời nó gây rắc rối cho tôi nhiều nhất: tiệm cận cỡ mẫu. Ít nhất là trong kinh tế lượng, hầu như khôngbài báo nghiêm túc ngày nay tuyên bố rằng bất kỳ công cụ ước tính nào khác thường được áp dụng trong kinh tế lượng thường xuyên sở hữu bất kỳ tính chất "mẫu nhỏ" mong muốn nào chúng ta muốn từ một người ước tính. Tất cả đều dựa vào các đặc tính tiệm cận để biện minh cho việc sử dụng của họ. Hầu hết các thử nghiệm được sử dụng chỉ có các đặc tính mong muốn không có triệu chứng ... Nhưng chúng tôi không còn ở "z-đất / t-đất" nữa: tất cả các bộ máy tinh vi (và ghê gớm) của ước lượng và suy luận thường xuyên hiện đại cũng rất bình dị - có nghĩa là rất bình dị - có nghĩa là đôi khi, một mẫu laaaaaaaaa ... thực sự cần thiết để các tính chất tiệm cận quý giá này xuất hiện và ảnh hưởng tốt đến các ước tính có được từ các công cụ ước tính, như đã được chứng minh bằng nhiều mô phỏng khác nhau. Có nghĩa là hàng chục ngàn quan sát - mặc dù chúng bắt đầu có sẵn cho một số lĩnh vực hoạt động kinh tế (như thị trường lao động hoặc tài chính), có những lĩnh vực khác (như kinh tế vĩ mô) mà chúng sẽ không bao giờ làm (ít nhất là trong suốt cuộc đời tôi). Và tôi khá bận tâm vì điều đó, bởi vì nó làm cho kết quả thu được thực sựkhông chắc chắn (không chỉ ngẫu nhiên).

Kinh tế lượng Bayes cho các mẫu nhỏ không dựa vào kết quả tiệm cận. "Nhưng họ dựa vào sự chủ quan trước !" là câu trả lời thông thường ... mà câu trả lời đơn giản, thực tế của tôi là như sau: "nếu hiện tượng này đã cũ và được nghiên cứu trước, thì có thể ước tính trước từ dữ liệu trong quá khứ. Nếu hiện tượng đó là mới , thì còn gì nữa không bằng những lập luận chủ quan chúng ta có thể bắt đầu cuộc thảo luận về nó không?

Đây là một trả lời muộn, tuy nhiên tôi hy vọng nó thêm một cái gì đó. Tôi đã được đào tạo về viễn thông, nơi hầu hết thời gian chúng tôi sử dụng phương pháp Bayes.

Dưới đây là một ví dụ đơn giản: Giả sử bạn có thể truyền bốn tín hiệu có thể là +5, +2,5, -2,5 và -5 volt. Một trong những tín hiệu từ bộ này được truyền đi, nhưng tín hiệu bị hỏng bởi nhiễu Gaussian tại thời điểm nó đến đầu nhận. Trong thực tế, tín hiệu cũng bị suy giảm, nhưng chúng tôi sẽ loại bỏ vấn đề này để đơn giản. Câu hỏi là: Nếu bạn ở đầu nhận, làm thế nào để bạn thiết kế một máy dò cho bạn biết tín hiệu nào được truyền đi ban đầu?

Vấn đề này rõ ràng nằm trong lĩnh vực kiểm tra giả thuyết. Tuy nhiên, bạn không thể sử dụng giá trị p, vì thử nghiệm quan trọng có khả năng từ chối cả bốn giả thuyết có thể và bạn biết rằng một trong những tín hiệu này đã thực sự được truyền đi. Chúng ta có thể sử dụng phương pháp Neyman-Pearson để thiết kế máy dò theo nguyên tắc, nhưng phương pháp này hoạt động tốt nhất cho các giả thuyết nhị phân. Đối với nhiều giả thuyết, nó trở nên quá vụng về khi bạn cần xử lý một số ràng buộc đối với xác suất báo động sai. Một thay thế đơn giản được đưa ra bởi thử nghiệm giả thuyết Bayes. Bất kỳ tín hiệu nào trong số này có thể được chọn để truyền đi, do đó, tín hiệu trước có thể được trang bị. Trong các trường hợp có thể trang bị như vậy, phương pháp sẽ tập trung vào việc chọn tín hiệu với khả năng tối đa. Phương pháp này có thể được đưa ra một giải thích hình học tốt đẹp: chọn tín hiệu xảy ra gần nhất với tín hiệu thu được. Điều này cũng dẫn đến việc phân vùng không gian quyết định thành một số vùng quyết định, do đó nếu tín hiệu thu được nằm trong một vùng cụ thể, thì quyết định giả thuyết liên quan đến vùng quyết định đó là đúng. Do đó, việc thiết kế một máy dò được thực hiện dễ dàng.

Vì vậy, các cuộc kiểm tra thống kê 'Người thường xuyên' thường tương đương với phương pháp tiếp cận Bayes phức tạp hơn về nguyên tắc theo các giả định nhất định. Khi các giả định này được áp dụng, thì một trong hai cách tiếp cận sẽ cho kết quả tương tự, vì vậy sẽ an toàn khi sử dụng thử nghiệm Thường xuyên dễ dàng hơn. Cách tiếp cận Bayes nói chung an toàn hơn vì nó làm cho các giả định rõ ràng nhưng nếu bạn biết những gì bạn đang làm thì bài kiểm tra Thường xuyên thường tốt như cách tiếp cận Bayes và thường dễ áp ​​dụng hơn.

(Tôi sẽ thử những gì tôi nghĩ sẽ là loại câu trả lời điển hình nhất.)

Giả sử bạn có một tình huống có một số biến và một phản hồi và bạn biết rất nhiều về cách một trong các biến phải liên quan đến phản hồi, nhưng không nhiều về các biến khác.

Trong tình huống như thế này, nếu bạn thực hiện phân tích hồi quy bội tiêu chuẩn, kiến ​​thức trước đó sẽ không được tính đến. Một phân tích tổng hợp có thể được tiến hành sau đó, điều này có thể thú vị trong việc làm sáng tỏ liệu kết quả hiện tại có phù hợp với các kết quả khác hay không và có thể cho phép ước tính chính xác hơn một chút (bằng cách bao gồm kiến ​​thức trước đó vào thời điểm đó). Nhưng cách tiếp cận đó sẽ không cho phép những gì đã biết về biến đó ảnh hưởng đến ước tính của các biến khác.

Một tùy chọn khác là có thể mã hóa và tối ưu hóa chức năng của chính bạn để sửa mối quan hệ với biến đang được đề cập và tìm giá trị tham số cho các biến khác tối đa hóa khả năng của dữ liệu được đưa ra hạn chế đó. Vấn đề ở đây là mặc dù tùy chọn đầu tiên không hạn chế đầy đủ ước tính beta, nhưng cách tiếp cận này đã quá hạn chế nó.

Có thể ban giám khảo một số thuật toán sẽ giải quyết tình huống phù hợp hơn, các tình huống như thế này có vẻ như là ứng cử viên lý tưởng cho phân tích Bayes. Bất cứ ai không phản đối giáo điều đối với phương pháp Bayes nên sẵn sàng thử nó trong những trường hợp như thế này.

Một lĩnh vực nghiên cứu trong đó các phương pháp Bayes cực kỳ đơn giản và các phương pháp Thường xuyên cực kỳ khó thực hiện là Phương pháp Thiết kế Tối ưu .

$x^{(1)}$$\beta$$x^{(2)}$$\beta$

$\beta$$x^{(i)}$$\hat \beta$$\beta$$\hat \beta$$x^{(i)}$$\beta$

$\beta$$\beta$$x$$x$

Từ quan điểm của Bayes, vấn đề này rất dễ dàng.

1. $\beta$
2. $x$
3. $x$
4. Lặp lại các bước 2 & 3 cho đến khi đạt được độ chính xác mong muốn

$x$

Có lẽ một trong những trường hợp đơn giản và phổ biến nhất mà cách tiếp cận Bayes dễ dàng hơn là định lượng độ không đảm bảo của các tham số.

Trong câu trả lời này, tôi không đề cập đến việc giải thích các khoảng tin cậy so với các khoảng tin cậy. Hiện tại, hãy giả sử rằng người dùng vẫn ổn khi sử dụng một trong hai phương pháp.

Như đã nói, trong khuôn khổ Bayes, nó thẳng tiến; đó là phương sai biên của hậu thế cho bất kỳ tham số quan tâm riêng lẻ nào. Giả sử bạn có thể lấy mẫu từ phía sau, sau đó chỉ cần lấy mẫu của bạn và tính toán phương sai của bạn. Làm xong!

Trong trường hợp Thường xuyên, điều này thường chỉ đơn giản trong một số trường hợp và đó là một nỗi đau thực sự khi không. Nếu chúng ta có số lượng mẫu lớn so với số lượng tham số nhỏ (và ai thực sự biết mức độ lớn đủ lớn), chúng ta có thể sử dụng lý thuyết MLE để lấy ra CI. Tuy nhiên, những tiêu chí đó không phải lúc nào cũng giữ, đặc biệt là đối với các trường hợp thú vị (ví dụ: mô hình hiệu ứng hỗn hợp). Đôi khi chúng ta có thể sử dụng bootstrapping, nhưng đôi khi chúng ta không thể! Trong các trường hợp chúng ta không thể, có thể rất khó, thực sự rất khó để đưa ra các ước tính lỗi và thường đòi hỏi một chút thông minh (ví dụ, công thức của Greenwood để lấy SE cho các đường cong Kaplan Meier). "Sử dụng một số thông minh" không phải lúc nào cũng là một công thức đáng tin cậy!