Điều gì không cần thiết trước cho độ dốc khi thực hiện hồi quy tuyến tính?

Khi thực hiện hồi quy tuyến tính bayes, người ta cần gán trước cho độ dốc và chặn . Vì là một tham số vị trí, nên có ý nghĩa để gán đồng phục trước; Tuy nhiên, có vẻ như với tôi rằng là giống như một tham số quy mô và có vẻ như không tự nhiên để gán một bộ đồng phục trước khi nó.$a$$b$$b$$a$

Mặt khác, dường như không đúng khi gán Jeffrey không thông thường trước đó ( ) cho độ dốc của hồi quy tuyến tính. Đối với một, nó có thể là tiêu cực. Nhưng tôi không thấy những gì nó có thể.$1/a$

Vì vậy, "không phù hợp" trước khi độ dốc của hồi quy tuyến tính bayes là gì? (Bất kỳ tài liệu tham khảo sẽ được đánh giá cao.)

Từ phân tích dữ liệu Bayes lần thứ 3, trang. 355:

Phân phối trước không chuẩn

Trong mô hình hồi quy bình thường, phân phối trước không phù hợp thuận tiện được thống nhất trên hoặc tương đương,$(\beta, \log \sigma)$

$$p(\beta,\sigma^2|X) \propto\sigma^{-2}$$

( đề cập đến các biến hồi quy.) Cuốn sách chứa các thảo luận hữu ích hơn ngoài phạm vi của câu hỏi này: Khi ưu tiên này hữu ích, khi những người khác phù hợp hơn, sau đó và so sánh với các ước tính cổ điển.$X$

Bayes thường chọn các linh mục làm cho cuộc sống thử thách toán học của họ dễ dàng hơn để chịu đựng. Điều này có nghĩa là các linh mục Gaussian, trừ khi mô hình hoàn toàn cấm nó. Hãy nhớ rằng bạn cần một bivariate trước trong tình huống của bạn, vì bạn phải mô hình hóa mối tương quan giữa độ dốc và vị trí, cũng như các hành vi bên lề của chúng. Bình thường đa biến là vé của bạn.

Một Gaussian trước các tham số sẽ kết hợp tốt với lỗi đo lường Gaussian (không nghi ngờ) mà mô hình hồi quy của bạn đã có.

Nhân tiện, tôi không liên kết độ dốc với tham số tỷ lệ, vì độ dốc có thể âm và tham số tỷ lệ không thể.

Bây giờ phân phối gaussian không phải là không chính xác trước, nhưng nếu bạn thực sự không có thông tin trước, có lẽ bạn nên đi thường xuyên. Hoặc sử dụng Gaussian với phương sai rất lớn.

Tôi không biết một tài liệu tham khảo hiện đại về suy luận Bayes. Có nguy cơ sử dụng bazooka để bắn thỏ, bạn có thể tra cứu Rasmussen và Williams, có sẵn trên mạng . Phần đầu tiên của chương 2 trải qua hồi quy Bayes một cách chi tiết.

Thông thường, một bộ đồng phục trước độ dốc và độ lệch được sử dụng, tuy nhiên tôi thích ý tưởng đặt các linh mục phẳng trên và với là góc giữa dòng và y = 0. Điều này đưa ra trước , nó nghiêng về độ dốc quanh 0. Điều này có nguồn gốc tại http://jakevdp.github.io/blog/2014/06/14/frequentism-and-bayesianism-4-bayesian-in-python/#The-P Warrior , và Chủ nghĩa thường xuyên và Bayesianism Primer của Jake Vanderblas$\tan^{-1}\left(a\right)$$b\cos\theta$$\theta$