Lấy mẫu phân phối các hệ số hồi quy

Trước đây tôi đã tìm hiểu về các bản phân phối lấy mẫu cho kết quả dành cho người ước tính, về mặt tham số chưa biết. Ví dụ, đối với các bản phân phối mẫu của và trong mô hình hồi quy tuyến tính $\hat\beta_0$ $\hat\beta_1$ $Y_i = \beta_o + \beta_1 X_i + \varepsilon_i$

và

{\hat{β}}_{0} \sim N (β_{0}, σ^{2} (\frac{1}{n} + \frac{{\bar{x}}^{2}}{S_{x x}}))

$\hat{\beta}_0 \sim \mathcal N \left(\beta_0,~\sigma^2\left(\frac{1}{n}+\frac{\bar{x}^2}{S_{xx}}\right)\right)$

{\hat{β}}_{1} \sim N (β_{1}, \frac{σ^{2}}{S_{x x}})

$\hat{\beta}_1 \sim \mathcal N \left(\beta_1,~\frac{\sigma^2}{S_{xx}}\right)$

Trong đó $S_{xx} = \sum_{i=1}^n (x_i^2) -n \bar{x}^2$

Nhưng bây giờ tôi đã thấy những điều sau đây trong một cuốn sách :

Giả sử chúng ta phù hợp với mô hình theo bình phương tối thiểu theo cách thông thường. Hãy xem xét phân phối sau của Bayes và chọn các linh mục sao cho tương đương với phân phối lấy mẫu thường xuyên thông thường, đó là ......

$(\begin{matrix} β_{0} \\ β_{1} \end{matrix}) \sim N_{2} [(\begin{matrix} {\hat{β}}_{1} \\ {\hat{β}}_{2} \end{matrix}), {\hat{σ}}^{2} {(\begin{matrix} n & \sum_{i = 1}^{n} x_{i} \\ \sum_{i = 1}^{n} x_{i} & \sum_{i = 1}^{n} x_{i}^{2} \end{matrix})}^{- 1}]$ $\left( \begin{matrix} \beta_0 \\ \beta_1 \end{matrix} \right) \sim \mathcal N_2\left[\left(\begin{matrix} \hat{\beta}_1 \\ \hat{\beta}_2 \end{matrix} \right),~\hat{\sigma}^2 \left(\begin{matrix} n & \sum_{i=1}^{n}x_i \\ \sum_{i=1}^{n}x_i & \sum_{i=1}^{n}x_i^2 \end{matrix} \right) ^{-1}\right]$

Điều này làm tôi bối rối vì:

Tại sao các ước tính xuất hiện ở phía bên trái (lhs) của 2 biểu thức đầu tiên và phía bên phải (rhs) của biểu thức cuối cùng?
Tại sao các mũ beta trong biểu thức cuối cùng có 1 và 2 chỉ số thay vì 0 và 1?
Có phải đây chỉ là những đại diện khác nhau của cùng một điều? Nếu là họ, ai đó có thể chỉ cho tôi cách họ tương đương không? Nếu không, ai đó có thể giải thích sự khác biệt?
$\leftrightarrow$

— Joe King
nguồn

Phần này chủ yếu liên quan đến câu hỏi đầu tiên, thứ ba và thứ tư của bạn:

Có một sự khác biệt cơ bản giữa thống kê Bayes và thống kê thường xuyên.

$\theta$

$P(\theta|\underline{x})$

Điều này dẫn đến những thứ thường trông giống nhau nhưng trong đó các biến trong một cái nhìn "sai cách xung quanh" được nhìn qua lăng kính của cách nghĩ khác về nó.

Vì vậy, về cơ bản, chúng là những thứ hơi khác nhau , và thực tế là những thứ nằm trong LHS của một người nằm trong RHS của người kia không phải là ngẫu nhiên.

Nếu bạn làm một số công việc với cả hai, nó sẽ sớm trở nên rõ ràng hợp lý.

Câu hỏi thứ hai đối với tôi dường như chỉ liên quan đến một lỗi đánh máy.

---

tuyên bố "tương đương với phân phối lấy mẫu thường xuyên thông thường, nghĩa là": Tôi lấy điều này có nghĩa là các tác giả đã nêu rõ phân phối lấy mẫu thường xuyên. Tôi đã đọc sai điều này?

Có hai điều đang diễn ra ở đó - họ đã thể hiện một điều gì đó hơi lỏng lẻo (mọi người thường làm kiểu biểu hiện quá lỏng lẻo này) và tôi nghĩ rằng bạn cũng diễn giải nó khác với ý định.

Chính xác thì biểu thức họ đưa ra có ý nghĩa gì?

Hy vọng các cuộc thảo luận dưới đây sẽ giúp làm rõ ý nghĩa dự định.

Nếu bạn có thể cung cấp một tài liệu tham khảo (trực tuyến vì tôi không có quyền truy cập thư viện tốt) nơi biểu thức này được dẫn xuất, tôi sẽ rất biết ơn.

Nó theo ngay từ đây:

http://en.wikipedia.org/wiki/Bayesian_linear_regression

$\beta$ $\sigma^2$

Lý do là do hậu thế tỷ lệ thuận với khả năng và các khoảng thời gian được tạo ra từ phía sau trên các tham số khớp với khoảng tin cậy thường xuyên cho các tham số.

Bạn có thể tìm thấy một vài trang đầu tiên ở đây cũng hữu ích.

— Glen_b -Reinstate Monica
nguồn

Cảm ơn bạn, điều này là hữu ích. Tôi đã thực hiện một số liệu thống kê Bayes nhỏ. Mặc dù vậy, tôi vẫn hơi bối rối, bởi vì tuyên bố "tương đương với phân phối lấy mẫu thường xuyên thông thường, đó là" : Tôi lấy điều này có nghĩa là các tác giả đã nêu rõ phân phối lấy mẫu thường xuyên. Tôi đã đọc sai điều này? Chính xác thì biểu thức họ đưa ra có ý nghĩa gì? Nếu bạn có thể cung cấp một tài liệu tham khảo (trực tuyến vì tôi không có quyền truy cập thư viện tốt) nơi biểu thức này được dẫn xuất, tôi sẽ rất biết ơn.

— Joe King

Joe - xem bản chỉnh sửa của tôi ở trên

— Glen_b -Reinstate Monica