Giải thích khoảng dự đoán 95% Bayes

Giả sử mô hình hồi quy bivariate sau: trong đó là iid cho .

y_{Tôi} = = β x_{Tôi} + {bạn}_{Tôi},

$y_i = \beta x_i + u_i,$

u_{i}

$u_i$

N (0, σ^{2} = 9)

$N(0, \sigma^2 = 9)$

i = 1, \dots, n

$i = 1,\ldots, n$

Giả sử một đó không phù hợp, thì có thể thấy rằng pdf sau cho là trong đó $p(\beta) \propto \text{constant}$ $\beta$

p (β | y) = = (18 π)^{- \frac{1}{2}} {(Σ_{Tôi = = 1}^{n} x_{Tôi}^{2})}^{\frac{1}{2}} điểm kinh nghiệm [- \frac{1}{18} Σ_{Tôi = = 1}^{n} x_{Tôi}^{2} (β - \hat{β})^{2}],

$p(\beta|\mathbf{y}) = (18\pi)^{-\frac{1}{2}}\left(\sum_{i=1}^n x_i^2\right)^{\frac{1}{2}} \exp\left[-\frac{1}{18}\sum_{i=1}^n x_i^2 (\beta - \hat{\beta})^2\right],$

\hat{β} = (\sum_{i = 1}^{n} y_{i} x_{i}) / (\sum_{i = 1}^{n} x_{i}^{2}) .

$\hat{\beta} = (\sum_{i=1}^n y_ix_i)/(\sum_{i=1}^n x_i^2).$

Bây giờ hãy xem xét giá trị của với giá trị tương lai đã cho là , : trong đó là iid , sau đó chúng ta có thể chỉ ra rằng là mật độ bình thường với kỳ vọng và phương sai Do đó, hàm mật độ xác suất sau cho , có điều kiện trên , là $y$ $x$ $x_{n+1}$

y_{n + 1} = = β x_{n + 1} + {bạn}_{n + 1},

$y_{n+1} = \beta x_{n+1} + u_{n+1},$

u_{n + 1}

$u_{n+1}$

N (0, σ^{2} = 9)

$N(0, \sigma^2 = 9)$

p (y_{n + 1} | x_{n + 1}, y) = = \int_{β} p (y_{n + 1} | x_{n + 1}, β, y) p (β | y) d β

$p(y_{n+1}|x_{n+1},\mathbf{y}) = \int_{\beta} p(y_{n+1}|x_{n+1}, \beta, \mathbf{y}) p(\beta|\mathbf{y})d\beta$

E [y_{n + 1} | x_{n + 1}, y] = = \hat{β} x_{n + 1}, v một r [y_{n + 1} | x_{n + 1}, y] = = \frac{9 [x_{n + 1}^{2} + Σ_{Tôi = = 1}^{n} x_{Tôi}^{2}]}{Σ_{Tôi = = 1}^{n} x_{Tôi}^{2}} .

$E[y_{n+1}|x_{n+1},\mathbf{y}] = \hat{\beta}x_{n+1},\quad {\rm var}[y_{n+1}|x_{n+1},\mathbf{y}] = \frac{9[x_{n+1}^2 + \sum_{i=1}^n x_i^2]}{\sum_{i=1}^n x_i^2}.$

y_{n + 1}

$y_{n+1}$

x_{n + 1}

$x_{n+1}$

\begin{aligned} p (y_{n + 1} | x_{n + 1}, y) = = & {(\frac{18 π [x_{n + 1}^{2} + Σ_{Tôi = = 1}^{n} x_{Tôi}^{2}]}{Σ_{Tôi = = 1}^{n} x_{Tôi}^{2}})}^{- \frac{1}{2}} \\ \times điểm kinh nghiệm {- \frac{Σ_{Tôi = = 1}^{n} x_{Tôi}^{2}}{18 (x_{n + 1}^{2} + Σ_{Tôi = = 1}^{n} x_{Tôi}^{2})} {(y_{n + 1} - \hat{β} x_{n + 1})}^{2}} \end{aligned}

$\begin{align} p(y_{n+1}|x_{n+1},\mathbf{y}) = &\left(\frac{18\pi\left[x_{n+1}^2 + \displaystyle{\sum_{i=1}^n x_i^2}\right]}{ \displaystyle{\sum_{i=1}^n x_i^2}}\right)^{-\frac{1}{2}} \\ & \times \exp\left\{-\frac{\displaystyle{\sum_{i=1}^n x_i^2}}{18\left(x_{n+1}^2 + \displaystyle{\sum_{i=1}^n x_i^2}\right)}\left(y_{n+1}-\hat{\beta}x_{n+1}\right)^2\right\} \end{align}$

Bây giờ câu hỏi là: Chỉ định khoảng dự đoán 95% cho $y_{n+1}$ và cẩn thận diễn giải nó. Những khía cạnh nào của quá trình tạo dữ liệu mà khoảng thời gian không phù hợp với sự không chắc chắn của chúng ta về?

Tôi không chắc lắm về cách trả lời câu hỏi nhưng đây là nỗ lực của tôi:

Vì vậy, về cơ bản chúng ta cần tìm một số và sao cho $a$ $b$ $P(a < y_{n+1} < b) = \int_{a}^b p(y_{n+1}|x_{n+1}, \mathbf{y}) dy_{n+1} = 95\%$

Bây giờ chúng ta biết rằng trong đó và , do đó: $y_{n+1}|x_{n+1}, \mathbf{y} \sim N(m, v^2)$ $m = E[y_{n+1}|x_{n+1},\mathbf{y}]$ $v^2 = var[y_{n+1}|x_{n+1},\mathbf{y}]$

\frac{y_{n + 1} - m}{v} ~ N (0, 1)

$\frac{y_{n+1}-m}{v} \sim N(0,1)$

P (- 1,96 < \frac{y_{n + 1} - m}{v} < 1,96) = = 95 %

$P(-1.96 < \frac{y_{n+1}-m}{v} < 1.96) = 95\%$

P (- 1,96 v + m < y_{n + 1} < 1,96 v + m) = = 95 %

$P(-1.96v+m < y_{n+1} < 1.96v+m) = 95\%$

Bây giờ vì chúng ta đang điều hòa trên và nhìn vào biểu thức cho và , chúng ta thấy rằng cả và đều là các giá trị đã biết. Vậy ta có thể lấy và . tức là, chúng ta có thể chọn nhiều khả năng khác của và mang lại xác suất ... nhưng làm thế nào điều này liên quan đến việc trả lời một phần của câu hỏi hỏi những khía cạnh nào của quá trình tạo dữ liệu mà khoảng này không phù hợp? $x_{n+1}$ $v$ $m$ $v$ $m$ $a = -1.96v+m$ $b = 1.96v+m$ $a$ $b$ $95\%$

— TeT
nguồn

Vui lòng thêm thẻ tự học nếu đây là bài tập về nhà hoặc cố gắng giải quyết vấn đề trong sách giáo khoa.

— Nick Cox

@Nick Cox Cảm ơn đã thông báo cho tôi, tôi đã thêm thẻ tự học.

— TeTs

Có thể là khoảng thời gian cụ thể không cung cấp cho chúng tôi bất kỳ hiểu biết về hình dạng của quá trình tạo dữ liệu? Đó là, chúng ta không biết kết hợp trung bình / phương sai chỉ từ khoảng?

Câu hỏi lạ. Có một bối cảnh trước khi tập thể dục? Tại sao bạn nói một mô hình hồi quy bivariate ?

— Stéphane Laurent

Khoảng thời gian chứa tất cả sự không chắc chắn trong vấn đề. Trong phần mô tả vấn đề của bạn, điều duy nhất bạn không biết là và . Khoảng dự đoán mà bạn xuất phát phù hợp với sự không chắc chắn trong cả hai điều này. Vì vậy, không có sự không chắc chắn còn lại cho khoảng "không phù hợp". $\beta$ $u$

— Tom chồn
nguồn

Vẫn còn sự không chắc chắn về việc liệu mô hình có đúng hay không.

— Tây An

Mô hình được nêu là một giả định. Do đó, không có sự không chắc chắn về nó.

— Tom Minka

Tôi cho rằng điều có nghĩa là phân phối dự báo đại diện cho tất cả sự không chắc chắn trong vấn đề và khoảng thời gian chỉ tóm tắt một số khía cạnh của phân phối đó. Tuy nhiên, không rõ ràng là một khoảng thời gian nó để lại bất cứ điều gì.

— liên hợp chiến binh