Giá trị mong đợi và phương sai ước tính của tham số độ dốc

Tôi đang đọc một văn bản, "Xác suất và thống kê" của Devore. Tôi nhìn vào 2 mục trên trang 740: giá trị kỳ vọng và phương sai của ước lượng $\beta_1$ , đó là thông số độ dốc trong hồi quy tuyến tính $Y_i = \beta_0 + \beta_1 X_i + \epsilon_i$ . $\epsilon_i$ là biến ngẫu nhiên Gaussian ( $\mu = 0, variance=\sigma^2$ ) và $\epsilon_i$ là độc lập.

Ước tính của $\beta_1$ có thể được diễn tả như: $\hat{\beta_1} = \frac{\sum (x_i - \bar{x}) (Y_i - \bar{Y})}{\sum(x_i-\bar{x})^2} = \frac{\sum (x_i - \bar{x})Y_i}{S_{xx}}$ , trong đó $S_{xx} = \sum (x_i - \bar{x})^2$ . Vì vậy, câu hỏi của tôi là: làm thế nào để lấy được $E(\hat{\beta_1})$ và $Var(\hat{\beta_1})$ ? Cuốn sách đã đưa ra kết quả: $E(\hat{\beta_1}) = \beta_1$ và $Var(\hat{\beta_1}) = \frac{\sigma^2}{S_xx}$ .

Công việc của tôi trong đạo hàm: $E\left(\frac{\sum (x_i - \bar{x})Y_i}{S_{xx}}\right) = E\left(\frac{\sum (x_i - \bar{x})(\beta_0 + \beta_1 x_i + \epsilon)}{S_{xx}}\right) = E\left(\frac{\sum (x_i - \bar{x})\beta_1 x_i}{S_{xx}}\right)$ , vì $\sum(x_i - \bar{x})c = 0$ và $E(c\epsilon) = 0$ . Nhưng tôi bị mắc kẹt.

Ngoài ra, $Var\left(\frac{\sum (x_i - \bar{x})Y_i}{S_{xx}}\right) = Var\left(\frac{\sum (x_i - \bar{x})(\beta_0 + \beta_1 x_i + \epsilon)}{S_{xx}}\right) = Var\left(\frac{\sum (x_i - \bar{x})\epsilon}{S_{xx}}\right) = Var\left(\frac{\sum (x_i - \bar{x})}{S_{xx}}\right) \sigma^2$ , nhưng tôi bị mắc kẹt.

regression self-study linear

— thương hiệu
nguồn

Nhận xét của tôi về ngày 22 Tháng Sáu năm 2011 trong câu trả lời người dùng whuber của nên bao gồm chỉ số dưới

trong

's, và nên tận dụng thực tế là các điều khoản lỗi

là độc lập.

i

$i$

ϵ

$\epsilon$

ϵ_{i}

$\epsilon_i$

— 13 lúc 17:30

V a r (\hat{β_{1}}) = V a r (\sum \frac{(x_{i} - \bar{x}) y_{i}}{S_{x x}}) = V a r (\sum \frac{(x_{i} - \bar{x}) ϵ_{i}}{S_{x x}}) = V a r (\frac{(x_{1} - \bar{x}) ϵ_{1}}{S_{x x}} + \frac{(x_{2} - \bar{x}) ϵ_{2}}{S_{x x}} + \dots + \frac{(x_{n} - \bar{x}) ϵ_{n}}{S_{x x}}) = \frac{(x_{1} - \bar{x})^{2} σ^{2}}{(S_{x x})^{2}} + \frac{(x_{2} - \bar{x})^{2} σ^{2}}{(S_{x x})^{2}} + \dots + \frac{(x_{n} - \bar{x})^{2} σ^{2}}{(S_{x x})^{2}} = σ^{2} [\sum \frac{(x_{i} - \bar{x})^{2}}{(S_{x x})^{2}}] = \frac{σ^{2}}{S_{x x}}

$\mathrm{Var}(\hat{\beta_1}) = \mathrm{Var}\left(\sum\frac{(x_i - \bar{x})y_i}{S_{xx}}\right) = \mathrm{Var}\left(\sum{\frac{(x_i-\bar{x})\epsilon_i}{S_{xx}}}\right) = \mathrm{Var}\left(\frac{(x_1 - \bar{x})\epsilon_1}{S_{xx}} + \frac{(x_2 - \bar{x})\epsilon_2}{S_{xx}} + \ldots + \frac{(x_n - \bar{x})\epsilon_n}{S_{xx}}\right) = \frac{(x_1 - \bar{x})^2 \sigma^2}{(S_{xx})^2} + \frac{(x_2 - \bar{x})^2 \sigma^2}{(S_{xx})^2} + \ldots + \frac{(x_n - \bar{x})^2 \sigma^2}{(S_{xx})^2} = \sigma^2 \left[\sum{\frac{(x_i-\bar{x})^2}{(S_{xx})^2}}\right] = \frac{\sigma^2}{S_{xx}}$

— jrand 20/03/13

"Câu trả lời" tiêu chuẩn là một đánh giá thấp, nó bỏ qua phương sai của S_ {xx}.

— climbert8

Trong tình huống được hỏi về,

đang bị điều hòa, vì vậy nó được coi là cố định chứ không phải ngẫu nhiên

X

$X$

— Glen_b -Reinstate Monica

= $E\left(\frac{\sum (x_i - \bar{x})\beta_1 x_i}{S_{xx}}\right)$ vì mọi thứ đều không đổi. Phần còn lại chỉ là đại số. Rõ ràng bạn cần hiển thị. Nhìn vào định nghĩa củavà so sánh hai bên dẫn đến người ta nghi ngờ. Điều này dễ dàng theo định nghĩa của . $\frac{\sum (x_i - \bar{x})\beta_1 x_i}{S_{xx}}$ $\sum (x_i - \bar{x}) x_i = S_{xx}$ $S_{xx}$ $\sum(x_i - \bar{x}) \bar{x} = 0$ $\bar{x}$
= $Var\left(\frac{\sum (x_i - \bar{x})\epsilon}{S_{xx}}\right)$ . Nó đơn giản hóa, sử dụng định nghĩa của, cho kết quả mong muốn. $\sum \left[\frac{(x_i - \bar{x})^2}{S_{xx}^2}\sigma^2\right]$ $S_{xx}$

— whuber
nguồn

Đối với các điểm 2, phương sai, phương trình nên:

V a r (\frac{\sum (x_{i} - \bar{x}) ϵ}{S_{x x}}) = V a r (\frac{(x_{1} - \bar{x}) ϵ + (x_{2} - \bar{x}) ϵ + \dots + (x_{n} - \bar{x}) ϵ}{S_{x x}}) = (\frac{\sum_{i}^{n} (x_{i} - \bar{x})^{2}}{S_{x x}^{2}}) \times σ^{2} = \frac{S_{x x}}{S_{x x}^{2}} \times σ^{2} = \frac{σ^{2}}{S_{x x}}

$Var\left(\frac{\sum (x_i - \bar{x})\epsilon}{S_{xx}}\right) = Var\left( \frac{(x_1 - \bar{x})\epsilon + (x_2 - \bar{x})\epsilon + \ldots + (x_n - \bar{x})\epsilon}{S_{xx}} \right) = \left( \frac{ \sum_i^{n} (x_i - \bar{x})^2} {S_{xx}^2} \right) \times \sigma^2 = \frac{S_{xx}}{S_{xx}^2} \times \sigma^2 = \frac{\sigma^2}{S_{xx}}$

— jrand

@jrand Vâng, đó chính xác là những gì tôi đã viết (mặc dù sự bình đẳng đầu tiên của bạn không hoàn thành bất cứ điều gì: đó chỉ là một cách tốn công hơn để viết tổng kết). Toàn bộ vấn đề - và điều đáng ghi nhớ - là khi

là một biến ngẫu nhiên với một phương sai và

là hằng số,

ε

$\varepsilon$

λ

$\lambda$

V a r (λ ε)

$Var(\lambda \varepsilon)$

λ^{2} V a r (ε)

$\lambda^2 Var(\varepsilon)$

— whuber

Trừ khi tôi nhận được sai ký hiệu, đây là một tuyên bố sai:

. Số lượng ở phía bên trái là tổng bình phương, và số còn lại là bình phương của tổng.

\sum_{i}^{n} (x_{i})^{2} = {(\sum_{i}^{n} x_{i})}^{2}

$\sum_i^n (x_i)^2 = \left( \sum_i^n x_i \right)^2$

— jrand

@jrand Bạn đúng: có lỗi đánh máy trong câu trả lời của tôi. Cảm ơn vì chỉ ra điều ấy. Tôi đã định dạng lại nó để sửa lỗi và làm cho logic rõ ràng hơn.

— whuber