Sự khác biệt giữa và gì?

Giả sử tôi có một mẫu ngẫu nhiên .$\lbrace x_n ,y_n \rbrace_{n=1}^N$

Giả sử

$$y_n = \beta_0 + \beta_1 x_n + \varepsilon_n$$

và

$$\hat{y}_n = \hat{\beta}_0 +\hat{\beta}_1 x_n$$

Sự khác biệt giữa và gì?$\beta_1$$\hat{\beta}_1$

β 1 β 1 β $\beta_1$ là một ý tưởng - nó không thực sự tồn tại trong thực tế. Nhưng nếu giả định Gauss-Markov giữ, sẽ cung cấp cho bạn độ dốc tối ưu đó với các giá trị bên trên và bên dưới nó theo chiều dọc "lát" dọc với biến phụ thuộc tạo thành phân bố dư Gaussian bình thường. là ước tính của dựa trên mẫu.$\beta_1$$\hat \beta_1$$\beta_1$

Ý tưởng là bạn đang làm việc với một mẫu từ dân số. Mẫu của bạn tạo thành một đám mây dữ liệu, nếu bạn muốn. Một trong các kích thước tương ứng với biến phụ thuộc và bạn cố gắng khớp với dòng giảm thiểu các điều khoản lỗi - trong OLS, đây là phép chiếu của biến phụ thuộc vào không gian con vectơ được hình thành bởi không gian cột của ma trận mô hình. Các ước tính về các tham số dân số này được biểu thị bằng ký hiệu . Càng có nhiều điểm dữ liệu, các hệ số ước tính càng chính xác, , và ước tính của các hệ số dân số được lý tưởng hóa này càng tốt, . β iβ$\hat \beta$$\hat \beta_i$$\beta_i$

Dưới đây là sự khác biệt về độ dốc ( so với ) giữa "dân số" màu xanh lam và mẫu trong các chấm đen bị cô lập:$\beta$$\hat \beta$

Đường hồi quy được chấm và màu đen, trong khi đường "dân số" hoàn hảo về mặt tổng hợp có màu xanh đặc. Sự phong phú của các điểm cung cấp một cảm giác xúc giác về tính quy luật của phân phối dư.

Các biểu tượng "chiếc mũ" thường biểu thị một ước tính, như trái ngược với các giá trị "true". Do đó là ước tính của . Một vài biểu tượng có quy ước riêng: ví dụ, phương sai mẫu thường được viết là , không phải , mặc dù một số người sử dụng cả hai để phân biệt giữa ước lượng sai lệch và không thiên vị.$\hat{\beta}$$\beta$$s^2$ σ 2$\hat{\sigma}^2$

Trong trường hợp cụ thể của bạn, các giá trị là ước tính tham số cho mô hình tuyến tính. Mô hình tuyến tính cho rằng biến kết quả được tạo bởi sự kết hợp tuyến tính của s, mỗi trọng số của giá trị tương ứng . Trong thực tế, tất nhiên, các giá trị này là không xác định và thậm chí có thể không tồn tại (có lẽ dữ liệu không được tạo bởi mô hình tuyến tính). Tuy nhiên, chúng ta có thể ước tính giá trị từ các dữ liệu mà xấp xỉ .$\hat{\beta}$$Y$$x_i$$\beta_i$$\beta$ β Y$\hat{\beta}$$Y$

Phương trình

$$y_i = \beta_0 + \beta_1 x_i + \epsilon_i$$

là những gì được gọi là mô hình thực sự. Phương trình này nói rằng mối quan hệ giữa biến và biến có thể được giải thích bằng một dòng . Tuy nhiên, vì các giá trị quan sát sẽ không bao giờ tuân theo phương trình chính xác đó (do lỗi), nên một thuật ngữ lỗi bổ sung được thêm vào để chỉ ra lỗi. Các lỗi có thể được hiểu là độ lệch tự nhiên cách xa mối quan hệ của và . Dưới đây tôi hiển thị hai cặp và (các chấm đen là dữ liệu). Nói chung, người ta có thể thấy rằng khi tăng tăng. Đối với cả hai cặp, phương trình đúng là y y = β 0 + β 1 x ϵ i x y x y x y y i = 4 + 3 x i + ϵ $x$$y$$y = \beta_0 + \beta_1x$$\epsilon_i$$x$$y$$x$$y$$x$$y$

$$y_i = 4 + 3x_i + \epsilon_i$$ nhưng hai ô có lỗi khác nhau. Biểu đồ bên trái có lỗi lớn và âm mưu bên phải lỗi nhỏ (vì các điểm chặt chẽ hơn). (Tôi biết phương trình thực vì tôi tự tạo dữ liệu. Nói chung, bạn không bao giờ biết phương trình thực)

Hãy nhìn vào cốt truyện bên trái. Sự thật và đúng = 3. Nhưng trong thực tế khi đưa dữ liệu, chúng ta không biết sự thật. Vì vậy, chúng tôi ước tính sự thật. Chúng tôi ước tính với và với . Tùy thuộc vào phương pháp thống kê nào được sử dụng, các ước tính có thể rất khác nhau. Trong cài đặt hồi quy, các ước tính thu được thông qua một phương pháp gọi là Bình phương tối thiểu thông thường. Đây cũng được gọi là phương pháp phù hợp nhất. Về cơ bản, bạn cần vẽ đường phù hợp nhất với dữ liệu. Tôi không thảo luận về các công thức ở đây, nhưng sử dụng công thức cho OLS, bạn sẽ nhận đượcβ 1 β 0 β 0 β 1 β$\beta_0 = 4$$\beta_1$$\beta_0$$\hat{\beta}_0$$\beta_1$$\hat{\beta}_1$

$$\hat{\beta}_0 = 4.809 \quad \text{ and } \quad \hat{\beta}_1 = 2.889$$

và dòng kết quả phù hợp nhất là,

Một ví dụ đơn giản sẽ là mối quan hệ giữa chiều cao của mẹ và con gái. Đặt chiều cao của mẹ và = chiều cao của con gái. Đương nhiên, người ta sẽ mong muốn các bà mẹ cao hơn có con gái cao hơn (do sự giống nhau về di truyền). Tuy nhiên, bạn có nghĩ rằng một phương trình có thể tóm tắt chính xác chiều cao của mẹ và con gái, để nếu tôi biết chiều cao của mẹ tôi sẽ có thể dự đoán chính xác chiều cao của con gái? Mặt khác, người ta có thể tóm tắt mối quan hệ với sự giúp đỡ của một tuyên bố trung bình .$x =$$y$

TL DR: là sự thật dân số. Nó đại diện cho mối quan hệ chưa biết giữa và . Vì chúng tôi không thể luôn nhận được tất cả các giá trị có thể có của và , chúng tôi thu thập một mẫu từ dân số và thử và ước tính bằng cách sử dụng dữ liệu. là ước tính của chúng tôi. Nó là một chức năng của dữ liệu. là không một chức năng của dữ liệu, nhưng sự thật.y x y x β β$\beta$$y$$x$$y$$x$ $\beta$$\hat{\beta}$$\beta$