Hiểu về phép chiếu tuyến tính trong các yếu tố của việc học thống kê

Trong cuốn sách "Các yếu tố của học thống kê" trong chương 2 ("Mô hình tuyến tính và bình phương nhỏ nhất; trang số: 12"), người ta viết rằng

Trong không gian đầu vào-đầu ra hai chiều (p + 1), (X, Y) đại diện cho một siêu phẳng. Nếu hằng số được bao gồm trong X, thì siêu phẳng bao gồm gốc và là một không gian con; nếu không, nó là tập hợp affine cắt trục Y tại điểm (0, ). $\beta$

Tôi không nhận được câu "nếu hằng số là ... (0, )". Xin vui lòng giúp đỡ? Tôi nghĩ rằng siêu phẳng sẽ cắt trục Y ở (0, ) trong cả hai trường hợp, điều đó có đúng không? $\beta$ $\beta$

Câu trả lời dưới đây đã giúp ích phần nào, nhưng tôi đang tìm kiếm câu trả lời cụ thể hơn. Tôi hiểu rằng khi được bao gồm trong , nó sẽ không chứa nguồn gốc, nhưng sau đó sẽ chứa nguồn gốc như thế nào? Không nên phụ thuộc vào giá trị của ? Nếu đánh chặn không phải là , không nên chứa nguồn gốc, theo cách hiểu của tôi? $1$ $X$ $(X,Y)$ $\beta$ $\beta_0$ $0$ $(X,Y)$

regression machine-learning

— Abhinav Gupta
nguồn

Bạn đã làm được bao nhiêu đại số tuyến tính? Bạn có biết vectơ là gì không? Thế còn không gian vectơ, không gian con, ...?

— Adrian

Tôi có hiểu biết cơ bản về đại số tuyến tính, vectơ và không gian vectơ.

— Abhinav Gupta

vi.wikipedia.org/wiki/Hyperplane có một chút về hyperplanes affine và hyperplanes vector

— Adrian

Thnaks! chỉ cần đọc bài viết này. Nhưng tôi vẫn không hiểu làm thế nào người ta có thể nói rằng siêu phẳng bao gồm nguồn gốc nếu contant được bao gồm trong X. Nếu điều này rõ ràng thì tôi hiểu tại sao siêu phẳng là một không gian con.

— Abhinav Gupta

trang không: 12. Tôi cũng đã chỉnh sửa câu hỏi.

— Abhinav Gupta

Câu trả lời:

Bao gồm hằng số 1trong vectơ đầu vào là một mẹo phổ biến để bao gồm sai lệch (nghĩ về chặn Y) nhưng giữ tất cả các điều khoản của biểu thức đối xứng: bạn có thể viết thay vì ở mọi nơi. $\beta X$ $\beta_0 + \beta X$

Nếu bạn làm điều này, thì chính xác là siêu phẳng bao gồm gốc, vì gốc là một vectơ có giá trị và nhân nó cho cho giá trị . $Y = \beta X$ $0$ $\beta$ $0$

Tuy nhiên, các vectơ đầu vào của bạn sẽ luôn có phần tử đầu tiên bằng ; do đó, chúng sẽ không bao giờ chứa nguồn gốc và sẽ được đặt trên một siêu phẳng nhỏ hơn, có một chiều nhỏ hơn. $1$

Bạn có thể hình dung điều này bằng cách nghĩ về một dòng trên tờ giấy của bạn (2 chiều). Siêu phẳng tương ứng nếu bạn bao gồm độ lệch vectơ của bạn trở thành và hệ số của bạn . Trong 3 chiều, đây là mặt phẳng đi từ gốc, chặn mặt phẳng tạo ra đường mà đầu vào của bạn có thể được đặt. $Y=mx+q$ $q$ $X = [x, x_0=1]$ $\beta = [m, q]$ $x_0=1$

— giorgiosironi
nguồn

Tôi vẫn không hiểu lắm. Cuốn sách có nội dung "Nếu hằng số được bao gồm trong X, thì siêu phẳng bao gồm gốc và là không gian con" nhưng như bạn đã nói, "vectơ đầu vào sẽ luôn có phần tử đầu tiên = 1, vì vậy sẽ không bao giờ chứa nguồn gốc. 1 bao gồm nguồn gốc như cuốn sách nói?

— MinYoung Kim

x_{0}

$x_0$

x_{0} = 1

$x_0 = 1$

x_{0} = 1

$x_0 = 1$

Để giúp bạn hiểu điều này tôi đã làm một hình dung về một trường hợp rất đơn giản.

$X_1$ $Y$ $\beta_0 = 5$ $\beta_1 = 2$ $X_1$

$\hat{Y} = \beta_0 + \beta_1 \times X_1$

Do đó, đại diện rõ ràng sẽ là một siêu phẳng (một dòng) trong không gian hai chiều (p + 1) trong trường hợp này (2d):

$X_0$ $\hat{Y} = \beta_0 \times X_0 + \beta_1 \times X_1$

$X_0$

$X_0 = 1$

— grll
nguồn