Tất nhiên một số toán học sẽ được tham gia, nhưng nó không nhiều: Euclid sẽ hiểu nó rất rõ. Tất cả các bạn thực sự cần phải biết là làm thế nào để thêm và rescale vectơ. Mặc dù ngày nay nó có tên là "đại số tuyến tính", bạn chỉ cần hình dung nó theo hai chiều. Điều này cho phép chúng ta tránh các máy móc ma trận của đại số tuyến tính và tập trung vào các khái niệm.
Câu chuyện hình học
Trong hình đầu tiên, là tổng của và . (Vectơ được chia tỷ lệ theo hệ số số ; Chữ cái Hy Lạp (alpha), (beta) và (gamma) sẽ đề cập đến các yếu tố tỷ lệ số như vậy.)yy⋅1αx1x1ααβγ
Hình này thực sự bắt đầu với các vectơ gốc (được hiển thị dưới dạng đường thẳng) và . "Kết hợp" bình phương nhỏ nhất của với được tìm thấy bằng cách lấy bội số của gần nhất với trong mặt phẳng của hình. Đó là cách được tìm thấy. Lấy trận đấu này ra khỏi để lại , phần dư của đối với . (Dấu chấm " " sẽ liên tục chỉ ra các vectơ nào đã được "khớp", "lấy ra" hoặc "được kiểm soát.")x1yyx1x1yαyy⋅1yx1⋅
Chúng ta có thể các vectơ khác với . Dưới đây là hình ảnh trong đó được khớp với , biểu thị nó dưới dạng nhiều của cộng với còn lại của nó :x1x2x1βx1x2⋅1
(Không quan trọng rằng mặt phẳng chứa và có thể khác với mặt phẳng chứa và : hai hình này được lấy độc lập với nhau. Tất cả chúng được đảm bảo có điểm chung là vectơ .) Tương tự, bất kỳ số nào các vectơ có thể được khớp với .x1x2x1yx1x3,x4,…x1
Bây giờ hãy xem xét mặt phẳng chứa hai phần dư và . Tôi sẽ định hướng hình ảnh để làm theo chiều ngang, giống như tôi đã định hướng các hình ảnh trước đó để tạo theo chiều ngang, vì lần này sẽ đóng vai trò của trình so khớp:y⋅1x2⋅1x2⋅1x1x2⋅1
Quan sát rằng trong mỗi ba trường hợp, phần dư vuông góc với khớp. (Nếu không, chúng tôi có thể điều chỉnh trận đấu để đến gần hơn với , hoặc .)yx2y⋅1
Ý tưởng chính là vào thời điểm chúng ta đến hình cuối cùng, cả hai vectơ có liên quan ( và ) đã vuông góc với , bằng cách xây dựng. Do đó, mọi điều chỉnh tiếp theo đối liên quan đến các thay đổi đều vuông góc với . Do đó, trận đấu mới và phần dư mới vẫn vuông góc với .x2⋅1y⋅1x1y⋅1x1γx2⋅1y⋅12x1
(Nếu các vectơ khác có liên quan, chúng tôi sẽ tiến hành theo cách tương tự để khớp với phần dư của chúng với .)x3⋅1,x4⋅1,…x2
Có một điểm quan trọng hơn để thực hiện. Cấu trúc này đã tạo ra một phần dưy⋅12 , vuông góc với cả và . Điều này có nghĩa rằng là cũng dư trong không gian (ba chiều vương Euclide) kéo dài bởi và . Đó là, quá trình khớp và lấy phần dư hai bước này phải tìm được vị trí trong mặt phẳng gần nhất với . Vì trong mô tả hình học này, việc và xuất hiện trước không thành vấn đề , chúng tôi kết luận rằngx1x2y⋅12x1,x2,yx1,x2yx1x2nếu quá trình đã được thực hiện theo thứ tự khác, bắt đầu với là công cụ đối sánh và sau đó sử dụng , kết quả sẽ giống nhau.x2x1
(Nếu có thêm các vectơ, chúng tôi sẽ tiếp tục quá trình "lấy ra một công cụ đối sánh" này cho đến khi mỗi vectơ đó lần lượt là đối sánh. máy bay .)
Áp dụng cho hồi quy bội
Quá trình hình học này có một giải thích hồi quy trực tiếp, bởi vì các cột số hoạt động chính xác như các vectơ hình học. Chúng có tất cả các tính chất mà chúng ta yêu cầu của vectơ (tiên đề) và do đó có thể được nghĩ ra và thao tác theo cùng một cách với độ chính xác và chặt chẽ toán học hoàn hảo. Trong cài đặt hồi quy bội với các biếnX1 , , và , mục tiêu là để tìm một sự kết hợp của và ( vv ) mà đến gần nhất với . Về mặt hình học, tất cả các kết hợp và như vậy ( v.v.X2,…YX1X2YX1X2) tương ứng với các điểm trong không gian . Ghép nhiều hệ số hồi quy không gì khác hơn là các vectơ chiếu ("khớp"). Đối số hình học đã chỉ ra rằngX1,X2,…
Kết hợp có thể được thực hiện tuần tự và
Thứ tự phù hợp được thực hiện không quan trọng.
Quá trình "lấy ra" một công cụ đối sánh bằng cách thay thế tất cả các vectơ khác bằng phần dư của chúng thường được gọi là "kiểm soát" đối với công cụ đối sánh. Như chúng ta đã thấy trong các hình, một khi một công cụ đối sánh đã được kiểm soát, tất cả các tính toán tiếp theo sẽ thực hiện các điều chỉnh vuông góc với công cụ đối sánh đó. Nếu bạn thích, bạn có thể nghĩ "kiểm soát" là "kế toán (theo nghĩa bình phương nhỏ nhất) cho sự đóng góp / ảnh hưởng / hiệu ứng / liên kết của một công cụ đối sánh trên tất cả các biến khác."
Người giới thiệu
Bạn có thể thấy tất cả điều này trong hành động với dữ liệu và mã làm việc trong câu trả lời tại https://stats.stackexchange.com/a/46508 . Câu trả lời đó có thể hấp dẫn hơn đối với những người thích số học hơn hình ảnh máy bay. (Số học để điều chỉnh các hệ số khi các đối sánh được đưa vào một cách tuần tự là đơn giản. Tuy nhiên, ngôn ngữ đối sánh là từ Fred Mosteller và John Tukey.