Điều gì làm cho hồi quy tuyến tính với các tính năng đa thức cong?

Sau đây là sự hiểu biết của tôi về những gì xảy ra: nếu tôi có "vấn đề hai chiều", ví dụ: tôi có là đầu vào và Y là kết quả và tôi thêm một tính năng . Điều này đưa ra một vấn đề về một chiều bổ sung và sự phù hợp tuyến tính trên các giá trị và xác định một dòng cũng như sự phù hợp tuyến tính trên các giá trị và và hai dòng xác định một mặt phẳng phù hợp nhất. Điều này có đúng không? Làm thế nào để dịch trở lại không gian 2 chiều? Điều này bằng cách nào đó hiển thị trong hai chiều là cong? Làm sao? $X$ $x^2$ $x$ $y$ $x^2$ $y$

regression polynomial

— người dùng412953
nguồn

x^{2}

$x^2$ không phải là thứ nguyên bổ sung vì được xác định bởi . kích thước phải độc lập ở một mức độ nào đó ít nhất

x

$x$

— Aksakal

@Aksakal Theo nghĩa kích thước của không gian cột của ma trận mô hình, tuy nhiên, thường giới thiệu một thứ nguyên bổ sung. Đó dường như là một cách tự nhiên và hữu ích để hiểu câu hỏi này.

x^{2}

$x^2$

— whuber

Nếu chúng ta đang nghĩ về ma trận thiết kế có các quan sát là các hàng và biến là các cột, thì có cột riêng và về mặt này sẽ thêm một thứ nguyên. chẳng hạn, ma trận hiệp phương sai sẽ thêm một chiều. hơn nữa, trong nhiều trường hợp, matix thậm chí sẽ giữ thứ hạng mặc dù phụ thuộc vào , vì nó không phụ thuộc tuyến tính. đó là lý do tại sao hồi quy đa thức thường hoạt động. tuy nhiên, đôi khi nó có thể thất bại do cộng tuyến hoặc điều kiện.

X

$X$

x^{2}

$x^2$

p \times p

$p\times p$

p

$p$

x^{2}

$x^2$

x

$x$

— Aksakal

Tôi sẽ đề nghị sử dụng đa thức trực giao mặc dù. chúng không có vấn đề phụ thuộc của đa thức đơn giản

— Aksakal

Sử dụng đa thức trực giao thay vì đa thức đơn giản hơn không làm thay đổi kết quả - nghĩa là, sự phù hợp ước tính là như nhau -, mặc dù đa thức trực giao có một số lợi thế thực tế. Điều đó không khác với hầu hết các vấn đề hồi quy đa biến, trong đó các yếu tố dự đoán có tương quan.

— Pere

Câu trả lời:

Đây là một mảnh của một mặt phẳng trong 3D.

Đây là cùng một mặt phẳng với tọa độ được hiển thị và một tập hợp các điểm được chọn dọc theo nó $x$ trục.

Tọa độ thứ ba được sử dụng để vẽ đồ thị của các hình vuông này $x$ các giá trị, tạo các điểm dọc theo một parabol ở đáy hộp tọa độ.

Một "bức màn" thẳng đứng xuyên qua đường parabola giao với mặt phẳng tại tất cả các điểm ngay phía trên đường parabola. Giao điểm này là một đường cong.

Một mô hình đa thức cho rằng đáp ứng $y$ (vẽ đồ thị theo hướng dọc) khác với chiều cao của mặt phẳng này theo số lượng ngẫu nhiên. Các giá trị của $y$ tương ứng với những $x$ tọa độ được hiển thị dưới dạng các chấm đỏ.

Do đó, $(x,y)$ các điểm nằm dọc theo một đường cong - hình chiếu này - chứ không phải là một đường thẳng, mặc dù mô hình của phản ứng dựa trên mặt phẳng được hiển thị ban đầu.

Đạo đức

Khi các biến giải thích rõ ràng nằm trên một đường cong, các phản hồi cũng sẽ xuất hiện nằm trên một đường cong.

— whuber
nguồn

Cảm ơn bạn rất nhiều, điều này rất hữu ích.

— user412953

Nếu bạn có một biến độc lập x và một biến phụ thuộc y, thì "y = f (x)" thường được coi là hai chiều ngay cả khi mối quan hệ giữa hai biến này phức tạp. Như một ví dụ giả thuyết, nếu một mô hình thử nghiệm là "áp suất = a * nhiệt độ + b * log (nhiệt độ) - c * sin (nhiệt độ)" thì chỉ có hai biến, nhiệt độ và áp suất. Vì lý do này, một mối quan hệ như vậy có thể được vẽ như một đường cong trên mặt phẳng.

Nếu mô hình có hai biến độc lập, chẳng hạn như "áp suất = a * log (nhiệt độ) - b * exp (độ cao)", thì mô hình này có dạng "z = f (x, y)" và có thể được vẽ dưới dạng 3D bề mặt.

— James Phillips
nguồn