Là nhiều hồi quy tuyến tính trong 3 chiều là một mặt phẳng phù hợp nhất hoặc một dòng phù hợp nhất?


11

Prof của chúng tôi không đi sâu vào toán học hay thậm chí là biểu diễn hình học của hồi quy tuyến tính đa biến và điều này làm tôi hơi bối rối.

Một mặt, nó vẫn được gọi là hồi quy tuyến tính , thậm chí ở các chiều cao hơn. Mặt khác, nếu chúng ta có ví dụ và chúng ta có thể cắm bất kỳ giá trị nào chúng ta muốn cho và , điều này sẽ không cung cấp cho chúng ta một giải pháp khả thi và không phải là một dòng?X1X2Y^=b0+b1X1+b2X2X1X2

Nói chung, không phải bề mặt dự đoán của chúng ta sẽ là một siêu phẳng chiều cho biến độc lập?kkk

Câu trả lời:


12

Bạn nói đúng, bề mặt giải pháp sẽ là một siêu phẳng nói chung. Chỉ là từ siêu phẳng là một câu cửa miệng, mặt phẳng ngắn hơn và dòng thậm chí còn ngắn hơn. Khi bạn tiếp tục học toán, trường hợp một chiều trở nên hiếm khi được thảo luận hơn nên sự đánh đổi

Big words for high dimensional, Small words for small dimensional

bắt đầu nhìn, tốt, ngược.

Ví dụ, khi tôi thấy một phương trình như , trong đó A là ma trận và x , b là vectơ, tôi gọi đây là phương trình tuyến tính . Trong một phần đầu của cuộc đời tôi, tôi sẽ gọi đây là một hệ phương trình tuyến tính , bảo lưu phương trình tuyến tính cho trường hợp một chiều. Nhưng sau đó tôi đã đến một trường hợp mà trường hợp một chiều không xuất hiện thường xuyên, trong khi trường hợp đa chiều ở khắp mọi nơi.Ax=bAx,b

Điều này cũng xảy ra với ký hiệu. Đã từng thấy ai đó viết

fx=2x

Biểu tượng bên trái là tên của một hàm, vì vậy để trang trọng và mang tính mô phạm, bạn nên viết

fx(x)=2x

Nó trở nên tồi tệ hơn trong đa chiều, khi đạo hàm có hai đối số, một là bạn lấy đạo hàm và hai là theo hướng bạn đánh giá đạo hàm, trông giống như

xf(v)

nhưng mọi người trở nên lười biếng rất nhanh, và bắt đầu bỏ đi một hoặc những lý lẽ khác, khiến họ hiểu theo ngữ cảnh.

Các nhà toán học chuyên nghiệp, tiếng nói chắc nịch, gọi đây là sự lạm dụng ký hiệu . Có những môn học về cơ bản là không thể thể hiện bản thân mà không lạm dụng ký hiệu, hình học vi phân yêu quý của tôi là một trường hợp điển hình. Nicolas Bourbaki vĩ đại bày tỏ quan điểm rất hùng hồn

Trong khả năng có thể, chúng tôi đã thu hút sự chú ý trong văn bản về việc lạm dụng ngôn ngữ, mà không có bất kỳ văn bản toán học nào có nguy cơ về phương pháp sư phạm, không thể nói là không đọc được.

- Bourbaki (1988)

Bạn thậm chí còn nhận xét về việc lạm dụng ký hiệu mà tôi đã rơi vào bên trên mà không nhận ra điều đó!

Về mặt kỹ thuật vì bạn đã viết df / dx là một đạo hàm riêng, mặc dù các biến ngụ ý khác sẽ được giữ là hằng số, nhưng về mặt kỹ thuật thì đạo hàm một phần vẫn là một hàm của tất cả các biến của hàm ban đầu, như trong df / dx ( x, y, ...)?

Bạn hoàn toàn chính xác, và điều này mang lại một minh họa tốt (không chủ ý) về những gì tôi đang nhận được ở đây.

dfdx

Đoán tôi nghĩ về nó như khi chúng ta nói "tổng vô hạn" thay vì "giới hạn của một tổng khi số lượng thuật ngữ tiếp cận vô hạn". Cách tôi nghĩ về nó là nó tốt miễn là sự khác biệt về khái niệm là rõ ràng. Trong trường hợp này (hồi quy bội), tôi không thực sự chắc chắn về những gì chúng ta đã nói ở nơi đầu tiên.

Σ

Là những người lười biếng, chúng tôi muốn tiết kiệm từ ngữ trong các trường hợp phổ biến.

(*) Trong lịch sử, đây không phải là số tiền vô hạn phát triển. Giới hạn của định nghĩa tổng một phần đã được phát triển sau khi các nhà toán học bắt đầu gặp phải tình huống cần phải suy luận rất chính xác.


Thật buồn cười khi bạn đưa ra ví dụ về các dẫn xuất một phần bởi vì tôi thường luôn tự hỏi về điều đó (niềm vui của việc tự học ...). Nhân tiện (không liên quan và không phải tôi là người phạm tội mà chỉ muốn đảm bảo rằng tôi hiểu càng nhiều càng tốt) về mặt kỹ thuật vì bạn đã viết df / dx như một công cụ phái sinh một phần, mặc dù các biến ngụ ý khác sẽ được giữ như một hằng số, sẽ không đạo hàm riêng một phần về mặt kỹ thuật vẫn là một hàm của tất cả các biến của hàm ban đầu, như trong df / dx (x, y, ...)? Tôi đoán câu hỏi của tôi không phải là đạo hàm riêng vẫn là một hàm của tất cả các biến?
jercliff radcliff

Ngoài ra, cảm ơn vì đã giải thích tất cả điều đó. Tôi đoán tôi nghĩ về nó như khi chúng ta nói "tổng vô hạn" thay vì "giới hạn của một tổng khi số lượng thuật ngữ tiếp cận vô hạn". Cách tôi nghĩ về nó là nó tốt miễn là sự khác biệt về khái niệm là rõ ràng. Trong trường hợp này (hồi quy bội), tôi không thực sự chắc chắn về những gì chúng ta đã nói ở nơi đầu tiên. Tôi đã cố gắng tưởng tượng một dòng trong 3d và sau đó nhận ra nó không có ý nghĩa nếu chúng ta để một số biến độc lập tự do thay đổi, vì vậy tôi chỉ muốn chắc chắn.
jercliff radcliff

+1 câu trả lời tuyệt vời. Đôi khi mọi người lười biếng và sẽ gây ra nhiều nhầm lẫn. Đó là lý do tại sao tôi đã cố gắng hỏi các ký hiệu trong bài viết này. stats.stackexchange.com/questions/216286/ Cách
Haitao Du

@jeremyradcliff Tôi đã chỉnh sửa trong một số bình luận.
Matthew Drury

@MatthewDrury, cảm ơn bạn đã dành thời gian để giải quyết ý kiến ​​của tôi. Nó rất hữu ích với tôi vì tôi tự nghiên cứu phần lớn toán học mà tôi biết, và việc thiếu văn hóa xung quanh và tiếp cận với các nhà toán học khiến những nơi như stackexchange và câu trả lời như của bạn trở nên vô giá đối với tôi.
jercliff radcliff

5

"Tuyến tính" không hoàn toàn có nghĩa là những gì bạn nghĩ nó làm trong bối cảnh này - nó tổng quát hơn một chút

Thứ nhất, nó không thực sự là một tham chiếu đến tuyến tính trong x x mà là các tham số * ("tuyến tính trong các tham số").

E(Y|X)=Xββ

Vì vậy, một mặt phẳng (hay nói chung là siêu phẳng) phù hợp nhất vẫn là "hồi quy tuyến tính".

1XβXβ

Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.