Định nghĩa hồi quy

Từ Wikipedia:

Trong mô hình thống kê, phân tích hồi quy là một quá trình thống kê để ước tính mối quan hệ giữa các biến. Nó bao gồm nhiều kỹ thuật để mô hình hóa và phân tích một số biến, khi trọng tâm là mối quan hệ giữa một biến phụ thuộc và một hoặc nhiều biến độc lập (hoặc 'dự đoán').

Không giống nhau để phân loại ? Cuối cùng, đó không phải là mục đích của học máy ?

Hồi quy có mục đích và phạm vi rộng hơn nhiều so với phân loại hoặc học máy (tuy nhiên cái sau có thể được hiểu). Tuy nhiên, có nhiều sự chồng chéo.

Các mối quan hệ

Mối quan hệ được phân tích bằng hồi quy có thể bao gồm

• Hội

• Sự phụ thuộc

• Nhân quả

Phân loại cung cấp thông tin về hai người đầu tiên, nhưng im lặng về quan hệ nhân quả. Cả hồi quy và học máy đã được sử dụng - đôi khi thành công, thường là có vấn đề - để đưa ra kết luận về nguyên nhân.

Mục đích của hồi quy

1. Để có được một bản tóm tắt của dữ liệu đa biến.

2. Để đặt hiệu ứng của một biến có thể gây nhầm lẫn vấn đề.

3. Đóng góp cho các nỗ lực phân tích nguyên nhân.

4. Đo kích thước của một hiệu ứng.

5. Cố gắng khám phá một định luật toán học hoặc thực nghiệm.

6. Sự dự đoán.

7. $x$$x$

(Sau Mosteller & Tukey, Phân tích và hồi quy dữ liệu, Chương 12B.)

Phân loại đạt được hầu như không có mục đích nào trong số này. Theo những cách giới hạn, nó có thể cung cấp một số loại tóm tắt (1) và giúp khám phá (5).

Học máy nhằm mục đích dự đoán (6) gần như độc quyền. Hầu hết các kỹ thuật học máy, từ các khu rừng ngẫu nhiên thông qua các mạng thần kinh để hỗ trợ các mô hình vectơ, đều không rõ ràng: chúng đặc biệt không nhằm mục đích tóm tắt dữ liệu (1), loại bỏ các tác động của các biến gây nhiễu (2 và 7) hoặc trợ giúp chúng tôi khám phá các quy tắc có thể được thể hiện trong một luật thực nghiệm (5).

Bài đăng này là một sự mở rộng nhẹ của một bài thuyết trình giới thiệu mà tôi đã thực hiện gần đây cho một khóa học học kỳ về hồi quy. Nhiều tài liệu hơn về các mục tiêu và thực hành hồi quy có sẵn ở đó.