Là thuật toán cây quyết định tuyến tính hay phi tuyến

Gần đây, một người bạn của tôi đã được hỏi liệu thuật toán cây quyết định là thuật toán tuyến tính hay phi tuyến trong một cuộc phỏng vấn. Tôi đã cố gắng tìm kiếm câu trả lời cho câu hỏi này nhưng không thể tìm thấy bất kỳ lời giải thích thỏa đáng nào. Bất cứ ai có thể trả lời và giải thích giải pháp cho câu hỏi này? Ngoài ra, một số ví dụ khác về thuật toán học máy phi tuyến là gì?

Cây quyết định là ánh xạ phi tuyến tính Xđến y. Điều này dễ dàng nhận thấy nếu bạn lấy một hàm tùy ý và tạo một cây đến độ sâu tối đa của nó.

Ví dụ:

if x = 1, y = 1
if x = 2, y = 15
if x = 3, y = 3
if x = 4, y = 27
...

Tất nhiên, đây là một cây hoàn toàn quá sức và sẽ không khái quát. Nhưng nó chứng minh tại sao cây quyết định là ánh xạ phi tuyến tính.

Gần đây, một người bạn của tôi đã được hỏi liệu thuật toán cây quyết định thuật toán tuyến tính hay phi tuyến trong một cuộc phỏng vấn

Cây quyết định là một bộ phân loại phi tuyến tính như các mạng thần kinh, v.v ... Nó thường được sử dụng để phân loại dữ liệu phân tách phi tuyến tính.

Ngay cả khi bạn xem xét ví dụ hồi quy, cây quyết định là phi tuyến tính.

Ví dụ, một đường hồi quy tuyến tính sẽ trông giống như thế này:

Các chấm đỏ là các điểm dữ liệu.

Và một biểu đồ hồi quy cây quyết định sẽ trông giống như thế này:

Vì vậy, cây quyết định rõ ràng là phi tuyến tính

Cây quyết định là phi tuyến tính. Không giống như hồi quy tuyến tính, không có phương trình để biểu thị mối quan hệ giữa các biến độc lập và phụ thuộc.

Vd

Hồi quy tuyến tính - Giá trái cây = b0 + b1 * Độ tươi + b2 * Kích thước

Cây quyết định - Nút: chín - Có hoặc không | Tươi - Có hoặc Không | Kích thước - <5,> 5 nhưng <10 và> 10 |

Trong trường hợp thứ hai, không có mối quan hệ tuyến tính giữa các biến độc lập và phụ thuộc.

Như nhiều người đã chỉ ra, cây hồi quy / quyết định là mô hình phi tuyến tính. Tuy nhiên, lưu ý rằng đó là một mô hình tuyến tính từng phần : trong mỗi vùng lân cận (được xác định theo cách không tuyến tính), nó là tuyến tính. Trong thực tế, mô hình chỉ là một hằng số cục bộ.

$\theta$

$1(A)$

$VC$$2^d$$d$$2^{2^d}$$m$$d$$min(2^d, m)$ID3C4.5