Sự khác nhau giữa hồi quy logistic và tri giác

Theo tôi hiểu, một mạng nơ ron nhân tạo perceptionron / một lớp với chức năng kích hoạt sigmoid logistic là mô hình tương tự như hồi quy logistic. Cả hai mô hình được đưa ra bởi phương trình:

$F(x) = \frac{1}{1-e^{-\beta X}}$

Thuật toán học perceptron là trực tuyến và dựa trên lỗi, trong khi các tham số cho hồi quy logistic có thể được học bằng nhiều thuật toán lô khác nhau, bao gồm độ dốc gốc và BFGS bộ nhớ giới hạn, hoặc thuật toán trực tuyến, như độ dốc dốc ngẫu nhiên. Có sự khác biệt nào khác giữa hồi quy logistic và perceptionron sigmoid không? Có nên cho kết quả của một hồi quy logistic được đào tạo với độ dốc dốc ngẫu nhiên giống với perceptionron không?

Bạn đã đề cập đến sự khác biệt quan trọng. Vì vậy, kết quả không nên khác nhau nhiều.

Tôi tin rằng một điểm khác biệt mà bạn còn thiếu là thực tế là hồi quy logistic trả về xác suất phân loại theo nguyên tắc trong khi các tri giác phân loại theo một ranh giới cứng.

Điều này được đề cập trong bài viết Wiki về hồi quy logistic đa thức .

Thực sự có một sự khác biệt lớn đáng kể, có liên quan đến sự khác biệt kỹ thuật mà bạn đã đề cập. Hồi quy logistic mô hình một hàm của giá trị trung bình của phân phối Bernoulli dưới dạng phương trình tuyến tính (giá trị trung bình bằng với xác suất p của sự kiện Bernoulli). Bằng cách sử dụng liên kết logit như là một hàm của giá trị trung bình ( p ), logarit của tỷ lệ cược (tỷ lệ cược log) có thể được suy ra một cách phân tích và được sử dụng như là phản ứng của mô hình tuyến tính tổng quát. Ước tính tham số trên GLM này sau đó là một quy trình thống kê mang lại giá trị p và khoảng tin cậy cho các tham số mô hình. Trên đầu trang dự đoán, điều này cho phép bạn diễn giải mô hình theo suy luận nguyên nhân. Đây là điều mà bạn không thể đạt được với Perceptron tuyến tính.

Perceptron là một quy trình kỹ thuật đảo ngược của hồi quy logistic: Thay vì lấy logit của y, nó lấy hàm logit (logistic) nghịch đảo của wx và không sử dụng các giả định xác suất cho cả mô hình và ước lượng tham số của nó. Đào tạo trực tuyến sẽ cung cấp cho bạn các ước tính chính xác cho các trọng số / tham số mô hình, nhưng bạn sẽ không thể giải thích chúng theo suy luận nguyên nhân do thiếu giá trị p, khoảng tin cậy và mô hình xác suất cơ bản.

Câu chuyện dài, hồi quy logistic là một GLM có thể thực hiện dự đoán và suy luận, trong khi Perceptionron tuyến tính chỉ có thể đạt được dự đoán (trong trường hợp đó nó sẽ thực hiện giống như hồi quy logistic). Sự khác biệt giữa hai cũng là sự khác biệt cơ bản giữa mô hình thống kê và học máy.