Nói rằng tôi muốn dự đoán liệu một dự án sẽ có lợi nhuận hay không. Trong dữ liệu mẫu của tôi, biến trả lời thực sự là một biến liên tục: $ lãi / lỗ của dự án.
Bởi vì mục tiêu cuối cùng của tôi chỉ là phân loại nhị phân (dự án có lợi nhuận hoặc dự án không có lợi nhuận), tôi có nên sử dụng kỹ thuật phân loại không? Hoặc tôi nên sử dụng hồi quy để tôi không vứt bỏ thông tin bổ sung mà biến phản hồi liên tục cung cấp?
Câu trả lời:
Tôi không thể nghĩ ra một ví dụ mà tôi muốn giới thiệu một kỹ thuật phân loại khi biến là liên tục hoặc thứ tự. Sau khi phù hợp hiệu quả với một mô hình liên tục, bạn có thể sử dụng mô hình đó để ước tính xác suất vượt quá bất kỳ mức độ quan tâm nào. Nếu mô hình là Gaussian thì xác suất này là một hàm của giá trị trung bình dự đoán và độ lệch chuẩn còn lại.
Vladimir Vapnik (đồng phát minh ra Máy Vector Hỗ trợ và nhà lý thuyết học tính toán hàng đầu) chủ trương luôn cố gắng giải quyết vấn đề trực tiếp, thay vì giải quyết một số vấn đề chung hơn và sau đó loại bỏ một số thông tin do giải pháp cung cấp. Tôi thường đồng ý với điều này, vì vậy tôi sẽ đề xuất một cách tiếp cận phân loại cho vấn đề như hiện tại. Lý do cho điều này là nếu chúng ta chỉ quan tâm đến việc phân loại một dự án là có lợi nhuận hoặc không có lợi nhuận, thì chúng ta thực sự chỉ quan tâm đến khu vực nơi lợi nhuận là khoảng không. Nếu chúng ta hình thành một mô hình phân loại, đó là nơi chúng ta sẽ tập trung các nguồn lực mô hình hóa của mình. Nếu chúng ta thực hiện phương pháp hồi quy, chúng ta có thể lãng phí tài nguyên mô hình hóa để cải thiện hiệu suất nhỏ cho các dự án sẽ mang lại lợi nhuận cao hoặc không có lợi nhuận, có khả năng phải trả chi phí cải thiện hiệu suất của các dự án biên giới.
Bây giờ lý do mà tôi đã nói "như hiện tại được đặt ra", là rất ít vấn đề thực sự liên quan đến phân loại nhị phân đơn giản, cứng (nhận dạng ký tự quang học có thể là một). Nói chung các loại phân loại sai khác nhau có chi phí khác nhau hoặc tần số lớp vận hành có thể không xác định hoặc biến đổi, v.v ... Trong những trường hợp như vậy, tốt hơn là có một phân loại xác suất, chẳng hạn như hồi quy logistic, thay vì một SVM. Nếu dường như đối với tôi đối với một ứng dụng tài chính, chúng tôi sẽ làm tốt hơn nếu chúng tôi biết xác suất của dự án sẽ có lãi hay không, và nó có khả năng sinh lãi hay không. Chúng tôi có thể sẵn sàng tài trợ cho một dự án có cơ hội sinh lãi nhỏ, nhưng lợi nhuận ồ ạt nên thành công, nhưng không phải là một dự án gần như được đảm bảo để thành công, nhưng sẽ có một mức lợi nhuận nhỏ như vậy mà chúng tôi sẽ tốt hơn hết là chỉ cần dán tiền vào tài khoản tiết kiệm.
Vậy là Frank và Omri374 đều đúng! (+1; o)
EDIT: Để làm rõ lý do tại sao hồi quy có thể không phải luôn luôn là một cách tiếp cận tốt để giải quyết vấn đề phân loại, đây là một ví dụ. Giả sử chúng tôi có ba dự án, với khả năng sinh lời và đối với mỗi dự án, chúng tôi có một biến giải thích mà chúng tôi hy vọng là chỉ ra lợi nhuận, . Nếu chúng tôi thực hiện phương pháp hồi quy (có bù), chúng tôi sẽ nhận được các hệ số hồi quy và (miễn là tôi đã thực hiện tổng hợp chính xác!). Mô hình sau đó dự đoán các dự án mang lại lợi nhuận , và → x =(1,2,10)beta0=-800,8288β1=184,8836 y 1≈-$616 y 2≈-$ 431 y 3≈$1048 → t =2. Lưu ý rằng dự án thứ hai được dự đoán không chính xác là không có lợi. Mặt khác, nếu chúng ta thực hiện một cách tiếp cận phân loại và thay vào đó là hồi quy trên , chúng ta sẽ nhận được các hệ số hồi quy và , điểm số ba dự án như sau: , và . Vì vậy, một cách tiếp cận phân loại phân loại chính xác dự án 1 là không có lợi và hai cách khác là có lợi nhuận.
Lý do tại sao điều này xảy ra là một phương pháp hồi quy cố gắng hết sức để giảm thiểu tổng các lỗi bình phương cho mỗi điểm dữ liệu. Trong trường hợp này, SSE thấp hơn có được bằng cách cho phép dự án hai rơi vào phía không chính xác của ranh giới quyết định, để đạt được các lỗi thấp hơn ở hai điểm còn lại.
Vì vậy, Frank đã đúng khi nói rằng phương pháp hồi quy có thể là một cách tiếp cận tốt trong thực tế, nhưng nếu phân loại thực sự là mục đích cuối cùng, có những tình huống có thể thực hiện kém và phương pháp phân loại sẽ hoạt động tốt hơn.
Sau khi đọc các bình luận, tôi nghĩ rằng sự khác biệt sau đây là những gì còn thiếu trong cuộc thảo luận:
Làm thế nào để mô hình hóa vấn đề
Điều này không có gì để làm với kỹ thuật sử dụng. Đó là câu hỏi về đầu vào và đầu ra là gì và làm thế nào để đánh giá kết quả.
Nếu bạn thực sự chỉ quan tâm đến việc các dự án của chúng tôi có sinh lãi hay không, và số tiền mà chúng là như vậy là hoàn toàn không liên quan, thì bạn nên mô hình hóa điều này như một vấn đề phân loại. Điều đó có nghĩa là cuối cùng bạn đang tối ưu hóa cho tỷ lệ dự kiến phân loại chính xác (độ chính xác) hoặc AUC. Tối ưu hóa này dịch cái gì phụ thuộc vào kỹ thuật bạn sử dụng.
Tất cả các câu hỏi về lựa chọn mô hình và thuật toán tìm kiếm có thể được tiếp cận theo phương pháp heurist (sử dụng các đối số đã được đưa ra trong các câu trả lời và nhận xét khác) nhưng bằng chứng cuối cùng của pudding là trong việc ăn uống. Dù bạn có mô hình nào, bạn sẽ đánh giá bằng các kiểm tra xác thực chéo về độ chính xác, vì vậy độ chính xác là những gì bạn tối ưu hóa.
Làm thế nào để giải quyết vấn đề
Bạn có thể sử dụng bất kỳ phương pháp nào bạn thích phù hợp với mô hình phân loại. Vì bạn có một biến y liên tục, bạn có thể thực hiện hồi quy trên đó và dịch sang phân loại nhị phân. Điều này có thể sẽ hoạt động tốt. Tuy nhiên, không có gì đảm bảo rằng mô hình hồi quy tối ưu (bằng tổng sai số bình phương hoặc khả năng tối đa hoặc bất cứ điều gì) cũng sẽ cung cấp cho bạn mô hình phân loại tối ưu (theo độ chính xác hoặc AUC).
Một mô hình phân loại thường cố gắng giảm thiểu dấu hiệu (lỗi về mặt lớp) và không phải là sai lệch. Ví dụ, trong trường hợp có nhiều ngoại lệ, tôi thích sử dụng mô hình phân loại hơn là mô hình hồi quy.
Tôi sẽ đóng khung vấn đề là giảm thiểu tổn thất. Câu hỏi là chức năng mất thực sự của bạn là gì? Liệu một dự đoán không chính xác về lợi nhuận khi dự án mất 1 đô la có chi phí nhiều như dự đoán lợi nhuận khi dự án mất 1000 đô la ? Trong trường hợp đó, hàm mất mát của bạn thực sự là nhị phân, và tốt hơn hết bạn nên chọn toàn bộ vấn đề là phân loại. Hàm hồi quy có thể vẫn là một trong các phân loại ứng cử viên của bạn, nhưng bạn nên tối ưu hóa nó với hàm mất riêng biệt thay vì liên tục. Nếu bạn có một định nghĩa phức tạp hơn về mất mát, thì bạn nên cố gắng chính thức hóa nó, và xem những gì bạn nhận được nếu bạn lấy đạo hàm.
Thật thú vị, nhiều phương pháp học máy thực sự tối ưu hóa một hàm mất riêng biệt bằng cách xấp xỉ với một hàm liên tục, vì một hàm mất riêng biệt cung cấp độ dốc kém để tối ưu hóa. Vì vậy, cuối cùng bạn có thể sử dụng nó như là một vấn đề phân loại, vì đó là hàm mất của bạn, nhưng sau đó xấp xỉ hàm mất đó với hàm liên tục ban đầu.