Máy học phân loại big-O hoặc độ phức tạp

Để đánh giá hiệu suất một thuật toán phân loại mới, tôi đang cố gắng so sánh độ chính xác và độ phức tạp (big-O trong đào tạo và phân loại). Từ Machine Learning: đánh giá tôi nhận được một danh sách phân loại được giám sát đầy đủ, cũng là bảng chính xác giữa các thuật toán và 44 vấn đề kiểm tra từ kho lưu trữ dữ liệu UCI . Tuy nhiên, tôi không thể tìm thấy đánh giá, giấy hoặc trang web có chữ O lớn cho các phân loại phổ biến như:

• C4.5
• RIPPER (Tôi nghĩ điều này có thể không thể, nhưng ai biết được)
• ANN với Tuyên truyền trở lại
• Naive Bayesian
• K-NN
• SVM

Nếu bất cứ ai có bất kỳ biểu hiện nào cho các phân loại này, nó sẽ rất hữu ích, cảm ơn bạn.

Đặt = số ví dụ đào tạo, d = chiều của các tính năng và c = số lớp.$N$$d$$c$

Sau đó, đào tạo có phức tạp:

1. Naive Bayes là , tất cả những gì cần làm là tính toán tần số của mọi giá trị tính năng d i cho mỗi lớp.$O(Nd)$$d_i$
2. -NN nằm trong O ( 1 ) (một số người thậm chí nói rằng nó không tồn tại, nhưng độ phức tạp của không gian đào tạo là O ( N d ) vì bạn cần lưu trữ dữ liệu cũng mất thời gian).$k$$\mathcal{O}(1)$$\mathcal{O}(Nd)$
3. SVM không gần đúng phi tuyến là hoặc O ( N 3 ) tùy thuộc vào hạt nhân. Bạn có thể giảm O ( N 3 ) xuống O ( N 2.3 ) với một số thủ thuật.$O(N^2)$$O(N^3)$$O(N^3)$$O(N^{2.3})$
4. SVM gần đúng là trong đó R là số lần lặp.$O(NR)$

Kiểm tra độ phức tạp:

1. Naive Bayes ở trong vì bạn phải truy xuất các giá trị tính năng d cho mỗi lớp c .$\mathcal{O}(cd)$$d$$c$
2. $k$$\mathcal{O}(Nd)$

Nguồn: "Máy vectơ lõi: Đào tạo SVM nhanh trên các tập dữ liệu rất lớn" - http://machinelearning.wustl.edu/mlauge/apers_files/TsangKC05.pdf

Xin lỗi tôi không biết về những người khác.