Điều gì làm cho một phân loại dữ liệu phân loại sai? [đóng cửa]

Nó có thể là từ chính dữ liệu? Hoặc là do mô hình không thể phát hiện hiệu quả sự tương đồng giữa các dữ liệu hoặc có lý do nào khác để phân loại sai?

Giả sử bạn đang nói về phân loại sai trên dữ liệu đào tạo, nghĩa là khó giảm thiểu tổn thất trên tập dữ liệu đào tạo, không có vấn đề kiểm tra dữ liệu phù hợp quá mức liên quan.

Bạn đã đúng rằng, trong hầu hết các trường hợp, việc phân loại sai có thể đến từ "mô hình quá đơn giản" hoặc "dữ liệu quá ồn". Tôi muốn đưa ra hai ví dụ để minh họa thêm.

1. Mô hình "quá đơn giản" để nắm bắt "các mẫu trong dữ liệu".

   • Ví dụ được hiển thị trong hình bên trái. Giả sử chúng ta muốn sử dụng hồi quy logistic / một dòng để tách hai lớp, nhưng hai lớp không tách rời tuyến tính.

   • Trong trường hợp này, vẫn có "các mẫu đáng chú ý trong dữ liệu" và nếu chúng ta thay đổi mô hình, chúng ta có thể trở nên tốt hơn. Ví dụ: nếu chúng ta sử dụng trình phân loại KNN, thay vì hồi quy logistic, chúng ta có thể có hiệu suất rất tốt.

2. Dữ liệu có quá nhiều nhiễu, rất khó để thực hiện nhiệm vụ phân loại.

   • Ví dụ được hiển thị trong hình bên phải, trong đó, nếu bạn kiểm tra mã, bạn sẽ thấy hai lớp rất giống nhau (hai lớp là 2D Gaussian, giá trị trung bình cách nhau , nhưng độ lệch chuẩn cho mỗi lớp là 1,0 ) . Nó thực chất là một nhiệm vụ rất khó khăn.$0.01\times 2$$1.0$

Lưu ý rằng hai ví dụ là tầm thường, vì chúng ta có thể hình dung dữ liệu và phân loại. Trong thế giới thực, không phải vậy, khi chúng ta có hàng triệu điểm dữ liệu và phân loại siêu phức tạp.

Mã số:

library(mlbench)
set.seed(0)
par(mfrow=c(1,2))
d=mlbench.spirals(500)
plot(d)
lg_fit=glm(d$classes~d$x[,1]+d$x[,2]-1,family=binomial())
abline(0,-lg_fit$coefficients[1]/lg_fit$coefficients[2])

d2=mlbench.2dnormals(500,r=0.01)
plot(d2)

Ngoài @ hxd1011 (+1).

1. Mất cân bằng về mặt tương đối hoặc các điều khoản tuyệt đối. Trong cả hai trường hợp, chúng tôi xây dựng một đại diện không đầy đủ của lớp quan tâm. Thông thường càng về sau càng khó khắc phục. (Tham khảo ví dụ: Học từ dữ liệu mất cân bằng của He và Garcia)
2. Tiêu chí phân loại không đúng. Chúng tôi đào tạo trình phân loại của mình bằng cách sử dụng chức năng đánh giá không phù hợp và / hoặc sử dụng các tiêu chí không phù hợp để rút ra giải pháp cuối cùng. Vấn đề rất phổ biến khi sử dụng "giải pháp đóng hộp". (Tham khảo ví dụ: Thiệt hại gây ra bởi độ chính xác phân loại và các quy tắc chấm điểm chính xác không liên tục khác của Mitchell)
3. Không có lớp học trong thực tế. Chúng tôi ước có một cái gì đó ở đó nhưng thực sự không có gì. Thông thường chuyên môn tên miền giúp mọi người tránh xa điều này nhưng với tư cách là một người mới, đây luôn là một vấn đề. (Ví dụ tham khảo: Cuộc sống hàng ngày của chúng tôi. Sự thiên vị xuất bản có lẽ cũng là một vấn đề ở đây ...)
4. Quá mức. Chúng tôi có một mô hình phong nha và một bộ dữ liệu phong nha nhưng chúng tôi thất bại trong việc đào tạo xây dựng một mô hình không thực tế. Thông thường, điều này liên quan đến điểm 2. (Điểm bổ sung cho phần dưới phù hợp!) (Ví dụ tham khảo: Vấn đề vượt mức của Hawkings)
5. Khái niệm trôi dạt. Mọi thứ thay đổi và chúng tôi không đào tạo lại. Trình phân loại của chúng tôi có hiệu suất tuyệt vời trong mẫu tiếp thị "Bán hàng Giáng sinh" của chúng tôi - vâng, sử dụng mô hình này vào tháng 7 có lẽ sẽ là một nỗi đau ... (Ví dụ tham khảo: Khảo sát về khái niệm Thích ứng trôi dạt của Gama et al.)
6. Rò rỉ dữ liệu / Tính năng ma thuật. Chúng tôi đào tạo từ thông tin sẽ không có sẵn tại thời điểm dự đoán. Thường gặp khi có chuỗi sự kiện / chuỗi thời gian như dữ liệu. (Tham khảo ví dụ: Rò rỉ trong khai thác dữ liệu: Xây dựng, phát hiện và tránh bởi Kaufman và cộng sự)