Có phải là gian lận khi bỏ các ngoại lệ dựa trên boxplot của Lỗi tuyệt đối trung bình để cải thiện mô hình hồi quy

Tôi có một mô hình dự đoán được thử nghiệm với bốn phương pháp như bạn có thể thấy trong hình boxplot bên dưới. Thuộc tính mà mô hình dự đoán nằm trong khoảng 0-8.

Bạn có thể nhận thấy rằng có một ngoại lệ giới hạn trên và ba ngoại lệ giới hạn dưới được chỉ định bởi tất cả các phương pháp. Tôi tự hỏi nếu nó là thích hợp để loại bỏ những trường hợp này khỏi dữ liệu? Hay đây là một loại gian lận để cải thiện mô hình dự đoán?

Đó là hầu như luôn luôn là một gian lận để loại bỏ các quan sát để cải thiện một mô hình hồi quy. Bạn chỉ nên bỏ các quan sát khi bạn thực sự nghĩ rằng đây thực sự là những ngoại lệ.

Chẳng hạn, bạn có chuỗi thời gian từ máy đo nhịp tim được kết nối với đồng hồ thông minh của bạn. Nếu bạn xem loạt bài này, thật dễ dàng để thấy rằng sẽ có những quan sát sai lầm với các bài đọc như 300bps. Chúng nên được loại bỏ, nhưng không phải vì bạn muốn cải thiện mô hình (ý nghĩa của nó). Chúng là những lỗi đọc không liên quan gì đến nhịp tim của bạn.

Một điều cần cẩn thận là sự tương quan của các lỗi với dữ liệu. Trong ví dụ của tôi, có thể lập luận rằng bạn có lỗi khi máy đo nhịp tim bị dịch chuyển trong các bài tập như chạy o nhảy. Điều này sẽ làm cho các lỗi này tương quan với tỷ lệ hart. Trong trường hợp này, phải cẩn thận trong việc loại bỏ các ngoại lệ và lỗi này, vì chúng không phải là ngẫu nhiên

Tôi sẽ cung cấp cho bạn một ví dụ về thời điểm không loại bỏ các ngoại lệ . Giả sử bạn đang đo chuyển động của trọng lượng vào mùa xuân. Nếu trọng lượng nhỏ so với sức mạnh của trọng lượng, thì bạn sẽ nhận thấy luật Hooke hoạt động rất tốt: trong đó là lực, - hệ số căng và là vị trí của cân nặng.

Bây giờ nếu bạn đặt một trọng lượng rất nặng hoặc thay thế trọng lượng quá nhiều, bạn sẽ bắt đầu thấy độ lệch: tại các chuyển vị đủ lớn chuyển động dường như sẽ lệch khỏi mô hình tuyến tính. Vì vậy, bạn có thể muốn loại bỏ các ngoại lệ để cải thiện mô hình tuyến tính. Đây sẽ không phải là một ý tưởng tốt, bởi vì mô hình không hoạt động tốt vì luật của Hooke chỉ gần đúng.$\Delta x$

CẬP NHẬT Trong trường hợp của bạn, tôi sẽ đề nghị kéo các điểm dữ liệu đó và nhìn chúng gần hơn. Nó có thể là dụng cụ phòng thí nghiệm thất bại? Giao thoa bên ngoài? Khiếm khuyết mẫu? Vân vân.

Tiếp theo hãy cố gắng xác định xem liệu sự giả định của các ngoại lệ này có thể tương quan với những gì bạn đo lường như trong ví dụ tôi đã đưa ra hay không. Nếu có tương quan thì không có cách nào đơn giản để đi về nó. Nếu không có mối tương quan thì bạn có thể loại bỏ các ngoại lệ

Ban đầu tôi muốn đăng bài này như một bình luận cho một câu trả lời khác, nhưng nó đã quá dài để phù hợp.

Khi tôi nhìn vào mô hình của bạn, nó không nhất thiết phải chứa một nhóm lớn và một số ngoại lệ. Theo tôi, nó chứa 1 nhóm cỡ trung bình (1 đến -1) và sau đó là 6 nhóm nhỏ hơn, mỗi nhóm được tìm thấy giữa 2 số nguyên. Bạn có thể thấy khá rõ rằng khi đạt đến một số nguyên, sẽ có ít quan sát hơn ở các tần số đó. Điểm đặc biệt duy nhất là 0, trong đó thực sự không có sự sụt giảm rõ rệt nào trong các quan sát.

Theo tôi, đáng để giải quyết tại sao phân phối này được lan truyền như thế này:

• Tại sao phân phối có số lượng quan sát giảm xuống ở cả số?
• Tại sao số lượng quan sát này giảm không xảy ra ở 0?
• Điều gì đặc biệt về những ngoại lệ này mà chúng là những ngoại lệ?

Khi đo lường các hành động rời rạc của con người, bạn sẽ luôn có những ngoại lệ. Thật thú vị khi xem lý do tại sao những ngoại lệ đó không phù hợp với mô hình của bạn và cách chúng có thể được sử dụng để cải thiện các lần lặp lại trong tương lai của mô hình của bạn.

Có những ưu và nhược điểm để loại bỏ các ngoại lệ và mô hình xây dựng chỉ cho "mẫu bình thường".

• Ưu điểm: hiệu suất mô hình tốt hơn. Trực giác là, rất khó sử dụng mô hình ONE để chụp cả "mẫu bình thường" và "mẫu ngoại lệ". Vì vậy, chúng tôi loại bỏ các ngoại lệ và nói rằng, chúng tôi chỉ xây dựng một mô hình cho "mẫu bình thường".

• Nhược điểm: chúng tôi sẽ không thể dự đoán cho các ngoại lệ. Nói cách khác, giả sử chúng ta đưa mô hình của mình vào sản xuất, sẽ có một số dự đoán còn thiếu từ mô hình

Tôi sẽ đề nghị loại bỏ các ngoại lệ và xây dựng mô hình, và nếu có thể hãy cố gắng xây dựng một mô hình riêng biệt chỉ để ngoại lệ.

Đối với từ "gian lận", nếu bạn đang viết giấy và liệt kê rõ ràng cách bạn xác định và xóa các ngoại lệ, và hiệu suất được đề cập chỉ được đề cập trên dữ liệu sạch. Đó không phải là gian lận.

Tôi tin rằng chỉ hợp lý để loại bỏ các ngoại lệ khi một người có lý do định tính vững chắc để làm như vậy. Điều này có nghĩa là người ta có thông tin rằng một biến khác, không có trong mô hình, đang tác động đến các quan sát ngoại lệ. Sau đó, người ta có lựa chọn loại bỏ các ngoại lệ hoặc thêm các biến bổ sung.

Tôi thấy rằng khi tôi có các quan sát ngoại lệ trong tập dữ liệu của mình, bằng cách nghiên cứu để xác định lý do tại sao ngoại lệ tồn tại, tôi tìm hiểu thêm về dữ liệu của mình và các mô hình khác có thể xem xét.

Tôi thậm chí không tin rằng họ là "ngoại lệ". Bạn có thể muốn làm cho một âm mưu xác suất bình thường. Chúng có phải là dữ liệu hoặc phần dư từ việc lắp một mô hình không?