Thống kê và dữ liệu lớn overfitting

1

Định nghĩa toán học / thuật toán cho quá mức

Có một định nghĩa toán học hoặc thuật toán của quá mức? Các định nghĩa thường được cung cấp là biểu đồ 2-D cổ điển của các điểm với một đường đi qua từng điểm và đường cong mất xác nhận đột nhiên tăng lên. Nhưng có một định nghĩa …

18 mathematical-statistics optimization overfitting

3

Là xác nhận chéo đủ để ngăn chặn quá mức?

Nếu tôi có dữ liệu và tôi chạy phân loại (giả sử rừng ngẫu nhiên trên dữ liệu này) với xác thực chéo (giả sử 5 lần), tôi có thể kết luận rằng không có phương pháp nào phù hợp trong phương pháp của mình không?

17 cross-validation overfitting

1

Bảng xếp hạng riêng của Kaggle có phải là một công cụ dự đoán tốt về hiệu suất vượt trội của mô hình chiến thắng không?

Mặc dù kết quả của bộ thử nghiệm riêng không thể được sử dụng để tinh chỉnh mô hình hơn nữa, nhưng không phải lựa chọn mô hình trong số lượng lớn các mô hình đang được thực hiện dựa trên kết quả của thử nghiệm riêng? Bạn sẽ không, …

16 model-selection overfitting out-of-sample

1

Trong lý thuyết học thống kê, không có vấn đề gì về việc quá mức trong một bài kiểm tra?

Chúng ta hãy xem xét vấn đề về việc phân loại bộ dữ liệu MNIST. Theo trang web MNIST của Yann LeCun , 'Ciresan et al.' nhận được 0,23% tỷ lệ lỗi trên bộ kiểm tra MNIST bằng cách sử dụng Mạng thần kinh chuyển đổi. Chúng ta hãy biểu …

16 machine-learning classification overfitting probability-inequalities

2

Xử lý sự phù hợp với số ít trong các mô hình hỗn hợp

Hãy nói rằng chúng ta có một mô hình mod <- Y ~ X*Condition + (X*Condition|subject) # Y = logit variable # X = continuous variable # Condition = values A and B, dummy coded; the design is repeated # so all participants go through both Conditions # subject = …

16 mixed-model lme4-nlme overfitting singular

2

Lỗi hết túi khiến CV không cần thiết trong Rừng ngẫu nhiên?

Tôi còn khá mới với những khu rừng ngẫu nhiên. Trước đây, tôi luôn so sánh độ chính xác của sự phù hợp với thử nghiệm so với sự phù hợp với sự phù hợp để phát hiện bất kỳ sự quá mức nào. Nhưng tôi chỉ đọc ở đây …

15 cross-validation random-forest overfitting

2

Biện pháp nào về lỗi đào tạo để báo cáo cho Rừng ngẫu nhiên?

Tôi hiện đang điều chỉnh các khu rừng ngẫu nhiên cho một vấn đề phân loại bằng cách sử dụng randomForestgói trong R và không chắc chắn về cách báo cáo lỗi đào tạo cho các mô hình này. Lỗi đào tạo của tôi gần bằng 0% khi tôi tính …

15 r machine-learning classification random-forest overfitting

2

Tối ưu hóa: Căn nguyên của mọi tội lỗi trong thống kê?

Tôi đã nghe các biểu hiện sau đây: "Tối ưu hóa là gốc rễ của mọi tội lỗi trong thống kê". Ví dụ, câu trả lời hàng đầu trong chủ đề này làm cho tuyên bố đó liên quan đến nguy cơ tối ưu hóa quá mạnh mẽ trong quá …

14 cross-validation optimization overfitting

3

Làm thế nào để phát hiện khi mô hình hồi quy quá phù hợp?

Khi bạn là người thực hiện công việc, nhận thức được những gì bạn đang làm bạn phát triển ý thức khi bạn quá phù hợp với mô hình. Đối với một điều, bạn có thể theo dõi xu hướng hoặc suy giảm trong Quảng trường R đã điều chỉnh …

14 regression multivariate-analysis overfitting

2

Làm thế nào để xác thực chéo k-Fold phù hợp trong bối cảnh của các bộ đào tạo / xác nhận / kiểm tra?

Câu hỏi chính của tôi là liên quan đến việc cố gắng hiểu làm thế nào xác thực chéo k phù hợp trong bối cảnh có các bộ đào tạo / xác nhận / kiểm tra (nếu nó phù hợp với tất cả trong bối cảnh như vậy). Thông thường, …

14 cross-validation dataset overfitting

2

Liệu dữ liệu đầu vào tương quan có dẫn đến quá mức với các mạng thần kinh?

Theo tôi, dữ liệu đầu vào tương quan phải dẫn đến quá mức trong các mạng thần kinh vì mạng tìm hiểu mối tương quan, ví dụ như nhiễu trong dữ liệu. Điều này có đúng không?

13 correlation neural-networks overfitting

1

Ngăn chặn quá mức LSTM trên tập dữ liệu nhỏ

Tôi đang lập mô hình 15000 tweet để dự đoán tình cảm bằng cách sử dụng LSTM một lớp với 128 đơn vị ẩn bằng cách sử dụng biểu diễn giống như word2vec với 80 thứ nguyên. Tôi nhận được độ chính xác gốc (38% với ngẫu nhiên = 20%) …

13 deep-learning regularization overfitting lstm

1

Train vs Test Error Gap và mối quan hệ của nó với Quá mức: Điều chỉnh lời khuyên mâu thuẫn

Dường như có những lời khuyên mâu thuẫn ngoài kia về cách xử lý so sánh lỗi tàu và kiểm tra, đặc biệt khi có khoảng cách giữa hai người. Dường như có hai trường phái cho tôi, dường như mâu thuẫn. Tôi đang tìm cách hiểu cách hòa giải …

13 cross-validation overfitting

3

Là tốt hơn để chọn phân phối dựa trên lý thuyết, phù hợp hoặc cái gì khác?

Điều này giáp với một câu hỏi triết học, nhưng tôi quan tâm đến việc những người khác có nhiều kinh nghiệm nghĩ về lựa chọn phân phối. Trong một số trường hợp, có vẻ như rõ ràng rằng lý thuyết có thể hoạt động tốt nhất (chiều dài đuôi …

12 distributions overfitting heuristic

3

Bayesian vs MLE, vấn đề quá mức

Trong cuốn sách PRML của Đức cha, ông nói rằng, quá mức là một vấn đề với Ước tính khả năng tối đa (MLE) và Bayesian có thể tránh được. Nhưng tôi nghĩ, quá mức là một vấn đề nhiều hơn về lựa chọn mô hình, chứ không phải về …

12 bayesian model-selection overfitting

Câu hỏi được gắn thẻ «overfitting»