Dường như đã trở thành tiên đề rằng một nhóm người học dẫn đến kết quả mô hình tốt nhất có thể - và nó đang trở nên hiếm hơn rất nhiều, ví dụ, đối với các mô hình đơn lẻ để giành chiến thắng trong các cuộc thi như Kaggle. Có một lời giải thích lý thuyết cho lý do tại sao các bản hòa tấu rất hiệu quả?
Câu trả lời:
Đối với một mô hình cụ thể mà bạn cung cấp dữ liệu, hãy chọn các tính năng, chọn siêu đường kính vvetera. So với thực tế, nó có ba loại sai lầm:
Đảm bảo trung bình ra một số các mô hình. Sai lệch do sai lệch lấy mẫu sẽ không được khắc phục vì những lý do rõ ràng, nó có thể khắc phục một số sai lệch độ phức tạp của mô hình, tuy nhiên các lỗi phương sai được thực hiện rất khác so với các mô hình khác nhau của bạn. Đặc biệt là các mô hình tương quan thấp tạo ra những sai lầm rất khác nhau trong lĩnh vực này, một số mô hình nhất định hoạt động tốt ở một số phần nhất định trong không gian tính năng của bạn. Bằng cách tính trung bình các mô hình này, bạn giảm được phương sai này khá nhiều. Đây là lý do tại sao quần thể tỏa sáng.
Câu trả lời được chọn là tuyệt vời, nhưng tôi muốn thêm hai điều:
Có một lý thuyết cơ bản về dự báo tối ưu, nếu chúng ta muốn dự đoán sự kiện tiếp theo theo trình tự dựa trên kiến thức về các sự kiện trước đó. Dự đoán Solomonoff (Solomonoff 1964) có thể tối ưu hóa theo nhiều nghĩa, bao gồm cả nó sẽ học cách dự đoán chính xác bất kỳ chuỗi tính toán nào chỉ với lượng dữ liệu tối thiểu tuyệt đối., (Hutter, Legg & Vitanyi 2007) Một công cụ dự đoán của Solomon có khả năng tương thích với tất cả các chương trình với dữ liệu hiện có, theo mức độ phức tạp của chương trình Kolmogorov và xác suất mà chương trình gán cho dữ liệu cho đến nay, kết hợp Epicurean (Tu giữ tất cả các lý thuyết) và Ockham (cách thích các lý thuyết đơn giản) trong các khuôn khổ Bayes.
Các đặc tính tối ưu của dự đoán Solomonoff giải thích cho phát hiện mạnh mẽ mà bạn đề cập đến: tính trung bình trên các mô hình, nguồn hoặc chuyên gia cải thiện dự đoán và dự đoán trung bình vượt trội hơn cả dự đoán đơn nhất. Các phương pháp tập hợp khác nhau được thấy trong thực tế có thể được coi là xấp xỉ có thể tính toán được với dự đoán của Solomonoff - và một số như MML (Wallace 2005) khám phá rõ ràng các mối quan hệ, mặc dù hầu hết đều không.
Wallace (2005) lưu ý rằng một công cụ dự đoán của Solomonoff không mang tính phân tích - nó giữ một nhóm mô hình vô hạn - nhưng hầu hết sức mạnh dự đoán chắc chắn rơi vào một nhóm mô hình tương đối nhỏ. Trong một số lĩnh vực, mô hình tốt nhất duy nhất (hoặc gia đình của các mô hình gần như không thể phân biệt được) có thể chiếm một phần lớn sức mạnh dự đoán và vượt trội so với các quần thể chung, nhưng trong các lĩnh vực phức tạp với rất ít lý thuyết, hầu như không một gia đình nào nắm bắt được phần lớn xác suất sau, và do đó, tính trung bình trên các ứng cử viên hợp lý sẽ cải thiện dự đoán. Để giành giải thưởng Netflix, nhóm Bellkor đã pha trộn hơn 450 mô hình (Koren 2009).
Con người thường tìm kiếm một lời giải thích tốt duy nhất: trong các lĩnh vực "lý thuyết cao" như vật lý, những điều này hoạt động tốt. Thật vậy, nếu họ nắm bắt được các động lực nhân quả tiềm ẩn, họ sẽ gần như không thể đánh bại. Nhưng trong trường hợp các lý thuyết có sẵn không phù hợp chặt chẽ với các hiện tượng (giả sử, đề xuất phim hoặc địa chính trị), các mô hình đơn lẻ sẽ hoạt động kém: tất cả đều không hoàn chỉnh, vì vậy không nên thống trị. Do đó, sự nhấn mạnh gần đây về các bản hòa tấu (cho học máy) và Trí tuệ đám đông (cho các chuyên gia) và sự thành công của các chương trình như IARPA ACE và đặc biệt là Dự án Phán xét Tốt (Tetlock & Gardiner 2015).