Những gì phân loại máy học là song song nhất?

Những gì phân loại máy học là song song nhất? Nếu bạn gặp vấn đề phân loại khó khăn, thời gian hạn chế, nhưng mạng LAN máy tính khá ổn để làm việc, bạn sẽ thử phân loại nào?

Mặt khác, nó trông giống như một số phân loại tiêu chuẩn mà tôi biết về việc xếp chồng lên nhau như sau nhưng tôi có thể hoàn toàn sai:

Rừng ngẫu nhiên - Rất song song miễn là mỗi máy có thể chứa tất cả dữ liệu (nghĩa là không thể phân chia dữ liệu huấn luyện mỗi se, nhưng nếu không thì có thể song song).

Tăng tốc -?

Hỗ trợ máy Vector - Không song song.

Cây quyết định - Có thể được chia thành một phần, nhưng không hiệu quả lắm.

Đã có những nỗ lực để song song hóa hầu hết các phân loại nổi tiếng, bao gồm tăng [ giấy ], SVM [ giấy ] và thậm chí cả cây quyết định [ giấy ]. Tất nhiên, bằng cách thừa nhận song song, đôi khi bạn mất đi các khía cạnh khác, cho dù đó là khả năng triển khai thuật toán, độ phức tạp mẫu hoặc các nghi phạm thông thường khác.

Từ kết thúc lý thuyết, câu hỏi khó hơn bởi vì khi bạn nói về việc học, bạn phải nghĩ về chức năng mục tiêu. Ví dụ: chúng ta thậm chí không biết cây quyết định có thể học được PAC, vì vậy nếu mục tiêu (cũng như phương thức) là cây quyết định, thì chúng ta thậm chí không thể tìm hiểu (mà) mà không giới thiệu thêm các khía cạnh cho vấn đề. Thúc đẩy xung quanh điều đó bằng cách giả sử một điều kiện học tập yếu, SVM là một lề, v.v. Tôi nghĩ rằng những giả định đó chuyển sang trường hợp song song để cung cấp cho bạn việc học PAC.

Nhưng như mọi khi, có một khoảng cách lớn giữa biên giới (và do đó liên quan) về lý thuyết và thực tiễn. Ví dụ, trong thực tế, vấn đề là song song trên lõi hay cụm. Một thuật toán được phát triển đặc biệt để sử dụng thực tế trong cài đặt dữ liệu lớn là VW và nó bắt đầu hỗ trợ song song. Bạn có thể quan tâm đến các bài viết trong hội thảo NIPS 2010 về học tập song song thực tế.