Khởi tạo trung tâm K-mean bằng các mẫu con ngẫu nhiên của tập dữ liệu?

Nếu tôi có một tập dữ liệu nhất định, việc khởi tạo các trung tâm cụm bằng cách sử dụng các mẫu ngẫu nhiên của tập dữ liệu đó sẽ thông minh đến mức nào?

Ví dụ, giả sử tôi muốn 5 clusters. Tôi 5 random samplesnói, size=20%của các dữ liệu ban đầu. Sau đó tôi có thể lấy giá trị trung bình của từng mẫu trong số 5 mẫu ngẫu nhiên này và sử dụng các phương tiện đó làm 5 trung tâm cụm ban đầu của mình không? Tôi không biết tôi đã đọc nó ở đâu nhưng tôi muốn biết các bạn nghĩ gì về ý tưởng này.

CẬP NHẬT: Vui lòng xem chủ đề này Khởi tạo phân cụm K-nghĩa: các phương thức hiện có là gì? cho các cuộc thảo luận chung về các phương pháp khởi tạo khác nhau.

Nếu bạn chia ngẫu nhiên mẫu thành 5 mẫu phụ, 5 phương tiện của bạn sẽ gần như trùng khớp. Ý nghĩa của việc làm cho các điểm gần như vậy các trung tâm cụm ban đầu là gì?

Trong nhiều triển khai K-mean, việc lựa chọn mặc định các trung tâm cụm ban đầu dựa trên ý tưởng ngược lại: tìm 5 điểm cách xa nhau nhất và biến chúng thành trung tâm ban đầu. Bạn có thể hỏi những gì có thể là cách để tìm những điểm xa nhau? Đây là những gì K-mean của SPSS đang làm cho điều đó:

Lấy bất kỳ trường hợp k (điểm) nào của bộ dữ liệu làm trung tâm ban đầu. Tất cả các trường hợp còn lại đang được kiểm tra khả năng thay thế những trường hợp như các trung tâm ban đầu, theo các điều kiện sau:

• a) Nếu trường hợp ở xa trung tâm gần nó hơn khoảng cách giữa hai gần nhất với nhau, thì trường hợp đó thay thế trung tâm của hai trung tâm gần hơn.
• b) Nếu trường hợp cách xa trung tâm thứ 2 gần nó nhất so với khoảng cách giữa trung tâm gần nó nhất và trung tâm gần nhất với trung tâm này, thì trường hợp thay thế trung tâm gần nó nhất.

Nếu điều kiện (a) không thỏa mãn, điều kiện (b) được kiểm tra; nếu nó không được thỏa mãn thì trường hợp đó không trở thành một trung tâm. Do kết quả của các trường hợp như vậy, chúng tôi thu được k trường hợp tối đa trong đám mây trở thành trung tâm ban đầu. Kết quả của thuật toán này, mặc dù đủ mạnh, nhưng không hoàn toàn không nhạy cảm với lựa chọn bắt đầu của "bất kỳ trường hợp k " nào và theo thứ tự sắp xếp các trường hợp trong tập dữ liệu; vì vậy, một số nỗ lực bắt đầu ngẫu nhiên vẫn được chào đón, vì nó luôn luôn như vậy với K-mean.

Xem câu trả lời của tôi với một danh sách các phương thức khởi tạo phổ biến cho phương tiện k. Phương pháp phân tách thành các mẫu con ngẫu nhiên (được tôi và những người khác chia sẻ ở đây) cũng như phương pháp được mô tả được sử dụng bởi SPSS - cũng nằm trong danh sách.

Các phương tiện sẽ quá giống nhau. Bạn cũng có thể tìm thấy tập dữ liệu có nghĩa, và sau đó đặt các tâm ban đầu vào một vòng tròn / hình cầu nhỏ xung quanh ý nghĩa này.

Nếu bạn muốn xem thêm một số sơ đồ khởi tạo âm thanh cho k-mean, hãy xem k-nghĩa ++. Họ đã nghĩ ra một phương pháp khá thông minh để gieo hạt k-nghĩa.

• Arthur, D. và Vassilvitskii, S. (2007).
  k-nghĩa là ++: những lợi thế của việc gieo hạt cẩn thận ".
  Kỷ yếu của hội nghị chuyên đề ACM-SIAM hàng năm lần thứ mười tám về các thuật toán rời rạc

Các slide của tác giả: http://www.ima.umn.edu/~iwen/REU/BATS-Means.pdf

Sử dụng phương tiện của các mẫu ngẫu nhiên sẽ cung cấp cho bạn điều ngược lại với những gì bạn cần, như ttnphns đã chỉ ra trong nhận xét của mình. Những gì chúng ta sẽ cần là một cách để tìm các điểm dữ liệu khá xa nhau.

Lý tưởng nhất là bạn có thể lặp đi lặp lại qua tất cả các điểm, tìm khoảng cách giữa chúng, xác định khoảng cách ở đâu là lớn nhất ...

Không bỏ qua ý định của OP, nhưng tôi nghĩ rằng "giải pháp" được tích hợp trong thuật toán k-mean. Chúng tôi thực hiện nhiều lần lặp và tính toán lại các cụm sao dựa trên các lần lặp trước đó. Chúng tôi cũng thường chạy thuật toán kmeans nhiều lần (với các giá trị ban đầu ngẫu nhiên) và so sánh kết quả.

Nếu ta có một tiên nghiệm kiến thức, kiến thức miền, sau đó có thể dẫn đến một phương pháp vượt trội của xác định nơi các trung tâm cụm ban đầu nên được. Mặt khác, có lẽ vấn đề chọn các điểm dữ liệu ngẫu nhiên làm giá trị ban đầu và sau đó sử dụng nhiều lần chạy và nhiều lần lặp trên mỗi lần chạy.

$k$