Tại sao dữ liệu hỗn hợp là một vấn đề đối với các thuật toán phân cụm dựa trên euclide?

Hầu hết các thuật toán phân cụm và giảm kích thước cổ điển (phân cụm theo phân cấp, phân tích thành phần chính, phương tiện k, bản đồ tự tổ chức ...) được thiết kế dành riêng cho dữ liệu số và dữ liệu đầu vào của chúng được xem là các điểm trong không gian euclide.

Tất nhiên đây là một vấn đề, vì nhiều câu hỏi trong thế giới thực liên quan đến dữ liệu được trộn lẫn: ví dụ nếu chúng ta nghiên cứu xe buýt, chiều cao và chiều dài và kích thước động cơ sẽ là số, nhưng chúng ta cũng có thể quan tâm đến màu sắc (biến phân loại: màu xanh lam / red / green ...) và các lớp công suất (biến theo thứ tự: công suất nhỏ / trung bình / lớn). Cụ thể, chúng ta có thể muốn nghiên cứu các loại biến khác nhau cùng một lúc.

Có một số phương pháp để mở rộng thuật toán phân cụm cổ điển sang dữ liệu hỗn hợp, ví dụ sử dụng sự khác biệt của Gower để cắm vào phân cụm phân cấp hoặc chia tỷ lệ đa chiều hoặc các phương thức khác lấy ma trận khoảng cách làm đầu vào. Hoặc ví dụ phương pháp này , một phần mở rộng của SOM cho dữ liệu hỗn hợp.

Câu hỏi của tôi là: tại sao chúng ta không thể sử dụng khoảng cách euclide trên các biến hỗn hợp? hoặc tại sao nó là xấu để làm như vậy? Tại sao chúng ta không thể mã hóa các biến phân loại, bình thường hóa tất cả các biến để chúng có trọng số tương tự trong khoảng cách giữa các quan sát và chạy các thuật toán thông thường trên các ma trận này?

Điều đó thực sự dễ dàng và không bao giờ được thực hiện, vì vậy tôi cho rằng nó rất sai, nhưng ai đó có thể cho tôi biết tại sao không? Và / hoặc cho tôi một số ref? Cảm ơn

Đó không phải là về việc không thể tính toán một cái gì đó .

Khoảng cách được sử dụng nhiều để đo lường một cái gì đó có ý nghĩa . Điều này sẽ thất bại sớm hơn nhiều với dữ liệu danh mục. Nếu nó từng hoạt động với nhiều hơn một biến, đó là ...

Nếu bạn có kích thước giày và khối lượng cơ thể, khoảng cách Euclide cũng không có ý nghĩa gì nhiều. Thật tốt khi x, y, z là khoảng cách. Thì khoảng cách Euclide là đường khoảng cách tầm nhìn giữa các điểm.

Bây giờ nếu bạn biến các biến mã hóa, điều này mang lại ý nghĩa gì?

Thêm vào đó, khoảng cách Euclide không có ý nghĩa khi dữ liệu của bạn rời rạc.

Nếu chỉ tồn tại các giá trị nguyên x và y, khoảng cách Euclide vẫn sẽ mang lại khoảng cách không nguyên. Họ không ánh xạ trở lại dữ liệu. Tương tự, đối với các biến được mã hóa giả, khoảng cách sẽ không ánh xạ trở lại một lượng biến giả ...

Sau đó, khi bạn có kế hoạch sử dụng phân cụm k- mean , nó không chỉ là về khoảng cách, mà là về tính toán giá trị trung bình . Nhưng không có ý nghĩa hợp lý trên các biến được mã hóa giả, phải không?

Cuối cùng, có lời nguyền của chiều . Khoảng cách Euclide được biết là giảm khi bạn tăng số lượng biến. Thêm các biến được mã hóa giả có nghĩa là bạn mất độ tương phản khoảng cách khá nhanh. Mọi thứ đều giống nhau như mọi thứ khác, bởi vì một biến giả có thể tạo ra tất cả sự khác biệt.

Trọng tâm của những vấn đề phân cụm dựa trên số liệu này là ý tưởng về phép nội suy.

Thực hiện bất kỳ phương pháp nào bạn vừa trích dẫn, và chúng ta hãy xem xét một biến liên tục như trọng lượng. Bạn có 100kg và bạn có 10kg trong dữ liệu của mình. Khi bạn thấy 99kg mới, số liệu sẽ cho phép bạn tiếp cận 100kg --- mặc dù bạn chưa bao giờ nhìn thấy nó. Thật không may, không có nội suy cho dữ liệu rời rạc.

Một lập luận khác cho câu hỏi này là không có cách tự nhiên để làm như vậy. Bạn muốn gán 3 giá trị trong R và làm cho chúng có khoảng cách bằng nhau giữa mỗi cặp, điều này là không thể. Nếu bạn gán chúng vào các danh mục khác nhau và chạy giả sử PCA, thì bạn sẽ mất thông tin mà chúng phản ánh trên thực tế cùng một danh mục.

Một vấn đề với các giá trị phân loại không theo thứ tự là nếu bạn giả mã hóa chúng, bạn buộc một thứ tự và do đó có ý nghĩa mới đối với các biến. Ví dụ: nếu bạn mã hóa màu xanh lam là 1 và màu cam là 2 và màu xanh lá cây 3 thì bạn ngụ ý rằng một mẫu dữ liệu có giá trị màu cam gần với mẫu có giá trị màu xanh lá cây hơn mẫu có giá trị màu xanh.

Một cách để xử lý việc này là làm cho chúng các tính năng mới (cột). Đối với mỗi giá trị riêng biệt, bạn tạo một tính năng nhị phân mới và đặt thành đúng / sai (nói cách khác, nhị phân mã hóa các giá trị và biến mỗi bit thành một cột). Đối với mỗi mẫu dữ liệu từ bộ tính năng mới này, chỉ có một tính năng sẽ có giá trị 1 và tất cả các tính năng khác 0. Nhưng điều này thường không dừng thuật toán đào tạo để gán giá trị centroid gần 1 cho nhiều hơn một tính năng. Điều này có thể gây ra vấn đề giải thích vì điều này không có ý nghĩa trong miền dữ liệu.

Bạn không có cùng một vấn đề với "các lớp năng lực" cụ thể là các danh mục được sắp xếp vì trong trường hợp đó, việc gán giá trị số có ý nghĩa.

Và dĩ nhiên là bạn sử dụng các tính năng có tính chất hoặc đơn vị đo lường khác nhau hoặc phạm vi giá trị khác nhau thì bạn phải luôn bình thường hóa các giá trị.

/programming/19507928/growing-elf- tổ chức-map-for-trộn-type-data / 19511894 # 19511894

/programming/13687256/is-it-right-to-n normalize-data-and-or-weight-vector-in-a-piano / 3693409 # 1.3693409

Câu trả lời thực sự khá đơn giản, chúng ta chỉ cần hiểu thông tin trong một biến giả thực sự là gì. Ý tưởng về một biến giả biểu thị sự hiện diện hay vắng mặt của các mức yếu tố (các giá trị riêng biệt của một biến phân loại). Nó có nghĩa là đại diện cho một cái gì đó không thể đo lường được, không thể định lượng được, bằng cách lưu trữ thông tin cho dù nó có ở đó hay không. Đây là lý do tại sao một biến giả được thể hiện bằng các chữ số nhị phân, nhiều như các giá trị rời rạc của biến phân loại mà nó đại diện (hoặc trừ 1).

Biểu thị các mức yếu tố là giá trị 0/1 chỉ có ý nghĩa trong một phương trình phân tích, chẳng hạn như mô hình tuyến tính (đây là một khái niệm dễ dàng cho những người có thể giải thích các hệ số của mô hình thống kê). Trong một biến giả, thông tin của biến phân loại cơ bản được lưu trữ theo thứ tự các bit. Khi sử dụng các bit đó làm kích thước để ánh xạ mẫu đầu vào vào không gian đặc trưng (như trong trường hợp ma trận tương tự / khoảng cách), thông tin theo thứ tự các bit bị mất hoàn toàn.