Điểm gần hơn có thể được coi là giống nhau hơn trong hình dung T-SNE?

Tôi hiểu từ bài báo của Hinton rằng T-SNE làm tốt công việc giữ sự tương đồng địa phương và một công việc tốt trong việc bảo tồn cấu trúc toàn cầu (phân cụm).

Tuy nhiên tôi không rõ liệu các điểm xuất hiện gần hơn trong hình ảnh trực quan 2D có thể được coi là các điểm dữ liệu "giống nhau hơn" hay không. Tôi đang sử dụng dữ liệu với 25 tính năng.

Ví dụ, quan sát hình ảnh bên dưới, tôi có thể giả sử rằng các điểm dữ liệu màu xanh giống với màu xanh lục hơn, đặc biệt là cụm điểm xanh lớn nhất không?. Hoặc, hỏi khác nhau, liệu có ổn không khi cho rằng các điểm màu xanh giống với điểm xanh trong cụm gần nhất, hơn là các điểm đỏ trong cụm khác? (bỏ qua các điểm màu xanh lá cây trong cụm màu đỏ)

Khi quan sát các ví dụ khác, chẳng hạn như những ví dụ được trình bày tại sci-kit, hãy học Manifold, có vẻ đúng khi thừa nhận điều này, nhưng tôi không chắc liệu nói có đúng về mặt thống kê hay không.

BIÊN TẬP

Tôi đã tính toán khoảng cách từ tập dữ liệu gốc theo cách thủ công (khoảng cách trung bình cặp đôi) và trực quan hóa thực sự đại diện cho một khoảng cách không gian tỷ lệ liên quan đến tập dữ liệu. Tuy nhiên, tôi muốn biết liệu điều này có được chấp nhận hay không được mong đợi từ công thức toán học ban đầu của t-sne và không chỉ là sự trùng hợp ngẫu nhiên.

Tôi sẽ trình bày t-SNE như một sự thích ứng xác suất thông minh của việc nhúng tuyến tính cục bộ. Trong cả hai trường hợp, chúng tôi cố gắng chiếu các điểm từ không gian chiều cao sang điểm nhỏ. Dự báo này được thực hiện bằng cách tối ưu hóa việc bảo tồn khoảng cách địa phương (trực tiếp với LLE, tạo ra sự phân phối xác suất và tối ưu hóa phân kỳ KL với t-SNE). Sau đó, nếu câu hỏi của bạn là, nó có giữ khoảng cách toàn cầu, câu trả lời là không. Nó sẽ phụ thuộc vào "hình dạng" dữ liệu của bạn (nếu phân phối trơn tru, thì khoảng cách nên được bảo tồn bằng cách nào đó).

t-SNE thực sự không hoạt động tốt trên cuộn swiss (hình ảnh 3D "S" của bạn) và bạn có thể thấy rằng, trong kết quả 2D, các điểm màu vàng ở giữa thường gần với các điểm màu đỏ hơn so với các điểm màu xanh (chúng được tập trung hoàn hảo trong hình ảnh 3D).

Một ví dụ điển hình khác về những gì t-SNE làm là phân cụm các chữ số viết tay. Xem các ví dụ trên liên kết này: https://lvdmaaten.github.io/tsne/