Gần đây, tôi đọc hai bài báo. Đầu tiên là về lịch sử của mối tương quan và thứ hai là về phương pháp mới gọi là Hệ số thông tin tối đa (MIC). Tôi cần sự giúp đỡ của bạn để hiểu phương pháp MIC để ước tính mối tương quan phi tuyến tính giữa các biến.

Ngoài ra, có thể tìm thấy Hướng dẫn sử dụng trong R trên trang web của tác giả (bên dưới Tải xuống ):

Tôi hy vọng đây sẽ là một nền tảng tốt để thảo luận và hiểu phương pháp này. Quan tâm của tôi để thảo luận về một trực giác đằng sau phương pháp này và làm thế nào nó có thể được mở rộng như tác giả đã nói.

" ... chúng tôi cần mở rộng MIC (X, Y) sang MIC (X, Y | Z). Chúng tôi sẽ muốn biết cần bao nhiêu dữ liệu để có được ước tính ổn định của MIC, mức độ nhạy cảm của nó đối với các ngoại lệ, ba - hoặc các mối quan hệ chiều cao hơn nó sẽ bỏ lỡ, và hơn thế nữa. MIC là một bước tiến tuyệt vời, nhưng còn nhiều bước nữa để thực hiện. "

Có phải nó không nói rằng điều này đã được công bố trên một tạp chí phi thống kê có đánh giá ngang hàng thống kê mà chúng tôi không chắc chắn? Vấn đề này đã được giải quyết bằng Hoeffding vào năm 1948 (Biên niên sử Thống kê toán học 19: 546), người đã phát triển một thuật toán đơn giản không yêu cầu tạo thùng cũng như nhiều bước. Công trình của Hoeffding thậm chí không được tham khảo trong bài báo Khoa học. Điều này đã được trong hoeffdchức năng R trong Hmiscgói trong nhiều năm. Đây là một ví dụ (gõ example(hoeffd)vào R):

# Hoeffding's test can detect even one-to-many dependency
set.seed(1)
x <- seq(-10,10,length=200)
y <- x*sign(runif(200,-1,1))
plot(x,y)  # an X
hoeffd(x,y)  # also accepts a numeric matrix

D
     x    y
x 1.00 0.06
y 0.06 1.00

n= 200 

P
  x  y 
x     0   # P-value is very small
y  0   

hoeffdsử dụng một triển khai Fortran khá hiệu quả của phương pháp Hoeffding. Ý tưởng cơ bản của bài kiểm tra của ông là xem xét sự khác biệt giữa các cấp bậc chung của X và Y và sản phẩm của thứ hạng cận biên của X và thứ hạng cận biên của Y, được chia tỷ lệ phù hợp.

Cập nhật

$D$

Hmisc$D$$|F(x,y) - G(x)H(y)|$$D$

Ý tưởng chính của các tác giả là phân tách dữ liệu trên nhiều lưới hai chiều khác nhau và tính toán điểm số chuẩn hóa đại diện cho thông tin lẫn nhau của hai biến trên mỗi lưới. Điểm số được chuẩn hóa để đảm bảo so sánh công bằng giữa các lưới khác nhau và khác nhau giữa 0 (không tương quan) và 1 (tương quan cao).

$R^2$

Tôi tìm thấy hai bài viết hay giải thích rõ ràng hơn về ý tưởng của MIC nói riêng về điều này ; Ở đây, thứ hai .

Theo tôi hiểu từ những lần đọc này là bạn có thể phóng to các mức độ phức tạp và thang đo khác nhau của mối quan hệ giữa hai biến bằng cách khám phá các kết hợp lưới khác nhau; các lưới này được sử dụng để phân chia không gian 2 chiều thành các ô. Bằng cách chọn lưới chứa nhiều thông tin nhất về cách các ô phân vùng không gian bạn đang chọn MIC.

Tôi muốn hỏi @mbq nếu anh ta có thể mở rộng cái mà anh ta gọi là "cốt truyện tất cả các phân tán-và-đỉnh-những người có diện tích lớn nhất trắng 'và độ phức tạp không thực của O (M2).