Tập hợp tương quan nhỏ nhất của các biến ngẫu nhiên từ ma trận tương quan

Tôi có một ma trận tương quan , mà tôi thu được bằng cách sử dụng hệ số tương quan tuyến tính của Pearson thông qua Corrcoef () của Matlab . Ma trận tương quan có kích thước 100x100, tức là tôi đã tính ma trận tương quan trên 100 biến ngẫu nhiên.$A$

Trong số 100 biến ngẫu nhiên này, tôi muốn tìm 10 biến ngẫu nhiên có ma trận tương quan chứa "tương quan nhỏ" nhất có thể (xem Định lượng "ma trận tương quan" bao nhiêu so với ma trận tương quan B về số liệu để đo lường mối tương quan tổng thể trong một ma trận tương quan). Tôi chỉ quan tâm đến mối tương quan cặp.

Có phương pháp nào tốt để tìm 10 biến ngẫu nhiên đó trong một khoảng thời gian hợp lý (ví dụ: tôi không muốn thử kết hợp $\binom{100}{10}$ )? Các thuật toán gần đúng là OK.

Chúng ta hãy xem xét tổng các mối tương quan cặp tuyệt đối như là thước đo lựa chọn của chúng ta. Do đó, chúng tôi tìm kiếm một vectơ với sẽ giảm thiểu trong đó.l 1 ( v ) = n v ′ Q v Q i j = | A i j$v\in\{0,1\}^N$$l_1(v)=n$$v'Qv$$Q_{ij}=|A_{ij}|$

Giả sử Q cũng xác định dương là A, bài toán được giảm để giải bài toán tối ưu bậc hai bị ràng buộc:

$$v^*=\min\ v'Qv\ s.t.\ l_1(v)=n,\ v_i\in\{0,1\}$$

Điều này gợi ý sự thư giãn

$$v^*=\min\ v'Qv\ s.t.\ l_1(v)=n,\ v_i\in[0,1]$$

có thể dễ dàng giải quyết bằng cách sử dụng các bộ giải có sẵn; thì kết quả được cho bởi thành phần lớn nhất trong .$n$$v^*$

Mã MATLAB mẫu:

N=100;
n=10;
% Generate random data
A=rand(N,1000);
C=corrcoef(A');
Q=abs((C+C')/2); % make sure it is symmetric
x = cplexqp(Q,zeros(1,N),[],[], ones(1, N),n, zeros(N,1), ones(N,1));
% If you don't use CPLEX, use matlab's default
% x = quadprog(Q,zeros(1,N),[],[], ones(1, N),n, zeros(N,1), ones(N,1));
assert(abs(sum(x)-n)<1e-10);
% Find the n largest values
I=sort(x); 
v=zeros(size(x)); v(x>I(N-n))=1; 
assert(abs(sum(v)-n)<1e-10);
% Make sure we do better than 10K random trials
for i=1:10000
   vc=zeros(size(x)); vc(randperm(N,n))=1;
   assert(sum(vc)==n, 'Wrong l0 norm');
   assert(vc'*Q*vc>v'*Q*v, 'Improves result');
end
% Show results
J=find(v==1);
fprintf('The optimal solution total off-diagonal correlations are %1.3f\n', v'*Q*v-n);
fprintf('The matrix:\n');
C(J,J)

Điều này có thể tồi tệ hơn ý tưởng phân cụm phân cấp của @ ttnphns. Nhưng: Tôi vừa xảy ra trên một tờ giấy sử dụng như là một hàm mục tiêu mô đun con tăng dần:$\log \det(I + A)$

Vanchinathan, Marfurt, Robelin, Kossman và Krause. Khám phá các mặt hàng có giá trị từ dữ liệu lớn . KDD 2015. ( doi , arXiv )

Nếu bạn nghĩ rằng đó là một biện pháp hợp lý của "ít tương quan nhất", bạn có thể đạt được trong hệ của tập hợp tối ưu bằng cách đơn giản lặp lại chọn điểm tối đa hóa điều đó. Điều này có thể được thực hiện một cách hiệu quả với phân tách LU khối , trong đó là vectơ tương quan với các mục đã có trong ma trận:$1-1/e$v$v$

$$\begin{align*} \det \begin{bmatrix} I+A & v \\ v^T & 2 \end{bmatrix} &= \det \left( \begin{bmatrix} I & 0 \\ v^T (I+A)^{-1} & 1 \end{bmatrix} \begin{bmatrix} I+A & 0 \\ 0 & 2 - v^T (I+A)^{-1} v \end{bmatrix} \begin{bmatrix} I & (I+A)^{-1} v \\ 0 & 1 \end{bmatrix} \right) \\&= \det \begin{bmatrix} I & 0 \\ v^T (I+A)^{-1} & 1 \end{bmatrix} \det \begin{bmatrix} I+A & 0 \\ 0 & 2 - v^T (I+A)^{-1} v \end{bmatrix} \det \begin{bmatrix} I & (I+A)^{-1} v \\ 0 & 1 \end{bmatrix} \\&= (2 - v^T (I+A)^{-1} v) \det (I+A) \end{align*}$$

và tất nhiên bạn nên tính , trong đó là hệ số nhân của Cholesky của và sử dụng bộ giải tam giác đó là . Vì vậy, toàn bộ quá trình này sẽ mất thời gian để chọn trong số các phần tử , giả sử ma trận tương quan đã được tính toán .$v^T (I+A)^{-1} v = \lVert L^{-1} v \rVert^2$$L$$I + A$$O(n^2)$$O( \sum_{k=1}^n N k^2 + k^3) = O( N n^3 )$$n$$N$

Tôi không chắc chắn hiểu ý của bạn bằng cách "Tôi chỉ quan tâm đến mối tương quan theo cặp" , nhưng đây là một cái gì đó có thể giúp: sử dụng đảo ngược ma trận tương quan của bạn. Thuật ngữ bằng với , trong đó là ma trận x được xây dựng từ trong đó cột thứ và dòng đã bị xóa.$A^{-1}_{ii}$$det(A_{0_i}) / det(A)$$A_{0_i}$$(n-1)$$(n-1)$$A$$i$

Lấy chỉ số của hệ số đường chéo tối thiểu trong do đó cho bạn biết điểm nào có tương quan thấp nhất với phần còn lại của tập hợp.$A^{-1}$

Tùy thuộc vào những gì bạn thực sự muốn làm, bạn có thể lấy 10 giá trị thấp nhất trên đường chéo của nghịch đảo hoặc lấy giá trị đầu tiên, sau đó tính toán nghịch đảo với điểm đã xóa, v.v.

Nếu đây không phải là những gì bạn cần, tôi cảm thấy thủ thuật này có thể vẫn hữu ích, nhưng tôi không chắc chắn làm thế nào.

Tìm của mục có tương quan cặp đôi ít nhất: Vì tương quan của câu giải thích về mối quan hệ giữa hai chuỗi, nên giảm thiểu tổng bình phương tương quan cho các mục tiêu của bạn . Đây là giải pháp đơn giản của tôi.$k$$n$$0.6$$0.36$$k$

Viết lại ma trận tương quan của bạn thành ma trận bình phương tương quan. Tính tổng bình phương của mỗi cột. Loại bỏ cột và hàng tương ứng với tổng lớn nhất. Bây giờ bạn có ma trận . Lặp lại cho đến khi bạn có ma trận . Bạn cũng có thể chỉ giữ các cột và các hàng tương ứng với tổng nhỏ nhất. So sánh các phương thức, tôi thấy trong một ma trận với và chỉ có hai mục có tổng gần được giữ và loại bỏ khác nhau.( n - 1 ) × ( n - 1 ) k × k k n = 43 $n \times n$$(n−1)\times (n−1)$$k\times k$$k$$n=43$$k=20$