Độ phức tạp tính toán của việc tính toán Ma trận phương sai-hiệp phương sai là gì?

Tôi đang sử dụng một phép tính của ma trận phương sai - hiệp phương sai trong một chương trình tôi đã viết (cho Phân tích thành phần chính), và tôi tự hỏi sự phức tạp của nó là gì. Trong khi rõ ràng sự phân rã Eigenvector đang gây ra hiệu ứng lớn nhất, tôi tự hỏi bao nhiêu cú đánh đó là do tính toán Ma trận hiệp phương sai.

Thời gian chạy tiệm cận tôi ước tính nó để sử dụng là sử dụng một thuật toán ngây thơ, bởi vì nó có để có những phương tiện của tất cả các dữ liệu kích thước N và sau đó có để làm điều đó cho mỗi thứ nguyên (nơi n là số lượng kích thước) trong một lần lặp lồng nhau, và do đó tạo ra ma trận kích thước n 2 .$O(N\cdot n^2)$$N$$n$$n^2$

Là giả định của tôi là chính xác, hoặc nếu không, sự phức tạp tiệm cận là gì?

Phỏng đoán của bạn là chính xác.

Nếu với N là số lượng điểm dữ liệu và n là số lượng tính năng, thì bạn có thể thu được ma trận hiệp phương sai bằng X T X (ngoài phép trừ trung bình có thể bỏ qua từ góc độ phức tạp).$X\in \mathbb{R}^{N \times n}$$N$$n$$X^TX$

$\mathcal{O}(Nn²)$ $2N$$n²$$X$$\mathcal{O}(n^{2.73})$