Tính toán nhanh / ước tính hệ thống tuyến tính cấp thấp

Các hệ phương trình tuyến tính có sức lan tỏa trong thống kê tính toán. Một hệ thống đặc biệt tôi đã gặp (ví dụ, trong phân tích nhân tố) là hệ thống

A x = b

$Ax=b$

nơi Dưới đây là một ma trận đường chéo với một đường chéo chặt chẽ tích cực, là một (với ) đối xứng dương tính ma trận bán rõ ràng, và là một tùy ý ma trận . Chúng tôi được yêu cầu giải quyết một hệ thống tuyến tính chéo (dễ) đã bị nhiễu loạn bởi một ma trận thứ hạng thấp. Cách ngây thơ để giải quyết vấn đề trên là đảo ngược bằng công thức của Woodbury

A = D + B Ω B^{T}

$A=D+ B \Omega B^T$

D

$D$

n \times n

$n\times n$

Ω

$\Omega$

m \times m

$m\times m$

m ≪ n

$m\ll n$

B

$B$

n \times m

$n\times m$

A

$A$ . Tuy nhiên, điều đó không đúng, vì các yếu tố Cholesky và QR thường có thể tăng tốc độ giải pháp của các hệ tuyến tính (và phương trình bình thường) một cách đáng kể. Gần đây tôi đã đưa ra một bài báo sau , dường như có cách tiếp cận Cholesky, và đề cập đến sự bất ổn về số của sự đảo ngược của Woodbury. Tuy nhiên, bài báo dường như ở dạng bản nháp và tôi không thể tìm thấy các thí nghiệm bằng số hoặc nghiên cứu hỗ trợ. Trạng thái của nghệ thuật để giải quyết vấn đề tôi mô tả là gì?

— vui vẻ
nguồn

Ω^{- 1} + B D^{- 1} B^{T}

$\Omega^{-1}+BD^{-1}B^T$

Ω^{- 1}

$\Omega^{-1}$

m << n

$m<<n$

A

$A$

ϵ

$\epsilon$

\bar{B} = D^{- 1 / 2} B

$\bar{B} = D^{-1/2} B$

(I + \bar{B} Ω {\bar{B}}^{T}) x = \bar{b}

$(I + \bar{B}\Omega \bar{B}^T)x = \bar{b}$

\bar{b} = D^{- 1 / 2} b

$\bar{b} = D^{-1/2} b$

Σ = \bar{B} Ω {\bar{B}}^{T}

$\Sigma = \bar{B} \Omega \bar{B}^T$

Σ

$\Sigma$

m

$m$

m ≪ n

$m \ll n$

m

$m$

x = Q (I + Λ)^{- 1} Q^{T} \bar{b}

$x = Q(I + \Lambda)^{-1} Q^T \bar{b}$

Σ = Q Λ Q^{T}

$\Sigma = Q \Lambda Q^T$

Σ

$\Sigma$

(I + \bar{B} Ω {\bar{B}}^{T}) D^{1 / 2} x = \bar{b}

$(I + \bar{B} \Omega \bar{B}^T) D^{1/2} x = \bar{b}$

x = D^{- 1 / 2} Q (I + Λ)^{- 1} Q^{T} D^{- 1 / 2} b

$x = D^{-1/2} Q (I + \Lambda)^{-1} Q^T D^{-1/2} b$

D^{1 / 2}

$D^{1/2}$

x

$x$ trong cả hai trường hợp.) Lưu ý rằng tất cả các nghịch đảo là ma trận đường chéo và vì vậy là tầm thường.

— Đức hồng y

Ω^{- 1} + B^{T} D^{- 1} B

$\Omega^{-1} + B^T D^{-1} B$

"Tính toán ma trận" của Golub & van Loan đã thảo luận chi tiết trong chương 12.5.1 về việc cập nhật các yếu tố QR và Cholesky sau khi cập nhật xếp hạng p.

— Pedianosa
nguồn

Tôi biết, và các chức năng lapack có liên quan được đề cập cả trong bài báo tôi liên kết và trong cuốn sách. Tuy nhiên, tôi tự hỏi đâu là cách thực hành tốt nhất cho vấn đề, không phải cho vấn đề cập nhật chung.

— vui vẻ