Áp dụng an toàn các phương pháp lặp trên ma trận chiếm ưu thế theo đường chéo

Giả sử hệ thống tuyến tính sau được cho

\begin{matrix} (1) & L x = c, \end{matrix}

$Lx=c,\tag1$ trong đó

L

$L$ là Laplacian có trọng số được biết là dương

s e m i -

$semi-$ xác định với không gian null một chiều được kéo dài bởi và phương sai dịch của , nghĩa là không thay đổi giá trị hàm (có đạo hàm là ). Các mục dương duy nhất của nằm trên đường chéo của nó, là tổng của các giá trị tuyệt đối của các mục ngoài đường chéo âm.

1_{n} = (1, \dots, 1) \in R^{n}

$1_n=(1,\dots,1)\in\mathbb{R}^n$

x \in R^{n}

$x\in\mathbb{R}^{n}$

x + a 1_{n}

$x+a1_n$

(1)

$(1)$

L

$L$

Tôi tìm thấy trong một cao trích dẫn công việc học tập trong lĩnh vực của mình rằng, mặc dù là theo đường chéo chiếm ưu thế, các phương pháp như liên hợp Gradient, Gauss-Seidl, Jacobi, vẫn có thể được sử dụng một cách an toàn để giải quyết . Lý do là, vì bất biến dịch, một là an toàn để sửa chữa một thời điểm (ví dụ. Loại bỏ hàng đầu tiên và cột của và sự xâm nhập đầu tiên từ ), do đó chuyển đổi đến một ma trận đường chéo trội. Dù sao, hệ thống ban đầu được giải quyết ở dạng đầy đủ của , với . $L$ $not~strictly$ $(1)$ $L$ $c$ $L$ $strictly$ $(1)$ $L\in\mathbb{R}^{n\times n}$

Giả định này có đúng không, và nếu vậy, lý do thay thế là gì? Tôi đang cố gắng hiểu làm thế nào sự hội tụ của các phương thức vẫn giữ.

Nếu phương pháp Jacobi hội tụ với $(1)$ , thì người ta có thể nói gì về bán kính quang phổ $\rho$ của ma trận lặp $D^{-1}(D-L)$ , trong đó $D$ là ma trận đường chéo có các mục nhập $L$ trên đường chéo của nó? Có phải $\rho(D^{-1}(D-L)\leq1$ , do đó khác với các đảm bảo hội tụ chung cho $\rho(D^{-1}(D-L))<1$ ? Tôi đang hỏi điều này vì giá trị bản địa của Ma trận Laplacian $D^{-1}L$ với các ma trận trên đường chéo phải nằm trong phạm vi $[0, 2]$ .

Từ tác phẩm gốc:

......................................

Ở mỗi lần lặp, chúng ta tính toán một bố cục mới (x (t +1), y (t + 1)) bằng cách giải hệ phương trình tuyến tính sau: Không mất tính tổng quát, chúng ta có thể sửa vị trí của một trong số các cảm biến (sử dụng mức độ tự do dịch của ứng suất cục bộ) và thu được ma trận chi phối theo đường chéo nghiêm ngặt. Do đó, chúng ta có thể sử dụng lặp Jacobi một cách an toàn để giải (8)

\begin{matrix} (8) & L \cdot x (t + 1) = L (x (t), y (t)) \cdot x (t) L \cdot y (t + 1) = L (x (t), y (t)) \cdot y (t) \end{matrix}

$L · x(t + 1) = L(x(t),y(t)) · x(t) \\ L · y(t + 1) = L(x(t),y(t)) · y(t) \tag 8$

.......................................

Ở trên, khái niệm "lặp" có liên quan đến thủ tục tối thiểu hóa cơ bản và không bị nhầm lẫn với phép lặp Jacobi. Vì vậy, hệ thống được giải quyết bằng Jacobi (lặp đi lặp lại), và sau đó giải pháp được mua ở phía bên phải của (8), nhưng bây giờ cho một lần lặp khác của giảm thiểu cơ bản. Tôi hy vọng điều này làm rõ vấn đề.

Lưu ý rằng tôi đã tìm thấy bộ giải tuyến tính lặp nào hội tụ cho ma trận bán nguyệt dương? , nhưng đang tìm kiếm một câu trả lời công phu hơn.

— người dùng
nguồn

Bạn có thể gửi một liên kết hoặc một trích dẫn đến công việc được trích dẫn nhiều?

— Geoff Oxberry

Nó có thể được truy xuất từ: citeseerx.ist.psu.edu/viewdoc/summary?doi=10.1.1.164.1421 Vì bạn không cần phải đọc toàn bộ tác phẩm, hãy xem p.7 (phía dưới). Tôi cho rằng sự lựa chọn của người giải quyết lặp lại là hợp lý, nhưng tôi cảm thấy một lý do tốt hơn (hoặc, ít nhất, khác nhau) là cần thiết.

— dùng

Tôi tự hỏi liệu những kẻ này đến từ cùng một cộng đồng với các điều kiện tiên quyết kết hợp.

— shuhalo

Câu trả lời:

Lặp lại Jacobi có thể được chứng minh hội tụ.

Điều đầu tiên bạn cần chắc chắn là , đó là điều kiện tồn tại của giải pháp (tôi giả sử , nếu không bạn cần ) vì bạn đã nói . Chúng tôi sẽ sử dụng quy ước rằng $c^T \mathbf{1}_n = 0$ $L=L^T$ $c\in (\mathrm{Ker} L^T)^\perp$ $V_0:=\mathrm{Ker} L = \mathrm{span}\{\mathbf{1}_n\}$ $V_0$ cũng là ma trận với các cột là cơ sở trực giao của nó. Trong trường hợp của bạn, . $V_0:=\mathbf{1}_n/\sqrt{n}$

Sau đó, đối với các lỗi lặp Jacobi trên hệ thống ban đầu, bạn có trong đó

e_{1} = (I - D^{- 1} L) e_{0} = (I - D^{- 1} L) (P e_{0} + V_{0} a) = (I - D^{- 1} L) P e_{0} + V_{0} a,

$e_1 = (I-D^{-1}L)e_0 = (I-D^{-1}L) (P e_0 + V_0a)=(I-D^{-1}L) P e_0 + V_0a,$

là chiếu trực giao vào

. Từ lần lặp trên, chúng ta biết rằng

từ đó chúng ta có ma trận lặp

trong

Không phải cái đó

P := I - V_{0} V_{0}^{'}

$P:=I-V_0V_0'$

V_{1} := V_{0}^{⊥}

$V_1:=V_0^\perp$

P e_{1} = P (I - D^{- 1} L) P e_{0},

$P e_1 = P (I-D^{-1}L) P e_0,$

S

$S$

V_{1}

$V_1$

S := P (I - D^{- 1} L) P .

$S: = P (I-D^{-1}L) P.$

có quang phổ tương tự (trừ số không) với ma trận sau

S

$S$

Chúng tôi muốn bán kính phổ của

nhỏ hơn một để chứng minh sự hội tụ.

\tilde{S} := (I - D^{- 1} L) P P = (I - D^{- 1} L) P = (I - D^{- 1} L) (I - V_{0} V_{0}^{'}) = I - D^{- 1} L - V_{0} V_{0}^{'} .

$\tilde{S}:= (I-D^{-1}L) P P=(I-D^{-1}L) P=(I-D^{-1}L)(I-V_0V_0')\\ =I-D^{-1}L-V_0V_0'.$

S

$S$

Các trích dẫn sau đây là cũ và chỉ giữ lại để tham khảo. Xem sau để chứng minh mới.

Trong trường hợp của bạn, Và bạn có thể xác minh rằng là đúng diagonal-chi phối bằng cách sử dụng các giả định rằng các mục củalà tích cực đối với đường chéo và tiêu cực khác. Để hiển thị giá trị riêng của là có thật, chúng tôi lưu ý rằng ma trận tự điều chỉnh theo sản phẩm bên trong $V_0V_0'=\frac{1}{n}\mathbf{1}_{n\times n}.$ $D^{-1}L+V_0V_0'$ $L$ $D^{-1}L+V_0V_0'$ $<x,y>:=y^TDx.$

Nếu không ở dạng cụ thể của bạn, tôi chưa tìm thấy câu trả lời cho câu hỏi hội tụ. Ai đó có thể làm rõ điều này? $V_0$

Lưu ý rằng là eigen vector tương ứng với eigenvalue của . Dựa trên sự quan sát, chúng tôi gọi Định lý 2.1 từ Eigenvalues của ma trận cập nhật cấp một với một số ứng dụng của Jiu Đinh và Ai-Hui Zhou. $V_0$ $1$ $I-D^{-1}L$

Định lý 2.1 Gọi và là hai vectơ cột chiều, sao cho là một hàm riêng của liên kết với eigenvalue . Sau đó, các giá trị riêng của được đếm đa dạng đại số. $u$ $v$ $n$ $u$ $A$ $\lambda_1$ $A+uv^T$ $\{\lambda_1+u^Tv,\lambda_2,\ldots,\lambda_n\}$

Sau đó, chúng ta biết rằng quang phổ của giống như ngoại trừ giá trị riêng ở sau được chuyển bởi thành giá trị riêng 0 ở trước. Kể từ khi , chúng ta có . $\tilde{S}$ $I-D^{-1}L$ $1$ $-1$ $\rho(I-D^{-1}L)\subset (-1,1]$ $\rho(\tilde{S})\subset (-1,1)$

— Hui Zhang
nguồn

Cảm ơn đã trả lời. Một cái gì đó tương tự như những gì tôi đã xem xét: cụ thể, với Laplacian có trọng số có cấu trúc là

ở trên, có thể thấy rằng giá trị riêng của nó nằm trong

, do đó có bán kính quang phổ trong

(một giá trị riêng lớn hơn

và ít nhất một là

). Do đó, bán kính phổ của ma trận lặp

nhỏ hơn

, do đó với Jacobi hội tụ. Có lẽ giả định trên về bán kính quang phổ của

D^{- 1} L

$D^{-1}L$

[0, 2)

$[0, 2)$

(0, 2)

$(0, 2)$

0

$0$

0

$0$

I - D^{- 1} L

$I-D^{-1}L$

1

$1$

(không bao gồm

) có an toàn không?

I - D^{- 1} L

$I-D^{-1}L$

0

$0$

— dùng

Tôi nghĩ rằng phổ của

nên ở

, được đóng ở

. Tôi không biết làm thế nào bạn có thể loại trừ

. Theo quan điểm của tôi, (định lý vòng tròn Gershgorin) [ en.wikipedia.org/wiki/Gershgorin_circle_theorem] chỉ có thể đưa ra ước tính bao gồm

. Nếu đó là trường hợp, ước tính bán kính phổ của

là

với đẳng thức có thể đạt được với các vectơ trong nhân của

D^{- 1} L

$D^{-1}L$

[0, 2]

$[0,2]$

2

$2$

2

$2$

2

$2$

I - D^{- 1} L

$I-D^{-1}L$

\leq 1

$\leq 1$

L

$L$ . Tôi nghĩ rằng sự hội tụ mà bạn muốn là trong không gian bổ sung trực giao

như đã lưu ý trong 'câu trả lời' ở trên.

V_{1}

$V_1$

— Hui Zhang

Bạn có thể xem Bổ đề 1.7 (v) của math.ucsd.edu/~fan/research/cb/ch1.pdf Ma trận

có thể được coi là một Laplacian có trọng số trên một biểu đồ hoàn chỉnh, do đó loại trừ

. Tôi đoán đó là một đối số đủ cho bằng chứng hội tụ? ........... Cách tiếp cận của bạn có yêu cầu xử lý trước / sau khác của các lần lặp ngoài định tâm

. Tôi đang hỏi bởi vì bạn đã giới thiệu

Và liên quan đến phổ của

: cho rằng bán kính phổ (

) của

D^{- 1} L

$D^{−1}L$

2

$2$

c

$c$

V_{0}

$V_0$

I - D^{- 1} L - V_{0} V_{0}^{'}

$I-D^{-1}L-V_0V_0'$

s r

$sr$

là

, thêm

I - D^{- 1} L

$I-D^{-1}L$

(0, 1]

$(0, 1]$

, sẽ mang lại

. Đây không phải là một cuộc tranh luận đủ tốt sao?

- \frac{1}{n}

$-\frac{1}{n}$

s r < 1

$sr<1$

— dùng

Xin chào, cảm ơn bạn đã chỉ vào một cuốn sách tốt. Nhưng tôi thấy tôi không thể nhìn nhanh được. Về đối số cuối cùng của bạn, nó xuất hiện gần giống như "câu trả lời" ở trên. Hãy cẩn thận, bạn không thêm

nhưng

\frac{1}{n}

$\frac{1}{n}$

, vì vậy nó không phải là một bổ sung đơn giản để các

của

. Nói chung,

tổng của hai ma trậnkhông phảilàtổng đơn giản của

'của các ma trận riêng lẻ.

\frac{1}{n} 1_{n \times n}

$\frac{1}{n}\mathbf{1}_{n\times n}$

s r

$sr$

I - D^{- 1} L

$I-D^{-1}L$

s r

$sr$

s r

$sr$

— Hui Zhang

Thật tốt khi bạn chỉ ra điều đó. Cách tiếp cận của bạn có yêu cầu xử lý trước / sau khác của các lần lặp ngoài định tâm c. Tôi đang hỏi bởi vì bạn đã giới thiệu

và tôi nghĩ rằng bạn đang nói về việc phóng ra không gian trống. Nếu vậy, việc chiếu không gian rỗng có thực sự cần thiết cho sự hội tụ không?

V_{0}

$V_0$

— dùng

Các phương thức Krylov không bao giờ sử dụng một cách rõ ràng tính chiều của không gian mà chúng lặp đi lặp lại, do đó bạn có thể chạy chúng trên các hệ thống số ít miễn là bạn giữ các lần lặp trong không gian con không null. Điều này thường được thực hiện bằng cách chiếu ra không gian rỗng ở mỗi lần lặp. Có hai điều có thể sai, thứ nhất là phổ biến hơn nhiều so với thứ hai.

Điều kiện tiên quyết không ổn định khi áp dụng cho toán tử số ít. Người giải quyết trực tiếp và nhân tố không đầy đủ có thể có tính chất này. Là một vấn đề thực tế, chúng tôi chỉ chọn các điều kiện tiên quyết khác nhau, nhưng có nhiều cách nguyên tắc hơn để thiết kế các điều kiện tiên quyết cho các hệ thống số ít, ví dụ Zhang (2010) .
Ở một số lần lặp, nằm trong không gian con không null, nhưng sống hoàn toàn trong không gian null. Điều này chỉ có thể với ma trận không đối xứng. GMRES không được sửa đổi bị hỏng trong kịch bản này, nhưng hãy xem Reichel và Ye (2005) để biết các biến thể miễn phí. $x$ $A x$

Để giải quyết các hệ thống số ít bằng PETSc, xem KSPSetNullSpace(). Hầu hết các phương pháp và điều kiện tiên quyết có thể giải quyết các hệ thống số ít. Trong thực tế, không gian null nhỏ cho các PDE có điều kiện biên Neumann gần như không bao giờ là vấn đề miễn là bạn thông báo cho người giải Krylov về không gian null và chọn một điều kiện tiên quyết hợp lý.

$A x = b$ $b$ $A$ $b$

— Jed Brown
nguồn

Bạn có thể thực hiện thay đổi cơ sở trực giao sao cho có một số 0 trên đường chéo (tìm bất kỳ ma trận trực giao

trong đó cột đầu tiên là vectơ không đổi). Theo phép biến đổi này

, ma trận

vẫn là bán xác định dương đối xứng, nhưng mục nhập đường chéo đầu tiên là 0 nên ứng dụng trực tiếp của Jacobi sẽ thất bại. Vì

dày đặc, bạn sẽ không làm điều này trong thực tế, nhưng điều này cho thấy cơ sở là vấn đề. Nếu

là cơ sở trực giao cho không gian null, thì GMRES dự kiến chỉ là giải

Q

$Q$

A_{1} = Q^{T} A Q

$A_1 = Q^T A Q$

A_{1}

$A_1$

A_{1}

$A_1$

Z

$Z$

(I - Z) P^{- 1} A x = (I - Z) P^{- 1} b

$(I-Z)P^{-1} A x = (I-Z)P^{-1} b$

— Jed Brown

Hmm, có vẻ như tôi đã trả lời một bình luận đã bị xóa. Tôi sẽ để lại nhận xét ở đây trong trường hợp nó hữu ích.

— Jed Brown

d i a g (A)

$diag(A)$

X_{k + 1} = D^{- 1} (b - (A - D) X_{k})

$X_{k+1}=D^{-1}(b-(A-D)X_k)$

X_{k + 1}

$X_{k+1}$

X_{k}

$X_{k}$

N = Z Z^{T}

$N=ZZ^T$

Z

$Z$

I - N

$I-N$

Z

$Z$

N = I - Z Z^{T}

$N=I-ZZ^T$ là máy chiếu.)

— Jed Brown