Các tiêu chí dừng cho các bộ giải tuyến tính lặp được áp dụng cho các hệ thống gần như số ít

Xét với gần như số ít có nghĩa là có một giá trị riêng của rất nhỏ. Tiêu chí dừng thông thường của phương pháp lặp dựa trên và liên quan đến các lần lặp có thể dừng khi với n số lần lặp. Nhưng trong trường hợp chúng tôi đang xem xét, có thể có lỗi lớn v sống trong không gian eigens không liên quan đến eigenvalue nhỏ \ lambda_0 mang lại số dư nhỏ Av = \ lambda_0v . Giả sử r_0 còn lại ban đầu lớn, thì có thể chúng ta dừng lại ởMột λ 0 Một r n : = b - Một x n ‖ r n ‖ / ‖ r 0 ‖ < t o l n v λ 0 Một v = λ 0 v r 0 ‖ r n ‖ / ‖ r 0 ‖ < T o $Ax=b$$A$$\lambda_0$$A$$r_n:=b-Ax_n$$\|r_n\|/\|r_0\|<tol$$n$$v$$\lambda_0$$Av=\lambda_0v$$r_0$$\|r_n\|/\|r_0\|<tol$ nhưng lỗi $x_n-x$ vẫn còn lớn. Một chỉ báo lỗi tốt hơn trong trường hợp này là gì? Là $\|x_{n}-x_{n-1}\|$một ứng cử viên tốt?

Vui lòng không bao giờ sử dụng sự khác biệt giữa các lần lặp liên tiếp để xác định tiêu chí dừng. Điều này chẩn đoán sai sự trì trệ cho sự hội tụ. Hầu hết các lần lặp ma trận không đối xứng không phải là đơn điệu, và thậm chí GMRES trong số học chính xác không có khởi động lại có thể bị đình trệ cho một số lần lặp tùy ý (lên đến kích thước của ma trận) trước khi hội tụ đột ngột. Xem các ví dụ trong Nachtigal, Reddy và Trefethen (1993) .

Một cách tốt hơn để xác định sự hội tụ

Chúng tôi thường quan tâm đến độ chính xác của giải pháp của chúng tôi nhiều hơn kích thước của phần dư. Cụ thể, chúng tôi có thể muốn đảm bảo rằng sự khác biệt giữa một giải pháp gần đúng và giải pháp chính xác x thỏa mãn | x n - x | < c cho một số người dùng chỉ định c . Nó chỉ ra rằng có thể đạt được điều này bằng cách tìm một x n sao cho | A x n - b | < C ε nơi ε là giá trị đơn lẻ nhỏ nhất của A , do$x_n$$x$

trong đó chúng ta đã sử dụng là giá trị số đơn lớn nhất của A - 1 (dòng thứ hai) và x chính xác giải A x = b (dòng thứ ba).$1/\epsilon$$A^{-1}$$x$$A x = b$

Ước tính giá trị đơn lẻ nhỏ nhất $\epsilon$

Một ước tính chính xác của giá trị số ít nhất thường không có sẵn trực tiếp từ vấn đề, nhưng nó có thể được ước tính như một sản phẩm phụ của độ dốc liên hợp hoặc phép lặp GMRES. Lưu ý rằng mặc dù ước tính về giá trị riêng lớn nhất và giá trị đơn lẻ thường là khá tốt chỉ sau một vài lần lặp lại, một ước tính chính xác của nhỏ eigen / giá trị đơn lẻ thường chỉ thu được một lần hội tụ là đạt. Trước khi hội tụ, ước tính nhìn chung sẽ lớn hơn đáng kể so với giá trị thực. Điều này cho thấy rằng bạn thực sự phải giải quyết các phương trình trước khi bạn có thể xác định chính xác sự khoan dung c ε . Dung sai hội tụ tự động có độ chính xác do người dùng cung cấp $\epsilon$$c\epsilon$$c$cho các giải pháp và dự toán giá trị đơn lẻ nhỏ nhất với tình trạng hiện thời của phương pháp Krylov có thể hội tụ quá sớm vì ước lượng ε là lớn hơn nhiều so với giá trị thực.$\epsilon$$\epsilon$

Ghi chú

1. Các cuộc thảo luận ở trên cũng hoạt động với thay thế bằng toán tử tiền điều kiện bên trái P - 1 A và phần dư P - 1 ( A x n - b ) tiền điều kiện hoặc với toán tử tiền điều kiện bên phải A P - 1 và lỗi P ( x n - x ) . Nếu P - $A$$P^{-1}A$$P^{-1} (A x^n - b)$$A P^{-1}$$P (x_n - x)$$P^{-1}$là một điều kiện tiên quyết tốt, toán tử tiền điều kiện sẽ được điều hòa tốt. Đối với điều kiện tiên quyết trái, điều này có nghĩa là phần dư tiền điều kiện có thể được làm nhỏ, nhưng phần dư thực sự có thể không. Đối với điều kiện tiên quyết đúng, dễ dàng thực hiện nhỏ, nhưng lỗi thực sự | x n - x | có thể không. Điều này giải thích tại sao điều kiện tiên quyết bên trái là tốt hơn để tạo ra lỗi nhỏ trong khi điều kiện tiên quyết bên phải là tốt hơn để làm cho phần dư nhỏ (và để gỡ lỗi các điều kiện tiên quyết không ổn định).$|P(x_n - x)|$$|x_n-x|$
2. Xem câu trả lời này để biết thêm thảo luận về các tiêu chuẩn được tối thiểu hóa bởi GMRES và CG.
3. Các ước tính của các giá trị số ít cực có thể được theo dõi bằng -ksp_monitor_singular_valuebất kỳ chương trình PETSc nào. Xem KSPComputeExtremeSingularValues ​​() để tính các giá trị số ít từ mã.
4. Khi sử dụng GMRES để ước tính các giá trị số ít, điều quan trọng là không khởi động lại (ví dụ như -ksp_gmres_restart 1000trong PETSc).

Một cách khác để xem xét vấn đề này là xem xét các công cụ từ các vấn đề nghịch đảo rời rạc, đó là các vấn đề liên quan đến việc giải hoặc min | | A x - b | | 2 nơi A là rất ốm lạnh (tức là tỷ lệ giữa giá trị đặc biệt đầu tiên và cuối cùng σ 1 / σ n là lớn).$Ax=b$$\min ||Ax-b||_2$$A$$\sigma_1/\sigma_n$

Ở đây, chúng tôi có một số phương pháp để chọn tiêu chí dừng và đối với phương pháp lặp, tôi sẽ đề xuất tiêu chí đường cong L vì nó chỉ liên quan đến số lượng đã có sẵn (DISCLAIMER: Cố vấn của tôi đã tiên phong cho phương pháp này, vì vậy tôi chắc chắn thiên về phương pháp này nó). Tôi đã sử dụng điều này với thành công trong một phương pháp lặp.

Ý tưởng là theo dõi định mức dư và định mức giải pháp η k = | | x k | | 2 , trong đó x k là lần lặp thứ k . Khi bạn lặp lại, điều này bắt đầu vẽ hình dạng của L trong một biểu đồ loglog (rho, eta), và điểm ở góc của L là lựa chọn tối ưu.$\rho_k=||Ax_k-b||_2$$\eta_k=||x_k||_2$$x_k$$k$

Điều này cho phép bạn thực hiện một tiêu chí mà bạn để mắt đến khi bạn đã vượt qua góc (tức là nhìn vào độ dốc của ), sau đó chọn lặp đi lặp lại ở góc.$(\rho_k,\eta_k)$

Con đường tôi đã làm nó liên quan đến lưu trữ 20 lặp cuối cùng, và nếu gradient là lớn hơn so với một số ngưỡng 20 lần lặp liên tiếp, tôi biết rằng tôi là trên một phần thẳng đứng của đường cong và rằng tôi đã vượt qua góc. Sau đó, tôi lấy lần lặp đầu tiên trong mảng của mình (tức là lần lặp 20 lần trước) làm giải pháp của tôi.$abs(\frac{\log(\eta_k)-\log(\eta_{k-1})}{\log(\rho_k)-\log(\rho_{k-1})})$

Ngoài ra còn có các phương pháp chi tiết hơn để tìm góc, và chúng hoạt động tốt hơn nhưng yêu cầu lưu trữ một số lượng đáng kể các lần lặp. Chơi xung quanh với nó một chút. Nếu bạn đang ở trong MATLAB, bạn có thể sử dụng Công cụ chính quy hóa hộp công cụ, thực hiện một số điều này (cụ thể là chức năng "góc" được áp dụng).

Lưu ý rằng phương pháp này đặc biệt phù hợp với các vấn đề quy mô lớn, vì thời gian tính toán thêm có liên quan là rất nhỏ.