Biến mã trong hàm nlm ()

Trong R có một hàm nlm () thực hiện tối thiểu hóa hàm f bằng thuật toán Newton-Raphson. Cụ thể, hàm đó xuất ra giá trị của mã biến được định nghĩa như sau:

mã một số nguyên cho biết tại sao quá trình tối ưu hóa kết thúc.

1: độ dốc tương đối gần bằng 0, lặp hiện tại có lẽ là giải pháp.

2: lặp liên tiếp trong phạm vi dung sai, lặp hiện tại có lẽ là giải pháp.

3: bước toàn cầu cuối cùng không thể xác định được điểm thấp hơn ước tính. Ước tính là mức tối thiểu gần đúng cục bộ của hàm hoặc steptol quá nhỏ.

4: vượt quá giới hạn lặp.

5: kích thước bước tối đa stepmax vượt quá năm lần liên tiếp. Hàm này không bị ràng buộc bên dưới, trở nên tiệm cận với giá trị hữu hạn từ phía trên theo một số hướng hoặc stepmax quá nhỏ.

Ai đó có thể giải thích cho tôi (có thể sử dụng một minh họa đơn giản với chức năng chỉ có một biến) cho các tình huống tương ứng 1-5 không?

Ví dụ: tình huống 1 có thể tương ứng với hình ảnh sau:

Cảm ơn bạn trước!

Những tình huống này được hiểu rõ hơn khi nghĩ đến việc tối thiểu hóa hoặc tối đa hóa thực sự là gì và cách tối ưu hóa hoạt động.

Giả sử chúng ta có hàm có tối thiểu cục bộ tại . Các phương thức tối ưu hóa cố gắng xây dựng chuỗi hội tụ đến . Về mặt lý thuyết, trình tự được xây dựng hội tụ đến điểm cực tiểu cục bộ đối với một số lớp hàm .$f$$x_0$$x_i$$x_0$$f$

Để có được ứng cử viên tiếp theo trong lần lặp có thể là một quá trình dài, do đó, thông thường tất cả các thuật toán đều giới hạn số lần lặp. Điều này tương ứng với tình huống 4 .$i$

Sau đó, với mỗi gần với chúng ta có . Vì vậy, nếu thì đây là một dấu hiệu cho thấy chúng tôi đạt đến mức tối thiểu. Điều này tương ứng với tình huống 3$x$$x_0$$f(x)>f(x_0)$$f(x_i)>f(x_{i-1})$

Bây giờ nếu hàm có đạo hàm tại thì nhất thiết . Phương pháp Newton-Raphson tính toán độ dốc ở mỗi bước, vì vậy nếu , có thể là một giải pháp, tương ứng với tình huống 1 .$f$$x_0$$\nabla f(x_0)=0$$\nabla f(x_i)\approx 0$$x_i$

Mỗi chuỗi hội tụ của các vectơ thực là chuỗi Cauchy và ngược lại, có nghĩa là nếu gần với , thì gần với và ngược lại, trong đó là số lần lặp. Vì vậy, nếu và chúng ta biết rằng trong lý thuyết hội tụ đến , thì chúng ta nên ở gần điểm tối thiểu. Điều này tương ứng với tình huống 2 .$x_i$$x_0$$x_i$$x_{i+1}$$i$$|x_i-x_{i-1}|<\varepsilon$$x_i$$x_0$

Chuỗi hội tụ có thuộc tính mà chúng hợp đồng, nghĩa là nếu chúng ta gần hội tụ tất cả các yếu tố còn lại của chuỗi được chứa trong một khu vực nhỏ. Vì vậy, nếu chuỗi trong lý thuyết nên hội tụ bắt đầu thực hiện các bước lớn thì đây là một dấu hiệu cho thấy không có khả năng hội tụ. Điều này tương ứng với tình huống 5

Lưu ý Định nghĩa toán học nghiêm ngặt đã bị bỏ qua có chủ ý.