Các thành phần cần thiết để làm cho tác nhân AI có khả năng tự lập trình là gì?

Một tác nhân AI thường được cho là có các thành phần "cảm biến", "bộ nhớ", "bộ xử lý học máy" và "phản ứng". Tuy nhiên, một cỗ máy với những thứ này không nhất thiết phải trở thành một tác nhân AI tự lập trình. Ngoài các phần được đề cập ở trên, còn có yếu tố hay chi tiết nào khác cần thiết để tạo ra một cỗ máy có khả năng trở thành tác nhân AI tự lập trình không?

Ví dụ, một bài báo từ năm 2011 đã tuyên bố rằng giải quyết vấn đề tối ưu hóa tối đa hóa trí thông minh là một tính năng bắt buộc cho quá trình tự lập trình, như được trích dẫn dưới đây:

Một hệ thống được cho là thực hiện một ví dụ về tự lập trình khi nó trải qua quá trình tìm hiểu về một số yếu tố của "cơ sở hạ tầng nhận thức", trong đó hệ thống được định nghĩa là tập hợp mờ của các tính năng "quan trọng về trí thông minh" của hệ thống; và mức độ quan trọng của trí thông minh của một tính năng hệ thống được định nghĩa là "chất lượng tính năng" của nó, được xem xét từ góc độ giải quyết vấn đề tối ưu hóa để tối đa hóa trí thông minh của hệ thống đa tính năng.

Tuy nhiên, mô tả về "tối ưu hóa trí thông minh" này là mơ hồ. Bất cứ ai cũng có thể đưa ra một định nghĩa rõ ràng hoặc tóm tắt tốt hơn cho các thành phần cần thiết cho các tác nhân tự lập trình?

_{Câu hỏi này là từ phiên bản beta kín 2014, với người hỏi có UID là 23.}

machine-learning computer-programming

— Mithical
nguồn

Đây là từ cuối cùng để tự tối ưu hóa: arxiv.org/abs/cs/0309048

— NietzscheanAI

Cảm ơn sự hồi sinh của nội dung bị mất và tốt trong bản beta bị mất. :-)

— peterh - Phục hồi Monica

Ở mức cao nhất, tất cả những gì nó cần là cho các hệ thống khác nhau đã được thảo luận để kết hợp các đối tượng mã. Nếu nó có thể diễn giải kiến trúc mã / mô hình nguồn của nó từ các đối tượng văn bản được định dạng làm cơ sở cho chúng, có thể 'hiểu' chúng theo cách có một mô hình ML hữu ích và thay đổi mã theo phản ứng của nó, thì nó có thể tự lập trình.

Đó là, vòng lặp cơ bản đằng sau một trí thông minh cải thiện đệ quy là đơn giản. Nó tự kiểm tra, viết một phiên bản mới, và sau đó phiên bản mới đó tự kiểm tra và viết một phiên bản mới, v.v.

Các thành phần khó khăn đến ở cấp độ thấp hơn. Chúng ta không cần phải phát minh ra một khái niệm mới như 'cảm biến', điều chúng ta cần làm là xây dựng các cảm biến rất, rất tinh vi, tương đương với nhiệm vụ hiểu mã đủ tốt để phát hiện và viết các cải tiến.

— Matthew Graves
nguồn

Mặc dù phản ứng khoa học máy tính giật đầu gối đối với các tuyên bố về các hệ thống hiểu mã riêng của họ thường là để trích dẫn vấn đề tạm dừng, nhưng hóa ra các phương pháp tiếp cận AI có gì đó hữu ích để nói về điều đó: cs.stackexchange.com/questions/62393/ Tiết

— NietzscheanAI

Đúng vậy, Vấn đề dừng là một định lý không có lý do để hiểu đầy đủ tất cả các mã có thể , nhưng không ngăn người ta hiểu rõ về hầu hết các mã mà bạn thực sự gặp phải.

— Matthew Graves

Trên thực tế, vấn đề tạm dừng chỉ thực sự áp dụng cho 'máy quay' là các cấu trúc toán học thuần túy không thực sự tồn tại (ví dụ, chúng yêu cầu một băng vô hạn cho bộ nhớ không giới hạn) và có thể chạy trong một thời gian vô hạn. Máy tính trong thế giới thực có số lượng bộ nhớ hạn chế. Có nhiều cách để viết phần mềm có thể được xác minh chính thức (Idris, Coq). Sử dụng các loại phụ thuộc. Giới hạn kích thước của một mảng (tức là <số lượng hoặc ram). Không cho phép một chương trình tự sửa đổi trong bộ nhớ theo cách có thể vi phạm các bằng chứng chính thức. Không có vòng lặp vô hạn. Không có vòng lặp byte / chia cho số không. V.v ...

— David C. Giám mục