Một điểm kỳ dị công nghệ chỉ có thể xảy ra với siêu trí tuệ?

Trong Chương 26 của cuốn sách Trí tuệ nhân tạo: Cách tiếp cận hiện đại (ấn bản thứ 3), sách giáo khoa thảo luận về "điểm kỳ dị công nghệ". Nó trích dẫn IJ Good, người đã viết vào năm 1965:

Hãy để một cỗ máy cực kỳ thông minh được định nghĩa là một cỗ máy có thể vượt xa mọi hoạt động trí tuệ của bất kỳ người đàn ông nào dù thông minh đến đâu. Vì thiết kế của máy móc là một trong những hoạt động trí tuệ này, một cỗ máy cực kỳ thông minh có thể thiết kế những cỗ máy thậm chí còn tốt hơn; sau đó chắc chắn sẽ có một "vụ nổ trí thông minh", và trí thông minh của con người sẽ bị bỏ lại phía sau. Do đó, cỗ máy siêu thông minh đầu tiên là phát minh cuối cùng mà con người cần tạo ra, với điều kiện cỗ máy đó đủ ngoan ngoãn để cho chúng ta biết làm thế nào để kiểm soát nó.

Sau này trong sách giáo khoa, bạn có câu hỏi này:

26.7 - IJ Good tuyên bố rằng trí thông minh là chất lượng quan trọng nhất và việc xây dựng những cỗ máy siêu thông minh sẽ thay đổi mọi thứ. Một con báo cheetah cảm tính rằng "Thực ra tốc độ là quan trọng hơn, nếu chúng ta có thể chế tạo máy cực nhanh, điều đó sẽ thay đổi mọi thứ" và một con voi tình cảm tuyên bố "Bạn đã sai cả, thứ chúng ta cần là máy siêu tốc," Bạn nghĩ gì về những thứ này tranh luận?

Có vẻ như câu hỏi trong sách giáo khoa là một lập luận ngầm chống lại IJ Good. Tốt có thể coi trí thông minh là có giá trị, đơn giản vì sức mạnh của con người nằm ở đặc điểm đó gọi là "trí thông minh". Nhưng những đặc điểm khác có thể được đánh giá như nhau thay vào đó (tốc độ hoặc sức mạnh) và chúng sinh có thể suy đoán dữ dội về những đặc điểm ưa thích của họ được "tối đa hóa" bởi một số máy hoặc một máy khác.

Điều này khiến tôi tự hỏi liệu một điểm kỳ dị có thể xảy ra nếu chúng ta chế tạo ra những cỗ máy không phát huy tối đa trí thông minh, mà thay vào đó là tối đa hóa một số đặc điểm khác (một cỗ máy luôn tăng sức mạnh hoặc một cỗ máy luôn tăng tốc độ). Những loại máy này có thể giống như biến đổi - máy cực nhanh có thể giải quyết vấn đề nhanh chóng do "lực lượng vũ phu" và máy siêu nhanh có thể sử dụng năng lượng thô của nó cho nhiều nhiệm vụ vật lý khác nhau. Có lẽ một máy ultra X không thể chế tạo một máy ultra X khác (vì IJ Good coi thiết kế của máy như một hoạt động trí tuệ), nhưng một cỗ máy tự cải tiến liên tục vẫn sẽ bỏ xa những người tạo ra nó và buộc người tạo ra nó phụ thuộc vào nó

Là điểm kỳ dị công nghệ giới hạn trong siêu thông minh? Hoặc sự kỳ dị về công nghệ được gây ra bởi những cỗ máy không phải là "AI mạnh" nhưng vẫn là "cực đại"?

Đó sẽ là điều không nên đối với tốc độ hay sức mạnh, nếu bạn có một thực thể siêu mạnh nhưng không thể nghiên cứu các vật liệu mới, nó sẽ nhanh chóng bị hạn chế, điều tương tự đối với tốc độ, Về cơ bản, bạn cần một thứ gì đó ngoài lĩnh vực của chúng để cải thiện chúng, điều này làm cho một cải tiến chạy trốn không thể.

Mặc dù, chúng ta đã có những cỗ máy siêu mạnh và siêu nhanh, đó là ô tô, xe tải, máy ép thủy lực, khung công nghiệp v.v ... Nhưng, mặc dù chúng ta có thể chế tạo những chiếc tốt hơn thông qua việc sử dụng những cái cũ, chúng ta vẫn cần nghiên cứu công cụ điều đó không thể được cải thiện bởi những cái cũ.

Những gì chúng ta cần cho một điểm kỳ dị là một lĩnh vực mà sự cải tiến trong đó giúp cải thiện hơn nữa dễ dàng hơn. Và tôi không biết một lĩnh vực mà điều này không liên quan đến trí thông minh. Nếu có một, điều đó có thể có một điểm kỳ dị không do trí thông minh điều khiển ở đó.

"Monte Carlo" dường như là phương pháp tốt nhất hiện nay cho sự sáng tạo thuật toán. (tức là máy đưa ra các lựa chọn ngẫu nhiên và xem liệu chúng có dẫn đến điều gì hữu ích không.)

Mặc dù rõ ràng là các kết nối sáng tạo được hình thành từ sự hiểu biết là vượt trội so với các kết nối ngẫu nhiên, nếu máy đủ nhanh, nó sẽ có thể chiến thắng nhờ "lực lượng vũ phu" thuần túy.

tức là Evolution, trước sự hướng dẫn của con người, không được dựa trên trí thông minh. * Thay vào đó, tiến hóa dựa trên các đột biến ngẫu nhiên có lợi hoặc bất lợi.

* Thông báo trước là con người tạo ra các thuật toán và thay đổi gen (trong phòng thí nghiệm hoặc thông qua chăn nuôi và làm vườn) có thể nói là bao gồm một hình thức tiến hóa mới thực sự bắt nguồn từ trí tuệ và ham muốn của con người.

Đây có thể không phải là những gì bạn đang tìm kiếm, nhưng về mặt kỹ thuật thì có. Mặc dù không phải vì Tốc độ và Sức mạnh. Nhưng bạn có thể đoán ngẫu nhiên các giải pháp Toán học / Vật lý / hóa học mới để trở nên hiệu quả hơn trong việc đoán ngẫu nhiên (về cơ bản là bất cứ điều gì cho phép máy tính nhanh hơn và có thể mô phỏng hiệu ứng của những phát hiện đó) do đó về mặt kỹ thuật đạt được một thứ tương tự như một điểm kỳ dị, mà không cần phải có thực sự có bất kỳ Trí thông minh nào (hoặc chỉ ở cấp độ con người), vì bạn chỉ có thể vũ phu tất cả.

Đây có phải là hiệu quả? Không, thậm chí không gần với bất kỳ cách nào khả thi. Nó có hoạt động không? Về mặt kỹ thuật, Có.

Nó sẽ là một điểm kỳ dị của các loại, vì nó tự cải thiện liên tục, nhưng nó sẽ không cần phải cải thiện trí thông minh của chính nó.

Tất nhiên, một số phát hiện có thể khiến nó trở nên thông minh hơn, nhưng hãy giả sử rằng nó không áp dụng những phát hiện đó cho chính nó.