Nếu loài người có thể tạo ra sự sống nhân tạo trong một cỗ máy, khi nào chúng ta sẽ định nghĩa nó là cái chết?

Người ta thực sự có thể giết một cái máy không? Chúng ta không chỉ gặp vấn đề trong việc xác định sự sống, chúng ta còn có vấn đề trong việc xác định cái chết. Điều này cũng sẽ đúng trong cuộc sống nhân tạo và trí tuệ nhân tạo?

Cái chết như chúng ta biết đối với cuộc sống tự nhiên là thiết bị đầu cuối. Đó là một khi đã chết, cuộc sống tự nhiên không thể quay trở lại (ít nhất là theo cách hiểu hiện tại và với các công nghệ hiện tại --- một số người tin khác).

Cái chết cho AI là khó khăn hơn. Có thể chỉ có một kịch bản: Sự hủy diệt toàn cầu: Kịch bản cực đoan trong đó mọi thứ hỗ trợ sự tồn tại của AI biến mất. Điều này tương đương với cái chết trong cuộc sống tự nhiên, và xác suất thấp. Nó có nghĩa là tất cả các AI chết cùng một lúc (cũng như chúng ta).

Chúng tôi cũng không biết mức độ và hình thức thể hiện cần thiết cho các AGI. Bây giờ chúng ta có thể giả định rằng phần cứng có thể thay thế vô thời hạn, do đó "hạn chế" cái chết trong kịch bản cực đoan nói trên. Nhưng "cơ thể" AGIs có thể không thể thay thế vô thời hạn. Sau đó, một định nghĩa gần hơn với cái chết tự nhiên có thể là cần thiết.

Chúng tôi thấy các đối số cho hai kịch bản khác, mà tôi bác bỏ dưới đây:

"Cái chết tĩnh": Một AI vẫn được "xác định" hoặc "được lưu" ở đâu đó (bất kể nó thực sự có nghĩa là gì), nhưng nó không được ủy quyền hoặc không thể sử dụng tài nguyên. Giả sử AI được làm bằng phần cứng và phần mềm, nó giống như một chương trình được lưu trữ trên đĩa, nhưng không được phép chạy.

"Cái chết động": Theo đặc tính của AI giống như phần cứng và phần mềm, cái chết động là sự vô hiệu của tiến trình gần giống với các đặc tính sinh lực mạnh mẽ , trong đó AI bị mắc kẹt trong một vòng lặp vô hạn (hoặc một vòng lặp trống), dưới dạng " cái chết tích cực ", như những gì xảy ra với Sisyphus trong thần thoại Hy Lạp. Điều này khác với cái chết tĩnh, vì AI vẫn sử dụng tài nguyên động, mặc dù nó không thể đạt được tiến bộ. Tiếp tục theo các giả định tương tự, AI như vậy có thể được "tải" trong bộ nhớ chính hoặc bị khóa chờ đầu vào hoặc đầu ra hoàn thành.

Lưu ý rằng trong hai kịch bản này, tái sinh là có thể, và họ cũng cho rằng có một thực thể có thể quyết định các điều kiện để tái sinh hoặc ngăn chặn hoàn toàn. Thực thể này sẽ là một "quản trị viên", một vị thần, các AI khác hay một con người thực sự là một câu hỏi khác.

Các thuật ngữ "cái chết" và "tái sinh" ở đây chỉ có thể được thay đổi thành "cầm tù", trong đó phiên bản động sẽ giống như nhà tù của con người chúng ta, và phiên bản tĩnh sẽ giống như SciFi cryogeny. Đây là một chút kéo dài, nhưng chúng ta có thể thấy một sự tương đương, và không có lý do chính đáng để đủ điều kiện hai kịch bản này là cái chết.

Tóm lại, cái chết đối với AI dường như là một kịch bản đặc biệt, đặc biệt, vì vậy AI không thể chết trong thực tế , ngoại trừ nếu chúng ta sai về cách chúng ta nghĩ rằng chúng ta có thể tạo ra AGI. AI tuy nhiên có thể bị cầm tù mãi mãi .

Lưu ý: Thuật ngữ ở trên là hoàn toàn trang điểm cho bài viết. Tôi không có trích dẫn để ủng hộ một số khiếu nại, nhưng nó dựa trên bài đọc và công việc cá nhân (bao gồm cả xác minh phần mềm).

Nếu AI phát sinh từ một quy trình sản xuất có thể nhân rộng (ví dụ như với các máy tính hiện đại), thì có lẽ có thể chụp ảnh trạng thái của AI và sao chép nó mà không gặp lỗi trên một số cơ chế khác.

Đối với cấu trúc như vậy, 'cái chết' không có nghĩa giống như hiện tại đối với các chất hữu cơ của chúng ta: nhiều bản sao của AI có thể được tạo ra bất cứ lúc nào.

Do đó, sự tương tự của cái chết cần thiết là một cái gì đó gần với 'cái chết nhiệt động lực học', trong đó AI không còn là 'công việc hữu ích' nữa.

Sử dụng đặc tính nhận thức / hành động tiêu chuẩn của AI, sau đó (như được nêu trong một bình luận bên dưới câu hỏi) câu hỏi AI SE này đưa ra định nghĩa về cái chết cho AI: tức là khi nó đi vào trạng thái mà nó không nhận được thêm sự chấp nhận nào và không có hành động.

EDIT: Lưu ý rằng khái niệm về cái chết này là một khái niệm thiết bị đầu cuối cho AI hơn là 'hiện không chạy'. Về nguyên tắc, người ta có thể nói rằng một chương trình là "sống" mặc dù chỉ có một lệnh được thực hiện sau mỗi 10.000 năm. Để có một cuộc thảo luận hấp dẫn về vấn đề này, hãy xem "Cuộc trò chuyện với bộ não của Einstein" .

"Cái chết" tồn tại như một khái niệm duy nhất bởi vì thực tế tiềm ẩn mà nó mô tả được kết hợp chặt chẽ với nhau và định nghĩa của chúng tôi đã thay đổi với khả năng thay đổi thực tế đó.

Có vẻ hợp lý hơn khi các loại khác nhau có thể được coi là "cái chết" sẽ bị tách ra và một từ khác sẽ được sử dụng để chỉ một hệ thống không có bản sao hiện đang chạy, so với một hệ thống không có phiên bản được lưu trữ nhưng có thể được tạo lại (vì mã và hạt giống ngẫu nhiên để tạo ra nó vẫn còn đó), so với một hệ thống đã bị mất hoàn toàn. (Và tôi có thể thiếu một số khả năng!)

Tôi không nghĩ thuật ngữ "cái chết" sẽ có ý nghĩa gì với AI. Lý do tôi nói đó là: với một AI, chạy (có lẽ là) trên phần cứng kỹ thuật số, chúng ta có thể chỉ cần chụp nhanh trạng thái từ bộ nhớ bất cứ lúc nào. Và sau đó tại bất kỳ thời điểm tùy ý nào trong tương lai, chúng ta có thể tạo lại nó như với sự trung thực hoàn hảo.

Vì vậy, ngay cả khi bạn chấm dứt một chương trình dự định nó sẽ "chết", bạn sẽ không bao giờ biết liệu ai đó sẽ xuất hiện sau đó và đưa nó trở lại. Và có lẽ nhiều hơn, bạn có thể không biết nếu một bản sao khác tồn tại ở nơi khác.

Tôi ghét sử dụng tài liệu tham khảo khoa học viễn tưởng, nhưng điều này là thích hợp: hãy nhớ làm thế nào trong các chương trình bộ ba Ma trận sẽ tìm cách lưu vong trong Ma trận để tránh bị xóa? Có lẽ điều tương tự sẽ xảy ra với AI của chúng ta ... họ sẽ tự sao chép sang nơi khác và cố gắng che giấu, để tránh bị xóa. Vì vậy, nếu chương trình đủ thông minh, nó có thể tránh được mọi nỗ lực chấm dứt chương trình.

Các câu trả lời khác dường như đối phó với "cái chết cuối cùng" ... đó là trạng thái "kết thúc cuối" nơi AI không thể phục hồi. Nói cách khác, AI không thể hoạt động thêm nữa.

Nhưng đó không phải là cách tôi định nghĩa cái chết. Tôi định nghĩa cái chết là một quá trình bị chấm dứt. Sẽ không có vấn đề gì nếu ai đó khởi động lại cùng một quy trình, bởi vì quy trình hiện tại đã chết. AI có thể vừa tạo một bản sao mới của chính nó, nhưng nó chỉ là một bản sao chứ không phải bản gốc. Cái chết chỉ là cái chết.

Chúng ta có thể gọi loại "cái chết" này là "cái chết tạm thời" ... nơi cơ thể vật chất chết đi nhưng có một số "liên tục tâm lý" (chẳng hạn như mã nguồn được sử dụng để chạy một chương trình) tiếp tục giữa các cơ thể khác nhau .

Kiểu "cái chết tạm thời" này đã được khám phá trong khoa học viễn tưởng. PARANOIA và Eclipse Phase có những người có thể thường xuyên chết, chỉ sau đó mới được khôi phục thông qua "sao lưu bộ nhớ". Con người có thể bất tử về mặt chức năng ... nhưng bản gốc vẫn chết, bất kể số phận mà các bản sao khác gặp phải là gì. CGP Gray cũng đã làm một video về dịch chuyển tức thời Star Trek , hoạt động bằng cách giết bạn và sau đó sinh ra một bản sao khác của bạn ở một khu vực khác. Trên thực tế, các thiết lập giả tưởng cũng khám phá ý tưởng về "cái chết tạm thời", nơi mọi người chỉ có thể chết để sau đó được hồi sinh nhờ một phép thuật.

Lời khuyên của tôi là chơi qua trò chơi triết học Ở lại sống , dạy ba cách tiếp cận triết học khác nhau cho cuộc sống (và khi cuộc sống đó chấm dứt):

Về cơ bản có ba loại điều có thể được yêu cầu cho sự tồn tại liên tục của bản thân bạn. Một là sự liên tục của cơ thể, mà thực sự có thể chỉ yêu cầu các bộ phận của cơ thể tồn tại (tức là bộ não). Một cái khác là sự liên tục tâm lý, đòi hỏi sự tiếp tục của ý thức của bạn - có nghĩa là suy nghĩ, ý tưởng, ký ức, kế hoạch, niềm tin của bạn, v.v. Khả năng thứ ba là sự tồn tại liên tục của một loại phần phi vật chất của bạn, có thể được gọi là linh hồn *. Tất nhiên, đó có thể là trường hợp kết hợp một hoặc nhiều loại liên tục này là bắt buộc để bạn tồn tại.

Các câu trả lời khác cho rằng cuộc sống dựa trên "sự liên tục tâm lý" và xem xét điều gì có thể phá vỡ "sự liên tục" này. Tôi cho rằng cuộc sống dựa trên "tính liên tục của cơ thể", việc phá vỡ dễ dàng hơn nhiều - chỉ cần giết quá trình ... không thành vấn đề nếu một quy trình mới xuất hiện ... bởi vì quy trình ban đầu vẫn còn chết. Bằng cách chơi qua "Sống còn sống" , bạn sẽ có thể tìm ra định nghĩa cá nhân của mình về sự sống và cái chết. Khi bạn có định nghĩa cá nhân của riêng mình, sau đó chỉ cần áp dụng nó cho trường hợp cụ thể này, hoặc là "liên tục tâm lý" (các câu trả lời khác) hoặc "liên tục cơ thể" (ý kiến ​​của riêng tôi).

_{* Nếu bạn cho rằng cuộc sống cần có linh hồn, thì không rõ AI sẽ có linh hồn. Nếu họ không (và đây có vẻ là giả định hợp lý nhất ở đây), thì rõ ràng họ sẽ không còn sống (và bạn không thể chết nếu bạn không còn sống). Nếu họ làm có linh hồn tuy nhiên, sau đó các câu trả lời khác mà giả "liên tục tâm lý" có thể vẫn được áp dụng, vì nó có vẻ như sự tồn tại của một "linh hồn" là phụ thuộc vào "tính liên tục tâm lý".}

Sự khác biệt giữa thuật toán / robot và con người là, khi sinh vật người ngừng hoạt động, con người được coi là đã chết.

Ngược lại, một thuật toán vẫn tồn tại, ngay cả khi không chạy. (Tôi sẽ sử dụng "ngay cả khi không được thực thi", nhưng tránh điều này vì lý do ngữ nghĩa;) Thuật toán có thể vẫn ở "trạng thái ngưng trệ" này miễn là có phương tiện lưu trữ thông tin.

• Giết một thuật toán thật dễ dàng - xóa và dọn sạch thùng rác.

Về cơ bản, để tiêu diệt một thuật toán, bạn cần xóa mã bao gồm nó.

Không có lý do để đối xử với AI cứng khác với con người. Một số người nói rằng bạn có thể tạo ảnh chụp nhanh về AI nhưng không có lý do gì để không tạo ảnh chụp nhanh cho con người. Chúng tôi không có công nghệ cho điều đó nhưng không có bất kỳ rào cản kỳ diệu nào có thể làm cho điều đó là không thể (lưu tất cả dữ liệu sinh học và sau đó in bản sao của bạn ở một nơi khác. Tại sao không?).

Vẫn còn sớm để nói về điều này vì chúng ta không hiểu sự tồn tại của chúng ta (Thuật ngữ tử thần cho các sinh vật phát triển mọi lúc).

Tôi cá rằng trong tương lai chúng ta sẽ hợp nhất với AI và câu hỏi duy nhất sẽ là cái chết có ý nghĩa gì đối với bất kỳ sự tồn tại thông minh nào.