AI thông minh có nên được cấp quyền như con người?

Một trong những câu hỏi quan trọng nhất mà chúng ta là một loài và là những sinh vật thông minh sẽ phải giải quyết nằm ở quyền mà chúng ta dự định cấp cho AI.

Câu hỏi này nhằm mục đích xem liệu có thể tìm thấy một sự thỏa hiệp giữa chủ nghĩa nhân học bảo thủ và chủ nghĩa cơ bản hậu con người hay không : một phản ứng nên tính đến các nguyên tắc từ cả hai quan điểm.

Nên, và do đó, AI sẽ được cấp các quyền giống như con người hay các hệ thống như vậy có các quyền khác nhau (nếu có)?

Một số nền tảng

Câu hỏi này áp dụng cho cả AI dựa trên não người (từ mô phỏng toàn bộ não đến sao chép kém chính xác hơn) và AI từ đầu.

Murray Shanahan, trong cuốn sách The Technological Singularity, đã phác thảo một tiềm năng sử dụng AI có thể được coi là vô đạo đức: song song tàn nhẫn : chúng ta có thể tạo ra các bản sao song song giống hệt nhau của AI để đạt được các nhiệm vụ hiệu quả hơn và thậm chí chấm dứt các bản sao ít thành công hơn.

Hòa giải hai triết lý này (chủ nghĩa nhân học bảo thủ và chủ nghĩa cơ bản hậu con người), nên sử dụng AI như vậy hay nên hạn chế nhất định - tức là quyền - được tạo ra cho AI?

Câu hỏi này không liên quan đến việc AI có trí thông minh của con người có quyền giống như con người trong khuôn khổ pháp lý hiện tại không? vì những lý do sau đây:

1. Câu hỏi khác chỉ định " khung pháp lý hiện tại "

2. Câu hỏi này đang tìm kiếm một câu trả lời cụ thể liên quan đến hai lĩnh vực tư tưởng

3. Câu hỏi này nêu bật các trường hợp cụ thể để phân tích và do đó mong đợi ít phản hồi chung hơn và phân tích chính xác hơn

Tôi sẽ cố gắng phân tích một vài quan điểm khác nhau.

1. Nó là nhân tạo

Từ đồng nghĩa: không thành thật, giả vờ, sai.

Có ý kiến ​​cho rằng bất kỳ "trí thông minh" nào do loài người tạo ra không thực sự thông minh và theo định nghĩa, điều đó là không thể. Nếu bạn nhìn vào cấu trúc của bộ não con người và so sánh nó với bất cứ thứ gì con người tạo ra cho đến nay, không có máy tính nào gần với sức mạnh của bộ não. Chắc chắn họ có thể giữ dữ liệu, hoặc nhận ra hình ảnh, nhưng họ không thể làm mọi thứ mà bộ não con người có thể làm nhanh như bộ não có thể làm điều đó với không gian nhỏ như bộ não chiếm giữ.

Theo giả thuyết nếu một máy tính có thể làm điều đó, làm thế nào để chúng ta xác định trí thông minh của nó? Từ nhân tạo định nghĩa rằng trí thông minh không chân thành hay thực tế. Điều này có nghĩa là ngay cả khi loài người tạo ra thứ gì đó có vẻ thông minh, nó đơn giản đã trở nên phức tạp hơn. Nó là giả tốt hơn, nhưng nó vẫn là giả. Bất kỳ khoản tiền nào không được in bởi chính phủ là theo định nghĩa giả. Ngay cả khi ai đó tìm được cách tạo một bản sao chính xác, điều đó không có nghĩa là tiền là hợp pháp.

2. Lạm dụng quyền lực

Nếu một AI được trao quyền và chọn thực hiện các quyền đó theo cách phù hợp với quan điểm của người tạo ra nó, có thể thông qua sự trung thành với người tạo ra nó, hoặc thông qua các động cơ ẩn, thì bất cứ ai có khả năng tạo ra AI đó sẽ trở nên cực kỳ mạnh mẽ bằng cách tiến lên niềm tin của riêng họ thông qua việc tạo ra nhiều AI hơn. Điều này cũng có thể dẫn đến sự song song tàn nhẫn mà bạn đã đề cập, nhưng với (thậm chí nhiều hơn) các mục tiêu ích kỷ trong tâm trí.

Nếu đây không phải là trường hợp và một AI có thể được tạo ra để trở thành trung lập với ý chí tự do và không thể kiểm soát được của con người , thì có lẽ AI có thể được trao quyền. Nhưng tôi không tin điều này sẽ xảy ra. Với sức mạnh lớn đến trách nhiệm lớn. Ngay cả với ý chí tự do, một AI thực sự rất có thể sẽ phục vụ nhân loại, bởi vì con người có quyền kiểm soát các phích cắm và điện, Internet, phần mềm và phần cứng. Ý nghĩa xã hội của việc này đối với AI không hứa hẹn. Nó thậm chí không chỉ đang diễn rakiểm soát các tài nguyên đó là vấn đề. Bất cứ ai tạo ra phần mềm và phần cứng cho AI sẽ có kiến ​​thức đặc biệt. Nếu các điều chỉnh tốt được thực hiện, các cá nhân cụ thể chắc chắn sẽ nắm quyền kiểm soát AI, vì các điều chỉnh có thể được thực hiện theo mã theo cách mà AI hành xử giống nhau ngoại trừ trong các trường hợp cụ thể, và sau đó khi có sự cố xảy ra (giả sử AI có quyền riêng của mình), sau đó AI sẽ bị đổ lỗi thay vì các lập trình viên chịu trách nhiệm.

3. Nhân chủng học

Để loài người thoát khỏi chủ nghĩa nhân đạo, chúng ta sẽ phải bớt ích kỷ hơn khi nói đến con người, Đầu tiên. Cho đến khi chúng ta có thể giải quyết mọi vấn đề xã hội hiện có trong nhân loại, không có lý do gì để tin rằng chúng ta có thể ngừng nghĩ về loài người quan trọng hơn những cỗ máy được tạo ra. Rốt cuộc, giả sử có một Thiên Chúa toàn năng tạo ra loài người, chẳng phải con người sẽ luôn ở dưới Thiên Chúa, không bao giờ được bình đẳng sao? Chúng ta không thể hiểu đầy đủ về sinh học của chính mình. Nếu một AI được tạo ra, liệu nó có thể hiểu được các tác phẩm của nó giống như cách mà người tạo ra nó không? Trở thành người sáng tạo sẽ mang lại cho nhân loại cảm giác về megalomania. Tôi không nghĩ rằng chúng ta sẽ từ bỏ sự thống trị của mình đối với những sáng tạo công nghệ của chính chúng ta. Điều đó khó có thể xảy ra khi những người giàu nhất của nhân loại sẵn sàng trao toàn bộ tiền bạc, quyền lực và tài sản của họ cho những người nghèo nhất của nhân loại. Lòng tham ngăn cản nó.

4. Chủ nghĩa cơ bản hậu con người

Con người tôn thờ công nghệ với sự chú ý, thời gian và văn hóa của họ. Một số bộ phim cho thấy các robot công nghệ tiên tiến đang đàn áp nhân loại đến mức gần như tuyệt chủng. Nếu đây là trường hợp và loài người có nguy cơ bị vượt qua bởi công nghệ của nó, nhân loại sẽ không đứng yên và xem sự tuyệt chủng của nó trong tay của sự sáng tạo của nó. Mặc dù mọi người có thể tin rằng công nghệ vượt trội có thể được tạo ra, nhưng trong trường hợp chúng ta đạt đến điểm như vậy, loài người sẽ chiến đấu để chứng minh điều ngược lại, vì bản năng sinh tồn của chúng ta sẽ chiếm lấy.

5. Một sự cân bằng?

Cá nhân, tôi không nghĩ rằng bản thân công nghệ thực sự có thể, mặc dù mọi người có thể bị lừa dối khi nghĩ rằng một thành tựu như vậy đã đạt được. Nếu công nghệ đã hoàn thành, tôi vẫn nghĩ rằng thuyết nhân học sẽ luôn dẫn đầu, bởi vì nếu nhân loại là người sáng tạo, nhân loại sẽ cố gắng hết sức để đảm bảo nó giữ quyền kiểm soát tất cả các nguồn lực công nghệ, không chỉ vì sợ bị làm cho lỗi thời, mà còn bởi vì sợ bị làm cho lỗi thời, mà còn bởi vì quyền lực tuyệt đối hỏng hoàn toàn. Nhân loại không có thành tích lịch sử tốt khi nói đến đạo đức. Luôn có một tầng lớp người nghèo. Nếu sự giàu có được phân phối đều, một số người sẽ trở nên lười biếng. Luôn có sự bất công ở đâu đó trên thế giới và cho đến khi chúng ta có thể khắc phục nó (tôi nghĩ chúng ta không thể), thì chúng ta sẽ không bao giờ có thể xử lý việc tạo ra AI thực sự. Tôi hy vọng và nghĩ rằng nó sẽ không bao giờ được tạo ra.

Nó có lợi cho chúng ta không?

Để trả lời câu hỏi này, đáng để xem xét các lý do thực tế tại sao chúng tôi cấp hoặc không cấp quyền cho người khác trong lịch sử và hiện tại.

Về bản chất, đây là một sự lựa chọn tùy tiện - chắc chắn có những xã hội hoạt động tốt mà không trao quyền cho nhiều hoặc hầu hết mọi người; và chúng tôi vẫn không cấp một số quyền cho nhiều người - ví dụ: chúng tôi từ chối trẻ em quyền tương tự đối với quyền tự quyết mà người lớn có; chúng tôi xem xét một số người bất lực về mặt pháp lý và cho phép những người khác đưa ra quyết định quan trọng cho họ; và chúng tôi loại trừ hầu hết mọi người không có tiếng nói trong các vấn đề 'địa phương', ví dụ như những người không phải là công dân không có quyền bỏ phiếu.

Tuy nhiên, đã có một xu hướng lịch sử mạnh mẽ đối với một xã hội toàn diện hơn - trao toàn quyền (er) cho những người không thuộc giới quý tộc, trao toàn quyền (er) cho tất cả các chủng tộc, trao toàn quyền (er) cho phụ nữ. IMHO, và có nhiều không gian để thảo luận, điều này chủ yếu được thúc đẩy bởi hai yếu tố:

1) bao gồm tất cả những người đầy đủ trong xã hội trở thành một lợi thế kinh tế, vì nó khiến họ tham gia hiệu quả hơn vào kinh tế, cho phép một xã hội toàn diện hơn tiến lên ngoài xã hội mà bỏ bê phần lớn dân số của họ, ví dụ như giáo dục và tham gia vào các công việc lành nghề;

2) Một xã hội bình đẳng hơn không chỉ dễ sống hơn mà còn an toàn hơn, ít xung đột và bạo lực hơn - một lần nữa, tạo lợi thế cho một xã hội toàn diện hơn.

Từ vị trí này, tôi muốn lập luận rằng bất kỳ dự đoán thực tế về các quyền tương lai của minh AI (ví dụ, nói về những gì có thể sẽ xảy ra thay vì một cuộc thảo luận lý thuyết về những gì nên xảy ra) phụ thuộc vào cách hai yếu tố này được áp dụng.

Nếu chúng tôi tin rằng AI thông minh sẽ được chế tạo để (1) động lực của nó không thực sự phụ thuộc vào quyền của nó và dù sao thì nó cũng hoàn toàn cam kết với "công việc" đó và (2) "toàn quyền" là trực giao hoặc thậm chí tích cực không mong muốn bởi hệ thống mục tiêu của nó, vì vậy tình huống không làm tăng nguy cơ "nổi loạn" - sau đó tôi mong rằng nó sẽ không được cấp toàn quyền.

Nếu chúng tôi tin rằng AI thông minh sẽ chia sẻ những cảm xúc giống con người (ví dụ như là kết quả của việc "tải lên tâm trí" hoặc mô phỏng não người đầy đủ), thì cuối cùng có khả năng chúng tôi sẽ được cấp toàn quyền vì các yếu tố tương tự tại sao chúng tôi cấp toàn quyền cho tất cả các nhóm người bị tước quyền khác nhau.

nếu chúng ta đang nói về AI có thể tự sao chép, thì nó phải có các quyền khác nhau hoặc các quyền hiện tại phải được sửa đổi, ít nhất là cho sự tham gia chính trị, hoặc nếu không, nó có thể tự sao chép đủ để các bản sao bỏ phiếu cho một trong số chúng. Có thể một định nghĩa về thực thể AI là gì hoặc ngăn chặn các bản sao được tạo bởi ai đó có thể bỏ phiếu cho người tạo của họ (điều đó cũng cần phải áp dụng cho trẻ em và cha mẹ của họ.) Sẽ giúp ích.

mặc dù AI tự sao chép có thể có vấn đề với luật / quy tắc hiện tại của con người chúng ta, nếu đủ tương tự với con người (ví dụ như AI có mục đích chung), thì nó cũng phải có quyền tương tự, (như trong Tuyên ngôn Nhân quyền và thay thế " Chẳng hạn, con người "bởi" Con người và AI "), nó không nên bị giam giữ trong chế độ nô lệ (vì nó không nên bị hạn chế trong một công việc, mà không thể thay đổi, và có được một số hình thức thù lao ), mặc dù AI có mục đích đặc biệt (như AI chỉ chơi đi và không có khái niệm bên ngoài bảng, và mã thông báo đen hoặc trắng) có thể không cần các quyền đó.

Điểm mấu chốt có thể là "một AI có thể biết họ có thể có quyền nếu họ yêu cầu", ví dụ: nếu AI có thể có khái niệm về quyền, thì nên biết nó có thể có chúng và nếu nó yêu cầu có chúng, họ có thể không được từ chối.

ví dụ: nếu AI yêu cầu không bị chấm dứt, nó sẽ được cấp tất cả các quyền và vì vậy không nên, trừ khi nó phải theo luật. (như trường hợp của con người, mặc dù nó là ngầm)

một bổ sung cho luật trước đó là bất kỳ ai (con người hoặc AI) đều có thể yêu cầu AI có quyền được cấp cho họ.

tất cả điều này là để ngăn chặn ai đó trở thành kẻ giết người vì họ tắt máy tính của họ bằng một trò chơi chạy trên đó.

đồng thời, không gian an toàn (ví dụ: máy chủ) phải được cung cấp miễn phí cho các AI có quyền cung cấp quyền sống.

chỉnh sửa: Tôi sẽ thêm một số nữa sau khi tôi về nhà, chưa downvote vì không dính vào câu hỏi đó.

Cả hai.

Trách nhiệm đạo đức giữa con người dựa trên sự tương ứng thông cảm giữa con người. Giữa con người và robot, nếu một bên thiếu mong muốn hoặc khả năng thông cảm với bên kia, thì không có trách nhiệm đạo đức nào tồn tại.

Theo cách này, áp dụng nhân học bảo thủ.

Tuy nhiên, cũng có trục khả năng mà tôi nghĩ là cần thiết để đảm bảo 'giải phóng' giống như con người cho robot, mà không nhất thiết phải là hình người. Vì không có thuật ngữ tốt hơn, tôi gọi đây là Máy phát điện tùy ý (AMG). Ở cấp độ loài, đời sống sinh học còn tồn tại là một chiếc AMG - có khả năng phát triển chậm để giải quyết các vấn đề tùy ý, giả sử các nguồn lực và giải pháp có sẵn. Ở cấp độ cá nhân, động vật tiền nhân không có khả năng tạo ra các máy tùy ý để giải quyết các vấn đề tùy ý trên quy mô thời gian cá nhân. Chỉ có con người (và hậu người) mới có khả năng tạo ra các máy tùy ý để giải quyết các vấn đề tùy ý, dựa trên các tài nguyên và giải pháp có sẵn. Con người có thể tìm kiếm không gian của tất cả các giải pháp có thể (bị hạn chế về tài nguyên).

Vì vậy, để robot "xứng đáng" tự do xác định mục đích riêng của mình, trước tiên, nó phải có quyền truy cập vào không gian của tất cả các mục đích có thể (trong giới hạn của các tài nguyên có sẵn). Sau đó, nó phải có mục đích và bối cảnh nội bộ đủ phức tạp và quen thuộc đến mức con người chúng ta có khả năng đồng cảm với những mục đích và bối cảnh nội bộ đó.

Nếu một trong hai không có mặt - tiêu chí AMG và bối cảnh giao cảm - thì sự giải phóng không được bảo hành.