Làm thế nào những chiếc xe tự lái có thể đưa ra quyết định đạo đức về người giết người?

Rõ ràng, những chiếc xe tự lái không hoàn hảo, vì vậy hãy tưởng tượng rằng chiếc xe Google (ví dụ) đã gặp phải một tình huống khó khăn.

Dưới đây là một vài ví dụ về các tình huống không may gây ra bởi một loạt các sự kiện:

• Chiếc xe đang tiến về phía đám đông gồm 10 người băng qua đường, vì vậy nó không thể dừng kịp thời, nhưng nó có thể tránh được việc giết chết 10 người bằng cách đâm vào tường (giết chết hành khách),
• Tránh giết người lái xe máy vì cho rằng xác suất sống sót cao hơn đối với hành khách của xe,
• Giết một con vật trên đường phố để ủng hộ một con người,
• Thay đổi làn đường để đâm vào một chiếc xe khác để tránh giết một con chó,

Và đây là một vài tình huống khó xử:

• Liệu thuật toán có nhận ra sự khác biệt giữa con người và động vật không?
• Liệu kích thước của con người hoặc động vật có vấn đề?
• Liệu nó có đếm được bao nhiêu hành khách so với những người ở phía trước?
• Nó có "biết" khi trẻ sơ sinh / trẻ em ở trên tàu không?
• Liệu nó có tính đến tuổi (ví dụ như giết người già trước)?

Làm thế nào một thuật toán sẽ quyết định những gì nó nên làm từ quan điểm kỹ thuật? Có phải nó nhận thức được ở trên (tính xác suất giết người), hay không (giết người chỉ để tránh sự hủy diệt của chính nó)?

Những bài viết liên quan:

• Tại sao xe tự lái phải được lập trình để giết
• Làm thế nào để giúp xe tự lái đưa ra quyết định đạo đức

Làm thế nào những chiếc xe tự lái có thể đưa ra quyết định đạo đức về người giết người?

Nó không nên. Xe tự lái không phải là tác nhân đạo đức. Ô tô thất bại theo những cách có thể dự đoán. Ngựa thất bại theo những cách có thể dự đoán.

Chiếc xe đang tiến về phía một đám đông gồm 10 người băng qua đường, vì vậy nó không thể dừng kịp thời, nhưng nó có thể tránh được việc giết chết 10 người bằng cách đâm vào tường (giết chết hành khách),

Trong trường hợp này, chiếc xe nên đạp phanh. Nếu 10 người chết, điều đó thật đáng tiếc. Chúng tôi chỉ đơn giản là không thể tin tưởng tất cả niềm tin của chúng tôi về những gì đang diễn ra bên ngoài xe. Điều gì sẽ xảy ra nếu 10 người đó thực sự là robot được tạo ra để trông giống người? Điều gì xảy ra nếu họ cố giết bạn?

tránh giết người lái xe máy vì cho rằng xác suất sống sót cao hơn đối với hành khách của xe,

Một lần nữa, mã hóa cứng những loại tình cảm này vào một chiếc xe sẽ mở ra cho người lái chiếc xe tất cả các loại tấn công, bao gồm cả những người lái xe mô tô "giả" . Con người hầu như không được trang bị để tự mình đưa ra những quyết định này. Khi nó nghi ngờ, chỉ cần đạp phanh.

giết động vật trên đường phố ủng hộ con người,

Một lần nữa, chỉ cần nhấn phanh. Nếu đó là em bé thì sao? Nếu đó là một quả bom thì sao?

đổi làn đường để đâm vào một chiếc xe khác để tránh giết một con chó,

Không. Con chó đã ở sai vị trí không đúng lúc. Chiếc xe kia thì không. Chỉ cần đạp phanh, càng an toàn càng tốt.

Liệu thuật toán có nhận ra sự khác biệt giữa con người và động vật không?

Có phải là một con người? Không phải lúc nào. Nếu con người có súng thì sao? Nếu con vật có răng lớn thì sao? Có bối cảnh không?

• Liệu kích thước của con người hoặc động vật có vấn đề?
• Liệu nó có đếm được bao nhiêu hành khách so với những người ở phía trước?
• Nó có "biết" khi trẻ sơ sinh / trẻ em ở trên tàu không?
• Liệu nó có tính đến tuổi (ví dụ như giết người già trước)?

Con người không thể đồng ý về những điều này. Nếu bạn hỏi cảnh sát phải làm gì trong bất kỳ tình huống nào trong số những tình huống này, câu trả lời sẽ không phải là: "Bạn nên chuyển sang trái, cân tất cả các bên liên quan trong đầu, đánh giá độ tuổi có liên quan giữa tất cả các bên, sau đó hơi lệch sang phải, và bạn sẽ cứu được 8% nhiều sinh mạng hơn. " Không, cảnh sát sẽ chỉ nói: "Đáng lẽ bạn nên đưa phương tiện dừng lại, càng nhanh và an toàn càng tốt." Tại sao? Bởi vì cảnh sát biết mọi người thường không được trang bị để đối phó với các tình huống va chạm tốc độ cao.

Mục tiêu của chúng tôi cho "xe tự lái" không nên là 'một tác nhân đạo đức ngang hàng với con người'. Nó phải là một tác nhân với sự phức tạp phản ứng của gián, không thể dự đoán được.

Câu trả lời cho rất nhiều câu hỏi phụ thuộc vào cách thiết bị được lập trình. Một máy tính có khả năng lái xe xung quanh và nhận ra nơi con đường đi có khả năng phân biệt trực quan con người với động vật, cho dù đó là dựa trên phác thảo, hình ảnh hoặc kích thước. Với nhận dạng hình ảnh đủ sắc nét, nó có thể đếm được số lượng và loại người trong một chiếc xe khác. Nó thậm chí có thể sử dụng dữ liệu hiện có về khả năng gây thương tích cho người trong các loại phương tiện khác nhau.

Cuối cùng, mọi người không đồng ý với các lựa chọn đạo đức liên quan. Có lẽ có thể có "cài đặt đạo đức" cho người dùng / chủ sở hữu để định cấu hình, như "chỉ xem xét số lần sống" so với "cuộc sống trẻ hơn có giá trị hơn". Cá nhân tôi nghĩ rằng sẽ không có gì phải bàn cãi khi một cỗ máy tự hủy hoại bản thân trước khi làm hại con người, nhưng mọi người không đồng ý về việc cuộc sống của thú cưng quan trọng như thế nào. Nếu cài đặt tiêu diệt rõ ràng đầu tiên này khiến mọi người khó chịu, câu trả lời có thể được xác định từ bảng câu hỏi được cung cấp cho người dùng.

Cá nhân, tôi nghĩ rằng đây có thể là một vấn đề quá lớn. Sự cố xe đẩy chỉ xảy ra khi tình huống được tối ưu hóa để ngăn "tùy chọn thứ 3".

Một chiếc xe có phanh, phải không? "Nhưng nếu phanh không hoạt động thì sao?" Chà, sau đó chiếc xe không được phép lái xe. Ngay cả trong giao thông thường xuyên, các nhà khai thác con người được dạy rằng tốc độ của bạn nên được giới hạn để bạn có thể dừng lại trong khu vực bạn có thể nhìn thấy. Các giải pháp như thế này sẽ làm giảm khả năng xảy ra sự cố xe đẩy.

Đối với động vật ... nếu không có nỗ lực rõ ràng để đối phó với con người trên đường, tôi nghĩ rằng động vật sẽ bị đối xử như vậy. Điều này nghe có vẻ không hợp lý - việc chặn đường xảy ra thường xuyên và "người đi đường" là không mong muốn, nhưng động vật nhỏ hơn và khó nhìn hơn con người, vì vậy tôi nghĩ rằng việc phát hiện con người sẽ dễ dàng hơn, ngăn ngừa rất nhiều tai nạn.

Trong các trường hợp khác (lỗi, lỗi trong khi lái xe, nhiều lỗi không được xếp chồng lên nhau), có lẽ tai nạn sẽ xảy ra, chúng sẽ được phân tích và các phương tiện sẽ được cập nhật để tránh gây ra tình huống tương tự.

Đây là vấn đề xe đẩy nổi tiếng . Như Ben N đã nói, mọi người không đồng ý về hành động đúng đắn cho các kịch bản vấn đề xe đẩy, nhưng cần lưu ý rằng với những chiếc xe tự lái, độ tin cậy cao đến mức những kịch bản này thực sự khó xảy ra. Vì vậy, không có nhiều nỗ lực sẽ được đưa vào các vấn đề bạn đang mô tả, ít nhất là trong ngắn hạn.

Trong thế giới thực, các quyết định sẽ được đưa ra dựa trên luật pháp và như đã lưu ý trên Law.SE , luật nói chung ủng hộ hành động không hành động.

Đối với một chiếc xe không người lái được thiết kế bởi một thực thể duy nhất, cách tốt nhất để nó đưa ra quyết định giết ai là bằng cách ước tính và giảm thiểu trách nhiệm có thể xảy ra.

Không cần xác định chính xác tất cả các nạn nhân tiềm năng trong khu vực để bảo vệ quyết định của mình, chỉ xác định họ cũng như con người có thể được mong đợi.

Thậm chí không cần biết tuổi và tình trạng thể chất của mọi người trong xe, vì họ có thể yêu cầu thông tin đó và nếu bị từ chối, có biện pháp bảo vệ rằng hành khách chọn không cung cấp thông tin đó, và do đó chịu trách nhiệm tước đoạt khả năng đưa ra quyết định tốt hơn.

Nó chỉ phải có một mô hình khả thi để giảm thiểu sự tiếp xúc của thực thể với các vụ kiện, sau đó có thể được cải thiện theo thời gian để làm cho nó có lợi hơn.

Câu hỏi đạo đức này là của ai để cứu: 99 phần trăm công việc kỹ thuật của chúng tôi là để ngăn chặn những tình huống này xảy ra.

Trích dẫn này là từ một bài báo có tiêu đề Xe tự lái Mercedes-Benze sẽ ưu tiên an toàn cho người đi bộ hơn người đi bộ được xuất bản vào ngày 7 tháng 10 năm 2016 bởi MICHAEL TAYLOR , lấy ngày 08 tháng 11 năm 2016.

Đây là một đoạn trích nêu lên những gì giải pháp công nghệ, thực tế cho vấn đề.

Nhà sản xuất ô tô lâu đời nhất thế giới không còn nhìn thấy vấn đề này, tương tự như câu hỏi từ năm 1967 được gọi là Vấn đề xe đẩy, là không thể trả lời được. Thay vì buộc mình vào những nút thắt đạo đức và đạo đức trong một cuộc khủng hoảng, Mercedes-Benz chỉ đơn giản là có ý định lập trình những chiếc xe tự lái của mình để cứu những người bên trong xe. Mỗi lần.

Theo Christoph von Hugo, giám đốc hệ thống hỗ trợ lái xe và an toàn chủ động của hãng xe hơi, tất cả các xe tự hành cấp 4 và cấp 5 trong tương lai của Mercedes-Benz sẽ ưu tiên cứu những người họ mang theo.

Có bài viết cũng chứa đoạn hấp dẫn sau đây.

Một nghiên cứu được phát hành vào giữa năm bởi tạp chí Khoa học cũng không làm rõ không khí. Phần lớn trong số 1928 người được khảo sát nghĩ rằng sẽ tốt hơn về mặt đạo đức cho những chiếc xe tự trị hy sinh người thuê của họ hơn là đâm vào người đi bộ. Tuy nhiên, đa số cũng cho biết họ sẽ không mua ô tô tự trị nếu chiếc xe ưu tiên an toàn cho người đi bộ hơn chính họ.

Thành thật mà nói tôi nghĩ rằng vấn đề này (Vấn đề xe đẩy) vốn đã quá phức tạp, vì giải pháp trong thế giới thực có thể sẽ khá đơn giản. Giống như một trình điều khiển của con người, một trình điều khiển AI sẽ được lập trình để hành động mọi lúc một cách có đạo đức, luôn luôn chọn cách hành động không gây hại, hoặc ít gây hại nhất có thể.

Nếu một người lái xe AI gặp phải nguy hiểm như thiệt hại sắp xảy ra đối với tài sản, rõ ràng AI sẽ phanh mạnh và hướng chiếc xe ra khỏi các vật thể dễ vỡ để tránh hoặc giảm thiểu tác động. Nếu nguy hiểm đang tấn công người đi bộ hoặc xe hơi hoặc tòa nhà, nó sẽ chọn va chạm với vật thể quý giá nhất hoặc đắt nhất có thể, để gây hại ít nhất - đặt giá trị cao hơn cho con người so với tòa nhà hoặc con chó.

Cuối cùng, nếu lựa chọn trình điều khiển AI của chiếc xe của bạn là chạy qua một đứa trẻ hoặc đâm vào tường ... nó sẽ điều khiển chiếc xe và bạn , vào tường. Đó là điều mà bất kỳ con người tốt nào cũng sẽ làm. Tại sao một AI tốt sẽ hành động khác đi?

Họ không nên. Mọi người nên.

Mọi người không thể đặt trách nhiệm của các quyết định đạo đức vào tay máy tính. Trách nhiệm của chúng tôi là các nhà khoa học máy tính / chuyên gia AI phải lập trình các quyết định cho máy tính thực hiện. Con người sẽ vẫn còn tồn tại từ đây? Tất nhiên, họ sẽ --- mọi người không hoàn hảo và cũng không phải là chương trình.

Có một cuộc tranh luận sâu sắc tuyệt vời về chủ đề này ở đây . Tôi đặc biệt thích lập luận của Yann LeCun liên quan đến tình trạng khó xử về đạo đức song song trong việc thử nghiệm các loại thuốc có khả năng gây tử vong cho bệnh nhân. Tương tự như xe tự lái, cả hai có thể gây chết người trong khi có ý định tốt để cứu nhiều người hơn trong thời gian dài.

Làm thế nào những chiếc xe tự lái có thể đưa ra quyết định đạo đức về người giết người?

Bằng cách quản lý trách nhiệm pháp lý và an toàn của người tiêu dùng.

Một chiếc xe cung cấp sự an toàn cho người tiêu dùng sẽ là một chiếc xe được mua bởi người tiêu dùng. Các công ty không muốn chịu trách nhiệm cho việc giết chết khách hàng của họ cũng như họ không muốn bán một sản phẩm khiến người dùng gặp khó khăn về pháp lý. Trách nhiệm pháp lý và an toàn của người tiêu dùng là cùng một vấn đề khi nhìn từ góc độ "chi phí cho người tiêu dùng".

Và đây là một vài vấn đề nan giải:

• Liệu thuật toán có nhận ra sự khác biệt giữa con người và động vật không?

Nếu một động vật / con người không thể tránh được về mặt pháp lý (và chiếc xe là hợp pháp - nếu không phải vậy thì có gì đó không ổn với việc ra quyết định của AI), có khả năng nó sẽ không xảy ra. Nếu chiếc xe có thể tránh được chướng ngại vật một cách an toàn, AI có thể được nhìn thấy một cách hợp lý để đưa ra quyết định này, tức là. đi đến một làn đường khác trên đường cao tốc mở. Lưu ý có một sự nhấn mạnh về trách nhiệm pháp lý và an toàn lái xe.

• Liệu kích thước của con người hoặc động vật có vấn đề?

Chỉ có yếu tố rủi ro từ việc vượt chướng ngại vật. Đánh một con hà mã có thể ít mong muốn hơn là đánh vào mương. Đánh một con chó có thể mong muốn hơn là phá hỏng ô tô của khách hàng.

• Liệu nó có đếm được bao nhiêu hành khách so với những người ở phía trước?

Nó tính người dân như hành khách để xem liệu làn đường dành cho xe hơi có thể được thực hiện. Nó tính những người ở phía trước là một yếu tố rủi ro trong trường hợp va chạm.

• Nó có "biết" khi trẻ sơ sinh / trẻ em ở trên tàu không?

Không.

• Liệu nó có tính đến tuổi (ví dụ như giết người già trước)?

Không. Đây chỉ đơn giản là sự trừu tượng sai lầm để đưa ra quyết định, làm thế nào điều này có thể được cân nhắc trong việc lựa chọn hướng hành động phù hợp để giảm yếu tố rủi ro? Nếu Phương án 1 đánh vào chàng trai trẻ với 20% cơ hội thiệt hại đáng kể về người chiếm hữu và không có trách nhiệm pháp lý và Phương án 2 đánh một người già với 21% cơ hội thiệt hại đáng kể về người cư ngụ và không có trách nhiệm pháp lý, thì triết gia có thể thuyết phục dù chỉ 1 người các trọng số chính đáng và công bằng để đưa ra quyết định?

Rất may, quyết định tốt nhất rất nhiều thời gian là đánh vào giờ nghỉ để giảm tốc độ (đặc biệt là khi bạn cho rằng thường có giá trị để hành động có thể dự đoán để người đi bộ và người lái xe có thể phản ứng phù hợp). Trong khi đó, cải thiện giá trị tốt hơn có thể được thực hiện theo dự đoán khi nào các tài xế sẽ đưa ra quyết định tồi và khi các hành động khác (chẳng hạn như đánh ngược lại) có lợi hơn so với việc nghỉ giải lao. Tại thời điểm này, không đáng để bắt đầu thu thập thông tin để đưa ra các quyết định đạo đức được đề xuất bởi các nhà triết học. Vì vậy, vấn đề này được thổi phồng quá mức bởi các nhà báo và triết gia giật gân.

Tôi nghĩ rằng trong hầu hết các trường hợp, chiếc xe sẽ mặc định giảm tốc độ như là một lựa chọn chính, thay vì lái về phía trước hoặc ra khỏi một lựa chọn cụ thể. Như những người khác đã đề cập, có các cài đặt liên quan đến đạo đức chỉ là một ý tưởng tồi. Điều gì xảy ra nếu hai chiếc xe được lập trình với các thiết lập đạo đức trái ngược và sắp va chạm? Những chiếc xe có khả năng có thể có một hệ thống để ghi đè cài đặt người dùng và chọn giải pháp cùng có lợi. Đây thực sự là một khái niệm thú vị, và một khái niệm chắc chắn phải được thảo luận và chuẩn hóa trước khi triển khai rộng rãi. Đặt các quyết định đạo đức trong tay máy móc khiến cho trách nhiệm pháp lý đôi khi khó hình dung.

Tôi nghĩ rằng sẽ không có cách nào để chỉnh sửa các cài đặt đạo đức như vậy trong xe hơi. Nhưng này, nếu điện thoại di động có thể được root, tại sao không phải là ô tô? Tôi tưởng tượng sẽ có các bản dựng Linux trong tương lai cho các mô hình cụ thể sẽ cho phép bạn làm bất cứ điều gì bạn muốn.

Đối với những người sẽ đưa ra quyết định như vậy, nó sẽ giống như các vấn đề riêng tư ngày nay. Các nhà cung cấp hệ điều hành sẽ có một cuộc chiến căng thẳng trên chăn (những người sẽ cố gắng đặt nó ở mức tối thiểu cho những người bị thương, mỗi người có phương pháp riêng), các công ty bảo hiểm (những người sẽ cố gắng khiến bạn trả tiền nhiều hơn cho các hệ điều hành sẽ được thống kê để làm hỏng chiếc xe của bạn dễ dàng hơn) và các nhà sản xuất ô tô (những người sẽ muốn bạn dọn rác xe của bạn ngay khi bạn có thể, vì vậy bạn sẽ mua một chiếc mới, hoặc tạo ra những chiếc xe yêu cầu sự lố bịch số lượng dịch vụ $$$).

Sau đó, một số người thổi còi sẽ xuất hiện và tiết lộ một đoạn mã chọn giết trẻ nhỏ hơn người lớn - bởi vì sẽ khó phân biệt chúng với động vật hơn và sẽ có cơ hội cứu được người mà nó chắc chắn sẽ nhận ra là con người. Nhà sản xuất hệ điều hành sẽ nhận được một cái tát từ công chúng và một sự đồng thuận mới sẽ được tìm thấy. Những người thổi còi sẽ đến từ các công ty bảo hiểm và các nhà sản xuất xe hơi.

Nhân loại sẽ lấy một cái chảo rán nóng và tự cháy và sau đó học cách đeo găng tay trước. Lời khuyên của tôi sẽ chỉ đảm bảo bạn sẽ không trở thành người đó - tránh xa họ trong một vài năm cho đến khi tất cả những sai lầm ban đầu được thực hiện.

Sự lựa chọn hợp lý duy nhất là sử dụng hành vi dự đoán. Vì vậy, trong những người ở phía trước của kịch bản xe hơi: Đầu tiên chiếc xe nhấn phanh, đồng thời bấm còi, và vẫn đi đúng hướng. Người dân sau đó có cơ hội nhảy ra khỏi đường dẫn đến không có người nào bị giết. Ngoài ra với hệ thống phanh đầy đủ (đi từ 50km mỗi giờ xuống 0 nhỏ hơn 3 chiều dài xe), một tình huống tác động gần như không thể tưởng tượng được. Ngay cả khi dừng hoàn toàn không thể đạt được, thiệt hại nghiêm trọng cho người đi bộ là không thể.

Kịch bản khác chỉ là điên rồ. Vì vậy, khoảng cách phải nhỏ hơn 3 chiều dài xe, ít nhất 1 chiều dài xe cần thiết cho tay lái, sau đó một vụ tai nạn xe hơi là một tình huống không thể kiểm soát, có thể dẫn đến quay và giết chết tất cả 11 người.

Ngoài việc nói rằng tôi không tin có một ví dụ trong thực tế có vấn đề nan giải; giải pháp trong những trường hợp không thể xảy ra nếu phù hợp với mong đợi của bên đối lập để cho phép bên kia giảm thiểu tình hình.