Làm thế nào là quyền của người giải thích hợp lý?

Đã có tín hiệu tích cực gần đây trong quan tâm đến e X plainable Một rtificial tôi ntelligence (Xai). Đây là nhiệm vụ của XAI như đã nêu trên trang DARPA của nó :

Chương trình AI có thể giải thích (XAI) nhằm tạo ra một bộ các kỹ thuật máy học:

• Sản xuất các mô hình dễ giải thích hơn, trong khi duy trì hiệu suất học tập cao (độ chính xác dự đoán); và
• Cho phép người dùng hiểu, tin tưởng một cách thích hợp và quản lý hiệu quả thế hệ mới của các đối tác thông minh nhân tạo.

Bài báo của New York Times AI có thể được dạy để giải thích chính mình? thực hiện tốt công việc giải thích sự cần thiết của XAI từ góc độ lợi ích của con người cũng như cung cấp một cái nhìn thoáng qua về các kỹ thuật đang được phát triển cho cùng. Lực lượng đằng sau phong trào XAI dường như tập trung vào khái niệm quyền giải thích (sắp tới?) , Đó là yêu cầu các ứng dụng AI tác động đáng kể đến cuộc sống của con người thông qua quyết định của họ có thể giải thích cho các bên liên quan về các yếu tố / lý do dẫn đến quyết định nói.

Làm thế nào là quyền giải thích hợp lý, dựa trên các tiêu chuẩn hiện hành mà chúng tôi giữ nhau có trách nhiệm?

Làm thế nào là quyền giải thích hợp lý, dựa trên các tiêu chuẩn hiện hành mà chúng tôi giữ nhau có trách nhiệm?

Tóm lại là khá hợp lý.

Cụ thể hơn, làm cho AI có trách nhiệm và chịu trách nhiệm giải thích quyết định có vẻ hợp lý bởi vì

• Con người (DARPA trong trường hợp này) đã chọn tạo ra, nâng cao và phát triển AI bằng tiền của người nộp thuế. Trong xã hội của chúng ta cũng vậy, bất cứ khi nào con người đến với nhau vì một mục đích nào đó (một sự sắp xếp chính thức như chính phủ hay cách khác), trách nhiệm và trách nhiệm được đảm nhận và phân công. Do đó, mong đợi AI (người sẽ thay mặt chúng ta giải thích) để giải thích quyết định của họ dường như chỉ là sự mở rộng tự nhiên về cách con người hiện đang hoạt động .

• Con người ( nói chung là ít nhất) không có siêu năng lực hoặc tài nguyên để kiểm soát và thao túng phần còn lại của dân số. Nhưng khi họ làm (như các nhà lãnh đạo chính trị của chúng tôi ), chúng tôi muốn họ có trách nhiệm.

• Trong những trường hợp hiếm hoi, con người mạnh mẽ trở nên mạnh mẽ nhờ những thứ mà mọi người có thể tiếp cận được , trong khi siêu năng lực của AI sẽ không như vậy. Vì vậy, nền văn minh của chúng ta sẽ cảm thấy an toàn hơn và do đó ít bất an hơn với một AI không đóng cửa khi đối mặt với câu hỏi.

Những lợi ích khác của AI đưa ra lời giải thích về cách đưa ra quyết định

• Dễ dàng hơn để gỡ lỗi và cải thiện trong giai đoạn đầu của nó.

• Có thể được tùy chỉnh thêm (và trên đường đi) để khuếch đại các khía cạnh nhất định như phúc lợi xã hội so với lợi nhuận, v.v.

Trong bài báo Slave to the Thuật toán? Tại sao 'Quyền được giải thích' có lẽ không phải là biện pháp khắc phục mà bạn đang tìm kiếm , các tác giả cho rằng "quyền giải thích" không thể cung cấp một biện pháp khắc phục hoàn toàn cho các tác hại thuật toán vì ít nhất hai lý do

1. Không rõ khi nào bất kỳ quyền liên quan đến giải thích có thể được kích hoạt

2. Các giải thích theo yêu cầu của luật pháp, "thông tin có ý nghĩa về logic xử lý", có thể không được cung cấp bởi các phương pháp AI hiện tại (có thể giải thích)

Các tác giả sau đó kết luận rằng "quyền giải thích" gây mất tập trung , nhưng các luật khác của Quy định bảo vệ dữ liệu chung của Liên minh châu Âu, như

1. quyền bị lãng quên
2. quyền chuyển đổi dữ liệu
3. riêng tư theo thiết kế

có thể bù đắp những khiếm khuyết của "quyền giải thích".

Để kết luận, "quyền giải thích" là một nỗ lực để bảo vệ công dân trước những hậu quả không mong muốn có thể có của việc sử dụng các phương pháp AI. Tuy nhiên, nó không phải là hoàn hảo và quyền rõ ràng hơn có thể cần phải được ban hành.