Tôi có nên sử dụng ngôn ngữ hình người khi thảo luận về AI?

Ngôn ngữ tiếng Anh không phù hợp để nói về trí tuệ nhân tạo, điều này khiến con người khó giao tiếp với nhau về những gì AI thực sự đang "làm". Do đó, có thể có ý nghĩa hơn khi sử dụng thuật ngữ "giống con người" để mô tả hành động của máy móc, ngay cả khi các thuộc tính bên trong của máy móc không giống với các thuộc tính bên trong của nhân loại.

Ngôn ngữ hình học đã được sử dụng rất nhiều trong công nghệ (xem định nghĩa từ điển của Hacker về cách nhân hóa , cố gắng biện minh cho việc sử dụng thuật ngữ máy tính của các lập trình viên khi mô tả công nghệ), nhưng khi AI tiếp tục phát triển, có thể hữu ích khi xem xét sự đánh đổi sử dụng ngôn ngữ hình học trong giao tiếp với cả khán giả kỹ thuật và khán giả phi kỹ thuật. Làm thế nào chúng ta có thể xử lý tốt AI nếu chúng ta thậm chí không thể mô tả những gì chúng ta đang làm?

Giả sử tôi muốn phát triển một thuật toán hiển thị danh sách các bài viết liên quan. Có hai cách để tôi có thể giải thích thuật toán hoạt động như thế nào với giáo dân:

1. Rất nhân trắc học - Thuật toán đọc tất cả các bài viết trên một trang web và hiển thị các bài viết rất giống với bài viết bạn đang xem.
2. Rất kỹ thuật - Thuật toán chuyển đổi mỗi bài viết thành một "túi từ", sau đó so sánh "túi từ" của mỗi bài viết để xác định bài viết nào chia sẻ những từ phổ biến nhất. Các bài viết chia sẻ nhiều từ nhất trong túi là những bài được hiển thị cho người dùng.

Rõ ràng, # 2 có thể "đúng về mặt kỹ thuật" hơn # 1. Bằng cách chi tiết hóa việc thực hiện thuật toán, giúp ai đó dễ hiểu cách khắc phục thuật toán hơn nếu nó tạo ra một đầu ra mà chúng tôi không đồng ý nhiều.

Nhưng # 1 dễ đọc hơn, thanh lịch và dễ hiểu hơn. Nó cung cấp một ý nghĩa chung về những gì thuật toán đang làm, thay vì cách thuật toán đang làm nó. Bằng cách trừu tượng hóa các chi tiết triển khai về cách máy tính "đọc" bài viết, sau đó chúng ta có thể tập trung vào việc sử dụng thuật toán trong các tình huống trong thế giới thực.

Do đó, tôi có nên sử dụng ngôn ngữ hình người như được nhấn mạnh trong Tuyên bố số 1 không? Nếu không, tai sao không?

Tái bút: Nếu câu trả lời phụ thuộc vào đối tượng mà tôi đang nói chuyện (đối tượng không có kỹ thuật có thể thích số 1, trong khi khán giả kỹ thuật có thể thích số 2), thì hãy cho tôi biết điều đó.

Nếu sự rõ ràng là mục tiêu của bạn, bạn nên cố gắng tránh ngôn ngữ hình người - làm như vậy sẽ gây nguy hiểm thậm chí gây hiểu lầm cho bản thân về khả năng của chương trình.

Đây là một cái bẫy nguy hiểm trong nghiên cứu AI, với nhiều trường hợp mà ngay cả các nhà nghiên cứu có kinh nghiệm cũng đã gán một mức độ hiểu biết lớn hơn cho một chương trình so với thực sự đáng khen.

Douglas Hofstadter mô tả vấn đề ở một độ dài nào đó trong một chương có tựa đề "Hiệu ứng không thể xâm phạm và nguy hiểm của nó" và cũng có một bài báo nổi tiếng của Drew McDermot, có tựa đề "Trí thông minh nhân tạo đáp ứng sự ngu ngốc tự nhiên" .

Do đó, nói chung, người ta phải nỗ lực đặc biệt để tránh hiện tượng nhân hóa trong AI. Tuy nhiên, khi nói chuyện với khán giả phi kỹ thuật, các mô tả 'soundbite' (như trong bất kỳ quy tắc phức tạp nào) được chấp nhận miễn là bạn cho khán giả biết rằng họ đang có phiên bản đơn giản hóa .

Vấn đề bạn đang tham khảo không chỉ là vấn đề AI mà là vấn đề đối với các lĩnh vực kỹ thuật cao nói chung. Khi nghi ngờ, tôi sẽ luôn khuyên bạn nên sử dụng ngôn ngữ đơn giản .

Tuy nhiên, có một lý do khác khiến cộng đồng AI thường sẽ tránh những ý nghĩa nhân học cho AI. Một số ngôi sao sáng AI thường thích cảnh báo chúng ta rằng trí thông minh nhân tạo nói chung có thể hành xử theo cách của người ngoài hành tinh bất chấp sự mong đợi của con người chúng ta, có khả năng dẫn đến ngày tận thế robot.

Tuy nhiên, ý tưởng về các AGI giống người ngoài hành tinh xấu xa này xuất phát từ một sự hiểu lầm phổ biến trong cộng đồng AI, tạo ra hai khái niệm khác nhau về tính tổng quát:

• Tổng quát máy Turing, và
• tính tổng quát của con người

Những người bình thường có nghĩa là gì khi họ nói chung chung là sau này. Ngay cả định nghĩa chính thức của AGI cũng xoay quanh bối cảnh của con người:

... Thực hiện bất kỳ nhiệm vụ trí tuệ nào mà con người có thể.

Nhưng theo định nghĩa đó, việc khái quát hóa hành vi không làm cho nó trở nên xa lạ hơn. Nói chung là nhân hóa. Như Nietzche đã nói,

"Nơi bạn nhìn thấy những điều lý tưởng, tôi thấy con người, than ôi! Tất cả những thứ quá con người.

Tôi nghĩ rằng câu trả lời chính xác là dễ dàng nhưng không có ích, "Nó phụ thuộc."

Ngay cả khi tôi đang nói chuyện với những người kỹ thuật khác, tôi vẫn thường sử dụng ngôn ngữ và phép ẩn dụ của con người. Đặc biệt là khi bắt đầu cuộc trò chuyện. "Máy tính phải tìm ra .." "Làm thế nào chúng ta có thể ngăn máy tính bị nhầm lẫn về ..." vv Chắc chắn, chúng ta có thể nói rằng theo một cách chính xác hơn về mặt kỹ thuật. "Chúng tôi cần sửa đổi thuật toán để giảm số lượng và nhiều trường hợp dữ liệu không đầy đủ dẫn đến cài đặt không chính xác của ..." hoặc một số trường hợp như vậy. Nhưng trong số những người kỹ thuật, chúng tôi biết ý nghĩa của chúng tôi và việc sử dụng ngôn ngữ ẩn dụ sẽ dễ dàng hơn.

Khi cố gắng giải quyết các vấn đề máy tính kỹ thuật, tôi thường bắt đầu với một khái niệm mơ hồ, nhân học. "Chúng ta nên lập danh sách tất cả các từ trong văn bản và gán cho mỗi từ một trọng số dựa trên mức độ thường xuyên xảy ra. Ồ, nhưng chúng ta nên bỏ qua các từ ngắn, phổ biến như 'the' và 'it'. Sau đó, hãy chọn một số số lượng từ, có thể là mười hoặc hơn, có trọng lượng lớn nhất ... "Tất cả đó là một chặng đường dài từ cách máy tính thực sự thao tác dữ liệu. Nhưng trước tiên, việc nghĩ về nó theo nghĩa "con người" thường dễ dàng hơn rất nhiều, và sau đó tìm ra cách làm cho máy tính làm điều đó.

Khi nói chuyện với một khán giả phi kỹ thuật, tôi nghĩ vấn đề là, ngôn ngữ Nhân học giúp dễ hiểu hơn, nhưng cũng thường tạo ấn tượng rằng máy tính giống con người hơn nhiều so với thực tế. Bạn chỉ cần xem phim khoa học viễn tưởng để thấy rằng rõ ràng nhiều người nghĩ rằng máy tính hoặc robot nghĩ giống như một người ngoại trừ việc nó rất chính xác và không có cảm xúc.