Turing có ý nghĩa gì khi nói rằng các máy của Cameron có thể làm phát sinh những bất ngờ mà là do sai lầm?

Tôi gặp phải tuyên bố dưới đây của Alan M. Turing ở đây :

"Quan điểm cho rằng máy móc không thể tạo ra sự ngạc nhiên là do, tôi tin rằng, một sự ngụy biện mà các nhà triết học và toán học đặc biệt là chủ đề. Đây là giả định rằng ngay khi một sự thật được trình bày cho tâm trí mọi hậu quả của sự thật đó xảy ra vào mùa xuân tâm trí đồng thời với nó. Đó là một giả định rất hữu ích trong nhiều trường hợp, nhưng người ta quá dễ quên rằng nó sai. "

Tôi không phải là người nói tiếng Anh bản ngữ. Bất cứ ai có thể giải thích nó bằng tiếng Anh đơn giản?

Các nhà toán học và triết gia thường cho rằng máy móc (và ở đây, có lẽ ông có nghĩa là "máy tính") không thể làm chúng ta ngạc nhiên. Điều này là do họ cho rằng một khi chúng ta tìm hiểu một số thực tế, chúng ta ngay lập tức hiểu mọi hậu quả của thực tế này. Đây thường là một giả định hữu ích, nhưng thật dễ để quên rằng nó sai.

Ông nói rằng các hệ thống với các mô tả đơn giản, hữu hạn (ví dụ: máy Turing) có thể thể hiện hành vi rất phức tạp và điều này làm một số người ngạc nhiên. Chúng ta có thể dễ dàng hiểu khái niệm về máy Turing nhưng sau đó chúng ta nhận ra rằng chúng có những hậu quả phức tạp, chẳng hạn như sự không ổn định của vấn đề tạm dừng, v.v. Thuật ngữ kỹ thuật ở đây là "kiến thức không bị đóng cửa khi khấu trừ". Nghĩa là, chúng ta có thể biết một số thực tế  , nhưng không biết  , mặc dù ngụ ý  .$A$$B$$A$$B$

Thành thật mà nói, tôi không chắc rằng lập luận của Turing rất hay. Có lẽ tôi có lợi ích khi viết gần 70 năm sau Turing, và sự hiểu biết của tôi là nhà toán học điển hình biết nhiều về logic toán học hơn so với thời Turing. Nhưng dường như các nhà toán học hầu như khá quen thuộc với ý tưởng về các hệ thống đơn giản có hành vi phức tạp. Ví dụ, mọi nhà toán học đều biết định nghĩa của một nhóm , chỉ bao gồm bốn tiên đề đơn giản. Nhưng không ai - hôm nay hay sau đó - sẽ nghĩ, "Aha. Tôi biết bốn tiên đề, do đó tôi biết mọi thực tế về các nhóm." Tương tự, các tiên đề của Peano đưa ra một mô tả rất ngắn về các số tự nhiên nhưng không ai đọc chúng nghĩ rằng "Phải, tôi biết mọi định lý về các số tự nhiên, bây giờ."

Chỉ là một ví dụ - đưa ra các quy tắc cờ vua, bất kỳ ai cũng cần lập tức tìm ra chiến lược tốt nhất để chơi cờ.

Tất nhiên, nó không hoạt động. Ngay cả mọi người không bằng nhau, và máy tính có thể tốt hơn chúng ta do khả năng tốt hơn để đưa ra kết luận từ thực tế.

Đây là ý tưởng về sự xuất hiện , đó là khi hành vi phức tạp xuất phát từ sự tương tác của các quy tắc tương đối đơn giản. Có rất nhiều ví dụ về điều này trong tự nhiên, như liên kết đó chỉ ra. Các đàn côn trùng, đàn chim, đàn cá, và tất nhiên, ý thức. Trong một đàn chim hoặc đàn cá, mỗi cá thể trong bầy chỉ đưa ra quyết định dựa trên những con khác ngay lập tức xung quanh chúng, nhưng khi bạn tập hợp những cá thể đó lại với nhau theo những quy tắc đó, bạn bắt đầu thấy hành vi phối hợp nhiều hơn bạn mong đợi mà không có kế hoạch cấp cao hơn. Nếu bạn lên Youtube và xem các cuộc biểu tình của bầy robot, bạn thấy rằng tất cả họ đều tránh va vào nhau và làm việc cùng nhau. Đáng ngạc nhiên là điều này không cần phải được thực hiện bằng cách có một máy tính trung tâm điều phối hành vi của từng robot mà thay vào đó có thể được thực hiện bằng cách sử dụng robot swarm trong đó, như côn trùng hoặc chim hoặc cá, mỗi robot đang đưa ra quyết định cục bộ dẫn đến để phối hợp nổi lên.

Một minh chứng thú vị khác về hành vi mới nổi là Trò chơi cuộc sống của Conway . Các quy tắc cho trò chơi cực kỳ đơn giản, nhưng có thể dẫn đến kết quả rất hấp dẫn

Một lập luận hấp dẫn chống lại khả năng máy tính có được trí thông minh của con người là nói rằng vì họ chỉ có thể làm chính xác những gì họ đã lập trình để làm, nên họ chỉ phải thể hiện trí thông minh mà chúng ta lập trình cho họ. Nếu điều này là đúng, thì chúng ta cũng sẽ không mong đợi hành vi tương đối đơn giản của các tế bào thần kinh sẽ làm phát sinh trí thông minh của con người. Tuy nhiên, theo như chúng tôi có thể nói, đây là trường hợp và ý thức là một đặc tính nổi bật của xử lý thần kinh. Tôi chắc chắn Turing rất thích nhìn thấy những gì có thể trở thành ngày nay với việc sử dụng mạng lưới thần kinh nhân tạo

Mọi người có thể cho rằng nếu tôi viết một chương trình và tôi hoàn toàn hiểu thuật toán và không có lỗi, thì tôi nên biết đầu ra của chương trình đó sẽ là gì và nó không làm tôi ngạc nhiên.

Turing nói (và tôi đồng ý) rằng đây không phải là trường hợp: Đầu ra có thể gây ngạc nhiên. Giải pháp cho một vấn đề nhân viên bán hàng du lịch có thể gây ngạc nhiên. Cách tốt nhất để xây dựng một bộ cộng đầy đủ có thể gây ngạc nhiên. Động thái tốt nhất trong một ván cờ có thể gây ngạc nhiên.