Loại môi trường mô phỏng nào đủ phức tạp để phát triển AI nói chung?

Hãy tưởng tượng bạn đang cố gắng tạo ra một môi trường ảo mô phỏng đủ phức tạp để tạo ra một "AI chung" (mà tôi xác định là AI tự nhận thức) nhưng càng đơn giản càng tốt. Môi trường tối thiểu này sẽ như thế nào?

tức là một môi trường chỉ là một ván cờ sẽ quá đơn giản. Một chương trình cờ vua không thể là một AI chung.

Một môi trường với nhiều tác nhân chơi cờ và truyền đạt kết quả của họ cho nhau. Điều này sẽ tạo thành một AI chung? (Nếu bạn có thể nói một bậc thầy cờ vua, người nghĩ về cờ vua cả ngày có 'AI chung'? Trong thời gian suy nghĩ về cờ vua, anh ta có khác gì với một máy tính cờ vua không?).

Thế còn một thế giới giống như sim 3D. Điều đó dường như quá phức tạp. Sau tất cả, tại sao AI nói chung không tồn tại trong thế giới 2D.

Điều gì sẽ là một ví dụ về một môi trường đơn giản nhưng không quá đơn giản để AI (s) có thể tự nhận thức?

Tôi nghĩ rằng đây là một trong những câu hỏi liên quan đến AGI tốt nhất mà tôi thấy trong diễn đàn này.

Tôi sẽ bỏ qua tất cả các chủ đề về "AGI là gì", "trò chơi mô phỏng", ... Những chủ đề này đã được thảo luận trong nhiều thập kỷ và theo tôi, chúng là một ngõ cụt.

Vì vậy, tôi chỉ có thể trả lời với kinh nghiệm cá nhân của mình:

Đây là một định lý cơ bản trong điện toán rằng bất kỳ số lượng kích thước nào, bao gồm cả kích thước tạm thời, trong một không gian kích thước hữu hạn, có thể giảm xuống 1D.

Tuy nhiên, trong các ví dụ thực tế, đại diện 1D trở nên khó phân tích và hình dung. Đó là công việc thực tế hơn với các biểu đồ, có thể được xem như là một trung gian giữa 1D và 2D. Đồ thị cho phép đại diện của tất cả các sự kiện và quan hệ cần thiết.

Ví dụ, nếu chúng ta cố gắng phát triển AGI có thể hoạt động trong lĩnh vực toán học, bất kỳ biểu thức nào (mà con người chúng ta viết trong biểu diễn 2D với các tỷ lệ, chỉ số, tích phân, ...) có thể được biểu diễn dưới dạng 1D (như một biểu thức được viết trong một nguồn chương trình) nhưng 1D này phải được phân tích cú pháp để tiếp cận biểu đồ có thể được phân tích hoặc thực hiện. Do đó, biểu đồ kết quả sau khi phân tích cú pháp biểu thức là biểu diễn thực tế nhất.

Một ví dụ khác, nếu chúng ta muốn một tác nhân đi khắp thế giới 3D, thế giới này có thể được xem như một không gian trống với các đối tượng có một số thuộc tính. Một lần nữa, sau giai đoạn ban đầu của phân tích cảnh và nhận dạng đối tượng (tương đương với trình phân tích cú pháp trong ví dụ trước), chúng ta tiếp cận một biểu đồ.

Do đó, để thực sự hoạt động trong lĩnh vực AGI, tôi khuyên bạn nên bỏ qua các vấn đề về phân tích cảnh, nhận dạng đối tượng, nhận dạng giọng nói (AI thu hẹp) và làm việc trực tiếp trên các biểu đồ đại diện.

Tôi nghĩ điều quan trọng nhất là nó phải có thời gian mô phỏng theo một cách nào đó. Hãy suy nghĩ tự nhận thức chatbot. Sau đó, để "tự nhận thức" môi trường có thể là dữ liệu được cung cấp qua thời gian có thể được phân biệt là "tự" và "khác". Do đó, tôi cho rằng ý tôi là "cái tôi" là phần nó ảnh hưởng trực tiếp và "cái khác" là phần bị ảnh hưởng gián tiếp hay không. Ngoài ra, nó có thể sống trong môi trường trừu tượng. Lý do thời gian rất quan trọng là không có nó, thuật toán nhận thức chỉ là giải một bài toán.

AI nói chung hoàn toàn có thể tồn tại trong một thế giới 2D, chỉ cần một AI tổng quát (được định nghĩa ở đây là "sức mạnh nhất quán trong một loạt các vấn đề") trong bối cảnh này vẫn sẽ khá khác biệt với Trí thông minh nhân tạo , được định nghĩa là "thuật toán có thể thực hiện bất kỳ nhiệm vụ trí tuệ nào mà con người có thể. "

Ngay cả ở đó, định nghĩa của AGI là mờ nhạt, bởi vì "con người nào?" (Trí thông minh của con người là một quang phổ, nơi các cá nhân sở hữu các mức độ khác nhau về khả năng giải quyết vấn đề trong các bối cảnh khác nhau.)

Ý thức nhân tạo : Thật không may, tự nhận thức / ý thức là một vấn đề siêu hình nặng nề, khác biệt với khả năng giải quyết vấn đề (trí thông minh).

Bạn chắc chắn muốn xem một " Phòng Trung Quốc " và phản bác.

Có lẽ đáng để xem xét nguyên tắc hình ba chiều : "một khái niệm trong vật lý, theo đó một không gian được coi là hình ba chiều của các chiều n-1". Chắc chắn các mô hình và trò chơi có thể được cấu trúc theo cách này.

Một nơi khác để khám phá là các lý thuyết về sự xuất hiện của siêu trí tuệ trong Trò chơi Cuộc sống vô tận của Conway . (Tóm lại, sự hiểu biết của tôi là một khi các nhà nghiên cứu tìm ra cách tạo ra bất kỳ số nào trong máy tự động di động, khả năng xuất hiện tình cảm khẩn cấp được đưa ra một bảng trò chơi có kích thước đủ ít nhất là về mặt lý thuyết.)

Trong số các câu trả lời cho đến nay, câu trả lời từ @DukeZhou là khiêu khích nhất. Ví dụ, tài liệu tham khảo về phê bình Phòng Trung Quốc đưa ra tranh luận của Searle rằng một số hình thức cố ý có thể cần hỗ trợ trong môi trường nhân tạo. Điều này có thể ngụ ý sự cần thiết của một hệ thống giá trị hoặc một hệ thống giảm đau, tức là một cái gì đó mà hậu quả tốt có thể được "trải nghiệm" hoặc chủ động tìm kiếm và tránh hậu quả xấu. Hoặc một số khả năng tuyệt chủng cá nhân (cái chết hoặc chấm dứt) có thể cần phải được công nhận. Khả năng "cái chết"có thể cần phải có giá trị âm cao. Điều đó có thể ám chỉ một thế giới nhân tạo nên bao gồm "những trí tuệ khác" hoặc các tác nhân khác, mà tác nhân thông minh mới nổi hoặc đang học có thể quan sát (theo một cách nào đó) và "phản ánh", tức là nhận ra một trí thông minh như của chính nó. Theo nghĩa này, tam đoạn luận của Cartesian "Tôi nghĩ do đó tôi" bị biến thành: Tôi (hay đúng hơn là tôi là một AI) thấy bằng chứng về suy nghĩ của người khác, và "bởi gawd," tôi cũng có thể ". Những "cái khác" đó có thể là các hệ thống học tập khác (AGI) hoặc một số liên hệ với các đầu vào riêng biệt từ con người qua trung gian môi trường nhân tạo. Wikipedia thảo luận về "thử nghiệm Turing ngược"

Việc đề cập đến tính chiều sẽ kích thích một cuộc thảo luận về những gì sẽ là chiều sâu đại diện cần thiết của một "vật lý" của thế giới bên ngoài AI. Một số đại diện của thời gian và không gian dường như là cần thiết, tức là, một số cấu trúc chiều để tiến tới đạt được mục tiêu. Thế giới khối là một vấn đề đồ chơi ban đầu mà giải pháp của nó đã kích thích sự lạc quan trong những năm 60 và 70 của thế kỷ trước rằng những tiến bộ đáng kể đã được thực hiện. Tôi không nhận thấy bất kỳ nỗ lực nào để lập trình trong bất kỳ nỗi đau hay niềm vui nào trong chương trình SHRDLU thời kỳ đó (không bỏ rơi các ngón chân của chương trình), nhưng tất cả các đại diện khoa học viễn tưởng thú vị của AI đều có một số nhận thức về hậu quả bất lợi "vật lý" trong thế giới thực".

Chỉnh sửa: Tôi sẽ thêm nhu cầu về "các thực thể có tính năng" trong môi trường này có thể được "nhận biết" (bởi bất kỳ "người khác" nào đang tương tác với AGI) làm đầu vào dữ liệu cho các nỗ lực cảm ứng, nhận dạng và suy luận về các mối quan hệ. Điều này tạo ra một cơ sở cho một "kinh nghiệm" được chia sẻ.

Mặc dù câu trả lời hay của @pasaba por aqui, tôi đồng ý với @zooby rằng một biểu đồ có thể quá đơn giản. Nếu con người ở trong một môi trường mà các lựa chọn bị chết đuối hoặc thực hiện 5000 bước không liên quan để đóng thuyền, chúng ta sẽ không bao giờ vượt qua bất kỳ vùng biển nào. Tôi nghĩ rằng bất kỳ biểu đồ nào, nếu được thiết kế bằng tay, sẽ không đủ phức tạp để gọi tác nhân trong phạm vi AI chung. Thế giới sẽ cần đủ các quốc gia ở giữa rằng nó sẽ không còn được mô tả tốt nhất dưới dạng biểu đồ, mà ít nhất là một không gian đa chiều.

Tôi nghĩ có 2 điểm bạn phải xem xét. Thế nào là "đơn giản" và khi nào bạn sẽ nhận ra nó là "AI chung". Tôi không thấy AI tự nhận thức thỏa đáng, vì chúng ta không thể đo lường bất cứ thứ gì gọi là nhận thức; chúng ta chỉ có thể thấy trạng thái của nó và sự tương tác của nó với môi trường.

Vì 1. Tôi cho rằng thế giới chúng ta đang sống thực sự khá đơn giản. Có 4 lực lượng tự nhiên, một vài định luật bảo tồn và một loạt các loại hạt giải thích hầu hết mọi thứ. Chỉ là có nhiều hạt trong số này và điều này đã dẫn đến một thế giới khá phức tạp. Tất nhiên, điều này là tốn kém để mô phỏng, nhưng chúng ta có thể thực hiện một số phím tắt. Con người 200 năm trước sẽ không cần tất cả các cơ học lượng tử để giải thích thế giới. Nếu chúng ta thay thế các proton, neutron và lực mạnh bằng các nguyên tử trong bảng tuần hoàn, chúng ta hầu như sẽ ổn. Vấn đề là chúng tôi đã thay thế 3 luật chung hơn với 100 trường hợp cụ thể. Để môi trường mô phỏng đủ phức tạp, tôi nghĩ xu hướng này phải được giữ vững.

Điều đó đưa tôi đến 2. Tôi nghĩ rằng chúng ta chỉ thực sự hài lòng với tác nhân thể hiện AI nói chung khi nó có thể tương tác với môi trường theo cách có thể gây trở ngại cho chúng ta, trong khi không được hưởng lợi rõ ràng từ nó (vì vậy không vô tình). Bây giờ điều đó có thể khá khó khăn hoặc mất một thời gian rất dài, do đó, một điều kiện thoải mái hơn sẽ là xây dựng các công cụ mà chúng ta mong đợi nó sẽ xây dựng, do đó thể hiện sự làm chủ môi trường của chính nó. Ví dụ, bằng chứng về những chiếc thuyền đã được tìm thấy ở đâu đó trong khoảng từ 100 nghìn đến 900 nghìn năm trước, có cùng quy mô khi con người sớm phát triển. Tuy nhiên, mặc dù chúng tôi cho rằng mình thông minh, tôi không chắc chúng tôi sẽ coi một đại lý làm thuyền có trí thông minh chung vì nó có vẻ như là một phát minh khá đơn giản. Nhưng tôi nghĩ chúng ta sẽ hài lòng sau một vài phát minh như vậy.

Vì vậy, tôi nghĩ rằng chúng ta cần một Sim giống như thế giới, điều đó thực sự phức tạp hơn nhiều so với trò chơi. Với 1000 loại vật phẩm, nhiều phiên bản của từng vật phẩm và đủ mức độ tự do để tương tác với mọi thứ. Tôi cũng nghĩ rằng chúng ta cần một cái gì đó trông quen thuộc để thừa nhận bất kỳ tác nhân nào là thông minh. Vì vậy, một thế giới 3D, phức tạp, giống như minecraft sẽ là thế giới đơn giản nhất mà chúng ta sẽ nhận ra sự xuất hiện của trí thông minh nói chung.

Trí thông minh nhân tạo tổng hợp là một cái gì đó khác với một tác nhân hoạt động thông minh trong môi trường. Bởi vì theo tài liệu, các tác nhân như vậy được gọi là AI Narrow AI. Một hệ thống AGI là môi trường. Điều đó có nghĩa, thách thức mới nhất của Micromouse là một hệ thống AGI có mục tiêu phát triển các hệ thống AI thu hẹp.

Phát triển AGI tương đương với phát triển một cuộc thi robot. Nó được chính thức hóa trong một cuốn sách quy tắc và hoạt động như một môi trường để tìm hiểu, lập trình phần mềm và thảo luận về kết quả. Trong mọi trường hợp, một hệ thống AGI là một cuộc thi xã hội, điều đó có nghĩa là nó hấp dẫn cho các đội tham gia cuộc thi. AGI không trả lời làm thế nào để nhận ra trí thông minh, đó là một thử nghiệm để đo lường nó. Vì vậy, được gọi là bộ não của con người, kiến ​​trúc nhận thức và người giải quyết vấn đề chung không được phát triển như một AI hẹp để hoạt động thông minh, chúng được phát triển như một thử nghiệm thử thách cho một cỗ máy thông minh.

Làm thế nào chúng ta có thể đo bằng chương trình máy tính nếu một chương trình máy tính khác thông minh? Một khả năng là lý thuyết mô phỏng con người. Điều đó có nghĩa là, chúng tôi đang kiểm tra xem chương trình máy tính có hoạt động như con người không và kiểm tra thử nghiệm có nghĩa vụ, để kiểm tra bộ nhớ ngắn hạn, bộ nhớ dài hạn và khả năng học hỏi những điều mới. Ở dạng đơn giản nhất, thử nghiệm turing có thể được thực hiện với một hình thức đơn giản phải điền vào người, nhưng cũng có thể đưa con người ra khỏi vòng lặp và sử dụng máy tính để kiểm tra trí thông minh của máy tính khác . Đó là mục đích, SOAR, OpenCog và AIXI đã được phát triển.