Có sự đánh đổi giữa tính linh hoạt và hiệu quả?

Một "trí thông minh chung" có thể có khả năng học hỏi nhiều thứ khác nhau, nhưng khả năng sở hữu không bằng thực sự có nó. "AGI" phải học ... và quá trình học có thể mất thời gian. Nếu bạn muốn AGI lái xe hoặc chơi Go, bạn phải tìm cách "dạy" nó. Hãy nhớ rằng chúng tôi chưa bao giờ xây dựng AGI, vì vậy chúng tôi không biết quá trình đào tạo có thể kéo dài bao lâu, nhưng sẽ an toàn khi đưa ra các ước tính bi quan.

Trái ngược với "trí thông minh hẹp". AI hẹp đã biết lái xe hay chơi Go. Nó đã được lập trình để rất xuất sắc trong một nhiệm vụ cụ thể. Bạn không cần phải lo lắng về việc đào tạo máy, bởi vì nó đã được đào tạo trước.

Một "trí thông minh chung" dường như linh hoạt hơn một "trí thông minh hẹp". Bạn có thể mua AGI và lái xe và chơi Go. Và nếu bạn sẵn sàng tập luyện nhiều hơn, bạn thậm chí có thể dạy cho nó một mẹo mới: cách nướng bánh . Tôi không phải lo lắng về những nhiệm vụ bất ngờ sắp tới, vì AGI cuối cùng sẽ tìm ra cách thực hiện nó, cho đủ thời gian đào tạo. Tôi sẽ phải chờ một thời gian dài mặc dù.

Một "trí thông minh hẹp" dường như hiệu quả hơn trong nhiệm vụ được giao, do nó được lập trình riêng cho nhiệm vụ đó. Nó biết chính xác phải làm gì và không phải lãng phí thời gian "học" (không giống như bạn thân AGI của chúng tôi ở đây). Thay vì mua một AGI để xử lý một loạt các nhiệm vụ khác nhau, tôi thà mua một loạt các AI hẹp chuyên dụng. Thu hẹp AI # 1 lái xe ô tô, Thu hẹp AI # 2 chơi Go, Thu hẹp AI nướng bánh 3, v.v. Điều đó có thể nói, đây là một cách tiếp cận rất dễ vỡ, vì nếu một số nhiệm vụ bất ngờ xuất hiện, không ai trong số các AI hẹp của tôi có thể để xử lý nó. Tôi sẵn sàng chấp nhận rủi ro đó.

"Suy nghĩ" của tôi có đúng không? Có sự đánh đổi giữa tính linh hoạt (AGI) và hiệu quả (AI hẹp), giống như những gì tôi vừa mô tả ở trên không? Hay về mặt lý thuyết, AGI có thể linh hoạt và hiệu quả không?

Kết quả rõ ràng nhất mà chúng tôi có về vấn đề này là định lý "không ăn trưa miễn phí" . Về cơ bản, để làm cho một hệ thống hoạt động tốt hơn ở một nhiệm vụ cụ thể, bạn phải làm giảm hiệu suất của nó đối với các nhiệm vụ khác và do đó có sự đánh đổi hiệu quả linh hoạt.

Nhưng đối với câu hỏi rộng hơn, hoặc liệu suy nghĩ của bạn có đúng hay không, tôi nghĩ rằng nó trả tiền để xem xét kỹ hơn những gì bạn muốn nói về một "trí thông minh hẹp". Các hệ thống AI mà chúng ta có chơi Go và lái xe ô tô không xuất hiện có thể làm những điều đó; họ dần dần học được cách thông qua rất nhiều ví dụ đào tạo và một kiến ​​trúc được lựa chọn tốt phản ánh miền vấn đề.

Đó là, "mạng lưới thần kinh" như một phương pháp có vẻ "chung" theo một cách có ý nghĩa; người ta có thể tưởng tượng rằng một trí thông minh chung có thể được hình thành bằng cách giải quyết vấn đề siêu học (nghĩa là học kiến ​​trúc phù hợp nhất với một vấn đề cụ thể trong khi học các trọng số cho vấn đề đó từ dữ liệu đào tạo).

Ngay cả trong trường hợp đó, vẫn sẽ có một sự đánh đổi hiệu quả linh hoạt; trí thông minh chung được phép thay đổi kiến ​​trúc của nó sẽ có thể giải quyết nhiều vấn đề khác nhau, nhưng sẽ mất một thời gian để khám phá vấn đề mà nó gặp phải. Một trí thông minh bị khóa trong một kiến ​​trúc cụ thể sẽ hoạt động tốt đối với các vấn đề mà kiến ​​trúc rất phù hợp (tốt hơn so với chung, vì nó không cần khám phá) nhưng kém hơn về các vấn đề khác mà nó không phù hợp.

Như Matthew Graves đã giải thích trong một câu trả lời khác Không có định lý bữa trưa miễn phí nào khẳng định tính linh hoạt - đánh đổi hiệu quả. Tuy nhiên, định lý này đang mô tả một tình huống trong đó bạn có một tập hợp các nhiệm vụ hoàn toàn độc lập. Điều này thường không giữ được, vì nhiều vấn đề khác nhau tương đương trong cốt lõi của chúng hoặc ít nhất có một số chồng chéo. Sau đó, bạn có thể làm một cái gì đó gọi là "chuyển giao học tập", có nghĩa là bằng cách đào tạo để giải quyết một nhiệm vụ, bạn cũng học được một điều gì đó về việc giải quyết một nhiệm vụ khác (hoặc có thể nhiều nhiệm vụ khác nhau).

Ví dụ trong chưng cất chính sách của Rusu et al. họ quản lý để "chắt lọc" kiến ​​thức từ các mạng chuyên gia khác nhau vào một mạng chung, cuối cùng vượt trội so với từng chuyên gia. Các chuyên gia đã được đào tạo cho các nhiệm vụ cụ thể trong khi nhà tổng quát học chính sách cuối cùng từ các "giáo viên" này.

Nó sẽ xuất hiện như vậy. Một ví dụ, mặc dù không liên quan cụ thể đến AI, được thấy trong sự khác biệt giữa máy tính kỹ thuật số và máy tính tương tự . Gần như tất cả mọi thứ chúng ta nghĩ là "máy tính" ngày nay là một máy tính kỹ thuật số có kiến ​​trúc von Neumann. Và đó là vì những thứ này có mục đích chung đến mức chúng có thể dễ dàng được lập trình để làm, về cơ bản, bất cứ thứ gì. Nhưng máy tính tương tự có thể (hoặc có thể, trở lại trong thập niên 60 hoặc sau đó) giải quyết một số loại vấn đề nhanh hơn máy tính kỹ thuật số. Nhưng họ không được ủng hộ chính xác do sự thiếu linh hoạt đó. Không ai muốn nối dây mạch với op-amps và bộ so sánh để giải quyết cho y .