Bạn gọi một hệ thống học máy tiếp tục học là gì?


7

Theo tôi hiểu từ bài giảng video này , có ba loại học sâu:

  • Giám sát
  • Không giám sát
  • Gia cố

Tất cả những thứ này có thể phục vụ để huấn luyện một mạng lưới thần kinh chỉ trước khi triển khai hoặc trong quá trình vận hành.

Đối với trường hợp sau, nó được gọi là học liên tục ở đâyở đây và như học tập năng động ở đâyở đây .

Tôi nên sử dụng thuật ngữ nào để chỉ thuật toán học máy tiếp tục học (ngay cả sau khi triển khai)? Nếu đó là "liên tục", có một thuật ngữ đối lập (chẳng hạn như "tĩnh" cho "động") cho những hệ thống ngừng học trước khi được triển khai không?

Câu trả lời:


2

Độ tin cậy của định nghĩa

Các thuật ngữ Giám sát, Không giám sát và Củng cố được giải thích hợp lý trong bài giảng video được tham chiếu trong câu hỏi, tuy nhiên Pascal Vincent từ Đại học Montreal không chú thích bài giảng, đưa ra bằng chứng hoặc chứng minh so sánh sử dụng hệ thống làm việc cho mỗi thuật ngữ. Nó chỉ là một quan điểm của giảng viên. Trong quá trình tìm kiếm sự đối xứng và độ chính xác trong các định nghĩa của ba thuật ngữ đó, cùng với Liên tục và Động, có thể tìm thấy sự mơ hồ.

Không có cơ quan tiêu chuẩn để xác định các thuật ngữ trong cộng đồng nghiên cứu và phát triển trí tuệ nhân tạo. Thiếu tiêu chuẩn hóa là một vấn đề lớn trong ngành công nghiệp phần mềm nói chung, nhưng công nghệ phần mềm vẫn còn non trẻ so với các lĩnh vực kỹ thuật khác.

Trong kỹ thuật cơ khí, người ta có thể thiết kế một hệ thống và gọi cho sáu vòng tròn bu lông 1 / 2-20 thép không gỉ 2 "bu lông. Các nhà sản xuất có thể đặt hàng bu lông và mua vòng tròn một cách dễ dàng vì các tiêu chuẩn và quy ước. Các kỹ sư dân sự có thể nói rõ ràng Cái gì là và cái gì không phải là một trụ trong thiết kế cầu đường cao tốc. Trong kỹ thuật điện, bộ khuếch đại dụng cụ là một lớp các mạch mà ít có sự mơ hồ.

Trong công nghệ phần mềm, các thuật ngữ như Thành phần hoặc Khung sở hữu sự mơ hồ đáng chú ý. Ngược lại, các tính năng chính của API RestFUL có chút mơ hồ. Tương tự, các tập hợp của công nghệ phần mềm, trí tuệ nhân tạo và học máy, có các thuật ngữ mơ hồ và các thuật ngữ tương đối rõ ràng của chúng.

Học tập theo dõi triển khai

Thuật ngữ ở giữa câu hỏi này rất thú vị: "Chỉ trước khi triển khai."

Thực tế không có phần mềm học tập nào học trước khi triển khai. Phần mềm phải được triển khai ở đâu đó để học. Nếu kiến ​​thức tên miền nằm trong mã nguồn, thì người viết chương trình đã học, không phải hệ thống phần mềm.

Có thể có một thành phần vừa học vừa sử dụng những gì đã học để thực hiện. Một sự sắp xếp khác liên quan đến hai thành phần, một thành phần học nhưng không thể thực hiện và một thành phần riêng biệt không thể học nhưng thực hiện dựa trên những gì thành phần trước đã học. Trong trường hợp tích hợp, một thành phần phải được triển khai để bắt đầu học. Trong trường hợp hai thành phần, thành phần học tập phải được triển khai để bắt đầu học. Điều này đúng với các mạng thần kinh và các loại hệ thống học tập khác.

Câu hỏi sẽ có ý nghĩa hơn nếu nó đọc như vậy: "Có [một] thuật ngữ cho những hệ thống ngừng học trước khi được sử dụng để thực hiện chức năng của chúng không?"

Không có thuật ngữ duy nhất được định nghĩa chính xác như thế. Một cách để mô tả các hệ thống không có sự đồng nhất giữa chức năng học tập và thực hiện bằng cách sử dụng những gì học được là Tạm thời tạm thời, có nghĩa là tạm thời trong miền thời gian, không có nghĩa là không giao nhau. Dĩ nhiên, việc gọi một hệ thống là một sự từ chối tạm thời, không đưa ra tuyên bố nào về việc liệu sau này việc học có thể được nối lại hay không.

Định nghĩa tương đối rõ ràng, thông thường

Đây là cách tôi sẽ xác định các điều khoản, nhưng đây chỉ là quan điểm của tôi, dựa trên kinh nghiệm nghiên cứu và nền tảng học vấn của tôi. Tôi không may có ít thời gian hơn các giảng viên đại học để cung cấp các chú thích, bằng chứng hoặc mã giả so sánh.

  • Giám sát - Quá trình học tập được kiểm soát hoặc hỗ trợ bởi một yếu tố bên ngoài chứ không chỉ đơn thuần là tín hiệu chứa mẫu cần học. Trong thực tế phổ biến, giám sát thực sự là một tập hợp các giá trị dự kiến. Các giá trị dự kiến ​​thường được định hướng trong dữ liệu đầu vào bên cạnh các giá trị tính năng của dữ liệu huấn luyện. (Một cách khác để xem xét điều này là dữ liệu độc lập và phụ thuộc được chứa trong một cấu trúc điểm duy nhất.)
  • Không giám sát - Không giám sát. Không có giá trị dự kiến ​​cũng như dữ liệu khác để hỗ trợ đào tạo được cung cấp ngoài dữ liệu tính năng. (Đây là trường hợp trong các thuật toán nhận dạng mẫu ngây thơ.)
  • Củng cố - Việc cung cấp tín hiệu chính xác cho biết quá trình học tập cho dù hành vi gần đây nhất xuất phát từ việc học trước đó là mong muốn hay không mong muốn. Trong một số hệ thống, mức độ mong muốn hoặc không mong muốn cũng được cung cấp. Tín hiệu có thể là một vectơ hoặc ma trận trong các thiết kế tinh vi hơn. Các nhà nghiên cứu có đầu óc tâm lý đôi khi gọi sự đúng đắn là tín hiệu của sự khen thưởng hay trừng phạt, nhưng đó là tính nhân hóa của một cái gì đó cơ bản hơn các khía cạnh cưỡng chế của việc nuôi dạy con cái, huấn luyện động vật, khuyến khích kinh tế hoặc thực thi pháp luật.
  • Đăng ký lại - Quá trình học được đăng ký lại, nghĩa là nó có thể dừng lại, hệ thống có thể thực hiện một chức năng bằng cách sử dụng những gì nó đã học và việc học có thể tiếp tục. Lưu ý rằng độ chi tiết tạm thời không được ngụ ý; không có tiêu chuẩn nào xác định việc chuyển đổi giữa học tập và thực hiện dựa trên những gì đã học xảy ra mỗi nano giây hay mỗi năm.
  • Liên tục - Học tập không dừng lại, ngụ ý rằng việc học xảy ra đồng thời với việc sử dụng những gì đã được học. . từ các hướng dẫn sử dụng những gì học được để thực hiện một chức năng hữu ích. Trong thực tế, do đó, các phương pháp liên tục thường sử dụng việc học lại.)

Năng động

Có rất ít để thêm về các thuật ngữ Tĩnh và Động ngoài định nghĩa từ điển của các thuật ngữ đó. Bất kỳ số lượng tính năng hoặc cơ quan nào của hệ thống học tập có thể là Động hoặc Tĩnh. Đây chỉ là một vài bối cảnh ví dụ trong đó tính năng động có thể có liên quan trong lĩnh vực học máy.

  • Giá trị của các cạnh giữa các đỉnh
  • Số lượng đỉnh ở một số nơi trong cấu trúc
  • Bao quát các tham số hoặc tín hiệu mạng
  • Số lượng kích thước trong các tín hiệu dọc theo các cạnh
  • Phạm vi của mỗi chiều
  • Số lớp
  • Cấu trúc liên kết của các lớp

Tóm tắt

Nếu bạn đang tìm kiếm một từ trái nghĩa cho Học liên tục, bạn có thể muốn sử dụng Học không liên tục. Có vẻ như đáng thất vọng, đây là từ trái nghĩa với ít mơ hồ. Các thuật ngữ như Thuật toán đào tạo lại có thể đúng hơn về mặt kỹ thuật nhưng hơi khó hiểu.

Tĩnh và động phải luôn là từ trái nghĩa của nhau. Nhiều loại tính năng động (được liệt kê ở trên) mà mạng lưới thần kinh có thể biểu hiện mối quan hệ giữa tính năng động và tính liên tục quá phức tạp để tóm tắt ngắn gọn.

Nhìn nhận

Cảm ơn Douglas Daseeco, Giám đốc phòng thí nghiệm của chúng tôi, vì đã khuyến khích các câu trả lời toàn diện cho các câu hỏi cấp cao (thay vì loại bỏ chúng quá rộng hoặc trả lời không đủ) và sửa lỗi giải thích ban đầu của tôi về củng cố. Tôi đã vướng vào các khái niệm tái nhập không chính xác với cốt thép và không giải quyết được sự tồn tại của tín hiệu chính xác.


1

Trong một lĩnh vực phát triển mạnh như AI, nhiều thuật ngữ chưa được thiết lập đầy đủ và trong một số lĩnh vực, sẽ mất nhiều thời gian hơn cho đến khi cộng đồng đồng ý về các điều khoản cụ thể cho các công nghệ cụ thể.

Do đó, có thể chưa thể đưa ra câu trả lời dứt khoát cho câu hỏi của bạn. Nhưng điều quan trọng cần lưu ý là các tài liệu tham khảo bạn đưa ra không phải tất cả đều nói về cùng một kiểu học trong quá trình hoạt động . Và điều này mang lại như tín hiệu để đào sâu hơn vào chủ đề.

Cách dễ nhất để học trong quá trình hoạt động là học tăng cường đơn giản. DQN của Deepmind hoạt động chính xác theo cách đó. Nó thử các động tác khác nhau và tìm hiểu những gì hoạt động bằng cách nhận phản hồi thông qua chức năng phần thưởng. Không nhất thiết phải có một giai đoạn học tập và làm việc riêng biệt. AI trở nên tốt hơn theo thời gian. Điều này có nghĩa là, NN tiếp tục thích nghi với thử thách trong tay và nếu thử thách đó thay đổi, nó chấp nhận thách thức mới theo thời gian và "quên" những gì đã làm trước đây, nếu chiến lược cũ này không còn hiệu quả.

Tài liệu tham khảo đầu tiên của bạn đến Deepmind giải quyết khía cạnh quên. Khi nói về học tập liên tục, điều đó cũng có nghĩa là một hệ thống không quên các kỹ năng trước đó nhưng có thể sử dụng chúng sau khi học một thứ hoàn toàn khác. Điều này đòi hỏi kiến ​​trúc tiên tiến hơn của AI. Và phương pháp này không có nghĩa là NN nhất thiết phải tiếp tục học hỏi trong quá trình hoạt động. Nó có thể sử dụng kỹ thuật này trong quá trình đào tạo và ngừng học một khi nó có hiệu quả.

Và có một lĩnh vực thứ ba, các mạng đệ quy, không truyền thông tin của chúng từ nơ ron sang nơ ron một cách thẳng thắn nhưng có thể chứa các vòng lặp hoặc các loại cổng khác, điều khiển luồng thông tin. Các kiến ​​trúc như vậy thường phức tạp hơn các NN bình thường, nhưng giống với hoạt động của bộ não động vật hơn một chút. Trong lĩnh vực này, thuật ngữ động được sử dụng thường xuyên.

Do đó, tôi muốn nói rằng thuật ngữ bạn đang tìm kiếm là học liên tục - Tôi cũng đã đọc học trực tuyến cho loại NN này - khi bạn muốn nói rằng NN tiếp tục học trong quá trình sản xuất. Thuật ngữ động là phổ biến hơn cho đệ quy hoặc các loại NN phức tạp khác và phù hợp hơn ở đó theo ý kiến ​​của tôi.

Để kết luận câu trả lời của tôi, tôi cần phải quay lại từ đầu. Nhiều điều khoản trong lĩnh vực AI cuối cùng không được giải quyết. Do đó, phân tích của tôi chỉ là một bản tóm tắt về các xu hướng tôi đã thấy trong các ấn phẩm và bài giảng khác nhau và không được giữ đúng trong những năm tới. Hy vọng nó sẽ giúp tuy nhiên.


Câu hỏi thứ ba, thuật ngữ cho việc học hỏi liên tục, có lẽ có thể được thêm vào. ... Nhận xét rằng thuật ngữ động được sử dụng thường xuyên là chính xác, nhưng điểm thích hợp nhất về thuật ngữ này, nó được sử dụng trong nhiều ngữ cảnh và đối với nhiều tính năng phần mềm tuyệt vời không được đề cập. Đó là một thực tế quan trọng dẫn đến sự nhầm lẫn của người hỏi, vì vậy nó có thể hữu ích để thêm. ... Mặc dù đệ quy có thể được sử dụng trong các tính năng động, nhưng nó là một tính năng của thuật toán và tiếp tuyến với tính năng động. ... Củng cố có thể dễ dàng cho người dùng, nhưng không phải là lập trình viên AI.
FauChristian

1

Có một số thuật ngữ hoặc biểu thức liên quan đến các hệ thống đó, chẳng hạn như học trực tuyến , học tăng dần , học liên tục , học liên tục học cả đời . Chúng đôi khi được sử dụng thay thế cho nhau, nhưng một số trong số chúng có ý nghĩa hơi khác nhau. Ví dụ, học trực tuyến không cần phải gia tăng, trong đó đề cập đến các thuật toán cố gắng không quên thông tin đã học trước đó.

Ngược lại với online là offline. Tuy nhiên, việc học tập theo biểu thức đôi khi được sử dụng như một từ trái nghĩa cho việc học trực tuyến.

Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.