Những lời chỉ trích liên quan đến hiệu suất của HTM là gì?

Gần đây tôi mới biết về sự tồn tại của bộ nhớ tạm thời phân cấp (HTM) này . Tôi đã đọc tài liệu Bộ nhớ tạm thời phân cấp: Khái niệm, lý thuyết và thuật ngữ (của Jeff Hawkins và Dileep George), có vẻ khá dễ hiểu, nhưng một lá cờ đỏ là tài liệu không được đánh giá ngang hàng cũng không cố gắng giải thích tại sao nó nên được xem xét làm việc chi tiết.

Tôi đã cố gắng tìm kiếm một số nguồn độc lập. Tôi tìm thấy một vài bài báo so sánh hiệu suất của nó với những người khác, nhưng không ai giải thích được tại sao nó hoạt động tốt (hoặc không). Tôi nhận thấy một số ý kiến ​​cho rằng nó bị chuyên gia chính thống xem thường, nhưng tôi không thể tìm thấy bất kỳ lời chỉ trích thực tế nào.

Những lời chỉ trích liên quan đến hiệu suất của HTM là gì? Vì HTM có nghĩa là chung chung, nên mọi chỉ trích về tên miền cụ thể sẽ liên quan đến một vấn đề cơ bản hơn.

Hơn nữa, có một lượng lớn dữ liệu đào tạo để sử dụng, đủ ngay cả trong nhiều tháng đào tạo. Về cơ bản, bất kỳ lời chỉ trích nào về quy mô hoặc thời gian đào tạo đều không liên quan.

Những lời phê bình chống lại Jeff Hawkins được tóm tắt tốt trong bài tiểu luận sau đây được lấy từ http://www.theregister.co.uk/2014/03/29/hawkins_ai_feature/

Bản thân tôi tin rằng lý thuyết HTM có tiềm năng rất lớn và sẽ là nền tảng của trí thông minh máy móc thực sự. IBM gần đây đã tuyên bố sao lưu lý thuyết HTM và bắt đầu Trung tâm học tập Cortical bao gồm hàng trăm thành viên.

http: //www.t Technologyreview.com/news/536326/ibm-tests-mobile-computing-pioneers-contputial-brain-alacticms /

Như được chỉ ra trong bài tiểu luận, Dillep George, người đồng sáng lập Numenta, đã tạo ra công ty khởi nghiệp Vicarious, nơi thu hút một số tiền rất lớn, trong đó thực tế cho thấy tiềm năng của lý thuyết HTM.

Nguồn: Những chỉ trích chống lại Jeff Hawkins , Sổ đăng ký

Cách tiếp cận tự tin, hiểu biết về truyền thông của ông dường như đã khuấy động một số cảm giác tồi tệ giữa các học giả khác, những người chỉ ra rằng, chính xác, Hawkins đã không xuất bản rộng rãi, và ông cũng không tự mình phát minh ra nhiều ý tưởng.

Numenta cũng gặp rắc rối, một phần do quan điểm bình dị của Hawkins về cách thức hoạt động của bộ não.

Vào năm 2010, chẳng hạn, nhà đồng sáng lập Numenta Dileep George đã rời khỏi để thành lập công ty riêng của mình, Vicarious, để chọn một số loại trái cây treo thấp hơn trong lĩnh vực đầy hứa hẹn của AI. Từ những gì chúng ta hiểu, sự tách biệt thân thiện này xuất phát từ sự khác biệt về quan điểm giữa George và Hawkins, khi George có xu hướng hướng tới một cách tiếp cận toán học hơn, và Hawkins theo hướng sinh học hơn.

Hawkins cũng đã nhận được một chút ẩu đả từ giới trí thức, với giáo sư tâm lý học NYU Gary Marcus bác bỏ cách tiếp cận của Numenta trong một bài báo ở New York có tiêu đề Steamrolled bởi Big Data.

Các học giả khác El Reg được phỏng vấn cho bài viết này không muốn được trích dẫn, vì họ cảm thấy thiếu các bài báo đánh giá ngang hàng của Hawkins kết hợp với tính cách doanh nhân của ông làm giảm uy tín của toàn bộ phương pháp của ông.

Hawkins gạt bỏ những lời chỉ trích này và tin rằng họ đưa ra một sự khác biệt về quan điểm giữa ông và giới trí thức AI.

"Đây là những hệ thống sinh học phức tạp không được thiết kế bởi các nguyên tắc toán học [rất] rất khó để chính thức hóa hoàn toàn", ông nói với chúng tôi.

Tôi đã học HTM được một thời gian. Thật tuyệt. Hành vi mặc định của HTM là phân tích dữ liệu tạm thời. Mặt khác, hiện nay, bạn cần một mạng nơ ron "ưa thích" (ví dụ: mạng thần kinh tái phát) để mô hình hóa một vấn đề theo trình tự (ví dụ như một chatbot). Nhưng HTM có thể được áp dụng một cách tự nhiên cho loại vấn đề này!

Tôi đang lên kế hoạch tạo ra một số loại TV tương tác với nó, với dữ liệu điều khiển được gửi cùng với dữ liệu hình ảnh, sau đó hạn chế dữ liệu hình ảnh thành dữ liệu điều khiển (điều đó là có thể, nhưng đừng hy vọng nó sẽ bất ngờ mơ thấy video mới, điều đó không xảy ra). Nhưng, tôi phải nói rằng, điều thú vị nhất về nó là video mà bạn dạy nó sẽ không được phát lại, thay vào đó nó sẽ hiển thị phiên bản tiêu biểu nhất của nó, đó là hình thức hiểu và thực sự làm cho nó thực sự mát mẻ. Vì vậy, đó giống như giấc mơ bạn thoát khỏi nó.

Nếu bạn đang sử dụng HTM với văn bản,

1. nó lưu trữ các chữ cái,
2. sau đó nó tạo ra âm tiết.
3. sau đó nó lấy những âm tiết này và tạo ra sự phổ biến trong số này,
4. sau đó nó tạo thành các từ trong các âm tiết phổ biến,
5. sau đó nó lấy những từ này và xác định những gì chúng có điểm chung,
6. sau đó nó hình thành từ có thể lớn hơn,
7. sau đó nó tạo thành các nhóm từ,
8. sau đó nó tạo thành các nhóm câu

Vì vậy, mỗi lần, nó tăng lên một cấp độ, nó "quên" thêm một chút nữa, chỉ để có thể ăn sâu vào các nhóm với nhau một cách vững chắc hơn. Các nhóm ăn sâu hơn này sẽ phát lại một chút khác biệt so với bản ghi phát vào nó. Và phát lại này đã không được nhìn thấy bởi nhiều người.

Tôi tự hỏi nếu nó đi lên với câu hoàn toàn của riêng mình.

Nó làm cho câu phát triển chậm hơn một chút, tốt hơn nhiều. Đó là công việc khó khăn hơn nhiều so với việc không quên bất cứ điều gì và chỉ đơn giản là có một bản phát lại bằng phẳng của bản ghi. Tôi muốn nói rằng câu của bạn phát triển càng chậm, bạn càng làm tốt hơn, vì vậy nếu có thêm một số cách để tìm ra tính điển hình, bạn nên làm điều đó.