Mạng nơ ron nhân tạo và mạng nơ ron sinh học giống và khác nhau như thế nào?

Tôi đã nghe nhiều lần rằng "Mạng lưới thần kinh là sự gần đúng nhất mà chúng ta phải mô hình hóa bộ não con người" và tôi nghĩ người ta thường biết rằng Mạng lưới thần kinh được mô phỏng theo bộ não của chúng ta.

Tôi nghi ngờ rằng mô hình này đã được đơn giản hóa, nhưng bao nhiêu?

Làm thế nào nhiều, nói, vanilla NN khác với những gì chúng ta biết về bộ não con người? Chúng ta có biết không?

Mạng nơ ron nhân tạo (ANN) khác với Mạng thần kinh sinh học (BNNs) như thế nào tùy thuộc vào những gì bạn đang tìm kiếm. Chúng ta đều biết rằng ANN được lấy cảm hứng từ những người sinh học.
Sự khác biệt về cấu trúc: Nói chung, một mạng lưới thần kinh bao gồm bốn thành phần:

• tế bào thần kinh
• cấu trúc liên kết: đường dẫn kết nối giữa các tế bào thần kinh
• trọng lượng
• học thuật

Trong trường hợp trạng thái ban đầu của mạng thần kinh nhân tạo và trọng lượng được chỉ định ngẫu nhiên . Trong khi đối với các mạng thần kinh sinh học, các điểm mạnh của các kết nối giữa các nơ-ron và cấu trúc của các kết nối không bắt đầu như ngẫu nhiên. Trạng thái ban đầu có nguồn gốc di truyền và là sản phẩm phụ của quá trình tiến hóa .
Trong học tập BNN xuất phát từ sự kết nối giữa vô số tế bào thần kinh trong não. Những kết nối này thay đổi cấu hình khi não trải nghiệm các kích thích mới . Những thay đổi dẫn đến kết nối mới, tăng cường các kết nối hiện có và loại bỏ các kết nối cũ và không sử dụng .
ANN được đào tạo từ đầu bằng cách sử dụng cấu trúc liên kết cố định(hãy nhớ thay đổi cấu trúc liên kết trong trường hợp BNN), điều này phụ thuộc vào vấn đề đang được giải quyết. Cơ chế hiện tại không thay đổi cấu trúc liên kết của ANN và các trọng số được khởi tạo và điều chỉnh ngẫu nhiên thông qua thuật toán tối ưu hóa.

Một sự tương phản khác là về số lượng tế bào thần kinh trong mạng. Một điển hình .ANN bao gồm hàng trăm, hoặc có thể hàng ngàn tế bào thần kinh; mạng lưới thần kinh sinh học của bộ não con người bao gồm hàng tỷ . Con số này thay đổi từ động vật sang động vật.
Bạn có thể tìm thêm ở đây và ở đây

Họ không gần gũi, không còn nữa!

[Nhân tạo] Mạng lưới thần kinh truyền cảm hứng mơ hồ bởi các kết nối mà chúng ta quan sát trước đây giữa các tế bào thần kinh của não. Ban đầu, có lẽ đã có ý định phát triển ANN để xấp xỉ bộ não sinh học. Tuy nhiên, các ANN hoạt động hiện đại mà chúng ta thấy các ứng dụng của chúng trong các nhiệm vụ khác nhau không được thiết kế để cung cấp cho chúng ta mô hình chức năng của bộ não động vật. Theo như tôi biết, không có nghiên cứu nào khẳng định họ đã tìm thấy thứ gì đó mới trong não bộ sinh học bằng cách xem xét các kết nối và phân bổ trọng lượng của giả sử mô hình CNN hoặc RNN.

Tuyên bố chung rằng Mạng lưới thần kinh nhân tạo được lấy cảm hứng từ cấu trúc thần kinh của bộ não chỉ đúng một phần.

Đúng là Norbert Wiener, Claude Shannon, John von Neuman và những người khác đã bắt đầu con đường tiến tới AI thực tế bằng cách phát triển thứ mà sau đó họ gọi là bộ não điện tử. Nó cũng đúng

• Mạng nhân tạo có chức năng gọi là kích hoạt,
• Có dây trong các mối quan hệ nhiều-nhiều như tế bào thần kinh sinh học, và
• Được thiết kế để học một hành vi tối ưu,

nhưng đó là mức độ tương tự. Các tế bào trong các mạng nhân tạo như MLP (đa giác quan) hoặc RNN (mạng thần kinh tái phát) không giống như các tế bào trong mạng não.

Perceptionron, phần mềm đầu tiên đâm vào các mảng kích hoạt, không phải là một mảng các nơ-ron. Đó là ứng dụng của phản hồi cơ bản liên quan đến độ dốc, vốn được sử dụng phổ biến trong kỹ thuật kể từ khi thống đốc ly tâm của James Watt được mô hình toán học bởi Gauss. Xấp xỉ liên tiếp, một nguyên tắc đã được sử dụng trong nhiều thế kỷ, đã được sử dụng để cập nhật dần dần một ma trận suy giảm. Ma trận được nhân với vectơ cung cấp một mảng các hàm kích hoạt giống hệt nhau để tạo đầu ra. Đó là nó.

Việc chiếu theo chiều thứ hai lên cấu trúc liên kết nhiều lớp có thể được thực hiện bằng cách nhận ra rằng Jacobian có thể được sử dụng để tạo tín hiệu hiệu chỉnh, khi được phân phối dưới dạng phản hồi âm cho các lớp một cách thích hợp, có thể điều chỉnh ma trận suy giảm của chuỗi perceptionron và toàn bộ mạng sẽ hội tụ theo hành vi thỏa đáng. Trong chuỗi các tri giác, mỗi phần tử được gọi là một lớp. Các cơ chế phản hồi bây giờ được gọi là tuyên truyền trở lại.

Toán học được sử dụng để sửa mạng được gọi là độ dốc giảm dần vì nó giống như một người mù bị mất nước sử dụng độ dốc của địa hình để tìm nước và các vấn đề thực hiện cũng tương tự. Anh ta có thể tìm thấy một cực tiểu địa phương (điểm thấp) trước khi anh ta tìm thấy nước ngọt và hội tụ cái chết thay vì hydrat hóa.

Các cấu trúc liên kết mới hơn là sự bổ sung của công việc tích chập hiện có được sử dụng trong phục hồi hình ảnh kỹ thuật số, sắp xếp thư và ứng dụng đồ họa để tạo ra cấu trúc liên kết CNN và sử dụng khéo léo những gì giống như trạng thái cân bằng hóa học từ hóa học năm đầu tiên để kết hợp các tiêu chí tối ưu hóa gia đình GAN của cấu trúc liên kết.

Deep chỉ đơn giản là một từ đồng nghĩa với nhiều trong hầu hết các bối cảnh AI. Nó đôi khi gây ra sự phức tạp trong cấu trúc liên kết cấp cao hơn (trên các sản phẩm ma trận véc tơ, kích hoạt và kết cấu).

Nghiên cứu tích cực đang được tiến hành bởi những người nhận thức được những mạng lưới sâu này khác với những gì các nhà khoa học thần kinh đã phát hiện ra hàng thập kỷ trước trong mô não của động vật có vú. Và ngày càng có nhiều yếu tố khác biệt được phát hiện khi học mạch và hóa học thần kinh trong não được nghiên cứu từ góc độ bộ gen.

• Độ dẻo thần kinh ... thay đổi cấu trúc liên kết mạch do tăng trưởng dendrite và tiên đề, tử vong, chuyển hướng và biến đổi hình thái khác
• Độ phức tạp tôpô ... số lượng lớn các tiên đề lan tỏa mà không tương tác và được bảo vệ một cách có chủ ý khỏi nói chuyện chéo (độc lập) rất có thể vì sẽ bất lợi khi để chúng kết nối ^{[ghi chú 1]}
• Tín hiệu hóa học ... bộ não động vật có vú có hàng chục hợp chất truyền thần kinh và điều hòa thần kinh có tác động khu vực lên mạch ^{[chú thích 2]}
• Các bào quan ... tế bào sống có nhiều cấu trúc con và người ta biết rằng một số loại có mối quan hệ phức tạp với việc truyền tín hiệu trong tế bào thần kinh
• Hình thức kích hoạt hoàn toàn khác nhau ... kích hoạt trong mạng lưới thần kinh nhân tạo thông thường chỉ đơn giản là các chức năng với vô hướng thứ tự cho cả phạm vi và miền ... tế bào thần kinh động vật có vú hoạt động như một chức năng của cả biên độ và độ gần tương đối của tín hiệu đến ^{[chú thích 3]}

[1] Topology trớ trêu thay cả một tập hợp con của kiến ​​trúc (trong các lĩnh vực thiết kế tòa nhà, cung cấp mạng, phân tích WWW và mạng ngữ nghĩa), nhưng đồng thời, cấu trúc liên kết còn hơn cả kiến ​​trúc, là trung tâm triệt để của cả AI toán học và hiện thực hóa hiệu quả trong các hệ thống điều khiển

[2] Vai trò của hóa học có thể là cần thiết để học hành vi xã hội và sinh sản có liên quan đến việc truyền thông tin DNA, liên kết theo những cách phức tạp trong học tập ở cấp độ của một hệ sinh thái và não. Hơn nữa, học tập dài hạn và ngắn hạn cũng phân chia việc học của bộ não thành hai khả năng riêng biệt.

[3] Tác động của thời gian của các tín hiệu đến đối với kích hoạt nơ-ron sinh học được hiểu ở một mức độ nào đó, nhưng nó có thể tác động nhiều hơn so với đầu ra của nơ-ron. Nó cũng có thể ảnh hưởng đến tính nguyên vẹn và hóa học, và các bào quan có thể đóng một vai trò trong đó.

Tóm lược

Những gì các thư viện máy học làm là mô phỏng bộ não của con người giống như búp bê Barbie và Ken mô phỏng một cặp vợ chồng thực sự.

Tuy nhiên, những điều đáng chú ý đang phát sinh trong lĩnh vực học tập sâu, và tôi sẽ không ngạc nhiên nếu các phương tiện tự trị trở nên tự chủ hoàn toàn trong cuộc sống của chúng ta. Tôi cũng không muốn giới thiệu cho bất kỳ sinh viên nào để trở thành một nhà phát triển. Máy tính có thể sẽ mã hóa tốt hơn nhiều so với con người và các đơn đặt hàng cường độ nhanh hơn, và có thể sớm. Một số nhiệm vụ không phải là loại sinh học đã phát triển để thực hiện và máy tính có thể vượt quá khả năng của con người chỉ sau vài thập kỷ nghiên cứu, cuối cùng vượt quá hiệu suất của con người với một số bậc độ lớn.