Nền toán học cho mạng lưới thần kinh

Không chắc điều này có phù hợp với trang web này không, nhưng tôi đang bắt đầu bằng MSE về khoa học máy tính (BS về toán ứng dụng) và muốn có một nền tảng vững chắc về học máy (rất có thể tôi sẽ theo đuổi bằng tiến sĩ). Một trong những sở thích phụ của tôi là mạng lưới thần kinh.

Một nền tảng toán học tốt cho ANN là gì? Giống như trong các lĩnh vực khác của học máy, tôi cho rằng đại số tuyến tính là quan trọng, nhưng những lĩnh vực khác của toán học là quan trọng?

Tôi dự định đọc Mạng nơ-ron: Giới thiệu có hệ thống hoặc Mạng nơ-ron để nhận dạng mẫu . Có ai có bất kỳ đề nghị đầu vào hoặc thay thế?

Theo tôi, tài liệu tham khảo thứ hai là cuốn sách hay nhất về NN, mặc dù nó có thể hơi lỗi thời và không giải quyết được những phát triển gần đây như kiến ​​trúc sâu. Bạn sẽ có được những điều cơ bản đúng, và làm quen với tất cả các khái niệm cơ bản xung quanh học máy.

Nếu bạn đi qua cuốn sách, bạn sẽ cần đại số tuyến tính, phép tính đa biến và các khái niệm cơ bản của thống kê (xác suất có điều kiện, định lý bay và làm quen với phân phối nhị thức). Tại một số điểm, nó liên quan đến tính toán của các biến thể. Các phụ lục về tính toán của các biến thể là đủ mặc dù.

Thành phần toán học có thể sẽ bao gồm đại số nâng cao, trig, đại số tuyến tính và phép tính tối thiểu.

Nhưng cũng nghĩ bên ngoài hộp. Kỹ năng lập trình tốt cũng rất cần thiết bao gồm nền tảng vững chắc trong thuật toán (Coursera có hai khóa học về thuật toán) và thành thạo MatLab, Octave hoặc R (và với ngôn ngữ lập trình linh hoạt như Java, C / C ++ hoặc Python). Tôi đề cập đến những điều này để trả lời câu hỏi của bạn bởi vì chúng là những kỹ năng "toán ứng dụng" hơn theo quan điểm của tôi - và là cơ bản để dịch giữa lý thuyết và thực hiện ứng dụng.

Tôi đã tham gia một số khóa học của Coursera liên quan đến học máy (và đồng ý với một poster khác rằng Học máy của Giáo sư Ng là tuyệt vời) và NN. Một vài tháng trước, Coursera đã tổ chức một khóa học về mạng nơ-ron (không chắc là nó vẫn có sẵn) thông qua Đại học Toronto và Geoffrey Hinton. Một khóa học tuyệt vời và đòi hỏi: kiến ​​thức về tính toán, thành thạo với Octave (một bản sao giống như MatLab mã nguồn mở), thiết kế thuật toán tốt (cho khả năng mở rộng) và đại số tuyến tính.

Bạn cũng có thể (trong khi không phải toán học), suy nghĩ về các chủ đề như xử lý ngôn ngữ tự nhiên (để trích xuất tính năng, v.v.), truy xuất thông tin, lý thuyết thống kê / xác suất cũng như các lĩnh vực khác của Machine Learning (để có thêm lý thuyết). Các văn bản gần đây như Cơ sở của Học máy (Mohri) hoặc Giới thiệu về Học máy (Alpaydin) có thể hữu ích cho bạn trong việc bắc cầu sự phức tạp giữa lý thuyết và thực hiện (theo tôi, đây có thể là một bước nhảy vọt) - và cả hai văn bản rất nặng toán, đặc biệt là nền tảng.

Một lần nữa, tôi nghĩ tất cả đều liên quan đến toán học và NN nhưng theo nghĩa rộng hơn.

Xem: http://www.quora.com/Career-Advice/How-do-I-become-a-data-scientist Câu trả lời thứ hai. Lộ trình khá đầy đủ.

Giới thiệu dần dần về Machine learning: theo khóa học Machine Learning 101 tuyệt vời này của Andrew Ng của Standford. Tôi đã làm nó tuyệt vời phải không?

https://www.coursera.org/c thuyết / ml

Một cuốn sách rất hay (không thực sự giới thiệu, nhưng không giả sử kiến ​​thức trước trong các mạng thần kinh) là Brian Ripley: "Nhận dạng mẫu và Mạng nơ-ron", mà tôi có thể nói chứa nhiều phần mở đầu của nó. Với một BS trong toán ứng dụng, bạn nên chuẩn bị.

Chủ đề chính là số liệu thống kê

tính toán đa biến

đại số tuyến tính số (ma trận thưa thớt v.v.) tối ưu hóa số (giảm độ dốc vv, lập trình bậc hai)

bạn có thể muốn đọc các quy trình gaussian và các toán học cần có ở đó thử và thực hiện một số lớp xử lý hình ảnh / xử lý ngôn ngữ tự nhiên