Các chủ đề nghiên cứu 'nóng' mới nhất để học sâu và AI là gì?

Tôi đã làm luận án thạc sĩ về các mô hình sáng tạo sâu và hiện tôi đang tìm kiếm một chủ đề mới.

Q: Những chủ đề nghiên cứu "nóng nhất" nào đang thu hút nhiều sự chú ý của cộng đồng học tập sâu gần đây?

Một vài điều rõ ràng:

• Tôi đã xem qua các câu hỏi tương tự và không ai trong số họ trả lời câu hỏi của tôi.
• Tôi đến từ một nền tảng toán học thuần túy, tôi chỉ chuyển sang học sâu một năm trước, và nghiên cứu của tôi về các mô hình thế hệ chủ yếu là lý thuyết. Điều đó có nghĩa là, hầu hết các công việc của tôi xoay quanh các mô hình xác suất có cấu trúc và suy luận gần đúng. Điều đó nói rằng, tôi chưa khám phá các ứng dụng thế giới thực của học tập sâu.
• Tôi đã làm bài tập về nhà trước khi đặt câu hỏi. Mục tiêu của tôi là có được ý kiến ​​của ai về vấn đề này và xem mọi người đang làm gì.

Chủ đề nóng của ngày hôm nay có thể là tro lạnh, ẩm ướt của ngày mai. Ví dụ, tốc độ hội tụ của các phương pháp CNN và LSTM, đặc biệt là kết hợp, đã chuyển hướng sự chú ý đáng kể khỏi các thiết kế RNN cơ bản.

Tương tự như vậy, các chủ đề lạnh của ngày hôm nay có thể là than hồng cháy bỏng của ngày mai. Tất nhiên, một số chủ đề lạnh sẽ giữ lạnh. Điểm ngọt ngào có thể là xác định những thứ đang trở nên ấm hơn và có khả năng là công trình bền vững ngăn chặn công nghệ tương lai.

Mạng chú ý còn lại

Các mạng chú ý còn lại, như các mạng LSTM, là một cải tiến so với các RNN sử dụng một cách tiếp cận khác. Bởi vì các mạng chú ý được thiết kế để bảo tồn tài nguyên, chúng sẽ hội tụ nhanh hơn hoặc có ít nhu cầu hơn về phần cứng và mạng để hỗ trợ thực hiện song song.

• Mạng chú ý còn lại để phân loại hình ảnh , Fei Wang et al, 2017
• Nhìn gần hơn để thấy rõ hơn: Mạng lưới thần kinh chuyển đổi chú ý định kỳ để nhận dạng hình ảnh chi tiết , Jianlong Fu et all, 2017
• VideoWhisper: Hướng tới việc học tập tính năng video không được giám sát phân biệt đối xử với các mạng thần kinh tái phát dựa trên sự chú ý , Na Zhao, 2017
• Mạng chú ý tái phân cấp phân cấp cho thế hệ đáp ứng Chen Xing , Wei Wu và cộng sự, 2017

Phát triển tự động các mô hình phi Cartesian

Nghiên cứu tự động hóa mô hình hóa là chìa khóa cho nhiều ứng dụng AI. Một số thuật toán đang được phát triển không chỉ đơn giản trích xuất các tenxơ tính năng (mảng, ma trận, hình khối và siêu khối), mà phát triển các mô hình đồ thị, theo hướng hoặc liên kết, có hoặc không có chu kỳ cho phép.

• Hệ thống bản đồ tự tổ chức phân cấp để phân loại hành động Z Gharaee, P Gärdenfors, M Johnsson, ICAART, 2017
• Mô hình thời gian chạy cho các ứng dụng điện tử-vật lý-con người thông minh tập trung vào người dùng , Lorena Castañeda Bueno, 2017
• Gợi ý các đặc tính cấu trúc của các mô hình mạng phức tạp Các văn bản viết ngắn , Diego R. Amancio, 2015
• Tóm tắt lược đồ trong lựa chọn tính năng dựa trên dữ liệu được liên kết cho các hệ thống đề xuất , Azzurra Ragone et. al., 2017

Cấu trúc liên kết tín hiệu hỗ trợ cân bằng

Nhiều người bỏ qua tầm quan trọng của GAN, không phải vì họ có thể làm những điều thú vị bằng hình ảnh mà vì cách họ đi chệch khỏi cấu trúc liên kết đơn giản của đường dẫn tín hiệu nơi hội tụ trên một tập các tham số được đào tạo đạt được qua một mảng các lớp và khối một chiều các lớp.

Các thành phần phân biệt và khái quát trong thiết kế GAN được mô tả chi tiết trong một câu hỏi khác về Trao đổi ngăn xếp AI trên * Tìm hiểu về cơ chế mất GAN . Mặc dù việc tạo ra hình ảnh từ phương pháp GAN và những đứa trẻ khái niệm của nó thể hiện một khả năng mới trong không gian mạng nhân tạo, nhưng chiều rộng của ý nghĩa đa mạng này có thể không rõ ràng ngay lập tức. Nó không phải là một chồng theo chiều sâu của các lớp, mà là một chồng gồm hai mạng sâu trong cấu trúc liên kết tám hình, về mặt khái niệm giống như một dải Mobius.

Cấu trúc liên kết này tạo ra sự cân bằng giữa hai mạng, thế hệ (G) và phân biệt đối xử (D). Nhà thiết kế của nó gọi đó là mối quan hệ bất lợi vì G và D đóng vai trò đối lập. Tuy nhiên, hành động của họ trong hệ thống thực sự là hợp tác, tạo ra sự cân bằng giống như trạng thái cân bằng hóa học hoặc cộng sinh trong sinh học, để đạt được mục tiêu cụ thể. Điều này có thể tiết lộ hướng đi hứa hẹn nhất trong AI hiện nay.

Thiết kế cấu trúc liên kết tín hiệu hỗ trợ các hình thức cộng tác và cộng sinh bổ sung giữa các mạng, trong đó mỗi mạng là một thành phần học cuộn của nó kết hợp với các mạng thành phần khác, để hệ thống tổng hợp học chức năng của nó có thể tổng hợp các dạng trí tuệ nhân tạo mà DNN không thể.

Các hệ thống dựa trên quy tắc và các mạng sâu là một chiều về lưu lượng tín hiệu. Tự chúng có thể không bao giờ gần đúng các tính năng đáng chú ý nhất của bộ não con người.

Xử lý song song Sử dụng GPU làm DSP

Việc triển khai mạng VLiking rất quan trọng và hiện đã có các triển khai như https://github.com/Hananel-Hazan/bindsnet thúc đẩy tăng tốc phần cứng GPU để điều tra chúng mà không cần truy cập vào các chip VLSI được phát triển bởi các tập đoàn lớn.

Nhận dạng giọng nói và tổng hợp cho TTS đầu cuối

Sự xuất hiện gần đây của sự xuất sắc trong tổng hợp sử dụng các hệ thống như WaveNet của Google đã mở ra cơ hội cho các ứng dụng TTS (văn bản thành âm thanh) chính xác hơn, vì vậy đây có lẽ là thời điểm tốt để trở thành một chuyên gia về ghi âm giọng nói để sử dụng trong các bộ ví dụ đào tạo nhưng một thời gian tồi tệ để bắt đầu một nhà sản xuất giọng nói tùy chỉnh bằng cách sử dụng loa trực tiếp.

Xe tự động

Xe tự động các loại cần các chuyên gia về vật lý xe, sản xuất ô tô, hàng không và các sản phẩm tiêu dùng cho nhiều loại xe với các ưu đãi kinh tế và an toàn mạnh mẽ thúc đẩy bán tự động hóa và tự động hóa hoàn toàn.

• Tàu đổ bộ sao hỏa
• Máy bay không người tiêu dùng
• Máy bay không người lái công nghiệp
• Máy bay không người lái quân sự
• Máy bay chở khách
• Ô tô khách
• Limos
• Xe lửa
• Ghế bánh xe
• Xe phân phối
• Phân phối thực phẩm tự động
• Robot sửa chữa nhà máy hạt nhân
• Robot sửa chữa phân phối điện

Tóm lược

Có thể khó phát hiện ra những công nghệ nóng nào trong AI sẽ chiếm ưu thế trong năm năm hoặc công nghệ nóng lên nào sẽ nóng lên sau đó, nhưng trên đây là những công nghệ vững chắc cho thấy hứa hẹn sớm và có kinh doanh cao, nhu cầu công nghiệp và tiêu dùng.

Chà, chắc chắn có rất nhiều lĩnh vực mà bạn có thể đóng góp trong nghiên cứu. Vì bạn đang nói rằng bạn đã thực hiện Luận văn thạc sĩ trong các mô hình Sáng tạo sâu sắc, tôi cho rằng bạn cảm thấy thoải mái khi học Máy và Học sâu.

Dịch tễ học kỹ thuật số là một trong những lĩnh vực mà bạn chắc chắn có thể áp dụng học tập sâu. Nó vẫn là một lĩnh vực tương đối mới so với các ngành sinh học tính toán khác. Một ví dụ sẽ là để thấy tác động của hồ sơ kỹ thuật số trực tuyến đến dự đoán và tỷ lệ mắc bệnh hơn nữa.

Hồ sơ trực tuyến như vậy có thể được nhận từ các công cụ tìm kiếm khác nhau, các trang truyền thông xã hội và đôi khi là các cơ quan Chính phủ. Ví dụ: bạn có thể xem ở đây một ví dụ về thuật ngữ tìm kiếm "Ung thư da" và hồ sơ tương ứng cho thấy sự quan tâm của thuật ngữ này trên toàn cầu, dữ liệu này có thể được sử dụng để tìm các Giả thuyết mới. Ví dụ: nếu dữ liệu cho thấy chúng ta quan tâm nhiều hơn từ một khu vực cụ thể của thế giới / quốc gia, điều đó có thể cho thấy bệnh cụ thể phổ biến hơn ở khu vực / bộ phận / quốc gia trên thế giới. Các giả thuyết tương tự có thể được xây dựng, vẽ và thử nghiệm. Và chắc chắn, học sâu có thể cải thiện tính chính xác của các mô hình truyền thống được sử dụng để xác nhận các Giả thuyết đó.

Một lĩnh vực nghiên cứu thú vị khác có thể là so sánh Mạng nơ ron dài hạn với các mô hình chuỗi thời gian truyền thống. Tôi không tin rằng có một nghiên cứu trưởng thành về lĩnh vực này. Có lẽ bạn có thể bắt đầu từ blog tốt này ở đây .

Xử lý tín hiệu có thể là một lĩnh vực rất thú vị và cũng rất thiết thực để xây dựng và xác nhận các lý thuyết trên các mô hình Deep Learning. Tuy nhiên, Toán học trong Xử lý tín hiệu có thể khá khó để có được. Tuy nhiên, tất cả các tùy chọn này sẽ yêu cầu bạn làm việc trong một nhóm với những người từ các miền cụ thể. Đó là nếu bạn muốn sản xuất nghiên cứu chất lượng cao.

Các lĩnh vực khác có thể là NLP, đặc biệt là trường hợp dịch ngôn ngữ từ tiếng Hindi sang tiếng Urdu hoặc tiếng Ba Tư, tiếp thị kỹ thuật số trực tuyến, khoa học hành vi, sản xuất và đầu tư. Các lĩnh vực nghiên cứu cụ thể có thể được cải thiện hơn nữa nếu bạn biết các chuyên gia từ các lĩnh vực này.