Các thuật toán Machine Learning dựa trên cơ chế tối thiểu hóa rủi ro cấu trúc trên mạng?


9

Những thuật toán học máy nào (ngoài SVM) sử dụng nguyên tắc giảm thiểu rủi ro cấu trúc ?


2
Một thuật toán là gì?
Dave Clarke

algo = thuật toán;)
Classifire

vui lòng sử dụng các từ hoàn chỉnh.
Kaveh

ok..chỉ không muốn làm cho tiêu đề quá dài
Classifire

Theo như tôi có thể nói với SRM thì không có gì ngoài việc chính quy hóa cũ , được sử dụng tuyệt đối ở mọi nơi.
Emre

Câu trả lời:


8

Nguyên tắc giảm thiểu rủi ro cấu trúc là một nguyên tắc ít nhất được sử dụng một phần trong tất cả các phương pháp học máy, vì việc sử dụng quá mức thường được tính đến: giảm độ phức tạp của mô hình (được cho là và trong thực tế) là một cách tốt để hạn chế thừa.

  • Các SVM rõ ràng có một tham số cho độ phức tạp (kích thước của không gian tính năng hoặc thậm chí là hàm kernel) và điều đó là cần thiết bởi vì việc tăng độ phức tạp là một phần của thuật toán học tập.

  • Các mạng nơ-ron cũng có một chỉ số dễ dàng về độ phức tạp của chúng (số lượng 'tế bào') và là một phần của thuật toán học tập liên quan.

  • Nếu không có nguyên tắc này, suy luận ngữ pháp sẽ là cả ngữ pháp ngu ngốc và hoàn hảo là danh sách tất cả các từ có thể, vì vậy mọi thuật toán không tầm thường ít nhất cũng thừa nhận nguyên tắc này.

  • Cây quyết định có quan niệm riêng về entropy .

  • Các cụm có thể được tính đơn giản hoặc loại 'sử dụng' nguyên tắc nội tại hoặc có một số cụm cố định và trong trường hợp đó bạn áp dụng nguyên tắc ở cấp cao hơn.

Thành thật mà nói tôi không thực sự biết về những gì xảy ra trong lập trình di truyền nhưng họ không có một khái niệm phức tạp nội tại.

Tôi không biết rõ lập trình logic quy nạp nhưng dường như nó không mở rộng rất tốt theo nguyên tắc này.


Bạn có biết bất kỳ thuật toán học tập nào thậm chí còn mạnh mẽ hơn và ít bị quá mức hơn so với SVM không? Hoặc có thể là một kỹ thuật để cải thiện SVM tiêu chuẩn?
Classifire

@ user2278 nếu bởi 'mạnh mẽ' bạn có nghĩa là 'hiệu quả' sau đó SVMs là khá lớn và có rất nhiều các nghiên cứu về nó và công cụ sử dụng nó. Nhưng tất nhiên, nó phụ thuộc vào vấn đề của bạn.
jmad

Chà, tôi muốn sử dụng SVM trong thị trường tài chính và thực tế có khá nhiều bài viết dành riêng cho chủ đề này (sử dụng SVM để dự đoán cổ phiếu, v.v ...). Có một thuật toán nào phù hợp hơn cho mục đích đó (đặc biệt là vì chuỗi thời gian tài chính rất "ồn ào")?
Classifire

@ user2278 Bạn sử dụng giấy tờ tốt hơn. Tôi không phải là một chuyên gia. (Tôi sẽ không ngạc nhiên khi các SVM là tốt nhất cho điều đó. Ngoài ra, họ cư xử rất tốt với tiếng ồn)
jmad
Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.