Chính xác thì sự khác biệt giữa mô hình tham số và không tham số là gì?

Tôi bối rối với định nghĩa của mô hình không tham số sau khi đọc liên kết này Mô hình tham số so với mô hình không tham số và Trả lời nhận xét về câu hỏi khác của tôi .

Ban đầu tôi nghĩ "tham số so với không tham số" có nghĩa là nếu chúng ta có các giả định phân phối trên mô hình (tương tự như kiểm tra giả thuyết tham số hoặc không tham số). Nhưng cả hai tài nguyên đều tuyên bố "tham số so với không tham số" có thể được xác định bởi nếu số lượng tham số trong mô hình phụ thuộc vào số lượng hàng trong ma trận dữ liệu.

Đối với ước tính mật độ hạt nhân (không tham số), định nghĩa như vậy có thể được áp dụng. Nhưng theo định nghĩa này, làm thế nào một mạng nơ-ron có thể là một mô hình không tham số, vì số lượng tham số trong mô hình phụ thuộc vào cấu trúc mạng thần kinh chứ không phụ thuộc vào số lượng hàng trong ma trận dữ liệu?

Chính xác thì sự khác biệt giữa mô hình tham số và mô hình không tham số là gì?

Trong một mô hình tham số, số lượng tham số được cố định theo kích thước mẫu. Trong một mô hình không tham số, số lượng tham số (hiệu quả) có thể tăng theo kích thước mẫu.

Trong hồi quy OLS, số lượng tham số sẽ luôn là độ dài , cộng với một tham số cho phương sai. $\beta$

Một mạng lưới thần kinh với kiến ​​trúc cố định và không phân rã trọng lượng sẽ là một mô hình tham số.

Nhưng nếu bạn bị phân rã trọng lượng, thì giá trị của tham số phân rã được chọn bằng xác thực chéo thường sẽ nhỏ hơn với nhiều dữ liệu hơn. Điều này có thể được hiểu là sự gia tăng số lượng tham số hiệu quả với tăng kích thước mẫu.

Tôi nghĩ rằng nếu mô hình được định nghĩa là một tập hợp các phương trình (có thể là một hệ phương trình đồng thời hoặc một phương trình duy nhất), và chúng ta tìm hiểu các tham số của nó, thì đó là tham số. Điều đó bao gồm các phương trình vi phân, và thậm chí phương trình Navier-Stokes. Các mô hình được xác định mô tả, bất kể chúng được giải quyết như thế nào, đều thuộc loại không đối xứng. Do đó, OLS sẽ là tham số và thậm chí là hồi quy lượng tử, mặc dù thuộc về lĩnh vực thống kê phi tham số, là một mô hình tham số.

Mặt khác, khi chúng ta sử dụng SEM (mô hình phương trình cấu trúc) để xác định mô hình, nó sẽ là một mô hình không tham số - cho đến khi chúng ta giải được SEM. PCA sẽ là tham số, bởi vì các phương trình được xác định rõ, nhưng CCA có thể là không tham số, bởi vì chúng tôi đang tìm kiếm mối tương quan trên tất cả các biến và nếu đây là các mối tương quan của Spearman, chúng tôi có một mô hình không tham số. Với mối tương quan của Pearson, chúng tôi ngụ ý một mô hình tham số (tuyến tính). Tôi nghĩ rằng các thuật toán phân cụm sẽ không theo tỷ lệ, trừ khi chúng ta đang tìm kiếm các cụm có hình dạng nhất định.

Và sau đó chúng ta có hồi quy không theo tỷ lệ, đó là hồi quy không theo tỷ lệ và hồi quy LOESS, là tham số, nhưng phục vụ cho cùng một mục đích: chúng ta xác định phương trình và cửa sổ.

$logodds(G)=int + ax_1 + bx_2 + ...$