Hiểu trực giác hiệp phương sai, hiệp phương sai, tự động / tương quan chéo và mật độ phổ công suất

Tôi hiện đang học cho trận chung kết của mình trong các số liệu thống kê cơ bản cho cử nhân ECE của tôi.

Trong khi tôi nghĩ rằng tôi có phần lớn môn toán, tôi thiếu hiểu biết trực quan về những con số thực sự có ý nghĩa gì (Lời mở đầu: Tôi sẽ sử dụng ngôn ngữ khá cẩu thả).

Tôi biết E [X] là "trung bình có trọng số" của tất cả các kết quả của X có trọng số theo xác suất của chúng.

Var [X] cung cấp cho phương sai dự kiến ​​từ bình phương E [X] đó, vì vậy cho chúng ta biết điều gì đó về "độ mờ" của phân phối.

Các tính chất khác tôi biết các công thức, nhưng không có bất kỳ loại trực giác nào. Bất cứ ai có giải thích / tài nguyên tốt để giúp với điều đó?

Hiệp phương sai , như bạn có thể đoán từ tên, cho biết xu hướng của hai biến là đồng biến hoặc "di chuyển" với nhau. Nếu cov ( , ) là tích cực, giá trị sau đó lớn hơn của có liên quan đến giá trị lớn hơn của và giá trị nhỏ hơn của có liên quan đến giá trị nhỏ hơn của . Nếu hiệp phương sai âm, thì ngược lại: nhỏ được liên kết với s lớn hơn và ngược lại. Ví dụ: chúng tôi hy vọng sẽ thấy một hiệp phương sai cao giữa tiền lương và số năm kinh nghiệm, nhưng hiệp phương sai thấp hoặc âm giữa trọng lượng và tốc độ chạy hàng đầu.$X$$Y$$X$$Y$$X$$Y$$X$$Y$

Hiệp phương sai phụ thuộc vào quy mô (ví dụ: bạn sẽ có một hiệp phương sai khác nếu trọng lượng được đo bằng kilôgam hoặc pound) và các đơn vị hơi lạ (ví dụ: đô la và kilô mét mét mỗi giây trong hai ví dụ của chúng tôi), vì vậy chúng ta thường bình thường hóa hiệp phương sai bằng cách chia cho để có được mối tương quan . Tương quan là đơn vị và nằm trong phạm vi từ -1 đến 1, điều này làm cho nó trở thành một thước đo tiện dụng của các liên kết tuyến tính . (Bit tuyến tính đó là một cảnh báo rất quan trọng!)$\sigma_x \cdot \sigma_y$

Bây giờ, giả sử chúng ta có một loạt các giá trị được sắp xếp theo cách nào đó; những điều này thường, nhưng không phải luôn luôn, một chuỗi thời gian. Hàm tương quan tự động là tương quan giữa giá trị tại vị trí / thời gian với các giá trị tại các vị trí khác ,$t$$(t-1)$$(t-2)$, v.v ... Tự động tương quan cao có thể chỉ ra rằng chuỗi thay đổi chậm hoặc tương đương với giá trị hiện tại có thể dự đoán được từ các giá trị trước đó. Mặc dù phương sai và hiệp phương sai là vô hướng (nghĩa là các giá trị đơn), tương quan tự động là một vectơ - bạn nhận được giá trị tự tương quan cho mỗi "độ trễ" hoặc "khoảng cách". Tiếng ồn trắng có chức năng tự tương quan rất phẳng vì nó ngẫu nhiên; hình ảnh tự nhiên thường có tự động tương quan không gian rộng vì các pixel gần đó thường có màu sắc và độ sáng tương tự nhau. Một tiếng vang có thể có một đỉnh gần trung tâm (vì các âm thanh tự giống nhau), một vùng phẳng trong khoảng im lặng, và sau đó một đỉnh khác tạo thành tiếng vang đó.

Tương quan chéo so sánh hai loạt bằng cách dịch chuyển một trong số chúng so với loạt khác. Giống như tự động tương quan, nó tạo ra một vectơ. Giữa các véc tơ chỉ là sự tương quan giữa và . Mục nhập trước đó là mối tương quan giữa một bản sao của thay đổi một chút và Y; entry sau giữa là mối tương quan giữa một bản sao của chuyển nhẹ theo cách khác và . (Nếu bạn quen thuộc với tích chập, thì điều này rất giống nhau). Nếu và là các bản sao (có thể bị trì hoãn) của nhau, chúng sẽ có chức năng tương quan chéo với đỉnh là 1 ở đâu đó, với vị trí của cực đại được đưa ra bởi độ trễ.$X$$Y$$X$$X$$Y$$X$$Y$

Các hàm tự hiệp phương sai và hiệp phương sai giống như các tương đương tương quan của chúng, nhưng không được tính toán; đó là sự khác biệt giống như giữa hiệp phương sai và tương quan.

Một mật độ quang phổ điện cho bạn biết sức mạnh của một tín hiệu được phân phối trên các tần số khác nhau. PSD của âm thuần (nghĩa là sóng hình sin) phẳng ngoại trừ ở tần số của âm; Các tín hiệu và âm thanh tự nhiên có các PSD phức tạp hơn nhiều với các sóng hài, âm bội, cộng hưởng, v.v ... Nó liên quan đến các khái niệm khác vì biến đổi Fourier của chức năng tự tương quan là PSD.