Vai trò của hàm Dirac trong các bộ lọc hạt

Các xấp xỉ hạt với mật độ xác suất thường được giới thiệu như một tổng trọng số của các hàm Dirac

$$p(x) \approx \sum_{i=1}^N \omega^i \delta(x-x^i)$$

với trọng lượng

$$\omega^i \propto \frac{p(x^i)}{q(x^i)}$$

bình thường hóa để họ tổng hợp lại; Ở đâu$q(\cdot)$là mật độ quan trọng. Tôi hiểu rằng hàm Dirac trở nên vô cùng lớn tại một điểm$p$, đó là $\delta(p) = \infty$ và nó bằng không ở nơi khác, đó là $\delta(x) = 0 ~\forall x \neq p$. Ngoài ra, tôi hiểu rằng hàm Dirac được tích hợp trên điểm khối lấy giá trị của sự thống nhất.

Câu hỏi của tôi là:

1. Mối quan hệ giữa sự hỗ trợ của xấp xỉ hạt và hàm Dirac là gì?
2. Tại sao một dấu hiệu tổng hợp được sử dụng khi đánh giá $\delta$chỉ bao giờ có thể mang lại một giá trị 0 hoặc vô cùng? Không phải đây là một phần không thể thay thế?
3. Làm thế nào khái niệm về sự hỗ trợ của hàm có thể được mở rộng thành một tập hợp các điểm (ví dụ: $x_t^{(i)}$), đó không phải là một chức năng?
4. Làm thế nào một biểu diễn của hàm mật độ xác suất có thể phát sinh từ tổng trọng số của $\delta(\cdot)$s mà bản thân chúng chỉ lấy giá trị bằng 0 hoặc vô cùng?

Cảm ơn bạn cho bất kỳ làm rõ bạn có thể cung cấp.

@ user20160 đã cung cấp cho bạn câu trả lời hay cho câu hỏi (1) - (3) của bạn, nhưng câu hỏi cuối cùng dường như chưa được trả lời đầy đủ.

4. Làm thế nào một biểu diễn của hàm mật độ xác suất có thể phát sinh từ tổng trọng số của $\delta(\cdot)$s mà bản thân chúng chỉ lấy giá trị bằng 0 hoặc vô cùng?

Hãy để tôi bắt đầu với trích dẫn Wikipedia vì nó cung cấp một mô tả khá rõ ràng trong trường hợp này (chú ý các chữ in đậm tôi đã thêm):

Đồng bằng Dirac có thể được coi là một hàm lỏng lẻo trên một đường thẳng thực sự ở mọi nơi, ngoại trừ tại điểm gốc, nơi nó là vô hạn,

$$\delta(x) = \begin{cases} +\infty, & x = 0 \\ 0, & x \ne 0 \end{cases}$$

và cũng bị hạn chế để đáp ứng bản sắc

$$\int_{-\infty}^\infty \delta(x) \, dx = 1$$

Đây chỉ là một đặc tính heuristic. Đồng bằng Dirac không phải là một hàm theo nghĩa truyền thống vì không có hàm nào được định nghĩa trên các số thực có các tính chất này . Hàm delta Dirac có thể được định nghĩa chặt chẽ như là một phân phối hoặc là một thước đo.

Hơn nữa, Wikipedia cung cấp định nghĩa chính thức hơn và rất nhiều ví dụ hoạt động, vì vậy tôi khuyên bạn nên xem toàn bộ bài viết. Hãy để tôi trích dẫn một ví dụ từ nó:

Trong lý thuyết xác suất và thống kê, hàm delta Dirac thường được sử dụng để biểu diễn phân phối rời rạc hoặc phân phối liên tục một phần, liên tục một phần, sử dụng hàm mật độ xác suất (thường được sử dụng để biểu diễn các phân phối hoàn toàn liên tục). Ví dụ: hàm mật độ xác suất$f(x)$ của một phân phối rời rạc bao gồm các điểm $x = \{x_1, \dots, x_n\}$, với xác suất tương ứng $p_1, \dots, p_n$, có thể được viết như

$$f(x) = \sum_{i=1}^n p_i \delta(x-x_i)$$

Phương trình này nói gì là chúng ta tổng hợp lại $n$ phân phối liên tục $\delta_{x_i} = \delta(x-x_i)$có tất cả khối lượng của chúng xung quanh$x_i$'S. Nếu bạn cố gắng tưởng tượng$\delta_{x_i}$ phân phối theo chức năng phân phối tích lũy, nó cần phải được

$$F_{x_i}(x) = \begin{cases} 0 & \text{if } x < x_i \\ 1 & \text{if } x \ge x_i \end{cases}$$

Vì vậy, chúng ta có thể viết lại mật độ trước đó cho hàm phân phối tích lũy

$$F(x) = \sum_{i=1}^n p_i F_{x_i}(x) = \sum_{i=1}^n p_i \mathbf{1}_{x \ge x_i}$$

Ở đâu $\mathbf{1}_{x \ge x_i}$là một hàm chỉ thị$x_i$. Lưu ý rằng điều này về cơ bản là một phân phối phân loại trong ngụy trang. Hơn nữa, bạn có thể định nghĩa đồng bằng Dirac theo chức năng tùy ý

$$\int_{-\infty}^\infty f(x) \delta(x-x_i) dx = f(x_i)$$

vì vậy nó "hoạt động" như phiên bản liên tục của chức năng chỉ báo.

Thông điệp mang đi là Dirac delta không phải là một chức năng tiêu chuẩn. Nó cũng không bằng vô cực ở mức 0 - nếu có, nó sẽ vô dụng vì vô cực không phải là một con số, vì vậy chúng tôi không thể thực hiện bất kỳ hoạt động số học nào trên nó. Bạn có thể nghĩ về Dirac delta đơn giản là một hàm chỉ thị chỉ vào một số$x_i$đó là liên tục và tích hợp để thống nhất. Không có ma thuật đen liên quan, nó chỉ là một cách để hack tính toán để đối phó với các giá trị rời rạc.

Mối quan hệ giữa sự hỗ trợ của xấp xỉ hạt và hàm Dirac là gì?

Phân phối được tính gần đúng như một tổng trọng số của các hàm delta. Vì vậy, sự hỗ trợ của phép tính gần đúng là sự kết hợp của sự hỗ trợ của các hàm delta. Mỗi hàm delta bằng 0 ở mọi nơi trừ một điểm duy nhất ($x_t^{(i)}$), trong đó giá trị của nó là vô hạn. Vì vậy, sự hỗ trợ của mỗi hàm delta là điểm duy nhất đó và sự hỗ trợ của phân phối gần đúng là tập hợp các điểm$\left \{ x_t^{(i)} \right \}_{i=1}^N$

Tại sao một dấu hiệu tổng hợp được sử dụng khi đánh giá $\delta$chỉ bao giờ có thể mang lại một giá trị 0 hoặc vô cùng? Không phải đây là một phần không thể thay thế?

Tổng là có để biểu thị phân phối dưới dạng tổng trọng số của các hàm delta. Đây chỉ là nói: "đặt một hàm delta tại mỗi điểm$x_t^{(i)}$và mở rộng biên độ của nó bằng $\pi_t^{(i)}$"Phân phối là liên tục, vì vậy giá trị của nó tại mỗi điểm là mật độ xác suất , không phải xác suất. Chúng tôi sẽ tích hợp mật độ trên một số vùng để có xác suất liên quan. Tích phân của từng hàm delta được chia tỷ lệ sẽ là$\pi_t^{(i)}$. Điều này có nghĩa là xác suất của mỗi điểm$x_t^{(i)}$ Là $\pi_t{(i)}$và xác suất của bất kỳ giá trị nào khác là 0.

Đây là một ví dụ về xấp xỉ phân phối liên tục bằng các hàm delta. Phân phối$g$ là một phân phối Gaussian. $g$ được xấp xỉ bằng cách sử dụng phân phối $f$, là tổng của 50 hàm delta được chia tỷ lệ. Vị trí của các hàm delta được lấy mẫu từ$g$.

Nhìn bằng mắt, các tệp PDF trông không giống nhau vì $f$không có hình dạng đẹp mà chúng ta có thể thấy. Nhưng, các hàm delta được đóng gói gần nhau hơn trong các khu vực nơi$g$có mật độ cao hơn. Khi chúng ta bắt đầu sử dụng tích phân, sự giống nhau sẽ trở nên rõ ràng hơn. Ví dụ, các CDF tương tự đáng chú ý. Giá trị trung bình, phương sai, vv cũng sẽ tương tự. Chất lượng của xấp xỉ sẽ được cải thiện khi số lượng mẫu / hàm delta tăng lên.

Làm thế nào khái niệm về sự hỗ trợ của hàm có thể được mở rộng thành một tập hợp các điểm (ví dụ: $x^{(i)}_t$), đó không phải là một chức năng?

Hỗ trợ là một khái niệm được xác định cho các chức năng, không phải bộ. Sự hỗ trợ của một chức năng là tập hợp các đầu vào mà đầu ra không khác. Như trên, nếu chúng ta định nghĩa một hàm là tổng của các hàm delta nằm ở mỗi điểm trong một tập hợp$S$, sự hỗ trợ của chức năng đó là $S$. Chúng ta cũng có thể xem xét chức năng chỉ báo của$S$. Nói$S$ là tập hợp con của một số tập lớn hơn $L$(ví dụ số thực). Hàm chỉ thị$I_S(x)$ được định nghĩa trên $L$. Nó có giá trị của$1$ nếu $x \in S$, nếu không thì $0$. Vì vậy, sự hỗ trợ của chức năng chỉ báo là$S$.

Làm thế nào một biểu diễn của hàm mật độ xác suất có thể phát sinh từ tổng weight (⋅) có trọng số mà bản thân chúng chỉ lấy các giá trị bằng 0 hoặc vô cùng?

Hãy nghĩ về hàm delta của Dirac như một cầu nối giữa các giá trị rời rạc và liên tục. Dirac đã đưa ra chúng để đơn giản hóa toán học của mình bằng cách áp dụng các công cụ toán học liên tục vào số lượng riêng biệt. Tôi nghĩ về đồng bằng của Dirac trong những tình huống tương tự khi nó quá cồng kềnh để xử lý các giá trị rời rạc.

Vì vậy, trong ví dụ của bạn, ai đó muốn có hàm mật độ xác suất. Tuyệt quá! Nhưng rắc rối là đầu vào của bạn là những quan sát rời rạc. Vì vậy, anh chàng này biết về chức năng của Dirac và cắm nó vào:

$$p(x) \approx \sum_{i=1}^N \omega^i \delta(x-x^i)$$

Để hiểu biểu thức này, hãy nhớ cách xác định delta của Dirac:

$$\int f(x)\delta(x-x_0)dx=f(x_0)$$ $$\delta(x)\equiv 0, \forall x\ne 0$$

Lưu ý rằng nó không được định nghĩa theo cách bạn mô tả:

Hàm Dirac trở nên vô cùng lớn tại một điểm pp, nghĩa là (p) = và nó bằng 0 ở nơi khác,

Đây không phải là cách đúng đắn để nghĩ về hàm Dirac. Luôn nghĩ về nó như một phần không thể thiếu ở trên mà mục đích của nó là liên kết giá trị rời rạc tại$x_0$ biểu thức liên tục (tích phân) $\int \dots dx$.

Bây giờ, áp dụng một tích phân cho phương trình của bạn:

$$\int p(x) dx \approx \int \left(\sum_{i=1}^N \omega^i \delta(x-x^i)\right) dx= \sum_i\omega_i$$

Nếu bạn không có đồng bằng Dirac và áp dụng tích phân cho một khoản tiền, bạn sẽ nhận được một tích phân không xác định:

$$\int \left(\sum_{i=1}^N \omega^i \right) dx=\infty$$

Tóm tắt, mục đích đồng bằng của Dirac là mang số lượng riêng biệt vào không gian liên tục và bạn định nghĩa về $p(x)$chứng minh điều đó Nó xây dựng hàm mật độ liên tục ra khỏi$N$ giá trị rời rạc.

Một lần nữa, thật sai lầm khi nghĩ chức năng Dirac là "vô cùng tại $x_0$ và không ở khắp mọi nơi ". Mô tả này không mang lại điều gì hữu ích về mặt trực giác. Thả nó xuống.

Dưới đây là cách Diract tự xác định chức năng của mình trong " Nguyên tắc cơ học lượng tử ":

Đây là cách anh ta mô tả mục đích của chức năng, chú ý cách anh ta lặp lại từ "integrand" và nhấn mạnh "sự tiện lợi":

Tôi nghĩ rằng sự nhầm lẫn của bạn là tất cả kết quả của việc nghĩ về đồng bằng Dirac như là một chức năng. Nó không phải là (xem bài viết trên wikipedia https://en.wikipedia.org/wiki/Dirac_delta_feft ).

Hàm delta chỉ có ý nghĩa như một đối tượng toán học khi nó xuất hiện bên trong một tích phân. Từ quan điểm này, đồng bằng Dirac thường có thể được thao tác như thể nó là một hàm.

Như @Tim đã trích dẫn, hàm delta Dirac có thể được định nghĩa chặt chẽ như là một phân phối hoặc là một thước đo.

Đây chỉ là một đặc tính heuristic. Đồng bằng Dirac không phải là một hàm theo nghĩa truyền thống vì không có hàm nào được định nghĩa trên các số thực có các tính chất này. Hàm delta Dirac có thể được định nghĩa chặt chẽ như là một phân phối hoặc là một thước đo.

Tôi nghĩ rằng nó dễ dàng hơn để nghĩ về nó như là một biện pháp (tức là về cơ bản một cái gì đó bạn tích hợp chống lại). Vì vậy, đưa ra một chức năng f,

$\mu(f):= \int_{-\infty}^{\infty} f(x) \ d\mu(x)$

nếu bạn có mật độ p (x) thì điều này tạo ra một thước đo $P$:

$P(f)= \int_{-\infty}^{\infty} f (x)\ p(x)dx$

và hàm delta tạo ra một số đo $\nu$ như vậy mà $\nu(f)=f(0)$

Vì vậy, ký hiệu hàm chỉ giúp với việc thêm các biện pháp lại với nhau (Q2). tức là những gì nó thực sự nói là: $\mu(f):= \sum_{i=1}^{n} \nu_{x_i}(f)$ Ở đâu

$\nu_{x_i}(f)=f(x_i)$

Quan điểm này làm rõ câu hỏi hỗ trợ quá. hỗ trợ được xác định bằng các hàm tùy ý: tất cả các hàm f không có hỗ trợ ở mức 0 sẽ có$\mu(f)$= 0 Hỗ trợ phân phối

Như đã đề cập trong bài viết trên wikipedia, hàm delta có thể được xem một cách xây dựng như là một giới hạn của các biện pháp gây ra bởi Gaussian với giá trị trung bình bằng 0 và biến mất độ lệch chuẩn ($\sigma$) (biểu thị Gaussian pdf là $g(x;\mu;\sigma)$ )

$\nu(f) = \lim_{\sigma\rightarrow 0} \int ^\infty _{-\infty} f(x) g(x;0,\sigma) dx$