Tiếng ồn Laplace có nghĩa là gì?

Tôi hiện đang viết thuật toán cho sự riêng tư khác biệt bằng cách sử dụng cơ chế Laplace.

Thật không may, tôi không có nền tảng về thống kê, do đó tôi không biết nhiều thuật ngữ. Vì vậy, bây giờ tôi vấp phải thuật ngữ: tiếng ồn Laplace . Để tạo một bộ dữ liệu riêng biệt, tất cả các giấy tờ chỉ cần nói về việc thêm nhiễu Laplace theo phân phối Laplace vào các giá trị hàm.

$k(X) = f(X) + Y(X)$

(k là giá trị riêng vi sai, f giá trị được trả về bởi hàm đánh giá và Y nhiễu Laplace)

Điều này có nghĩa là tôi tạo các biến ngẫu nhiên từ phân phối Laplace theo chức năng này mà tôi có từ wikipedia https://en.wikipedia.org/wiki/Laplace_distribution ?

$Y = μ − b\ \text{sgn}(U) \ln ⁡ ( 1 − 2 | U | )$

CẬP NHẬT: Tôi đã vẽ lên tới 100 biến ngẫu nhiên được rút ra từ hàm trên, nhưng điều này không mang lại cho tôi một phân phối Laplace (thậm chí không đóng). Nhưng tôi nghĩ nó nên mô hình hóa một phân phối Laplace.

CẬP NHẬT2:

Đó là những định nghĩa tôi có:

(Cơ chế Laplace). Cho bất kỳ hàm $f:N^{|X|}→R^k$ , cơ chế Laplace được định nghĩa là: $M_L(x, f(·),\epsilon)=f(x)+(Y_1,...,Y_k)$ trong đó Y là các biến ngẫu nhiên được rút ra từ $Lap(∆f/\epsilon)$

Cũng như:

Để tạo Y (X), một lựa chọn phổ biến là sử dụng phân phối Laplace với giá trị trung bình bằng không và tham số tỷ lệ Δ (f) /

Bạn đã đúng, thêm nhiễu Laplace có nghĩa là vào biến bạn, bạn thêm biến theo phân phối Laplace . Có nhiều lý do tại sao nó được gọi là tiếng ồn . Trước tiên, hãy nghĩ đến việc xử lý tín hiệu, trong đó tin nhắn được gửi qua một số kênh và do tính chất không hoàn hảo của kênh, tín hiệu nhận được bị nhiễu, do đó bạn phải cách ly tín hiệu khỏi nhiễu. Thứ hai, trong mật mã học, chúng tôi cũng nói về tiếng ồn giả và sự riêng tư khác biệt có liên quan đến mật mã. Thứ ba, trong thống kê và học máy chúng ta cũng có thể nói về tiếng ồn thống kê, mô hình thống kê bao gồm tiếng ồn hoặc thuật ngữ lỗi, v.v. (thậm chí còn có một cuốn sách về tên dự báo$X$$Y$Tín hiệu và tiếng ồn của Nate Silver). Vì vậy, chúng tôi sử dụng tiếng ồn như một từ đồng nghĩa chính xác hơn cho sự ngẫu nhiên mơ hồ .

Về thế hệ ngẫu nhiên, có một số cách bạn có thể vẽ các giá trị ngẫu nhiên sau phân phối Laplace, ví dụ:

1. Các Inverse chuyển đổi phương pháp mô tả trên Wikipedia:

f <- function(n) {
   u <- runif(n, -0.5, 0.5)
   sign(u)*log(1-2*abs(u))
}

2. Nếu và là các biến ngẫu nhiên độc lập theo phân bố mũ, thì theo phân phối Laplace :$U$$V$$Y = U-V$

g <- function(n) { rexp(n)-rexp(n) }

3. Nếu tuân theo phân phối Laplace, thìtheo phân phối theo cấp số nhân , vì vậy:$Y$$|Y|$

h <- function(n) { rexp(n)*sample(c(-1,1), n, replace = TRUE) }

Trên các ô bên dưới, bạn có thể thấy phân phối mẫu được vẽ bằng cách sử dụng từng hàm với mật độ Laplace đi kèm (đường màu đỏ).$10^{5}$

Để đơn giản hóa các ví dụ tôi sử dụng phân phối Laplace tiêu chuẩn với scale = 1, nhưng bạn có thể dễ dàng thay đổi kết quả bằng cách nhân kết quả bằng cách sử dụng hệ số tỷ lệ khác nhau.

Phân phối theo cấp số nhân Laplace hoặc gấp đôi rơi theo cấp số nhân sang trái và phải xung quanh một số giá trị trung bình. Về cơ bản, nó được nhân đôi theo cấp số nhân sang phía bên kia.

• Nếu bạn muốn khả năng, hãy sử dụng khả năng của số mũ và thêm abs () vào giá trị quan sát được. Khả năng đăng nhập chỉ đơn giản là abs () của phần dư, nhân với tỷ lệ của số mũ.

• Để lấy mẫu, cách dễ nhất là rút từ -1,1 và nhân với số rút từ phân bố mũ, có sẵn trong hầu hết các ngôn ngữ lập trình. Ngoài ra, như đã lưu ý ở trên, bạn cũng sẽ tìm thấy các triển khai trực tiếp của Laplace, nhưng nó có thể yêu cầu tìm kiếm thêm một chút.