Tại sao phân tích Fourier của các chức năng Boolean làm việc trực tiếp?


60

Trong những năm qua, tôi đã quen với việc nhìn thấy nhiều định lý TCS được chứng minh bằng cách sử dụng phân tích Fourier rời rạc. Biến đổi Walsh-Fourier (Hadamard) rất hữu ích trong hầu hết mọi lĩnh vực của TCS, bao gồm kiểm tra tài sản, giả ngẫu nhiên, độ phức tạp trong giao tiếp và tính toán lượng tử.

Mặc dù tôi cảm thấy thoải mái khi sử dụng phân tích Fourier của các hàm Boolean như một công cụ rất hữu ích khi tôi giải quyết vấn đề, và mặc dù tôi có linh cảm khá tốt đối với những trường hợp sử dụng phân tích Fourier có thể mang lại một số kết quả tốt; Tôi phải thừa nhận rằng tôi không thực sự chắc chắn điều gì làm cho sự thay đổi cơ sở này trở nên hữu ích.

Có ai có trực giác về việc tại sao phân tích Fourier lại có kết quả như vậy trong nghiên cứu về TCS không? Tại sao rất nhiều vấn đề có vẻ khó giải quyết được bằng cách viết bản mở rộng Fourier và thực hiện một số thao tác?

Lưu ý: trực giác chính của tôi cho đến nay, ít ỏi như vậy, là chúng ta có một sự hiểu biết khá tốt về cách thức đa thức hành xử, và biến đổi Fourier là một cách tự nhiên xem xét một hàm như một đa thức đa tuyến. Nhưng tại sao cụ thể là cơ sở này? có gì độc đáo trong cơ sở của các cộng đồng?


8
Paging @ ryan-odonnell
Suresh Venkat

3
Một ý tưởng đã nổi xung quanh thập niên 90 là có thể các cơ sở chức năng khác cũng sẽ hoạt động, có lẽ mô phỏng sự thành công của sóng con trong phân tích điều hòa cổ điển. Nhưng tôi không thấy ý tưởng này bị thuyết phục.
Gil Kalai

Câu trả lời:


63

Dưới đây là quan điểm của tôi, mà tôi đã học được từ Guy Kindler, mặc dù ai đó có nhiều kinh nghiệm hơn có thể đưa ra câu trả lời tốt hơn: Hãy xem xét không gian tuyến tính của các hàm và xem xét một toán tử tuyến tính có dạng σ w (đối với w { 0 , 1 } n ), mà các bản đồ một hàm f ( x ) như trên đến hàm f ( x + w )f:{0,1}nRσww{0,1}nf(x)f(x+w). Trong nhiều câu hỏi của TCS, có một nhu cầu cơ bản để phân tích các tác động mà các toán tử đó có trên các chức năng nhất định.

Bây giờ, vấn đề là cơ sở Fourier là cơ sở chéo tất cả các toán tử đó cùng một lúc, điều này làm cho việc phân tích các toán tử đó đơn giản hơn nhiều. Tổng quát hơn, cơ sở Fourier chéo hóa toán tử tích chập, cũng là cơ sở cho nhiều câu hỏi. Do đó, phân tích Fourier có khả năng hiệu quả bất cứ khi nào người ta cần phân tích các toán tử đó.

Nhân tiện, phân tích Fourier chỉ là một trường hợp đặc biệt của lý thuyết đại diện của các nhóm hữu hạn. Lý thuyết này xem xét không gian tổng quát hơn của các hàm f:GC trong đó là một nhóm hữu hạn và các toán tử có dạng σ h (đối với h G ) ánh xạ f ( x ) thành f ( x h ) , Lý thuyết sau đó cho phép bạn tìm một cơ sở giúp cho việc phân tích các toán tử như vậy dễ dàng hơn - mặc dù đối với các nhóm chung bạn không thực sự chéo hóa các toán tử.GσhhGf(x)f(xh)


6
đây là một câu trả lời tuyệt vời
Suresh Venkat

2
(f(x),f(x+w1),f(x+w2),f(x+w1+w2))

3
Bạn có ý nghĩa gì khi "cắt chéo một toán tử"?
John Moeller

10
f

1
Thật thú vị khi ngay cả các ứng dụng để học juntas cũng có thể được hiểu theo nghĩa các toán tử tích chập: một junta bằng với hình ảnh của nó dưới toán tử trung bình trên các đầu vào không đồng ý với các tọa độ không liên quan. toán tử này là toán tử tích chập và thưa thớt trong miền fourier. đây là một chủ đề chung: khi một chức năng "tương quan với chính nó", nó cầu xin một cách tiếp cận dựa trên phạm vi
Sasho Nikolov

6

Đây có thể là một câu hỏi khác về câu hỏi này.

Giả sử hàm Boolean giả bị giới hạn k, biểu diễn đa thức Walsh của hàm có thể được phân tách thành các hàm con k. Tất cả các thuật ngữ tuyến tính được thu thập vào một chức năng con, tất cả các tương tác theo cặp thành một chức năng con, sau đó là tương tác 3 chiều, v.v.

Mỗi một trong các hàm con này là một "cảnh quan cơ bản" và do đó, mỗi hàm con là một hàm riêng của ma trận kề của Laplacian (tức là vùng lân cận Hamming 1). Mỗi chức năng con có một "Phương trình sóng" tương ứng của loại được tìm thấy trong tất cả các cảnh quan cơ bản. Ngoại trừ bây giờ có k Phương trình sóng hoạt động kết hợp.

Biết các phương trình sóng cho phép thống kê đặc trưng không gian tìm kiếm tương ứng theo những cách khá chính xác. Bạn có thể tính toán trung bình và phương sai và nghiêng trên các quả bóng Hamming tùy ý (lớn theo cấp số nhân) và trên các siêu phẳng tùy ý của không gian tìm kiếm.

Xem tác phẩm của Peter Stadler về Phong cảnh Tiểu học.

Andrew Sutton và tôi (Darrell Whitley) đã nghiên cứu sử dụng các phương pháp này để hiểu và cải thiện các thuật toán tìm kiếm cục bộ để tối ưu hóa giả Boolean. Bạn có thể sử dụng đa thức Walsh để tự động xác định các bước cải thiện cho các thuật toán tìm kiếm cục bộ. Không bao giờ có bất kỳ nhu cầu liệt kê ngẫu nhiên các vùng lân cận của không gian tìm kiếm. Phân tích Walsh có thể trực tiếp cho bạn biết nơi di chuyển cải thiện được đặt.


4
Bạn có thể cung cấp một số gợi ý cho công việc bạn trích dẫn?
Salamás Salamon

2

một câu trả lời tuyệt vời cho câu hỏi này có lẽ chưa tồn tại bởi vì đây là một lĩnh vực nghiên cứu tương đối trẻ và rất tích cực. ví dụ cuốn sách toàn diện Ingo Wegpers về các hàm boolean từ năm 1987 không có gì về chủ đề này (ngoại trừ việc phân tích độ phức tạp mạch của DFT).

một trực giác hoặc phỏng đoán đơn giản là có vẻ như các hệ số Fourier lớn của bậc cao hơn cho thấy sự hiện diện của các hàm con phải tính đến nhiều biến đầu vào và do đó cần nhiều cổng. tức là việc mở rộng Fourier rõ ràng là một cách tự nhiên để đo định lượng độ cứng của hàm boolean. chưa thấy điều này được chứng minh trực tiếp nhưng nghĩ rằng nó được gợi ý trong nhiều kết quả. ví dụ: Khrapchenkos giới hạn dưới có thể liên quan đến các hệ số Fourier. [1]

một sự tương tự thô khác có thể được mượn từ EE hoặc các lĩnh vực kỹ thuật khác ở một mức độ nào đó trong đó phân tích Fourier được sử dụng rộng rãi. nó thường được sử dụng cho các bộ lọc EE / xử lý tín hiệu . các hệ số Fourier đại diện cho một "dải" cụ thể của bộ lọc. câu chuyện cũng có "tiếng ồn" dường như biểu hiện ở các dải tần số cụ thể, ví dụ thấp hoặc cao. trong CS tương tự như "tiếng ồn" là "tính ngẫu nhiên" nhưng cũng rõ ràng từ nhiều nghiên cứu (đạt đến một cột mốc trong ví dụ [4]) rằng tính ngẫu nhiên về cơ bản giống như sự phức tạp. (trong một số trường hợp "entropy" cũng xuất hiện trong cùng bối cảnh.) Phân tích Fourier dường như phù hợp để nghiên cứu "nhiễu" ngay cả trong cài đặt CS. [2]

một trực giác hoặc hình ảnh khác xuất phát từ lý thuyết bầu chọn / lựa chọn. [2,3] rất hữu ích để phân tích các hàm boolean khi có các thành phần con "bỏ phiếu" và ảnh hưởng đến kết quả. tức là phân tích biểu quyết là một loại hệ thống phân rã cho các chức năng. điều này cũng thúc đẩy một số lý thuyết biểu quyết đạt đến đỉnh cao của phân tích toán học và dường như trước khi sử dụng nhiều phân tích Fourier của các hàm boolean.

Ngoài ra, khái niệm về đối xứng dường như là tối quan trọng trong phân tích Fourier. Hàm càng "đối xứng", hệ số Fourier càng bị loại bỏ và hàm số càng "đơn giản" để tính toán. nhưng cũng là hàm "ngẫu nhiên" và do đó phức tạp hơn, các hệ số hủy bỏ càng ít. nói cách khác là sự đối xứng và đơn giản, và ngược lại là sự bất đối xứng và độ phức tạp trong hàm dường như được phối hợp theo cách mà phân tích Fourier có thể đo lường được.

[1] Trên phân tích Fourier của các hàm boolean của Bernasconi, Codenotti, Simon

[2] Giới thiệu ngắn gọn về phân tích Fourier trên khối Boolean (2008) của De Wolf

[3] Một số chủ đề về phân tích các hàm boolean của O'Donnell

[4] Bằng chứng tự nhiên của Razborov & Rudich


3
xem thêm sách trực tuyến Phân tích các hàm boolean của O'Donnell
vzn

lại là sự phỏng đoán về độ phức tạp của boolean fn được phản ánh trong "phổ công suất" trên các hệ số Fourier, một phần mở rộng tự nhiên của các kết quả nổi tiếng trong bài báo Linial Mansour Nisan, mạch độ sâu không đổi, biến đổi Fourier và khả năng học hỏi . tóm tắt: "kết quả chính là một fn boolean AC ^ 0 có hầu hết 'phổ công suất' trên các hệ số bậc thấp"
vzn

2
có một khảo sát tốt về phân tích phạm vi trong ch2 của sách juknas, độ phức tạp của hàm boolean, các tiến bộ & biên giới , chỉ ra các hệ số phạm vi tương quan với các hàm chẵn lẻ được tính trên các tập con của các biến đầu vào.
vzn

2
Tại sao câu trả lời này bị đánh giá quá thấp?
dùng834
Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.