Bằng chứng là phép nhân ma trận có thể được thực hiện trong thời gian bậc hai?

59

Người ta phỏng đoán rộng rãi rằng , số mũ tối ưu cho phép nhân ma trận, trên thực tế bằng 2. Câu hỏi của tôi rất đơn giản: $\omega$

Lý do gì để chúng ta có để tin rằng ? $\omega = 2$

Tôi biết các thuật toán nhanh như Coppersmith-Winograd, nhưng tôi không biết tại sao chúng có thể được coi là bằng chứng cho . $\omega = 2$

Ngây thơ, dường như đối với tôi như một ví dụ kinh điển nơi một cộng đồng chỉ hy vọng rằng một kết quả hoàn toàn đúng vì lý do thẩm mỹ. Tôi rất muốn biết nếu đó thực sự là trường hợp ở đây.

ds.algorithms linear-algebra matrix-product

— Steve Flammia
nguồn

12

Tôi nghi ngờ câu trả lời chủ yếu là về mặt thẩm mỹ và việc không có lý do chính đáng để nó lớn hơn 2. Có một bài báo trong FOCS '05 đã đưa ra một số cấu trúc lý thuyết nhóm cho ma trận nhiều khớp với số mũ đã biết hiện tại và cũng đưa ra 2 nhóm phỏng đoán lý thuyết mà bao hàm

. PDF

ω = 2

$\omega=2$

— Đánh dấu Reitblatt

5

Một vài năm trước, tôi đã có một cuộc trò chuyện với Strassen nơi ông nói ông tin rằng

. Tôi không chắc lý do của anh ấy là gì.

ω > 2

$\omega > 2$

— Ryan Williams

2

@Ryan, hãy hy vọng rằng Strassen đọc cstheory.stackexchange. :)

— Steve Flammia

3

Có một

bị ràng buộc thấp hơn (trong một số hạn chế) do Ran Raz, do đó, một phỏng đoán tốt hơn sẽ là

không đạt được (nhưng thực tế là tối đa

).

Ω (n \log n)

$\Omega(n\log n)$

ω = 2

$\omega = 2$

2

$2$

— Yuval Filmus

5

@Yuval, @Steve: 1)

thường được định nghĩa như một giới hạn. 2) Chúng ta đã biết rằng bất cứ điều gì

là, nó không đạt được (nó là một inf và không phải là một phút). Xem bài viết này của Coppersmith-Winograd: dx.doi.org/10.1137/0211038 . Từ bản tóm tắt: "số mũ của phép nhân ma trận là một điểm giới hạn, nghĩa là, nó không thể được nhận ra bởi bất kỳ thuật toán đơn lẻ nào." (Căn cứ vào chi tiết của kết quả của họ, tôi nghĩ rằng tuyên bố này có thể không hoàn toàn được thực hiện một cách ngây thơ theo mệnh giá, nhưng điều này chủ yếu là một công nghệ.)

ω

$\omega$

ω

$\omega$

— Joshua Grochow

20

Tôi muốn thêm vào nhận xét của Mark Reitblatt và câu trả lời của Amir Shpilka. Đầu tiên, một trong những phỏng đoán được đưa ra bởi Cohn, Kleinberg, Szegedy và Umans không phải là lý thuyết nhóm mà hoàn toàn là sự kết hợp (Conj. 3,4 trong bài báo FOCS '05 của họ ). Giả thuyết này nói rằng "năng lực USP mạnh là ." Coppersmith và Winograd, trong trưng bày thuật toán hiện-hết sức mình cho phép nhân ma trận, cho thấy khả năng USP là này cùng một số $\frac{3}{2^{2/3}}$ (mặc dù họ không cụm từ nó khá theo cách này). Mặc dù có sự khác biệt giữa USP mạnh và USP, nhưng đây là một số bằng chứng cho thấy phỏng đoán của họ ít nhất là hợp lý. $\frac{3}{2^{2/3}}$

(Đối với Giả thuyết 4.7 khác của họ, theo lý thuyết nhóm, tôi không biết bất kỳ bằng chứng tương tự nào về tính hợp lý, ngoài khả năng trực giác.)

Thứ hai, tôi đồng ý với Amir Shpilka rằng chuỗi các thuật toán trong quá khứ có một cảm giác đặc biệt. Tuy nhiên, một trong những điều tốt đẹp về cách tiếp cận lý thuyết nhóm là hầu hết tất cả (không hoàn toàn tất cả) các thuật toán trước đó có thể được thực hiện theo cách tiếp cận này. Mặc dù các cấu trúc lý thuyết nhóm khác nhau trong [CKSU] có vẻ hơi đặc biệt ở bên ngoài, trong bối cảnh của khung lý thuyết nhóm, chúng có vẻ tự nhiên hơn và ít quảng cáo hơn (ít nhất là đối với tôi) so với nhiều các thuật toán trước.

— Joshua Grochow
nguồn

Khi tôi nghĩ về Năng lực, tôi nghĩ về các bộ và các nhóm độc lập. Từ điển giữa USPs và cấu trúc rõ ràng của biểu đồ cơ bản là gì và có cấu trúc cho các biểu đồ này không?

— T ....

28

$\omega=2$ $\omega=2$

— Amir Shpilka
nguồn

20

$\omega = 2$

$A$ $B$ $n$ $n$ $C = AB$ $C(i,j) = \sum_{k=1}^n A(i,k) B(k,j)$ $A$ $B$ $n$ $C = A*B$ $C(i) = \sum_{k=1}^n A(k)B(i-k)$ $\tilde{O}(n)$ $O(n^2)$ $\tilde{O}(n^2)$ thuật toán thời gian để nhân ma trận. Câu hỏi là: sự tương tự của biến đổi Fourier có thể giúp cho phép nhân ma trận là gì?

— arnab
nguồn

-1

$O(n^{2} log(n^2))$ $\omega = 2$

— Nhà sản xuất bia Chad
nguồn

1

ω

$\omega$

c

$c$

O (n^{c})

$O(n^c)$

O (n^{2} \log^{10} n)

$O(n^2 \log^{10} n)$

2

$2$

Ω (n^{2} \log n)

$\Omega(n^2\log n)$

@SashoNikolov Cảm ơn bạn đã chỉ ra điều đó. Có ai đã thử đào tạo một mạng lưới thần kinh cho matmul boolean A * B = C chưa? [Một mục nhập, mục B, mục C] -> Bool (nhân chính xác hoặc không chính xác). Tò mò những gì các mạch tốt / bỏ học đi kèm với; nếu các mạch được đào tạo có các điểm thu hút gần phân tách nguyên tố. Trên 3x3, 4x4, 5x5, 6x6, có vẻ như một giờ GPU sẽ cho một số kết quả thú vị.

— Chad Brewbaker