Dung lượng của kênh AWGN

Tôi bối rối khi hiểu các khái niệm cơ bản về giao tiếp qua các kênh AWGN. Tôi biết dung lượng của kênh AWGN thời gian rời rạc là: và nó đạt được khi tín hiệu đầu vào có Gaussian phân phối. Nhưng, điều đó có nghĩa là tín hiệu đầu vào là Gaussian? Điều đó có nghĩa là biên độ của mỗi ký hiệu của một từ mã phải được lấy từ một nhóm Gaussian? Sự khác biệt giữa việc sử dụng một cuốn sách mã đặc biệt (trong trường hợp này là Gaussian) và điều chế tín hiệu bằng tín hiệu M-ary, nói MPSK là gì?

$$C=\frac{1}{2}\log_2\left(1+\frac{S}{N}\right)$$

Giả sử một kênh có đầu vào mỗi lần là biến ngẫu nhiên liên tục và đầu ra của nó là , trong đó và độc lập với , thì là dung lượng của kênh đầu vào liên tục dưới ràng buộc nguồn Thông tin lẫn nhau được tối đa hóa (và bằng ) khi .$X$$Y=X+Z$$Z\sim\mathcal{N}(0,N)$$Z$$X$

$$C_{\text{CI-AWGN}}=\frac{1}{2}\log_2\left(1+\frac{P}{N}\right)$$ $$\mathsf{E}X^2\le P$$ $I(X;Y)$$C_{\text{CI-AWGN}}$$X\sim\mathcal{N}(0,P)$

Điều này có nghĩa là nếu là biến ngẫu nhiên Gaussian liên tục với phương sai đã cho, thì đầu ra có thông tin lẫn nhau cao nhất có thể với đầu vào. Đó là nó!$X$

Khi biến đầu vào bị rời rạc (lượng tử hóa), một công thức mới được yêu cầu. Thật vậy, mọi thứ có thể dễ dàng trở nên khó khăn. Để nhìn thấy nó một chút, người ta có thể xem xét trường hợp đơn giản của sự phân biệt rất thô của khi nó chỉ có thể có hai giá trị. Vì vậy, giả sử rằng được chọn từ bảng chữ cái nhị phân, ví dụ, hãy để (hoặc phiên bản thu nhỏ để đáp ứng hạn chế về năng lượng). Về mặt điều chế, nó giống hệt với BPSK.$X$$X$$X$$X\in\{\pm1\}$

Nó chỉ ra rằng công suất (ngay cả trong trường hợp đơn giản này) không có dạng đóng. Tôi báo cáo từ "Lý thuyết mã hóa hiện đại" của Richardson và Urbanke:

$$\begin{align}C&_{\text{BI-AWGN}}=1+\\&\frac{1}{\ln(2)} \left(\left(\frac{2}{N}-1\right)\mathcal{Q}\left(\frac{1}{\sqrt{N}}\right)-\sqrt{\frac{2}{\pi N}}e^{-\frac{1}{2N}}+\sum_{i=1}^{\infty}\frac{(-1)^i}{i(i+1)}e^{\frac{2i(i+1)}{N}}\mathcal{Q}\left(\frac{1+2i}{\sqrt{N}}\right)\right)\end{align}$$ Có thể thấy sự so sánh giữa hai trường hợp trong hình dưới đây:

Công thức năng lực

$$C = 0.5 \log (1+\frac{S}{N}) \tag{1}$$ dành cho kênh thời gian rời rạc.

Giả sử bạn có một chuỗi dữ liệu $\left\lbrace a_n \right\rbrace$ để gửi đi, bạn cần một bộ dạng sóng trực giao $\left\lbrace \phi_n(t) \right\rbrace$để điều chế. Trong điều chế tuyến tính, điều chế M-ary thuộc về,$\phi_n(t) = \phi(t - nT)$ Ở đâu $T$ là thời lượng biểu tượng và $\phi(t)$ là dạng sóng nguyên mẫu để tín hiệu TX liên tục theo thời gian cơ sở trở thành

$$x(t) = \sum_n a_n \phi(t-nT) \tag{2}$$

Điều chế điển hình sử dụng trường hợp đặc biệt $\left\lbrace \phi_n(t) \right\rbrace$đáp ứng tiêu chí Nyquist ISI với bộ lọc phù hợp để phục hồi$a_n$. Một người nổi tiếng$\phi(t)$Là rễ cosin nâng lên .

Kênh AWGN liên tục là một mô hình

$$y(t) = x(t) + n(t) \tag{3}$$

Ở đâu $n(t)$ là một quá trình ngẫu nhiên trắng Gaussian.

Từ (2), chúng ta có thể thấy rằng $a_n$ là hình chiếu của $x(t)$ trên $\left\lbrace \phi_n(t) \right\rbrace$. Làm điều tương tự với$n(t)$, các dự đoán của $n(t)$ trên tập trực giao là một chuỗi các biến ngẫu nhiên Gidian của iid $w_n = \langle n(t),\phi_n(t) \rangle$ (Tôi thực sự nghĩ rằng $n(t)$được định nghĩa từ các dự đoán của nó); và gọi$y_n = \langle y(t),\phi_n(t) \rangle$. Voilà, chúng ta có một mô hình thời gian rời rạc tương đương

$$y_n = a_n + w_n \tag{4}$$

Công thức (1) được nêu cho $S$ và $N$ là năng lượng (phương sai nếu $a_n$ và $w_n$ là không có nghĩa) của $a_n$ và $w_n$, tương ứng. Nếu$a_n$ và $w_n$ là Gaussian, cũng vậy $y_n$và công suất được tối đa hóa. (Tôi có thể thêm một bằng chứng đơn giản nếu bạn muốn).

Điều đó có nghĩa là tín hiệu đầu vào là Gaussian? Điều đó có nghĩa là biên độ của mỗi ký hiệu của một từ mã phải được lấy từ một nhóm Gaussian?

Nó có nghĩa là các biến ngẫu nhiên $a_n$ là Gaussian.

Sự khác biệt giữa việc sử dụng một cuốn sách mã đặc biệt (trong trường hợp này là Gaussian) và điều chế tín hiệu bằng tín hiệu M-ary, nói MPSK là gì?

Dạng sóng $\phi_n(t)$ thiết lập cần phải là trực giao, điều này đúng với M-PSK, do đó $w_n$ là i Gaussian.

Cập nhật tuy nhiên$a_n$được lượng tử hóa nên nói chung, nó không còn là Gaussian nữa. Có một số nghiên cứu về chủ đề này, chẳng hạn như việc sử dụng Mã hóa Lattice Gaussian (liên kết) .

Để nói rằng tín hiệu đầu vào có phân phối Gaussian có nghĩa là nó được phân phối dưới dạng biến ngẫu nhiên Gaussian. Trong thực tế, người ta dựa vào mã hóa qua nhiều phiên bản của kênh (theo thời gian) thay vì dựa vào phân phối đầu vào Gaussian. Có một lý thuyết đẹp với đầy đủ các bằng chứng nằm ngoài phạm vi của câu trả lời này (Lý thuyết thông tin). Mã kiểm soát lỗi (hoặc mã kênh) thường dựa vào việc sử dụng các điều chế QAM / PSK quen thuộc, nhưng thông qua việc dự phòng mã và sử dụng nhiều kênh, họ có thể tiếp cận (mặc dù không đạt được) dung lượng kênh. Một bản phác thảo lý luận (không có chi tiết đầy đủ) được cung cấp tiếp theo.

Định nghĩa về dung lượng kênh là

$$C = \sup_{p_X(x)} I(X; Y)$$ Ở đâu $X$ có thể được gọi một cách lỏng lẻo là biến ngẫu nhiên đầu vào của bạn và $Y$ có thể được gọi một cách lỏng lẻo là biến ngẫu nhiên đầu ra của bạn và $I(\cdot,\cdot)$là thông tin lẫn nhau của$X$ và $Y$. Định nghĩa này yêu cầu chúng tôi tìm kiếm trên tất cả các phân phối có thể có của đầu vào$p_X(x)$cho các bản phân phối tối đa hóa Thông tin lẫn nhau. Kênh AWGN rời rạc có mối quan hệ đầu vào / đầu ra được xác định là $$Y = X + Z$$ Ở đâu $Z$ là một Gaussian có nghĩa là không có phương sai $\sigma_Z^2$ (thông báo rằng $\sigma_Z^2=N$ và $\sigma_X^2=S$trong ký hiệu của bạn). Tôi không có thời gian để cung cấp tất cả các chi tiết ngay bây giờ. Tuy nhiên, bất kỳ cuốn sách về lý thuyết thông tin có thể đưa bạn qua bằng chứng cho thấy rằng nếu$X$ được phân phối dưới dạng Gaussian $I(X;Y)$ (thông tin lẫn nhau của $X$ và $Y$) được tối đa hóa. Ví dụ, xem Các yếu tố của lý thuyết thông tin của Thomas Cover. Nếu bạn chưa đọc nó, chuyên luận ban đầu của Shannon Một lý thuyết toán học về giao tiếp là một cuốn sách đáng đọc với lý luận rõ ràng xuyên suốt.