Khác biệt giữa bản sửa đổi của “Định lý mã hóa trên kênh nhiễu”
Nội dung được xóa Nội dung được thêm vào
→Converse for discrete memoryless channels: continued translation |
|||
Dòng 100:
Cuối cùng, nếu giả thiết có một bảng mã trung bình (''average codebook'') nào đấy biểu hiện nó là một bảng mã "tốt", thì chúng ta biết rằng sẽ có tồn tại một bảng mã, là cái có công suất (''performance'') khá hơn bảng mã trung bình kia, và do đó thỏa mãn yêu cầu của chúng ta đối với một sác xuất sai số nhỏ tùy tiện (''arbitrarily low error probability'') trong việc truyền thông qua kênh nhiễu (''noisy channel'').
==== Nghịch lý của các kênh không nhớ phân tán====
#<math>{nR = {H(W) = H(W|Y^n) + I(W;Y^n)\;}}</math> using identities involving entropy and mutual information
#<math>\le {H(W|Y^n)} + {I(X^n(W);Y^n)}</math> since X is a function of W
#<math>\le 1 + P_e^{(n)}nR + I(X^n(W);Y^n)</math> by the use of [[Fano's Inequality]]
#<math>\le 1 + {P_e^{(n)}nR + nC}</math> by the fact that capacity is maximized mutual information.
The result of these steps is that <math> P_e^{(n)} \ge 1 - \frac{1}{nR} - \frac{C}{R} </math>. As the block length n goes to infinity, we obtain <math> P_e^{(n)}</math> is bounded away from 0 if R is greater than C - we can only get arbitrarily low rates of error if R is less than C.
| |||