Khác biệt giữa bản sửa đổi của “Định lý mã hóa trên kênh nhiễu”

Nội dung được xóa Nội dung được thêm vào
Dòng 54:
Phần chứng minh cụ thể này về kết quả có thể đạt được (''achievability'') phỏng theo phong cách của các chứng minh sử dụng [[tính chất phân hoạch đều tiệm cận]] (''Asymptotic equipartition property - viết tắt là AEP''). Một phong cách khác nữa cũng tồn tại, được thấy trong các văn bản về lý thuyết thông tin (''information theory''), sử dụng [[Tích sai số]] (''Error Exponents'').
 
Cả hai phong cách chứng minh đều sử dụng một đối số mã hóa ngẫu nhiên (''random coding argument''), trong đó bảng mã (''codebook'') được dùng trên toàn thể kênh truyền, được kiến tạo một cách tùy tiện (''randomly constructed'') - việc làm này hòng nhằm mục đích giảm ước tính phức tạp trong tính toán, trong khi vẫn chứng minh được sự tồn tại của một mã thỏa mãn yêu cầu về một sác xuất sai số nhỏ đối với bất cứ một tỷ lệ dữ liệu nào đó mà nó có giá trị thấp, dưới [[dung lượng của kênh truyền]].
 
ByVới anmột AEP-relatedđối argumentsố có liên quan EAP, givenđối avới channelmột kênh truyền cho trước, lengthchiều dài n của chuỗi ký tự các ký hiệu nguồn (''strings of source symbols'') <math>X_1^{n}</math>, and lengthchiều dài n stringschuỗi ofký tự của xuất liệu mà kênh truyền channelcho outputsra <math>Y_1^{n}</math>, wechúng canta define athể định nghĩa một '''nhóm tiêu biểu chung''' (''jointly typical set'') bởi những bybước thesau followingđây:
 
<math>A_\epsilon^{(n)} = \{(x^n, y^n) \in \mathcal X^n \times \mathcal Y^n </math>
Dòng 66:
:::<math>2^{-n(H(X,Y) + \epsilon)} \le p(X_1^n, Y_1^n) \le 2^{-n(H(X,Y) -\epsilon)} \}</math>
 
WeChúng sayta that twothể nói rằng hai chuỗi tuần tự (''sequences'') <math>X_1^n</math> and <math>Y_1^n</math> are '''tiêu biểu chung''' (''jointly typical'') ifnếu theychúng lienằm introng thenhóm jointlytiêu typicalbiểu chung đã định setnghĩa defined abovetrên.
 
'''Những bước tiến hành'''
'''Steps'''
#InTheo thephong stylecách ofcủa theđối randomsố coding argumenthóa ngẫu nhiên, wechúng randomlyta generatetùy tiện tạo nên <math> 2^{nR} </math> các mã tự (''codewords'') ofvới lengthchiều dài n fromsử adụng một phân bố sác xuất Q (''probability distribution Q'').
#ThisMáy codethu is revealedmáy tonhận theđều senderđược andcho receiverbiết mã số này là gì. Chúng Itta iscũng also assumedthể bothcho knowrằng thecả hai bên đều biết ma trận chuyển tiếp (''transition matrix'') <math>p(y|x)</math> formà kênh thetruyền channelthông beingsử useddụng.
#AMột messagethông điệp W isđược chosenlựa accordingchọn totheo thesự phân phối đồng dạng trên nhóm mã tự (''uniform distribution on the set of codewords''). Thatnghĩa is,là: <math>Pr(W = w) = 2^{-nR}, w = 1, 2, ..., 2^{nR}</math>.
#Thông điệp W được truyền gửi qua kênh truyền.
#The message W is sent across the channel.
#TheMáy receivernhận receivestiếp athu sequencemột accordingchuỗi totín hiệu theo công thức <math>P(y^n|x^n(w))= \prod_{i = 1}^np(y_i|x_i(w))</math>
#SendingBằng thesecách truyền gửi những mã tự (''codewords'') acrossqua thekênh channeltruyền thông, wechúng ta nhận receiveđược <math>Y_1^n</math>, and decodegiải to somethành một chuỗi đữ liệu nguồn (''source sequence'') ifnào theređó existsnếu exactlychính xác chỉ có tồn tại 1 codeword thattự is jointlytiêu typicalbiểu chung withvới Y. Nếu Ifkhông theretồn aretại nocác mã tự tiêu biểu chung (''jointly typical codewords''), orhoặc ifnếu there arehơn moremột thancái one,thì anmột sai số (''error'') is- hay lỗi - xảy ra và phải được thông báo (''declared''). Sai Ansố errorcòn also occursthể ifxảy ra nếu một mã tự đã giải không đồng bộ với mã tự gốc (''a decoded codeword doesn't match the original codeword''). Điều Thisnày isđược calledgọi là ''giải mã nhóm tiêu biểu'' (''typical set decoding'').
 
Sác xuất sai số (''probability of error'') của kế hoạch này được chia ra làm hai phần:
 
#Thứ nhất, sai số có thể xảy ra nếu với một chuỗi Y nhận được, chúng ta không tìm thấy các chuỗi X tiêu biểu chung cho nó (''jointly typical X sequences'').
The probability of error of this scheme is divided into two parts:
#Thứ nhì, sai số có thể xảy ra nếu một chuỗi X không đúng (''incorrect X sequence'') là tiêu biểu chung với một chuỗi Y nhận được (is jointly typical with a received Y sequence).
 
#First, error can occur if no jointly typical X sequences are found for a received Y sequence
#Second, error can occur if an incorrect X sequence is jointly typical with a received Y sequence.
 
*By the randomness of the code construction, we can assume that the average probability of error averaged over all codes does not depend on the index sent. Thus, without loss of generality, we can assume W = 1.