8.1.1: Симетричний двійковий канал
- Page ID
- 30082
Безшумний двійковий канал без втрат, показаний на малюнку 8.2 (a), являє собою процес з двома вхідними значеннями, які можуть називатися 0 і 1, двома вихідними значеннями, що аналогічно названі, і матрицею переходу,\(c_{ji}\) яка гарантує, що вихід дорівнює входу:
\[\begin{bmatrix} c_{00} & c_{01} \\ c_{10} & c_{11} \end{bmatrix} = \begin{bmatrix} 1 & 0 \\ 0 & 1 \end{bmatrix} \tag{8.7} \]
Цей канал не має втрат і шуму, а взаємна інформація, вхідна інформація та вихідна інформація все однакові.
Симетричний двійковий канал (рис. 8.2 (b)) схожий, але зрідка допускає помилки. Таким чином, якщо вхід дорівнює 1, то вихід не завжди дорівнює 1, але з «бітовою ймовірністю помилки»\(\epsilon\) перевертається на «неправильне» значення 0, а отже, є «правильним» лише з ймовірністю 1 −\(\epsilon\). Аналогічно для входу 0 ймовірність помилки дорівнює\(\epsilon\). Тоді матриця переходу
