7.6.1: Позначення
- Page ID
- 29860
Різні автори використовують різні позначення для величин, які ми тут називали\(I\)\(J\),\(L\),\(N\),, і\(M\). У своїй оригінальній роботі Шеннон назвав вхідний розподіл ймовірностей\(x\) і розподіл вихідних даних\(y\). Вхідна інформація\(I\) позначалася\(H(x)\) і вихідна інформація\(J\) була\(H(y)\). Позначалася втрата\(L\) (яку Шеннон назвала «еквівалентом»)\(H_y(x)\) і\(N\) позначався шум\(H_x(y)\). \(M\)Була позначена взаємна інформація\(R\). Шеннон використовував слово «ентропія» для позначення інформації, і більшість авторів слідували його керівництва.
Часто інформаційні величини позначаються\(I\)\(H\), або\(S\), часто як функції розподілу ймовірностей, або «ансамблями». У фізиці часто позначається ентропія\(S\).
Іншим поширеним позначенням є використання\(A\) для визначення розподілу вхідних ймовірностей або ансамблю, а\(B\) також для розподілу вихідних ймовірностей. Потім\(I\) позначається\(I(A)\),\(J\) є\(I(B)\),\(L\) є\(I(A\;|\;B)\),\(N\) є\(I(B\;|\;A)\), і\(M\) є\(I(A; B)\). Якщо є необхідність в інформації, пов'язаної з\(A\) і\(B\) спільно (на відміну від умовно) її можна позначити\(I(A, B)\) або\(I(AB)\).
