Skip to main content
LibreTexts - Ukrayinska

7.6: Інформаційні діаграми

  1. Last updated
  2. Save as PDF
  • Page ID
    29853

    • \( \newcommand{\vecs}[1]{\overset { \scriptstyle \rightharpoonup} {\mathbf{#1}} } \) \( \newcommand{\vecd}[1]{\overset{-\!-\!\rightharpoonup}{\vphantom{a}\smash {#1}}} \)\(\newcommand{\id}{\mathrm{id}}\) \( \newcommand{\Span}{\mathrm{span}}\) \( \newcommand{\kernel}{\mathrm{null}\,}\) \( \newcommand{\range}{\mathrm{range}\,}\) \( \newcommand{\RealPart}{\mathrm{Re}}\) \( \newcommand{\ImaginaryPart}{\mathrm{Im}}\) \( \newcommand{\Argument}{\mathrm{Arg}}\) \( \newcommand{\norm}[1]{\| #1 \|}\) \( \newcommand{\inner}[2]{\langle #1, #2 \rangle}\) \( \newcommand{\Span}{\mathrm{span}}\) \(\newcommand{\id}{\mathrm{id}}\) \( \newcommand{\Span}{\mathrm{span}}\) \( \newcommand{\kernel}{\mathrm{null}\,}\) \( \newcommand{\range}{\mathrm{range}\,}\) \( \newcommand{\RealPart}{\mathrm{Re}}\) \( \newcommand{\ImaginaryPart}{\mathrm{Im}}\) \( \newcommand{\Argument}{\mathrm{Arg}}\) \( \newcommand{\norm}[1]{\| #1 \|}\) \( \newcommand{\inner}[2]{\langle #1, #2 \rangle}\) \( \newcommand{\Span}{\mathrm{span}}\)

    Інформаційна діаграма - це подання одного або декількох процесів, що явно показують обсяг інформації, що проходить між ними. Це корисний спосіб представлення вхідної, вихідної та взаємної інформації та шуму та втрат. Інформаційні діаграми знаходяться на високому рівні абстракції і не відображають детальних ймовірностей, які породжують ці інформаційні заходи.

    Показано, що всі п'ять інформаційних заходів,,\(I\),\(J\)\(L\)\(N\), і\(M\) є ненегативними. Не обов'язково, що\(L\) і\(N\) бути однаковими, хоча вони призначені для симетричного двійкового каналу, входи якого мають рівні ймовірності для 0 та 1. Можна мати процеси з втратами, але без шуму (наприклад,\(XOR\) затвора) або шуму, але без втрат (наприклад, галасливий канал для потрійного резервування).

    Зручно думати про інформацію як про фізичну величину, яка передається через цей процес так само, як фізичний матеріал може бути оброблений на виробничій лінії. Матеріал, що виробляється, надходить у виробничу зону, а деякі втрачаються через помилки або інші причини, може бути додано деяке забруднення (наприклад, шум), а вихідна кількість - це вхідна кількість, менше втрат, плюс шум. Корисний продукт - вхід мінус втрати, або альтернативно вихід мінус шум. Потік інформації через дискретний процес без пам'яті показаний з використанням цієї парадигми на малюнку 7.9.

    Виникає цікаве питання. Ймовірності залежать від вашого поточного стану знань, і знання одного спостерігача можуть відрізнятися від інших, а це означає, що втрати, шум і передана інформація залежать від спостерігача. Чи нормально, що важливі інженерні величини, такі як шум і втрати, залежать від того, хто ви і що ви знаєте? Якщо вам трапиться знати щось про вхід, що

    Знімок екрана 2021-05-15 о 2.14.23 PM.png
    Малюнок 7.9: Інформаційний потік в дискретному процесі без пам'яті

    ваш колега цього не робить, чи нормально, щоб ваш дизайн недетермінованого процесу був іншим, і щоб скористатися своїми знаннями? Це питання є те, про що подумати; бувають випадки, коли ваші знання, якщо вони правильні, можуть бути дуже цінними для спрощення конструкцій, але є й інші випадки, коли розумно розробляти, використовуючи якесь найгірше припущення про вхідні ймовірності, щоб у випадку, якщо вхід не відповідає вашим передбачуваним імовірності, ваш дизайн все ще працює.

    Інформаційні схеми не часто використовуються для систем зв'язку. Зазвичай немає необхідності враховувати джерела шуму або те, що відбувається з втраченою інформацією. Однак такі діаграми корисні в областях, де шум і втрати не можуть виникнути. Одним із прикладів є оборотні обчислення, стиль обчислень, в якому весь процес може, в принципі, бути запущений назад. Інший приклад - квантові комунікації, де інформацію неможливо відкинути, не впливаючи на навколишнє середовище.