6.8: Оборотність
- Page ID
- 29751
Повчально відзначити, які операції, обговорювані до цих пір, пов'язані з втратою інформації, а які ні. Деякі логічні операції мали властивість, що вхідні дані не можуть бути виведені з вихідних даних. \(AND\)А\(OR\) ворота - приклади. Інші операції були оборотними - прикладом є\(EXOR\) гейт, коли вихід доповнений одним з двох входів.
Деякі джерела можуть бути закодовані так, щоб всі можливі символи були представлені різними кодовими словами. Це завжди можливо, якщо кількість символів кінцеве. Інші джерела мають нескінченну кількість можливих символів, і вони не можуть бути закодовані точно. Серед методів, що використовуються для кодування таких джерел, є двійкові коди для цілих чисел (які страждають від проблем переповнення) та представлення дійсних чисел з плаваючою комою (які страждають від проблем переповнення та підтоку, а також від обмеженої точності).
Деякі алгоритми стиснення є оборотними в тому сенсі, що вхід може бути відновлений саме з вихідних даних. Однією з таких прийомів є LZW, яка використовується для стиснення тексту та деякого стиснення зображень, серед іншого. Інші алгоритми досягають більшої ефективності за рахунок деякої втрати інформації. Прикладами є стиснення зображень у форматі JPEG і стиснення аудіо в форматі MP3.
Тепер ми побачили, що деякі канали зв'язку безшумні, і в такому випадку може бути ідеальна передача зі швидкістю до пропускної здатності каналу. Інші канали мають шум, і ідеальний, оборотний зв'язок неможливий, хоча частота помилок може бути зроблена довільно малим, якщо швидкість передачі даних менше ємності каналу. Для більшої швидкості передачі даних канал обов'язково незворотний.
У всіх цих випадках незворотності інформація втрачається, (або в кращому випадку зберігається в незмінному вигляді). Ніколи не збільшується інформація в жодній з розглянутих нами систем.
Чи є тут загальний принцип роботи?