Search

6.21: Теорема кодування джерела
https://ukrayinska.libretexts.org/%D0%86%D0%BD%D0%B6%D0%B5%D0%BD%D0%B5%D1%80%D0%BD%D0%B0/%D0%95%D0%BB%D0%B5%D0%BA%D1%82%D1%80%D0%BE%D1%82%D0%B5%D1%85%D0%BD%D1%96%D0%BA%D0%B0/%D0%92%D1%81%D1%82%D1%83%D0%BF%D0%BD%D0%B0_%D0%B5%D0%BB%D0%B5%D0%BA%D1%82%D1%80%D0%BE%D1%82%D0%B5%D1%85%D0%BD%D1%96%D0%BA%D0%B0/%D0%95%D0%BB%D0%B5%D0%BA%D1%82%D1%80%D0%BE%D1%82%D0%B5%D1%85%D0%BD%D1%96%D0%BA%D0%B0_(Johnson)/06%3A_%D0%86%D0%BD%D1%84%D0%BE%D1%80%D0%BC%D0%B0%D1%86%D1%96%D0%B9%D0%BD%D0%B0_%D0%BA%D0%BE%D0%BC%D1%83%D0%BD%D1%96%D0%BA%D0%B0%D1%86%D1%96%D1%8F/6.21%3A_%D0%A2%D0%B5%D0%BE%D1%80%D0%B5%D0%BC%D0%B0_%D0%BA%D0%BE%D0%B4%D1%83%D0%B2%D0%B0%D0%BD%D0%BD%D1%8F_%D0%B4%D0%B6%D0%B5%D1%80%D0%B5%D0%BB%D0%B0
Теорема про кодування джерела стверджує, що ентропія алфавіту символів вказує в межах одного біта, скільки бітів в середньому потрібно використовувати для надсилання алфавіту. Нехай B (a k ) позначают...Теорема про кодування джерела стверджує, що ентропія алфавіту символів вказує в межах одного біта, скільки бітів в середньому потрібно використовувати для надсилання алфавіту. Нехай B (a k ) позначають кількість бітів, які використовуються для представлення символу a k . Середня кількість бітів, $\overline{B(A)} \nonumber$ необхідних для представлення всього алфавіту, дорівнює