11: Енергія
- Page ID
- 29965
У главі 9 цих заміток ми ввели Принцип максимальної ентропії як методику оцінки розподілу ймовірностей, що відповідають обмеженням.
Простий випадок, який можна зробити аналітично, - це те, в якому є три ймовірності, одне обмеження у вигляді середнього значення, і той факт, що ймовірності складаються до однієї. Тоді є два рівняння в трьох невідомих, і просто висловити ентропію в терміні одного з невідомих, усунути інші і знайти максимум. Цей підхід також працює, якщо є чотири ймовірності та два обмеження середнього значення, і в цьому випадку знову на одне рівняння менше, ніж невідоме.
Інший особливий випадок - це той, в якому існує багато ймовірностей, але лише одне середнє обмеження. Хоча ентропія не може бути виражена з точки зору єдиної ймовірності, рішення в главі 9 є практичним, якщо підсумовування можна обчислити.
При застосуванні Принципу максимальної ентропії до фізичних систем кількість можливих станів зазвичай дуже велика, так що ні аналітичні, ні числові рішення не є практичними. Однак навіть у цьому випадку Принцип максимальної ентропії корисний, оскільки він призводить до взаємозв'язків між різними величинами. У цьому розділі ми розглянемо загальні особливості таких систем.
Оскільки ми зараз зацікавлені у фізичних системах, ми будемо виражати ентропію в джоулів за Кельвіна, а не в бітах, і використовувати натуральний логарифм, а не логарифм до основи 2.