10.2: Ступені свободи

Last updated
Save as PDF

Page ID: 98005

\( \newcommand{\vecs}[1]{\overset { \scriptstyle \rightharpoonup} {\mathbf{#1}} } \) \( \newcommand{\vecd}[1]{\overset{-\!-\!\rightharpoonup}{\vphantom{a}\smash {#1}}} \)\(\newcommand{\id}{\mathrm{id}}\) \( \newcommand{\Span}{\mathrm{span}}\) \( \newcommand{\kernel}{\mathrm{null}\,}\) \( \newcommand{\range}{\mathrm{range}\,}\) \( \newcommand{\RealPart}{\mathrm{Re}}\) \( \newcommand{\ImaginaryPart}{\mathrm{Im}}\) \( \newcommand{\Argument}{\mathrm{Arg}}\) \( \newcommand{\norm}[1]{\| #1 \|}\) \( \newcommand{\inner}[2]{\langle #1, #2 \rangle}\) \( \newcommand{\Span}{\mathrm{span}}\) \(\newcommand{\id}{\mathrm{id}}\) \( \newcommand{\Span}{\mathrm{span}}\) \( \newcommand{\kernel}{\mathrm{null}\,}\) \( \newcommand{\range}{\mathrm{range}\,}\) \( \newcommand{\RealPart}{\mathrm{Re}}\) \( \newcommand{\ImaginaryPart}{\mathrm{Im}}\) \( \newcommand{\Argument}{\mathrm{Arg}}\) \( \newcommand{\norm}[1]{\| #1 \|}\) \( \newcommand{\inner}[2]{\langle #1, #2 \rangle}\) \( \newcommand{\Span}{\mathrm{span}}\)

Цілі навчання

Визначте ступені свободи
Оцініть відхилення від вибірки,\(1\) якщо відомо середнє значення популяції
Створіть, чому відхилення від середнього зразка не є самостійними
Створіть загальну формулу ступенів свободи через кількість значень і кількість оцінюваних параметрів
Обчисліть\(s^2\)

Деякі оцінки базуються на більшій кількості інформації, ніж інші. Наприклад, оцінка дисперсії на основі розміру вибірки\(100\) базується на більшій кількості інформації, ніж оцінка дисперсії на основі розміру вибірки\(5\). Ступінь свободи (\(df\)) оцінки - це кількість незалежних частин інформації, на яких базується оцінка.

Як приклад, скажімо, що ми знаємо, що середня висота марсіан є\(6\) і бажають оцінити дисперсію їх висот. Ми випадковим чином відбираємо одного марсіанина і виявляємо, що його висота є\(8\). Нагадаємо, що дисперсія визначається як середнє квадратичне відхилення значень від їх середньої чисельності. Ми можемо обчислити квадратне відхилення нашого значення\(8\) від середнього популяції,\(6\) щоб знайти одне квадратне відхилення від середнього. Це одинарне квадратне відхилення від середнього\((8-6)^2 = 4\), є оцінкою середнього квадратного відхилення для всіх марсіан. Тому, виходячи з цієї вибірки, ми б оцінили, що дисперсія популяції є\(4\). Ця оцінка базується на єдиній частині інформації і, отже, має\(1\; df\). Якби ми вибрали інший марсіанин і отримали висоту\(5\), то ми могли б обчислити другу оцінку дисперсії,\((5-6)^2 = 1\). Потім ми могли б усереднити наші дві оцінки (\(4\)і\(1\)), щоб отримати оцінку\(2.5\). Оскільки ця оцінка базується на двох незалежних частиках інформації, вона має два ступені свободи. Ці дві оцінки є незалежними, оскільки вони базуються на двох незалежно та випадково відібраних марсіан. Оцінки не були б незалежними, якби після відбору одного марсіанина ми вирішили вибрати свого брата своїм другим марсіанином.

Як ви, напевно, думаєте, досить рідко ми знаємо, що населення означає, коли ми оцінюємо дисперсію. Натомість ми повинні спочатку оцінити середнє значення популяції (\(\mu\)) за допомогою вибіркового середнього (\(M\)). Процес оцінки середнього впливає на наші ступені свободи, як показано нижче.

Повертаючись до нашої проблеми оцінки дисперсії в марсіанських висотах, припустимо, що ми не знаємо середнього значення чисельності населення, і тому ми повинні оцінити його з вибірки. Ми вибрали двох марсіан і виявили, що їх висоти є\(8\) і\(5\). \(M\)Тому наша оцінка чисельності населення означає,

\[M = \frac{(8+5)}{2} = 6.5\]

Тепер ми можемо обчислити дві оцінки дисперсії:

кошторис\(1 = (8-6.5)^2 = 2.25\)
кошторис\(2 = (5-6.5)^2 = 2.25\)

Тепер щодо ключового питання: чи є ці дві оцінки незалежними? Відповідь ні, тому що кожна висота сприяла розрахунку\(M\). Оскільки перший марсіанський зріст\(8\) вплинув\(M\), це також вплинуло на оцінку\(2\). Якби перша висота була, наприклад\(10\), то була\(M\) б\(7.5\) і оцінка була\(2\) б\((5-7.5)^2 = 6.25\) замість\(2.25\). Важливим моментом є те, що дві оцінки не є незалежними, і тому ми не маємо двох ступенів свободи. Ще один спосіб думати про ненезалежність - вважати, що якби ви знали середнє значення і один з балів, ви б знали інший рахунок. Наприклад, якщо один бал є\(5\) і середнє значення\(6.5\), ви можете обчислити, що загальна сума двох балів є\(13\) і, отже, що інший бал повинен бути\(13-5 = 8\).

В цілому ступені свободи для оцінки дорівнюють числу значень мінус кількість параметрів, оцінених на шляху до розглянутої кошторису. У марсіанському прикладі є два значення (\(8\)і\(5\)), і ми повинні були оцінити один параметр (\(\mu\)) на шляху до оцінки цікавить параметра (\(\sigma ^2\)). Тому оцінка дисперсії має\(2 - 1 = 1\) ступінь свободи. Якби ми\(12\) вибрали марсіан, то наша оцінка дисперсії мала б\(11\) ступені свободи. Тому ступені свободи оцінки дисперсії дорівнюють тому\(N - 1\), де\(N\) знаходиться кількість спостережень.

Нагадаємо з розділу про мінливість, що формула оцінки дисперсії в вибірці така:

\[s^2 =\dfrac{\sum (X-M)^2}{N-1}\]

Знаменником цієї формули є ступені свободи.