9.6: Тести Chi-Square

\(\newcommand{\R}{\mathbb{R}}\)\(\newcommand{\N}{\mathbb{N}}\)\(\newcommand{\Z}{\mathbb{Z}}\)\(\newcommand{\P}{\mathbb{P}}\)\(\newcommand{\E}{\mathbb{E}}\)\(\newcommand{\var}{\text{var}}\)\(\newcommand{\sd}{\text{sd}}\)\(\newcommand{\bs}{\boldsymbol}\)

У цьому розділі ми вивчимо ряд важливих тестів гіпотез, які підпадають під загальний термін хі-квадратні тести. Вони названі, як ви могли здогадатися, тому що в кожному випадку тестова статистика має (в межі) розподіл хі-квадратів. Хоча в цій загальній категорії існує кілька різних тестів, всі вони поділяють деякі загальні теми:

• У кожному тесті є один або кілька базових багатономіальних зразків. Звичайно, багатономіальна модель включає модель Бернуллі як особливий випадок.
• Кожен тест працює шляхом порівняння спостережуваних частот різних результатів з очікуваними частотами при нульовій гіпотезі.
• Якщо модель не повністю вказана, частина очікуваних частот повинна бути оцінена; це зменшує ступені свободи в граничному хи-квадратному розподілі.

Почнемо з найпростішого випадку, коли виведення є найбільш простим; насправді цей тест еквівалентний тесту, який ми вже вивчали. Потім ми переходимо до послідовно більш складним моделям.

Модель Бернуллі з одним зразком

Припустимо,\(\bs{X} = (X_1, X_2, \ldots, X_n)\) що випадкова вибірка з розподілу Бернуллі з невідомим параметром успіху\(p \in (0, 1)\). Таким чином, це незалежні випадкові величини, що приймають значення 1 і 0 з ймовірностями\(p\) і\(1 - p\) відповідно. Ми хочемо протестувати\(H_0: p = p_0\) проти\(H_1: p \ne p_0\), де\(p_0 \in (0, 1)\) вказано. Звичайно, такі тести ми вже вивчали в моделі Бернуллі. Але врахуйте, що наші методи в цьому розділі узагальнюють до безлічі нових моделей, які ми ще не вивчали.

Нехай\(O_1 = \sum_{j=1}^n X_j\) і\(O_0 = n - O_1 = \sum_{j=1}^n (1 - X_j)\). Ці статистичні дані дають кількість разів (частоти), які відбуваються результати 1 і 0 відповідно. Більше того, ми знаємо, що кожен має біноміальний розподіл;\(O_1\) має параметри\(n\) і\(p\), в той час як\(O_0\) має параметри\(n\) і\(1 - p\). Зокрема,\(\E(O_1) = n p\),\(\E(O_0) = n (1 - p)\), і\(\var(O_1) = \var(O_0) = n p (1 - p)\). Більш того, нагадаємо,\(O_1\) що достатньо для\(p\). Таким чином, будь-яка хороша статистика тесту повинна бути функцією\(O_1\). Далі нагадаємо, що коли\(n\) велика, розподіл приблизно нормальний, за центральною граничною теоремою.\(O_1\) \[ Z = \frac{O_1 - n p_0}{\sqrt{n p_0 (1 - p_0)}} \]Зверніть увагу, що\(Z\) це стандартний бал\(O_1\) менше\(H_0\). Отже, якщо\(n\) він великий,\(Z\) має приблизно стандартний нормальний розподіл під\(H_0\), і тому\(V = Z^2\) має приблизно хи-квадратний розподіл з 1 ступенем свободи під\(H_0\). Як завжди, давайте\(\chi_k^2\) позначимо квантильную функцію розподілу хі-квадрата зі\(k\) ступенями свободи.

Приблизний тест\(H_0\) проти\(H_1\) на\(\alpha\) рівні значущості полягає в тому, щоб відхилити,\(H_0\) якщо і тільки якщо\(V \gt \chi_1^2(1 - \alpha)\).

Вищевказаний тест еквівалентний об'єктивному тесту з тестовою статистикою\(Z\) (приблизний нормальний тест), отриманий у розділі «Тести» в моделі Бернуллі.

Для цілей узагальнення критичним результатом в наступній вправі є спеціальне уявлення про\(V\). Нехай\(e_0 = n (1 - p_0)\) і\(e_1 = n p_0\). Зверніть увагу, що це очікувані частоти результатів 0 і 1 відповідно під\(H_0\).

\(V\)можна записати з точки зору спостережуваних і очікуваних частот наступним чином:\[ V = \frac{(O_0 - e_0)^2}{e_0} + \frac{(O_1 - e_1)^2}{e_1} \]

Це подання показує, що наша тестова статистика\(V\) вимірює невідповідність між очікуваними частотами\(H_0\), нижче та спостережуваними частотами. Звичайно, великі значення\(V\) є свідченням на користь\(H_1\). Нарешті, зауважте, що хоча існує два терміни розширення\(V\) у Вправі 3, з тих пір існує лише один ступінь свободи\(O_0 + O_1 = n\). Спостережувані та очікувані частоти можуть зберігатися в\(1 \times 2\) таблиці.

Модель Бернуллі з декількома зразками

Припустимо, що тепер у нас є зразки з декількох (можливо) різних, незалежних процесів випробувань Бернуллі. Зокрема, припустимо,\(\bs{X}_i = (X_{i,1}, X_{i,2}, \ldots, X_{i,n_i})\) що випадкова вибірка розміру\(n_i\) з розподілу Бернуллі з невідомим параметром успіху\(p_i \in (0, 1)\) для кожного\(i \in \{1, 2, \ldots, m\}\). Причому зразки\((\bs{X}_1, \bs{X}_2, \ldots, \bs{X}_m)\) є незалежними. Ми хочемо перевірити гіпотези про невідомий вектор параметра\(\bs{p} = (p_1, p_2, \ldots, p_m)\). Є два поширені випадки, які ми розглянемо нижче, але спочатку давайте створимо істотні позначення, які нам знадобляться для обох випадків. Для\(i \in \{1, 2, \ldots, m\}\) і\(j \in \{0, 1\}\), нехай\(O_{i,j}\) позначимо кількість разів, що результат\(j\) відбувається в вибірці\(\bs{X}_i\). Спостережувана частота\(O_{i,j}\) має біноміальний розподіл;\(O_{i,1}\) має параметри\(n_i\) і в\(p_i\) той час як\(O_{i,0}\) має параметри\(n_i\) і\(1 - p_i\).

Повністю вказаний випадок

Розглянемо заданий вектор параметра\(\bs{p}_0 = (p_{0,1}, p_{0,2}, \ldots, p_{0,m}) \in (0, 1)^m\). Ми хочемо перевірити нульову гіпотезу\(H_0: \bs{p} = \bs{p}_0\), проти\(H_1: \bs{p} \ne \bs{p}_0\). Оскільки нульова гіпотеза вказує значення\(p_i\) для кожного\(i\), то це називається повністю заданий випадок. Тепер нехай\(e_{i,0} = n_i (1 - p_{i,0})\) і нехай\(e_{i,1} = n_i p_{i,0}\). Це очікувані частоти результатів 0 і 1 відповідно від зразка\(\bs{X}_i\) під\(H_0\).

Якщо\(n_i\) великий для кожного\(i\), то при\(H_0\) наступному тесті статистика має приблизно хі-квадратний розподіл зі\(m\) ступенями свободи:\[ V = \sum_{i=1}^m \sum_{j=0}^1 \frac{(O_{i,j} - e_{i,j})^2}{e_{i,j}} \]

Доказ

З цього випливає результат вище і незалежність.

Як правило, великі означає, що нам потрібно\(e_{i,j} \ge 5\) для кожного\(i \in \{1, 2, \ldots, m\}\) і\(j \in \{0, 1\}\). Але, звичайно, чим більше ці очікувані частоти, тим краще.

За великим припущенням вибірки приблизний тест\(H_0\) проти\(H_1\) на\(\alpha\) рівні значущості відкидає,\(H_0\) якщо і тільки тоді\(V \gt \chi_m^2(1 - \alpha)\).

Ще раз зауважте, що тестова статистика\(V\) вимірює невідповідність між очікуваними та спостережуваними частотами, за всіма результатами та всіма зразками. Є\(2 \, m\) терміни в розширенні\(V\) у Вправі 4, але тільки\(m\) ступеня свободи, так як\(O_{i,0} + O_{i,1} = n_i\) для кожного\(i \in \{1, 2, \ldots, m\}\). Спостережувані та очікувані частоти можуть зберігатися в\(m \times 2\) таблиці.

Випадок рівної ймовірності

Припустимо, що тепер ми хочемо перевірити нульову гіпотезу,\(H_0: p_1 = p_2 = \cdots = p_m\) що всі ймовірності успіху однакові, проти додаткової альтернативної гіпотези про\(H_1\) те, що ймовірності не однакові. Зверніть увагу, на відміну від попередньої моделі, що нульова гіпотеза не визначає значення загальної ймовірності успіху\(p\). Але зауважте також, що за нульовою гіпотезою\(m\) зразки можуть бути об'єднані, щоб сформувати одну велику вибірку випробувань Бернуллі з ймовірністю успіху\(p\). Таким чином, природним підходом є оцінка,\(p\) а потім визначення тестової статистики, яка вимірює невідповідність між очікуваною та спостережуваною частотами, як і раніше. Завдання полягатиме в тому, щоб знайти розподіл тестової статистики.

Нехай\(n = \sum_{i=1}^m n_i\) позначають загальний розмір вибірки при об'єднанні зразків. Тоді загальна вибірка означає, що в цьому контексті є загальною часткою вибірки успіхів,\(P\) є\[ P = \frac{1}{n} \sum_{i=1}^m \sum_{j=1}^{n_i} X_{i,j} = \frac{1}{n} \sum_{i=1}^m O_{i,1} \] Частка вибірки є найкращою оцінкою\(p\), майже в будь-якому сенсі цього слова. Далі нехай\(E_{i,0} = n_i \, (1 - P)\) і\(E_{i,1} = n_i \, P\). Це передбачувані очікувані частоти 0 і 1 відповідно від зразка\(\bs{X}_i\) під\(H_0\). Звичайно, ці передбачувані частоти тепер є статистикою (і, отже, випадковою), а не параметрами. Так само, як і раніше, ми визначаємо нашу\[ V = \sum_{i=1}^m \sum_{j=0}^1 \frac{(O_{i,j} - E_{i,j})^2}{E_{i,j}} \] тестову статистику Виявляється\(H_0\), що під, розподіл\(V\) сходиться до хі-квадратного розподілу зі\(m - 1\) ступенями свободи як\(n \to \infty\).

Приблизний тест\(H_0\) проти\(H_1\) на\(\alpha\) рівні значущості полягає в тому, щоб відхилити,\(H_0\) якщо і тільки якщо\(V \gt \chi_{m-1}^2(1 - \alpha)\).

Інтуїтивно ми втратили ступінь свободи над повністю вказаним випадком, тому що нам довелося оцінити невідому загальну ймовірність успіху\(p\). Знову ж таки, спостережувані та очікувані частоти можуть зберігатися в\(m \times 2\) таблиці.

Однопробіркова багатономіальна модель

Наша наступна модель узагальнює модель Бернуллі з одним зразком в іншому напрямку. Припустимо, що\(\bs{X} = (X_1, X_2, \ldots, X_n)\) це послідовність багатономіальних випробувань. Таким чином, це незалежні, однаково розподілені випадкові величини, кожна з яких приймає значення в множині\(S\) з\(k\) елементами. Якщо ми хочемо, ми можемо припустити, що\(S = \{0, 1, \ldots, k - 1\}\); модель Бернуллі з одним зразком відповідає\(k = 2\). Давайте\(f\) позначимо спільну функцію щільності ймовірності вибірки змінних на\(S\), так що\(f(j) = \P(X_i = j)\) для\(i \in \{1, 2, \ldots, n\}\) і\(j \in S\). Значення\(f\) припускаються невідомими, але, звичайно, ми повинні мати\(\sum_{j \in S} f(j) = 1\), тому насправді є тільки\(k - 1\) невідомі параметри. Для заданої функції\(f_0\) щільності ймовірності\(S\) ми хочемо перевірити\(H_0: f = f_0\) проти\(H_1: f \ne f_0\).

До цього часу наш загальний підхід повинен бути зрозумілим. Ми\(O_j\) позначимо кількість разів, що результат\(j \in S\) відбувається у вибірці\(\bs{X}\):\[ O_j = \sum_{i=1}^n \bs{1}(X_i = j) \] Зверніть увагу, що\(O_j\) має біноміальний розподіл з параметрами\(n\) і\(f(j)\). Таким чином,\(e_j = n \, f_0(j)\) є очікувана кількість разів, що результат\(j\) відбувається, під\(H_0\). Наша тестова статистика, звичайно ж,\[ V = \sum_{j \in S} \frac{(O_j - e_j)^2}{e^j} \] виявляється, що під\(H_0\), розподіл\(V\) сходиться до хі-квадратного розподілу зі\(k - 1\) ступенями свободи як\(n \to \infty\). Зверніть увагу, що існують\(k\) терміни в розширенні\(V\), але тільки\(k - 1\) ступеня свободи з тих пір\(\sum_{j \in S} O_j = n\).

Приблизний тест\(H_0\) проти\(H_1\) на\(\alpha\) рівні значущості полягає в тому, щоб відхилити,\(H_0\) якщо і тільки якщо\(V \gt \chi_{k-1}^2(1 - \alpha)\).

Знову ж таки, як правило, нам потрібно\(e_j \ge 5\) для кожного\(j \in S\), але чим більше очікувані частоти, тим краще.

Багатопробіркова багатономіальна модель

Як ви могли здогадатися, наше остаточне узагальнення стосується багатовибіркової багатономіальної моделі. Зокрема, припустимо, що\(\bs{X}_i = (X_{i,1}, X_{i,2}, \ldots, X_{i,n_i})\) це випадкова вибірка розміру\(n_i\) з розподілу на\(k\) множині\(S\) з елементами, для кожного\(i \in \{1, 2, \ldots, m\}\). Причому припускаємо, що зразки\((\bs{X}_1, \bs{X}_2, \ldots, \bs{X}_m)\) незалежні. Знову немає втрат в загальності, якщо взяти\(S = \{0, 1, \ldots, k - 1\}\). Потім\(k = 2\) зводиться до багатопробової моделі Бернуллі, і\(m = 1\) відповідає однопробовій багатономіальної моделі.

\(f_i\)Дозвольте позначити загальну функцію щільності ймовірності змінних у вибірці\(\bs{X}_i\), так що\(f_i(j) = \P(X_{i,l} = j)\)\(i \in \{1, 2, \ldots, m\}\) for\(l \in \{1, 2, \ldots, n_i\}\), і\(j \in S\). Вони взагалі невідомі, так що наш вектор параметрів є вектором функцій щільності ймовірностей:\(\bs{f} = (f_1, f_2, \ldots, f_m)\). Звичайно,\(\sum_{j \in S} f_i(j) = 1\) для\(i \in \{1, 2, \ldots, m\}\), так існують насправді\(m \, (k - 1)\) невідомі параметри. Нас цікавить перевірка гіпотез про\(\bs{f}\). Як і в багатопробірковій моделі Бернуллі, є два поширені випадки, які ми розглянемо нижче, але спочатку давайте створимо істотні позначення, які нам знадобляться для обох випадків. Для\(i \in \{1, 2, \ldots, m\}\) і\(j \in S\), нехай\(O_{i,j}\) позначимо кількість разів, що результат\(j\) відбувається в вибірці\(\bs{X}_i\). Спостережувана частота\(O_{i,j}\) має біноміальний розподіл з параметрами\(n_i\) і\(f_i(j)\).

Повністю вказаний випадок

Розглянемо заданий вектор функції щільності ймовірності на\(S\), позначені\(\bs{f}_0 = (f_{0,1}, f_{0,2}, \ldots, f_{0,m})\). Ми хочемо перевірити нульову гіпотезу\(H_0: \bs{f} = \bs{f}_0\), проти\(H_1: \bs{f} \ne \bs{f}_0\). Так як нульова гіпотеза вказує значення\(f_i(j)\) для кожного\(i\) і\(j\), це називається повністю вказаним випадком. Нехай\(e_{i,j} = n_i \, f_{0,i}(j)\). Це очікувана частота результату\(j\) в вибірці\(\bs{X}_i\) під\(H_0\).

Якщо\(n_i\) великий для кожного\(i\), то під\(H_0\), тестова статистика\(V\) нижче має приблизно хи-квадратний розподіл зі\(m \, (k - 1)\) ступенями свободи:\[ V = \sum_{i=1}^m \sum_{j \in S} \frac{(O_{i,j} - e_{i,j})^2}{e_{i,j}} \]

Доказ

Це випливає з однопробового багаточленного відмінка і незалежності.

Як завжди, наше правило полягає в тому, що нам потрібно\(e_{i,j} \ge 5\) для кожного\(i \in \{1, 2, \ldots, m\}\) і\(j \in S\). Але, звичайно, чим більше ці очікувані частоти, тим краще.

За великим припущенням вибірки приблизний тест\(H_0\) проти\(H_1\) на\(\alpha\) рівні значущості відкидає,\(H_0\) якщо і тільки тоді\(V \gt \chi_{m \, (k - 1)}^2(1 - \alpha)\).

Як завжди, тестова статистика\(V\) вимірює невідповідність між очікуваними та спостережуваними частотами, за всіма результатами та всіма зразками. Є\(m k\) терміни розширення у Вправі 8, але ми втрачаємо\(m\) ступені свободи, так як\(\sum_{j \in S} O_{i,j} = n_i\) для кожного\(i \in \{1, 2, \ldots, m\}\).\(V\)

Ровний PDF-кейс

Припустимо, що тепер ми хочемо перевірити нульову гіпотезу\(H_0: f_1 = f_2 = \cdots = f_m\), що всі функції щільності ймовірності однакові, проти додаткової альтернативної гіпотези про\(H_1\) те, що функції щільності ймовірності не всі однакові. Зауважимо, на відміну від попередньої моделі, що нульова гіпотеза не визначає значення загальної функції щільності ймовірності успіху\(f\). Але зауважте також, що за нульовою гіпотезою\(m\) зразки можуть бути об'єднані для формування однієї великої вибірки багатономіальних випробувань з функцією щільності ймовірності\(f\). Таким чином, природним підходом є оцінка значень,\(f\) а потім визначення тестової статистики, яка вимірює невідповідність між очікуваною та спостережуваною частотами, як і раніше.

Нехай\(n = \sum_{i=1}^m n_i\) позначають загальний розмір вибірки при об'єднанні зразків. Під\(H_0\), наша найкраща оцінка\(f(j)\) є\[ P_j = \frac{1}{n} \sum_{i=1}^m O_{i,j} \] Отже, наша оцінка очікуваної частоти результату\(j\) у вибірці\(\bs{X}_i\) під\(H_0\) є\(E_{i,j} = n_i P_j\). Знову ж таки, ця передбачувана частота тепер є статистикою (і, отже, випадковою), а не параметром. Так само, як і раніше, ми визначаємо нашу тестову статистику\[ V = \sum_{i=1}^m \sum_{j \in S} \frac{(O_{i,j} - E_{i,j})^2}{E_{i,j}} \] Як ви, безсумнівно, очікуєте на даний момент, виявляється\(H_0\), що під, розподіл\(V\) сходиться до хі-квадратного розподілу як\(n \to \infty\). Але давайте подивимося, чи зможемо ми визначити ступені свободи евристично.

Граничний розподіл\(V\) має\((k - 1) (m - 1)\) ступені свободи.

Доказ

Є\(k \, m\) терміни в розширенні\(V\). Ми втрачаємо\(m\) ступені свободи, оскільки\(\sum_{j \in S} O_{i,j} = n_i\) для кожного\(i \in \{1, 2, \ldots, m\}\). Ми повинні оцінити всі ймовірності, крім однієї\(j \in S\),\(f(j)\) для того, щоб втратити\(k - 1\) ступінь свободи.

Приблизний тест\(H_0\) проти\(H_1\) на\(\alpha\) рівні значущості полягає в тому, щоб відхилити,\(H_0\) якщо і тільки якщо\(V \gt \chi_{(k - 1) \, (m - 1)}^2(1 -\alpha)\).

Тест на доброту придатності

Тест на доброту придатності - це тест гіпотези про те, що невідомий розподіл вибірки є певним, зазначеним розподілом або належить до параметричного сімейства розподілів. Такі тести явно фундаментальні і важливі. Багатономіальна модель з одним зразком призводить до цілком загальної добротності тесту на придатність.

Щоб встановити етап, припустимо, що у нас є спостережувана випадкова величина\(X\) для експерименту, приймаючи значення в загальному наборі\(S\). Випадкова величина\(X\) може мати безперервний або дискретний розподіл, і може бути однозмінною або багатозмінною. Ми хочемо перевірити нульову гіпотезу, яка\(X\) має заданий, повністю заданий розподіл, або що розподіл\(X\) належить до певного параметричного сімейства.

Нашим першим кроком, в будь-якому випадку, є вибірка з розподілу,\(X\) щоб отримати послідовність незалежних, однаково розподілених змінних\(\bs{X} = (X_1, X_2, \ldots, X_n)\). Далі вибираємо\(k \in \N_+\) і\(S\) розділяємо на\(k\) (нероз'єднані) підмножини. Позначимо розділ тим,\(\{A_j: j \in J\}\) де\(\#(J) = k\). Далі визначаємо послідовність випадкових величин\(\bs{Y} = (Y_1, Y_2, \ldots, Y_n)\) по\(Y_i = j\) if і тільки якщо\(X_i \in A_j\) for\(i \in \{1, 2, \ldots, n\}\) і\(j \in J\).

\(\bs{Y}\)являє собою багатономіальну послідовність випробувань з параметрами\(n\) і\(f\), де\(f(j) = \P(X \in A_j)\) для\(j \in J\).

Повністю вказаний випадок

Дозвольте\(H\) позначати твердження, яке\(X\) має даний, повністю вказаний розподіл. Давайте\(f_0\) позначимо функцію щільності ймовірності на\(J\) визначену\(f_0(j) = \P(X \in A_j \mid H)\) for\(j \in J\). Щоб перевірити гіпотезу\(H\), ми можемо формально перевірити\(H_0: f = f_0\) versus\(H_1: f \ne f_0\), що, звичайно, саме та проблема, яку ми розв'язали в однопробірковій багатономіальній моделі.

Як правило, ми б\(S\) розділили простір на якомога більше підмножин, за умови обмеження, що очікувані частоти будуть принаймні 5.

Частково вказаний випадок

Часто ми не хочемо перевірити, чи\(X\) має повністю вказаний розподіл (наприклад, нормальний розподіл із середнім значенням 5 та дисперсією 9), а чи\(X\) належить розподіл до вказаного параметричного сімейства (наприклад, нормального). Природним шляхом дій у цьому випадку було б оцінити невідомі параметри, а потім діяти так само, як зазначено вище. Як ми бачили раніше, очікувані частоти будуть статистичними,\(E_j\) оскільки вони базуватимуться на оцінених параметрах. Як правило, ми втрачаємо ступінь свободи в статистиці хі-квадрата\(V\) для кожного оцінюваного нами параметра, хоча точна математика може бути складною.

Випробування на незалежність

Припустимо, що у нас є спостережувані випадкові величини\(X\) і\(Y\) для експерименту, де\(X\) приймає значення в наборі\(S\) з\(k\) елементами, і\(Y\) приймає значення в\(m\) множині\(T\) з елементами. \(f\)Дозволяти позначити спільну функцію щільності ймовірності\((X, Y)\), так що\(f(i, j) = \P(X = i, Y = j)\) для\(i \in S\) і\(j \in T\). Нагадаємо, що граничні функції щільності ймовірностей\(X\) і\(Y\) є функціями\(g\) і\(h\) відповідно, де\ begin {align} g (i) = &\ sum_ {j\ in T} f (i, j),\ quad i\ in S\\ h (j) = &\ sum_ {i\ in S} f (i, j),\ quad j\ in T\ end {align} Зазвичай, звичайно, \(f\),\(g\), і\(h\) невідомі. У цьому розділі ми зацікавлені в тому, щоб перевірити, чи\(X\)\(Y\) є незалежним, базовим і важливим тестом. Формально тоді ми хочемо перевірити нульову гіпотезу\[ H_0: f(i, j) = g(i) \, h(j), \quad (i, j) \in S \times T \] проти додаткової альтернативи\(H_1\).

Наш перший крок, звичайно, полягає в тому, щоб зробити випадкову вибірку\((\bs{X}, \bs{Y}) = ((X_1, Y_1), (X_2, Y_2), \ldots, (X_n, Y_n))\) з розподілу\((X, Y)\). Оскільки простори станів кінцеві, цей зразок утворює послідовність багатономіальних випробувань. Таким чином, звичними для нас\(O_{i,j}\) позначеннями, давайте позначимо кількість разів, яке\((i, j)\) зустрічається в зразку, для кожного\((i, j) \in S \times T\). Ця статистика має біноміальний розподіл з параметром випробування\(n\) та параметром успіху\(f(i, j)\). Під\(H_0\), параметр успіху є\(g(i) \, h(j)\). Однак, оскільки ми не знаємо параметрів успіху, ми повинні оцінити їх, щоб обчислити очікувані частоти. Наша найкраща оцінка\(f(i, j)\) - це пропорція вибірки\(\frac{1}{n} O_{i,j}\). Таким чином, наші найкращі оцінки\(g(i)\) і\(h(j)\) є\(\frac{1}{n} N_i\) і\(\frac{1}{n} M_j\), відповідно, де\(N_i\) - кількість разів, що\(i\) відбувається в вибірці\(\bs{X}\) і\(M_j\) це кількість разів, що\(j\) відбувається в вибірці\(\bs{Y}\):\ begin {align} n_i & =\ sum_ {j\ in T} O_ {i, j}\\ m_J & =\ sum_ {i\ in S} O_ {i, j}\ end {align} Таким чином, наша оцінка очікуваної частоти\((i, j)\) під\(H_0\) є\[ E_{i,j} = n \, \frac{1}{n} \, N_i \frac{1}{n} \, M_j = \frac{1}{n} \, N_i \, M_j \] Звичайно, ми визначаємо нашу тестову статистику по\[ V = \sum_{i \in J} \sum_{j \in T} \frac{(O_{i,j} - E_{i,j})^2}{E_{i,j}} \] Як ви тепер очікуєте, розподіл\(V\) збігається до хі-квадратного розподілу як\(n \to \infty\). Але давайте подивимося, чи зможемо ми визначити відповідні ступені свободи за евристичними ознаками.

Граничний розподіл\(V\) має\((k - 1) \, (m - 1)\) ступені свободи.

Доказ

Є\(k m\) терміни в розширенні\(V\). З тих пір ми втрачаємо один ступінь свободи\(\sum_{i \in S} \sum_{j \in T} O_{i,j} = n\). Ми повинні оцінити всі ймовірності, крім однієї\(i \in S\),\(g(i)\) для того, щоб втратити\(k - 1\) ступінь свободи. Ми повинні оцінити всі ймовірності, крім однієї\(j \in T\),\(h(j)\) для того, щоб втратити\(m - 1\) ступінь свободи.

Приблизний тест\(H_0\) проти\(H_1\) на\(\alpha\) рівні значущості полягає в тому, щоб відхилити,\(H_0\) якщо і тільки якщо\(V \gt \chi_{(k-1) (m-1)}^2(1 - \alpha)\).

Спостережувані частоти часто записуються в\(k \times m\) таблицю, відому як таблиця надзвичайних ситуацій, так що\(O_{i,j}\) це число в рядку\(i\) і стовпці\(j\). У цій установці зверніть увагу, що\(N_i\) є сумою частот в\(i\) -му рядку і\(M_j\) є сумою частот в\(j\) -му стовпці. Також з історичних причин випадкові\(X\) величини іноді\(Y\) називають факторами і можливими значеннями категорій змінних.

Обчислювальні та імітаційні вправи

Обчислювальні вправи

У кожному з наступних вправ вкажіть кількість ступенів свободи хі-квадратної статистики, дайте значення статистики і обчислите\(P\) -значення тесту.

Монету кидають 100 разів, в результаті чого виходить 55 голів. Перевірте нульову гіпотезу про те, що монета справедлива.

Відповідь

1 ступінь свободи,\(V = 1\),\(P = 0.3173\).

Припустимо, що у нас 3 монети. Монети підкидаються, даючи дані в наступній таблиці:

	Голови	хвости
Монета 1	29	21
Монета 2	23	17
Монета 3	42	18

1. Перевірте нульову гіпотезу, що всі монети 3 справедливі.
2. Перевірте нульову гіпотезу, що монета 1 має ймовірність голів\(\frac{3}{5}\); монета 2 справедлива; а монета 3 має ймовірність голів\(\frac{2}{3}\).
3. Перевірте нульову гіпотезу, що монети 3 мають однакову ймовірність голів.

Відповідь

1. 3 ступінь свободи,\(V = 11.78\),\(P = 0.008\).
2. 3 ступінь свободи,\(V = 1.283\),\(P = 0.733\).
3. 2 ступінь свободи,\(V = 2.301\),\(P = 0.316\).

Плашку кидають 240 разів, виводячи дані в наступній таблиці:

Оцінка	1	2	3	4	5	6
Частота	57	39	28	28	36	52

1. Перевірте нульову гіпотезу про те, що померти справедливий.
2. Перевірте нульову гіпотезу про те, що матриця - це туз-шість плоских матриць (грані 1 і 6 мають ймовірність\(\frac{1}{4}\) кожного, тоді як грані 2, 3, 4 та 5 мають ймовірність\(\frac{1}{8}\) кожного).

Відповідь

1. 5 ступінь свободи,\(V = 18.45\),\(P = 0.0024\).
2. 5 ступінь свободи,\(V = 5.383\),\(P = 0.3709\).

Кидають два кубика, виводячи дані в наступній таблиці:

Оцінка	1	2	3	4	5	6
Померти 1	22	17	22	13	22	24
Померти 2	44	24	19	19	18	36

1. Перевірте нульову гіпотезу, що померти 1 справедлива, а померти 2 - туз-шість плоских.
2. Перевірте нульову гіпотезу, що всі кістки мають однаковий розподіл ймовірностей.

Відповідь

1. 10 ступінь свободи,\(V = 6.2\),\(P = 0.798\).
2. 5 ступінь свободи,\(V = 7.103\),\(P = 0.213\).

Університет класифікує факультет за званням як викладачі, доценти, доценти та професори. Дані, за рангом викладачів та статтю, наведені в наступній таблиці надзвичайних ситуацій. Тест, щоб перевірити, чи є ранг та стать викладачів незалежними.

Факультет	Інструктор	Доцент	Доцент	Професор
Чоловічий	62	238	185	115
Жіноча	118	122	123	37

Відповідь

3 ступеня свободи,\(V = 70.111\),\(P \approx 0\).

Вправи з аналізу даних

Набір даних випробувань Буффона дає результати 104 повторень експерименту з голкою Буффона. Кількість перетинів тріщин - 56. Теоретично цей набір даних повинен відповідати 104 випробуванням Бернуллі з ймовірністю успіху\(p = \frac{2}{\pi}\). Перевірте, чи це розумно.

Відповідь

1 ступінь свободи,\(V = 4.332\),\(P = 0.037\).

Тест, щоб перевірити, чи дані альфа-викидів надходять з розподілу Пуассона.

Відповідь

Ми\(\N\) розділимо на 17 підмножин:\(\{0, 1\}\),\(\{x\}\) for\(x \in \{2, 3, \ldots, 16\}\), і\(\{17, 18, \ldots \}\). Існує 15 ступенів свободи. Розрахунковий параметр Пуассона - 8,367,\(V = 9.644\),\(P = 0.842\).

Перевірте, чи приходять дані швидкості світла Майкельсона з нормального розподілу.

Відповідь

Використовуючи наступний розділ\(\R\):\(\{(-\infty, 750), [750, 775), [775, 800), [800, 825), [825, 850), [850, 875), [875, 900), [900, 925), [925, 950), [950, 975), [975, \infty)\}\). Ми маємо 8 ступенів свободи,\(V = 11.443\),\(P = 0.178\).

Імітаційні вправи

У симуляційних вправах нижче, ви зможете дослідити добро fit тест емпіричним шляхом.

У гральних кістках хорошого експерименту встановіть розподіл вибірки на справедливий, розмір вибірки до 50, а рівень значущості - 0,1. Встановіть тестовий розподіл, як зазначено нижче, і в кожному випадку запустіть моделювання 1000 разів. У випадку (а) дайте емпіричну оцінку рівня значущості тесту і порівняйте з 0,1. В інших випадках дайте емпіричну оцінку потужності тесту. Перерахуйте розподіли в (b) - (d) в порядку збільшення видимої потужності. Чи здаються ваші результати розумними?

1. тонкий
2. туз-шість квартир
3. симетричний, унімодальний розподіл
4. розподіл перекосився вправо

У гральних кістках добра придатності експерименту встановіть розподіл вибірки на туз-шість квартир, розмір вибірки до 50, а рівень значущості до 0,1. Встановіть тестовий розподіл, як зазначено нижче, і в кожному випадку запустіть моделювання 1000 разів. У випадку (а) дайте емпіричну оцінку рівня значущості тесту і порівняйте з 0,1. В інших випадках дайте емпіричну оцінку потужності тесту. Перерахуйте розподіли в (b) - (d) в порядку збільшення видимої потужності. Чи здаються ваші результати розумними?

1. тонкий
2. туз-шість квартир
3. симетричний, унімодальний розподіл
4. розподіл перекосився вправо

У експерименті з користю придатності кістки встановіть розподіл вибірки на симетричний, унімодальний розподіл, розмір вибірки до 50, а рівень значущості - 0,1. Встановіть тестовий розподіл, як зазначено нижче, і в кожному випадку запустіть моделювання 1000 разів. У випадку (а) дайте емпіричну оцінку рівня значущості тесту і порівняйте з 0,1. В інших випадках дайте емпіричну оцінку потужності тесту. Перерахуйте розподіли в (b) - (d) в порядку збільшення видимої потужності. Чи здаються ваші результати розумними?

1. симетричний, унімодальний розподіл
2. тонкий
3. туз-шість квартир
4. розподіл перекосився вправо

У експерименті з користю підгонки, встановіть розподіл вибірки на розподіл нахилений праворуч, розмір вибірки до 50, а рівень значущості - 0,1. Встановіть тестовий розподіл, як зазначено нижче, і в кожному випадку запустіть моделювання 1000 разів. У випадку (а) дайте емпіричну оцінку рівня значущості тесту і порівняйте з 0,1. В інших випадках дайте емпіричну оцінку потужності тесту. Перерахуйте розподіли в (b) - (d) в порядку збільшення видимої потужності. Чи здаються ваші результати розумними?

1. розподіл перекосився вправо
2. тонкий
3. туз-шість квартир
4. симетричний, унімодальний розподіл

Припустимо, що\(D_1\) і\(D_2\) є різними дистрибутивами. Чи потужність тесту з розподілом вибірки\(D_1\) та розподілом випробувань такою\(D_2\) ж, як потужність тесту з розподілом вибірки\(D_2\) та розподілом тесту\(D_1\)? Зробіть здогадки на основі ваших результатів в попередніх трьох вправах.

У гральних кістках добра придатного експерименту встановіть розподіли вибірки та тестування на справедливі, а рівень значущості - 0,05. Виконайте експеримент 1000 разів для кожного з наступних розмірів зразка. У кожному конкретному випадку дайте емпіричну оцінку рівня значущості і порівняйте з 0,05.

1. \(n = 10\)
2. \(n = 20\)
3. \(n = 40\)
4. \(n = 100\)

У гральних кістках добра придатного експерименту встановіть розподіл вибірки на справедливий, розподіли тесту на туз-шість квартир, а рівень значущості до 0,05. Виконайте експеримент 1000 разів для кожного з наступних розмірів зразка. У кожному конкретному випадку дайте емпіричну оцінку потужності тесту. Чи здається, що сили сходяться?

1. \(n = 10\)
2. \(n = 20\)
3. \(n = 40\)
4. \(n = 100\)