8.3: Оцінка в моделі Бернуллі

\(\newcommand{\R}{\mathbb{R}}\)\(\newcommand{\N}{\mathbb{N}}\)\(\newcommand{\Z}{\mathbb{Z}}\)\(\newcommand{\P}{\mathbb{P}}\)\(\newcommand{\E}{\mathbb{E}}\)\(\newcommand{\var}{\text{var}}\)\(\newcommand{\sd}{\text{sd}}\)\(\newcommand{\bs}{\boldsymbol}\)

Вступ

Нагадаємо, що величина індикатора - це випадкова величина, яка просто приймає значення 0 і 1. У додатках індикаторна змінна вказує, яке з двох взаємодоповнюючих подій у випадковому експерименті відбулося. Типові приклади включають

• Виготовлений предмет, що піддається неминучим випадковим факторам, є або дефектним, або прийнятним.
• Виборець, обраний з населення, або підтримує конкретного кандидата, або ні.
• Людина, вибрана з населення або робить або не має конкретного медичного стану.
• Учень в класі або проходить, або не проходить стандартизований тест.
• Зразок радіоактивного матеріалу або робить або не випромінює альфа-частинку в заданий десятисекундний період.

Нагадаємо також, що розподіл індикаторної змінної відомий як розподіл Бернуллі, названий на честь Якоба Бернуллі, і має функцію щільності ймовірності\(\P(X = 1) = p\), задану\(\P(X = 0) = 1 - p\), де\(p \in (0, 1)\) є базовим параметром. У контексті наведених вище прикладів,

• \(p\)ймовірність того, що виготовлена деталь несправна.
• \(p\)це частка виборців в населенні, які виступають за кандидата.
• \(p\)це частка осіб у популяції, які мають медичний стан.
• \(p\)ймовірність того, що студент в класі здасть іспит.
• \(p\)ймовірність того, що матеріал буде випромінювати альфа-частинку в зазначений період.

Нагадаємо, що середнє значення і дисперсія розподілу Бернуллі є\(\E(X) = p\) і\(\var(X) = p (1 - p)\). Часто в статистичних додатках\(p\) невідомо і його потрібно оцінювати за вибірковими даними. У цьому розділі ми побачимо, як побудувати інтервальні оцінки для параметра з вибіркових даних. Паралельний розділ про тести в моделі Бернуллі знаходиться в розділі «Тестування гіпотез».

Модель з одним зразком

Попередні етапи

Припустимо,\(\bs X = (X_1, X_2, \ldots, X_n)\) що випадкова вибірка з розподілу Бернуллі з невідомим параметром\(p \in [0, 1]\). Тобто є послідовністю випробувань Бернуллі.\(\bs X\) З прикладів у вступі вище зверніть увагу, що часто основним експериментом є вибірка випадковим чином з дихотомічної популяції. Коли відбір проб з заміною,\(\bs X\) дійсно є послідовність випробувань Бернуллі. Коли вибірка без заміни, змінні залежні, але модель Бернуллі все ще приблизно дійсна, якщо чисельність населення велика порівняно з розміром вибірки\( n \). Докладніше про ці моменти див. Обговорення вибірки з заміною та без заміни в розділі про Моделі скінченної вибірки.

Відзначимо, що вибіркове середнє значення нашого вектора даних\(\bs X\), а\[ M = \frac{1}{n} \sum_{i=1}^n X_i \] саме - це вибіркова частка об'єктів цікавить типу. За центральною граничною теоремою стандартний бал\[ Z = \frac{M - p}{\sqrt{p (1 - p) / n}} \] має приблизно стандартний нормальний розподіл і, отже, є (приблизно) змінною зведенням для\(p\). Для заданого розміру вибірки розподіл найбільш близький до нормального\(n\), коли\(p\) знаходиться поблизу\(\frac{1}{2}\) і найвіддаленіший від норми, коли\(p\) близько 0 або 1 (крайній).\(Z\) Оскільки змінна шарніра (приблизно) нормально розподілена, побудова довірчих інтервалів для\(p\) цієї моделі подібна до побудови довірчих інтервалів для середнього розподілу\(\mu\) в нормальній моделі. Але, звичайно, всі довірчі інтервали, побудовані таким чином, є приблизними.

Як завжди, для\(r \in (0, 1)\), давайте\(z(r)\) позначимо квантиль порядку\(r\) для стандартного нормального розподілу. Значення\(z(r)\) можна отримати зі спеціального калькулятора розподілу, або з більшості статистичних програмних пакетів.

Основні довірчі інтервали

Для\(\alpha \in (0, 1)\), нижче наведено приблизні набори\(1 - \alpha\) довіри для\(p\):

1. \(\left\{ p \in [0, 1]: M - z(1 - \alpha / 2) \sqrt{p (1 - p) / n} \le p \le M + z(1 - \alpha / 2) \sqrt{p (1 - p) / n} \right\}\)
2. \(\left\{ p \in [0, 1]: p \le M + z(1 - \alpha) \sqrt{p (1 - p) / n} \right\}\)
3. \(\left\{ p \in [0, 1]: M - z(1 - \alpha) \sqrt{p (1 - p) / n} \le p \right\}\)

Доказ

З нашого обговорення вище,\((M - p) / \sqrt{p (1 - p) / n}\) має приблизно стандартний нормальний розподіл. Отже, за визначенням квантилей,

1. \(\P[-z(1 - \alpha / 2) \le (M - p) / \sqrt{p (1 - p) / n} \le z(1 - \alpha / 2)] \approx 1 - \alpha\)
2. \(\P[-z(1 - \alpha) \le (M - p) / \sqrt{p (1 - p) / n}] \approx 1 - \alpha\)
3. \(\P[(M - p) / \sqrt{p (1 - p) / n} \le z(1 - \alpha)] \approx 1 - \alpha\)

Розв'язування нерівностей для\(p\) в чисельнику\((M - p) / \sqrt{p (1 - p) / n}\) для кожної події дає відповідний набір довіри.

Ці набори довіри насправді є інтервалами, відомими як інтервали Вільсона, на честь Едвіна Вілсона.

Набори довіри для\( p \) in (1) є інтервалами. Нехай\[ U(z) = \frac{n}{n + z^2} \left(M + \frac{z^2}{2 n} + z \sqrt{\frac{M (1 - M)}{n} + \frac{z^2}{4 n^2}}\right)\] Тоді наступні мають приблизний рівень довіри\(1 - \alpha\) для\(p\).

1. Двосторонній інтервал\(\left[U[-z(1 - \alpha / 2)], U[z(1 - \alpha / 2)]\right]\).
2. Верхня межа\(U[z(1 - \alpha)]\).
3. Нижня межа\(U[-z(1 - \alpha)]\).

Доказ

Це випливає шляхом розв'язання нерівностей у (1) for\(p\). Для кожної нерівності ми можемо виділити квадратний кореневий член, а потім квадрат з обох сторін. Це дає квадратичні нерівності, які можна вирішити за допомогою квадратичної формули.

Як завжди, рівнохвостий довірчий інтервал в (а) не є єдиним двостороннім\(1 - \alpha\) довірчим інтервалом для\(p\). Ми можемо розділити\(\alpha\) ймовірність між лівим і правим хвостами стандартного нормального розподілу будь-яким способом, який нам заманеться.

Для\(\alpha, \, r \in (0, 1)\), приблизний двосторонній\(1 - \alpha\) довірчий інтервал для\(p\)\(U\) є\(\left[U[z(\alpha - r \alpha)], U[z(1 - r \alpha)]\right]\) де є функція в (2).

Доказ

Як і в доказі (1),\[\P\left[z(\alpha - r \alpha) \le \frac{M - p}{\sqrt{p (1 - p) / n}} \le z(1 - r \alpha)\right] \approx 1 - \alpha\] Розв'язування for за\(p\) допомогою квадратичної формули дає результат.

На практиці рівнохвостий\(1 - \alpha\) довірчий інтервал в частині (а) з (2), отриманий шляхом встановлення\(r = \frac{1}{2}\), є тим, який завжди використовується. Як\(r \uparrow 1\), права кінцева точка сходиться до\(1 - \alpha\) довірчої верхньої межі в частині (b), а як\(r \downarrow 0\) ліва кінцева точка сходиться до\(1 - \alpha\) довіри нижньої межі в частині (c).

Спрощені довірчі інтервали

Спрощені приблизні\(1 - \alpha\) довірчі інтервали для\(p\) можна отримати,\(p\) замінивши середнє значення розподілу на середнє значення вибірки\(M\) в крайніх частках нерівностей в (1).

Для\(\alpha \in (0, 1)\), наступні мають приблизний рівень довіри\(1 - \alpha\) для\(p\):

1. Двосторонній інтервал з кінцевими точками\(M \pm z(1 - \alpha / 2) \sqrt{M (1 - M) / n}\).
2. Верхня межа\(M + z(1 - \alpha) \sqrt{M (1 - M) / n}\).
3. Нижня межа\(M - z(1 - \alpha) \sqrt{M (1 - M) / n}\).

Доказ

Як зазначалося, ці результати випливають з довіри, встановленої в (1) шляхом\( p \) заміни на\( M \) у виразі\( \sqrt{p (1 - p) / n} \).

Ці довірчі інтервали відомі як інтервали Вальда, на честь Авраама Вальда.. Зверніть увагу, що інтервал Вальда також можна отримати з інтервалів Вільсона в (2), припускаючи, що\(n\) це великий порівняно з\(z\)\(n \big/ (n + z^2) \approx 1\), так що\(z^2 / 2 n \approx 0\), і\(z^2 / 4 n^2 \approx 0\). Зауважте, що цей інтервал у (c) симетричний щодо пропорції вибірки,\(M\) але довжина інтервалу, а також центр є випадковою. Це двосторонній інтервал, який зазвичай використовується.

Використовуйте моделювання експерименту оцінки пропорцій для вивчення процедури. Використовуйте різні значення\(p\) та різні рівні довіри, розміри вибірки та типи інтервалів. Для кожної конфігурації проведіть експеримент 1000 разів і порівняйте частку вдалих інтервалів з теоретичним рівнем довіри.

Як завжди, рівнохвостий інтервал в (4) не єдиний двосторонній\(1 - \alpha\) довірчий інтервал.

Для\(\alpha, \, r \in (0, 1)\), приблизний двосторонній\(1 - \alpha\) довірчий інтервал для\(p\) є\[\left[M - z(1 - r \alpha) \sqrt{\frac{M (1 - M)}{n}}, M - z(\alpha - r \alpha) \sqrt{\frac{M (1 - M)}{ n}}\right]\] Інтервал з найменшою довжиною рівний хвіст інтервал с\(r = \frac 1 2\).

Консервативні інтервали довіри

Зверніть увагу, що функція\(p \mapsto p(1 - p)\) на інтервалі\( [0, 1] \) максимізується, коли\(p = \frac 1 2\) і таким чином максимальне значення є\(\frac{1}{4}\). Ми можемо отримати консервативні довірчі інтервали для\( p \) від основних довірчих інтервалів, використовуючи цей факт.

Для\(\alpha \in (0, 1)\), такі мають приблизний рівень довіри принаймні\(1 - \alpha\) для\(p\):

1. Двосторонній інтервал з кінцевими точками\(M \pm z(1 - \alpha / 2) \frac{1}{2 \sqrt{n}}\).
2. Верхня межа\(M + z(1 - \alpha) \frac{1}{2 \sqrt{n}}\).
3. Нижня межа\(M - z(1 - \alpha) \frac{1}{2 \sqrt{n}}\).

Доказ

Як зазначалося, ці результати випливають з довіри, встановленої в (1) шляхом\( p \) заміни на\( \frac 1 2 \) у виразі\( \sqrt{p (1 - p) / n} \).

Зверніть увагу, що довірчий інтервал в (a) симетричний щодо пропорції вибірки\(M\) і що довжина інтервалу є детермінованою. Звичайно, консервативні довірчі інтервали будуть більше, ніж приблизні спрощені довірчі інтервали в (4). Консервативний кошторис може бути використаний для проектування експерименту. Нагадаємо, що межа похибки - це відстань між пропорцією вибірки\( M \) і кінцевою точкою довірчого інтервалу.

Консервативна оцінка розміру вибірки,\(n\) необхідної для оцінки\(p\) з упевненістю\(1 - \alpha\) та похибкою,\(d\) - це\[ n = \left\lceil \frac{z_\alpha^2}{4 d^2} \right\rceil \] місце\(z_\alpha = z(1 - \alpha / 2)\) для двостороннього інтервалу та\(z_\alpha = z(1 - \alpha)\) для довіри верхньої або нижньої межі.

Доказ

З рівнем впевненості\( 1 - \alpha \), похибка є\( z_\alpha \frac{1}{2 \sqrt{n}} \). Встановлення цього рівного встановленому\( d \) значенню і рішення дає результат.

Як завжди, рівнохвостий інтервал в (7) - не єдиний двосторонній, консервативний,\(1 - \alpha\) довірчий інтервал.

Для\(\alpha, \, r \in (0, 1)\), приблизний двосторонній, консервативний\(1 - \alpha\) довірчий інтервал для\(p\) є\[\left[M - z(1 - r \alpha) \frac{1}{2 \sqrt{n}}, M - z(\alpha - r \alpha) \frac{1}{2 \sqrt{n}}\right]\] Інтервал з найменшою довжиною дорівнює хвіст інтервал с\(r = \frac 1 2\).

Модель з двома зразками

Попередні етапи

Часто ми маємо два базових дистрибутиви Бернуллі, з параметрами,\( p_1, \, p_2 \in [0, 1] \) і ми хотіли б оцінити різницю\( p_1 - p_2 \). Ця проблема може виникнути в наступних типових прикладах:

• У налаштуваннях контролю якості припустимо,\( p_1 \) що частка дефектних виробів, вироблених за одного набору виробничих умов, в той час як\( p_2 \) частка дефектів при різному наборі умов.
• На виборах припустимо, що\( p_1 \) це частка виборців, які віддають перевагу конкретному кандидату в один момент кампанії, тоді як\( p_2 \) частка виборців, які віддають перевагу кандидату пізніше (можливо, після того, як спалахнув скандал).
• Припустимо,\( p_1 \) що частка студентів, які здають певний стандартизований тест зі звичайними методами підготовки до тесту, в той час як\( p_2 \) частка студентів, які здають тест з новим набором методів підготовки.
• Припустимо,\( p_1 \) що частка нещеплених осіб у певній популяції, які заражаються певним захворюванням, в той час як\( p_2 \) частка вакцинованих осіб, які заражаються хворобою.

Зверніть увагу, що деякі з цих прикладів можна розглядати як проблеми контролю лікування. Звичайно, ми могли б побудувати інтервальні оцінки\(I_1\) для\(p_1\) і\(I_2\) для\(p_2\) окремо, як у підрозділах вище. Але, як ми зазначили у Вступі, якщо ці два інтервали мають рівень довіри\(1 - \alpha\), то набір продуктів\(I_1 \times I_2\) має рівень довіри\((1 - \alpha)^2\) для\((p_1, p_2)\). Тож\(p_1 - p_2\) якщо наш параметр цікавить, ми будемо використовувати інший підхід.

Спрощені довірчі інтервали

Припустимо, що тепер\( \bs X = (X_1, X_2, \ldots, X_{n_1}) \) це випадкова вибірка розміру\( n_1 \) з розподілу Бернуллі з параметром\( p_1 \), і\( \bs Y = (Y_1, Y_2, \ldots, Y_{n_2}) \) є випадковою вибіркою розміру\( n_2 \) з розподілу Бернуллі з параметром\( p_2 \). Припускаємо, що зразки\( \bs X \) і\( \bs Y \) є незалежними. Нехай\[ M_1 = \frac{1}{n_1} \sum_{i=1}^{n_1} X_i, \quad M_2 = \frac{1}{n_2} \sum_{i=1}^{n_2} Y_i \] позначають зразкові засоби (пропорції зразка) для зразків\( \bs X \) і\( \bs Y \). Природна оцінка точки для\( p_1 - p_2 \), і будівельний блок для нашої інтервальної оцінки, є\( M_1 - M_2 \). Як зазначається в однопробірковій моделі, якщо вона\( n_i \) велика,\( M_i \) має приблизний нормальний розподіл із середнім\( p_i \) значенням і дисперсією\( p_i (1 - p_i) / n_i \) для\( i \in \{1, 2\} \). Так як зразки незалежні, так само і зразкові кошти. Звідси\( M_1 - M_2 \) має приблизний нормальний розподіл із середнім\( p_1 - p_2 \) і дисперсійним\( p_1 (1 - p_1) / n_1 + p_2 (1 - p_2) / n_2\). Тепер у нас є всі інструменти, які нам потрібні для спрощеного, приблизного довірчого інтервалу для\( p_1 - p_2 \).

Для\(\alpha \in (0, 1)\), наступні мають приблизний рівень довіри\(1 - \alpha\) для\(p_1 - p_2\):

1. Двосторонній інтервал з кінцевими точками\((M_1 - M_2) \pm z\left(1 - \alpha / 2\right) \sqrt{M_1 (1 - M_1) / n_1 + M_2 (1 - M_2) / n_2} \).
2. Нижня межа\( (M_1 - M_2) - z(1 - \alpha) \sqrt{M_1 (1 - M_1) / n_1 + M_2 (1 - M_2) / n_2} \).
3. Верхня межа\( (M_1 - M_2) + z(1 - \alpha) \sqrt{M_1 (1 - M_1) / n_1 + M_2 (1 - M_2) / n_2} \).

Доказ

Як зазначалося вище, якщо\(n_1\) і\(n_2\) великі,\[\frac{(M_1 - M_2) - (p_1 - p_2)}{\sqrt{p_1(1 - p_1) / n_1 + p_2(1 - p_2)/n_2}}\] має приблизний стандартний нормальний розподіл, а значить, так і робить\[Z = \frac{(M_1 - M_2) - (p_1 - p_2)}{\sqrt{M_1(1 - M_1) / n_1 + M_2(1 - M_2)/n_2}}\]

1. \(\P[-z(1 - \alpha / 2) \le Z \le z(1 - \alpha / 2)] \approx 1 - \alpha\). Рішення для\(p_1 - p_2\) дає двосторонній довірчий інтервал.
2. \(\P[-z(1 - \alpha) \le Z] \approx 1 - \alpha\). Рішення для\(p_1 - p_2\) надає впевненості верхню межу.
3. \(\P[Z \le z(1 - \alpha / 2)] \approx 1 - \alpha\). Рішення для\(p_1 - p_2\) надає впевненості нижню межу.

Як завжди, рівнохвостий інтервал в (а) не є єдиним приблизним двостороннім\(1 - \alpha\) довірчим інтервалом.

Бо\(\alpha, \, r \in (0, 1)\), приблизна\(1 - \alpha\) довіра,\(p_1 - p_2\) встановлена для\[ \left[(M_1 - M_2) - z(1 - r \alpha) \sqrt{M_1 (1 - M_1) / n_1 + M_2 (1 - M_2) / n_2}, (M_1 - M_2) - z(\alpha - r \alpha) \sqrt{M_1 (1 - M_1) / n_1 + M_2 (1 - M_2) / n_2} \right]\]

Доказ

Як зазначалося в доведенні попередньої теореми,\[Z = \frac{(M_1 - M_2) - (p_1 - p_2)}{\sqrt{M_1(1 - M_1) / n_1 + M_2(1 - M_2)/n_2}}\] має приблизно стандартний нормальний розподіл, якщо\(n_1\) і\(n_2\) великі. Звідси\(\P[-z(\alpha - r \alpha) \le Z \le z(1 - r \alpha)] \approx 1 - \alpha\). Рішення для\(p_1 - p_2\) дає двосторонній довірчий інтервал.

Консервативні інтервали довіри

Знову ж таки,\(p \mapsto p (1 - p)\) максимізується, коли\(p = \frac 1 2 \) з максимальним значенням\(\frac 1 4\). Ми можемо використовувати це для побудови приблизних консервативних довірчих інтервалів для\(p_1 - p_2\).

Для\(\alpha \in (0, 1)\), такі мають приблизний рівень довіри принаймні\(1 - \alpha\) для\(p_1 - p_2\):

1. Двосторонній інтервал з кінцевими точками\((M_1 - M_2) \pm \frac{1}{2} z\left(1 - \alpha / 2\right) \sqrt{1 / n_1 + 1 / n_2} \).
2. Нижня межа\( (M_1 - M_2) - \frac{1}{2} z(1 - \alpha) \sqrt{1 / n_1 + 1 / n_2} \).
3. Верхня межа\( (M_1 - M_2) + \frac{1}{2} z(1 - \alpha) \sqrt{1 / n_1 + 1 / n_2} \).

Доказ

Ці результати випливають з попередньої теореми, замінюючи\(M_1 (1 - M_1)\) і\(M_2 (1 - M_2)\) кожен з\(\frac 1 4\).

Обчислювальні вправи

У опитуванні 1000 зареєстрованих виборців у певному окрузі 427 віддають перевагу кандидату X. Побудувати 95% двосторонній довірчий інтервал для частки всіх зареєстрованих виборців у окрузі, які віддають перевагу X.

Відповідь

\((0.396, 0.458)\)

Монета кидається 500 разів і призводить до 302 голів. Побудуйте нижню межу довіри 95% для ймовірності голів. Чи вважаєте ви, що монета справедлива?

Відповідь

0.579. Ні, монета майже напевно не чесна.

Тестується зразок з 400 мікросхем пам'яті з виробничої лінії, а 30 - несправні. Побудувати консервативний 90% двосторонній довірчий інтервал для частки дефектних мікросхем.

Відповідь

\((0.034, 0.116)\)

Наркокомпанія хоче оцінити частку осіб, які будуть відчувати побічну реакцію на певний новий препарат. Компанія хоче двостороннього інтервалу з похибкою 0,03 з 95% впевненістю. Наскільки великим повинен бути зразок?

Відповідь

1068

Рекламне агентство хоче побудувати 99% довіри нижню межу для частки стоматологів, які рекомендують певну марку зубної пасти. Похибка повинна бути 0,02. Наскільки великим повинен бути зразок?

Відповідь

3382

Набір даних випробувань Буффона дає результати 104 повторень експерименту з голкою Буффона. Теоретично дані повинні відповідати випробуванням Бернуллі з\(p = 2 / \pi\), але оскільки справжні студенти впустили голку, справжнє значення\(p\) невідомо. Побудувати 95% довірчий інтервал для\(p\). Чи вважаєте ви, що\(p\) це теоретичне значення?

Відповідь

\((0.433, 0.634)\). Теоретичне значення становить приблизно 0,637, що не знаходиться в довірчому інтервалі.

Виробниче підприємство має дві виробничі лінії для певного виробу. У вибірці 150 позицій з рядка 1 дефектні 12. З зразка 130 позицій з рядка 2 дефектні 10. Побудувати двосторонній 95% довірчий інтервал для\( p_1 - p_2 \), де\( p_i \) частка дефектних елементів з лінії\( i \), для\( i \in \{1, 2\} \)

Відповідь

\( [-0.050, 0.056] \)

Вакцина від грипу розробляється щороку відповідно до прогнозованого домінуючого штаму грипу. Припустимо, що з 500 нещеплених осіб 45 захворіли на грип за певний часовий проміжок. З 300 щеплених осіб 20 захворіли на грип за той же період часу. Побудувати двосторонній 99% довірчий інтервал для того\( p_1 - p_2 \), де\( p_1 \) знаходиться захворюваність на грип у нещепленого населення і\( p_2 \) захворюваність на грип у щепленого населення.