7.2: Суми неперервних випадкових величин

У цьому розділі ми розглянемо неперервний варіант задачі, поставленої в попередньому розділі: Як розподіляються суми незалежних випадкових величин?

Визначення\(\PageIndex{1}\): convolution

\(Y\)Дозволяти\(X\) і бути дві неперервні випадкові величини з функціями щільності\(f(x)\) і\(g(y)\), відповідно. Припустимо, що\(g(y)\) обидва\(f(x)\) і визначені для всіх дійсних чисел. Тоді згортка\(f\) і\(f ∗ g\)\(g\) є функцією, заданою

\[ \begin{align}{rcl} (f*g) & = & \int_{-\infty}^\infty f(z-y)g(y)dy \\ & = & \int_{-\infty}^\infty g(z-x)f(x)dx \end{align}\]

Це визначення аналогічно визначенню, наданому в розділі 7.1, згортки двох функцій розподілу. Таким чином, не варто дивуватися тому, що якщо X і Y незалежні, то щільність їх суми - це згортка їх щільностей. Цей факт викладено як теорема нижче, а його доказ залишається як вправа (див. Вправу 1).

Теорема\(\PageIndex{1}\)

Нехай X і Y - дві незалежні випадкові величини з функціями щільності fX (x) і fY (y), визначеними для всіх x. Тоді сума Z = X + Y є випадковою величиною з функцією щільності\(f_Z(z)\), де\(f_X\) - згортка\(f_X\) і\(f_Y\)

Щоб краще зрозуміти цей важливий результат, розглянемо кілька прикладів.

Приклад\(\PageIndex{1}\): Sum of Two Independent Uniform Random Variables

Припустимо, ми вибираємо незалежно два числа випадковим чином з інтервалу [0, 1] з рівномірною щільністю ймовірності. Яка щільність їх суми? Нехай X і Y - випадкові величини, що описують наш вибір, а Z = X + Y їх сума. Тоді у нас є

\[f_X(x) = f_Y(y) = \begin{array}{cc} 1 & \text{if } 0 \leq x \leq 1 \\ 0 & \text{otherwise} \end{array}\]

а функція щільності для суми задається

\[f_Z(z) = \int_{-\infty}^\infty f_X(z-y)f_Y(y)dy.\]

Оскільки\(f_Y (y) = 1 if 0 ≤ y ≤ 1\) і 0 в іншому випадку, це стає

\[f_Z(z) = \int_{0}^1 f_X(z-y)dy.\]

Тепер ціле число дорівнює 0, якщо 0 ≤ z − y ≤ 1 (тобто, якщо z − 1 ≤ y ≤ z) і тоді воно дорівнює 1. Отже, якщо 0 ≤ z ≤ 1, ми маємо

\[f_Z (z) = \int_0^z dy = z ,\]

в той час як якщо 1 < z ≤ 2, ми маємо

\[f_Z(z) = \int_{z-1}^1 dy = 2-z, \]

а якщо z < 0 or z > 2 у нас є\(_fZ(z) = 0\) (див. Рис. Отже,

\[f_Z(z) = \Bigg\{ \begin{array}{cc} z & \text{if } 0 \leq z \leq 1 \\ 2-z, & \text{if} 1 < z \leq 2 \\ 0, & \text{otherwise} \end{array} \]

Зауважте, що цей результат узгоджується з результатом Прикладу 2.4.

Приклад\(\PageIndex{2}\): Sum of Two Independent Exponential Random Variables

Припустимо, ми вибираємо два числа випадковим чином з інтервалу [0, ∞) з експоненціальною щільністю з параметром λ. Яка щільність їх суми? Нехай X, Y і Z = X + Y позначають відповідні випадкові величини,\(f_X , f_Y , \) і\(f_Z\) їх щільності. Тоді

\[ f_X(x) = f_Y(x) = \bigg\{ \begin{array}{cc} \lambda e^{-\lambda x}, & \text{if } x \geq 0 \\ 0, & \text{otherwise} \end{array} \]

і так, якщо z > 0,

\[ \begin{align}{rcl} f_Z(z) & = & \int_{-\infty}^\infty f_X(z-y)f_Y(y)dy \\ &=& \int_0^z \lambda e^{-\lambda (z-y)} \lambda e^{-\lambda y} dy \\ &=& \int_0^z \lambda^2 e^{-\lambda z} dy \\ &=& \lambda^2 z e^{-\lambda z}\end{align}\]

а якщо z < 0,\(f_Z(z) = 0\) (див. Рис. Отже,

\[ f_Z(z) = \bigg\{ \begin{array}{cc} \lambda^2 z^{-\lambda z}, & \text{if } z \geq 0, \\ 0, & \text{otherwise} \end{array} \]

Сума двох незалежних нормальних випадкових величин

Приклад\(\PageIndex{3}\)

Цікавим і важливим фактом є те, що згортка двох нормальних щільностей із середніми\(µ_1 and µ_2\) та дисперсіями знову\(σ_1 and σ_2\) є нормальною щільністю, із середньою\(µ_1 + µ_2\) та дисперсією\( \sigma_1^2 + \sigma_2^2\). Ми покажемо це в особливому випадку, що обидві випадкові величини є стандартними нормальними. Загальний випадок можна зробити таким же чином, але розрахунок більш м'який. Інший спосіб показати загальний результат наведено в прикладі 10.17.

Припустимо, X і Y - дві незалежні випадкові величини, кожна зі стандартною нормальною щільністю (див. Приклад 5.8). У нас є

\[ f_X(x) = f_Y(y) = \frac{1}{\sqrt{2\pi}}e^{-x^2/2}\]

і так

\[\begin{align}{rcl} f_Z(z) & = & f_X \* f_Y(z) \\ & = & \frac{1}{2\pi} \int_{-\infty}^\infty e^{-(z-y)^2/2} e^{-y^2/2}dy \\ & = & \frac{1}{2\pi} e^{-z^2/4} \int_{-\infty}^\infty e^{-(y-z/2)^2}dy \\ & = & \frac{1}{2\pi} e^{-z^2/4}\sqrt{\pi} \bigg[ \frac{1}{\sqrt{\pi}} \int_{-\infty}^\infty e^{-(y-z/2)^2dy \bigg] \end{align}\]

Вираз в дужках дорівнює 1, так як це інтеграл нормальної функції щільності з\( \mu =0\) і\(\sigma = \sqrt{2}\) Отже, ми маємо

\[f_Z(z) = \frac{1}{\sqrt{4\pi}}e^{-z^2/4}\]

Приклад\(\PageIndex{4}\): Sum of Two Independent Cauchy Random Variables

Виберіть два числа випадковим чином з інтервалу\((-\infty, \infty\) з параметром щільності Коші з параметром\(a = 1\) (див. Приклад 5.10). Тоді

\[ f_X(x) = f_Y(y) = \frac{1}{\pi(1+x^2)}\]

і\(Z = X +Y\) має щільність

\[f_Z(z) = \frac{1}{\pi^2} \int_{-\infty}^\infty \frac{1}{1+(z-y)^2} \frac{1}{1+y^2}dy.\]

Цей інтеграл вимагає певних зусиль, і ми наводимо тут тільки результат (див. Розділ 10.3, або Dwass\(^3\)):

\[fZ(z) =\frac{2}{\pi (4+z^2)}\]

Тепер припустимо, що ми запитуємо функцію щільності середнього

\[A = (1/2)(X + Y ) \]

X і Y. Тоді A = (1/2) Z. вправа 5.2.19 показує, що якщо U і V - дві неперервні випадкові величини з функціями щільності відповідно\(f_U(x) and f_V(x)\), а якщо\(V = aU\), то

\[f_V (x) = \bigg( \frac{1}{a}\bigg) f_U \bigg( \frac{x}{a} \bigg). \]

Таким чином, ми маємо

\[f_A(z) = 2f_Z(2z) = \frac{1}{\pi(1+z^2)}\]

Отже, функція щільності для середнього двох випадкових величин, кожна з яких має щільність Коші, знову є випадковою величиною з щільністю Коші; ця чудова властивість є особливістю щільності Коші. Одним з наслідків цього є те, що якщо похибка в певному процесі вимірювання мала щільність Коші, і ви усереднили ряд вимірювань, середнє не можна очікувати, щоб бути більш точним, ніж будь-яке з ваших індивідуальних вимірювань!

Приклад\(\PageIndex{5}\): Rayleigh Density

Припустимо, X і Y є двома незалежними стандартними нормальними випадковими величинами. Тепер припустимо, ми знаходимо точку P в xy -площині з координатами (X, Y) і запитуємо: Яка щільність квадрата відстані P від початку? (Ми вже моделювали цю проблему в прикладі 5.9.) Тут, з попередніми позначеннями, ми маємо

\[f_X(x) = f_V(x) = \frac{1}{\sqrt{2\pi}} e^{-x^2/2}\]

Більш того, якщо\(X^2\) позначає квадрат X, то (див. Теорему 5.1 і обговорення далі)

\[ \begin{align}{rcl} f_{X^2}(r) & = & \left{\begin{array}{cc} \frac{1}{2\sqrt{r}}(f_X\sqrt{r}) + f_X(-\sqrt{r})) & \text{if } r>0\\ 0 & \text{otherwise}.\end{array} \\ &=& \left{\begin{array}{} \frac{1}{\sqrt{2\pi r}}(e^{-r/2}) & \text{if} r>0\\ 0 & \text{otherwise}.\end{array} \end{align} \]

Це гамма-щільність з\(\lambda = 1/2\),\(\beta = 1/2\) (див. Приклад 7.4). Тепер нехай\(R^2 = X^2 + Y^2\)

Тоді

Значить,\(R^2\) має гамма-щільність з λ = 1/2, β = 1. Ми можемо інтерпретувати цей результат як надання щільності для квадрата відстані P від центру цілі, якщо її координати нормально розподілені. Щільність випадкової величини R отримується від щільності\(R^2\) звичайним способом (див. Теорему 5.1), і знаходимо

\[ f_R(r) = \Bigg\{ \begin{array}{cc} \frac{1}{2}e^{-r^2/2} \cdot 2r = re^{-r^2/2}, & \text{if } r \geq 0 \\ 0, & \text{otherwise} \end{array} \]

Фізики визнають це як щільність Релея. Наш результат тут узгоджується з нашим моделюванням у прикладі 5.9.

Щільність Chi в квадраті

Більш загально той же метод показує, що сума квадратів n незалежних нормально розподілених випадкових величин із середнім 0 і стандартним відхиленням 1 має гамма-щільність з λ = 1/2 і β = n/2. Така щільність називається хи-квадрат щільністю з n ступенями свободи. Ця щільність була введена в главі 4.3. У прикладі 5.10 ми використовували цю щільність для перевірки гіпотези про те, що дві риси є незалежними.

Іншим важливим використанням хі-квадратної щільності є порівняння експериментальних даних з теоретичним дискретним розподілом, щоб побачити, чи підтримують дані теоретичну модель. Більш конкретно, припустимо, що у нас є експеримент з кінцевим набором результатів. Якщо набір результатів підраховується, ми групуємо їх на скінченно багато наборів результатів. Ми пропонуємо теоретичний розподіл, який, на нашу думку, буде добре моделювати експеримент. Деякі дані ми отримуємо, повторюючи експеримент кілька разів. Тепер ми хочемо перевірити, наскільки добре теоретичний розподіл відповідає даним.

\(X\)Дозволяти випадкова величина, яка представляє теоретичний результат у моделі експерименту, і\(m(x)\) нехай функція розподілу X. Аналогічно тому, що було зроблено в прикладі 5.10, обчислюємо значення виразу

\[ V = \sum_x \frac{(\sigma_x - n\cdot m(x))^2}{n\cdot m(x)}\]

де сума проходить по всіх можливих результатів x, n - кількість точок даних, а ox позначає кількість результатів типу x, що спостерігаються в даних. Тоді

для середніх або великих значень n величина V приблизно розподілена в хі-квадраті, з γ-1 ступенями свободи, де σ представляє кількість можливих результатів. Доказ цього виходить за рамки цієї книги, але ми проілюструємо розумність цього твердження в наступному прикладі. Якщо значення V дуже велике, якщо порівнювати з відповідною функцією щільності хі-квадрата, то ми схильні відкидати гіпотезу про те, що модель є відповідною для експерименту під рукою. Ми зараз наведемо приклад цієї процедури.

Приклад\(\PageIndex{6}\): DieTest

Припустимо, нам дають одну матрицю. Ми хочемо перевірити гіпотезу про те, що померти справедливий. Таким чином, наш теоретичний розподіл - це рівномірний розподіл на цілі числа між 1 і 6. Отже, якщо ми згортаємо матрицю n раз, очікувана кількість точок даних кожного типу n /6. Таким чином, якщо\(o_i\) позначає фактичну кількість точок даних типу\(i\), for\(1 ≤ i ≤ 6\), то вираз

\[ V = \sum_{i=1}^6 \frac{(\sigma_i - n/6)^2}{n/6}\]

приблизно чі-квадрат розподілений з 5 ступенями свободи.

Тепер припустимо, що ми насправді котити матрицю 60 разів і отримати дані в таблиці 7.1. Якщо обчислити V для цих даних, то отримаємо значення 13,6. Графік хи-квадратної щільності з 5 ступенями свободи показаний на малюнку 7.4. Можна бачити, що значення, такі великі, як 13,6, рідко приймаються V, якщо померти справедливі, тому ми б відкинули гіпотезу про те, що померти справедливий. (Використовуючи цей тест, статистик відхилить гіпотезу, якщо дані дають значення V, яке більше 95% значень, які можна було б отримати, якщо гіпотеза істинна.)

На малюнку 7.5 ми показуємо результати прокатки матриці 60 разів, потім обчислюючи V, а потім повторюємо цей експеримент 1000 разів. Програма, яка виконує ці обчислення, називається DieTest. Ми наклали щільність хі-квадрата з 5 ступенями свободи; видно, що значення даних досить добре відповідають кривій, що підтримує твердження, що щільність хі-квадрата є правильною для використання.

Поки ми розглянули кілька важливих особливих випадків, для яких інтеграл згортки може бути оцінений явно. Загалом, згортка двох суцільних щільностей не може бути оцінена явно, і ми повинні вдаватися до числових методів. На щастя, вони виявляються надзвичайно ефективними, принаймні для обмеженої щільності.

Незалежні випробування

Тепер коротко розглянемо розподіл суми n незалежних випадкових величин, які мають однакову функцію щільності. Якщо\(X_1, X_2, . . . , X_n\) ці випадкові величини і\(S_n = X_1 + X_2 + · · · + X_n\) є їх сумою, то у нас буде

\[f_{S_n}}(x) = (f_X, \*f_{x_2}\* \cdots \* f_{X_n}(x),\]

де права сторона - n-складна згортка. Обчислити цю щільність можна для загальних значень n в деяких простих випадках.

Приклад\(\PageIndex{7}\)

Припустимо, що\(X_i\) вони рівномірно розподілені на інтервалі [0,1]. Тоді

\[f_{X_i}(x) = \Bigg{\{} \begin{array}{cc} 1, & \text{if } 0\leq x \leq 1\\ 0, & \text{otherwise} \end{array}\]

і\(f_{S_n}}(x)\_) is given by the formula \(^4\)

\[f_{S_n}(x) = \Bigg\{ \begin{array}{cc} \frac{1}{(n-1)!}\sum_{0\leq j \leq x}(-1)^j(\binom{n}{j}(x-j)^{n-1}, & \text{if } 0\leq x \leq n\\ 0, & \text{otherwise} \end{array}\]

Щільність\(f_{S_n}(x)\) для\(n = 2, 4, 6, 8, 10\) показана на малюнку 7.6. Якщо Xi розподілені нормально, із середнім значенням 0 та дисперсією 1, то (див. приклад 7.5)

\[f_{X_i}(x) = \frac{1}{\sqrt{\2pi}} e^{-x^2/2},\]

і

\[f_{S_n}(x) = \frac{1}{\sqrt{2\pi n}}e^{-x^2/2n}\]

Тут щільність\(f_Sn\) для\(n=5,10,15,20,25\) показана на малюнку 7.7.

Якщо всі\(X_i\) експоненціально розподілені, зі середнім\(1/\lambda\), то

\[f_{X_i}(x) = \lambda e^{-\lambda x}.\]

і

\[f_{S_n} = \frac{\lambda e^{-\lambda x}(\lambda x)^{n-1}}{(n-1)!} \]

При цьому щільність\(f_{S_n}\) для\(n = 2, 4, 6, 8, 10\) показана на малюнку 7.8.