2.10: Стохастичні процеси

\(\newcommand{\P}{\mathbb{P}}\)\(\newcommand{\E}{\mathbb{E}}\)\(\newcommand{\R}{\mathbb{R}}\)\(\newcommand{\N}{\mathbb{N}}\)\(\newcommand{\Z}{\mathbb{Z}}\)\(\newcommand{\bs}{\boldsymbol}\)\( \newcommand{\cov}{\text{cov}} \)\( \newcommand{\var}{\text{var}} \)\( \newcommand{\sd}{\text{sd}} \)

Вступ

Цей розділ вимагає теорії вимірювань, тому вам може знадобитися переглянути розширені розділи в розділі про основи та в цій главі. Зокрема, нагадаємо, що\( E \) множина майже завжди поставляється з\( \sigma \) -алгеброю\( \mathscr E \) допустимих підмножин, так що\( (E, \mathscr E) \) це вимірний простір. Зазвичай насправді\( E \) має топологію і\( \mathscr E \) є відповідною Борель\( \sigma \) -алгебра, тобто\( \sigma \) -алгебра, породжена топологією. Якщо\( E \) є підрахунковим, ми майже завжди приймаємо,\( \mathscr E \) щоб бути колекція всіх підмножин\( E \), і в цьому випадку\( (E, \mathscr E) \) дискретний простір. Інший поширений випадок, коли\( E \) є незліченною вимірною підмножиною\( \R^n \) для деяких\( n \in \N \), в цьому випадку\( \mathscr E \) є колекція вимірюваних підмножин\( E \). Якщо для деяких\( (E_1, \mathscr E_1), \, (E_2, \mathscr E_2), \ldots, (E_n, \mathscr E_n) \) є вимірні пробіли\( n \in \N_+ \), то декартовому добутку\( E_1 \times E_2 \times \cdots \times E_n \) задано добуток\( \sigma \) -алгебри\( \mathscr E_1 \otimes \mathscr E_2 \otimes \cdots \otimes \mathscr E_n \). В якості окремого випадку декартовій потужності\( E^n \) надається відповідна влада\( \sigma \) -алгебра\( \mathscr E^n \).

З цими попередніми зауваженнями, припустимо, що\( (\Omega, \mathscr F, \P) \) це простір ймовірності, так що\( \Omega \) це сукупність результатів,\( \mathscr F \)\( \sigma \) -алгебра подій, і\( \P \) є мірою ймовірності на просторі вибірки\( (\Omega, \mathscr F) \). Припустимо також, що\( (S, \mathscr S) \) і\( (T, \mathscr T) \) є вимірними пробілами. Ось наше основне визначення:

Випадковий процес або стохастичний процес\( (\Omega, \mathscr F, \P) \) з простором стану\( (S, \mathscr S) \) та набором індексів\( T \) - це сукупність випадкових величин,\( \bs X = \{X_t: t \in T\} \) таких, що\( X_t \) приймає значення\( S \) для кожного\( t \in T \).

Іноді нотаріально зручно писати\( X(t) \) замість\( X_t \) for\( t \in T \). Часто\( T = \N \) або\( T = [0, \infty) \) і елементи\( T \) інтерпретуються як точки часу (дискретний час в першому випадку і безперервний час у другому). Отже\( X_t \in S \), тоді стан випадкового процесу в часі\( t \in T \), і індекс простір\( (T, \mathscr T) \) стає часовим простором.

Оскільки\( X_t \) це сама функція з\( \Omega \) в\( S \), то випливає, що в кінцевому рахунку, стохастичний процес є функцією від\( \Omega \times T \) в\( S \). Заявлений інший спосіб,\( t \mapsto X_t \) є випадковою функцією на ймовірнісному просторі\( (\Omega, \mathscr F, \P) \). Щоб зробити це точним, нагадайте, що\( S^T \) це позначення, яке іноді використовується для збору функцій з\( T \) в\( S \). Нагадаємо також, що природна\( \sigma \) -алгебра, що використовується для,\( S^T \) - це та, яка породжена множинами виду\[ \left\{f \in S^T: f(t) \in A_t \text{ for all } t \in T\right\}, \text{ where } A_t \in \mathscr S \text{ for every } t \in T \text{ and } A_t = S \text{ for all but finitely many } t \in T \] Це\( \sigma \) -алгебра, що позначається\( \mathscr S^T \), узагальнює звичайну владу\( \sigma \) -алгебру,\( \mathscr S^n \) згадану у вступному параграфі, і буде важливою в обговоренні існування нижче.

Припустимо, що\( \bs X = \{X_t: t \in T\} \) це стохастичний процес на просторі ймовірностей\( (\Omega, \mathscr F, \P) \) з простором стану\( (S, \mathscr S) \) та набором індексів\( T \). Тоді відображення, яке бере\( \omega \) в функцію,\( t \mapsto X_t(\omega) \) вимірюється щодо\( (\Omega, \mathscr F) \) і\( (S^T, \mathscr S^T) \).

Доказ

Нагадаємо, що відображення зі значеннями в можна\( S^T \) виміряти тоді і лише тоді, коли кожна з його координатних функцій є вимірною. У нинішньому контексті це означає, що ми повинні показати, що функція\( X_t \) вимірюється відносно кожного\( (\Omega, \mathscr F) \) і\( (S, \mathscr S) \) для кожного\( t \in T \). Але звичайно, це випливає з самого значення терміна випадкова величина.

Для\( \omega \in \Omega \), функція\( t \mapsto X_t(\omega) \) відома як зразок шляху процесу. Отже\( S^T \), набір функцій з\( T \) в\( S \), може розглядатися як набір результатів стохастичного процесу\( \bs X \), до якого ми повернемося в нашому обговоренні існування нижче.

Як зазначається в доведенні останньої теореми,\( X_t \) є вимірною функцією from\( \Omega \)\( S \) into для кожного\( t \in T \), за самим значенням терміна випадкова величина. Але це не випливає взагалі, що\( (\omega, t) \mapsto X_t(\omega) \) вимірюється як функція від\( \Omega \times T \) в\( S \). Насправді,\( \sigma \) -алгебра на не\( T \) зіграла жодної ролі в нашій дискусії досі. Неофіційно, твердження про\( X_t \) для фіксованого\( t \in T \) або навіть твердження про\( X_t \) для незліченно багато\( t \in T \) визначає подію. Але з цього не випливає, що твердження про\( X_t \) для незліченно багатьох\( t \in T \) визначає подію. Ми часто хочемо робити такі заяви, тому наступне визначення неминуче:

Стохастичний процес,\( \bs X = \{X_t: t \in T\} \) визначений на просторі ймовірностей\( (\Omega, \mathscr F, \P) \) та з індексним простором\( (T, \mathscr T) \) та простором стану,\( (S, \mathscr S) \) є вимірним, якщо\( (\omega, t) \mapsto X_t(\omega) \) є вимірюваною функцією від\( \Omega \times T \) в\( S \).

Кожен стохастичний процес, індексований лічильним набором,\( T \) є вимірним, тому визначення важливо лише тоді, коли\( T \) є незліченним, і зокрема для\( T = [0, \infty) \).

Еквівалентні процеси

Наша наступна мета - вивчити різні способи, що два стохастичні процеси, з однаковими просторами стану та індексу, можуть бути еквівалентними. Будемо вважати, що діагональ\( D = \{(x, x): x \in S\} \in \mathscr S^2 \), припущення, яке майже завжди тримається в додатках, і зокрема для дискретних і евклідових просторів, які є найбільш важливими для нас. Достатніми умовами є те, що\( \mathscr S \) мають\( \sigma \) під-алгебру, яка зліченно генерується і містить всі однотонні множини, властивості, які утримуються для\( \sigma \) алгебри Бореля, коли топологія на\( S \) локально компактна, Хаусдорфа, і має підрахункову базу.

По-перше, ми часто відчуваємо, що ми\( \bs X = \{X_t: t \in T\} \) добре розуміємо випадковий процес, якщо знаємо кінцеві розмірні розподіли, тобто якщо ми знаємо розподіл\( \left(X_{t_1}, X_{t_2}, \ldots, X_{t_n}\right) \) для кожного вибору\( n \in \N_+ \) і\( (t_1, t_2, \ldots, t_n) \in T^n \). Таким чином, ми можемо обчислити\( \P\left[\left(X_{t_1}, X_{t_2}, \ldots, X_{t_n}\right) \in A\right] \) для кожного\( n \in \N_+ \)\( (t_1, t_2, \ldots, t_n) \in T^n \), і\( A \in \mathscr S^n \). Використовуючи різні правила ймовірності, ми можемо обчислити ймовірності багатьох подій, що включають нескінченно багато значень параметра\( t \) індексу. Маючи на увазі цю ідею, ми маємо наступне визначення:

Випадкові процеси\( \bs X = \{X_t: t \in T\} \) та\( \bs{Y} = \{Y_t: t \in T\} \) з простором стану\( (S, \mathscr S) \) та набором індексів\( T \) еквівалентні за розподілом, якщо вони мають однакові скінченно-розмірні розподіли. Це визначає співвідношення еквівалентності на колекції стохастичних процесів з цим простором стану та набором індексів. Тобто, якщо\( \bs X \)\( \bs Y \), і\( \bs Z \) є такими процесами то

1. \( \bs X \)еквівалентний за розподілом\( \bs X \) (рефлексивне властивість)
2. Якщо\( \bs X \) еквівалентний у розподілі,\( \bs{Y} \) то\( \bs{Y} \) еквівалентний у розподілі до\( \bs X \) (симетрична властивість)
3. Якщо\( \bs X \) еквівалентний у розподілі\( \bs{Y} \) та\( \bs{Y} \) еквівалентний у розподілі,\( \bs{Z} \) то\( \bs X \) еквівалентний у розподілі до\( \bs{Z} \) (перехідне властивість)

Зауважимо, що оскільки тільки скінченновимірні розподіли процесів\( \bs X \) і\( \bs Y \) беруть участь у визначенні, процеси не потрібно визначати на одному і тому ж ймовірнісному просторі. Таким чином, еквівалентність у розподілі розділяє колекцію всіх випадкових процесів із заданим простором стану та індексом, встановленим на взаємно неспільні класи еквівалентності. Але, звичайно, ми вже знаємо, що дві випадкові величини можуть мати однаковий розподіл, але сильно відрізнятися як змінні (функції на просторі вибірки). Зрозуміло, що це ж твердження відноситься і до випадкових процесів.

Припустимо, що\( \bs X = (X_1, X_2, \ldots) \) це послідовність випробувань Бернуллі з параметром успіху\( p = \frac{1}{2} \). Нехай\( Y_n = 1 - X_n \) для\( n \in \N_+ \). Тоді\( \bs{Y} = (Y_1, Y_2, \ldots) \) еквівалентний у розподілі,\( \bs X \) але\[ \P(X_n \ne Y_n \text{ for every } n \in \N_+) = 1 \]

Доказ

За змістом випробувань Бернуллі,\( \bs X \) являє собою послідовність незалежних індикаторів випадкових величин з\( \P(X_n = 1) = \frac{1}{2} \) для кожного\( n \in \N_+ \). Звідси випливає, що також\( \bs{Y} \) є послідовністю випробувань Бернуллі з параметром успіху\( \frac{1}{2} \), так\( \bs X \) і\( \bs{Y} \) еквівалентні за розподілом. Також, звичайно, державний набір є\( \{0, 1\} \) і\( Y_n = 1 \) якщо і тільки якщо\( X_n = 0 \).

Мотивований цим прикладом, давайте розглянемо інший, більш сильний спосіб того, що випадкові процеси можуть бути еквівалентними. Спочатку нагадаємо, що випадкові величини\( X \) і\( Y \) on\( (\Omega, \mathscr F, \P) \), зі значеннями в\( S \), еквівалентні if\( \P(X = Y) = 1 \).

Припустимо, що\( \bs X = \{X_t: t \in T\} \) і\( \bs{Y} = \{Y_t: t \in T\} \) є стохастичними процесами, визначеними на одному просторі ймовірностей\( (\Omega, \mathscr F, \P) \) і як з простором стану, так\( (S, \mathscr S) \) і з набором індексів\( T \). Тоді\( \bs{Y} \) є версіями\( \bs X \) if\( Y_t \) еквівалентно\( X_t \) (так що\( \P(X_t = Y_t) = 1 \)) для кожного\( t \in T \). Це визначає співвідношення еквівалентності на сукупності стохастичних процесів на одному просторі ймовірностей та з однаковим простором стану та набором індексів. Тобто, якщо\( \bs X \)\( \bs Y \), і\( \bs Z \) є такими процесами то

1. \( \bs X \)є версією\( \bs X \) (рефлексивним властивістю)
2. Якщо\( \bs X \) є версією\( \bs{Y} \) then\( \bs{Y} \) is ia version of\( \bs X \) (симетрична властивість)
3. Якщо\( \bs X \) є версією\( \bs{Y} \) і\( \bs{Y} \) є,\( \bs{Z} \) то\( \bs X \) є версією\( \bs{Z} \) (перехідною властивістю)

Доказ

Зверніть увагу, що\( (X_t, Y_t) \) це випадкова величина зі значеннями в\( S^2 \) (і тому функція\( \omega \mapsto (X_t(\omega), Y_t(\omega)) \) вимірюється). Подія\( \{X_t = Y_t\} \) - це зворотне зображення діагоналі\( D \in \mathscr S^2 \) під цим відображенням, і тому визначення має сенс.

Таким чином, версія відношення розділяє колекцію стохастичних процесів на заданому просторі ймовірностей та із заданим простором стану та індексом на взаємно незв'язані класи еквівалентності.

Припустимо ще раз, що\( \bs X = \{X_t: t \in T\} \) і\( \bs{Y} = \{Y_t: t \in T\} \) є випадковими процесами на\( (\Omega, \mathscr F, \P) \) з простором стану\( (S, \mathscr S) \) та індексом\( T \). Якщо\( \bs{Y} \) є версією\( \bs X \) then\( \bs{Y} \) і\( \bs X \) є еквівалентними в дистрибутиві.

Доказ

Припустимо, що\( (t_1, t_2, \ldots, t_n) \in T^n \) і те\( A \in \mathscr S^n \). Нагадаємо, що перетин скінченної (або навіть незліченно нескінченної) колекції подій з ймовірністю 1 все ще має ймовірність 1. Звідси\ почати {вирівняти}\ P\ ліворуч [\ ліворуч (X_ {t_1}, X_ {t_2},\ ldots, X_ {t_n}\ праворуч)\ в A\ праворуч] & =\ P\ ліворуч [\ ліворуч (X_ {t_1}, X_ {t_2},\ ldots, X_ {t_n}\ праворуч)\ в A,\, X_ {t_1} = Y_ {t_1}, X_ {t_2} = Y_ {t_2},\ ldots, X_ {t_n} = Y_ {t_n}\ справа]\\ & =\ P\ ліворуч [\ ліво (Y_ {t_1}, Y_ {t_2},\ ldots, Y_ {t_2}, Y_ {t_2},\ ldots, Y_ {t_n}\ праворуч)\ в A,\, X_ {t_ 1} = Y_ {t_1}, X_ {t_2} = Y_ {t_2},\ ldots, X_ {t_n} = Y_ {t_n}\ справа] =\ P\ ліворуч [\ ліворуч (Y_ {t_1}, Y_ {t_2},\ ldots, Y_ {t_n}\ праворуч)\ в A\ праворуч]\ end {вирівняти}

Як зазначалося в доказі, лічильне перетин подій з ймовірністю 1 все ще має ймовірність 1. Отже, якщо\( T \) є підрахунковим, а випадкові процеси\( \bs X \) є версією\( \bs{Y} \) тоді\[ \P(X_t = Y_t \text{ for all } t \in T) = 1 \] так\( \bs X \) і\( \bs{Y} \) насправді є по суті той самий випадковий процес. Але коли\( T \) є незліченним, результат у відображуваному рівнянні може бути неправдою,\( \bs X \) і\( \bs{Y} \) може сильно відрізнятися як випадкові функції на\( T \). Ось простий приклад:

Припустимо\( \Omega = T = [0, \infty) \), що,\( \mathscr F = \mathscr T \) є\( \sigma \) -алгебра Бореля вимірюваних підмножин\( [0, \infty) \), і\( \P \) є будь-яка безперервна міра ймовірності на\( (\Omega, \mathscr F) \). Нехай\( S = \{0, 1\} \) (з усіма підмножинами вимірних, звичайно). Для\( t \in T \) і\( \omega \in \Omega \), визначити\( X_t(\omega) = \bs{1}_t(\omega) \) і\( Y_t(\omega) = 0 \). Тоді\( \bs X = \{X_t: t \in T\} \) є версія\( \bs{Y} = \{Y_t: t \in T\} \), але\( \P(X_t = Y_t \text{ for all } t \in T\} = 0 \).

Доказ

Для\( t \in [0, \infty) \),\( \P(X_t \ne Y_t) = \P\{t\} = 0 \) так як\( P \) є суцільним заходом. Але\( \{\omega \in \Omega: X_t(\omega) = Y_t(\omega) \text{ for all } t \in T\} = \emptyset \).

Мотивований цим прикладом, ми маємо найсильнішу форму еквівалентності:

Припустимо, що\( \bs X = \{X_t: t \in T\} \) і\( \bs{Y} = \{Y_t: t \in T\} \) є вимірними випадковими процесами на ймовірнісному просторі\( (\Omega, \mathscr F, \P) \) та з простором стану\( (S, \mathscr S) \) та індексним простором\( (T, \mathscr T) \). Тоді\( \bs X \) не відрізняється від\( \bs{Y} \) if\( \P(X_t = Y_t \text{ for all } t \in T) = 1 \). Це визначає співвідношення еквівалентності на сукупності вимірюваних стохастичних процесів, визначених на одному просторі ймовірностей та з однаковими просторами стану та індексу. Тобто, якщо\( \bs X \)\( \bs Y \), і\( \bs Z \) є такими процесами то

1. \( \bs X \)не відрізняється від\( \bs X \) (рефлексивне властивість)
2. Якщо\( \bs X \) не відрізняється від\( \bs{Y} \) то\( \bs{Y} \) не відрізняється від\( \bs X \) (симетрична властивість)
3. Якщо\( \bs X \) не відрізняється від\( \bs{Y} \) і\( \bs{Y} \) не відрізняється від\( \bs{Z} \) то\( \bs X \) не відрізняється від\( \bs{Z} \) (перехідне властивість)

Подробиці

Вимога вимірюваності стохастичних процесів необхідна для того, щоб переконатися, що\( \{X_t = Y_t \text{ for all } t \in T\} \) це дійсна подія. Щоб побачити це, зверніть увагу, що\( (\omega, t) \mapsto (X_t(\omega), Y_t(\omega)) \) вимірюється, як функція від\( \Omega \times T \) в\( S^2 \). Як і раніше, нехай\( D = \{(x, x): x \in S\} \) позначимо діагональ. Тоді\( D^c \in \mathscr S^2 \) і зворотне зображення\( D^c \) під нашим відображенням є\[\{(\omega, t) \in \Omega \times T: X_t(\omega) \ne Y_t(\omega)\} \in \mathscr F \otimes \mathscr T\] Проекція цього набору на\( \Omega \)\[ \{\omega \in \Omega: X_t(\omega) \ne Y_t(\omega) \text{ for some } t \in T\} \in \mathscr F \] оскільки проекція вимірюваного набору в просторі продукту також вимірюється. Звідси взаємодоповнююча подія\[ \{\omega \in \Omega: X_t(\omega) = Y_t(\omega) \text{ for all } t \in T\} \in \mathscr F \]

Таким чином, невідмінне від відношення розділяє колекцію вимірюваних стохастичних процесів на заданому просторі ймовірностей та із заданим простором стану та індексним простором на взаємно незв'язані класи еквівалентності. Тривіально, якщо\( \bs X \) не відрізняється від\( \bs{Y} \), то\( \bs X \) є версією\( \bs{Y} \). Як зазначалося вище, коли\( T \) підраховується, зворотне також вірно, але не, як показує наш попередній приклад, коли\( T \) є незліченним. Таким чином, підсумовуючи, не відрізняється від означає, що версія передбачає еквівалент у розподілі, але жоден з зворотних наслідків не має в цілому.

Будівництво Колмогорова

У додатках стохастичний процес часто моделюється шляхом надання різних розподільних властивостей, які повинен задовольнити процес. Отже, основна проблема існування полягає в побудові процесу, який має ці властивості. Більш конкретно, як ми можемо побудувати випадкові процеси із заданими скінченними розмірними розподілами? Почнемо з найпростішого випадку, який ми бачили кілька разів раніше, і нарощуємо звідти. Наш найпростіший випадок полягає в побудові однієї випадкової величини з заданим розподілом.

Припустимо, що\( (S, \mathscr S, P) \) це простір ймовірності. Тоді існує випадкова величина\( X \) на просторі ймовірностей\( (\Omega, \mathscr F, \P) \) така, яка\( X \) приймає значення в\( S \) і має розподіл\( P \).

Доказ

Доказ є абсолютно тривіальним. Дозвольте\( (\Omega, \mathscr F, \P) = (S, \mathscr S, P) \) і визначити\( X: \Omega \to S \) по\( X(\omega) = \omega \), так що\( X \) це функція ідентичності. Потім\( \{X \in A\} = A \) і так\( \P(X \in A) = P(A) \) для\( A \in \mathscr S \).

Незважаючи на свою тривіальність, останній результат містить насіння всього іншого, що ми будемо робити в цій дискусії. Далі подивимося, як побудувати послідовність незалежних випадкових величин із заданими розподілами.

Припустимо, що\( P_i \) це міра ймовірності на вимірюваному просторі\( (S, \mathscr S) \) для\( i \in \N_+ \). Тоді існує незалежна послідовність випадкових величин\( (X_1, X_2, \ldots) \) на просторі ймовірностей\( (\Omega, \mathscr F, \P) \), яка\( X_i \) приймає значення в\(S\) і має розподіл\( P_i \) для\( i \in \N_+ \).

Доказ

Нехай\( \Omega = S^\infty = S \times S \times \cdots \). Далі давайте\( \mathscr F = \mathscr S^\infty \), відповідний твір\( \sigma \) -алгебра. Нагадаємо, що це\( \sigma \) -алгебра, породжена множинами форми\[ A_1 \times A_2 \times \cdots \text{ where } A_i \in \mathscr S \text{ for each } i \in I \text{ and } A_i = S \text{ for all but finitely many } i \in I \] Нарешті, нехай\( \P = P_1 \otimes P_2 \otimes \cdots \), відповідний продукт вимірюється далі\( (\Omega, \mathscr F) \). Нагадаємо, що це унікальна міра ймовірності, яка\( A_1 \times A_2 \times \cdots \) задовольняє,\[ \P(A_1 \times A_2 \times \cdots) = P_1(A_1) P_2(A_2) \cdots \] де знаходиться набір типу в першому відображеному рівнянні. Тепер визначити\( X_i \)\( \Omega \) по\( X_i(\omega_1, \omega_2, \ldots) = \omega_i\), для\( i \in \N_+ \), так що\( X_i \) це просто координатна функція для індексу\( i \). Якщо\( A_1 \times A_2 \times \cdots \) це набір типу в першому відображається рівняння потім\[ \{X_1 \in A_1, X_2 \in A_2, \ldots\} = A_1 \times A_2 \times \cdots \] і так за визначенням продукту міри, Випливає, що\[ \P(X_1 \in A_1, X_2 \in A_2, \cdots) = P_1(A_1) P_2(A_2) \cdots \]\( (X_1, X_2, \ldots) \) це послідовність незалежних змінних і що\( X_i \) має розподіл\( P_i \) для\( i \in \N \).

Якщо ви подивилися на доказ останніх двох результатів, ви можете помітити, що останній результат можна розглядати як особливий випадок раніше, оскільки\( \bs X = (X_1, X_2, \ldots) \) це просто функція ідентичності\( \Omega = S^\infty \). Важливим кроком є існування продукту міра\( \P \) на\( (\Omega, \mathscr F) \).

Повне узагальнення цих результатів відоме як теорема про існування Колмогорова (названа на честь Андрія Колмогорова). Починаємо з простору стану\( (S, \mathscr S) \) і набору індексу\( T \). Теорема стверджує, що якщо задати скінченно-розмірні розподіли послідовним чином, то існує стохастичний процес, визначений на відповідному ймовірнісному просторі, який має задані скінченно-розмірні розподіли. Стан узгодженості трохи незграбний, щоб заявити в повній загальності, але основну ідею дуже легко зрозуміти. Припустимо, що\( s \) і\( t \) є різними елементами в\( T \) і що ми вказуємо розподіл (міра\( P_s \) ймовірності)\( P_t \) з\( X_s \)\( X_t \),\( P_{s,t} \) of\( (X_s, X_t) \), of, і\( P_{t,s} \) з\( (X_t, X_s) \). Тоді чітко ми повинні вказати їх так, що\[ P_s(A) = P_{s,t}(A \times S), \quad P_t(B) = P_{s,t}(S \times B) \] Для всіх\( A, \, B \in \mathscr S \). Зрозуміло, що ми також повинні мати\( P_{s,t}(C) = P_{t,s}(C^\prime) \) для всіх вимірюваних\( C \in \mathscr S^2 \), де\( C^\prime = \{(y, x): (x, y) \in C\} \).

Щоб викладати умови узгодженості загалом, нам потрібні деякі позначення. Для\( n \in \N_+ \), давайте\( T^{(n)} \subset T^n\) позначимо множину\( n \) -кортежів різних елементів\( T \), і нехай\( \bs{T} = \bigcup_{n=1}^\infty T^{(n)} \) позначимо множину всіх скінченних послідовностей різних елементів\( T \). Якщо\( n \in \N_+ \),\( \bs t = (t_1, t_2, \ldots, t_n) \in T^{(n)} \) і\( \pi \) є перестановкою\( \{1, 2, \ldots, n\} \), нехай\( \bs t \pi \) позначимо елемент\( T^{(n)} \) з координатами\( (\bs t \pi)_i = t_{\pi(i)} \). Тобто ми перемикаємо координати\( \bs t \) відповідно до\( \pi \). Якщо\( C \in \mathscr S^n \), нехай\[ \pi C = \left\{(x_1, x_2, \ldots, x_n) \in S^n: \left(x_{\pi(1)}, x_{\pi(2)}, \ldots, x_{\pi(n)}\right) \in C\right\} \in \mathscr S^n \] нарешті, якщо\( n \gt 1 \), нехай\( \bs t_- \) позначимо вектор\( (t_1, t_2, \ldots, t_{n-1}) \in T^{(n-1)} \)

Тепер припустимо, що\( P_\bs t \) це показник ймовірності на\( (S^n, \mathscr S^n) \) для кожного\( n \in \N_+ \) і\( \bs t \in T^{(n)} \). Ідея, звичайно, полягає в тому, що ми хочемо,\( \mathscr P = \{P_\bs t: \bs t \in \bs{T}\} \) щоб колекція була скінченними розмірними розподілами випадкового процесу з набором індексів\( T \) та простором стану\( (S, \mathscr S) \). Ось критичне визначення:

Збір розподілів ймовірностей\( \mathscr P \) відносно\( T \) і\( (S, \mathscr S) \) є послідовним, якщо

1. \( P_{\bs t \pi}(C) = P_\bs t(\pi C) \)для кожного\( n \in \N_+ \)\( \bs t \in T^{(n)} \),, перестановка\( \pi \)\( \{1, 2, \ldots, n\} \), і вимірна\( C \subseteq S^n \).
2. \( P_{\bs t_-}(C) = P_\bs t(C \times S) \)для кожного\( n > 1 \)\( \bs t \in T^{(n)} \), і вимірюваний\( C \subseteq S^{n-1} \)

При правильному визначенні консистенції можна констатувати фундаментальну теорему.

Теорема про існування Колмогорова. Якщо\( \mathscr P \) є послідовною сукупністю розподілів ймовірностей щодо множини індексу\( T \) та простору стану\( (S, \mathscr S) \), то\( \bs X = \{X_t: t \in T\} \) на цьому просторі ймовірностей існує простір ймовірностей\( (\Omega, \mathscr F, \P) \) та стохастичний процес,\( \mathscr P \) такий як сукупність скінченних розмірний розподіл\( \bs X \).

Доказ ескізу

Нехай\( \Omega = S^T \), набір функцій від\( T \) до\( S \). Такі функції є наслідками стохастичного процесу. Нехай\( \mathscr F = \mathscr S^T \), твір\( \sigma \) -алгебра, породжена множинами форми\[ B = \{\omega \in \Omega: \omega(t) \in A_t \text{ for all } t \in T\} \] де\( A_t \in \mathscr S \) для всіх\( t \in T \) і\( A_t = S \) для всіх, але скінченно багато\( t \in T \). Ми знаємо, як наша бажана міра ймовірності\( \P \) повинна працювати над множинами, які генерують\( \mathscr F \). Зокрема, припустимо, що\( B \) це набір типу у відображуваному рівнянні, і\( A_t = S \) за винятком\( \bs t = (t_1, t_2, \ldots, t_n) \in T^{(n)} \). Тоді ми хочемо\[ \P(B) = P_\bs t(A_{t_1} \times A_{t_2} \times \cdots \times A_{t_n}) \] Основні теореми існування та єдиності в теорії мір, про яку ми говорили раніше, і послідовність\( \mathscr P \), гарантія, що\( \P \) може бути розширена до міри ймовірності на всіх\( \mathscr F \). Нарешті, для\( t \in T \) ми\( X_t: \Omega \to S \) визначаємо\( X_t(\omega) = \omega(t) \) за\( \omega \in \Omega \), так що\( X_t \) це просто координатна функція індексу\( t \). Таким чином, ми маємо стохастичний процес\( \bs X = \{X_t: t \in T\} \) з простором станів\( (S, \mathscr S) \), визначеним на просторі ймовірностей\( (\Omega, \mathscr F, \P) \)\( \mathscr P \), з сукупністю скінченних розмірних розподілів.

Зауважимо, що крім більш складних позначень, конструкція дуже схожа на конструкцію для послідовності незалежних змінних. Знову ж\( \bs X \) таки, по суті функція ідентичності на\( \Omega = S^T \). Важливою і більш складною частиною є побудова міри ймовірності\( \P \) на\( (\Omega, \mathscr F) \).

Додатки

Наша остання дискусія - це короткий виклад стохастичних процесів, які вивчаються в цьому тексті. Всі вони є класикою і надзвичайно важливі в додатках.

Випадкові процеси пов'язані з випробуваннями Бернуллі включають

1. сама послідовність випробувань Бернуллі
2. послідовність біноміальних змінних
3. послідовність геометричних змінних
4. послідовність від'ємних біноміальних змінних
5. проста випадкова прогулянка

Будівництво

Послідовність випробувань Бернуллі в (a) є послідовністю незалежних, однаково розподілених індикаторних випадкових величин, і тому може бути побудована як в (). Випадкові процеси в (b) — (e) побудовані з послідовності випробувань Бернуллі.

Випадкові процеси, пов'язані з моделлю Пуассона, включають

1. послідовність часу міжприбуття
2. послідовність часу прибуття
3. процес підрахунку на\( [0, \infty) \), як в однорідних, так і в неоднорідних випадках.
4. З'єднаний процес Пуассона.
5. процес підрахунку на загальному вимірі простору

Конструкції

Випадковий процес in (a) являє собою послідовність незалежної випадкової величини із загальним експоненціальним розподілом, і тому може бути побудована як in (). Процеси в (b) і (c) можуть бути побудовані з послідовності в (a).

Випадкові процеси, пов'язані з теорією оновлення, включають

1. послідовність часу міжприбуття
2. послідовність часу прибуття
3. процес підрахунку на\( [0, \infty) \)

Марковські ланцюги утворюють дуже важливе сімейство випадкових процесів, як і броунівський рух, і пов'язані з ними процеси. Ми вивчимо їх у наступних розділах.