4.2: Спектральна щільність і періодограма

Last updated
Save as PDF

Page ID: 97228

$ \newcommand{\vecs}[1]{\overset { \scriptstyle \rightharpoonup} {\mathbf{#1}} } $ $ \newcommand{\vecd}[1]{\overset{-\!-\!\rightharpoonup}{\vphantom{a}\smash {#1}}} $$\newcommand{\id}{\mathrm{id}}$ $ \newcommand{\Span}{\mathrm{span}}$ $ \newcommand{\kernel}{\mathrm{null}\,}$ $ \newcommand{\range}{\mathrm{range}\,}$ $ \newcommand{\RealPart}{\mathrm{Re}}$ $ \newcommand{\ImaginaryPart}{\mathrm{Im}}$ $ \newcommand{\Argument}{\mathrm{Arg}}$ $ \newcommand{\norm}[1]{\| #1 \|}$ $ \newcommand{\inner}[2]{\langle #1, #2 \rangle}$ $ \newcommand{\Span}{\mathrm{span}}$ $\newcommand{\id}{\mathrm{id}}$ $ \newcommand{\Span}{\mathrm{span}}$ $ \newcommand{\kernel}{\mathrm{null}\,}$ $ \newcommand{\range}{\mathrm{range}\,}$ $ \newcommand{\RealPart}{\mathrm{Re}}$ $ \newcommand{\ImaginaryPart}{\mathrm{Im}}$ $ \newcommand{\Argument}{\mathrm{Arg}}$ $ \newcommand{\norm}[1]{\| #1 \|}$ $ \newcommand{\inner}[2]{\langle #1, #2 \rangle}$ $ \newcommand{\Span}{\mathrm{span}}$

Фундаментальний технічний результат, який лежить в основі спектрального аналізу, свідчить, що будь-який (слабо) стаціонарний часовий ряд можна розглядати (приблизно) як випадкове накладання синусоїдних і косинусних функцій, що змінюються на різних частотах. Іншими словами, регресія в (4.1.1) приблизно вірна для всіх слабо стаціонарних часових рядів. У розділах 1-3 показано, як характеристики стаціонарного стохастичного процесу можуть бути описані з точки зору його ACVF$\gamma(h)$. Перша мета в цьому розділі - ввести кількість, відповідну$\gamma(h)$ в частотній області.

Визначення 4.2.1 (Спектральна щільність)

Якщо ACVF$\gamma(h)$ стаціонарного часового ряду (X _t) _{t\ in\ mathbb {Z}\ nonumber\]} задовольняє умові

\[\sum_{h=-\infty}^\infty|\gamma(h)|<\infty, \nonumber \]

то існує функція f визначена на (-1/2,1/2] така, що

\[ \gamma(h)=\int_{-1/2}^{1/2}\exp(2\pi i\omega h)f(\omega)d\omega,\qquad h\in\mathbb{Z}, \nonumber \]

\[ f(\omega)=\sum_{h=-\infty}^\infty\gamma(h)\exp(-2\pi i\omega h),\qquad\omega\in(-1/2,1/2]. \nonumber \]

Функція f називається спектральною щільністю процесу$X_t\colon t\in\mathbb{Z})$.

Визначення 4.2.1 (яке також містить частину теореми) встановлює, що кожен слабо стаціонарний процес може бути еквівалентно описаний з точки зору його ACVF або його спектральної щільності. Він також надає формули для обчислення однієї з іншої. Отже, аналіз часових рядів може виконуватися як у часовій області (використовуючи$\gamma(h)$), так і в частотній області (за допомогою f$(\omega))$. Який підхід є більш підходящим, не може бути вирішено загальним чином, але його потрібно переоцінювати для кожної програми, що цікавить.

Нижче зібрано і оцінено кілька основних властивостей спектральної щільності для кількох важливих прикладів. Те, що спектральна щільність є аналогом функції щільності ймовірності, встановлено в наступній пропозиції.

Пропозиція 4.2.1

Якщо f ($\omega$) - спектральна щільність слабо стаціонарного процесу$(X_t\colon t\in\mathbb{Z})$, то дотримуються такі твердження:

f ($\geq$0$\omega$) для всіх$\omega$. Це випливає з позитивної визначеності$\gamma(h)$
f ($\omega$) = f (-$\omega$) і f ($\omega+1$) =f ($\omega$)
Дисперсія ($X_t\colon t\in\mathbb{Z})$задається

\[ \gamma(0)=\int_{-1/2}^{1/2}f(\omega)d\omega. \nonumber \]

Частина (c) пропозиції стверджує, що дисперсія слабо стаціонарного процесу дорівнює інтегрованої спектральної щільності по всіх частотах. Ця властивість переглядається нижче, коли буде розглянуто спектральний аналіз дисперсії (спектральний ANOVA). У наступних трьох прикладах представлені.

Приклад 4.2.1 (Білий шум)

Якщо$(Z_t\colon t\in\mathbb{Z})\sim\mbox{WN}(0,\sigma^2)$, то його ACVF є ненульовим тільки для h=0, в цьому випадку$\gamma_Z(h)=\sigma^2$. Підключення цього результату до визначального рівняння в Definition4.2.1 дає це

\[ f_Z(\omega)=\gamma_Z(0)\exp(-2\pi i\omega 0)=\sigma^2. \nonumber \]

Тому спектральна щільність послідовності білого шуму є постійною для всіх$\omega\in(-1/2,1/2]$, а це означає, що кожна частота однаково$\omega$ сприяє загальному спектру. Цим пояснюється термін «білий» шум (за аналогією з «білим» світлом).

Приклад 4.2.2 (ковзне середнє)

Дозвольте$(Z_t\colon t\in\mathbb{Z})\sim\mbox{WN}(0,\sigma^2)$ і визначте часовий ряд$(X_t\colon t\in\mathbb{Z})$ по

\[ X_t=\tfrac 12\left(Z_t+Z_{t-1}\right),\qquad t\in\mathbb{Z}. \nonumber \]

Можна показати, що

\[ \gamma_X(h)=\frac{\sigma^2}4\left(2-|h|\right),\qquad h=0,\pm 1 \nonumber \]

Малюнок 4.3: Графік часових рядів білого шуму$(Z_t\colon t\in\mathbb{Z})$ (зліва), двоточкового ковзного середнього$(X_t\colon t\in\mathbb{Z})$ (посередині) і спектральної щільності$(X_t\colon t\in\mathbb{Z})$ (праворуч).

і що$\gamma$ _X = 0 інакше. Тому

\[ f_X(\omega)=\sum_{h=-1}^1\gamma_X(h)\exp(2\pi i \omega h) \nonumber \]

\[ = \frac{\sigma^2}4 (\exp(-2\pi i \omega (-1)))+2\exp(-2\pi i \omega 0)+\exp(-2\pi i \omega 1) \nonumber \]

\[ = \frac{\sigma^2}2 (1+\cos(2\pi\omega)) \nonumber \]

використовуючи це$\exp(ix)=\cos(x)+i\sin(x)$,$\cos(x)=\cos(-x)$ і$\sin(x)=-\sin(-x)$. З двох графіків часових рядів на малюнку 4.3 видно, що застосування двоточкової ковзної середньої до послідовності білого шуму згладжує шлях вибірки. Це пов'язано з ослабленням вищих частот, яке видно у вигляді спектральної щільності на правій панелі малюнка 4.3. Всі сюжети були отримані за допомогою гаусового білого шуму с$\sigma^2=1$.

Приклад 4.2.3 (AR (2) Процес).

$(X_t\colon t\in\mathbb{Z})$Дозволяти бути AR (2) процес, який може бути записаний у формі

\[Z_t=X_t-\phi_1X_{t-1}-\phi_2X_{t-2},\qquad t\in\mathbb{Z} \nonumber \]

У цьому поданні видно, що ACVF$\gamma_Z$ послідовності білого шуму можна отримати як

\[\gamma_Z(h) = E [(X_t-\phi_1X_{t-1}-\phi_2X_{t-2}) (X_{t+h}-\phi_1X_{t+h-1}-\phi_2X_{t+h-2})] \nonumber \]

\[=(1+\phi_1^2+\phi_2^2)\gamma_X(h)+(\phi_1\phi_2-\phi_1)[\gamma_X(h+1)+\gamma_X(h-1)] \nonumber \]

\[ \qquad - \phi_2[\gamma_X(h+2)+\gamma_X(h-2)] \nonumber \]

Тепер відомо з визначення 4.2.1, що

\[ \gamma_X(h)=\int_{-1/2}^{1/2}\exp(2\pi i\omega h)f_X(\omega)d\omega \nonumber \]

\[ \gamma_Z(h)=\int_{-1/2}^{1/2}\exp(2\pi i\omega h)f_Z(\omega)d\omega, \nonumber \]

Малюнок 4.4: Графік часових рядів та спектральна щільність процесу AR (2) у прикладі 4.2.3.

де$f_X(\omega)$ і$f_Z(\omega)$ позначають відповідні спектральні щільності. Отже,

\[\gamma_Z(h)=\int_{-1/2}^{1/2}\exp(2\pi i\omega h)f_Z(\omega)d\omega \\[.2cm] \nonumber \]

\[=(1+\phi_1^2+\phi_2^2)\gamma_X(h)+(\phi_1\phi_2-\phi_1)[\gamma_X(h+1)+\gamma_X(h-1)]-\phi_2[\gamma_X(h+2)+\gamma_X(h-2)]\\[.2cm] \nonumber \]

\[=\int_{-1/2}^{1/2}\left[(1+\phi_1^2+\phi_2^2)+(\phi_1\phi_2-\phi_1)(\exp(2\pi i\omega)+\exp(-2\pi i\omega))\right. \\[.2cm] \nonumber \]

\[\qquad\qquad\left. -\phi_2(\exp(4\pi i \omega)+\exp(-4\pi i \omega)) \right]\exp(2\pi i\omega h)f_X(\omega)d\omega \\[.2cm] \nonumber \]

\[=\int_{-1/2}^{1/2}\left[(1+\phi_1^2+\phi_2^2)+2(\phi_1\phi_2-\phi_1)\cos(2\pi\omega)-2\phi_2\cos(4\pi\omega)\right]\exp(2\pi i\omega h)f_X(\omega)d\omega. \nonumber \]

Вищесказане має на увазі разом з$f_Z(\omega)=\sigma^2$ цим

\[ \sigma^2=\left[(1+\phi_1^2+\phi_2^2)+2(\phi_1\phi_2-\phi_1)\cos(2\pi\omega)-2\phi_2\cos(4\pi\omega)\right]f_X(\omega). \nonumber \]

Отже, спектральна щільність процесу AR (2) має вигляд

\[ f_X(\omega)=\sigma^2\left[(1+\phi_1^2+\phi_2^2)+2(\phi_1\phi_2-\phi_1)\cos(2\pi\omega)-2\phi_2\cos(4\pi\omega)\right]^{-1}. \nonumber \]

На малюнку 4.4 відображається графік часових рядів процесу AR (2) з параметрами$\phi_1=1.35$,$\phi_2=-.41$ і$\sigma^2=89.34$. Ці значення дуже схожі на ті, що отримані для серії набору в розділі 3.5. На цьому ж малюнку також показана відповідна спектральна щільність, використовуючи щойно виведену формулу.

Зміст цього розділу дотепер встановлено, що спектральна щільність $f (\ omega) $ є чисельністю населення, що описує вплив різних періодичних компонентів. Далі перевіряється, що періодограма $I (\ omega_j) $, введена в Розділ\ ref {sec:4.1}, є зразковим аналогом спектральної густини.

Пропозиція 4.2.2.

Нехай$\omega_j=j/n$ позначимо частоти Фур'є. Якщо$I(\omega_j)=|d(\omega_j)|^2$ періодограма заснована на спостереженнях$X_1,\ldots,X_n$ за слабо стаціонарним процесом$(X_t\colon t\in\mathbb{Z})$, то

\[ I(\omega_j)=\sum_{h=-n+1}^{n-1}\hat{\gamma}_n(h)\exp(-2\pi i \omega_j h),\qquad j\not=0. \nonumber \]

Якщо$j=0$, то$I(\omega_0)=I(0)=n\bar X_n^2$.

Доказ. Нехай спочатку$j\not= 0$. Використовуючи це$\sum_{t=1}^n\exp(-2\pi i\omega_jt)=0$, випливає, що

\[ I(\omega_j) = \frac 1n\sum_{t=1}^n\sum_{s=1}^n(X_t-\bar X_n)(X_s-\bar X_n)\exp(-2\pi i\omega_j(t-s))\\[.2cm] \nonumber \]

\[ =\frac 1n \sum_{h=-n+1}^{n-1}\sum_{t=1}^{n-|h|}(X_{t+|h|}-\bar X_n)(X_t-\bar X_n)\exp(-2\pi i\omega_jh)\\[.2cm] \nonumber \]

\[ =\sum_{h=-n+1}^{n-1}\hat\gamma_n(h)\exp(-2\pi i\omega_jh), \nonumber \]

що доводить першу претензію пропозиції. Якщо$j=0$, відносини$\cos(0)=1$ і$\sin(0)=0$ мають на увазі, що$I(0)=n\bar X_n^2$. На цьому доказ завершено.

Детальніше можна сказати про періодограмі. Фактично можна інтерпретувати спектральний аналіз як спектральний дисперсійний аналіз (ANOVA). Щоб переконатися в цьому, давайте спочатку

\[d_c(\omega_j) = \mathrm{Re}(d(\omega_j))=\frac{1}{\sqrt{n}}\sum_{t=1}^nX_t\cos(2\pi\omega_jt), \\[.2cm] \nonumber \]

\[d_s(\omega_j) = \mathrm{Im}(d(\omega_j))=\frac{1}{\sqrt{n}}\sum_{t=1}^nX_t\sin(2\pi\omega_jt). \nonumber \]

Потім,$I(\omega_j)=d_c^2(\omega_j)+d_s^2(\omega_j)$. Давайте тепер повернемося до вступного прикладу і вивчимо процес

\[ X_t=A_0+\sum_{j=1}^m\big[A_j\cos(2\pi\omega_j t)+B_j\sin(2\pi\omega_jt)\big], \nonumber \]

де$m=(n-1)/2$ і$n$ непарно. Припустимо$X_1,\ldots,X_n$, були помічені. Потім, використовуючи методи регресії, як і раніше, видно, що$A_0=\bar{X}_n$ і

\[A_j = \frac 2n\sum_{t=1}^nX_t\cos(2\pi\omega_jt)=\frac{2}{\sqrt{n}}d_c(\omega_j),\\[.2cm] \nonumber \]

\[B_j = \frac 2n\sum_{t=1}^nX_t\sin(2\pi\omega_jt)=\frac{2}{\sqrt{n}}d_s(\omega_j). \nonumber \]

Тому

\[ \sum_{t=1}^n(X_t-\bar{X}_n)^2=2\sum_{j=1}^m\big[d_c^2(\omega_j)+d_s^2(\omega_j)\big]=2\sum_{j=1}^mI(\omega_j) \nonumber \]

і виходить наступна таблиця ANOVA. Якщо основний стохастичний процес проявляє сильну періодичну картину з певною частотою, то періодограма, швидше за все, підхопить їх.

Приклад 4.2.4

Розглянемо точки$n=5$ даних$X_1=2$,$X_2=4$,$X_4=4$ і$X_3=6$$X_5=2$, які відображають циклічну, але несинусоїдальну картину. Це говорить про те, що$\omega=1/5$ є$\omega=2/5$ значним і не є. У R спектральна ANOVA може бути виготовлена наступним чином.

> х = с (2,4,6,4,2), т = 1:5

> cos1 = cos (2* пі* т* 1/5)

> sin1 = гріх (2* пі* т* 1/5)

> cos2 = cos (2* пі* т* 2/5)

> sin2 = гріх (2* пі* т* 2/5)

Це генерує дані та незалежні змінні косинуса та синуса. Тепер запустіть регресію і перевірте вихід ANOVA.

>рег = лм (х\ ~ {} cos1+sin1+cos2+sin2)

>анова (рег)

Це призводить до наступного виходу.

Відповідь: x

Df Сума Sq Середнє значення Sq F Pr (>F)

вартість 1 7,177 7.177

Кос2 1 0.0223 0,0223

гріх 1 3,7889 3,7889

гріх 2 1 0,2111 0,2111

Незалишки 0 0,0000

За попередніми міркуваннями (перевірте останню таблицю!) , Періодограма по частоті$\omega_1=1/5$ задається як сума$\tt sin1$ коефіцієнтів$cos1$ і, тобто$I(1/5)=(d_c(1/5)+d_s(1/5))/2=(7.1777+3.7889)/2=5.4833$. Аналогічно,$I(2/5)=(d_c(2/5)+d_s(2/5))/2=(0.0223+0.2111)/2=0.1167.$

Однак зауважте, що середня квадратна помилка обчислюється по-різному в R. Ми можемо порівняти ці значення з періодограмою:

> абс (FFT (x))$\widehat{}$ 2/5

[1] 64.8000000 5.4832816 0,167 184 0.167184 5.483 2816

Перше значення тут є$I(0)=n\bar{X}_n^2=5*(18/5)^2=64.8$. Друге і третє значення є$I(1/5)$ і$I(2/5)$, відповідно, поки$I(3/5)=I(2/5)$ і$I(4/5)=I(1/5)$ повний список.

У наступному розділі обговорюються деякі великі властивості зразка періодограми, щоб краще зрозуміти спектральний аналіз. \