15.6: Нерівність Коші-Шварца
- Page ID
- 34252
Вступ
Будь-яке лікування лінійної алгебри, що стосується обробки сигналів, не було б повним без обговорення нерівності Коші-Шварца, відношення, яке дозволяє широкий спектр програм обробки сигналів, пов'язаних із узгодженням шаблонів за допомогою методу, який називається відповідним фільтром. Нагадаємо, що в стандартному евклідовому просторі кут\(\theta\) між двома векторами\(x,y\) задається
\[\cos (\theta)=\frac{\langle x, y\rangle}{\|x\|\|y\|}. \nonumber \]
Так як\(\cos (\theta) \leq 1\), випливає, що
\[|\langle x, y\rangle|^{2} \leq\langle x, x\rangle\langle y, y\rangle. \nonumber \]
Крім того, рівність має місце, якщо і тільки тоді\(\cos(\theta)=0\), маючи на увазі, що
\[|\langle x, y\rangle|^{2}=\langle x, x\rangle\langle y, y\rangle \nonumber \]
якщо і тільки якщо\(y=ax\) для якоїсь реальної\(a\). Це відношення може бути поширене на всі внутрішні простори продукту над реальним або складним полем і відоме як нерівність Коші-Шварца, що має велике значення для вивчення сигналів.
Нерівність Коши-Шварца
Заява про нерівність Коши-Шварца
Загальне твердження нерівності Коші-Шварца відображає інтуїцію для стандартного евклідового простору. \(V\)Дозволяти внутрішній простір добутку над полем комплексних чисел\(\mathbb{C}\) з внутрішнім добутком\(\langle\cdot, \cdot\rangle\). Для кожної пари векторів\(x, y \in V\) нерівність
\[|\langle x, y\rangle|^{2} \leq\langle x, x\rangle\langle y, y\rangle \nonumber \]
тримає. Крім того, рівність
\[|\langle x, y\rangle|^{2}=\langle x, x\rangle\langle y, y\rangle \nonumber \]
тримає якщо і тільки якщо\(y=ax\) для деяких\(a \in \mathbb{C}\). Тобто рівність тримається тоді і тільки тоді, коли\(x\) і\(y\) є лінійно залежними.
Доказ нерівності Коши-Шварца
\(V\)Дозволяти векторний простір над дійсним або складним полем\(F\), і нехай\(x,y \in V\) буде дано. Для того, щоб довести нерівність Коші-Шварца, спочатку буде доведено, що\(|\langle x, y\rangle|^{2}=\langle x, x\rangle\langle y, y\rangle\) якщо\(y=ax\) для деяких\(a \in F\). Потім буде показано, що\(|\langle x, y\rangle|^{2}<\langle x, x\rangle\langle y, y\rangle\) якщо\(y \neq a x\) для всіх\(a \in F\).
Розглянемо випадок, в якому\(y=ax\) для деяких\(a \in F\). З властивостей внутрішніх виробів зрозуміло, що
\ [\ begin {вирівнювання}
|\ лангове x, y\ rangle|^ {2} &=|\ кут x, x\ діапазон |^ {2}\ nonumber\\ nonumber\\\
\\ bar {a}\ langle x, x\ rangle|^ {2}
\ end {вирівнювання}. \ номер\]
Звідси випливає, що
\ [\ begin {вирівнювання}
|\ кут x, y\ rangle|^ {2} &=|\ бар {a} |^ {2} |\ кут x, x\ діапазон|^ {2}\ nonumber\\
&=|a|^ {2}\ кут x, x\ діапазон ^ {2}
\ кінець {вирівнювання}. \ номер\]
Точно так само зрозуміло, що
\ [\ begin {вирівняти}
\ ланголь x, x\ діапазон\ langle y, y\ діапазон &=\ кут x, x\ діапазон\ кут a x, x\ діапазон\ nonumber\\
&=\ кут x, x\ діапазон a\ бар {a}\ кут x, x\ діапазон\ nonnumber\\
&=|^ {2}\ кут x, x\ діапазон^ {2}
\ end {вирівнювання}\ nonumber\]
Таким чином, доведено, що\(|\langle x, y\rangle|^{2}=\langle x, x\rangle\langle y, y\rangle\) якщо\(x=ay\) для деяких\(a \in F\).
Далі розглянемо випадок, в якому\(y \neq a x\) для всіх\(a \in F\), що має на увазі, що\(y \neq 0\) так\(\langle y, y\rangle \neq 0\). Таким чином, випливає властивості внутрішніх продуктів, які, для всіх\(a \in F\),\(\langle x-a y, x-a y\rangle>0\). Це можна розширити, використовуючи властивості внутрішніх продуктів до виразу
\ [\ begin {вирівнювання}
\ ланголь x-a y, x-a y\ діапазон &=\ лангель x, x-a y\ діапазон у, x-a y\ діапазон\ nonumber\\
&=\ кут x, x\ діапазон-\ бар {a}\ langle x, y\ діапазон -a\ langle y, x\ діапазон+||^ {2}\ кут y, y\ діапазон
\ кінець {вирівняти}\ nonnumber\]
Вибір\(a=\frac{\langle x, y\rangle}{\langle y, y\rangle}\),
\ [\ begin {вирівнювання}
\ ланголь x-a y, x-a y\ діапазон &=\ лангель x, x\ діапазон-\ frac {\ лангель у, х\ діапазон} {\ лангель y, y\ діапазон}\ лангл x, y\ rangle-\ frac {\ лангель x, y\ діапазон} {\ лангель y, y\ діапазон} кут у, х\ діапазон+\ frac {\ ланголь x, y\ діапазон\ лангель у, x\ діапазон} {\ ланголь у, y\ діапазон^ {2}}\ лангель y, y\ діапазон\ nonumber\\
&=\ langle x, x\ діапазон-\ frac {\ ланголь x, y\ діапазон\ кут y, x\ діапазон} {\ лангель y, y\ діапазон}
\ end {вирівняти}\ nonnumber\]
Звідси випливає, що\(\langle x, x\rangle-\frac{\langle x, y\rangle\langle y, x\rangle}{\langle y, y\rangle}>0\). Отже,\(\langle x, x\rangle\langle y, y\rangle-\langle x, y\rangle \overline{\langle x, y}\rangle>0\). Таким чином, можна зробити висновок, що\(|\langle x, y\rangle|^{2}<\langle x, x\rangle\langle y, y\rangle\) якщо\(y \neq a x\) для всіх\(a \in F\).
Тому нерівність
\[|\langle x, y\rangle|^{2} \leq\langle x, x\rangle\langle y, y\rangle \nonumber \]
тримає для всіх\(x,y \in V\), і рівність
\[|\langle x, y\rangle|^{2}=\langle x, x\rangle\langle y, y\rangle \nonumber \]
тримає якщо і тільки якщо\(y=ax\) для деяких\(a \in F\).
Додаткові математичні наслідки
Розглянемо максимізацію того,\(\left|\left\langle\frac{x}{\| x||}, \frac{y}{\|y\|}\right\rangle\right|\) де норма\(\|\cdot\|=\langle\cdot , \cdot\rangle\) індукується внутрішнім продуктом. За нерівністю Коші-Шварца ми знаємо, що\(\left|\left\langle\frac{x}{|| x||}, \frac{y}{\|y\|}\right\rangle\right|^{2} \leq 1\) і що\(\left|\left\langle\frac{x}{|| x||}, \frac{y}{\|y\|}\right\rangle\right|^{2}=1\) якщо і тільки\(\frac{y}{\|y\|}=a \frac{x}{\|x\|}\) для деяких\(a \in \mathbb{C}\). Отже,\(\left|\left\langle\frac{x}{\| x||}, \frac{y}{\|y\|}\right\rangle\right|\) досягає максимуму де\(\frac{y}{\|y\|}=a \frac{x}{\|x\|}\) для деяких\(a \in \mathbb{C}\). Таким чином, збираючи скалярні змінні,\(\left|\left\langle\frac{x}{\| x||}, \frac{y}{\|y\|}\right\rangle\right|\) досягає максимуму де\(y=ax\). Цей результат буде особливо корисним при розробці методів детектора підібраних фільтрів.
Відповідний детектор фільтра
Фонові концепції
Дуже багато застосувань в обробці сигналів, обробці зображень і за її межами передбачають визначення наявності та розташування цільового сигналу в межах якогось іншого сигналу. Наприклад, радіолокаційна система шукає копії переданого радіолокаційного імпульсу, щоб визначити наявність та відстань до світловідбиваючих об'єктів, таких як будівля або літак. Система зв'язку шукає копії сигналів, що представляють цифрові 0 і 1s, щоб отримати повідомлення.
Як вже було показано, вираз\(\left|\left\langle\frac{x}{\|x\|}, \frac{y}{\|y\|}\right\rangle\right|\) досягає своєї верхньої межі, яка дорівнює 1, коли\(y=ax\) для деякого скаляра\(a\) в дійсному або складному полі. Нижня межа, яка дорівнює 0, досягається, коли\(x\) і\(y\) є ортогональними. У неформальній інтуїції це означає, що вираз максимізується, коли вектори\(x\) і\(y\) мають однакову форму або візерунок і мінімізується, коли\(x\) і дуже\(y\) різні. Пара векторів з подібними, але неоднаковими формами або візерунками дасть відносно велике значення виразу менше 1, а пара векторів з дуже різними, але не ортогональними формами або візерунками дасть відносно невеликі значення виразу більше 0. Таким чином, вищевказане вираз несе в собі поняття про ступінь, до якої два сигнали «схожі», величину нормованої кореляції між сигналами у випадку стандартних внутрішніх продуктів.
Це поняття може бути надзвичайно корисним. Наприклад, розглянемо ситуацію, в якій ми хочемо визначити, який сигнал, якщо такий є, з набору\(X\) сигналів найбільше нагадує певний сигнал\(y\). Для цього ми могли б оцінити вищевказаний вираз для кожного сигналу\(x \in X\), вибравши той, який призводить до максимумів за умови, що ці максимуми перевищують певний поріг «подоби». Це ідея узгодженого детектора фільтра, який порівнює набір сигналів із цільовим сигналом, використовуючи вищевказаний вираз, щоб визначити, які з них найбільше схожі на цільовий сигнал. Детальну обробку застосувань відповідного фільтруючого детектора дивіться вподобаний модуль.
Порівняння сигналів
Найпростішим варіантом відповідної схеми детектора фільтра було б знайти сигнал члена в наборі\(X\) сигналів, які найбільш точно відповідають цільовому сигналу\(y\). Таким чином, для кожного\(x \in X\) бажаємо оцінити
\[m(x, y)=\left|\left\langle\frac{x}{\|x\|}, \frac{y}{\|y\|}\right\rangle\right| \nonumber \]
для того, щоб порівняти кожного члена\(X\) з цільовим сигналом\(y\). Оскільки член,\(X\) який найбільш точно відповідає цільовому сигналу,\(y\) бажаний, в кінцевому підсумку ми хочемо оцінити
\[x_{m}=\operatorname{argmax}_{x \in X}\left|\left\langle\frac{x}{\|x\|}, \frac{y}{\|y\|}\right\rangle\right|. \nonumber \]
Зверніть увагу, що цільовий сигнал технічно не потребує нормалізації для отримання максимуму, але дає бажану властивість, яка\(m(x,y)\) обмежена\([0,1]\).
Елемент\(x_m \in X\), який виробляє максимальне значення, не обов'язково\(m(x,y)\) є унікальним, тому може бути більше одного відповідного сигналу в\(X\). Крім того, сигнал,\(x_m \in X\) що виробляє максимальне значення,\(m(x,y)\) може не виробляти дуже велике значення\(m(x,y)\) і, таким чином, не дуже схожий на цільовий сигнал\(y\). Отже, інша відповідна схема фільтра може ідентифікувати аргумент, який створює максимум, але лише вище певного порогу, повертаючи не відповідні сигнали,\(X\) якщо максимум нижче порогового значення. Також може бути сигнал\(x \in X\), який виробляє велике значення\(m(x,y)\) і, таким чином, має високий ступінь «подібності» до yy, але не дає максимального значення\(m(x,y)\). Таким чином, ще одна відповідна схема фільтра може ідентифікувати всі сигнали при\(X\) створенні локальних максимумів, які перевищують певний поріг.
Приклад\(\PageIndex{1}\)
Наприклад, розглянемо цільовий сигнал, наведений на малюнку,\(\PageIndex{1}\) і набір двох сигналів, наведених на малюнку\(\PageIndex{2}\). За допомогою огляду видно, що сигнал\(g_2\) найбільше схожий на цільовий сигнал\(f\). Однак, щоб зробити цей висновок математично, ми використовуємо відповідний детектор фільтра з\(L_2\) внутрішнім продуктом. Якби ми насправді зробили необхідні обчислення, ми б спочатку нормалізували кожен сигнал, а потім обчислили необхідні внутрішні продукти, щоб порівняти сигнали\(X\) з цільовим сигналом\(f\). Ми б помітили, що абсолютне значення внутрішнього продукту для\(g_2\) з\(f\) при нормалізації більше абсолютного значення внутрішнього добутку\(g_1\) з\(f\) при нормалізації, математично заявлене як
\[g_{2}=\operatorname{argmax}_{x \in\left\{g_{1} , g_{2}\right\}}\left|\left\langle\frac{x}{\| x||}, \frac{f}{\|f\|}\right\rangle\right| \nonumber \]
Сигнали кандидатів
Виявлення шаблону
Дещо більш залучена схема детектора фільтра буде включати спробу зіставити сигнал, обмежений за цільовим часом,\(y=f\) до набору зміщених у часі та віконних версій одного сигналу,\(X=\left\{w S_{t} g \mid t \in \mathbb{R}\right\}\) індексованого\(\mathbb{R}\). Функція windowing\([t_1,t_2]\) задається\(w(t)=u(t−t_1)−u(t−t_2)\) де інтервал, до якого\(f\) обмежений час. Ця схема може бути використана для пошуку частин\(g\), які мають ту ж форму, що і\(f\). Якщо абсолютне значення внутрішнього добутку нормованих версій\(f\) і\(wS_t g\) велике, що є абсолютним значенням нормованої кореляції для стандартних внутрішніх продуктів, то gg має високий ступінь «подоби» до\(f\) на інтервалі, до якого\(f\) обмежений час, але ліворуч зміщений на\(t\). Звичайно, якщо\(f\) не обмежений часом, це означає, що весь сигнал має високий ступінь «подоби»\(f\) лівого зміщеного на\(t\).
Таким чином, для того, щоб визначити найбільш ймовірні місця розташування сигналу з тією ж формою, що і цільовий сигнал\(f\) у сигналі,\(g\) ми хочемо обчислити
\[t_{m}=\operatorname{argmax}_{t \in \mathbb{R}}\left|\left\langle\frac{f}{\|f\|}, \frac{w S_{t} g}{\left\|w S_{t} g\right\|}\right\rangle\right| \nonumber \]
забезпечити бажану зміну. Припускаючи, що досліджуваний внутрішній простір продукту є\(L_2\)\(\mathbb{R}\) ((подібні результати тримають\(L_2 (\mathbb{R}[a,b)\))\(l_2(\mathbb{Z})\), і\(l_2(\mathbb{Z}[a,b))\)), це виробляє
\[t_{m}=\operatorname{argmax}_{t \in \mathbb{R}} \mid \frac{1}{\|f\|\left\|w S_{t} g\right\|} \int_{-\infty}^{\infty} f(\tau) w(\tau) \overline{g(\tau-t)} d \tau \nonumber \]
Так як\(f\) і\(w\) час обмежується одним і тим же інтервалом
\[t_{m}=\operatorname{argmax}_{t \in \mathbb{R}}\left|\frac{1}{\|f\|\left\|w S_{t} g\right\|} \int_{t_{1}}^{t_{2}} f(\tau) \overline{g(\tau-t)} d \tau\right| \nonumber \]
Здійснюючи заміну\(h(t)=\overline{g(-t)}\),
\[t_{m}=\operatorname{argmax}_{t \in \mathbb{R}}\left|\frac{1}{\|f\|\left\|w S_{t} g\right\|} \int_{t_{1}}^{t_{2}} f(\tau) h(t-\tau) d \tau\right| \nonumber \]
Відзначаючи, що цей вираз містить операцію згортки
\[t_{m}=\operatorname{argmax}_{t \in \mathbb{R}}\left|\frac{(f * h)(t)}{\|f\|\left\|w S_{t} g\right\|}\right|. \nonumber \]
де\(h\) - сполучений час зворотної версії,\(g\) визначеної\(h(t)=\overline{g(-t)}\).
В особливому випадку, коли цільовий сигнал\(f\) не обмежений часом,\(w\) має одиничне значення на всій реальній лінії. Таким чином, норму можна оцінити як\(\left\|w S_{t} g\right\|=\left\|S_{t} g\right\|=\|g\|=\|h\|\). Тому функція зводиться\(t_{m}=\operatorname{argmax}_{t \in \mathbb{R}} \frac{\left(f^{*} h\right)(t)}{\|f\|\|h\|}\) куди\(h(t)=\overline{g(-t)}\). Функція\(f \text { ☆ } g=\frac{\left(f^{*} h\right)(t)}{\|f\|\|h\|}\) відома як нормована перехресна кореляція\(f\) і\(g\).
Отже, ця відповідна схема фільтра може бути реалізована як згортка. Тому може бути доцільним реалізувати його в частотній області. Подібні результати тримають для\(L_2(\mathbb{R}[a,b))\)\(l_2(\mathbb{Z})\), і\(l_2(\mathbb{Z}[a,b])\) пробілів. Особливо корисно реалізувати\(l_2(\mathbb{Z}[a,b])\) випадки в частотній області, оскільки потужність алгоритму швидкого перетворення Фур'є може бути використана для швидкого виконання обчислень в комп'ютерній програмі. У\(l_2(\mathbb{Z}[a,b])\) випадках\(L_2(\mathbb{R}[a,b))\) та випадках слід подбати про нульовий сигнал, якщо ефекти обгортання не бажані. Подібні результати також мають місце для просторів на більш високих розмірних інтервалах з однаковими внутрішніми виробами.
Звичайно, не обов'язково точно один екземпляр цільового сигналу в даному сигналі. Там може бути один екземпляр, більше одного екземпляра, або жоден екземпляр цільового сигналу. Тому часто практичніше виявляти всі зрушення, відповідні локальним максимумам, які знаходяться вище певного порогу.
Приклад\(\PageIndex{2}\)
Сигнал на малюнку\(\PageIndex{4}\) містить екземпляр шаблонного сигналу, який видно на малюнку, що\(\PageIndex{3}\) починається в той час\(t=s_1\), як показано на графіку на малюнку\(\PageIndex{5}\). Тому,
\[s_{1}=\operatorname{argmax}_{t \in \mathbb{R}}\left|\left\langle\frac{f}{\|f\|}, \frac{w S_{t} g}{\left\|w S_{t} g\right\|}\right\rangle\right| \nonumber \]
Відео лекція про нерівність Коши-Шварца
Резюме нерівності Коши-Шварца
Як видно, нерівність Коші-Шварца - це властивість внутрішніх просторів продукту над реальними або складними полями, що має особливе значення для вивчення сигналів. Зокрема, мається на увазі, що абсолютне значення внутрішнього продукту максимізується над нормальними векторами, коли два аргументи лінійно залежать, є ключовим для обґрунтування відповідного детектора фільтра. Таким чином, це дозволяє використовувати узгоджені фільтри для таких додатків, як виявлення зображень, демодуляція зв'язку та аналіз радіолокаційного сигналу.