Основы теории вейвлетов. Вейвлеты в MATLAB

Основы теории

вейвлетов

Вейвлеты в MATLAB

Н. К. Смоленцев

Издание второе, дополненное и переработанное

Рекомендовано к изданию

с грифом НМС по математике и механике

УМО университетов России как учебное пособие

для студентов высших учебных заведений специальностей

математика и прикладная математика

Москва

УДК 519.6
ББК В162я73

С51

Смоленцев Н. К.

С51
Основы теории вейвлетов. Вейвлеты в MATLAB. – М.: ДМК Пресс. – 304
с., ил.

     ISBN 5940741223

Рецензенты:
Кафедра высшей и прикладной математики Кемеровского института РГТЭУ.
Кандидат физ.мат. наук, доцент В. А. Павский.

Предлагаемая читателю книга может служить учебником по теории вейвлетов

и их применениям в системе MATLAB. Она доступна студентам высших учебных
заведений, специализирующимся  по математике и инженерным наукам, и будет
полезна специалистампрактикам, использующим вейвлеты в своей работе. В книгу включены сведения по рядам Фурье и преобразованию  Фурье, по дискретному преобразованию Фурье, фильтрам и разложению сигналов. Кроме изложения
основ теории вейвлетов, дается также описание основных функций вейвлетанализа в системе MATLAB.

ББК В162я73

Все права защищены. Любая часть этой книги не может быть воспроизведена в какой бы то ни было

форме и какими бы то ни было средствами без письменного разрешения владельцев авторских прав.

Материал, изложенный в данной книге, многократно проверен. Но, поскольку вероятность технических ошибок все равно существует, издательство не может гарантировать абсолютную точность и
правильность приводимых сведений. В связи с этим издательство не несет ответственности за возможные ошибки, связанные с использованием книги.

ISBN 5940741223

© Смоленцев Н. К.
© Оформление ДМК Пресс

Краткое содержание

ПРЕДИСЛОВИЕ........................................................................ 10

Часть I

ОСНОВЫ ТЕОРИИ ВЕЙВЛЕТОВ................................ 13

Глава 1

ПРЕОБРАЗОВАНИЕ ФУРЬЕ .......................................... 15

Глава 2

ОСНОВЫ ТЕОРИИ ВЕЙВЛЕТОВ................................ 67

Часть II

ВЕЙВЛЕТЫ В MATLAB...................................................... 165

Глава 3

ФУНКЦИИ ВЕЙВЛЕТАНАЛИЗА В MATLAB .... 167

Глава 4

ГЛАВНОЕ МЕНЮ
ПАКЕТА WAVELET TOOLBOX ....................................... 247

Приложение

СПИСОК ФУНКЦИЙ WAVELET TOOLBOX ......... 295

ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ........................................ 299

СПИСОК ЛИТЕРАТУРЫ ................................................... 302

Содержание

ПРЕДИСЛОВИЕ........................................................................ 10

Часть I
ОСНОВЫ ТЕОРИИ ВЕЙВЛЕТОВ................................ 13

Глава 1
ПРЕОБРАЗОВАНИЕ ФУРЬЕ .......................................... 15
1.1. Предварительные понятия ............................................ 16

1.2. Ряды Фурье ........................................................................... 17

1.3. Преобразование Фурье .................................................. 21

1.3.1. Преобразование Фурье в L1(R) .................................................. 22
1.3.2. Преобразование Фурье в L2(R) .................................................. 23
1.3.3. Свойства преобразования Фурье .............................................. 24
1.3.4. Примеры.................................................................................... 26
1.3.5. Теорема ПэлиВинера ............................................................... 27
1.3.6. Преобразование Фурье
экспоненциально убывающей функции............................................... 28
1.3.7. Формула суммирования Пуассона ............................................ 28
1.3.8. Оконное преобразование Фурье ............................................... 29
1.3.9. Преобразование Фурье обобщенных функций .......................... 30

1.3.10. Примеры.................................................................................. 33

1.4. Преобразование Фурье дискретных сигналов ....... 33

1.4.1. Дискретизация .......................................................................... 33
1.4.2. Дискретное преобразование Фурье длины N ............................ 36
1.4.3. Преобразование Фурье числовой последовательности ............ 38
 1.4.4. Zпреобразование .................................................................... 40

1.4.5. Примеры.................................................................................... 41

Содержание
5

1.5. Фильтры .................................................................................. 44

1.5.1. Фильтрация непрерывных сигналов .......................................... 44
1.5.2. Примеры фильтров.................................................................... 46
1.5.3. Цифровые фильтры ................................................................... 48

1.5.4. Примеры цифровых фильтров ................................................... 49

1.6. Разложение сигнала на низкочастотную
и  высокочастотную составляющие................................... 52

1.6.1. Разложение идеальными фильтрами ........................................ 53
1.6.2. Восстановление идеальными фильтрами.................................. 56
1.6.3. Общий случай ............................................................................ 57
1.6.4. Примеры.................................................................................... 61
1.6.5. Многоуровневый анализ сигналов............................................. 64

Глава 2
ОСНОВЫ ТЕОРИИ ВЕЙВЛЕТОВ................................ 67

2.1. Вейвлеты Хаара .................................................................. 68

2.1.1. Масштабирующая последовательность подпространств .......... 68
2.1.2. Операторы проектирования ...................................................... 70

2.1.3. Пространства вейвлетов ........................................................... 72

2.2. Масштабирующие функции .......................................... 76

2.2.1. Примеры масштабирующих функций ........................................ 76

2.2.2. Построение масштабирующей функции .................................... 80

2.3. Ортогональный кратномасштабный анализ ........ 86

2.3.1. Ортогональное кратномасштабное разложение........................ 86
2.3.2. Вейвлеты ................................................................................... 90
2.3.3. О единственности порождающих функций ................................ 95
2.3.4. Неортогональный случай ........................................................... 96

2.3.5. О параметре масштабирования ................................................ 99

2.4. Примеры кратномасштабного анализа
и вейвлетов .................................................................................. 101

Основы теории вейвлетов
6

2.4.1. Вейвлеты Шеннона—Котельникова ......................................... 101

2.4.2. Вейвлеты Мейера .................................................................... 104

2.5. Вейвлеты Батла—Лемарье. Bсплайны ............... 110

2.5.1. Вейвлеты на основе Bсплайна степени 1 ............................... 110

2.5.2. Bсплайны ............................................................................... 114

2.5.3. Вейвлеты ................................................................................. 116

2.6.  Вейвлетпреобразование........................................... 118

2.6.1. Вейвлетразложение ............................................................... 118

2.6.2. Быстрое вейвлетпреобразование .......................................... 121

2.6.3. Вопрос о начальных коэффициентах ....................................... 122

2.6.4. Восстановление ...................................................................... 123

2.6.5. Вейвлетпакеты ....................................................................... 125

2.7. Регулярность и нулевые моменты ........................... 129

2.8. Построение вейвлетов Добеши
с компактным носителем ...................................................... 134

2.8.1. Частотная функция .................................................................. 135

2.8.2. Симлеты .................................................................................. 142

2.9.  Койфлеты ............................................................................ 144

2.10. Биортогональные вейвлеты ..................................... 147

2.10.1. Мотивировка и определение ................................................. 147
2.10.2. Условия на функцию ϕ (x) ....................................................... 149

2.10.3. Функция ψ (x) ......................................................................... 149

2.10.4. Функции 
.................................................................. 150

2.10.5. Функции ψ (x) и 
................................................................ 152

2.10.6. Условия на коэффициенты .................................................... 154

2.10.7. Симметричные биортогональные вейвлеты .......................... 154

2.10.8. Сплайны ................................................................................ 155

2.11. Непрерывное вейвлетпреобразование ........... 159

2.12. Двумерные вейвлеты................................................... 161

Содержание
7

Часть II
ВЕЙВЛЕТЫ В MATLAB...................................................... 165

Глава 3
ФУНКЦИИ ВЕЙВЛЕТАНАЛИЗА В MATLAB .... 167

3.1. Вейвлеты в системе MATLAB ..................................... 168

3.2. Фильтры вейвлетов......................................................... 178

3.2.1. Масштабирующие фильтры..................................................... 180

3.2.2. Фильтры разложения и восстановления.................................. 181

3.3. Одноуровневое дискретное одномерное
вейвлетпреобразование ..................................................... 183

3.4. Многоуровневый одномерный
вейвлетанализ .......................................................................... 187

3.5. Непрерывное вейвлетпреобразование cwt ..... 194

3.6. Вейвлетпакеты ................................................................ 198

3.7. Двумерное вейвлетпреобразование ................... 208

3.7.1. Изображения в MATLAB ........................................................... 208

3.7.2. Вейвлетпреобразования двумерных сигналов ....................... 210

3.7.3.Основные функции двумерного вейвлетпреобразования ....... 211

3.8. Удаление шума, компрессия...................................... 216

3.8.1. Обработка вейвлеткоэффициентов для удаления шума ........ 217

3.8.2. Функции MATLAB для удаления шума ...................................... 218

3.9. Тестовые сигналы в MATLAB ...................................... 227

3.9.1. Одномерные тестовые сигналы ............................................... 227

3.9.2. Изображения ........................................................................... 228

3.9.3. Генерирование сигналов ......................................................... 228

Основы теории вейвлетов
8

3.10. Вейвлетанализ кардиосигнала ............................ 231

3.10.1. Многоуровневый анализ кардиосигнала ............................... 232
3.10.2.Непрерывный вейвлетанализ кардиосигнала ....................... 238
3.10.3. Удаление шума, компрессия и сглаживание кардиосигнала ... 243
3.10.4. Использование пакетных разложений ................................... 245

Глава 4
ГЛАВНОЕ МЕНЮ
ПАКЕТА WAVELET TOOLBOX ....................................... 247

4.1. Просмотр вейвлетов (Wavelet Display) .................. 248

4.2. Одномерный дискретный вейвлетанализ
(Wavelet 1D) ................................................................................ 250

4.2.1. Вейвлетразложение ............................................................... 251
4.2.2. Выбор различных видов разложения (Display mode) ............... 251
4.2.3. Статистические характеристики коэффициентов разложения .. 253
4.2.4. Гистограммы (Histogram)......................................................... 256
4.2.5. Сжатие сигнала ....................................................................... 256

4.2.6. Удаление шума ........................................................................ 259

4.3. Одномерный пакетный вейвлетанализ............... 260

4.3.1. Вейвлетразложение ............................................................... 261

4.3.2. Возможности раздела для обработки сигнала ........................ 261

4.4. Одномерный непрерывный вейвлетанализ
(Continuous Wavelet 1D) ........................................................ 264

4.4.1. Начало работы ......................................................................... 264
4.4.2. Анализ результатов ................................................................. 266

4.5. Комплексный одномерный непрерывный
вейвлетанализ (Complex Continuous Wavelet 1D) .... 267

4.6. Удаление шума стационарного одномерного
сигнала (SWT Denoising 1D) ............................................. 270

Содержание
9

4.6.1. Основные понятия ................................................................... 270

4.6.2. Работа с SWT Denoising 1D.................................................... 272

4.7. Оценка плотности (Density Estimation 1D) ......... 276

4.7.1. Идея алгоритма ....................................................................... 276

4.7.2. Работа с Density Estimation 1D ................................................ 278

4.8. Оценка регрессии (Regression Estimation 1D) ... 280

4.8.1. Основные понятия ................................................................... 280

4.8.2. Работа с Regression Estimation 1D .......................................... 281

4.9. Выбор вейвлеткоэффициентов сигнала
(Wavelet Coefficients Selection 1D) ................................... 282

4.10. Двумерный дискретный вейвлетанализ
(Wavelet 2D) ................................................................................ 285

4.11. Двумерный пакетный вейвлетанализ ............... 288

4.12. Удаление шума изображения
(SWT Denoising 2D)................................................................ 289

4.13. Выбор вейвлеткоэффициентов изображения
(Wavelet Coefficients Selection 2D) ................................... 291

4.14. Способы продолжения сигналов и изображений
(Signal extension, Image extension) ................................... 293

Приложение
СПИСОК ФУНКЦИЙ WAVELET TOOLBOX ......... 295

ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ........................................ 299

СПИСОК ЛИТЕРАТУРЫ ................................................... 302

Предисловие

Слово «wavelet» (вейвлет) дословно переводится как «всплеск» или «маленькая волна». В последние десятилетия функции с графиком типа небольшой
волны успешно используются  для разложения сигналов вместо традиционных
(длинных) синусоидальных волн. Хотя понятия вейвлета и вейвлетразложения являются сравнительно новыми, они уже нашли широкие применения в обработке сигналов. Популярность данной тематики стремительно растет. С основными применениями вейвлетов можно ознакомиться по замечательным
обзорным статьям  Н. М. Астафьевой и И. М. Дремина, О. В. Иванова, В. А. Нечитайло, опубликованным в журнале «Успехи физических наук» и доступным в Интернете (см. список литературы). Кроме того, хорошая подборка популярных статей по вейвлетам опубликована в журнале «Компьютерра» № 8 (236) от 2 марта
1998 г. [10].
Теория вейвлетов является мощной альтернативой анализу Фурье и дает более гибкую технику обработки сигналов. Одно из основных преимуществ вейвлетанализа заключается в том, что он позволяет заметить хорошо локализованные изменения сигнала, тогда как анализ Фурье этого не дает в коэффициентах
Фурье отражается поведение сигнала за все время его существования. Разработана глубокая и красивая математическая теория вейвлетов.
Данная книга задумана как учебник по теории вейвлетов и их применениям
для студентов по специальности  «прикладная математика». В настоящее время
по теме «вейвлеты» на русском языке имеется две монографии: К. Чуи [18] и
И. Добеши [6]. Вряд ли они доступны для первоначального изучения предмета.
Отсутствие достаточно полного и доступного учебника по вейвлетам и приложениям побудило автора к разработке учебного пособия по соответствующему курсу
лекций. Чтобы сделать книгу более независимой, в нее включены сведения по
рядам и преобразованию  Фурье, по фильтрам и разложению сигналов. Теоретический материал не должен быть самоцелью, нужно овладеть и практическими
приемами работы с вейвлетами. Поэтому в книгу включено описание основных
функций вейвлетанализа в системе MATLAB и их использования для обработки

Предисловие
11

сигналов.  В соответствии с этим книга состоит из двух частей: «Основы теории
вейвлетов» и «Вейвлеты в MATLAB». Выбор системы компьютерной математики MATLAB объясняется тем, что она популярна среди инженеров и математиков, занимающихся прикладными разработками, а также потому, что именно
в MATLAB вейвлеты представлены наиболее полно.
Первое издание книги вышло в 2003 г. в издательстве Кемеровского государственного университета тиражом 300 экз. В течение 2003–2004 учебного года
первое издание практически разошлось. Данное второе издание является переработанным и дополненным. В частности, добавлена еще одна глава, посвященная описанию работы с вейвлетами с использованием графического интерфейса пользователя
MATLAB.
Рассмотрим кратко содержание книги. Теория вейвлетов широко использует
технику рядов Фурье и преобразования Фурье. Поэтому в первой главе излагаются основные факты из указанных тем. Даже если сигнал представлен непрерывной функцией, практически для его анализа берется достаточно плотная выборка значений (дискретизация). Рассмотрены вопросы, которые возникают при
дискретизации сигнала, определено дискретное преобразование Фурье и изучаются его свойства. Вейвлетпреобразование сигнала сводится к действию на этот
сигнал определенных фильтров. Поэтому в первой главе изложены также основные факты фильтрации сигналов. Рассмотрены вопросы разложения сигнала на
сглаженную и высокочастотную компоненты и последующего восстановления
сигнала. Хотя первая глава является вспомогательной, результаты последних параграфов существенны для понимания теории вейвлетов и их практических применений.
Вторая глава «Основы теории вейвлетов» является центральной в данной
книге. Она содержит изложение основ теории вейвлетов и способов их построения. Начинается изложение с изучения известного вейвлетбазиса Хаара. На
этом примере мы рассматриваем основные конструкции, которые затем последовательно развиваются в следующих параграфах. Определяются понятия масштабирующей функции и кратномасштабного разложения пространства функций.
Рассмотрены примеры масштабирующих функций и соответствующих вейвлетов: ШеннонаКотельникова, Мейера, ортогональные вейвлеты с компактным
носителем, биортогональные вейвлеты. В конце главы очень кратко затронуты
вопросы о непрерывном вейвлетпреобразовании и о двумерных вейвлетах. Несмотря на то что в книге изложены не все темы теории вейвлетов, надеюсь, что ее
содержание достаточно для первоначального изучения предмета студентами,
прослушавшими курс функционального анализа.
Во второй части книги дается описание (на основе Help для Wavelet Toolbox
MATLAB) основных функций системы MATLAB, связанных с вейвлетами и их
использованием. Показано, как можно получить значения и графики основных
типов вейвлетов, как найти масштабирующие фильтры и фильтры разложения и
восстановления вейвлетов. Рассмотрены возможности Wavelet Toolbox MATLAB
для анализа сигналов, очистки от шума, сжатия. Дано описание применения пакетных вейвлетов и двумерных вейвлетов. Рассмотрен пример вейвлетанализа

Предисловие
12

кардиосигнала. Дано описание тестовых сигналов и приведен список всех команд
Wavelets Toolbox MATLAB. Для облегчения работы с вейвлетами в MATLAB создан комплекс графических оболочек для визуализации исходных данных, результатов и вейвлетанализа. Этот комплекс называется главным меню, или
графическим интерфейсом пользователя (GUI). В последней главе достаточно
подробно рассматривается работа с вейвлетами с использованием графического
интерфейса пользователя MATLAB Wavelets Toolbox.
Ссылки на литературу даны, по возможности, на доступные издания.
Надеюсь, что данная книга будет доступна и полезна студентам вузов и специалистам, начинающим использовать вейвлеты в своей работе.

Смоленцев Н. К.
smolen@kemtel.ru

Часть I

Основы
теории вейвлетов

Теория вейвлетов является
мощной альтернативой классическому анализу Фурье и дает
более гибкую технику обработки сигналов. В то же время,
она широко использует технику
рядов Фурье и преобразования Фурье. Поэтому в первой
главе излагаются основные
факты из указанных тем, включая дискретное преобразование
Фурье и фильтрацию сигналов.
Во второй главе рассматриваются основы теории вейвлетов
и способов их построения.
Рассмотрены примеры масштабирующих функций и соответствующих вейвлетов: ШеннонаКотельникова, Мейера,
ортогональные вейвлеты с компактным носителем, биортогональные вейвлеты.

Глава 1

Преобразование фурье ............ 15

Глава 2

Основы теории вейвлетов ........ 67

Глава 1

Преобразование Фурье

Теория вейвлетов в большой
степени основана на преобразовании Фурье, поэтому вначале мы напомним основные
факты относительно преобразования Фурье, включая дискретное преобразование Фурье.
Поскольку в приложениях вейвлеты выступают как цифровые фильтры, в первой главе
мы рассмотрим также основные
понятия, связанные с фильтрацией сигналов, их разложением и восстановлением.

1.1. Предварительные
понятия..................................... 16

1.2. Ряды Фурье........................ 17

1.3. Преобразование Фурье ..... 21

1.4. Преобразование Фурье
дискретных сигналов ................ 33

1.5. Фильтры ............................ 44

1.6. Разложение сигнала
на низкочастотную
и  высокочастотную
составляющие .......................... 52

Преобразование Фурье
16

1.1. Предварительные понятия

Приведем понятия, которые далее встречаются достаточно часто, и примем некоторые обозначения.
Числовые последовательности {xn}, которые мы будем рассматривать, являются «бесконечными в обе стороны», т. е. номер n может принимать любые целые
значения n ∈ Z. Числовой ряд 
 называется сходящимся, если существует

предел 
.
Степенные ряды рассматриваются как формальные, т. е. они содержат отрицательные степени и вопрос об их сходимости, как правило, не рассматривается.
Такие степенные ряды будут обозначаться следующими символами:

.

Функции  f(x) являются, вообще говоря, комплекснозначными и определены
на множестве R действительных чисел.
Носителем непрерывной функции f(x) называется замыкание множества точек x, в которых f(x) ≠ 0. Носитель обозначается символом supp(f). Если supp(f)
находится на конечном промежутке [a, b], то f(x) называется функцией с компактным носителем.
Говорят, что некоторое свойство относительно функции f(x) выполняется почти всюду (п.в.), если множество точек, в которых это свойство не выполнено,
имеет нулевую меру.
Векторное пространство E называется евклидовым, если в нем задано скалярное
произведение (u, v). В этом случае для любого элемента v ∈ E определена норма

 и сходимость: 
 , если 
. Пространство E называется гильбертовым, если оно является полным относительно определенной выше сходимости.
Система элементов 
 в гильбертовом пространстве E называется ортонормированной, если

  , для любых  n, m ∈ Z.

В последней формуле δn,mназывается символом Кронекера.
Ортонормированная система {un}n ∈ Z в гильбертовом пространстве E называется
полной, если замыкание множества всех линейных комбинаций элементов из {un}n ∈Z
совпадает с пространством Е. Другими словами, если E является наименьшим замкнутым пространством, содержащим {un}n ∈ Z . Полная ортонормированная система
{un}n ∈ Z называется ортонормированным базисом гильбертова пространства E.
Примером ортогонального базиса может служить система функций

 в гильбертовом пространстве L2[0,2π] функций на
[0,2π], интегрируемых с квадратом.
Элементарные гармоники.  Это наиболее простые сигналы вида
a sin(ω x + ϕ0)    и    a cos(ω x + ϕ0),