eng
Содержание
Содержание
Предисловие 6
Глава 1. Элементы функционального анализа и спектрального
представления функций 9
1.1.
Линейные нормированные пространства 9
1.2.
Анализ в линейных нормированных пространствах 12
1.3.
Банаховы пространства 15
1.4.
Пространства со скалярным произведением 17
1.5.
Аппроксимация в гильбертовом пространстве 20
1.6.
Примеры ортогональных систем в пространстве L2 26
1.7.
Тригонометрические ряды Фурье. Интеграл Фурье 33
1.8.
Принцип неопределенности время-частотного
представления сигналов 40
1.9.
Обобщенное преобразование Фурье 47
1.10.
Энергетический спектр. Спектр мощности 51
Глава 2. Дискретизация и квантование сигналов.
Дискретные ортогональные преобразования 56
2.1.
Преобразование непрерывных сигналов в дискретные 56
2.2.
Дискретизация по критерию наибольшего отклонения 58
2.3.
Частотный критерий выбора шага дискретизации 59
2.4.
Спектр дискретного сигнала 65
2.5.
Дискретное преобразование Фурье 70
2.6.
Быстрое преобразование Фурье (БПФ). Алгоритм БПФ
с прореживанием по времени 79
2.7.
Алгоритм БПФ с прореживанием по частоте 92
2.8.
Дискретное преобразование Уолша 97
2.9.
Дискретное преобразование Хаара 103
2.10.
Некоторые применения дискретных ортогональных
преобразований 108
2.11.
Квантование дискретных сигналов 111
Глава 3. Линейные дискретные системы 121
3.1.
Z-преобразование 121
3.2.
Линейные дискретные фильтры (ЛДФ) 127
3.3.
Соединения и структурные схемы фильтров 132
4
Содержание
3.4.
Устойчивость ЛДФ 139
3.5.
Частотная характеристика ЛДФ 141
3.6.
Синтез КИХ-фильтров по частотной характеристике 146
3.7.
Нахождение отклика фильтра с использованием БПФ 152
3.8.
Согласованный дискретный фильтр 155
3.9.
Преобразователь Гильберта 162
Глава 4. Основы прикладной теории информации 169
4.1.
Дискретный источник сообщений без памяти,
количество информации. Энтропия 169
4.2.
Основные теоремы о кодировании источника без памяти 176
4.3.
Эффективное кодирование дискретного источника без памяти
по методам Шэннона — Фано и Хаффмана 187
4.4.
Кодирование длин серий 194
4.5.
Арифметическое кодирование 197
4.6.
Условная энтропия 207
4.7.
Кодирование дискретного источника с памятью 212
4.8.
Статистическое моделирование источника 220
4.9.
Неопределенность непрерывного источника сообщений.
Дифференциальная энтропия 221
4.10.
Словарные методы кодирования 226
Глава 5. Теоретические основы применения ортогональных
преобразований для представления дискретных сигналов 233
5.1.
Корреляция как мера статистической зависимости данных.
Преобразование Карунена — Лоэва 233
5.2.
Эффективность использования дискретных ортогональных
преобразований для кодирования коррелированных данных 240
5.3.
ДПФ в вещественной форме.
Дискретное преобразование Хартли 247
5.4.
Дискретный марковский процесс первого порядка.
Дискретное косинусное преобразование (ДКП) 250
5.5.
Компрессия изображений на основе двумерного ДКП 257
5.6.
Оптимизация алгоритмов сжатия данных с потерями 265
5.7.
Аппроксимационный подход к выбору преобразований для
кодирования дискретных сигналов. Частотная трактовка 272
5.8.
Время-частотный анализ. Оконное преобразование Фурье 277
Содержание 5
Глава 6. Вейвлет-преобразования и их приложения
для обработки дискретных сигналов 285
6.1.
Кратно-масштабный анализ 285
6.2.
Проектирование функций на подпространства КМА 292
6.3.
Вычисление дискретных вейвлет-преобразований 299
6.4.
Квадратурно-зеркальные фильтры (КЗФ) 303
6.5.
Свойства КЗФ 309
6.6.
Построение масштабирующих функций и вейвлетов
по масштабирующим уравнениям 317
6.7.
Вейвлеты Добеши 322
6.8.
Биортогональные вейвлет-преобразования 328
6.9.
Применение дискретных вейвлет-преобразований
для сжатия сигналов 332
6.10.
Подавление шумов фильтрацией в базисе дискретных
вейвлет-преобразований 337
6.11.
Двумерные дискретные вейвлет-преобразования 340
6.12.
Вейвлет-пакеты 349
Заключение 360
Литература 361
Предисловие
В последние годы методы цифровой обработки сигналов (ЦОС)
в радиотехнике, радиоэлектронике, системах связи, контроля
и управления активно вытесняют методы аналоговой обработки
сигналов. Этому способствует стремительно увеличивающаяся
производительность вычислительной техники, которая проника-
ет во все области человеческой деятельности. Важность изучения
методов ЦОС трудно переоценить. На сегодняшний день вопро-
сы, связанные с цифровой обработкой сигналов и кодированием
информации, перестали быть узкоспециальными. Основы знаний
в данной области требуются большинству инженеров, а для специ-
алистов в области электронной техники и информационных тех-
нологий необходимо более глубокое понимание основных методов
ЦОС и математической теории, лежащей в их основе. Предлагаемое
вниманию читателя учебное пособие направлено на изучение этих
вопросов.
Пособие предназначено в первую очередь для студентов, обуча-
ющихся по инженерным направлениям «Прикладная математика»
и «Информатика и вычислительная техника». Однако при написа-
нии пособия автор старался опираться лишь на общий курс выс-
шей математики, читаемый для всех инженерных специальностей,
поэтому оно может быть рекомендовано также для студентов, обу-
чающихся по профилям радиотехнического и телекоммуникаци-
онного направлений подготовки.
Первое издание пособия было выпущено в 2008 году издатель-
ством «Форум» и было допущено учебно-методическим объедине-
нием по университетскому политехническому образованию в каче-
стве учебного пособия для студентов высших учебных заведений,
обучающихся по направлению «Информатика и вычислительная
техника».
Второе издание представляет собой существенно переработан-
ный и расширенный материал, в который внесены исправления,
Предисловие 7
включены новые разделы, добавлены упражнения для самостоя-
тельного выполнения.
Первая глава содержит необходимые предварительные сведения
из функционального анализа и теории спектрального представле-
ния функций. В качестве напоминания приведены краткие сведе-
ния об интеграле Фурье и его свойствах, на которые в дальнейшем
будут производиться многочисленные ссылки. Кроме того, в пер-
вой главе вводятся популярные в ЦОС функциональные системы
Уолша и Хаара; рассматриваются обобщение интегрального пре-
образования Фурье и важный для спектрального анализа принцип
неопределенности время-частотного представления сигналов.
Вторая глава посвящена вопросам дискретизации непрерывных
сигналов и преобразований, прежде всего, преобразования Фурье.
Значительное внимание уделено частотным вопросам дискрети-
зации и построению алгоритмов быстрого преобразования Фурье
(БПФ). Рассмотрены также дискретные преобразования Уолша
и Хаара, приведены их быстрые алгоритмы вычислений. Отдель-
ный раздел посвящен квантованию сигналов.
В третьей главе вводятся основные понятия теории линейных
дискретных систем (фильтров). Основное внимание уделено анализу
фильтров. Также рассматриваются некоторые практические вопро-
сы синтеза фильтров с конечной импульсной характеристикой, со-
гласованной фильтрации, реализации преобразования Гильберта.
Четвертая глава представляет собой введение в теорию инфор-
мации и помимо теоретических сведений содержит также описа-
ние методов эффективного кодирования, которые используются
в современных алгоритмах сжатия данных.
В пятой и шестой главах представлено более углубленное из-
ложение специализированных разделов ЦОС, связанных с эффек-
тивным представлением сигналов. Фактически, здесь изучается
тот теоретический базис, который составляет основу большинства
современных цифровых методов сжатия аудио- и видеосигна-
лов. В частности, шестая глава целиком посвящена дискретным
вейвлет-преобразованиям. По сравнению с первым изданием, ма-
териал пятой и шестой глав был подвергнут наиболее существен-
ной переработке.
В книге используется двойная нумерация для рисунков, фор-
мул, примеров и теорем: первая цифра обозначает главу, вторая —
порядковый номер формулы (примера, теоремы) в главе. При ну-
мерации (обозначении) аксиом и свойств используется значок «°»,
например 1°. Начало и окончание доказательств теорем, решений
примеров обозначается соответственно символами ◄ и ►.
Основу данного учебного пособия составляет курс лекций, чи-
таемый автором на протяжении ряда лет в Национальном исследо-
вательском университете «МИЭТ». Большое значение в работе над
вторым изданием книги имело обсуждение содержания рукописи
с коллегами — сотрудниками МИЭТ. Автор выражает глубокую
признательность доценту В. В. Лесину за внимательное прочтение
рукописи и ряд ценных методических рекомендаций, а также бла-
годарит доцента В. Н. Земскова за полезные замечания, которые
были учтены при подготовке учебного пособия в печать.
ГЛАВА 1
ЭЛЕМЕНТЫ ФУНКЦИОНАЛЬНОГО АНАЛИЗА
И СПЕКТРАЛЬНОГО ПРЕДСТАВЛЕНИЯ ФУНКЦИЙ
Функциональный анализ — раздел математики, который представля-
ет собой абстрактное обобщение линейной алгебры и математического
анализа. Рассмотрим некоторые понятия и методы функционального
анализа, которые наиболее важны для теории обработки сигналов.
1.1. Линейные нормированные пространства
Определение. Множество Е элементов произвольной природы
называется линейным пространством, если в нем однозначно
определены операции сложения элементов x + y и умножения
элементов на скаляр λ (вещественное или комплексное число)
λx, результатом которых является элемент из того же множества
Е, причем выполняются следующие аксиомы.
1°. ∀x, y ∈ E: x + y = y + x.
2°. ∀x, y, z ∈ E: (x + y) + z = x + (y + z).
3°. ∃θ ∈ E, ∀x ∈ E: θ + x = x (существование нулевого элемента θ).
4°. ∀x ∈ E, ∀λ, μ (λ, μ — скаляры): λ(μx) = (λμ)x.
5°. Умножение на скаляры λ = 0 и λ = 1: 0x = θ, 1x = x.
6°. ∀x ∈ E, ∀λ, μ: (λ + μ)x = λx + μx .
7°. ∀x, y ∈ E, ∀λ: λ(x + y) = λx + λy.
Назовем противоположным элементом для x ∈ E такой элемент
y ∈ E, что x + y = θ. Из аксиом 5° и 6° следует, что y = (–1)x (элемент
x, умноженный на число –1). Обозначим противоположный эле-
мент –x.
В курсе линейной алгебры изучались линейные пространства n
арифметических векторов размерности n. Приведенное выше аксио-
матическое определение обобщает понятие линейного пространства
n на множества произвольной природы. По аналогии, элементы
любого линейного пространства также будем называть векторами,
а сами линейные пространства — векторными пространствами. В том
же обычном смысле будем понимать термины «базис пространства»,
«линейная зависимость» (независимость) векторов и «размерность
пространства». Напомним, что число n называется размерностью
векторного пространства Е (обозначается n = dimE), если в Е найдет-
ся n линейно независимых ненулевых элементов, а любые (n + 1) не-
нулевых элементов пространства Е являются линейно зависимыми.
Линейное пространство может иметь бесконечную размерность.
Пример 1.1. Пусть C[a;b] — множество всех функций, непрерывных
на отрезке [a;b]. Является ли это множество линейным простран-
ством и если да, то какова его размерность?
◄ Выполнение аксиом 1°—7° очевидно, нулевым элементом θ явля-
ется функция f(x) = 0, ∀x ∈ [a;b]. Покажем, что C[a;b] — бесконеч-
номерное пространство. Выберем из множества C[a;b] n ненулевых
элементов — функций yi(x) = xi–1, i = 1,2,…,n. При любом числе n
эти элементы являются линейно независимыми, так как равен-
ство нулю многочлена λ λ i i
i
n
i
i
i
n
y x
=
−
=
Σ Σ= =
1
1
1
0 для всех точек отрезка
x ∈ [a,b] возможно лишь в случае λ i = 0, i = 1,…,n. Поскольку число n
можно выбрать как угодно большим, то dim(C[a;b]) = ∞. ►
Лемма 1.1. (Неравенство Минковского для интегралов.) Пусть для
p ≥ 1 существуют интегралы u x dx p
a
b
∫ ( ) , v x dx p
a
b
∫ ( ) (пределы инте-
грирования — не обязательно конечные). Тогда существует также
интеграл u x v x dx p
a
b
∫ ( )+ ( ) , причем верна оценка:
1.1. Линейные нормированные пространства 11
u x v x dx u x dx v x dx p
a
b p
p
a
b p
p
a
b p
(∫( )+ ( ) ) ≤(∫( ) ) +(∫ ( ) )
1 1 1
. (1.1)
Опустим доказательство леммы, которое носит технический
характер1.
Определение. Линейное пространство Е называется нормиро-
ванным, если каждому элементу x ∈ E поставлено в соответствие
вещественное число ||x||, называемое нормой, для которой вы-
полняются следующие аксиомы.
1°. Невырожденность нормы. ∀x ∈ E: ||x|| ≥ 0, ||x|| = 0 ⇔ x = θ.
2°. Однородность нормы. ∀λ ∈ , ∀x ∈ E: ||λx|| = |λ| · ||x||.
3°. Неравенство треугольника. ∀x,y ∈ E: ||x + y|| ≤ ||x|| + ||y||.
В одном и том же векторном пространстве Е норму можно вво-
дить различными способами.
Пример 1.2. Рассмотрим векторное пространство C[a;b] из примера
1.1. Покажите самостоятельно, что приводимые ниже способы вы-
числения нормы удовлетворяют аксиомам 1°—3°:
а) x xt
t ab
=
∈
max ( )
[ , ]
, б) x xt dt p
a
b p
=(∫ ( ) )
1
, где p ≥ 1.
Указание. В пункте б) для доказательства аксиомы треугольника
воспользуйтесь неравенством Минковского (1.1).
Определение. Расстоянием между элементами x, y нормирован-
ного векторного пространства Е назовем число ρ(x, y) = ||x – y||.
На основании аксиом нормы легко показать, что введенное рас-
стояние между элементами обладает следующими свойствами.
1°. ∀x,y ∈ E: ρ(x,y) = ρ(y,x).
2°. ∀x,y ∈ E: ρ(x,y) = 0 ⇔ x = y.
3°. ∀x,y,z ∈ E: (x,y) ≤ ρ(x,z) + ρ(y,z) (неравенство треугольника).
1 Доказательство см., например: Ефимов А. В., Золотарев Ю. Г., Тер-
пигорева В. М. Математический анализ (специальные разделы). — М.:
Высшая школа, 1980. Ч.1 и 2. — 279 и 295 с.
12 Глава 1. Элементы функционального анализа и спектрального
представления функций
◄ Первое и второе свойства очевидны. Для неравенства треуголь-
ника имеем:
ρ(x,y)= x−y = (x−z)+(z−y) ≤ x−z + z−y =ρ(x,z)+ρ(y,z). ►
Расстояние между элементами называют метрикой простран-
ства. Пространство (не обязательно нормированное), каждой паре
x, y элементов которого поставлено в соответствие вещественное
число ρ(x, y) (расстояние), обладающее свойствами 1°—3°, называ-
ется метрическим1.
Определения. В метрическом пространстве E открытым
шаром радиуса r > 0 c центром x0 ∈ E назовем множество
S x x E x x r r( ) ( , ) 0 0 ={∈ ρ <}, замкнутым шаром — множество
S x x E x x r r( ) ( , ) 0 0 ={∈ ρ ≤}. Окрестностью точки x0 ∈ E будем на-
зывать открытый шар произвольного радиуса ε, т. е. множество
Sε(x0).
Понятия нормы, расстояния, окрестности являются исходны-
ми для построения анализа в линейных нормированных простран-
ствах.
1.2. Анализ в линейных нормированных пространствах
Определение. В линейном нормированном пространстве (ЛНП)
Е элемент y ∈ E называется пределом последовательности {xk} ⊂ E,
если lim ( , )
k k y x
→∞
ρ = 0 . При этом говорят, что последовательность
{xk} сходится к элементу y и используют обозначение lim
k kx y
→∞
= .
Определение. Элемент a из ЛНП E называется предельной точкой
множества M ⊂ E, если в любой окрестности a содержится хотя
бы один элемент x ∈ M, x ≠ a. То есть ∀r> (Sa a)∩M≠∅ r 0 : ( ) \ .
1 Несмотря на то что метрическое пространство может и не быть нор-
мированным, мы будем рассматривать только нормированные метриче-
ские пространства с метрикой ρ(x, y) = ||x – y||.
1.2. Анализ в линейных нормированных пространствах 13
Теорема 1.1. Для того, чтобы элемент a из ЛНП E был предельной
точкой множества M ⊂ E, необходимо и достаточно существование
последовательности {xk} ⊂ M, xk ≠ a, сходящейся к a: lim
k k x a
→∞
= .
◄ Необходимость. Возьмем сходящуюся к нулю числовую последо-
вательность из ненулевых элементов, например, εk = 1/k, k = 1,2,…
Так как a — предельная точка M, то, по определению, ∀εk > 0
∃x ∈M x ≠a k k , : x S a k k ∈ ε ( ). Поскольку ρ(x ,a) x a ε k k k k = − < =1 и
lim
k k x a
→∞
− =0 , то так построенная последовательность {xk} сходится
к точке a: lim
k k x a
→∞
= .
Достаточность. Так как ∃{x},x∈M,x≠a k k k , причем lim
k k x a
→∞
= ,
то, по определению предела, lim
k k x a
→∞
− =0 и ∀ε > 0 ∃N(ε): ∀n > N(ε)
x a n− <ε. То есть в любой ε-окрестности точки a содержатся эле-
менты xn ∈ M, xn ≠ a, поэтому точка a является предельной для мно-
жества M. ►
Определение. Пусть M — подмножество в ЛНП E, а M' — мно-
жество всех предельных точек M. Объединение множеств
M=M∪M′ называется замыканием множества M. Если M со-
держит все свои предельные точки, т. е. M' ⊂ M, то множество M
называется замкнутым.
Определение. Множество M ⊂ E векторного пространства
Е называется линейным многообразием, если ∀x, y ∈ M, ∀λ,μ:
(λx + μy) ∈ M.
Определение. Замкнутое линейное многообразие L в ЛНП E,
L ⊂ E, назовем подпространством.
Определение. Расстоянием от точки x из ЛНП E до множества
L ⊂ E называется величина ρ(x,L) inf x u
u L
= −
∈
.
Для ограниченного снизу числового множества всегда най-
дется точная нижняя грань. Поскольку норма неотрицательна, то
расстояние от точки до подмножества (подпространства) всегда
существует. Расстояние ρ(x,L) характеризует наилучшее прибли-
жение (т. е. аппроксимацию) элемента x ∈ E элементами подмноже-
ства L ⊂ E.
Определение. Элемент y ∈ L, где L — подпространство из ЛНП E,
называется элементом наилучшего приближения (ЭНП) для за-
данного элемента x ∈ E, если ρ(x,L) = ||x – y||.
Элемент наилучшего приближения существует не всегда, а так-
же может быть не единственным.
Пример 1.3. Рассмотрим пространство 2, т. е. множество упорядо-
ченных пар вещественных чисел x = (ξ1,ξ2), где ξ1 ∈ , ξ2 ∈ . Введем
норму следующим образом: ||x|| = |ξ1| + |ξ2| (убедитесь самостоятель-
но, что аксиомы нормы выполняются). Рассмотрим подмножество
L ⊂ 2, L = {(ξ1,ξ2)⎢ξ1 = ξ2} = {(α,α)⎢α ∈ }. Тогда:
1) L — подпространство в E;
2) для x = (–1,1) имеем ρ(x,L) = 2, причем ЭНП — не единствен-
ный.
◄ 1. Множество L является линейным многообразием (убедитесь
самостоятельно). Покажем, что L — замкнуто. Допустим против-
ное: пусть существует элемент y∉L, т. е. y = (β1,β2), β1 ≠ β2, который
является предельной точкой множества L. Тогда для любой точки
u = (α,α) из множества L расстояние
ρ(y,u) = β α β α β α α β β β 1 2 1 2 1 2 − + − ≥ ( − )+( − )= − = r(y) > 0,
т. е. ограничено снизу положительной величиной r = r(y). Следова-
тельно, в окрестности Sr(y) нет ни одного элемента из множества L,
и произвольно выбранная точка y ∉ L не является предельной для
L. Поэтому все предельные точки множества L могут содержаться
только в самом этом множестве и L является замкнутым линейным
многообразием (подпространством) в 2.
2. Рассмотрим функцию
f t t t
t t
t
t t
( )
,
,
,
= + + − =
− <−
− ≤ ≤
<
⎧
⎨ ⎪
⎩ ⎪
1 1
2 1
2 1 1
2 1
.
Очевидно, inf ( ) min ( )
t t
f t f t
∈ ∈
= =
2 . Для расстояния от точки x = (–1,1)
до подпространства L имеем:
ρ(x,L) = inf inf inf ( )
u L
u x f
∈ ∈ ∈
− = ( + + −)=
α α
α α α
1 1 = 2.
При этом элементами наилучшего приближения для x являются
все точки отрезка L*={(α,α)−1≤α≤1}, L* ⊂ L. ►
1.3. Банаховы пространства
Определение. Пусть X — ЛНП. Последовательность {xn} ⊂ X на-
зывается фундаментальной, если ∀ε > 0 ∃N = N(ε): ∀n > N, ∀p ∈
||xn+p – xn|| < ε. ( — множество натуральных чисел.)
Напомним, что для случая X = (множество действительных
чисел) в курсе математического анализа был доказан критерий
Коши: числовая последовательность {xn} сходится тогда и только
тогда, когда она фундаментальна. Справедлив ли критерий Коши
в произвольном ЛНП?
Лемма 1.2. Всякая сходящаяся в ЛНП X последовательность {xn} —
фундаментальна.
◄ Так как последовательность {xn} сходится, то ∃ =
→∞
lim
n n x x, x ∈ X,
и ∀ε > 0 ∃N = N(ε), ∀n > N: x x n− <
ε
2
. Тогда также ∀p ∈ : x x n+p− <
ε
2
,
поэтому x x x x x x x x x x n+p n n+p n n+p n − = − + − ≤ − + − <ε, где чис-
ло ε > 0 может быть выбрано как угодно малым. Следовательно, по-
следовательность {xn} ⊂ X является фундаментальной. ►
Упражнение. Покажите самостоятельно, что если последователь-
ность {xn} — фундаментальна, то последовательность {λxn} также
фундаментальна.
Возникает вопрос: а всякая ли фундаментальная последо-
вательность {xn} ⊂ X сходится в произвольном ЛНП X? Для каж-
дой ли фундаментальной последовательности существует предел
lim
n n x x
→∞
= ∈ X?
Определение. ЛНП называется полным, если в нем сходится лю-
бая фундаментальная последовательность. Полное ЛНП назы-
вается банаховым (или пространством Банаха).
16 Глава 1. Элементы функционального анализа и спектрального
представления функций
Пример 1.4. Простейший пример пространства Банаха — множе-
ство вещественных чисел с нормой ||x|| = |x|.
Пример 1.5. Пространство L T 2 [0; ] непрерывных на отрезке t ∈ [0;T]
функций с нормой x xt dt
T = ∫ ( )2
0
— не является банаховым.
◄ Покажем, что это пространство неполно. Выберем на отрезке
t ∈ [0;T] кусочно-гладкую функцию f(t), имеющую разрыв первого
рода. Если составить для этой функции тригонометрический ряд
Фурье, то, как известно, частичные суммы ряда
s t
a
a
kt
T
b
kt
T n k k
k
n
( ) cos sin = + + ⎛⎝ ⎜
⎞⎠ ⎟
= Σ
0
2 1
2π 2π
(непрерывные функции) будут сходится в среднеквадратичном
смысле к функции f(t):
lim ( ) ( ) lim
n n
T
n n f t s t dt f s
→∞ →∞
∫ − = − = 2
0
0 ,
где L[ ;T] n ⊂ 2 0 , а f∉L T 2 [0; ]. Это означает, что последователь-
ность {sn} — фундаментальна в L T 2 [0; ] (доказательство данного
утверждения проводится аналогично схеме доказательства леммы
1.2). Однако, в силу единственности предела, последовательность
{sn} не может сходиться к элементу пространства L T 2 [0; ], так как
выбранная нами функция f(t) — разрывная. Отсюда следует, что
пространство L T 2 [0; ] не является полным. ►
Определения. Пусть X — ЛНП (не обязательно банахово),
а {xn} — некоторая последовательность, {xn} ⊂ X. Формально
составленная сумма xk = k
∞ Σ 1 называется рядом в X, а элемент
s x n k k
n = = Σ 1 — n-ной частичной суммой ряда. (Заметим, что
∀n: sn ∈ X, см. определение ЛНП). Ряд называется сходящимся
по норме ЛНП X, если в X сходится последовательность элемен-
тов {sn}, т. е. ∃ =
→∞
lim
n ns s ∈ X. Элемент s называется суммой ряда,
а запись s xk k = =
∞ Σ 1 означает, что ряд сходится по норме X и его
сумма равна s.
1.4. Пространства со скалярным произведением
Определение. Линейное пространство E называется евклидо-
вым, если каждой паре его элементов x,y ∈ E поставлено в соот-
ветствие вещественное число <x,y>, называемое скалярным про-
изведением, причем выполняются следующие аксиомы.
1°. ∀x ∈ E: <x,x> ≥ 0, причем <x,x> = 0 ⇔ x = θ.
2°. ∀x,y ∈ E: <x,y> = <y,x>.
3°. ∀x,y ∈ E, ∀λ ∈ : <λx,y> = λ <x,y>.
4°. ∀x,y,z ∈ E: <x + y,z> = <x,z> + <y,z>.
Заметим, что в данном определении ничего не говорится о нор-
мированности пространства E. Однако евклидово пространство
можно превратить в нормированное, если ввести норму следую-
щим образом:
x= <x,x>. (1.2)
Аксиомы нормы 1° и 2° при этом выполняются очевидным образом.
Для доказательства выполнения аксиомы 3° (неравенства треуголь-
ника) предварительно рассмотрим следующую лемму.
Лемма 1.3. Норма, введенная в соответствии с определением (1.2),
удовлетворяет неравенству Коши – Буняковского (или Шварца):
<x,y>≤x⋅y .
◄ Заметим, что ∀λ ∈ : <x−λy,x−λy>= x−λy ≥ 2 0 . Поэтому
0 2
2
2
2 2 2
≤ − − − +
= − +
x yx y xx xy yy
x xy y
λ λ λ λ
λ λ
, , , ,
, .
= =
Тогда дискриминант полученного квадратного трехчлена пере-
менной λ: 4 4 0 2 2 2 (<x,y>)− x y ≤ , что и доказывает неравенство
Коши – Буняковского. ►
Докажем теперь выполнение аксиомы треугольника. Так как
x y x y x y x x y y x + =< + + >= + < >+ ≤ + <x y>+ y 2 2 2 2 2 , 2 , 2 , ,
то, применяя к последнему выражению лемму 1.3, получаем:
x+y ≤ x + x⋅ y+ y =(x+ y) 2 2 2 2 2 , или x+y ≤ x + y .
Определения. Пусть E — линейное пространство с введенным
скалярным произведением. Ортогональными элементами про-
странства E называются такие элементы x,y ∈ E, что <x,y> = 0.
Ортогональность элементов будем обозначать x ⊥ y. Очевидно,
нулевой элемент ортогонален всем элементам пространства.
Ортогональной системой в E назовем множество попарно орто-
гональных элементов {xn} ⊂ E.
Теорема 1.2. Если xk k
m { } =1 — ортогональная система ненулевых
элементов в евклидовом пространстве E, xk k
m { } =1 ⊂ E, то элементы
xk k
m { } =1 — линейно независимы.
◄ Допустим противное. Пусть элементы xk k
m { } =1 — линейно зависи-
мы, т. е. существует такой набор чисел λk k
m { } =1 (не все из них равны
нулю), что λ θ k k
k
m
x
= Σ
=
1
. В силу ортогональности системы xk k
k m { } =
=
1
имеем ∀j = 1,…,m:
0
1
0
1
=< >= = < >= < >
=
≠
=
x xΣx Σ x x x x j j k k
k
m
k j k j j j
k
m
,θ , λ λ , λ ,
.
Поэтому все коэффициенты λk k
m { } =1 должны быть нулевыми, а это
противоречит допущению о линейной зависимости элементов
xk k
m { } =1 . ►
Следствие. В n-мерном евклидовом пространстве ортогональная
система из n ненулевых элементов образует базис.
В дальнейшем нам понадобятся два свойства скалярного произ-
ведения, которые устанавливаются в следующих леммах.
Лемма 1.4. (Свойство непрерывности скалярного произведения.)
Пусть в евклидовом пространстве E заданы две сходящиеся по-
следовательности: {xn} ⊂ E, lim
n n x x
→∞
= ∈ E, {yn} ⊂ E, lim
n ny y
→∞
= ∈ E.
Тогда числовая последовательность <xn,yn> также сходится и
lim , ,
n n n x y x y
→∞
< >=< > .
◄ С учетом леммы 1.3 имеем:
<x y > − <x y> = <x −x y > + <x y −y> n n n n n , , , , ≤
≤ <x −xy > + <xy −y> n n n , , ≤ x x y x y y n n n − ⋅ + ⋅ − .
Выражение в правой части последнего неравенства стремится
к нулю при n → ∞. Действительно, сходящаяся числовая последова-
тельность yn { } ограничена, кроме того, lim lim
n n n n x x y y
→∞ →∞
− = − =0.
Следовательно, lim , ,
n n n x y x y
→∞
< >=< > . ►
Лемма 1.5. (Равенство параллелограмма.) Для любых элементов x, y
евклидова пространства E и нормы (1.2) верно:
x+y +x−y = x + y 2 2 2 2 2 2 .
◄ x+y + x−y = x+y x+y + x−y x−y = = x + y 2 2 2 2 , , … 2 2 .
Проделайте опущенные выкладки самостоятельно. ►
Определение. Пространством Гильберта (обычно обозначает-
ся H) называется евклидово пространство, которое полно
в норме (1.2).
Пример 1.6. Пространство En арифметических векторов со ска-
лярным произведением, определенным для векторов x = (x1,...,xn),
y = (y1,...,yn) как x y , =
= Σ
x y k k
k
n
1
— полное, т. е. гильбертово.
Пример 1.7. Гильбертово пространство L2[a,b].
◄ В примере 1.5 было рассмотрено пространство L T 2 [0; ] непре-
рывных на отрезке t ∈ [0;T] функций с нормой x xt dt
T = ∫ ( )2
0
и было показано, что L T 2 [0; ] не является полным. Можно также
показать, что не является полным и пространство LY2[0;T] кусочно-
20 Глава 1. Элементы функционального анализа и спектрального
представления функций
непрерывных на отрезке t ∈ [0;T] функций с нормой, определяемой
тем же выражением.
Во многих теоретических вопросах рассматривают обобще-
ние пространств в L a b 2[ ; ] и LY2[a;b] — пространство L2[a,b] функций,
для которых норма элемента определяется как x xt dt
a
b =(∫ ( ) )
/
2
1 2
,
но интеграл понимается в смысле Лебега. Определенный интеграл
Лебега представляет собой обобщение «традиционного» интеграла
Римана и применим к более широкому классу функций. Теория ин-
теграла Лебега выходит за рамки данного пособия1, отметим лишь,
что пространство L2[a;b] является полным, а значит, гильбертовым.
Кроме того, любой элемент x ∈ L2[a;b] можно с какой угодно точ-
ностью ε > 0 приблизить по норме этого пространства элементом
xY ∈ LY2[a;b], т. е. кусочно-непрерывной функцией: ||xY – x|| < ε.
В тех случаях, когда полнота является неотъемлемо важ-
ным свойством, необходимо рассматривать пространство L2[a,b].
На практике для описания сигналов обычно ограничиваются мно-
жеством кусочно-непрерывных функций LY2[a;b] ⊂ L2[a;b]. Тогда при
определении скалярного произведения <x y>=∫ x t y t dt
a
b
, () ( ) и инду-
цируемой им нормы (1.2) определенный интеграл можно понимать
в смысле Римана. ►
1.5. Аппроксимация в гильбертовом пространстве
Сформулируем задачу аппроксимации, которую будем рассма-
тривать далее. Пусть H — гильбертово пространство, а L — под-
пространство в H, L ⊂ H. Для заданного элемента x ∈ H необходимо
найти элемент наилучшего приближения (ЭНП) y ∈ L, для которо-
го ρ(x,y) = ρ(x,L), т. е.
x y x u
u L
− = −
∈
inf . (1.3)
1 Подробнее см., например: Треногин В. А. Функциональный ана-
лиз. – М.: Физматлит, 2003. — 488 с.
1.5. Аппроксимация в гильбертовом пространстве 21
Теорема 1.3. В гильбертовом пространстве существует, и притом
единственный, ЭНП y ∈ L, который является решением задачи ап-
проксимации (1.3).
◄ Докажем сначала существование ЭНП. Обозначим
d x u
u L
= −
∈
inf . Из определения точной нижней грани следует, что
∀ε > 0 ∃uε ∈ L: d≤ x−u <d+ ε ε . Тогда, взяв числовую последова-
тельность εk = 1/k, k = 1,2,…, сможем построить последовательность
элементов {uk} ⊂ L такую, что
d x u d
k k ≤ − < + 1 .
Покажем, что {uk} — фундаментальная последовательность.
С использованием равенства параллелограмма (лемма 1.5) имеем
2 2 4
2
4 2 2 2
2
x u x u u u x 2 2
u u
u u d n m m n
m n
m n − + − = − + −
+
≥ − + ,
поскольку элемент v
u u
= m n L
+
∈
2
и ρ(x,ν) x v infx u d
u L
= − ≥ − =
∈
.
Поэтому u u x u x u d m n n m − ≤ − + − − 2 2 2 2 2 4 2, и тогда
u u d
n
d
m
d d
N
d m n − ≤ + ⎛⎝ ⎜
⎞⎠ ⎟
+ + ⎛⎝ ⎜
⎞⎠ ⎟
− ≤ + ⎛⎝ ⎜
⎞⎠ ⎟
− = 2
2 2
2
2
2 2
1
2
1
4 4
1
4
= + <
8 4 8 +4
2
d
N N
d
N
, где N = min(n,m).
Таким образом, величину ||um – un|| можно сделать как угодно ма-
лой за счет выбора достаточно большого числа N, т. е. последо-
вательность {uk} — фундаментальная, и вследствие полноты H
∃limu=y∈H k . Поскольку сходящаяся последовательность {uk} ⊂ L
и L — подпространство (т. е. замкнутое множество), то верно также:
y ∈L. Поэтому ρ(x, y) = d и существование ЭНП доказано.
Покажем, что ЭНП y — единственный. Для этого допустим про-
тивное. Пусть наряду с y существует также другой ЭНП y ∈L, т. е.
ρ(x,L)= x−y = x−y =d, причем y ≠ y. На основании равенства
параллелограмма (лемма 1.5) получаем:
4 2 2 4
2
2 2 2 2 4
2
d x y x y y y x 2 2
y y
y y d = − + − = − + −
+ ≥ − + ,
откуда y−y = 2 0 и y=y , т. е. ЭНП — единственный. ►
Теорема 1.4. Пусть L — подпространство в гильбертовом простран-
стве H, y ∈ L — ЭНП для заданного элемента x ∈ H. Тогда любой
элемент u ∈ L ортогонален элементу v = x – y: v ⊥ u, что обозначают
также v ⊥ L.
◄ Допустим противное, т. е. ∃u ∈ L: <x – y,u> = σ ≠ 0. Тогда u ≠ θ, и (см.
аксиому 1° скалярного произведения) <u,u> > 0. Рассмотрим эле-
мент y y
u u
= + u
< >
σ
,
, который также лежит в подпространстве L:
y ∈L, так как y ∈ L, u ∈ L. Имеем:
x y x y
u u
u x y
u u
− = − − u
< >
− −
< >
= 2 ( )
,
, ( )
,
σ σ
= < − − > − −
< >
+
< > < >
x y x y x y =
u u
u
u u
u
u u
, , u
, ,
,
,
2
σ σ σ
= − −
< >
< − >+
< >
< >= − −
< >
x y
u u
x y u
u u
u u x y
u u
2
2
2
2
2σ σ σ2
σ
,
,
,
,
,
.
Поскольку σ2
<u,u>
> 0, то x−y < x−y 2 2 и элемент y не является
ЭНП. Получили противоречие, поэтому ∀u ∈ L: <x – y,u> = 0. ►
Следствие из теорем 1.3, 1.4. Пусть L — подпространство в H. Тог-
да ∀x ∈ H существует единственное разложение x = y + z, где y ∈ L,
а z ⊥ L.
◄ Пусть x = y + z, ЭНП y ∈ L, z ⊥ L. Пусть существует также дру-
гое представление: x = a + b, где a ∈ L, b ⊥ L. Тогда y – a + z – b = θ,
и y−a+z−b,y−a =0= y−a,y−a + z,y−a − b,y−a = y−a2, т. к.
(y – a) ∈ L. Поэтому y = a и b = x – y. ►
ЭНП y ∈ L называют также проекцией эле-
мента x ∈ H на подпространство L. Для случая
H = E3, L = E2 результат теоремы 1.4 хорошо
известен и имеет несложную геометрическую
интерпретацию (см. рис. 1.1).
Теорема 1.4 определяет способ нахождения
ЭНП для x ∈ H в случае конечной размерности
e2
e3
e1
x
y
v=x-y
Рис. 1.1
подпространства L с заданным (не обязательно ортогональным)
базисом {g1,g2,...,gn}, y gj j
j
n
=
= Σ
λ
1
. Поиск коэффициентов разложе-
ния λ j j
n { }=1 осуществляется следующим образом. Так как ∀k: gk ∈ L,
<x – y, gk> = 0, то
x g g xg gg j j
j
n
k k j
j
n
j k − =< > − < >=
= =
Σλ Σλ
1 1
, , , 0
или
λ j
j
n
j k k g g x g
k n
= Σ
< >=< >
=
1
1
, , ,
,…, .
(1.4)
Определитель системы линейных уравнений (1.4) есть опреде-
литель матрицы Грама G={< >}=
g g j k k j
n
,
, 1, причем detG ≠ 0 в силу
линейной независимости элементов {g1,g2,...,gn}. (Напомним, что
detG = 0 тогда и только тогда, когда элементы {g1,g2,...,gn} линейно за-
висимы.) Следовательно, система уравнений (1.4) имеет единствен-
ное решение — набор коэффициентов λ j j
n { }=1 , который задает ЭНП
y gj j
j
n
=
= Σ
λ
1
.
Если же элементы базиса подпространства {g1,g2,...,gn} ⊂ L
не только линейно независимы, но и ортогональны, то поиск коэф-
фициентов λ j j
n { }=1 упрощается (убедитесь самостоятельно):
λ j
j
j j
x g
g g
=
< >
< >
,
,
. (1.5)
Определение. Пусть L — подпространство в H. Совокупность
всех элементов из H, ортогональных к L, L⊥ = {x ∈ H | x ⊥ L}, на-
зывается ортогональным дополнением подпространства L.
Теорема 1.5. Пусть L — подпространство в гильбертовом простран-
стве H. Тогда L⊥ также является подпространством в H.
◄ Нужно доказать, что L⊥ — замкнутое линейное многообразие.
Линейность. ∀u ∈ L, ∀x,y ∈ L⊥ ∀α, β — скаляров:
<u,αx + βy> = α <u,x> + β <u,y> = 0.
То есть для любой линейной комбинации z = αx + βy элементов из L⊥
имеем: z ⊥ L, следовательно, z ∈ L⊥ и L⊥ — линейное многообразие.
Замкнутость. Пусть z — произвольная предельная точка множества
L⊥. Тогда по теореме 1.1 найдется последовательность {zn} ⊂ L⊥, zn ≠ z:
lim
n nz z
→∞
= . Имеем ∀u ∈ L: <u,zn> = 0, но в силу непрерывности ска-
лярного произведения (лемма 1.4) lim
n→∞
<zn,u> = <z,u> = 0. Следова-
тельно, z ∈ L⊥ и множество L ⊥ содержит все свои предельные точки,
т. е. замкнуто. ►
Определение. Будем говорить, что гильбертово пространство H
разлагается в ортогональную сумму подпространств L1,L2,…,Ln
и записывать это как H = L1⊕L2⊕…⊕Ln , если:
1) все подпространства L1,L2,…,Ln попарно ортогональны, т. е.
∀u ∈ Li, ∀v ∈ Lj: <u,v> = 0, если i ≠ j;
2) ∀x ∈ H существует разложение x xi
i
n
=
= Σ1
, где xi ∈ Li.
Заметим, что если L — подпространство в гильбертовом про-
странстве H, то H = L⊕L⊥, что вытекает непосредственно из опреде-
ления L⊥, теорем 1.3—1.5 и их следствий.
Теорема 1.6. Пусть в гильбертовом пространстве H задано конечно-
мерное подпространство L с ортогональным базисом {g1,g2,...,gn}, а
y gj j
j
n
=
= Σ
λ
1
— ЭНП для заданного элемента x ∈ H. Тогда для ошибки
приближения — вектора x – y справедливы равенства:
x y x y x g j j
j
n
− = − = −
= Σ
2 2 2 2 2 2
1
λ .
◄ Поскольку <x – y, y> = 0 (см. теорему 1.4), то < x,y >=< y,y >= y 2,
x−y =<x−y x−y>=<x x> − <x y> + <y y>= x − y 2 2 2 , , 2 , , , причем
y g g g g g j j
j
n
m m
m
n
j
j
n
m j m
m
n
j j
j
n
2
1 1 1 1
2 2
1
= = < >=
= = = = =
Σλ,Σλ ΣλΣλ , Σλ . ►
Пусть теперь в H задана бесконечная последовательность не-
нулевых ортогональных векторов {ϕ } k k H =
∞ ⊂ 1 . Это означает, что
H — бесконечномерно, так как ортогональные элементы линей-
но независимы. Рассматривая первые элементы {ϕ } k k
n
=1 как базис,
получаем некоторое линейное многообразие Ln, «натянутое» на
{ϕ } k k
n
=1. Можно показать, что Ln — замкнуто, т. е. является подпро-
странством. Так как Ln — конечномерно, то с учетом теоремы 1.6 для
ЭНП yn j j j
n = = Σ λ ϕ 1 , yn ∈ Ln, имеем:
x y x y x n n j j
j
n
− = − = −
= Σ
2 2 2 2 2 2
1
λ ϕ . (1.6)
Числовая последовательность s y n n j j
j
n
= =
= Σ
2 2 2
1
λ ϕ ограничена
сверху, так как ∀n s x x y x n n = − − ≤ 2 2 2 , и является неубывающей
(sn + 1 ≥ sn). Поэтому {sn} — сходится. Сходимость последовательности
частичных сумм {sn} означает сходимость ряда s j j
j
=
=
∞Σ
λ2 ϕ 2
1
, при-
чем (см. (1.6))
λ ϕ j j
j
2 2 x
1
2
=
∞Σ
≤ . (1.7)
Соотношение (1.7) называется неравенством Бесселя.
Определения. Ортогональная система {ϕ } k k H =
∞ ⊂ 1 называется
полной в гильбертовом пространстве H, если ∀x ∈ H существует
разложение:
x k k
k
=
=
∞Σ
λ ϕ
1
, (1.8)
т. е. lim
n k k k
n x
→∞ = −Σ λ ϕ = 1
0 . Ряд (1.8) называется рядом Фурье
(по ортогональной системе {ϕk}), а числа {λk} — коэффициентами
Фурье.
Теорема 1.7. Пусть {g} H k k=
∞ ⊂ 1 — полная ортогональная система
в гильбертовом пространстве H. Тогда ∀x ∈ H для коэффициентов
Фурье {λ } k k=
∞
1 верна формула (1.5).
◄ Обозначим частичную сумму x g n k k
k
n
=
= Σ
λ
1
. В силу непрерывно-
сти скалярного произведения и ортогональности системы {g } k k=
∞
1
имеем:
< >= < >= =
→∞ →∞ =
Σ x g x g g g j n n j n k k
k
n
j , lim , lim λ ,
1
26 Глава 1. Элементы функционального анализа и спектрального
представления функций
= < > = < > = < >
→∞= =
limΣ , Σ∞ , ,
n k k j
k
n
k k j
k
j j j λ g g λ g g λ g g
1 1
,
откуда следует формула (1.5). ►
Теорема 1.8. Ортогональная система {ϕ } k k H =
∞ ⊂ 1 является полной
в гильбертовом пространстве H тогда и только тогда, когда ∀x ∈ H
неравенство (1.7) выполняется как равенство:
x j j
j
2 2 2
1
=
=
∞Σ
λ ϕ ,
которое называется равенством Парсеваля — Стеклова.
◄ Действительно, понятие полной системы {ϕ } k k H =
∞ ⊂ 1 означает,
что
∀x ∈ H: x k k
k
=
=
∞Σ
λ ϕ
1
и x k k
k
− =
=
∞Σ
λ ϕ
1
2
0 ,
что эквивалентно равенству x j j
j
2 2 2
1
− =0
=
∞Σ
λ ϕ , которое получает-
ся предельным переходом в соотношении (1.6). ►
Важнейшим примером гильбертова пространства являет-
ся пространство функций L2[a,b] (см. пример 1.7). При этом под
L2( ) = L2(–∞;∞) будем понимать пространство всех функций, ин-
тегрируемых с квадратом на всей числовой оси.
1.6. Примеры ортогональных систем в пространстве L2
Элементами в векторном пространстве L2 являются функции. При-
ведем ряд примеров ортогональных функциональных базисов {ϕk},
которые нашли широкое применение для обработки сигналов.
Пример 1.8. Тригонометрическая система функций
1
2 2
1
, cos , sin
πkt π
T
kt
T k
⎧⎨⎩
⎫⎬⎭
=
∞
является полной в пространстве L2[a,a + T]
на любом отрезке t ∈ [a;a + T] длины T.
1.6. Примеры ортогональных систем в пространстве L 27 2
Пример 1.9. Система ортогональных многочленов Лежандра
P t n n { ( )}=
∞
0 , P t
n
d
dt
t n n
n
n
( ) n
!
= 1 (( −))
2
2 1 является полной в пространстве
L2[–1,1].
При цифровой обработке сигналов использование степенных
многочленов для представления сигналов часто бывает более пред-
почтительным по сравнению с тригонометрическими функциями,
так как реализация вычислений последних обычно более сложна.
В этой связи еще более интересны базисы кусочно-постоянных
функций.
Пример 1.10. Систему функций Радемахера r x k k { ( )}=
∞
0 определим
следующим образом. Для x ∈ [0,1) положим
r x
x
x 0
1 01 2
1 12 1
( )
;
;
=
∈[ )
− ∈[ )
⎧⎨ ⎪
⎩⎪
при
при
и периодически продолжим r0(x) на всю числовую ось с периодом
T = 1. Остальные функции системы определим так: rk(x) = r0(2kx),
k = 1,2,… (см. рис. 1.2).
Для дальнейшего изложения удобно использовать следующее
обозначение: Δm
n
n n
m m =
⎡ +
⎣ ⎢
⎞⎠ ⎟
2
1
2
, , где n ∈ , m ∈ . Тогда из определения
0 0,5 1
r0(x)
1
–1
x 0 0,5 1
r1(x)
1
–1
x
0 0,5 1
r2(x)
1
-1
x
Рис. 1.2. Графики трех первых
функций r0(x), r1(x), r2(x) системы
Радемахера
28 Глава 1. Элементы функционального анализа и спектрального
представления функций
функций Радемахера и приведенных иллюстраций видны следую-
щие свойства данной системы.
1°. Кусочное постоянство.
∀ ∈ = =
−
−
x + r x const
m
m m
k
k Δ 1 1
: ( )
, если четное
1, если нечетное
⎧⎨⎩
.
На более мелких подынтервалах, естественно, функции также
постоянны:
∀k≥ ∀j≥k+ ∀x∈ m∈ rx=const m
j
k 0, 1, Δ , : ( ) . (1.9)
2°. Интеграл по периоду функции rk(x) равен нулю. Поэтому ∀m ∈
r x dx k
m k
( )
Δ
∫ = 0 (как интеграл по одному периоду T m
=Δk=2−k) и
∀m∈ ∀j= k ∫rxdx= k
m j
, 0,…, : () 0
Δ
, (1.10)
как интеграл по N периодам, N m
j
m
k
j
k
= = = k j
−
−
Δ Δ − 2
2
2 .
3°. Система функций r x k k { ( )}=
∞
0 — ортонормированна на отрезке
x ∈ [0,1].
◄ Очевидно, ∀k r r =∫(r x)dx= k k k : , ( )2
0
1
1 , т. е. функции нормиро-
ванны. Покажем, что ∀m≠k r r =∫ r x r x dx= k m k m : , ( ) ( )
0
1
0 . Пусть
для определенности k > m, тогда:
r r r x r x dx r x r x dx k m k m k m
c m k j
см
j
j k
, ( ) ( ) ( ) ( )
( , , )
.( . )
=∫ = ∫= Δ Δ 0
0
1 9
0
2 1 k−Σ =
= =
±
=
=
−
Σc m k j ∫ r x dx k
j
j k
k
( , , ) ( )
,
1
0
0
2 1
0
Δ
см.(1.10)
. ►
Таким образом, система функций r x k k { ( )}=
∞
0 является ортонор-
мированной, но она не является базисом в пространстве L2[0,1], по-
скольку не является полной.
Упражнение. Покажите самостоятельно по схеме, аналогичной
доказательству свойства 3°, что ненулевой элемент f(x) = r0(x)r1(x),
|| f(x)|| = 1, f(x) ∈ L2[0,1] является ортогональным любой из функций
1.6. Примеры ортогональных систем в пространстве L 29 2
Радемахера, т. е. ∀k: <f, rk> = 0. Следовательно, система r x k k { ( )}=
∞
0 —
неполная и не является базисом в L2[0,1].
Пример 1.11. Систему функций Уолша w x n n { ( )}=
∞
0 определим следу-
ющим образом. Представим целое число n ≥ 0 в виде двоичного раз-
ложения: n nk
k
k
l n
=
= Σ
2
0
( )
, nk ∈ {0,1}. Тогда функции системы Уолша вы-
ражаются при помощи функций Радемахера следующим образом:
w x r x r x n k
n
k
l
k
k n
k
k
( ) ( ) ( )
:
= ( ) =
= =
Π Π
0 1
, (1.11)
где конечное число l = l(n) определяется номером n функции Уол-
ша, n ≤ 2l+1 – 1. Таким образом, функция Уолша wn(x) определяется
как произведение функций Радемахера с номерами, которые со-
ответствуют единичным коэффициентам в двоичном разложении
числа n. При этом если все коэффициенты {nk} двоичного разложе-
ния равны нулю, то считаем последнее произведение в (1.11) равным
единице, т. е. w0(x) = 1. Поясним определение системы w x n n { ( )}=
∞
0
построением ее первых функций, см. таблицу. График функции
w3(x) = r0(x)r1(x) приведен на рис. 1.3.
n n2 n1 n0 wn(x)
0 0 0 0 w0(x) = 1
1 0 0 1 w1(x) = r0(x)
2 0 1 0 w2(x) = r1(x)
3 0 1 1 w3(x) = r0(x)r1(x)
4 1 0 0 w4(x) = r2(x)
0 0,5 1
w3(x)
1
–1
x
Рис. 1.3. Функция Уолша w3(x)
Замечание. Очевидно, что функции системы Уолша имеют период
T = 1.
Упражнение. Постройте самостоятельно по определению (1.11) гра-
фики функций w3(x),…,w7(x).
Теорема 1.9. Система функций Уолша (1.11) — ортонормированна
на интервале x ∈ [0,1).
◄ Очевидно, что ∀n: <wn,wn> = 1. Пусть теперь k ≠ n:
w w r x r x dx k n j
j k
j
j j nj
, () ( )
: :
=
⎛
⎝ ⎜
⎞
⎠ ⎟
⎛
⎝ ⎜
⎞
⎠ ⎟
=
= =
∫Π Π 0 1 1
1
= ( ) ⎛
⎝ ⎜
⎞
⎠ ⎟
⎛
⎝ ⎜
⎞
⎠ ⎟
=
= = ≠
∫Πr x Πr x dx r x d j
j k n
j
j n k
j
j j j j j
( ) ( ) ( )
: : :
2
0 1
1
nj kj
x
≠ Π
∫0
1
.
Поскольку n ≠ k и не все коэффициенты nj, kj одинаковы, то в полу-
ченном подынтегральном произведении имеется по крайней мере
один сомножитель. Положим j j
nj kj
=
≠
max и продолжим преобразова-
ния:
w w r x r xdx r x r x k n j j
j n k
j j
j j
j n k
j j
j j j j
, ( ) ( ) ( ) ( )
: :
= =
≠
<
≠
<
∫ Π Π
0
1
константа
c k n m
m
m j
j
dx
( , , ), см.(1.9)
Δ
∫ Σ=
−
=
0
2 1
= =
±
=
=
−
Σc k n m ∫ r x dx j
m
m j
j
( , , ) ( )
,
1
0
0
2 1
0
Δ
см.(1.10)
. ►
Теорема 1.10. Система Уолша (1.11) является полной в пространстве
L2[0,1]. (Примем утверждение теоремы без доказательства.)
Так как функции системы Уолша принимают лишь два значе-
ния ±1, они очень удобны для программных вычислений и для ап-
паратной реализации в цифровой аппаратуре.
Пример 1.12. Систему функций Хаара h x n n { ( )}=
∞
0 определим на по-
луинтервале x ∈ [0,1) следующим образом. Положим h0(x) = 1.
Для n > 0 номер базисной функции hn(x) представим следующим
1.6. Примеры ортогональных систем в пространстве L 31 2
образом: n = 2k + m, где целые числа k ≥ 0, 0 ≤ m ≤ 2k – 1 однозначно
определяются по номеру n > 0. Тогда
h x
x
x
x
n
k
m
k
k
m
k
m
k
m
k
( )=
∈
− ∈
∉ = ∪
+
+
+
+
2
2
0
2
2
1
2
2 1
1
2
1
при
при
при
Δ
Δ
Δ Δ Δ22 1
1
m
k
+
+
⎧
⎨ ⎪
⎩ ⎪
. (1.12)
Приведем графики первых фунций системы h x n n { ( )}=
∞
0 , см. рис. 1.4.
Рассмотренным ранее свойствам системы Радемахера во мно-
гом аналогичны следующие очевидные свойства системы Хаара
(n > 0, n = 2k + m, k ≥ 0, 0 ≤ m ≤ 2k – 1).
Рис. 1.4. Графики функций h1(x),…,
h5(x) системы Хаара
0 0,5 1
h1(x)
1
x
n=1, k=0, m=0
0 0,5 1
h2(x)
x
2
n = 2
k = 1
m = 0
0 0,25 1
h4(x)
2
x
n = 4
k = 2
m = 0
0 0,5 1
h3(x)
2
x
n = 3
k = 1
m = 1
0 0,25 1
h5(x)
2
0,5 x
n = 5
k = 2
m = 1
32 Глава 1. Элементы функционального анализа и спектрального
представления функций
1°. ∀ ≥ + ∀ ∈ j k l j − ∀x∈
l
1, {0,1,…,2 1}, Δ j:
h x const n
( )= ∈{0,−2k2,2k2}.
2°. ∀j∈ k ∀l∈ j − ∫ h x dx =
n
l
j
{0,…, }, {0,1,…,2 1}: ( ) 0
Δ
.
Теорема 1.11. Система функций Хаара (1.12) — ортонормированна
на интервале x ∈ [0;1}.
◄ В соответствии с определением (1.12)
<h x h x>= ∫ dx= n n
k k
m k
( ), ( ) 2 /22 /2 1
Δ
,
где n = 2k + m.
Рассмотрим теперь скалярное произведение h x h x n( ), ( ) ν , где
n = 2k + m, ν = 2γ + μ, причем n ≠ ν. Возможны два случая.
Случай 1. Пусть k ≠ γ, для определенности положим k ≥ γ + 1.
Тогда
h x h x h x h x dx n n
c kl const
x
l
l
k
l
k
k
( ), ( ) ( ) ( )
( , , )
ν ν
ν
= =
=
∀ ∈
=
−
Σ ∫
Δ
Δ
0
2 1
c kl h xdx n
l
l
k
k
(ν, , ) ( )
Δ
∫ Σ=
−
=
0
0
2 1
0
,
как следует из приведенных выше свойств системы Хаара.
Случай 2. Пусть γ = k, но m ≠ μ. Так как (см. (1.12)) hn(x) = 0 при
x m
∉Δk , hν(x) = 0 при x ∉Δkμ, то ∀x ∈ [0;1) hn(x)hν(x) = 0, поскольку для
m ≠ μ имеем: Δ Δ m
k k ∩ μ =∅. Поэтому вновь h x h x n( ), ( ) ν = 0. Таким об-
разом, система Хаара является ортонормированной. ►
Теорема 1.12. Система Хаара (1.12) является полной в пространстве
L2[0,1]. (Примем утверждение теоремы без доказательства.)
Упражнение. Разложите функцию
f x
x
x
x
( )
, ; ,
, ; ,
, [ ; )
=
∈[ )
∈[ )
∉
⎧
⎨ ⎪
⎩ ⎪
1 1412
2 1234
0 1434
в ряд Фурье по системам Хаара и Уолша. Проверьте выполнение ра-
венства Парсеваля.
1.7. Тригонометрические ряды Фурье.
Интеграл Фурье
Широкий класс устройств в электротехнике и радиоэлектрони-
ке описывается математической моделью линейной инвариант-
ной во времени (ЛИВ) системы, преобразующей входной сиг-
нал — функцию времени x(t) — в выходной сигнал y(t) = L{x(t)}
по правилу, определяемому формулой интегральной свертки:
y(t)= x( )h(t−)d
−∞
+∞ ∫ τ τ τ, где h(τ) — импульсная характеристика систе-
мы. Несложно показать, что для таких ЛИВ-систем функции вида
eiωt являются собственными, т. е. L{eiωt} = Aeiωt, где А = A(ω) — не-
которое комплексное число. Это означает, что гармонические ко-
лебания не изменяют своей формы при прохождении через ЛИВ-
систему, измениться могут лишь их амплитуда и фаза. По этой
причине базис гармонических колебаний наиболее удобен для
анализа ЛИВ-систем, а спектральное (или частотное) представ-
ление функций при помощи преобразования Фурье является ис-
ключительно важным математическим аппаратом, используемым
для анализа и синтеза систем обработки сигналов.
Напомним следующую теорему.
Теорема 1.13. Если функция f(t) имеет период T и является кусочно-
гладкой на периоде, то ее ряд Фурье1 сходится к функции f(t) в каж-
дой точке ее непрерывности и к значению 1
2
(f(t+0)+f(t−0)) в точ-
ках разрыва, то есть
f t f t a
a
k
T
t b
k
T
t k k
k
( ) ( )
cos sin
+ + −
= + + ⎛⎝ ⎜
⎞⎠ ⎟
=
∞Σ
0 0
2 2
2 2 0
1
π π , (1.13)
где коэффициенты Фурье находятся по формулам:
1 Если не говорится, какая система функций рассматривается в виде
базиса для построения ряда Фурье (см. раздел 1.5), то традиционно под-
разумевается тригонометрическая система.
34 Глава 1. Элементы функционального анализа и спектрального
представления функций
a
T
f t
k
T
t dt k
b
T
f t
k
T
t
k
T
T
k
= ⎛⎝ ⎜
⎞⎠ ⎟
=
= ⎛
−
∫ 2 2
0 1
2 2
2
2
( )cos , , ,
( )sin
/ π
π
…
⎝⎝ ⎜
⎞⎠ ⎟
=
−
∫ dt k
T
T
, ,,
/
1 2
2
2
…
(1.14)
Упражнение. Убедитесь, что формула (1.14) является частным слу-
чаем (1.5) для f ∈ L2[–T/2; T/2], см. также пример 1.8.
Часто, однако, более удобной является комплексная форма за-
писи ряда Фурье (1.13):
f t f t
ck
i
k
T
t
k
( ) ( )
e
+ + −
=
=−∞
∞Σ
0 0
2
2π
, (1.15)
c
T
f t i
k
T
t dt k k
T
T
= −⎛⎝ ⎜
⎞⎠ ⎟
= ± ±
−
∫ 1 2
0 1 2
2
2
( )exp , , , ,
/ π
… (1.16)
Реальные сигналы, чаще всего, представляют собой аперио-
дические функции, искусственная периодизация которых, не-
обходимая для корректного использования разложений (1.13) или
(1.15), представляет собой неоднозначную процедуру, приводящую
к искажению сигнала. Поступим следующим образом. Обозначим
νk = k/T, Δν ν ν Δν k k k = − = T= +1 1/ , тогда с использованием данных
обозначений из (1.15) и (1.16) получаем:
c fu i u du e k
i
k
T
t
k
k
T
T
i t
k
k
e ()exp k
2 /
2
2
2 2
π
πν πν ν
=−∞
∞
−
Σ = ∫ (− ) ⎛
⎝ ⎜
⎞
⎠ ⎟
Δ
=−∞
∞Σ
.
Далее непериодический сигнал представим как периодический
с бесконечно большим периодом, см. рис. 1.5.
T→∞
Рис. 1.5. Переход от периодического сигнала к непериодическому
Предположим, что существует интеграл (см. (1.16))
1.7. Тригонометрические ряды Фурье. Интеграл Фурье 35
S cT f u i
k
T
u du f u k T k T
T
T
( ) lim lim ( )exp ( )
/
/
ν
π
= = −⎛⎝ ⎜
⎞⎠ ⎟
=
→∞ →∞
−
+
∫ 2
2
2
e−
−∞
+∞
∫ i uk du 2πν .
При формальном переходе к пределу при Т → ∞ в ряде из (1.15) по-
лучим:
lim e lim ( ) ( )exp
T k
i
k
T
t
k
k
i t
k
c S k S
→∞ =−∞
∞
→ =−∞
∞ Σ = Σ =
2
0
2 2
π
ν
ν πν ν ν
Δ
e Δ (πiνt)dν
−∞
+∞
∫
в случае существования последнего интеграла, который понимает-
ся в смысле главного значения по Коши:
S it d S it d
N
N
N
(ν)exp(2πν)ν= lim (ν)exp(2πν)ν
−∞
+∞
→∞
−
+
∫ ∫ .
Данный интеграл носит название интеграла Фурье. Условия, при
которых функция допускает представление в виде интеграла Фу-
рье, определяет следующая теорема.
Теорема 1.14. Пусть функция f(t) абсолютно интегрируема на всей
числовой оси, т. е. f(t)dt < ∞
−∞
+∞
∫ , является кусочно-гладкой
на любом конечном отрезке t∈[a,b]⊂(−∞;∞) и в точках разрыва
f t
f t f t
( )
( ) ( ) =
+0+ −0
2
. Тогда она представима в виде интеграла
Фурье:
f t S i t d S d
N
N
N
( )= lim ( )exp( ) = ( )e i t
→∞
−
+
−∞
+∞
∫ ν 2πν ν∫ ν 2π ν ν, (1.17)
где
S(ν)= f(t)e− πiνt dt
−∞
+∞
∫ 2 , (1.18)
причем S(ν) — непрерывная функция.
Функция S(ν ) из (1.18) носит название частотного спектра, или
спектральной плотности, или спектральной характеристики функ-
ции (сигнала) f(t). Представления (1.18) и (1.17) называют соответ-
ственно прямым и обратным преобразованиями Фурье сигнала f(t).
36 Глава 1. Элементы функционального анализа и спектрального
представления функций
Их записывают также с использованием в качестве аргумента спек-
тральной плотности циклической частоты ω = 2πν :
S ft (ω) ( )e i t dt
π
= − ω
−∞
+∞
∫ 1
2
, f(t)= S( )ei td
−∞
+∞
∫ 1
2π
ω ω ω.
Таким образом, при выполнении условий теоремы 1.14 сигнал
можно описать как во временной области, т. е. через функцию вре-
мени f(t), так и в частотной области, через функцию частоты S(ν),
оба представления взаимно однозначно соответствуют друг другу:
f(t) ↔ S(ν).
Отметим ряд важных свойств интегрального преобразования
Фурье.
1°. Сопряженная симметрия. Для любой вещественной функ-
ции f(t): S(ν)=S(−ν). (Докажите самостоятельно.)
2°. Линейность. ∀x t↔S ∀y t↔S ∀ x y ( ) (ν), ( ) (ν), α,β :
f t x t y t S S S x y ( )=α( )+β( )↔(ν)=α (ν)+β (ν).
3°. Изменение масштаба. ∀f(t)↔S(ν),∀α>0 :
f(αt) S (ν) S( / )
α
ν α α ↔ =1 .
◄ S f t i t dt f t i t d t
α
π ν π ν
α
α ν α
α
( ) ( )e (α)e (α)
( ) = − = =
−∞
+∞
−
−∞
+∞
∫ ∫ 2 1 2
= − =
−∞
+∞
∫1 1 2
α α
f(u)e πi(ν/α)udu S(ν/α). ►
4°. Задержка сигнала. ∀f(t) ↔ S(ν), ∀t0: f t t S i t (− )↔e− ()
0
2π ν 0 ν .
(Докажите самостоятельно.)
5°. Сдвиг спектра. ∀f(t) ↔ S(ν), ∀α: f(t)e2πitα↔S(ν−α) .
(Докажите самостоятельно.)
6°. Свертка сигналов. ∀u(t) ↔ Su(ν), ∀w(t) ↔ Sw(ν):
f x u t w x t dt S S S u w ( )= ( ) ( −) ↔ ( )= ( ) ( )
−∞
∞
∫ ν ν ν.
◄ S(ν)= u(t)w(x−t)dt e πiνx dx u(t) w(x t)e πiνx
⎛
⎝ ⎜
⎞
⎠ ⎟
= −
−∞
∞
−
−∞
∞
− ∫ ∫ 2 2dx dt
−∞
∞
°
−∞
∞
∫ ∫ =
см. свойство 4
1.7. Тригонометрические ряды Фурье. Интеграл Фурье 37
= − =
−∞
∞
∫ u t S dt S S w
i t
u w ( ) (ν)e 2π ν (ν) (ν). ►
7°. Произведение сигналов. ∀u(t) ↔ Su(ν), ∀w(t) ↔ Sw(ν):
f t u t w t S S x S x dx u w ( )=( ) ( )↔( )= ( ) (−)
−∞
∞
ν ∫ ν .
(Докажите самостоятельно по аналогии с доказательством
свойства 6°.)
8°. Равенство Парсеваля. ∀f(t) ↔ S(ν): E= ft dt= S d
−∞
∞
−∞
∞
∫( ) ∫( ) 2 2 ν ν
(величину E называют энергией сигнала).
◄ E= ftftdt= ft S i td dt= S ft
−∞
∞
−∞
∞
−∞
∞
−∞
∞
∫( ) ( ) ∫( )∫(ν)e2π νν ∫(ν) ( )e2πiνtdtdν
−∞
∞
∫ =
= − = =
−∞
∞
−∞
∞
−∞
∞
−∞
∞
∫S(ν)∫f(t)e 2πiνtdtdν∫S(ν)S(ν)dν ∫S(ν)2dν . ►
9°. Дифференцирование во временной области. Если f(t)↔S(ν)
и функция f(t) дифференцируема, причем lim ( )
t
f t
→±∞
= 0, то
f′(t)↔2πiνS(ν).
◄ Интегрируя по частям, имеем:
′ − = − −
−∞
+∞
−
=−∞
=+∞ ∫ f t i tdt f t i t i f t
t
t
( )e2 ( )e2 ( ) (
0
π ν π ν 2π ν
)e− ( )
−∞
+∞
∫ 2πiνt dt = 2πiνS ν . ►
10°. Дифференцирование в частотной области. Если f(t) ↔ S(ν) и
функция S(ν) дифференцируема, причем lim ( )
ν
ν
→±∞
S = 0 , то
−2πit f (t)↔S ′(ν) .
(Докажите самостоятельно аналогично доказательству
свойства 9°.)
Упражнение. Покажите, что для функции и ее спектра f(t) ↔ S(ν)
условие d
d
S
m
νm
ν
ν
( )
=
=
0
0 эквивалентно условию tmf(t)dt
−∞
+∞
∫ = 0 для
любого натурального числа m.
Определение. Амплитудным спектром сигнала f(t) называет-
ся модуль |S(ν)| спектральной плотности S(ν), а фазовым спек-
38 Глава 1. Элементы функционального анализа и спектрального
представления функций
тром — ее аргумент, взятый с противоположным знаком1:
ϕ(ν)= −argS(ν).
Амплитудный и фазовый спектры позволяют записать спек-
тральную плотность в показательной форме: S(ν)=S(ν)e−iϕ(ν) . Бу-
дем считать по определению, что ϕ(ν)∈(−π;π].
Замечание. Из свойства 4° следует, что сдвиги сигнала во времен-
ной области влияют в частотной области лишь на фазовый спектр,
но не изменяют амплитудный спектр сигнала.
Пример 1.13. Найти амплитудный и фазовый спектры сигнала,
представляющего собой прямоугольный импульс длительности T:
f t
T t T
t T
( )
, [, ]
, [, ]
= ∈
∉
⎧⎨ ⎪
⎩⎪
1 0
0 0
при
при
.
◄ Найдем сначала спектральную плотность функции
g(t) = f(t + 0,5T):
S gt dt
T
dt g
i t i t
T
T i T i T
( ) ( )e e
e e ν
π
π ν π ν
π ν π ν
= = =
− −
−∞
+∞
−
−
+ −
∫ ∫ 2 2
2
2 1
2 i T
T
ν T
πν
πν
= sin .
Так как f(t) = g(t – 0,5T), то на основании свойства 4° получаем:
S
T
T f
( ) e i T
sin ν
πν
πν
= −π ν , откуда находим амплитудный спектр:
S
T
T
f( )
sin ν
πν
πν
= 1 .
Для фазового спектра ϕ(ν) рассмотрим сначала частоты ν ≥ 0.
При ν =k T,k =1,2,… arg Sf(ν) не определен, так как Sf(ν) = 0.
При ν∈(2k T;(2k +1) T), k =0,1,…, имеем sin πνT= sin πνT,
S
T
T
T
T
S f
i T
S
i T
f
i
f
( )
sin
e
sin
e () e
( )
ν (
πν
πν
πν
πν
π ν ν
ν
= − = −π ν = − ϕ
ν) , т. е.
1 Нередко фазовым спектром называют аргумент (без смены знака)
ϕ(ν) = arg S(ν).
1.8. Принцип неопределенности время-частотного 39
представления сигналов
e e ( ) − − = i i T ϕ ν πν и ϕ ν πν ( ) arg e = ( ) i T , причем ϕ ν ϕ ν ( )= + ⎛⎝ ⎜
⎞⎠ ⎟
2
T
.
При ν∈((2k+1)T;(2k+2)T), k=0,1,…, имеем | sin πνT | = –sin πνT,
S
T
T
T
T
S f
i T i T
f
( ) i
sin
e
sin
ν e () e ( )
πν
πν
πν
πν
= −π ν=− −π ν = ν − ϕ ν , т. е.
e−iϕ(ν) = −e−iπνT = e−iπνT +iπ и ϕ(ν)=arg(eiπ(νT−1)),
и вновь ϕ ν ϕ ν ( )= + ⎛⎝ ⎜
⎞⎠ ⎟
2
T
.
Таким образом, для неотрицательных частот достаточно при-
вести один период фазового спектра ϕ(ν). Для ν ∈ [0;2/T) получаем:
ϕ ν
πν ν
πν π ν
( )
, (; )
, ( ; )
=
∈
− ∈
⎧⎨⎩
T T
T T T
при
при
0 1
1 2
.
Вид функции ϕ(ν) для ν < 0 находим на основании свойства 1°
интеграла Фурье, которое означает, что ϕ(–ν) = –ϕ(ν). Графики ам-
плитудного и фазового спектров приведены на рис. 1.6. ►
T
1
T
2
T
− 1
T
⎢⎮S(ν)⎮
ν
ν
T
2
T
1
-π
T
−1
π
ϕ(ν)
Рис. 1.6. Графики амплитудного (слева) и фазового (справа) спек-
тров сигнала из примера 1.13
Упражнение. Используя свойства 2°—4° преобразования Фурье и ре-
зультаты решения примера 1.13, найдите амплитудный и фазовый
спектры функции
x
x
x
( )=
∈ − [ )
− ∈[ )
∉ − [ )
⎧
⎨ ⎪
⎩ ⎪
1 10
1 01
0 11
, ; ,
, ; ,
, ; .
В последние годы методы цифровой обработки сигналов (ЦОС)
в радиотехнике, радиоэлектронике, системах связи, контроля
и управления активно вытесняют методы аналоговой обработки
сигналов. Этому способствует стремительно увеличивающаяся
производительность вычислительной техники, которая проника-
ет во все области человеческой деятельности. Важность изучения
методов ЦОС трудно переоценить. На сегодняшний день вопро-
сы, связанные с цифровой обработкой сигналов и кодированием
информации, перестали быть узкоспециальными. Основы знаний
в данной области требуются большинству инженеров, а для специ-
алистов в области электронной техники и информационных тех-
нологий необходимо более глубокое понимание основных методов
ЦОС и математической теории, лежащей в их основе. Предлагаемое
вниманию читателя учебное пособие направлено на изучение этих
вопросов.
Пособие предназначено в первую очередь для студентов, обуча-
ющихся по инженерным направлениям «Прикладная математика»
и «Информатика и вычислительная техника». Однако при написа-
нии пособия автор старался опираться лишь на общий курс выс-
шей математики, читаемый для всех инженерных специальностей,
поэтому оно может быть рекомендовано также для студентов, обу-
чающихся по профилям радиотехнического и телекоммуникаци-
онного направлений подготовки.
Первое издание пособия было выпущено в 2008 году издатель-
ством «Форум» и было допущено учебно-методическим объедине-
нием по университетскому политехническому образованию в каче-
стве учебного пособия для студентов высших учебных заведений,
обучающихся по направлению «Информатика и вычислительная
техника».
Второе издание представляет собой существенно переработан-
ный и расширенный материал, в который внесены исправления,
Предисловие 7
включены новые разделы, добавлены упражнения для самостоя-
тельного выполнения.
Первая глава содержит необходимые предварительные сведения
из функционального анализа и теории спектрального представле-
ния функций. В качестве напоминания приведены краткие сведе-
ния об интеграле Фурье и его свойствах, на которые в дальнейшем
будут производиться многочисленные ссылки. Кроме того, в пер-
вой главе вводятся популярные в ЦОС функциональные системы
Уолша и Хаара; рассматриваются обобщение интегрального пре-
образования Фурье и важный для спектрального анализа принцип
неопределенности время-частотного представления сигналов.
Вторая глава посвящена вопросам дискретизации непрерывных
сигналов и преобразований, прежде всего, преобразования Фурье.
Значительное внимание уделено частотным вопросам дискрети-
зации и построению алгоритмов быстрого преобразования Фурье
(БПФ). Рассмотрены также дискретные преобразования Уолша
и Хаара, приведены их быстрые алгоритмы вычислений. Отдель-
ный раздел посвящен квантованию сигналов.
В третьей главе вводятся основные понятия теории линейных
дискретных систем (фильтров). Основное внимание уделено анализу
фильтров. Также рассматриваются некоторые практические вопро-
сы синтеза фильтров с конечной импульсной характеристикой, со-
гласованной фильтрации, реализации преобразования Гильберта.
Четвертая глава представляет собой введение в теорию инфор-
мации и помимо теоретических сведений содержит также описа-
ние методов эффективного кодирования, которые используются
в современных алгоритмах сжатия данных.
В пятой и шестой главах представлено более углубленное из-
ложение специализированных разделов ЦОС, связанных с эффек-
тивным представлением сигналов. Фактически, здесь изучается
тот теоретический базис, который составляет основу большинства
современных цифровых методов сжатия аудио- и видеосигна-
лов. В частности, шестая глава целиком посвящена дискретным
вейвлет-преобразованиям. По сравнению с первым изданием, ма-
териал пятой и шестой глав был подвергнут наиболее существен-
ной переработке.
В книге используется двойная нумерация для рисунков, фор-
мул, примеров и теорем: первая цифра обозначает главу, вторая —
порядковый номер формулы (примера, теоремы) в главе. При ну-
мерации (обозначении) аксиом и свойств используется значок «°»,
например 1°. Начало и окончание доказательств теорем, решений
примеров обозначается соответственно символами ◄ и ►.
Основу данного учебного пособия составляет курс лекций, чи-
таемый автором на протяжении ряда лет в Национальном исследо-
вательском университете «МИЭТ». Большое значение в работе над
вторым изданием книги имело обсуждение содержания рукописи
с коллегами — сотрудниками МИЭТ. Автор выражает глубокую
признательность доценту В. В. Лесину за внимательное прочтение
рукописи и ряд ценных методических рекомендаций, а также бла-
годарит доцента В. Н. Земскова за полезные замечания, которые
были учтены при подготовке учебного пособия в печать.
ГЛАВА 1
ЭЛЕМЕНТЫ ФУНКЦИОНАЛЬНОГО АНАЛИЗА
И СПЕКТРАЛЬНОГО ПРЕДСТАВЛЕНИЯ ФУНКЦИЙ
Функциональный анализ — раздел математики, который представля-
ет собой абстрактное обобщение линейной алгебры и математического
анализа. Рассмотрим некоторые понятия и методы функционального
анализа, которые наиболее важны для теории обработки сигналов.
1.1. Линейные нормированные пространства
Определение. Множество Е элементов произвольной природы
называется линейным пространством, если в нем однозначно
определены операции сложения элементов x + y и умножения
элементов на скаляр λ (вещественное или комплексное число)
λx, результатом которых является элемент из того же множества
Е, причем выполняются следующие аксиомы.
1°. ∀x, y ∈ E: x + y = y + x.
2°. ∀x, y, z ∈ E: (x + y) + z = x + (y + z).
3°. ∃θ ∈ E, ∀x ∈ E: θ + x = x (существование нулевого элемента θ).
4°. ∀x ∈ E, ∀λ, μ (λ, μ — скаляры): λ(μx) = (λμ)x.
5°. Умножение на скаляры λ = 0 и λ = 1: 0x = θ, 1x = x.
6°. ∀x ∈ E, ∀λ, μ: (λ + μ)x = λx + μx .
7°. ∀x, y ∈ E, ∀λ: λ(x + y) = λx + λy.
Назовем противоположным элементом для x ∈ E такой элемент
y ∈ E, что x + y = θ. Из аксиом 5° и 6° следует, что y = (–1)x (элемент
x, умноженный на число –1). Обозначим противоположный эле-
мент –x.
В курсе линейной алгебры изучались линейные пространства n
арифметических векторов размерности n. Приведенное выше аксио-
матическое определение обобщает понятие линейного пространства
n на множества произвольной природы. По аналогии, элементы
любого линейного пространства также будем называть векторами,
а сами линейные пространства — векторными пространствами. В том
же обычном смысле будем понимать термины «базис пространства»,
«линейная зависимость» (независимость) векторов и «размерность
пространства». Напомним, что число n называется размерностью
векторного пространства Е (обозначается n = dimE), если в Е найдет-
ся n линейно независимых ненулевых элементов, а любые (n + 1) не-
нулевых элементов пространства Е являются линейно зависимыми.
Линейное пространство может иметь бесконечную размерность.
Пример 1.1. Пусть C[a;b] — множество всех функций, непрерывных
на отрезке [a;b]. Является ли это множество линейным простран-
ством и если да, то какова его размерность?
◄ Выполнение аксиом 1°—7° очевидно, нулевым элементом θ явля-
ется функция f(x) = 0, ∀x ∈ [a;b]. Покажем, что C[a;b] — бесконеч-
номерное пространство. Выберем из множества C[a;b] n ненулевых
элементов — функций yi(x) = xi–1, i = 1,2,…,n. При любом числе n
эти элементы являются линейно независимыми, так как равен-
ство нулю многочлена λ λ i i
i
n
i
i
i
n
y x
=
−
=
Σ Σ= =
1
1
1
0 для всех точек отрезка
x ∈ [a,b] возможно лишь в случае λ i = 0, i = 1,…,n. Поскольку число n
можно выбрать как угодно большим, то dim(C[a;b]) = ∞. ►
Лемма 1.1. (Неравенство Минковского для интегралов.) Пусть для
p ≥ 1 существуют интегралы u x dx p
a
b
∫ ( ) , v x dx p
a
b
∫ ( ) (пределы инте-
грирования — не обязательно конечные). Тогда существует также
интеграл u x v x dx p
a
b
∫ ( )+ ( ) , причем верна оценка:
1.1. Линейные нормированные пространства 11
u x v x dx u x dx v x dx p
a
b p
p
a
b p
p
a
b p
(∫( )+ ( ) ) ≤(∫( ) ) +(∫ ( ) )
1 1 1
. (1.1)
Опустим доказательство леммы, которое носит технический
характер1.
Определение. Линейное пространство Е называется нормиро-
ванным, если каждому элементу x ∈ E поставлено в соответствие
вещественное число ||x||, называемое нормой, для которой вы-
полняются следующие аксиомы.
1°. Невырожденность нормы. ∀x ∈ E: ||x|| ≥ 0, ||x|| = 0 ⇔ x = θ.
2°. Однородность нормы. ∀λ ∈ , ∀x ∈ E: ||λx|| = |λ| · ||x||.
3°. Неравенство треугольника. ∀x,y ∈ E: ||x + y|| ≤ ||x|| + ||y||.
В одном и том же векторном пространстве Е норму можно вво-
дить различными способами.
Пример 1.2. Рассмотрим векторное пространство C[a;b] из примера
1.1. Покажите самостоятельно, что приводимые ниже способы вы-
числения нормы удовлетворяют аксиомам 1°—3°:
а) x xt
t ab
=
∈
max ( )
[ , ]
, б) x xt dt p
a
b p
=(∫ ( ) )
1
, где p ≥ 1.
Указание. В пункте б) для доказательства аксиомы треугольника
воспользуйтесь неравенством Минковского (1.1).
Определение. Расстоянием между элементами x, y нормирован-
ного векторного пространства Е назовем число ρ(x, y) = ||x – y||.
На основании аксиом нормы легко показать, что введенное рас-
стояние между элементами обладает следующими свойствами.
1°. ∀x,y ∈ E: ρ(x,y) = ρ(y,x).
2°. ∀x,y ∈ E: ρ(x,y) = 0 ⇔ x = y.
3°. ∀x,y,z ∈ E: (x,y) ≤ ρ(x,z) + ρ(y,z) (неравенство треугольника).
1 Доказательство см., например: Ефимов А. В., Золотарев Ю. Г., Тер-
пигорева В. М. Математический анализ (специальные разделы). — М.:
Высшая школа, 1980. Ч.1 и 2. — 279 и 295 с.
12 Глава 1. Элементы функционального анализа и спектрального
представления функций
◄ Первое и второе свойства очевидны. Для неравенства треуголь-
ника имеем:
ρ(x,y)= x−y = (x−z)+(z−y) ≤ x−z + z−y =ρ(x,z)+ρ(y,z). ►
Расстояние между элементами называют метрикой простран-
ства. Пространство (не обязательно нормированное), каждой паре
x, y элементов которого поставлено в соответствие вещественное
число ρ(x, y) (расстояние), обладающее свойствами 1°—3°, называ-
ется метрическим1.
Определения. В метрическом пространстве E открытым
шаром радиуса r > 0 c центром x0 ∈ E назовем множество
S x x E x x r r( ) ( , ) 0 0 ={∈ ρ <}, замкнутым шаром — множество
S x x E x x r r( ) ( , ) 0 0 ={∈ ρ ≤}. Окрестностью точки x0 ∈ E будем на-
зывать открытый шар произвольного радиуса ε, т. е. множество
Sε(x0).
Понятия нормы, расстояния, окрестности являются исходны-
ми для построения анализа в линейных нормированных простран-
ствах.
1.2. Анализ в линейных нормированных пространствах
Определение. В линейном нормированном пространстве (ЛНП)
Е элемент y ∈ E называется пределом последовательности {xk} ⊂ E,
если lim ( , )
k k y x
→∞
ρ = 0 . При этом говорят, что последовательность
{xk} сходится к элементу y и используют обозначение lim
k kx y
→∞
= .
Определение. Элемент a из ЛНП E называется предельной точкой
множества M ⊂ E, если в любой окрестности a содержится хотя
бы один элемент x ∈ M, x ≠ a. То есть ∀r> (Sa a)∩M≠∅ r 0 : ( ) \ .
1 Несмотря на то что метрическое пространство может и не быть нор-
мированным, мы будем рассматривать только нормированные метриче-
ские пространства с метрикой ρ(x, y) = ||x – y||.
1.2. Анализ в линейных нормированных пространствах 13
Теорема 1.1. Для того, чтобы элемент a из ЛНП E был предельной
точкой множества M ⊂ E, необходимо и достаточно существование
последовательности {xk} ⊂ M, xk ≠ a, сходящейся к a: lim
k k x a
→∞
= .
◄ Необходимость. Возьмем сходящуюся к нулю числовую последо-
вательность из ненулевых элементов, например, εk = 1/k, k = 1,2,…
Так как a — предельная точка M, то, по определению, ∀εk > 0
∃x ∈M x ≠a k k , : x S a k k ∈ ε ( ). Поскольку ρ(x ,a) x a ε k k k k = − < =1 и
lim
k k x a
→∞
− =0 , то так построенная последовательность {xk} сходится
к точке a: lim
k k x a
→∞
= .
Достаточность. Так как ∃{x},x∈M,x≠a k k k , причем lim
k k x a
→∞
= ,
то, по определению предела, lim
k k x a
→∞
− =0 и ∀ε > 0 ∃N(ε): ∀n > N(ε)
x a n− <ε. То есть в любой ε-окрестности точки a содержатся эле-
менты xn ∈ M, xn ≠ a, поэтому точка a является предельной для мно-
жества M. ►
Определение. Пусть M — подмножество в ЛНП E, а M' — мно-
жество всех предельных точек M. Объединение множеств
M=M∪M′ называется замыканием множества M. Если M со-
держит все свои предельные точки, т. е. M' ⊂ M, то множество M
называется замкнутым.
Определение. Множество M ⊂ E векторного пространства
Е называется линейным многообразием, если ∀x, y ∈ M, ∀λ,μ:
(λx + μy) ∈ M.
Определение. Замкнутое линейное многообразие L в ЛНП E,
L ⊂ E, назовем подпространством.
Определение. Расстоянием от точки x из ЛНП E до множества
L ⊂ E называется величина ρ(x,L) inf x u
u L
= −
∈
.
Для ограниченного снизу числового множества всегда най-
дется точная нижняя грань. Поскольку норма неотрицательна, то
расстояние от точки до подмножества (подпространства) всегда
существует. Расстояние ρ(x,L) характеризует наилучшее прибли-
жение (т. е. аппроксимацию) элемента x ∈ E элементами подмноже-
ства L ⊂ E.
Определение. Элемент y ∈ L, где L — подпространство из ЛНП E,
называется элементом наилучшего приближения (ЭНП) для за-
данного элемента x ∈ E, если ρ(x,L) = ||x – y||.
Элемент наилучшего приближения существует не всегда, а так-
же может быть не единственным.
Пример 1.3. Рассмотрим пространство 2, т. е. множество упорядо-
ченных пар вещественных чисел x = (ξ1,ξ2), где ξ1 ∈ , ξ2 ∈ . Введем
норму следующим образом: ||x|| = |ξ1| + |ξ2| (убедитесь самостоятель-
но, что аксиомы нормы выполняются). Рассмотрим подмножество
L ⊂ 2, L = {(ξ1,ξ2)⎢ξ1 = ξ2} = {(α,α)⎢α ∈ }. Тогда:
1) L — подпространство в E;
2) для x = (–1,1) имеем ρ(x,L) = 2, причем ЭНП — не единствен-
ный.
◄ 1. Множество L является линейным многообразием (убедитесь
самостоятельно). Покажем, что L — замкнуто. Допустим против-
ное: пусть существует элемент y∉L, т. е. y = (β1,β2), β1 ≠ β2, который
является предельной точкой множества L. Тогда для любой точки
u = (α,α) из множества L расстояние
ρ(y,u) = β α β α β α α β β β 1 2 1 2 1 2 − + − ≥ ( − )+( − )= − = r(y) > 0,
т. е. ограничено снизу положительной величиной r = r(y). Следова-
тельно, в окрестности Sr(y) нет ни одного элемента из множества L,
и произвольно выбранная точка y ∉ L не является предельной для
L. Поэтому все предельные точки множества L могут содержаться
только в самом этом множестве и L является замкнутым линейным
многообразием (подпространством) в 2.
2. Рассмотрим функцию
f t t t
t t
t
t t
( )
,
,
,
= + + − =
− <−
− ≤ ≤
<
⎧
⎨ ⎪
⎩ ⎪
1 1
2 1
2 1 1
2 1
.
Очевидно, inf ( ) min ( )
t t
f t f t
∈ ∈
= =
2 . Для расстояния от точки x = (–1,1)
до подпространства L имеем:
ρ(x,L) = inf inf inf ( )
u L
u x f
∈ ∈ ∈
− = ( + + −)=
α α
α α α
1 1 = 2.
При этом элементами наилучшего приближения для x являются
все точки отрезка L*={(α,α)−1≤α≤1}, L* ⊂ L. ►
1.3. Банаховы пространства
Определение. Пусть X — ЛНП. Последовательность {xn} ⊂ X на-
зывается фундаментальной, если ∀ε > 0 ∃N = N(ε): ∀n > N, ∀p ∈
||xn+p – xn|| < ε. ( — множество натуральных чисел.)
Напомним, что для случая X = (множество действительных
чисел) в курсе математического анализа был доказан критерий
Коши: числовая последовательность {xn} сходится тогда и только
тогда, когда она фундаментальна. Справедлив ли критерий Коши
в произвольном ЛНП?
Лемма 1.2. Всякая сходящаяся в ЛНП X последовательность {xn} —
фундаментальна.
◄ Так как последовательность {xn} сходится, то ∃ =
→∞
lim
n n x x, x ∈ X,
и ∀ε > 0 ∃N = N(ε), ∀n > N: x x n− <
ε
2
. Тогда также ∀p ∈ : x x n+p− <
ε
2
,
поэтому x x x x x x x x x x n+p n n+p n n+p n − = − + − ≤ − + − <ε, где чис-
ло ε > 0 может быть выбрано как угодно малым. Следовательно, по-
следовательность {xn} ⊂ X является фундаментальной. ►
Упражнение. Покажите самостоятельно, что если последователь-
ность {xn} — фундаментальна, то последовательность {λxn} также
фундаментальна.
Возникает вопрос: а всякая ли фундаментальная последо-
вательность {xn} ⊂ X сходится в произвольном ЛНП X? Для каж-
дой ли фундаментальной последовательности существует предел
lim
n n x x
→∞
= ∈ X?
Определение. ЛНП называется полным, если в нем сходится лю-
бая фундаментальная последовательность. Полное ЛНП назы-
вается банаховым (или пространством Банаха).
16 Глава 1. Элементы функционального анализа и спектрального
представления функций
Пример 1.4. Простейший пример пространства Банаха — множе-
ство вещественных чисел с нормой ||x|| = |x|.
Пример 1.5. Пространство L T 2 [0; ] непрерывных на отрезке t ∈ [0;T]
функций с нормой x xt dt
T = ∫ ( )2
0
— не является банаховым.
◄ Покажем, что это пространство неполно. Выберем на отрезке
t ∈ [0;T] кусочно-гладкую функцию f(t), имеющую разрыв первого
рода. Если составить для этой функции тригонометрический ряд
Фурье, то, как известно, частичные суммы ряда
s t
a
a
kt
T
b
kt
T n k k
k
n
( ) cos sin = + + ⎛⎝ ⎜
⎞⎠ ⎟
= Σ
0
2 1
2π 2π
(непрерывные функции) будут сходится в среднеквадратичном
смысле к функции f(t):
lim ( ) ( ) lim
n n
T
n n f t s t dt f s
→∞ →∞
∫ − = − = 2
0
0 ,
где L[ ;T] n ⊂ 2 0 , а f∉L T 2 [0; ]. Это означает, что последователь-
ность {sn} — фундаментальна в L T 2 [0; ] (доказательство данного
утверждения проводится аналогично схеме доказательства леммы
1.2). Однако, в силу единственности предела, последовательность
{sn} не может сходиться к элементу пространства L T 2 [0; ], так как
выбранная нами функция f(t) — разрывная. Отсюда следует, что
пространство L T 2 [0; ] не является полным. ►
Определения. Пусть X — ЛНП (не обязательно банахово),
а {xn} — некоторая последовательность, {xn} ⊂ X. Формально
составленная сумма xk = k
∞ Σ 1 называется рядом в X, а элемент
s x n k k
n = = Σ 1 — n-ной частичной суммой ряда. (Заметим, что
∀n: sn ∈ X, см. определение ЛНП). Ряд называется сходящимся
по норме ЛНП X, если в X сходится последовательность элемен-
тов {sn}, т. е. ∃ =
→∞
lim
n ns s ∈ X. Элемент s называется суммой ряда,
а запись s xk k = =
∞ Σ 1 означает, что ряд сходится по норме X и его
сумма равна s.
1.4. Пространства со скалярным произведением
Определение. Линейное пространство E называется евклидо-
вым, если каждой паре его элементов x,y ∈ E поставлено в соот-
ветствие вещественное число <x,y>, называемое скалярным про-
изведением, причем выполняются следующие аксиомы.
1°. ∀x ∈ E: <x,x> ≥ 0, причем <x,x> = 0 ⇔ x = θ.
2°. ∀x,y ∈ E: <x,y> = <y,x>.
3°. ∀x,y ∈ E, ∀λ ∈ : <λx,y> = λ <x,y>.
4°. ∀x,y,z ∈ E: <x + y,z> = <x,z> + <y,z>.
Заметим, что в данном определении ничего не говорится о нор-
мированности пространства E. Однако евклидово пространство
можно превратить в нормированное, если ввести норму следую-
щим образом:
x= <x,x>. (1.2)
Аксиомы нормы 1° и 2° при этом выполняются очевидным образом.
Для доказательства выполнения аксиомы 3° (неравенства треуголь-
ника) предварительно рассмотрим следующую лемму.
Лемма 1.3. Норма, введенная в соответствии с определением (1.2),
удовлетворяет неравенству Коши – Буняковского (или Шварца):
<x,y>≤x⋅y .
◄ Заметим, что ∀λ ∈ : <x−λy,x−λy>= x−λy ≥ 2 0 . Поэтому
0 2
2
2
2 2 2
≤ − − − +
= − +
x yx y xx xy yy
x xy y
λ λ λ λ
λ λ
, , , ,
, .
= =
Тогда дискриминант полученного квадратного трехчлена пере-
менной λ: 4 4 0 2 2 2 (<x,y>)− x y ≤ , что и доказывает неравенство
Коши – Буняковского. ►
Докажем теперь выполнение аксиомы треугольника. Так как
x y x y x y x x y y x + =< + + >= + < >+ ≤ + <x y>+ y 2 2 2 2 2 , 2 , 2 , ,
то, применяя к последнему выражению лемму 1.3, получаем:
x+y ≤ x + x⋅ y+ y =(x+ y) 2 2 2 2 2 , или x+y ≤ x + y .
Определения. Пусть E — линейное пространство с введенным
скалярным произведением. Ортогональными элементами про-
странства E называются такие элементы x,y ∈ E, что <x,y> = 0.
Ортогональность элементов будем обозначать x ⊥ y. Очевидно,
нулевой элемент ортогонален всем элементам пространства.
Ортогональной системой в E назовем множество попарно орто-
гональных элементов {xn} ⊂ E.
Теорема 1.2. Если xk k
m { } =1 — ортогональная система ненулевых
элементов в евклидовом пространстве E, xk k
m { } =1 ⊂ E, то элементы
xk k
m { } =1 — линейно независимы.
◄ Допустим противное. Пусть элементы xk k
m { } =1 — линейно зависи-
мы, т. е. существует такой набор чисел λk k
m { } =1 (не все из них равны
нулю), что λ θ k k
k
m
x
= Σ
=
1
. В силу ортогональности системы xk k
k m { } =
=
1
имеем ∀j = 1,…,m:
0
1
0
1
=< >= = < >= < >
=
≠
=
x xΣx Σ x x x x j j k k
k
m
k j k j j j
k
m
,θ , λ λ , λ ,
.
Поэтому все коэффициенты λk k
m { } =1 должны быть нулевыми, а это
противоречит допущению о линейной зависимости элементов
xk k
m { } =1 . ►
Следствие. В n-мерном евклидовом пространстве ортогональная
система из n ненулевых элементов образует базис.
В дальнейшем нам понадобятся два свойства скалярного произ-
ведения, которые устанавливаются в следующих леммах.
Лемма 1.4. (Свойство непрерывности скалярного произведения.)
Пусть в евклидовом пространстве E заданы две сходящиеся по-
следовательности: {xn} ⊂ E, lim
n n x x
→∞
= ∈ E, {yn} ⊂ E, lim
n ny y
→∞
= ∈ E.
Тогда числовая последовательность <xn,yn> также сходится и
lim , ,
n n n x y x y
→∞
< >=< > .
◄ С учетом леммы 1.3 имеем:
<x y > − <x y> = <x −x y > + <x y −y> n n n n n , , , , ≤
≤ <x −xy > + <xy −y> n n n , , ≤ x x y x y y n n n − ⋅ + ⋅ − .
Выражение в правой части последнего неравенства стремится
к нулю при n → ∞. Действительно, сходящаяся числовая последова-
тельность yn { } ограничена, кроме того, lim lim
n n n n x x y y
→∞ →∞
− = − =0.
Следовательно, lim , ,
n n n x y x y
→∞
< >=< > . ►
Лемма 1.5. (Равенство параллелограмма.) Для любых элементов x, y
евклидова пространства E и нормы (1.2) верно:
x+y +x−y = x + y 2 2 2 2 2 2 .
◄ x+y + x−y = x+y x+y + x−y x−y = = x + y 2 2 2 2 , , … 2 2 .
Проделайте опущенные выкладки самостоятельно. ►
Определение. Пространством Гильберта (обычно обозначает-
ся H) называется евклидово пространство, которое полно
в норме (1.2).
Пример 1.6. Пространство En арифметических векторов со ска-
лярным произведением, определенным для векторов x = (x1,...,xn),
y = (y1,...,yn) как x y , =
= Σ
x y k k
k
n
1
— полное, т. е. гильбертово.
Пример 1.7. Гильбертово пространство L2[a,b].
◄ В примере 1.5 было рассмотрено пространство L T 2 [0; ] непре-
рывных на отрезке t ∈ [0;T] функций с нормой x xt dt
T = ∫ ( )2
0
и было показано, что L T 2 [0; ] не является полным. Можно также
показать, что не является полным и пространство LY2[0;T] кусочно-
20 Глава 1. Элементы функционального анализа и спектрального
представления функций
непрерывных на отрезке t ∈ [0;T] функций с нормой, определяемой
тем же выражением.
Во многих теоретических вопросах рассматривают обобще-
ние пространств в L a b 2[ ; ] и LY2[a;b] — пространство L2[a,b] функций,
для которых норма элемента определяется как x xt dt
a
b =(∫ ( ) )
/
2
1 2
,
но интеграл понимается в смысле Лебега. Определенный интеграл
Лебега представляет собой обобщение «традиционного» интеграла
Римана и применим к более широкому классу функций. Теория ин-
теграла Лебега выходит за рамки данного пособия1, отметим лишь,
что пространство L2[a;b] является полным, а значит, гильбертовым.
Кроме того, любой элемент x ∈ L2[a;b] можно с какой угодно точ-
ностью ε > 0 приблизить по норме этого пространства элементом
xY ∈ LY2[a;b], т. е. кусочно-непрерывной функцией: ||xY – x|| < ε.
В тех случаях, когда полнота является неотъемлемо важ-
ным свойством, необходимо рассматривать пространство L2[a,b].
На практике для описания сигналов обычно ограничиваются мно-
жеством кусочно-непрерывных функций LY2[a;b] ⊂ L2[a;b]. Тогда при
определении скалярного произведения <x y>=∫ x t y t dt
a
b
, () ( ) и инду-
цируемой им нормы (1.2) определенный интеграл можно понимать
в смысле Римана. ►
1.5. Аппроксимация в гильбертовом пространстве
Сформулируем задачу аппроксимации, которую будем рассма-
тривать далее. Пусть H — гильбертово пространство, а L — под-
пространство в H, L ⊂ H. Для заданного элемента x ∈ H необходимо
найти элемент наилучшего приближения (ЭНП) y ∈ L, для которо-
го ρ(x,y) = ρ(x,L), т. е.
x y x u
u L
− = −
∈
inf . (1.3)
1 Подробнее см., например: Треногин В. А. Функциональный ана-
лиз. – М.: Физматлит, 2003. — 488 с.
1.5. Аппроксимация в гильбертовом пространстве 21
Теорема 1.3. В гильбертовом пространстве существует, и притом
единственный, ЭНП y ∈ L, который является решением задачи ап-
проксимации (1.3).
◄ Докажем сначала существование ЭНП. Обозначим
d x u
u L
= −
∈
inf . Из определения точной нижней грани следует, что
∀ε > 0 ∃uε ∈ L: d≤ x−u <d+ ε ε . Тогда, взяв числовую последова-
тельность εk = 1/k, k = 1,2,…, сможем построить последовательность
элементов {uk} ⊂ L такую, что
d x u d
k k ≤ − < + 1 .
Покажем, что {uk} — фундаментальная последовательность.
С использованием равенства параллелограмма (лемма 1.5) имеем
2 2 4
2
4 2 2 2
2
x u x u u u x 2 2
u u
u u d n m m n
m n
m n − + − = − + −
+
≥ − + ,
поскольку элемент v
u u
= m n L
+
∈
2
и ρ(x,ν) x v infx u d
u L
= − ≥ − =
∈
.
Поэтому u u x u x u d m n n m − ≤ − + − − 2 2 2 2 2 4 2, и тогда
u u d
n
d
m
d d
N
d m n − ≤ + ⎛⎝ ⎜
⎞⎠ ⎟
+ + ⎛⎝ ⎜
⎞⎠ ⎟
− ≤ + ⎛⎝ ⎜
⎞⎠ ⎟
− = 2
2 2
2
2
2 2
1
2
1
4 4
1
4
= + <
8 4 8 +4
2
d
N N
d
N
, где N = min(n,m).
Таким образом, величину ||um – un|| можно сделать как угодно ма-
лой за счет выбора достаточно большого числа N, т. е. последо-
вательность {uk} — фундаментальная, и вследствие полноты H
∃limu=y∈H k . Поскольку сходящаяся последовательность {uk} ⊂ L
и L — подпространство (т. е. замкнутое множество), то верно также:
y ∈L. Поэтому ρ(x, y) = d и существование ЭНП доказано.
Покажем, что ЭНП y — единственный. Для этого допустим про-
тивное. Пусть наряду с y существует также другой ЭНП y ∈L, т. е.
ρ(x,L)= x−y = x−y =d, причем y ≠ y. На основании равенства
параллелограмма (лемма 1.5) получаем:
4 2 2 4
2
2 2 2 2 4
2
d x y x y y y x 2 2
y y
y y d = − + − = − + −
+ ≥ − + ,
откуда y−y = 2 0 и y=y , т. е. ЭНП — единственный. ►
Теорема 1.4. Пусть L — подпространство в гильбертовом простран-
стве H, y ∈ L — ЭНП для заданного элемента x ∈ H. Тогда любой
элемент u ∈ L ортогонален элементу v = x – y: v ⊥ u, что обозначают
также v ⊥ L.
◄ Допустим противное, т. е. ∃u ∈ L: <x – y,u> = σ ≠ 0. Тогда u ≠ θ, и (см.
аксиому 1° скалярного произведения) <u,u> > 0. Рассмотрим эле-
мент y y
u u
= + u
< >
σ
,
, который также лежит в подпространстве L:
y ∈L, так как y ∈ L, u ∈ L. Имеем:
x y x y
u u
u x y
u u
− = − − u
< >
− −
< >
= 2 ( )
,
, ( )
,
σ σ
= < − − > − −
< >
+
< > < >
x y x y x y =
u u
u
u u
u
u u
, , u
, ,
,
,
2
σ σ σ
= − −
< >
< − >+
< >
< >= − −
< >
x y
u u
x y u
u u
u u x y
u u
2
2
2
2
2σ σ σ2
σ
,
,
,
,
,
.
Поскольку σ2
<u,u>
> 0, то x−y < x−y 2 2 и элемент y не является
ЭНП. Получили противоречие, поэтому ∀u ∈ L: <x – y,u> = 0. ►
Следствие из теорем 1.3, 1.4. Пусть L — подпространство в H. Тог-
да ∀x ∈ H существует единственное разложение x = y + z, где y ∈ L,
а z ⊥ L.
◄ Пусть x = y + z, ЭНП y ∈ L, z ⊥ L. Пусть существует также дру-
гое представление: x = a + b, где a ∈ L, b ⊥ L. Тогда y – a + z – b = θ,
и y−a+z−b,y−a =0= y−a,y−a + z,y−a − b,y−a = y−a2, т. к.
(y – a) ∈ L. Поэтому y = a и b = x – y. ►
ЭНП y ∈ L называют также проекцией эле-
мента x ∈ H на подпространство L. Для случая
H = E3, L = E2 результат теоремы 1.4 хорошо
известен и имеет несложную геометрическую
интерпретацию (см. рис. 1.1).
Теорема 1.4 определяет способ нахождения
ЭНП для x ∈ H в случае конечной размерности
e2
e3
e1
x
y
v=x-y
Рис. 1.1
подпространства L с заданным (не обязательно ортогональным)
базисом {g1,g2,...,gn}, y gj j
j
n
=
= Σ
λ
1
. Поиск коэффициентов разложе-
ния λ j j
n { }=1 осуществляется следующим образом. Так как ∀k: gk ∈ L,
<x – y, gk> = 0, то
x g g xg gg j j
j
n
k k j
j
n
j k − =< > − < >=
= =
Σλ Σλ
1 1
, , , 0
или
λ j
j
n
j k k g g x g
k n
= Σ
< >=< >
=
1
1
, , ,
,…, .
(1.4)
Определитель системы линейных уравнений (1.4) есть опреде-
литель матрицы Грама G={< >}=
g g j k k j
n
,
, 1, причем detG ≠ 0 в силу
линейной независимости элементов {g1,g2,...,gn}. (Напомним, что
detG = 0 тогда и только тогда, когда элементы {g1,g2,...,gn} линейно за-
висимы.) Следовательно, система уравнений (1.4) имеет единствен-
ное решение — набор коэффициентов λ j j
n { }=1 , который задает ЭНП
y gj j
j
n
=
= Σ
λ
1
.
Если же элементы базиса подпространства {g1,g2,...,gn} ⊂ L
не только линейно независимы, но и ортогональны, то поиск коэф-
фициентов λ j j
n { }=1 упрощается (убедитесь самостоятельно):
λ j
j
j j
x g
g g
=
< >
< >
,
,
. (1.5)
Определение. Пусть L — подпространство в H. Совокупность
всех элементов из H, ортогональных к L, L⊥ = {x ∈ H | x ⊥ L}, на-
зывается ортогональным дополнением подпространства L.
Теорема 1.5. Пусть L — подпространство в гильбертовом простран-
стве H. Тогда L⊥ также является подпространством в H.
◄ Нужно доказать, что L⊥ — замкнутое линейное многообразие.
Линейность. ∀u ∈ L, ∀x,y ∈ L⊥ ∀α, β — скаляров:
<u,αx + βy> = α <u,x> + β <u,y> = 0.
То есть для любой линейной комбинации z = αx + βy элементов из L⊥
имеем: z ⊥ L, следовательно, z ∈ L⊥ и L⊥ — линейное многообразие.
Замкнутость. Пусть z — произвольная предельная точка множества
L⊥. Тогда по теореме 1.1 найдется последовательность {zn} ⊂ L⊥, zn ≠ z:
lim
n nz z
→∞
= . Имеем ∀u ∈ L: <u,zn> = 0, но в силу непрерывности ска-
лярного произведения (лемма 1.4) lim
n→∞
<zn,u> = <z,u> = 0. Следова-
тельно, z ∈ L⊥ и множество L ⊥ содержит все свои предельные точки,
т. е. замкнуто. ►
Определение. Будем говорить, что гильбертово пространство H
разлагается в ортогональную сумму подпространств L1,L2,…,Ln
и записывать это как H = L1⊕L2⊕…⊕Ln , если:
1) все подпространства L1,L2,…,Ln попарно ортогональны, т. е.
∀u ∈ Li, ∀v ∈ Lj: <u,v> = 0, если i ≠ j;
2) ∀x ∈ H существует разложение x xi
i
n
=
= Σ1
, где xi ∈ Li.
Заметим, что если L — подпространство в гильбертовом про-
странстве H, то H = L⊕L⊥, что вытекает непосредственно из опреде-
ления L⊥, теорем 1.3—1.5 и их следствий.
Теорема 1.6. Пусть в гильбертовом пространстве H задано конечно-
мерное подпространство L с ортогональным базисом {g1,g2,...,gn}, а
y gj j
j
n
=
= Σ
λ
1
— ЭНП для заданного элемента x ∈ H. Тогда для ошибки
приближения — вектора x – y справедливы равенства:
x y x y x g j j
j
n
− = − = −
= Σ
2 2 2 2 2 2
1
λ .
◄ Поскольку <x – y, y> = 0 (см. теорему 1.4), то < x,y >=< y,y >= y 2,
x−y =<x−y x−y>=<x x> − <x y> + <y y>= x − y 2 2 2 , , 2 , , , причем
y g g g g g j j
j
n
m m
m
n
j
j
n
m j m
m
n
j j
j
n
2
1 1 1 1
2 2
1
= = < >=
= = = = =
Σλ,Σλ ΣλΣλ , Σλ . ►
Пусть теперь в H задана бесконечная последовательность не-
нулевых ортогональных векторов {ϕ } k k H =
∞ ⊂ 1 . Это означает, что
H — бесконечномерно, так как ортогональные элементы линей-
но независимы. Рассматривая первые элементы {ϕ } k k
n
=1 как базис,
получаем некоторое линейное многообразие Ln, «натянутое» на
{ϕ } k k
n
=1. Можно показать, что Ln — замкнуто, т. е. является подпро-
странством. Так как Ln — конечномерно, то с учетом теоремы 1.6 для
ЭНП yn j j j
n = = Σ λ ϕ 1 , yn ∈ Ln, имеем:
x y x y x n n j j
j
n
− = − = −
= Σ
2 2 2 2 2 2
1
λ ϕ . (1.6)
Числовая последовательность s y n n j j
j
n
= =
= Σ
2 2 2
1
λ ϕ ограничена
сверху, так как ∀n s x x y x n n = − − ≤ 2 2 2 , и является неубывающей
(sn + 1 ≥ sn). Поэтому {sn} — сходится. Сходимость последовательности
частичных сумм {sn} означает сходимость ряда s j j
j
=
=
∞Σ
λ2 ϕ 2
1
, при-
чем (см. (1.6))
λ ϕ j j
j
2 2 x
1
2
=
∞Σ
≤ . (1.7)
Соотношение (1.7) называется неравенством Бесселя.
Определения. Ортогональная система {ϕ } k k H =
∞ ⊂ 1 называется
полной в гильбертовом пространстве H, если ∀x ∈ H существует
разложение:
x k k
k
=
=
∞Σ
λ ϕ
1
, (1.8)
т. е. lim
n k k k
n x
→∞ = −Σ λ ϕ = 1
0 . Ряд (1.8) называется рядом Фурье
(по ортогональной системе {ϕk}), а числа {λk} — коэффициентами
Фурье.
Теорема 1.7. Пусть {g} H k k=
∞ ⊂ 1 — полная ортогональная система
в гильбертовом пространстве H. Тогда ∀x ∈ H для коэффициентов
Фурье {λ } k k=
∞
1 верна формула (1.5).
◄ Обозначим частичную сумму x g n k k
k
n
=
= Σ
λ
1
. В силу непрерывно-
сти скалярного произведения и ортогональности системы {g } k k=
∞
1
имеем:
< >= < >= =
→∞ →∞ =
Σ x g x g g g j n n j n k k
k
n
j , lim , lim λ ,
1
26 Глава 1. Элементы функционального анализа и спектрального
представления функций
= < > = < > = < >
→∞= =
limΣ , Σ∞ , ,
n k k j
k
n
k k j
k
j j j λ g g λ g g λ g g
1 1
,
откуда следует формула (1.5). ►
Теорема 1.8. Ортогональная система {ϕ } k k H =
∞ ⊂ 1 является полной
в гильбертовом пространстве H тогда и только тогда, когда ∀x ∈ H
неравенство (1.7) выполняется как равенство:
x j j
j
2 2 2
1
=
=
∞Σ
λ ϕ ,
которое называется равенством Парсеваля — Стеклова.
◄ Действительно, понятие полной системы {ϕ } k k H =
∞ ⊂ 1 означает,
что
∀x ∈ H: x k k
k
=
=
∞Σ
λ ϕ
1
и x k k
k
− =
=
∞Σ
λ ϕ
1
2
0 ,
что эквивалентно равенству x j j
j
2 2 2
1
− =0
=
∞Σ
λ ϕ , которое получает-
ся предельным переходом в соотношении (1.6). ►
Важнейшим примером гильбертова пространства являет-
ся пространство функций L2[a,b] (см. пример 1.7). При этом под
L2( ) = L2(–∞;∞) будем понимать пространство всех функций, ин-
тегрируемых с квадратом на всей числовой оси.
1.6. Примеры ортогональных систем в пространстве L2
Элементами в векторном пространстве L2 являются функции. При-
ведем ряд примеров ортогональных функциональных базисов {ϕk},
которые нашли широкое применение для обработки сигналов.
Пример 1.8. Тригонометрическая система функций
1
2 2
1
, cos , sin
πkt π
T
kt
T k
⎧⎨⎩
⎫⎬⎭
=
∞
является полной в пространстве L2[a,a + T]
на любом отрезке t ∈ [a;a + T] длины T.
1.6. Примеры ортогональных систем в пространстве L 27 2
Пример 1.9. Система ортогональных многочленов Лежандра
P t n n { ( )}=
∞
0 , P t
n
d
dt
t n n
n
n
( ) n
!
= 1 (( −))
2
2 1 является полной в пространстве
L2[–1,1].
При цифровой обработке сигналов использование степенных
многочленов для представления сигналов часто бывает более пред-
почтительным по сравнению с тригонометрическими функциями,
так как реализация вычислений последних обычно более сложна.
В этой связи еще более интересны базисы кусочно-постоянных
функций.
Пример 1.10. Систему функций Радемахера r x k k { ( )}=
∞
0 определим
следующим образом. Для x ∈ [0,1) положим
r x
x
x 0
1 01 2
1 12 1
( )
;
;
=
∈[ )
− ∈[ )
⎧⎨ ⎪
⎩⎪
при
при
и периодически продолжим r0(x) на всю числовую ось с периодом
T = 1. Остальные функции системы определим так: rk(x) = r0(2kx),
k = 1,2,… (см. рис. 1.2).
Для дальнейшего изложения удобно использовать следующее
обозначение: Δm
n
n n
m m =
⎡ +
⎣ ⎢
⎞⎠ ⎟
2
1
2
, , где n ∈ , m ∈ . Тогда из определения
0 0,5 1
r0(x)
1
–1
x 0 0,5 1
r1(x)
1
–1
x
0 0,5 1
r2(x)
1
-1
x
Рис. 1.2. Графики трех первых
функций r0(x), r1(x), r2(x) системы
Радемахера
28 Глава 1. Элементы функционального анализа и спектрального
представления функций
функций Радемахера и приведенных иллюстраций видны следую-
щие свойства данной системы.
1°. Кусочное постоянство.
∀ ∈ = =
−
−
x + r x const
m
m m
k
k Δ 1 1
: ( )
, если четное
1, если нечетное
⎧⎨⎩
.
На более мелких подынтервалах, естественно, функции также
постоянны:
∀k≥ ∀j≥k+ ∀x∈ m∈ rx=const m
j
k 0, 1, Δ , : ( ) . (1.9)
2°. Интеграл по периоду функции rk(x) равен нулю. Поэтому ∀m ∈
r x dx k
m k
( )
Δ
∫ = 0 (как интеграл по одному периоду T m
=Δk=2−k) и
∀m∈ ∀j= k ∫rxdx= k
m j
, 0,…, : () 0
Δ
, (1.10)
как интеграл по N периодам, N m
j
m
k
j
k
= = = k j
−
−
Δ Δ − 2
2
2 .
3°. Система функций r x k k { ( )}=
∞
0 — ортонормированна на отрезке
x ∈ [0,1].
◄ Очевидно, ∀k r r =∫(r x)dx= k k k : , ( )2
0
1
1 , т. е. функции нормиро-
ванны. Покажем, что ∀m≠k r r =∫ r x r x dx= k m k m : , ( ) ( )
0
1
0 . Пусть
для определенности k > m, тогда:
r r r x r x dx r x r x dx k m k m k m
c m k j
см
j
j k
, ( ) ( ) ( ) ( )
( , , )
.( . )
=∫ = ∫= Δ Δ 0
0
1 9
0
2 1 k−Σ =
= =
±
=
=
−
Σc m k j ∫ r x dx k
j
j k
k
( , , ) ( )
,
1
0
0
2 1
0
Δ
см.(1.10)
. ►
Таким образом, система функций r x k k { ( )}=
∞
0 является ортонор-
мированной, но она не является базисом в пространстве L2[0,1], по-
скольку не является полной.
Упражнение. Покажите самостоятельно по схеме, аналогичной
доказательству свойства 3°, что ненулевой элемент f(x) = r0(x)r1(x),
|| f(x)|| = 1, f(x) ∈ L2[0,1] является ортогональным любой из функций
1.6. Примеры ортогональных систем в пространстве L 29 2
Радемахера, т. е. ∀k: <f, rk> = 0. Следовательно, система r x k k { ( )}=
∞
0 —
неполная и не является базисом в L2[0,1].
Пример 1.11. Систему функций Уолша w x n n { ( )}=
∞
0 определим следу-
ющим образом. Представим целое число n ≥ 0 в виде двоичного раз-
ложения: n nk
k
k
l n
=
= Σ
2
0
( )
, nk ∈ {0,1}. Тогда функции системы Уолша вы-
ражаются при помощи функций Радемахера следующим образом:
w x r x r x n k
n
k
l
k
k n
k
k
( ) ( ) ( )
:
= ( ) =
= =
Π Π
0 1
, (1.11)
где конечное число l = l(n) определяется номером n функции Уол-
ша, n ≤ 2l+1 – 1. Таким образом, функция Уолша wn(x) определяется
как произведение функций Радемахера с номерами, которые со-
ответствуют единичным коэффициентам в двоичном разложении
числа n. При этом если все коэффициенты {nk} двоичного разложе-
ния равны нулю, то считаем последнее произведение в (1.11) равным
единице, т. е. w0(x) = 1. Поясним определение системы w x n n { ( )}=
∞
0
построением ее первых функций, см. таблицу. График функции
w3(x) = r0(x)r1(x) приведен на рис. 1.3.
n n2 n1 n0 wn(x)
0 0 0 0 w0(x) = 1
1 0 0 1 w1(x) = r0(x)
2 0 1 0 w2(x) = r1(x)
3 0 1 1 w3(x) = r0(x)r1(x)
4 1 0 0 w4(x) = r2(x)
0 0,5 1
w3(x)
1
–1
x
Рис. 1.3. Функция Уолша w3(x)
Замечание. Очевидно, что функции системы Уолша имеют период
T = 1.
Упражнение. Постройте самостоятельно по определению (1.11) гра-
фики функций w3(x),…,w7(x).
Теорема 1.9. Система функций Уолша (1.11) — ортонормированна
на интервале x ∈ [0,1).
◄ Очевидно, что ∀n: <wn,wn> = 1. Пусть теперь k ≠ n:
w w r x r x dx k n j
j k
j
j j nj
, () ( )
: :
=
⎛
⎝ ⎜
⎞
⎠ ⎟
⎛
⎝ ⎜
⎞
⎠ ⎟
=
= =
∫Π Π 0 1 1
1
= ( ) ⎛
⎝ ⎜
⎞
⎠ ⎟
⎛
⎝ ⎜
⎞
⎠ ⎟
=
= = ≠
∫Πr x Πr x dx r x d j
j k n
j
j n k
j
j j j j j
( ) ( ) ( )
: : :
2
0 1
1
nj kj
x
≠ Π
∫0
1
.
Поскольку n ≠ k и не все коэффициенты nj, kj одинаковы, то в полу-
ченном подынтегральном произведении имеется по крайней мере
один сомножитель. Положим j j
nj kj
=
≠
max и продолжим преобразова-
ния:
w w r x r xdx r x r x k n j j
j n k
j j
j j
j n k
j j
j j j j
, ( ) ( ) ( ) ( )
: :
= =
≠
<
≠
<
∫ Π Π
0
1
константа
c k n m
m
m j
j
dx
( , , ), см.(1.9)
Δ
∫ Σ=
−
=
0
2 1
= =
±
=
=
−
Σc k n m ∫ r x dx j
m
m j
j
( , , ) ( )
,
1
0
0
2 1
0
Δ
см.(1.10)
. ►
Теорема 1.10. Система Уолша (1.11) является полной в пространстве
L2[0,1]. (Примем утверждение теоремы без доказательства.)
Так как функции системы Уолша принимают лишь два значе-
ния ±1, они очень удобны для программных вычислений и для ап-
паратной реализации в цифровой аппаратуре.
Пример 1.12. Систему функций Хаара h x n n { ( )}=
∞
0 определим на по-
луинтервале x ∈ [0,1) следующим образом. Положим h0(x) = 1.
Для n > 0 номер базисной функции hn(x) представим следующим
1.6. Примеры ортогональных систем в пространстве L 31 2
образом: n = 2k + m, где целые числа k ≥ 0, 0 ≤ m ≤ 2k – 1 однозначно
определяются по номеру n > 0. Тогда
h x
x
x
x
n
k
m
k
k
m
k
m
k
m
k
( )=
∈
− ∈
∉ = ∪
+
+
+
+
2
2
0
2
2
1
2
2 1
1
2
1
при
при
при
Δ
Δ
Δ Δ Δ22 1
1
m
k
+
+
⎧
⎨ ⎪
⎩ ⎪
. (1.12)
Приведем графики первых фунций системы h x n n { ( )}=
∞
0 , см. рис. 1.4.
Рассмотренным ранее свойствам системы Радемахера во мно-
гом аналогичны следующие очевидные свойства системы Хаара
(n > 0, n = 2k + m, k ≥ 0, 0 ≤ m ≤ 2k – 1).
Рис. 1.4. Графики функций h1(x),…,
h5(x) системы Хаара
0 0,5 1
h1(x)
1
x
n=1, k=0, m=0
0 0,5 1
h2(x)
x
2
n = 2
k = 1
m = 0
0 0,25 1
h4(x)
2
x
n = 4
k = 2
m = 0
0 0,5 1
h3(x)
2
x
n = 3
k = 1
m = 1
0 0,25 1
h5(x)
2
0,5 x
n = 5
k = 2
m = 1
32 Глава 1. Элементы функционального анализа и спектрального
представления функций
1°. ∀ ≥ + ∀ ∈ j k l j − ∀x∈
l
1, {0,1,…,2 1}, Δ j:
h x const n
( )= ∈{0,−2k2,2k2}.
2°. ∀j∈ k ∀l∈ j − ∫ h x dx =
n
l
j
{0,…, }, {0,1,…,2 1}: ( ) 0
Δ
.
Теорема 1.11. Система функций Хаара (1.12) — ортонормированна
на интервале x ∈ [0;1}.
◄ В соответствии с определением (1.12)
<h x h x>= ∫ dx= n n
k k
m k
( ), ( ) 2 /22 /2 1
Δ
,
где n = 2k + m.
Рассмотрим теперь скалярное произведение h x h x n( ), ( ) ν , где
n = 2k + m, ν = 2γ + μ, причем n ≠ ν. Возможны два случая.
Случай 1. Пусть k ≠ γ, для определенности положим k ≥ γ + 1.
Тогда
h x h x h x h x dx n n
c kl const
x
l
l
k
l
k
k
( ), ( ) ( ) ( )
( , , )
ν ν
ν
= =
=
∀ ∈
=
−
Σ ∫
Δ
Δ
0
2 1
c kl h xdx n
l
l
k
k
(ν, , ) ( )
Δ
∫ Σ=
−
=
0
0
2 1
0
,
как следует из приведенных выше свойств системы Хаара.
Случай 2. Пусть γ = k, но m ≠ μ. Так как (см. (1.12)) hn(x) = 0 при
x m
∉Δk , hν(x) = 0 при x ∉Δkμ, то ∀x ∈ [0;1) hn(x)hν(x) = 0, поскольку для
m ≠ μ имеем: Δ Δ m
k k ∩ μ =∅. Поэтому вновь h x h x n( ), ( ) ν = 0. Таким об-
разом, система Хаара является ортонормированной. ►
Теорема 1.12. Система Хаара (1.12) является полной в пространстве
L2[0,1]. (Примем утверждение теоремы без доказательства.)
Упражнение. Разложите функцию
f x
x
x
x
( )
, ; ,
, ; ,
, [ ; )
=
∈[ )
∈[ )
∉
⎧
⎨ ⎪
⎩ ⎪
1 1412
2 1234
0 1434
в ряд Фурье по системам Хаара и Уолша. Проверьте выполнение ра-
венства Парсеваля.
1.7. Тригонометрические ряды Фурье.
Интеграл Фурье
Широкий класс устройств в электротехнике и радиоэлектрони-
ке описывается математической моделью линейной инвариант-
ной во времени (ЛИВ) системы, преобразующей входной сиг-
нал — функцию времени x(t) — в выходной сигнал y(t) = L{x(t)}
по правилу, определяемому формулой интегральной свертки:
y(t)= x( )h(t−)d
−∞
+∞ ∫ τ τ τ, где h(τ) — импульсная характеристика систе-
мы. Несложно показать, что для таких ЛИВ-систем функции вида
eiωt являются собственными, т. е. L{eiωt} = Aeiωt, где А = A(ω) — не-
которое комплексное число. Это означает, что гармонические ко-
лебания не изменяют своей формы при прохождении через ЛИВ-
систему, измениться могут лишь их амплитуда и фаза. По этой
причине базис гармонических колебаний наиболее удобен для
анализа ЛИВ-систем, а спектральное (или частотное) представ-
ление функций при помощи преобразования Фурье является ис-
ключительно важным математическим аппаратом, используемым
для анализа и синтеза систем обработки сигналов.
Напомним следующую теорему.
Теорема 1.13. Если функция f(t) имеет период T и является кусочно-
гладкой на периоде, то ее ряд Фурье1 сходится к функции f(t) в каж-
дой точке ее непрерывности и к значению 1
2
(f(t+0)+f(t−0)) в точ-
ках разрыва, то есть
f t f t a
a
k
T
t b
k
T
t k k
k
( ) ( )
cos sin
+ + −
= + + ⎛⎝ ⎜
⎞⎠ ⎟
=
∞Σ
0 0
2 2
2 2 0
1
π π , (1.13)
где коэффициенты Фурье находятся по формулам:
1 Если не говорится, какая система функций рассматривается в виде
базиса для построения ряда Фурье (см. раздел 1.5), то традиционно под-
разумевается тригонометрическая система.
34 Глава 1. Элементы функционального анализа и спектрального
представления функций
a
T
f t
k
T
t dt k
b
T
f t
k
T
t
k
T
T
k
= ⎛⎝ ⎜
⎞⎠ ⎟
=
= ⎛
−
∫ 2 2
0 1
2 2
2
2
( )cos , , ,
( )sin
/ π
π
…
⎝⎝ ⎜
⎞⎠ ⎟
=
−
∫ dt k
T
T
, ,,
/
1 2
2
2
…
(1.14)
Упражнение. Убедитесь, что формула (1.14) является частным слу-
чаем (1.5) для f ∈ L2[–T/2; T/2], см. также пример 1.8.
Часто, однако, более удобной является комплексная форма за-
писи ряда Фурье (1.13):
f t f t
ck
i
k
T
t
k
( ) ( )
e
+ + −
=
=−∞
∞Σ
0 0
2
2π
, (1.15)
c
T
f t i
k
T
t dt k k
T
T
= −⎛⎝ ⎜
⎞⎠ ⎟
= ± ±
−
∫ 1 2
0 1 2
2
2
( )exp , , , ,
/ π
… (1.16)
Реальные сигналы, чаще всего, представляют собой аперио-
дические функции, искусственная периодизация которых, не-
обходимая для корректного использования разложений (1.13) или
(1.15), представляет собой неоднозначную процедуру, приводящую
к искажению сигнала. Поступим следующим образом. Обозначим
νk = k/T, Δν ν ν Δν k k k = − = T= +1 1/ , тогда с использованием данных
обозначений из (1.15) и (1.16) получаем:
c fu i u du e k
i
k
T
t
k
k
T
T
i t
k
k
e ()exp k
2 /
2
2
2 2
π
πν πν ν
=−∞
∞
−
Σ = ∫ (− ) ⎛
⎝ ⎜
⎞
⎠ ⎟
Δ
=−∞
∞Σ
.
Далее непериодический сигнал представим как периодический
с бесконечно большим периодом, см. рис. 1.5.
T→∞
Рис. 1.5. Переход от периодического сигнала к непериодическому
Предположим, что существует интеграл (см. (1.16))
1.7. Тригонометрические ряды Фурье. Интеграл Фурье 35
S cT f u i
k
T
u du f u k T k T
T
T
( ) lim lim ( )exp ( )
/
/
ν
π
= = −⎛⎝ ⎜
⎞⎠ ⎟
=
→∞ →∞
−
+
∫ 2
2
2
e−
−∞
+∞
∫ i uk du 2πν .
При формальном переходе к пределу при Т → ∞ в ряде из (1.15) по-
лучим:
lim e lim ( ) ( )exp
T k
i
k
T
t
k
k
i t
k
c S k S
→∞ =−∞
∞
→ =−∞
∞ Σ = Σ =
2
0
2 2
π
ν
ν πν ν ν
Δ
e Δ (πiνt)dν
−∞
+∞
∫
в случае существования последнего интеграла, который понимает-
ся в смысле главного значения по Коши:
S it d S it d
N
N
N
(ν)exp(2πν)ν= lim (ν)exp(2πν)ν
−∞
+∞
→∞
−
+
∫ ∫ .
Данный интеграл носит название интеграла Фурье. Условия, при
которых функция допускает представление в виде интеграла Фу-
рье, определяет следующая теорема.
Теорема 1.14. Пусть функция f(t) абсолютно интегрируема на всей
числовой оси, т. е. f(t)dt < ∞
−∞
+∞
∫ , является кусочно-гладкой
на любом конечном отрезке t∈[a,b]⊂(−∞;∞) и в точках разрыва
f t
f t f t
( )
( ) ( ) =
+0+ −0
2
. Тогда она представима в виде интеграла
Фурье:
f t S i t d S d
N
N
N
( )= lim ( )exp( ) = ( )e i t
→∞
−
+
−∞
+∞
∫ ν 2πν ν∫ ν 2π ν ν, (1.17)
где
S(ν)= f(t)e− πiνt dt
−∞
+∞
∫ 2 , (1.18)
причем S(ν) — непрерывная функция.
Функция S(ν ) из (1.18) носит название частотного спектра, или
спектральной плотности, или спектральной характеристики функ-
ции (сигнала) f(t). Представления (1.18) и (1.17) называют соответ-
ственно прямым и обратным преобразованиями Фурье сигнала f(t).
36 Глава 1. Элементы функционального анализа и спектрального
представления функций
Их записывают также с использованием в качестве аргумента спек-
тральной плотности циклической частоты ω = 2πν :
S ft (ω) ( )e i t dt
π
= − ω
−∞
+∞
∫ 1
2
, f(t)= S( )ei td
−∞
+∞
∫ 1
2π
ω ω ω.
Таким образом, при выполнении условий теоремы 1.14 сигнал
можно описать как во временной области, т. е. через функцию вре-
мени f(t), так и в частотной области, через функцию частоты S(ν),
оба представления взаимно однозначно соответствуют друг другу:
f(t) ↔ S(ν).
Отметим ряд важных свойств интегрального преобразования
Фурье.
1°. Сопряженная симметрия. Для любой вещественной функ-
ции f(t): S(ν)=S(−ν). (Докажите самостоятельно.)
2°. Линейность. ∀x t↔S ∀y t↔S ∀ x y ( ) (ν), ( ) (ν), α,β :
f t x t y t S S S x y ( )=α( )+β( )↔(ν)=α (ν)+β (ν).
3°. Изменение масштаба. ∀f(t)↔S(ν),∀α>0 :
f(αt) S (ν) S( / )
α
ν α α ↔ =1 .
◄ S f t i t dt f t i t d t
α
π ν π ν
α
α ν α
α
( ) ( )e (α)e (α)
( ) = − = =
−∞
+∞
−
−∞
+∞
∫ ∫ 2 1 2
= − =
−∞
+∞
∫1 1 2
α α
f(u)e πi(ν/α)udu S(ν/α). ►
4°. Задержка сигнала. ∀f(t) ↔ S(ν), ∀t0: f t t S i t (− )↔e− ()
0
2π ν 0 ν .
(Докажите самостоятельно.)
5°. Сдвиг спектра. ∀f(t) ↔ S(ν), ∀α: f(t)e2πitα↔S(ν−α) .
(Докажите самостоятельно.)
6°. Свертка сигналов. ∀u(t) ↔ Su(ν), ∀w(t) ↔ Sw(ν):
f x u t w x t dt S S S u w ( )= ( ) ( −) ↔ ( )= ( ) ( )
−∞
∞
∫ ν ν ν.
◄ S(ν)= u(t)w(x−t)dt e πiνx dx u(t) w(x t)e πiνx
⎛
⎝ ⎜
⎞
⎠ ⎟
= −
−∞
∞
−
−∞
∞
− ∫ ∫ 2 2dx dt
−∞
∞
°
−∞
∞
∫ ∫ =
см. свойство 4
1.7. Тригонометрические ряды Фурье. Интеграл Фурье 37
= − =
−∞
∞
∫ u t S dt S S w
i t
u w ( ) (ν)e 2π ν (ν) (ν). ►
7°. Произведение сигналов. ∀u(t) ↔ Su(ν), ∀w(t) ↔ Sw(ν):
f t u t w t S S x S x dx u w ( )=( ) ( )↔( )= ( ) (−)
−∞
∞
ν ∫ ν .
(Докажите самостоятельно по аналогии с доказательством
свойства 6°.)
8°. Равенство Парсеваля. ∀f(t) ↔ S(ν): E= ft dt= S d
−∞
∞
−∞
∞
∫( ) ∫( ) 2 2 ν ν
(величину E называют энергией сигнала).
◄ E= ftftdt= ft S i td dt= S ft
−∞
∞
−∞
∞
−∞
∞
−∞
∞
∫( ) ( ) ∫( )∫(ν)e2π νν ∫(ν) ( )e2πiνtdtdν
−∞
∞
∫ =
= − = =
−∞
∞
−∞
∞
−∞
∞
−∞
∞
∫S(ν)∫f(t)e 2πiνtdtdν∫S(ν)S(ν)dν ∫S(ν)2dν . ►
9°. Дифференцирование во временной области. Если f(t)↔S(ν)
и функция f(t) дифференцируема, причем lim ( )
t
f t
→±∞
= 0, то
f′(t)↔2πiνS(ν).
◄ Интегрируя по частям, имеем:
′ − = − −
−∞
+∞
−
=−∞
=+∞ ∫ f t i tdt f t i t i f t
t
t
( )e2 ( )e2 ( ) (
0
π ν π ν 2π ν
)e− ( )
−∞
+∞
∫ 2πiνt dt = 2πiνS ν . ►
10°. Дифференцирование в частотной области. Если f(t) ↔ S(ν) и
функция S(ν) дифференцируема, причем lim ( )
ν
ν
→±∞
S = 0 , то
−2πit f (t)↔S ′(ν) .
(Докажите самостоятельно аналогично доказательству
свойства 9°.)
Упражнение. Покажите, что для функции и ее спектра f(t) ↔ S(ν)
условие d
d
S
m
νm
ν
ν
( )
=
=
0
0 эквивалентно условию tmf(t)dt
−∞
+∞
∫ = 0 для
любого натурального числа m.
Определение. Амплитудным спектром сигнала f(t) называет-
ся модуль |S(ν)| спектральной плотности S(ν), а фазовым спек-
38 Глава 1. Элементы функционального анализа и спектрального
представления функций
тром — ее аргумент, взятый с противоположным знаком1:
ϕ(ν)= −argS(ν).
Амплитудный и фазовый спектры позволяют записать спек-
тральную плотность в показательной форме: S(ν)=S(ν)e−iϕ(ν) . Бу-
дем считать по определению, что ϕ(ν)∈(−π;π].
Замечание. Из свойства 4° следует, что сдвиги сигнала во времен-
ной области влияют в частотной области лишь на фазовый спектр,
но не изменяют амплитудный спектр сигнала.
Пример 1.13. Найти амплитудный и фазовый спектры сигнала,
представляющего собой прямоугольный импульс длительности T:
f t
T t T
t T
( )
, [, ]
, [, ]
= ∈
∉
⎧⎨ ⎪
⎩⎪
1 0
0 0
при
при
.
◄ Найдем сначала спектральную плотность функции
g(t) = f(t + 0,5T):
S gt dt
T
dt g
i t i t
T
T i T i T
( ) ( )e e
e e ν
π
π ν π ν
π ν π ν
= = =
− −
−∞
+∞
−
−
+ −
∫ ∫ 2 2
2
2 1
2 i T
T
ν T
πν
πν
= sin .
Так как f(t) = g(t – 0,5T), то на основании свойства 4° получаем:
S
T
T f
( ) e i T
sin ν
πν
πν
= −π ν , откуда находим амплитудный спектр:
S
T
T
f( )
sin ν
πν
πν
= 1 .
Для фазового спектра ϕ(ν) рассмотрим сначала частоты ν ≥ 0.
При ν =k T,k =1,2,… arg Sf(ν) не определен, так как Sf(ν) = 0.
При ν∈(2k T;(2k +1) T), k =0,1,…, имеем sin πνT= sin πνT,
S
T
T
T
T
S f
i T
S
i T
f
i
f
( )
sin
e
sin
e () e
( )
ν (
πν
πν
πν
πν
π ν ν
ν
= − = −π ν = − ϕ
ν) , т. е.
1 Нередко фазовым спектром называют аргумент (без смены знака)
ϕ(ν) = arg S(ν).
1.8. Принцип неопределенности время-частотного 39
представления сигналов
e e ( ) − − = i i T ϕ ν πν и ϕ ν πν ( ) arg e = ( ) i T , причем ϕ ν ϕ ν ( )= + ⎛⎝ ⎜
⎞⎠ ⎟
2
T
.
При ν∈((2k+1)T;(2k+2)T), k=0,1,…, имеем | sin πνT | = –sin πνT,
S
T
T
T
T
S f
i T i T
f
( ) i
sin
e
sin
ν e () e ( )
πν
πν
πν
πν
= −π ν=− −π ν = ν − ϕ ν , т. е.
e−iϕ(ν) = −e−iπνT = e−iπνT +iπ и ϕ(ν)=arg(eiπ(νT−1)),
и вновь ϕ ν ϕ ν ( )= + ⎛⎝ ⎜
⎞⎠ ⎟
2
T
.
Таким образом, для неотрицательных частот достаточно при-
вести один период фазового спектра ϕ(ν). Для ν ∈ [0;2/T) получаем:
ϕ ν
πν ν
πν π ν
( )
, (; )
, ( ; )
=
∈
− ∈
⎧⎨⎩
T T
T T T
при
при
0 1
1 2
.
Вид функции ϕ(ν) для ν < 0 находим на основании свойства 1°
интеграла Фурье, которое означает, что ϕ(–ν) = –ϕ(ν). Графики ам-
плитудного и фазового спектров приведены на рис. 1.6. ►
T
1
T
2
T
− 1
T
⎢⎮S(ν)⎮
ν
ν
T
2
T
1
-π
T
−1
π
ϕ(ν)
Рис. 1.6. Графики амплитудного (слева) и фазового (справа) спек-
тров сигнала из примера 1.13
Упражнение. Используя свойства 2°—4° преобразования Фурье и ре-
зультаты решения примера 1.13, найдите амплитудный и фазовый
спектры функции
x
x
x
( )=
∈ − [ )
− ∈[ )
∉ − [ )
⎧
⎨ ⎪
⎩ ⎪
1 10
1 01
0 11
, ; ,
, ; ,
, ; .