eng
Содержание
Содержание
Предисловие 6
Список сокращений и обозначений 10
Глава 1. Элементы функционального анализа и спектрального
представления функций 12
1.1.
Линейные нормированные пространства 12
1.2.
Пространства со скалярным произведением 19
1.3.
Примеры ортогональных систем в пространстве L2 27
1.4.
Тригонометрические ряды Фурье. Явление Гиббса 33
1.5.
Интеграл Фурье 38
1.6.
Принцип неопределенности время-частотного
представления сигналов 44
1.7.
Обобщенное преобразование Фурье 50
1.8.
Энергетический спектр. Спектр мощности 54
Глава 2. Дискретизация и квантование сигналов.
Дискретные ортогональные преобразования 59
2.1.
Преобразование непрерывных сигналов в дискретные 59
2.2.
Дискретизация по критерию наибольшего отклонения 61
2.3.
Частотный критерий выбора шага дискретизации 62
2.4.
Спектр дискретного сигнала 67
2.5.
Дискретизация узкополосных сигналов 72
2.6.
Дискретное преобразование Фурье 79
2.7.
Быстрое преобразование Фурье.
Алгоритм БПФ с прореживанием по времени 87
2.8.
Алгоритм БПФ с прореживанием по частоте 100
2.9.
Дискретное преобразование Уолша 105
2.10.
Дискретное преобразование Хаара 111
2.11.
Некоторые применения дискретных ортогональных
преобразований 115
2.12.
Квантование дискретных сигналов 118
Глава 3. Описание и анализ линейных дискретных систем 129
3.1.
Нормирование временной и частотной осей 129
3.2.
Z-преобразование 130
3.3.
Линейные дискретные фильтры 136
3.4.
Соединения и структурные схемы фильтров 140
3.5.
Устойчивость ЛДФ 149
3.6.
Частотная характеристика ЛДФ 151
3.7.
Минимально-фазовые системы. Фазовые звенья 159
3.8.
Нахождение отклика фильтра с использованием БПФ 165
3.9.
Многоскоростная обработка сигналов 167
3.10.
Изменение частоты дискретизации сигналов c помощью
полифазных фильтров 173
3.11.
Эффекты квантования в цифровых системах 180
3.12.
Согласованный дискретный фильтр 190
3.13.
Линейная дискретная система как генератор случайных
сигналов. Полюсная модель сигналов 198
3.14.
Фильтр Калмана 203
Глава 4. Введение в методы синтеза цифровых фильтров 211
4.1.
Этапы разработки цифровых фильтров 211
4.2.
КИХ-фильтры с линейной фазой.
Синтез КИХ-фильтров методом частотной выборки 217
4.3.
Оконный метод синтеза КИХ-фильтров 226
4.4.
Синтез оптимальных КИХ-фильтров 237
4.5.
Специальные КИХ-фильтры: преобразователь Гильберта
и цифровой дифференциатор 246
4.6.
Основные характеристики аналоговых линейных систем
и их связь с характеристиками ЛДС 255
4.7.
Синтез БИХ-фильтров по аналоговым прототипам 261
4.8.
Синтез БИХ-фильтров методом инвариантности
импульсной характеристики 273
4.9.
Синтез БИХ-фильтров методом билинейного
Z-преобразования 278
4.10.
Выбор структуры для реализации фильтра 286
4.11.
Адаптивная фильтрация. Фильтр Винера 291
4.12.
Построение фильтра Винера в частотной области 304
Глава 5. Основы прикладной теории информации 310
5.1.
Мера количества информации для дискретного источника
сообщений без памяти 310
5.2.
Основные теоремы о кодировании источника без памяти 316
5.3.
Эффективное кодирование дискретного источника без
памяти по методам Шеннона — Фано и Хаффмана 326
5.4.
Кодирование длин серий 332
5.5.
Арифметическое кодирование 335
5.6.
Условная энтропия 344
5.7.
Кодирование дискретного источника с памятью 348
5.8.
Статистическое моделирование источника 355
5.9.
Непрерывный источник сообщений.
Дифференциальная энтропия 356
5.10.
Передача дискретного сообщения по каналу с помехами 364
5.11.
Словарные методы кодирования 371
Глава 6. Применение дискретных ортогональных преобразований
для компрессии и спектрального анализа сигналов 378
6.1.
Корреляция как мера статистической зависимости
данных. Преобразование Карунена — Лоэва 378
6.2.
Эффективность использования дискретных
ортогональных преобразований для кодирования
коррелированных данных 384
6.3.
ДПФ в вещественной форме. Дискретное преобразование
Хартли 391
6.4.
Дискретное косинусное преобразование 394
6.5.
Компрессия изображений на основе двумерного ДКП 403
6.6.
Дискретное псевдокосинусное преобразование 409
6.7.
Оптимизация алгоритмов сжатия данных с потерями 418
6.8.
Аппроксимационный подход к выбору преобразований
для представления дискретных сигналов. Частотная
трактовка 425
6.9.
Время-частотный анализ. Оконное преобразование Фурье 432
6.10.
Использование ДПФ для спектрального анализа 439
Глава 7. Вейвлет-преобразования и их приложения
для обработки дискретных сигналов 449
7.1.
Кратно-масштабный анализ 449
7.2.
Проектирование функций на подпространства КМА 455
7.3.
Вычисление дискретных вейвлет-преобразований 461
7.4.
Квадратурно-зеркальные фильтры 465
7.5.
Свойства КЗФ 471
7.6.
Построение масштабирующих функций и вейвлетов
по масштабирующим уравнениям 478
7.7.
Вейвлеты Добеши 482
7.8.
Биортогональные вейвлет-преобразования 488
7.9.
Применение дискретных вейвлет-преобразований для
сжатия сигналов 492
7.10.
Подавление шумов фильтрацией в базисе дискретных
вейвлет-преобразований 496
7.11.
Двумерные дискретные вейвлет-преобразования 499
7.12.
Метод сжатия цифровых изображений JPEG 2000 507
7.13.
Вейвлет-пакеты 514
7.14.
Вычисление ДВП по схеме лифтинга 526
Заключение 544
Литература 545
Предисловие
В последние два десятилетия методы цифровой обработки сигна-
лов (ЦОС) в радиотехнике, электронике, системах связи, контроля
и управления стали преобладающими, активно вытесняя методы
аналоговой обработки. Этому способствовала стремительно уве-
личивавшаяся производительность вычислительной техники,
которая уже проникла практически во все области человеческой
деятельности. Сегодня, например, говоря о записи или обработке
аудио- и видеоинформации, мы не уточняем, что речь идет о циф-
ровых форматах, подразумевая это само собой разумеющимся.
Важность изучения методов ЦОС трудно переоценить: вопросы,
связанные с цифровой обработкой и представлением сигналов,
давно перестали быть узкоспециальными. Основы знаний в дан-
ной области требуются большинству инженеров, а для специали-
стов в области электроники, радиотехники и телекоммуникаций,
информатики и вычислительной техники необходимо более глубо-
кое понимание основных методов ЦОС и математической теории,
лежащей в их основе. Предлагаемое вниманию читателя учебное
пособие посвящено изучению данных вопросов.
Изначально ЦОС развивалась как ветвь, растущая из теории об-
работки аналоговых сигналов, и рассматривалась как раздел элек-
троники и радиотехники. Однако внедрение в системы обработки
сигналов цифровых программируемых процессоров и контролле-
ров, расширение спектра и увеличение сложности алгоритмов ЦОС,
реализация которых стала возможна в том числе в реальном мас-
штабе времени, превратили ЦОС в политехническую дисциплину.
Сегодня для математиков-программистов, специалистов в области
информатики и вычислительной техники эта область знаний пред-
ставляет собой постоянно расширяющееся поле для приложения
усилий. Данную тенденцию необходимо учитывать при подготовке
инженерных кадров. В предлагаемом вниманию читателя учебном
пособии рассматриваются основы теории ЦОС, изложение которой
по формату и содержанию ориентировано в первую очередь именно
на студентов, обучающихся по инженерным направлениям «При-
кладная математика» и «Информатика и вычислительная техника»
(бакалавриат и магистратура). Однако при написании пособия ав-
тор старался опираться лишь на курс высшей математики, общий
для всех инженерных направлений подготовки, поэтому оно может
быть рекомендовано также для студентов, обучающихся по профи-
лям подготовки в области радиотехники, связи и телекоммуника-
ций.
Первая глава носит вводный характер и содержит изложение тех
основных положений функционального анализа и теории преобра-
зования Фурье, которые потребуются далее в последующих главах.
Помимо этого, в первой главе вводятся популярные в ЦОС функ-
циональные системы Уолша и Хаара.
Вторая глава посвящена вопросам дискретизации непрерыв-
ных сигналов и преобразований, прежде всего преобразования
Фурье. Значительное внимание уделено частотным аспектам дис-
кретизации (как широкополосных, так и узкополосных сигналов)
и построению быстрых алгоритмов вычислений дискретных пре-
образований Фурье, Уолша, Хаара. Кроме того, рассматривается
скалярное и векторное квантование сигналов.
В третьей главе вводятся основные понятия теории линейных
дискретных систем (фильтров). Основное внимание уделено ана-
лизу систем. Рассматриваются вопросы передискретизации сигна-
лов и влияния эффектов квантования в цифровых системах. Также
изу чаются некоторые вопросы согласованной фильтрации и ска-
лярных фильтров Калмана.
В четвертой главе изложены основные классические методы
синтеза КИХ- и БИХ-фильтров по заданной частотной характе-
ристике. Завершает главу рассмотрение основ теории адаптивных
фильтров.
Пятая глава представляет собой введение в теорию информа-
ции, а также содержит описание ряда используемых на практике
методов эффективного статистического (энтропийного) кодирова-
ния.
Первые пять глав включают в себя рассмотрение общих тео-
ретических вопросов ЦОС. В сокращенном варианте этот мате-
риал может быть использован для базовой подготовки бакалавров
по различным инженерным направлениям обучения. В полном
объеме материал этих глав может составить основу учебного курса
для подготовки магистров, имеющих профиль обучения со специ-
ализацией в ЦОС, прежде всего, по направлениям «Информатика
и вычислительная техника» и «Прикладная математика».
Две последние главы (шестая и седьмая) представляют собой
более углубленное теоретическое рассмотрение таких специальных
разделов ЦОС, как эффективное представление и компрессия сиг-
налов, цифровой спектральный анализ. Седьмая глава целиком по-
священа применению дискретных вейвлет-преобразований в ЦОС
и может составить основу отдельного спецкурса.
Таким образом, в зависимости от потребностей читателя учеб-
ное пособие можно использовать при изучении ЦОС для различ-
ных уровней «глубины погружения» в предметную область.
Для первоначального освоения о 1. сновных понятий ЦОС сле-
дует изучить главу 1 и параграфы 2.1–2.4, 2.6–2.8, 2.11–2.12,
3.1–3.6, 3.8. Полезно также разобрать материал параграфов
5.1–5.4. Этот уровень изучения можно считать начальным,
соответствующим бакалавриату различных инженерных на-
правлений обучения.
2. Для получения тех знаний теории ЦОС, которые, на взгляд
автора, необходимы для магистерского уровня инженерной
подготовки профильных направлений обучения (включая
связь и телекоммуникации, радиотехнику и электронику),
следует полностью изучить главы 1–4 и параграфы 5.1–5.4,
6.9, 6.10. Рекомендуется также ознакомиться с материалом,
изложенным в параграфах 5.5–5.11.
3. В полном объеме содержание учебного пособия ориентиро-
вано на студентов магистратуры, обучающихся по направле-
нию «Прикладная математика» и избравших область ЦОС
своей специализацией.
В книге используется двойная нумерация для рисунков, фор-
мул, примеров и теорем: первая цифра обозначает главу, вторая —
порядковый номер формулы (примера, теоремы) в главе. При ну-
мерации (обозначении) аксиом и свойств используется значок °,
например 1°. Начало и окончание доказательств теорем, решений
примеров обозначается соответственно символами ◄ и ►. Упражне-
ния (задачи) для самостоятельного решения приводятся непосред-
ственно в тех местах, где их появление логически наиболее связано
с излагаемым материалом, а не в конце глав или разделов, как это
чаще всего практикуется в учебной литературе.
Основу данного пособия составляют учебные курсы, читаемые
автором на протяжении многих лет в Национальном исследова-
тельском университете «Московский институт электронной тех-
ники» (МИЭТ) для бакалавров и магистров, обучающихся по на-
правлению «Прикладная математика». Большое значение в работе
над пособием имело обсуждение его содержания с коллегами. Ав-
тор выражает глубокую признательность доценту кафедры высшей
математики № 1 МИЭТ В. В. Лесину и рецензенту, внимательно
ознакомившимся с текстом рукописи и высказавшим ряд ценных
замечаний, которые были учтены при подготовке издания.
Список сокращений и обозначений
АЦП — аналого-цифровое преобразование
АЧХ — амплитудно-частотная характеристика
БИХ — бесконечная импульсная характеристика
БПУ — быстрое преобразование Уолша
БПФ — быстрое преобразование Фурье
БПХ — быстрое преобразование Хаара
ВДПФ — вещественное дискретное преобразование Фурье
ВЧ — верхние частоты
ГВЗ — групповое время задержки
ДВП — дискретное вейвлет-преобразование
ДКП — дискретное косинусное преобразование
ДПГ — дискретный преобразователь Гильберта
ДПКП — дискретное псевдокосинусное преобразование
ДПЛ — дискретное преобразование Лапласа
ДПУ — дискретное преобразование Уолша
ДПФ — дискретное преобразование Фурье
ДПХ — дискретное преобразование Хаара
ИХ — импульсная характеристика
КДС — кодирование длин серий
КИХ — конечная импульсная характеристика
КЗФ — квадратурно-зеркальные фильтры
КМА — кратно-масштабный анализ
КФ — ковариационная функция
ЛДС — линейная дискретная система
ЛДФ — линейный дискретный фильтр
ЛИВС — линейная инвариантная во времени система
ЛНП — линейное нормированное пространство
НОД — наибольший общий делитель
НЧ — нижние частоты
ОДКП — обратное ДКП
ОДПФ — обратное ДПФ
ОПФ — оконное преобразование Фурье
ПФ — передаточная функция
ЧХ — частотная характеристика
ФВЧ — фильтр верхних частот
ФНЧ — фильтр нижних частот
ФЧХ — фазочастотная характеристика
ЦД — цифровой дифференциатор
ЦОС — цифровая обработка сигналов
ЦФ — цифровой фильтр
ЭНП — элемент наилучшего приближения
С — множество комплексных чисел
N — множество натуральных чисел
R — множество действительных чисел
Z — множество целых чисел
x ≥ y — число x много больше числа y
[x] — целая часть числа x ≥ 0
round(x)=sign(x) [ | x |+ 0,5] — округление х до ближайшего целого
x mod p — остаток от деления целого числа x ≥ 0 на число p N
a b (a b) mod 2 — сложение по модулю 2, где a {0, 1} и b {0, 1}
A B — ортогональная сумма подпространств A и B
x — норма элемента x
x, y — скалярное произведение элементов x, y
A — замыкание множества A
z Rez i Imz — комплексное сопряжение числа z
Res ( ), f z z0
— вычет функции f(z) в точке z0
{ f(t)} — преобразование Фурье функции f(t)
1{F()} — обратное преобразование Фурье функции F()
f (t ) — преобразование Лапласа функции f(t)
1G(p) — обратное преобразование Лапласа функции G(p)
Z{x(n)} — Z-преобразование последовательности x(n)
Z1{X(z)} — обратное Z-преобразование функции X(z)
M(X) — математическое ожидание случайной величины Х
D(X) — дисперсия случайной величины X
ГЛАВА 1
ЭЛЕМЕНТЫ ФУНКЦИОНАЛЬНОГО АНАЛИЗА И СПЕКТРАЛЬНОГО ПРЕДСТАВЛЕНИЯ ФУНКЦИЙ
1.1. Линейные нормированные пространства
Функциональный анализ — раздел математики, который пред-
ставляет собой абстрактное обобщение линейной алгебры и ма-
тематического анализа. Рассмотрим некоторые понятия и методы
функционального анализа, которые наиболее важны для теории
обработки сигналов.
Определение. Множество Е элементов произвольной природы
называется линейным пространством, если в нем однозначно
определены операции сложения элементов x y и умножения
элементов на скаляр (вещественное или комплексное число)
x, результатом которых является элемент из того же множества
Е, причем выполняются следующие аксиомы.
1°. x, yE: x y y x.
2°. x, y, zE: (x y) z x (y z).
3°. E, xE: x x (существование нулевого элемента ).
4°. xE, , (, — скаляры): (x) ()x.
5°. Умножение на скаляры 0 и 1: 0x , 1x x.
6°. xE, ,: ( )x x x .
7°. x, yE, : (x y) x y.
Назовем противоположным элементом для xE такой элемент
yE, что x y . Из аксиом 5° и 6° следует, что y (1)x (элемент x,
умноженный на число 1). Обозначим противоположный элемент
как x.
В курсе линейной алгебры изучались линейные пространства
n арифметических векторов размерности n. Приведенное выше
аксиоматическое определение обобщает понятие линейного про-
странства n на множества произвольной природы. По аналогии,
элементы любого линейного пространства также будем называть
векторами, а сами линейные пространства — векторными простран-
ствами. В том же обычном смысле будем понимать термины «базис
пространства», «линейная зависимость» (независимость) векторов
и «размерность пространства». Напомним, что число n называется
размерностью векторного пространства Е (обозначается n dimE),
если в Е найдется n линейно независимых ненулевых элементов,
а любые (n 1) ненулевых элементов пространства Е являются ли-
нейно зависимыми. Линейное пространство может иметь беско-
нечную размерность.
Пример 1.1. Пусть C[a; b] — множество всех функций, непрерывных
на отрезке [a; b]. Является ли это множество линейным простран-
ством и если да, то какова его размерность?
◄ Выполнение аксиом 1°–7° очевидно, нулевым элементом явля-
ется функция f(x) 0, x[a; b]. Покажем, что C[a; b] — бесконеч-
номерное пространство. Выберем из множества C[a; b] n ненулевых
элементов — функций yi(x) xi1, i 1, 2, …, n. При любом числе n
эти элементы являются линейно независимыми, так как равенство
нулю многочлена i i i
n
i
i
i
n y x
1
1
1
0 для всех точек отрезка
x[a, b] возможно лишь в случае i 0, i 1, …, n. Поскольку число n
можно выбрать сколь угодно большим, то dim(C[a; b]) . ►
Лемма 1.1. (Неравенство Минковского для интегралов.) Пусть для
p 1 существуют интегралы u x dx p
a
b
( ) , v x dx p
a
b
( ) (пределы инте-
грирования — не обязательно конечные). Тогда существует также
интеграл u x v x dx p
a
b
( ) ( ) , причем верна оценка:
u x v x dx u x dx v x dx p
a
b p
p
a
b p
p
a
b p
( ) ( ) ( ) ( )
1 1 1
. (1.1)
Опустим доказательство леммы, которое носит технический
характер (см., например, [17]).
Определение. Линейное пространство Е называется нормиро-
ванным, если каждому элементу xE поставлено в соответствие
вещественное число x , называемое нормой, для которой вы-
полняются следующие аксиомы.
1°. Невырожденность нормы. xE: x 0, x 0 x .
2°. Однородность нормы. , xE: x x .
3°. Неравенство треугольника. x, yE: x y x y .
В одном и том же векторном пространстве Е норму можно вво-
дить различными способами.
Пример 1.2. Рассмотрим векторное пространство C[a; b] из приме-
ра 1.1. Покажите самостоятельно, что приводимые ниже способы
вычисления нормы удовлетворяют аксиомам 1°–3°:
а) x xt
t ab
max ( )
[ , ]
, б) x xt dt p
a
b p
( )
1
, где p1.
Указание: в пункте б для доказательства аксиомы треугольника вос-
пользуйтесь неравенством Минковского (1.1).
Определение. Расстоянием между элементами x, y нормирован-
ного векторного пространства Е назовем число (x,y) x y .
На основании аксиом нормы легко показать, что введенное рас-
стояние между элементами обладает следующими свойствами.
1°. x, yE: (x, y) (y, x).
2°. x, yE: (x, y) 0 x y.
3°. x, y, zE: (x, y) (x, z) (y, z) (неравенство треугольника).
◄ Первое и второе свойства очевидны. Для неравенства треуголь-
ника имеем:
(x,y) x y (x z)(z y) x z z y (x,z) (y,z). ►
Расстояние между элементами называют метрикой простран-
ства. Пространство (не обязательно нормированное), каждой паре
x, y элементов которого поставлено в соответствие вещественное
число (x, y) (расстояние), обладающее свойствами 1°–3°, называет-
ся метрическим1.
Определения. В метрическом пространстве E открытым
шаром радиуса r0 c центром x0E назовем множество
S x x E x x r r( ) ( , ) 0 0 , замкнутым шаром — множество
S x x E x x r r( ) ( , ) 0 0 . Окрестностью точки x0E будем на-
зывать открытый шар произвольного радиуса , т. е. множест-
во S(x0).
Понятия нормы, расстояния, окрестности являются исходны-
ми для построения анализа в линейных нормированных простран-
ствах.
Определение. В линейном нормированном пространстве (ЛНП)
Е элемент yE называется пределом последовательности {xk}E,
если lim ( , )
k k y x
0. При этом говорят, что последовательность
{xk} сходится к элементу y и используют обозначение lim
k kx y
.
Определение. Элемент a из ЛНП E называется предельной точкой
множества ME, если в любой окрестности a содержится хотя
бы один элемент xM, x ≠ a. То есть r S a a M r 0 : ( ) \ .
Теорема 1.1. Для того чтобы элемент a из ЛНП E был предельной
точкой множества ME, необходимо и достаточно существование
последовательности {xk}M, xk ≠ a, сходящейся к a: lim
k k x a
.
◄ Необходимость. Возьмем сходящуюся к нулю числовую после-
довательность из положительных элементов, например k 1/k,
k 1, 2, … Так как a — предельная точка M, то, по определению, k 0
x M k , x a k : x S a k k ( ). Поскольку (x ,a) x a k k k k 1 и
lim
k k x a
0, то построенная последовательность {xk} сходится
к точке a: lim
k k x a
.
Достаточность. Так как {x } k , x M k , x a k , причем lim
k k x a
,
то, по определению предела, lim
k k x a
0 и 0 N(): n N()
x a n . То есть в любой -окрестности точки a содержатся эле-
менты xnM, xn ≠ a, поэтому точка a является предельной для мно-
жества M. ►
Определение. Пусть M — подмножество в ЛНП E, а M — мно-
жество всех предельных точек M. Объединение множеств
M M M называется замыканием множества M. Если M со-
держит все свои предельные точки, т. е. MM, то множество M
называется замкнутым.
Определение. Множество ME векторного пространства
Е называется линейным многообразием, если x, y M, ,:
(x y) M.
Определение. Замкнутое линейное многообразие L в ЛНП E,
LE, назовем подпространством.
Определение. Расстоянием от точки x из ЛНП E до множества
LE называется величина (x,L) inf x u
u L
.
Для ограниченного снизу числового множества всегда найдется
точная нижняя грань. Поскольку норма неотрицательна, то рассто-
яние от точки до подмножества (подпространства) всегда существу-
ет. Расстояние (x, L) характеризует наилучшее приближение (т. е.
аппроксимацию) элемента xE элементами подмножества LE.
Определение. Элемент yL, где L — подпространство из ЛНП E,
называется элементом наилучшего приближения (ЭНП) для за-
данного элемента xE, если (x,L) x y .
Элемент наилучшего приближения существует не всегда, а так-
же может быть не единственным.
Пример 1.3. Рассмотрим пространство 2, т. е. множество упорядо-
ченных пар вещественных чисел x (1,2), где 1, 2. Введем
норму следующим образом: x 1 2 (убедитесь самостоятель-
но, что аксиомы нормы выполняются). Рассмотрим подмножество
L2, L {(1,2)|1 2} {(,)|}. Тогда:
1) L — подпространство в E;
2) для элемента x (1, 1) имеем (x, L) 2, причем ЭНП —
не единственный.
◄ 1. Множество L является линейным многообразием (убедитесь
самостоятельно). Покажем, что L — замкнуто. Допустим против-
ное: пусть существует элемент yL, т. е. y (1, 2), 1 ≠ 2, который
является предельной точкой множества L. Тогда для любой точки
u (, ) из множества L расстояние
(y,u) ( )( ) r(y) 1 2 1 2 1 2 0,
т. е. ограничено снизу положительной величиной r r(y). Следова-
тельно, в окрестности Sr(y) нет ни одного элемента из множества
L, и произвольно выбранная точка yL не является предельной
жаться только в самом этом множестве и L является замкнутым
линейным многообразием (подпространством) в 2.
2. Рассмотрим функцию f t t t
t t
t
t t
( )
,
,
,
1 1
2 1
2 1 1
2 1
.
Очевидно, inf ( ) min ( )
t t
f t f t
2 . Для расстояния от точки x (1, 1)
до подпространства L имеем:
(x,L) inf inf inf ( )
u L
u x f
1 1 2.
При этом элементами наилучшего приближения для x являются
все точки отрезка L* (,) 1 1, L* L. ►
Определение. Пусть X — ЛНП. Последовательность {xn}X на-
зывается фундаментальной, если 0 N N(): nN, p
x x n p n . ( — множество натуральных чисел.)
Напомним, что для случая X (множество действительных
чисел) в курсе математического анализа был доказан критерий
Коши: числовая последовательность {xn} сходится тогда и только
тогда, когда она фундаментальна. Справедлив ли критерий Коши
в произвольном ЛНП?
Лемма 1.2. Всякая сходящаяся в ЛНП X последовательность {xn} —
фундаментальна.
◄ Так как последовательность {xn} сходится, то
lim
n n x x X, и 0
N N(), nN: x x n 2. Тогда также p: x x n p 2,
поэтому x x x x x x x x x x n p n n p n n p n , где число
0 может быть выбрано сколь угодно малым. Следовательно, по-
следовательность {xn}X является фундаментальной. ►
Упражнение. Покажите самостоятельно, что если последователь-
ность {xn} — фундаментальна, то последовательность {xn} также
является фундаментальной.
Возникает вопрос: а всякая ли фундаментальная последо-
вательность {xn}X сходится в произвольном ЛНП X? Для каж-
дой ли фундаментальной последовательности существует предел
lim
n nx x
X?
Определение. ЛНП называется полным, если в нем сходится лю-
бая фундаментальная последовательность. Полное ЛНП назы-
вается банаховым (или пространством Банаха).
Пример 1.4. Простейший пример пространства Банаха — множе-
ство вещественных чисел с нормой x | x |.
Пример 1.5. Пространство L T 2 [0; ] непрерывных на отрезке t [0; T]
функций с нормой x xt dt
T ( )2
0
не является банаховым.
◄ Покажем, что это пространство неполно. Выберем на отрезке
t [0; T] кусочно-гладкую функцию f(t), имеющую разрыв первого
рода. Если составить для этой функции тригонометрический ряд
Фурье, то, как известно, частичные суммы ряда
s t
a
a
kt
T
b
kt
T n k k
k
n
( ) cos sin
0
2 1
2 2
(непрерывные функции) будут сходиться в среднеквадратичном
смысле к функции f(t):
lim ( ) ( ) lim
n n
T
n n f t s t dt f s
2
0
0 ,
где L [ ;T ] n 2 0 , а f L T 2 [0; ]. Это означает, что последователь-
ность {sn} — фундаментальна в L T 2 [0; ] (доказательство данного
утверждения проводится аналогично схеме доказательства леммы
1.2). Однако в силу единственности предела последовательность {sn}
не может сходиться к элементу пространства L T 2 [0; ], так как вы-
бранная нами функция f(t) — разрывная. Отсюда следует, что про-
странство L T 2 [0; ] не является полным. ►
Определения. Пусть X — ЛНП (не обязательно банахово),
а {xn} — некоторая последовательность, {xn}X. Формально
составленная сумма xk k
1 называется рядом в X, а элемент
s x n k k
n 1 — n-й частичной суммой ряда. (Заметим, что n: snX,
см. определение ЛНП). Ряд называется сходящимся по норме
ЛНП X, если в X сходится последовательность элементов {sn},
т. е.
lim
n ns s X. Элемент s называется суммой ряда, а запись
s xk k
1 означает, что ряд сходится по норме X и его сумма
равна s.
В последние два десятилетия методы цифровой обработки сигна-
лов (ЦОС) в радиотехнике, электронике, системах связи, контроля
и управления стали преобладающими, активно вытесняя методы
аналоговой обработки. Этому способствовала стремительно уве-
личивавшаяся производительность вычислительной техники,
которая уже проникла практически во все области человеческой
деятельности. Сегодня, например, говоря о записи или обработке
аудио- и видеоинформации, мы не уточняем, что речь идет о циф-
ровых форматах, подразумевая это само собой разумеющимся.
Важность изучения методов ЦОС трудно переоценить: вопросы,
связанные с цифровой обработкой и представлением сигналов,
давно перестали быть узкоспециальными. Основы знаний в дан-
ной области требуются большинству инженеров, а для специали-
стов в области электроники, радиотехники и телекоммуникаций,
информатики и вычислительной техники необходимо более глубо-
кое понимание основных методов ЦОС и математической теории,
лежащей в их основе. Предлагаемое вниманию читателя учебное
пособие посвящено изучению данных вопросов.
Изначально ЦОС развивалась как ветвь, растущая из теории об-
работки аналоговых сигналов, и рассматривалась как раздел элек-
троники и радиотехники. Однако внедрение в системы обработки
сигналов цифровых программируемых процессоров и контролле-
ров, расширение спектра и увеличение сложности алгоритмов ЦОС,
реализация которых стала возможна в том числе в реальном мас-
штабе времени, превратили ЦОС в политехническую дисциплину.
Сегодня для математиков-программистов, специалистов в области
информатики и вычислительной техники эта область знаний пред-
ставляет собой постоянно расширяющееся поле для приложения
усилий. Данную тенденцию необходимо учитывать при подготовке
инженерных кадров. В предлагаемом вниманию читателя учебном
пособии рассматриваются основы теории ЦОС, изложение которой
по формату и содержанию ориентировано в первую очередь именно
на студентов, обучающихся по инженерным направлениям «При-
кладная математика» и «Информатика и вычислительная техника»
(бакалавриат и магистратура). Однако при написании пособия ав-
тор старался опираться лишь на курс высшей математики, общий
для всех инженерных направлений подготовки, поэтому оно может
быть рекомендовано также для студентов, обучающихся по профи-
лям подготовки в области радиотехники, связи и телекоммуника-
ций.
Первая глава носит вводный характер и содержит изложение тех
основных положений функционального анализа и теории преобра-
зования Фурье, которые потребуются далее в последующих главах.
Помимо этого, в первой главе вводятся популярные в ЦОС функ-
циональные системы Уолша и Хаара.
Вторая глава посвящена вопросам дискретизации непрерыв-
ных сигналов и преобразований, прежде всего преобразования
Фурье. Значительное внимание уделено частотным аспектам дис-
кретизации (как широкополосных, так и узкополосных сигналов)
и построению быстрых алгоритмов вычислений дискретных пре-
образований Фурье, Уолша, Хаара. Кроме того, рассматривается
скалярное и векторное квантование сигналов.
В третьей главе вводятся основные понятия теории линейных
дискретных систем (фильтров). Основное внимание уделено ана-
лизу систем. Рассматриваются вопросы передискретизации сигна-
лов и влияния эффектов квантования в цифровых системах. Также
изу чаются некоторые вопросы согласованной фильтрации и ска-
лярных фильтров Калмана.
В четвертой главе изложены основные классические методы
синтеза КИХ- и БИХ-фильтров по заданной частотной характе-
ристике. Завершает главу рассмотрение основ теории адаптивных
фильтров.
Пятая глава представляет собой введение в теорию информа-
ции, а также содержит описание ряда используемых на практике
методов эффективного статистического (энтропийного) кодирова-
ния.
Первые пять глав включают в себя рассмотрение общих тео-
ретических вопросов ЦОС. В сокращенном варианте этот мате-
риал может быть использован для базовой подготовки бакалавров
по различным инженерным направлениям обучения. В полном
объеме материал этих глав может составить основу учебного курса
для подготовки магистров, имеющих профиль обучения со специ-
ализацией в ЦОС, прежде всего, по направлениям «Информатика
и вычислительная техника» и «Прикладная математика».
Две последние главы (шестая и седьмая) представляют собой
более углубленное теоретическое рассмотрение таких специальных
разделов ЦОС, как эффективное представление и компрессия сиг-
налов, цифровой спектральный анализ. Седьмая глава целиком по-
священа применению дискретных вейвлет-преобразований в ЦОС
и может составить основу отдельного спецкурса.
Таким образом, в зависимости от потребностей читателя учеб-
ное пособие можно использовать при изучении ЦОС для различ-
ных уровней «глубины погружения» в предметную область.
Для первоначального освоения о 1. сновных понятий ЦОС сле-
дует изучить главу 1 и параграфы 2.1–2.4, 2.6–2.8, 2.11–2.12,
3.1–3.6, 3.8. Полезно также разобрать материал параграфов
5.1–5.4. Этот уровень изучения можно считать начальным,
соответствующим бакалавриату различных инженерных на-
правлений обучения.
2. Для получения тех знаний теории ЦОС, которые, на взгляд
автора, необходимы для магистерского уровня инженерной
подготовки профильных направлений обучения (включая
связь и телекоммуникации, радиотехнику и электронику),
следует полностью изучить главы 1–4 и параграфы 5.1–5.4,
6.9, 6.10. Рекомендуется также ознакомиться с материалом,
изложенным в параграфах 5.5–5.11.
3. В полном объеме содержание учебного пособия ориентиро-
вано на студентов магистратуры, обучающихся по направле-
нию «Прикладная математика» и избравших область ЦОС
своей специализацией.
В книге используется двойная нумерация для рисунков, фор-
мул, примеров и теорем: первая цифра обозначает главу, вторая —
порядковый номер формулы (примера, теоремы) в главе. При ну-
мерации (обозначении) аксиом и свойств используется значок °,
например 1°. Начало и окончание доказательств теорем, решений
примеров обозначается соответственно символами ◄ и ►. Упражне-
ния (задачи) для самостоятельного решения приводятся непосред-
ственно в тех местах, где их появление логически наиболее связано
с излагаемым материалом, а не в конце глав или разделов, как это
чаще всего практикуется в учебной литературе.
Основу данного пособия составляют учебные курсы, читаемые
автором на протяжении многих лет в Национальном исследова-
тельском университете «Московский институт электронной тех-
ники» (МИЭТ) для бакалавров и магистров, обучающихся по на-
правлению «Прикладная математика». Большое значение в работе
над пособием имело обсуждение его содержания с коллегами. Ав-
тор выражает глубокую признательность доценту кафедры высшей
математики № 1 МИЭТ В. В. Лесину и рецензенту, внимательно
ознакомившимся с текстом рукописи и высказавшим ряд ценных
замечаний, которые были учтены при подготовке издания.
Список сокращений и обозначений
АЦП — аналого-цифровое преобразование
АЧХ — амплитудно-частотная характеристика
БИХ — бесконечная импульсная характеристика
БПУ — быстрое преобразование Уолша
БПФ — быстрое преобразование Фурье
БПХ — быстрое преобразование Хаара
ВДПФ — вещественное дискретное преобразование Фурье
ВЧ — верхние частоты
ГВЗ — групповое время задержки
ДВП — дискретное вейвлет-преобразование
ДКП — дискретное косинусное преобразование
ДПГ — дискретный преобразователь Гильберта
ДПКП — дискретное псевдокосинусное преобразование
ДПЛ — дискретное преобразование Лапласа
ДПУ — дискретное преобразование Уолша
ДПФ — дискретное преобразование Фурье
ДПХ — дискретное преобразование Хаара
ИХ — импульсная характеристика
КДС — кодирование длин серий
КИХ — конечная импульсная характеристика
КЗФ — квадратурно-зеркальные фильтры
КМА — кратно-масштабный анализ
КФ — ковариационная функция
ЛДС — линейная дискретная система
ЛДФ — линейный дискретный фильтр
ЛИВС — линейная инвариантная во времени система
ЛНП — линейное нормированное пространство
НОД — наибольший общий делитель
НЧ — нижние частоты
ОДКП — обратное ДКП
ОДПФ — обратное ДПФ
ОПФ — оконное преобразование Фурье
ПФ — передаточная функция
ЧХ — частотная характеристика
ФВЧ — фильтр верхних частот
ФНЧ — фильтр нижних частот
ФЧХ — фазочастотная характеристика
ЦД — цифровой дифференциатор
ЦОС — цифровая обработка сигналов
ЦФ — цифровой фильтр
ЭНП — элемент наилучшего приближения
С — множество комплексных чисел
N — множество натуральных чисел
R — множество действительных чисел
Z — множество целых чисел
x ≥ y — число x много больше числа y
[x] — целая часть числа x ≥ 0
round(x)=sign(x) [ | x |+ 0,5] — округление х до ближайшего целого
x mod p — остаток от деления целого числа x ≥ 0 на число p N
a b (a b) mod 2 — сложение по модулю 2, где a {0, 1} и b {0, 1}
A B — ортогональная сумма подпространств A и B
x — норма элемента x
x, y — скалярное произведение элементов x, y
A — замыкание множества A
z Rez i Imz — комплексное сопряжение числа z
Res ( ), f z z0
— вычет функции f(z) в точке z0
{ f(t)} — преобразование Фурье функции f(t)
1{F()} — обратное преобразование Фурье функции F()
f (t ) — преобразование Лапласа функции f(t)
1G(p) — обратное преобразование Лапласа функции G(p)
Z{x(n)} — Z-преобразование последовательности x(n)
Z1{X(z)} — обратное Z-преобразование функции X(z)
M(X) — математическое ожидание случайной величины Х
D(X) — дисперсия случайной величины X
ГЛАВА 1
ЭЛЕМЕНТЫ ФУНКЦИОНАЛЬНОГО АНАЛИЗА И СПЕКТРАЛЬНОГО ПРЕДСТАВЛЕНИЯ ФУНКЦИЙ
1.1. Линейные нормированные пространства
Функциональный анализ — раздел математики, который пред-
ставляет собой абстрактное обобщение линейной алгебры и ма-
тематического анализа. Рассмотрим некоторые понятия и методы
функционального анализа, которые наиболее важны для теории
обработки сигналов.
Определение. Множество Е элементов произвольной природы
называется линейным пространством, если в нем однозначно
определены операции сложения элементов x y и умножения
элементов на скаляр (вещественное или комплексное число)
x, результатом которых является элемент из того же множества
Е, причем выполняются следующие аксиомы.
1°. x, yE: x y y x.
2°. x, y, zE: (x y) z x (y z).
3°. E, xE: x x (существование нулевого элемента ).
4°. xE, , (, — скаляры): (x) ()x.
5°. Умножение на скаляры 0 и 1: 0x , 1x x.
6°. xE, ,: ( )x x x .
7°. x, yE, : (x y) x y.
Назовем противоположным элементом для xE такой элемент
yE, что x y . Из аксиом 5° и 6° следует, что y (1)x (элемент x,
умноженный на число 1). Обозначим противоположный элемент
как x.
В курсе линейной алгебры изучались линейные пространства
n арифметических векторов размерности n. Приведенное выше
аксиоматическое определение обобщает понятие линейного про-
странства n на множества произвольной природы. По аналогии,
элементы любого линейного пространства также будем называть
векторами, а сами линейные пространства — векторными простран-
ствами. В том же обычном смысле будем понимать термины «базис
пространства», «линейная зависимость» (независимость) векторов
и «размерность пространства». Напомним, что число n называется
размерностью векторного пространства Е (обозначается n dimE),
если в Е найдется n линейно независимых ненулевых элементов,
а любые (n 1) ненулевых элементов пространства Е являются ли-
нейно зависимыми. Линейное пространство может иметь беско-
нечную размерность.
Пример 1.1. Пусть C[a; b] — множество всех функций, непрерывных
на отрезке [a; b]. Является ли это множество линейным простран-
ством и если да, то какова его размерность?
◄ Выполнение аксиом 1°–7° очевидно, нулевым элементом явля-
ется функция f(x) 0, x[a; b]. Покажем, что C[a; b] — бесконеч-
номерное пространство. Выберем из множества C[a; b] n ненулевых
элементов — функций yi(x) xi1, i 1, 2, …, n. При любом числе n
эти элементы являются линейно независимыми, так как равенство
нулю многочлена i i i
n
i
i
i
n y x
1
1
1
0 для всех точек отрезка
x[a, b] возможно лишь в случае i 0, i 1, …, n. Поскольку число n
можно выбрать сколь угодно большим, то dim(C[a; b]) . ►
Лемма 1.1. (Неравенство Минковского для интегралов.) Пусть для
p 1 существуют интегралы u x dx p
a
b
( ) , v x dx p
a
b
( ) (пределы инте-
грирования — не обязательно конечные). Тогда существует также
интеграл u x v x dx p
a
b
( ) ( ) , причем верна оценка:
u x v x dx u x dx v x dx p
a
b p
p
a
b p
p
a
b p
( ) ( ) ( ) ( )
1 1 1
. (1.1)
Опустим доказательство леммы, которое носит технический
характер (см., например, [17]).
Определение. Линейное пространство Е называется нормиро-
ванным, если каждому элементу xE поставлено в соответствие
вещественное число x , называемое нормой, для которой вы-
полняются следующие аксиомы.
1°. Невырожденность нормы. xE: x 0, x 0 x .
2°. Однородность нормы. , xE: x x .
3°. Неравенство треугольника. x, yE: x y x y .
В одном и том же векторном пространстве Е норму можно вво-
дить различными способами.
Пример 1.2. Рассмотрим векторное пространство C[a; b] из приме-
ра 1.1. Покажите самостоятельно, что приводимые ниже способы
вычисления нормы удовлетворяют аксиомам 1°–3°:
а) x xt
t ab
max ( )
[ , ]
, б) x xt dt p
a
b p
( )
1
, где p1.
Указание: в пункте б для доказательства аксиомы треугольника вос-
пользуйтесь неравенством Минковского (1.1).
Определение. Расстоянием между элементами x, y нормирован-
ного векторного пространства Е назовем число (x,y) x y .
На основании аксиом нормы легко показать, что введенное рас-
стояние между элементами обладает следующими свойствами.
1°. x, yE: (x, y) (y, x).
2°. x, yE: (x, y) 0 x y.
3°. x, y, zE: (x, y) (x, z) (y, z) (неравенство треугольника).
◄ Первое и второе свойства очевидны. Для неравенства треуголь-
ника имеем:
(x,y) x y (x z)(z y) x z z y (x,z) (y,z). ►
Расстояние между элементами называют метрикой простран-
ства. Пространство (не обязательно нормированное), каждой паре
x, y элементов которого поставлено в соответствие вещественное
число (x, y) (расстояние), обладающее свойствами 1°–3°, называет-
ся метрическим1.
Определения. В метрическом пространстве E открытым
шаром радиуса r0 c центром x0E назовем множество
S x x E x x r r( ) ( , ) 0 0 , замкнутым шаром — множество
S x x E x x r r( ) ( , ) 0 0 . Окрестностью точки x0E будем на-
зывать открытый шар произвольного радиуса , т. е. множест-
во S(x0).
Понятия нормы, расстояния, окрестности являются исходны-
ми для построения анализа в линейных нормированных простран-
ствах.
Определение. В линейном нормированном пространстве (ЛНП)
Е элемент yE называется пределом последовательности {xk}E,
если lim ( , )
k k y x
0. При этом говорят, что последовательность
{xk} сходится к элементу y и используют обозначение lim
k kx y
.
Определение. Элемент a из ЛНП E называется предельной точкой
множества ME, если в любой окрестности a содержится хотя
бы один элемент xM, x ≠ a. То есть r S a a M r 0 : ( ) \ .
Теорема 1.1. Для того чтобы элемент a из ЛНП E был предельной
точкой множества ME, необходимо и достаточно существование
последовательности {xk}M, xk ≠ a, сходящейся к a: lim
k k x a
.
◄ Необходимость. Возьмем сходящуюся к нулю числовую после-
довательность из положительных элементов, например k 1/k,
k 1, 2, … Так как a — предельная точка M, то, по определению, k 0
x M k , x a k : x S a k k ( ). Поскольку (x ,a) x a k k k k 1 и
lim
k k x a
0, то построенная последовательность {xk} сходится
к точке a: lim
k k x a
.
Достаточность. Так как {x } k , x M k , x a k , причем lim
k k x a
,
то, по определению предела, lim
k k x a
0 и 0 N(): n N()
x a n . То есть в любой -окрестности точки a содержатся эле-
менты xnM, xn ≠ a, поэтому точка a является предельной для мно-
жества M. ►
Определение. Пусть M — подмножество в ЛНП E, а M — мно-
жество всех предельных точек M. Объединение множеств
M M M называется замыканием множества M. Если M со-
держит все свои предельные точки, т. е. MM, то множество M
называется замкнутым.
Определение. Множество ME векторного пространства
Е называется линейным многообразием, если x, y M, ,:
(x y) M.
Определение. Замкнутое линейное многообразие L в ЛНП E,
LE, назовем подпространством.
Определение. Расстоянием от точки x из ЛНП E до множества
LE называется величина (x,L) inf x u
u L
.
Для ограниченного снизу числового множества всегда найдется
точная нижняя грань. Поскольку норма неотрицательна, то рассто-
яние от точки до подмножества (подпространства) всегда существу-
ет. Расстояние (x, L) характеризует наилучшее приближение (т. е.
аппроксимацию) элемента xE элементами подмножества LE.
Определение. Элемент yL, где L — подпространство из ЛНП E,
называется элементом наилучшего приближения (ЭНП) для за-
данного элемента xE, если (x,L) x y .
Элемент наилучшего приближения существует не всегда, а так-
же может быть не единственным.
Пример 1.3. Рассмотрим пространство 2, т. е. множество упорядо-
ченных пар вещественных чисел x (1,2), где 1, 2. Введем
норму следующим образом: x 1 2 (убедитесь самостоятель-
но, что аксиомы нормы выполняются). Рассмотрим подмножество
L2, L {(1,2)|1 2} {(,)|}. Тогда:
1) L — подпространство в E;
2) для элемента x (1, 1) имеем (x, L) 2, причем ЭНП —
не единственный.
◄ 1. Множество L является линейным многообразием (убедитесь
самостоятельно). Покажем, что L — замкнуто. Допустим против-
ное: пусть существует элемент yL, т. е. y (1, 2), 1 ≠ 2, который
является предельной точкой множества L. Тогда для любой точки
u (, ) из множества L расстояние
(y,u) ( )( ) r(y) 1 2 1 2 1 2 0,
т. е. ограничено снизу положительной величиной r r(y). Следова-
тельно, в окрестности Sr(y) нет ни одного элемента из множества
L, и произвольно выбранная точка yL не является предельной
жаться только в самом этом множестве и L является замкнутым
линейным многообразием (подпространством) в 2.
2. Рассмотрим функцию f t t t
t t
t
t t
( )
,
,
,
1 1
2 1
2 1 1
2 1
.
Очевидно, inf ( ) min ( )
t t
f t f t
2 . Для расстояния от точки x (1, 1)
до подпространства L имеем:
(x,L) inf inf inf ( )
u L
u x f
1 1 2.
При этом элементами наилучшего приближения для x являются
все точки отрезка L* (,) 1 1, L* L. ►
Определение. Пусть X — ЛНП. Последовательность {xn}X на-
зывается фундаментальной, если 0 N N(): nN, p
x x n p n . ( — множество натуральных чисел.)
Напомним, что для случая X (множество действительных
чисел) в курсе математического анализа был доказан критерий
Коши: числовая последовательность {xn} сходится тогда и только
тогда, когда она фундаментальна. Справедлив ли критерий Коши
в произвольном ЛНП?
Лемма 1.2. Всякая сходящаяся в ЛНП X последовательность {xn} —
фундаментальна.
◄ Так как последовательность {xn} сходится, то
lim
n n x x X, и 0
N N(), nN: x x n 2. Тогда также p: x x n p 2,
поэтому x x x x x x x x x x n p n n p n n p n , где число
0 может быть выбрано сколь угодно малым. Следовательно, по-
следовательность {xn}X является фундаментальной. ►
Упражнение. Покажите самостоятельно, что если последователь-
ность {xn} — фундаментальна, то последовательность {xn} также
является фундаментальной.
Возникает вопрос: а всякая ли фундаментальная последо-
вательность {xn}X сходится в произвольном ЛНП X? Для каж-
дой ли фундаментальной последовательности существует предел
lim
n nx x
X?
Определение. ЛНП называется полным, если в нем сходится лю-
бая фундаментальная последовательность. Полное ЛНП назы-
вается банаховым (или пространством Банаха).
Пример 1.4. Простейший пример пространства Банаха — множе-
ство вещественных чисел с нормой x | x |.
Пример 1.5. Пространство L T 2 [0; ] непрерывных на отрезке t [0; T]
функций с нормой x xt dt
T ( )2
0
не является банаховым.
◄ Покажем, что это пространство неполно. Выберем на отрезке
t [0; T] кусочно-гладкую функцию f(t), имеющую разрыв первого
рода. Если составить для этой функции тригонометрический ряд
Фурье, то, как известно, частичные суммы ряда
s t
a
a
kt
T
b
kt
T n k k
k
n
( ) cos sin
0
2 1
2 2
(непрерывные функции) будут сходиться в среднеквадратичном
смысле к функции f(t):
lim ( ) ( ) lim
n n
T
n n f t s t dt f s
2
0
0 ,
где L [ ;T ] n 2 0 , а f L T 2 [0; ]. Это означает, что последователь-
ность {sn} — фундаментальна в L T 2 [0; ] (доказательство данного
утверждения проводится аналогично схеме доказательства леммы
1.2). Однако в силу единственности предела последовательность {sn}
не может сходиться к элементу пространства L T 2 [0; ], так как вы-
бранная нами функция f(t) — разрывная. Отсюда следует, что про-
странство L T 2 [0; ] не является полным. ►
Определения. Пусть X — ЛНП (не обязательно банахово),
а {xn} — некоторая последовательность, {xn}X. Формально
составленная сумма xk k
1 называется рядом в X, а элемент
s x n k k
n 1 — n-й частичной суммой ряда. (Заметим, что n: snX,
см. определение ЛНП). Ряд называется сходящимся по норме
ЛНП X, если в X сходится последовательность элементов {sn},
т. е.
lim
n ns s X. Элемент s называется суммой ряда, а запись
s xk k
1 означает, что ряд сходится по норме X и его сумма
равна s.