eng
Содержание
I. Информация и кодирование источников
1.
Введение
2.
Информация, энтропия и избыточность
2.1.
Информация одного символа
2.2.
Энтропия и избыточность
3.
Кодирование для дискретных источников без памяти
3.1.
Теорема кодирования источников 1
3.2.
Коды Хаффмана
4.
Энтропия для связанных источников
4.1.
Взаимная и условная информация
4.2.
Совместная и условная энтропия
4.3.
Выводы
5.
Стационарные дискретные источники с памятью
5.1.
Энтропия
5.2
Теорема кодирования источников 2
5.3.
Конечные марковские цепи
5.3.1.
Дискретные во времени Марковские цепи
5.3.2.
Конечные дискретные Марковские источники с памятью
5.4.
Энтропия стационарных Марковских источников
5.5.
Кодирование стационарных Марковских источников
5.6.
Выводы
6.
Сжатие данных
6.1.
Введение
6.2.
Арифметическое кодирование
6.3.
Алгоритм Лампела-Зива
7.
Дискретные каналы без памяти и передача информации
7.1.
Введение
7.2.
Дискретный симметричный канал
7.3.
Передача информации
7.4.
Выводы
7.5.
Пропускная способность канала
7.5.1.
Пропускная способность двоичного симметричного канала
7.5.2.
Пропускная способность двоичного симметричного канала со стираниями
7.6.
Теорема кодирования для дискретных каналов без памяти
8.
Непрерывные источники и каналы
8.1.
Дифференциальная энтропия
8.2.
Пропускная способность канала и граница Шенона
8.3.
Примеры
II. Помехоустойчивое кодирование
1.
Введение
2.
Линейные и блочные коды
2.1.
Помехоустойчивое кодирование
2.2.
Порождающая матрица
2.3.
Синдромное декодирование
2.4.
Свойства блочных кодов
2.4.1.
Расстояние Хэмминга и корректирующая способность
2.4.2.
Совершенные коды и граница Хэмминга
2.4.3.
Вероятность ошибки декодирования
2.4.4.
Коды Хэмминга
2.4.5.
Расширенные коды Хэмминга
(2.5 Поля Галуа в приложении)
3.
Циклические Коды
3.1.
Введение
3.2.
Определение и основные свойства двоичных циклических кодов
3.3.
Систематические циклические коды
3.4.
Порождающая и проверочная матрица
3.5.
Кодер -переключатель
3.6.
Синдром и обнаружитель (детектор) ошибок
3.7.
Пакеты ошибок
3.8.
Декодер Магита
3.9.
Циклические коды Хэмминга
3.10.
Код Голлея
3.11.
CRC - коды
3.12.
Укороченные коды
3.13.
Пример: ATM передача
3.14.
Упражнения
4.
Сверточные коды
4.1.
Введение
4.2.
Кодер и импульсный отклик
4.3.
Полиномиальное представление
4.4.
Граф состояний
4.5.
Структура сверточных кодов
4.6.
Декодироване по максимому правдоподобия
4.7.
Декодер Витерби
4.8.
Упражнения.
Приложение
А. Поля Галуа
Б. Дискретные преобразования Фурье
В. Коды Рида-Соломона. Укороченные РС коды
Г. Примеры применения