Березкин Е.Ф. Основы теории информации и кодирования

Учебное пособие. — 3-е изд., стереотипное. — Санкт-Петербург: Лань, 2019. — 322 с. — (Учебники для вузов. Специальная литература). — ISBN 978-5-8114-4119-8.Материал учебного пособия представляет собой теоретическую предпрофилирующую подготовку специалистов по проектированию информационных систем и цифровых комплексов обработки данных. Первые пять разделов посвящены исследованию математических моделей непрерывных сигналов, следующие пять — исследованию информационных моделей дискретных сигналов. Каждый раздел сопровождается задачами с методическими указаниями по их решению и ответами.
Учебное пособие предназначено для студентов, обучающихся по специальности «Применение и эксплуатация автоматизированных систем специального назначения» и направлению подготовки магистров «Информатика и вычислительная техника».Предисловие
Введение
Математические модели детерминированных периодических сигналов
Разложение произвольного сигнала по заданной системе функций
Частотное представление детерминированных периодических сигналов
Носители информации и виды модуляции
Амплитудно-модулированный гармонический сигнал
Частотно-модулированный гармонический сигнал
Фазомодулированный гармонический сигнал
Периодическая последовательность прямоугольных импульсов
Амплитудно-модулированная периодическая последовательность импульсов
Математические модели детерминированных непериодических сигналов
Гармонический анализ непериодических колебаний
Сопоставление спектров периодических и соответствующих непериодических сигналов
Свойства преобразования Фурье
Сдвиг колебания во времени
Инверсия сигнала
Изменение масштаба времени
Сдвиг спектра колебания по частоте
Сложение колебаний
Дифференцирование и интегрирование колебания
Произведение колебаний
Взаимная заменяемость ω и t в преобразовании Фурье
Спектральная плотность одиночного прямоугольного импульса
Спектральная плотность пачки прямоугольных импульсов
Энергетическое толкование спектра сигнала
Практическая ширина спектра сигнала
Спектр дельта-функции
Математические модели случайных сигналов
Случайные сигналы и их вероятностные характеристики
Числовые характеристики случайного процесса
Стационарные случайные процессы
Свойства автокорреляционной функции стационарного случайного процесса
Корреляционный анализ детерминированных сигналов
Спектральная плотность мощности стационарного случайного процесса
Белый шум
Свойства спектральной плотности мощности стационарных случайных процессов
Интервал корреляции и эффективная ширина спектра стационарных случайных процессов
Элементы теории дискретизации непрерывных функций
Частотный критерий дискретизации В. А. Котельникова
Представление сигналов с ограниченной частотной полосой в виде ряда Котельникова
Дискретные сигналы и их спектры
Быстрое преобразование Фурье
Элементы теории оптимального приема и статистических решений
Методы фильтрации
Частотная фильтрация
Метод накопления
Корреляционный метод
Согласованная фильтрация
Сущность основной задачи приема сигналов
Обнаружение сигнала
Критерий максимума правдоподобия (критерий Фишера)
Критерий идеального наблюдателя (критерий Зигерта - Котельникова)
Критерий минимального риска (критерий Байеса)
Критерий Неймана - Пирсона
Различение сигналов
Синтез структуры решающего устройства
Восстановление сигнала
Измерение информации
Взаимная информация
Основные свойства взаимной информации
Собственная информация
Мера информации как случайная величина
Энтропия
Основные задачи количественного измерения информации
Кодирование сообщений дискретного множества
Метод кодирования Шеннона - Фано
Основополагающие теоремы оптимального кодирования
Метод Хаффмана (оптимальное кодирование)
Дискретные источники информации
Дискретные источники, порождающие статистически независимые сообщения
Случайные дискретные источники
Среднее по ансамблю и среднее по последовательности
Кодирование событий, порождаемых источником с фиксированной скоростью
Рациональное кодирование двоичного источника в условиях статистической неизвестности
Дискретные каналы связи
Основные понятия и определения
Дискретные стационарные каналы без памяти
Симметричные стационарные каналы
Вычисление информационной пропускной способности стационарного канала
Кодирование при наличии шумов
Помехоустойчивое кодирование
Основные принципы помехоустойчивого кодирования
Математическое введение к групповым кодам
Построение группового кода
Математическое введение к циклическим кодам
Циклический код, обнаруживающий и исправляющий ошибки
Циклический код, обнаруживающий одиночные ошибки
Циклический код, исправляющий одиночные ошибки и обнаруживающий двойные
Обнаружение ошибок высокой кратности
Исправление ошибок высокой кратности
Обнаружение пакетов ошибок
Параметры некоторых циклических кодов
Методы построения циклического кода Хэмминга
Неразделимый циклический код
Разделимый циклический код
Построение одноканальных кодирующих и декодирующих устройств циклического кода Хэмминга
Построение многоканальных кодирующих и декодирующих устройств циклического кода Хэмминга
Методические указания по решению типовых задач и ответы
Приложения
Таблица значений интеграла вероятностей
Таблица значений двоичного логарифма -log₂p
Список примитивных неприводимых многочленов с минимальным числом ненулевых коэффициентов
Разложение двучлена xⁿ+1 на неприводимые сомножители над полем GF(2)
Список рекомендуемой литературы
Предметный указатель