Перевод с английского под ред. М.С. Минскера, Б.С. Цыбакова. — М.: Советское радио, 1974. — 720 с.
В книге собраны, подытожены и заново переосмыслены все основные результаты теории информации. Изложены конструкции наиболее перспективных для практического использования кодов, разнообразные методы декодирования, выражения для вероятностей ошибки, пропускная способность реальных каналов связи, методы сокращения избыточности - все это и многое другое изложено с самых современных позиций. Предлагаемые читателю результаты (вместе с изящными и полными их доказательствами) сведены в книге в единую систему. Математические рассуждения удачно сочетаются с инженерными выводами и техническими рекомендациями.
Книга предназначена для широкого круга инженеров и математиков, специализирующихся по системам связи, системам управления, вычислительным машинам и кибернетическим устройствам. Она также может служить хорошим учебным пособием для аспирантов и студентов.
Предисловие редакторов русского перевода.
Предисловие к русскому изданию.
Предисловие.
Системы связи и теория информации.
Введение.
Модели источников и кодирование для источников.
Модели каналов и кодирование для каналов.
Исторические замечания и ссылки.
Мера информации.
Дискретные вероятности; обзор и обозначения.
Определение взаимной информации.
Средняя взаимная информация и энтропия.
Вероятность и взаимная информация для непрерывных ансамблей.
Взаимная информация для произвольных ансамблей.
Итоги и выводы.
Исторические замечания и ссылки.
Кодирование для дискретных источников.
Коды с фиксированной длиной.
Неравномерные кодовые слова.
Теорема кодирования для источника.
Процедура выбора оптимального неравномерного кода.
Дискретные стационарные источники.
Марковские источники.
Итоги и выводы.
Исторические замечания и ссылки.
Дискретные каналы без памяти и пропускная способность.
Классификация каналов.
Дискретные каналы без памяти.
Обращение теоремы кодирования.
Выпуклые функции.
Нахождение пропускной способности дискретного канала без памяти.
Дискретные каналы с памятью.
Неразложимые каналы.
Итоги и выводы.
Исторические замечания и ссылки.
Приложение.
Теорема кодирования для канала с шумами.
Блоковые коды.
Декодирование блоковых кодов.
Вероятность ошибки для двух кодовых слов.
Обобщенное неравенство Чебышева и граница Чернова.
Случайные кодовые слова.
Теорема кодирования для кода с числом слов, большим двух.
Свойства показателя экспоненты случайного кодирования Er(R).
Вероятность ошибки для ансамбля кодов с выбрасыванием.
Нижние границы для вероятности ошибки.
Вероятность ошибки на блок при скоростях, больших пропускной способности.
Теорема кодирования для каналов с конечным числом состояний.
Состояние известно на приемном конце.
Итоги и выводы.
Исторические замечания и ссылки.
Приложения.
Методы кодирования и декодирования.
Коды с проверкой на четность.
Порождающие матрицы.
Проверочные матрицы систематических кодов с проверкой на четность.
Таблицы декодирования.
Коды Хэмминга.
Теорема кодирования для кодов с проверкой на четность.
Теория групп.
Подгруппы.
Циклические подгруппы.
Поля и многочлены.
Многочлены.
Циклические коды.
Поля Галуа.
Коды максимальной длины и коды Хэмминга.
Существование полей Галуа.
БЧХ-коды.
Итеративный алгоритм для нахождения σ(D).
Сверточные коды и пороговое декодирование.
Последовательное декодирование.
Сложность последовательного декодирования.
Вероятность ошибки при последовательном декодировании.
Кодирование в каналах с пакетами ошибок.
Циклические коды.
Сверточные коды.
Итоги и выводы.
Исторические замечания- и ссылки.
Приложения.
Случайные блуждания и доказательство леммы 6Б.
Дискретные по времени каналы без памяти.
Введение.
Отсутствие ограничений на входе.
Ограничения на входе.
Аддитивный шум и аддитивный гауссов шум.
Аддитивный гауссов шум и ограничение на энергию входного сигнала.
Параллельные каналы с аддитивным гауссовым шумом.
Итоги и выводы.
Исторические замечания и ссылки.
Непрерывные каналы.
Ортонормальные разложения сигналов и белый гауссов шум.
Гауссовские случайные процессы.
Взаимная информация для каналов с непрерывным временем.
Белый гауссов шум и ортогональные сигналы.
Вероятность ошибки для двух кодовых слов.
Вероятность ошибки для ортогональных кодовых слов.
Эвристическое изучение пропускной способности канала с аддитивным.
гауссовым шумом и ограничениями на полосу частот.
Представление линейных фильтров и небелый шум.
Профильтрованный шум и разложение Карунена — Лоэва.
Идеальные фильтры нижних частот.
Каналы с аддитивным гауссовым шумом и сигналами на входе,
ограниченными по мощности и по частоте.
Диспергирующие каналы с замираниями.
Итоги и выводы.
Исторические замечания и ссылки.
Кодирование источника с заданным критерием верности.
Введение.
Дискретные источники без памяти и меры искажения отдельной буквы.
Теорема кодирования для источников при заданном критерии верности.
Вычисление R(d*).
Модификация обращения теоремы кодирования для канала с шумами.
Дискретные по времени источники с непрерывными амплитудами.
Гауссовские источники с квадратично-разностным искажением.
Источники, порождающие гауссовские случайные процессы.
Дискретные эргодические источники.
Итоги и выводы.
Исторические замечания и ссылки.
Задачи и упражнения.
Решения задач.
Список обозначений.
Примечания редакторов.
Список использованной литературы и рекомендуемые книги.
Именной указатель.
Предметный указатель.