Теория информационных процессов и систем. В 2 ч. Ч. 1. Теоретические основы информационных процессов (190,00 руб.)

Стр.3

Стр.147

Стр.148

Стр.149

УДК 681.323 БКК О Рекомендовано к изданию методическим советом ПГУТИ, протокол № , от __.__.2016 г. Рецензенты: Д.т.н., проф., зав. каф. ИСТ СГАУ С.А. Прохоров К.т.н., доц. каф. ПОВТиАС ПГУТИ, В.В. Камышников Овсянников А.С., О Теория информационных процессов и систем: В 2 ч., ч.1. Теоретические основы информационных процессов: Учеб. пособие / Поволж. гос. ун-т. телеком. и информ. Самара, 2016.- 131 с. Изложена теория информационных процессов и систем в двух частях. Первая часть посвящена теоретическим основам информационных процессов, имеющих место в современных автоматизированных информационных системах и вычислительных сетях. Во второй части рассмотрены основы построения телекоммуникационных систем. В первой части затронуты вопросы оценки количества информации источников, кодирования сообщений источников информации, помехоустойчивого кодирования. Приведены основные сведения о моделях аналоговых и дискретных каналов связи. Пособие в первую очередь рассчитано на студентов второго ускоренного и третьего полного курса факультета информационных систем и технологий ПГУТИ, обучающихся по специальности 09.03.02 “Информационные системы и технологии” в рамках специализации “Информационные системы и технологии” и изучающих дисциплину “ Теория информационных процессов и систем” в третьем (ускоренный курс) и пятом (полный курс) семестрах в рамках лекционных, лабораторных и практических занятий. Разработано на кафедре информационных систем и технологий Поволжского государственного университета телекоммуникаций и информатики. Может быть рекомендовано для студентов, обучающихся по направлениям “Информационные системы” и “Информатика и вычислительная техника” ISBN ©, Овсянников А.С, 2016 5

Стр.3

ОГЛАВЛЕНИЕ СПИСОК ПРИНЯТЫХ СОКРАЩЕНИЙ……………………………… .3 ВВЕДЕНИЕ………………………………………………………………… .4 1. Определение информации ................................................................4 2. Этапы обращения информации ......................................................5 3. Измерение информации ....................................................................6 4. Информационные системы ..............................................................8 5. Структура книги ..............................................................................10 ОЦЕНКА ИНФОРМАЦИИ 1 КОЛИЧЕСТВЕННАЯ ИСТОЧНИКОВ…………………………………………………………….11 1.1 Дискретный источник……………………………………………11 1.1.1 Определение меры оценки количества информации……..……11 1.1.2 Частная взаимная информация дискретных источников сообщений……………………………………………………………………14 1.1.3 Энтропия дискретного сообщения…………………………….18 1.1.4 Условная энтропия дискретных сообщений…………………19 1.1.5 Энтропия объединенного сообщения…………………………20 1.1.6 Средняя взаимная информация дискретных источников сообщений……………………………………………………………………20 1.2 Непрерывный источник………………………………………….21 1.2.1 Собственная информация и энтропия………………………..21 1.2.2 Основные свойства дифференциальной энтропии непрерывного источника………………………………………..………..24 1.2.3 Средняя взаимная информация непрерывных источников сообщений……………………………………………………………………25 149

Стр.147

1.2.4 Эпсилон-энтропия непрерывных источников сообщений……………………………………………………………………28 2 КОДИРОВАНИЕ СООБЩЕНИЙ ИСТОЧНИКОВ…………………..32 2.1 Модели дискретных источников сообщений………………….32 2.2.Общие принципы и основная теорема кодирования дискретных источников сообщений…………………………………….36 2.3 Методы эффективного кодирования…………………………...40 2.3.1 Метод кодирования источников Шеннона Фано…………..40 2.3.2 Метод кодирования источников Хаффмена…………………41 2.4 Предельная условная энтропия дискретных источников сообщений……………………………………………………………………42 2.5 Информативность непрерывных источников сообщений дискретного времени………………………………………..…………………………….44 2.6 Средняя взаимная информация непрерывных источников сообщений непрерывного времени……………………………………….48 2.7 Квазиобратимое эффективное кодирование непрерывных источников с заданным критерием качества……………………….…..50 2.8 Эпсилон-энтропия Гауссовского вектора сообщений………..51 2.9 Эпсилон-энтропия стационарного Гауссовского процесса дискретного времени………………………………………..…………….57 3 ПОМЕХОУСТОЙЧИВОЕ КОДИРОВАНИЕ…………………………60 3.1Основные определения……………………………………………60 3.1.1 Методы повышения верности передачи информации……………………………………..…………………………..…….…..60 3.1.2 Понятие о корректирующих кодах……………………….…61 3.2 Линейные коды…………………………………………………....67 3.2.1 Построение линейных кодов…………………………………..67 150

Стр.148

3.2.2 Обнаружение и исправление ошибок. Декодирующее устройство……………………………………………………………………72 3.2.3 Примеры линейных кодов…………………….……………….77 3.3 Циклические коды………………………………....………….……….80 3.3.1 Выбор образующего многочлена………….…..…….…………84 3.3.2 Базис циклического кода, формирование кодовых комбинаций……………………………………………..….……….………..84 3.4 Синдром циклического кода и его свойства……….….…..……...89 3.5 Коды БОУЗА - ЧОУДХУРИ – ХОКВИНГЕМА….…….……... …93 3.6 Коды Абрамсона……………………………………………………..97 3.7 Коды Рида — Соломона……………………………..……………..98 3.8 Понятие об итерактивных и каскадных кодах………….……....99 3.9 Понятие о непрерывных кодах………………………………..103 3.9.1 Цепной код……………………………………………..……….103 3.9.2 Сверточные коды………………………….…………………..105 4 МОДЕЛИ КАНАЛОВ СВЯЗИ……………………………..………….109 4.1 Непрерывный канал…………………………………………….109 4.2 Дискретный канал…………………………..…………………..116 ЗАКЛЮЧЕНИЕ…………………….…....……................................129 БИБЛИОГРАФИЧЕСКИЙ СПИСОК ………………………....…….130 151

Стр.149