ISBN Б-7883-0458-Х
В учебном пособии рассматриваются модели сигналов, основы теории информации и кодирования, а также некоторые вопросы приема и обработки информации. <...> В данном случае понятие «количество информации» определяется как частота употребления знаков. <...> Количество информации в указанном смысле не отражает ни семантики, ни прагматической ценности информации. <...> 8
Лекция 1
Модели детерминированных сигналов
1.1
Понятие модели сигнала
Для перенесения информации в пространстве и времени она представляется в форме сообщений. <...> Поэтому можно предсказать
лишь вероятность каждого сообщения, а аналитической моделью сигнала, строго говоря, может быть только случайный процесс. <...> В настоящем разделе изучаются модели детерминированных сигналов. <...> 1.2
Обобщенное спектральное представление
детерминированных сигналов
Для анализа прохождения сложного сигнала u ( t ) через линейную систему
его обычно представляют в виде
n
u ( t ) = ∑ ckϕ k ( t ), t ∈ [t1 , t2 ] , <...> Совокупность методов, в которых используется представление сигнала в
виде (1.1) и/или (1.2) называют обобщенной спектральной теорией сигналов. <...> 11
1.3
Временная форма представления сигналов
Произвольную функцию (непрерывный сигнал) u ( t ) можно представить в
виде совокупности примыкающих друг к другу импульсов бесконечно малой
длительности с амплитудой, равной значению сигнала в текущий момент времени:
u (t ) =
∞
∫ u (τ ) ⋅ δ (τ − t ) ⋅ dτ , <...> 1.4
Частотное представление периодических сигналов
Рассмотрим представление детерминированных сигналов с применением в
качестве базисных функций ϕ ( t ) = е pt , при p = ± jω . <...> 1.6
Частотное представление непериодических сигналов
Предположим, что соответствующая реальному непериодическому сигналу функция u ( t ) удовлетворяет условиям Дирихле и абсолютно интегрируема:
∞
∫ u ( t ) ⋅ dt < ∞ . <...> Тогда спектральное представление непериодического сигнала
−∞
u ( t ) можно строить путем увеличения периода периодического сигнала до бесконечности. <...> Так же, как в случае <...>
Лекции_по_теории_информации.pdf
ФЕДЕРАЛЬНОЕ АГЕНТСТВО ПО ОБРАЗОВАНИЮ
ГОСУДАРСТВЕННОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ
ВЫСШЕГО ПРОФЕССИОНАЛЬНОГО ОБРАЗОВАНИЯ
«САМАРСКИЙ ГОСУДАРСТВЕННЫЙ АЭРОКОСМИЧЕСКИЙ
УНИВЕРСИТЕТ имени академика С.П. КОРОЛЕВА»
В. А. ФУРСОВ
ЛЕКЦИИ
ПО ТЕОРИИ ИНФОРМАЦИИ
Под редакцией Н.А. Кузнецова
Допущено учебно-методическим советом по прикладной математике и информатике
УМО по классическому университетскому образованию в качестве учебного пособия
для студентов высших учебных заведений, обучающихся по специальности и направлению
«Прикладная математика и информатика» и по направлению «Информационные технологии»
С
А М А Р А
Издательство СГАУ
2006
Стр.1
УДК 519.72
ББК 32.811
Ф 95
Инновационная
"Развитие
центра
образовательная
компетенции
и
программа
подготовка
специалистов мирового уровня в области аэрокосмических и
геоинформационных технологий”
Рецензенты:
д-р физ.-мат. наук, В. М. Ч е р н о в,
д-р техн. наук,.
Фурсов В. А.
Ф 95
Лекции по теории информации: учеб. пособие / В. А. Фурсов;
под ред. Н.А. Кузнецова – Самара: Изд-во Самар. гос. аэрокосм. ун-та,
2006. – 148 с. : ил.
ISBN Б-7883-0458-Х
В учебном пособии рассматриваются модели сигналов, основы теории информации
и кодирования, а также некоторые вопросы приема и обработки информации.
Книга составлена как сборник лекций, каждая из которых посвящена одной
теме. Дается конспективное изложение основных вопросов. Лекции занимают промежуточное
положение между справочниками и солидными изданиями и адресованы
студентам, обучающимся по учебным планам бакалавров и специалистов.
Печатается по решению Редакционно-издательского совета Самарского государственного
аэрокосмического университета.
УДК 519.72
ББК 32.811
ISBN Б-7883-0458-Х
© Фурсов В. А., 2006
© Самарский государственный
аэрокосмический университет, 2006
2
О. В. Г о р я ч к и н
П
Р
И
О
Р
И
Т
Т
К
Е
Т
Н
Ы
Е
Н
А
Н
Ц
И
О
А
Н
Л
Ь
Ы
Е
П
Р
О
Е
Ы
Стр.2
ПРЕДИСЛОВИЕ
Идея подготовки настоящего пособия возникла в связи с переходом к подготовке
прикладных математиков по двухступенчатой схеме. В учебных планах
подготовки бакалавров по направлению 510200 предусматривается лекционный
курс теории информации и кодирования объемом около 35 часов. В рамках указанного
сравнительного небольшого объема необходимо было сохранить достаточно
полную и глубокую подготовку, которая традиционно обеспечивалась
учебным планом подготовки по специальности 010200.
В 1977 году в Куйбышевском авиационном институте (ныне Самарский
государственный аэрокосмический университет) вышло в свет учебное пособие
[10] (автор В.А. Сойфер). В нем рассматриваются вопросы теории информации
и кодирования, которые составляют основу курса. Наряду с этим в учебные
программы входят также разделы, посвященные рассмотрению моделей сигналов,
а также вопросам их обнаружения и восстановления параметров. Это нашло
отражение в изданиях других авторов [3], [7]. Вместе с тем в указанных
книгах либо недостаточно внимания уделено фундаментальным теоремам теории
информации [7], либо имеет место перегруженность техническими вопросами
реализации методов [3], что не является задачей подготовки специалистов
и бакалавров по прикладной математике.
В связи с этим, потребовалось пересмотреть структуризацию материала с
целью придания курсу большей компактности. При отборе материала авторы
стремились дать основные теоретические сведения, на которых базируется ряд
последующих специальных дисциплин. В частности, включены вопросы помехоустойчивого
кодирования с использованием линейных последовательных
машин, задачи обнаружения и оценивания. Вместе с тем от многих излагаемых,
например, в [3] вопросов, связанных со схемными решениями, пришлось отказаться.
3
Стр.3