новосибирский государственный технический университет

Федеральное государственное бюджетное образовательное учреждение
высшего профессионального образования
«Саратовский государственный технический университет им. Гагарина Ю.А.»
Балаковский институт техники, технологии и управления
Кафедра «Управление и информатика в технических системах»
РАБОЧАЯ ПРОГРАММА
по дисциплине
Б2.В.ДВ.1.1 «МАТЕМАТИЧЕСКИЕ ОСНОВЫ ТЕОРИИ ИНФОРМАЦИИ
И ПЕРЕДАЧИ СИГНАЛОВ»
направления подготовки
«220400.62 Управление в технических системах»
Профиль «Управление и информатика в технических системах»
форма обучения - очная
курс - 3
семестр - 5
зачетных единиц – 5
часов в неделю – 4
всего часов - 180 час
в том числе:
лекции - 36 час
практические занятия - 54 час
практические занятия – 26 час (интерактивное обучение)
самостоятельная работа - 90 час
Экзамен – 5 семестр
Рабочая программа обсуждена на заседании кафедры
“Управление и информатика в технических системах”
“____” __________ 2014 г. Протокол № ____________
Зав. кафедрой _______________ Т.Н. Скоробогатова
Рабочая программа утверждена УМКС(Н) по направлению
“Управление в технических системах”
“____” __________ 2014 г. Протокол № ____________
Председатель УМКС(Н) _________ Т.Н. Скоробогатова
Балаково 2014
1
1. Цели и задачи дисциплины
Целью дисциплины является изучение: математической основы теории информации и
теории кодирования сигналов как носителей информации; определения энтропии источников
информации; видов кодов, математических моделей сигналов и каналов передачи информации.
Задачей изучения дисциплины является приобретение студентами прочных знаний и
практических навыков в области, определяемой основной целью курса.
2. Место дисциплины в структуре ООП ВПО
Дисциплина «Математические основы теории информации и передачи сигналов» относится к математическому и естественнонаучному циклу базовой части дисциплин. Для изучения курса необходимо знание следующих дисциплин:
дискретная математика; математическая логика; основы теории вероятности и математическая
статистка; информатика.
3. Требования к результатам освоения дисциплины
Процесс изучения дисциплины направлен на формирование следующих компетенций:
- способность понимать сущность и значение информации в развитии современного информационного общества, сознавать опасности и угрозы, возникающие в этом процессе, соблюдать основные требования информационной безопасности, в том числе защиты государственной тайны (ОК-11);
- способность владеть основными методами, способами и средствами получения, хранения, переработки информации, иметь навыки работы с компьютером как средством управления
информацией (ОК-12);
- способность разрабатывать информационное обеспечение систем с использованием
стандартных СУБД (ПК-11).
Студент должны знать: возможности источников информации и возможности информационного канала; понятие условной энтропии и взаимной информации; понятие дискретного
источника сообщений с памятью, понятие избыточности дискретного источника сообщений,
понятие производительности источника дискретных сообщений и скорости передачи информации; теорему Шеннона для канала без шума.
Студент должен уметь: согласовать дискретный источник с дискретным каналом; согласовать дискретный источник с дискретным каналом с шумом; построить помехоустойчивый
код, учитывая информационный предел избыточности; выбирать параметры квантования и дискретизации для непрерывного сообщения; применять теорему Котельникова; оценить ошибки
дискретизации и квантования; оценить энтропию и производительность источника непрерывных сообщений; определить пропускную способность непрерывного канала и оценить качество
функционирования систем связи.
Студент должен владеть: методикой обработки данных в процессе проектирования систем передачи сигналов в системах управления.
2
№
модуля
1
4 Распределение трудоемкости (час.) дисциплины по темам
и видам занятий
Всего
Практ ИнтеракЛекНаименование темы
часов
занятия
тивные
ции
№ №
не- темы
дели
1, 2 1 Математический аппарат теории
информации
3, 4 2 Энтропия. Количественная мера
информации.
СРС
14
4
4
4
6
18
4
8
-
6
44
8
20
8
16
18
4
4
4
10
3
3 Сигналы и их математическое
описание. Дискретизация информации. Модуляция носителей информации.
4 Математическая модель канала
связи
5 Кодирование информации
58
12
14
6
32
4
6 Методы сжатия информации
14
2
2
2
10
7 Основы криптографии
ВСЕГО
14
180
2
36
2
54
2
26
10
90
2
5-8
9, 10
5. Содержание лекционного курса
№
темы
1
Всего
часов
4
2
4
3
8
4
4
№
Темы лекционных занятий
лекции
1,2
Математический аппарат теории информации. Понятие «информация». Этапы обращения информации. Виды информации. Структура информации.
Способы измерения информации. Структурные меры. Статистические меры.
Семантические меры. Теория информации.
3,4
Энтропия. Количественная мера информации. Основные свойства энтропии.
Энтропия ансамбля. Энтропия объединения. Условная энтропия и ее свойства. Количество информации и избыточность.
5 - 8 Сигналы и их математическое описание. Виды сообщений. Понятие сигнала
и его модели. Формы представления детерминированных сигналов. Временная форма. Частотная форма. Случайный процесс как модель сигнала. Стационарные и эргодические случайные процессы. Спектральное представление случайных сигналов. Частотное представление стационарных случайных
сигналов. Дискретизация информации. Квантование по уровню и по времени.
Теорема Котельникова. Принцип Железнова. Методы передачи данных. Аналоговые методы. Модуляция носителей информации. Виды носителей. Виды
непрерывной модуляции. Цифровые методы. Виды импульсной модуляции.
Помехоустойчивые методы передачи. Квадратурная амплитудная модуляция.
Векторное представление сигналов. Амплитудно-фазовая модуляция. Многочастотный метод модуляции.
9,10 Математическая модель канала связи. Система передачи информации. Основные характеристики. Определение пропускной способности канала связи.
Информационные характеристики источников сообщений. Информационные
характеристики источника дискретных сообщений. Информационные характеристики источника непрерывных сообщений. Информационные характеристики дискретных каналов связи. Информационные характеристики непрерывных каналов связи. Согласование физических характеристик сигнала и
канала. Согласование статистических свойств источника сообщений и канала
связи.
3
5
12
1116
6
2
17
7
2
18
Кодирование информации. Цели кодирования. Прямая и обратная теоремы
кодирования. Представление информации в цифровом виде. Технические
средства. Разновидности преобразователей. Эффективное кодирование при
передаче информации по дискретному каналу без помех. Технические средства кодирования и декодирования эффективных кодов. Помехоустойчивое
кодирование при передаче информации по дискретному каналу с помехами.
Теорема Шеннона. Разновидности помехоустойчивых кодов. Блоковые коды.
Избыточность. Корректирующая способность кода и кодовое расстояние.
Показатели качества корректирующего кода. Геометрическая интерпретация.
Систематические коды. Двоичный групповой код. Технические средства.
Циклические коды. Выбор образующего многочлена. Технические средства.
Итеративные коды. Сверточные коды
Методы сжатия информации. Словарные методы сжатия информации.
Статистические методы сжатия информации. Преобразование БерроузаУилера и его использование.
Основы криптографии. Блоковые и потоковые шифры. Система ДиффиХеллмана. Шифры с открытым ключом. Криптографические хеш-функции.
Цифровая подпись. Протоколы идентификации. Доказательства с нулевым
знанием. Совершенная секретность. Шифр Вернама. Идеальные шифры.
6. Перечень практических занятий
№
темы
№
занятия
Всего
часов
1
1,2
4
2
3-6
8
3
7-10
8
11-16
12
17, 18
4
4
Темы практических занятий
Связь энтропии
и
количества
информации
Применение
квантования
в
информационных системах
Применение методов
модуляции в системах
передачи
информации
Интерактивные часы
4
Вопросы, отрабатываемые на интерактивных
занятиях
Применение машинных кодов в информационных системах управления
Системы счисления. Правила представления
чисел. Правила перевода чисел. Арифметические операции над двоичными числами. Машинные коды.
8
Виды носителей и сигналов. Помехоустойчивость модулированных сигналов. Помехоустойчивость передачи.
4
Информационные характеристики источника
дискретных сообщений. Информационные
характеристики источника непрерывных сообщений. Информационные характеристики
дискретных каналов связи. Информационные
характеристики непрерывных каналов связи.
Согласование физических характеристик
сигнала и канала. Согласование статистических свойств источника сообщений и канала
связи
4
5
Применение эффективных кодов в информационных системах
Применение помехоустойчивых
кодов в информационных системах
19, 20
4
21, 22
4
23
2
2
24,25
4
4
6
26
2
2
7
27
2
2
Систематические линейные коды. Группа.
Свойства групп. Определение числа избыточных символов. Составление таблицы опознавателей. Определение проверочных равенств.
Циклические коды Коммутативное кольцо.
Выбор порождающего многочлена. Обнаружение одиночных, двойных и тройных ошибок. Исправление независимых ошибок. Методы образования кода. Матричная запись
кода.
Методы сжатия информации. Алгоритмы
сжатия данных без потерь. Алгоритм LZW.
Протоколы MNP
Основы криптографии. Защита от несанкционированного доступа. Шифр простой подстановки. Шифр Вижинера. Гаммирование.
Стандартный метод шифрования данных.
7. Перечень тем для самостоятельной работы студента
N темы
Всего
часов
Вопросы для самостоятельного изучения
Литература
1
6
Задачи теории информации
2
6
Энтропия. Количество информации и избыточность.
1-6, 8
3
16
Дискретизация информации.
1-6, 9
4
10
1-6, 10
5
6
7
32
10
10
Методы передачи данных. Аналоговые методы. Цифровые методы.
Виды импульсной модуляции.
Разновидности помехоустойчивых кодов.
Алгоритмы сжатия данных
Шифрование данных.
1-6
8.Вопросы для экзамена
1. Понятие «информация».
2. Этапы обращения информации.
3.Виды информации.
4.Структура информации.
5. Способы измерения информации.
6. Теория информации.
7. Количественная мера информации.
8. Основные свойства энтропии.
9. Энтропия ансамбля. Энтропия объединения.
5
1-6
1-6
1-6
10.Условная энтропия и ее свойства.
11. Количество информации и избыточность
12. Виды сообщений.
13. Понятие сигнала и его модели.
14. Формы представления детерминированных сигналов.
15. Стационарные и эргодические случайные процессы.
16. Дискретизация информации. Теорема Котельникова. Принцип Железнова.
17. Методы передачи данных. Аналоговые методы. Виды носителей. Виды непрерывной
модуляции.
18. Цифровые методы.
19. Виды импульсной модуляции.
20-Помехоустойчивые методы передачи.
21. Система передачи информации. Основные характеристики.
22. Определение пропускной способности канала связи.
23. Информационные характеристики источников сообщений.
24. Информационные характеристики каналов связи.
25. Согласование физических характеристик сигнала и канала.
26. Согласование статистических свойств источника сообщений и канала связи.
27. Прямая и обратная теоремы кодирования.
28. Представление информации в цифровом виде. Технические средства.
29. Эффективное кодирование. Технические средства.
30. Помехоустойчивое кодирование Теорема Шеннона.
31. Разновидности помехоустойчивых кодов.
32. Блоковые коды.
33. Двоичный групповой код. Построение кода.
34. Циклические коды. Выбор образующего многочлена. Технические средства.
35. Словарные методы сжатия информации.
36. Преобразование Берроуза-Уилера и его использование.
37. Шифры с открытым ключом.
38. Криптографические хеш-функции.
39. Совершенная секретность.
40. Шифр Вернама.
41. Идеальные шифры
9. Тестовые задания по дисциплине
1. Энтропия ИДС это
a) Декодер восстанавливает данные источника абсолютно без потерь
b) Есть блок квантователя
c) Вводит понятие меры среднеквадратичного различия между сообщениями исходным
сообщением и полученным в результате декодирования.
d) Существует взаимно однозначное соответствие между исходным сообщением и полученным в результате декодирования
2. В системах сжатия без потерь информации
a) Декодер восстанавливает данные источника абсолютно без потерь
b) Есть блок квантователя
c) Вводит понятие меры среднеквадратичного различия между сообщениями исходным
сообщением и полученным в результате декодирования.
d) Существует взаимно однозначное соответствие между исходным сообщением и полученным в результате декодирования
3.
Кодирование дискретных источников
a)
Кодирование информации для передачи по каналу с шумом
b)
Кодирование с заданным критерием качества
c)
Кодирование информации для системы со многими пользователями
d)
Секретная связь, системы защиты информации от несанкционированного доступа
6
4.
ИДС – это
a)
Источник дискретного сообщения
b)
Источник дискретный случайный
c)
Источник дальнего сигнала
5.
Алфавит источника непрерывного сообщения
a)
Имеет конечную мощность
b)
Это счетное множество
c)
Имеет бесконечную мощность
6. Построить LFSR-генератор, заданный примитивным многочленом:
g( x)  x9  x 4  1
7. Определить энтропию непрерывной случайной величины, подчиняющейся
2
а) нормальному закону распределения вероятностей с  x
б) экспоненциальному закону
 Ae Cx  при  x  0 , A –Const, при C  0
F ( x)  
 0  при  x  0
a ) log a ( d  c)
b) log a ( x(2 e) 0.5 )
c) log a (e / c)
8. Найти энтропию случайной величины х, функция распределения которой
 0  при  x  0
F ( x)  
 X 2  при  0  x  1
xi
pi
9. Определить энтропию системы, состояние которой описывается
непрерывной случайной величиной х с рядом распределений
X1
X2
X3
X4
X5
X6
P1
P2
P3
P4
P5
P6
X7
P7
X8
P8
10. Образовательные технологии
В ходе изучения дисциплине «Математические основы теории информации и передачи
сигналов» проводятся мультимедийные лекции.
Для промежуточного среза знаний проводится компьютерное тестирование.
Для выполнения разделов самостоятельной работы разработаны электронные сопроводительные материалы.
Интерактивные практические занятия проводятся в виде круглого стола.
11. Список основной и дополнительной литературы
а) основная
1. Панин В. В. Основы теории информации [Электронный ресурс]: учеб. пособие / В. В.
Панин. - Москва: Бином. Лаборатория знаний, 2012. - 436 с. : ил.
2. Иванов М.А. Криптографические методы защиты информации в компьютерных системах и сетях [Электронный ресурс]: учебное пособие для вузов / М. А. Иванов, И. В. Чугунков;
ред.: М. А. Иванов. - Москва: НИЯУ МИФИ, 2012.
3. Душин В.К. Теоретические основы информационных процессов и систем: Учебник, 5е изд.: ИТК Дашков и К, 2013. - 348 с.
б) дополнительная
4. Лебедько Е.Г. Теоретические основы передачи информации [Электронный ресурс]:
учеб. пособие / Е.Г. Лебедько. - Москва: Лань, 2011. - 349 с.
5. Березкин Е.Ф. Основы теории информации и кодирования [Электронный ресурс]:
учебное пособие для вузов / Е. Ф. Березкин. - Москва: НИЯУ МИФИ, 2010.
6.. Практикум по основам современной информатики [Электронный ресурс] / Ю. И. Кудинов, Ф. Ф. Пащенко, А. Ю. Келина. - Москва: Лань, 2011. - 352 с.
7
7. Рогова М.В., Знамцев Ю.М. Применение машинных кодов в информационных системах управления. Методические указания к выполнению практической и контрольной работ по
дисциплине «Математические основы теории информации и передачи сигналов» для студентов
направления 220400.62 «Управление в технических системах», - Балаково: БИТТУ, 2015. -28 с.
8. Рогова М.В., Знамцев Ю.М. Связь энтропии и количества информации. Методические
указания к выполнению практической и контрольной работ по дисциплине «Математические
основы теории информации и передачи сигналов» для студентов направления 220400.62
«Управление в технических системах», - Балаково: БИТТУ, 2015. -20 с.
9. Рогова М.В., Знамцев Ю.М. Применение квантования в информационных системах.
Методические указания к выполнению практической и контрольной работ по дисциплине «Математические основы теории информации и передачи сигналов» для студентов направления
220400.62 «Управление в технических системах», - Балаково: БИТТУ, 2015. -12 с.
10. Рогова М.В., Знамцев Ю.М. Применение методов модуляции в системах передачи
информации. Методические указания к выполнению практической и контрольной работ по
дисциплине «Математические основы теории информации и передачи сигналов» для студентов
направления 220400.62 «Управление в технических системах», - Балаково: БИТТУ, 2015. -28 с.
11. Рогова М.В., Знамцев Ю.М. Применение эффективных кодов в информационных системах. Методические указания к выполнению практической и контрольной работ по дисциплине «Математические основы теории информации и передачи сигналов» для студентов направления 220400.62 «Управление в технических системах», - Балаково: БИТТУ, 2015. -12 с.
в) периодические издания
Отечественные журналы:
Информационные технологии и вычислительные системы;
Беспроводные технологии;
Информационно-измерительные и управляющие системы;
Приборы и системы. Управление, контроль, диагностика;
Системы управления и информационные технологии;
Современные технологии и автоматизация;
Открытые системы.
Зарубежные журналы: CAD/CAM/CAE Observer.
12. Материально-техническое обеспечение дисциплины.
При выполнении практических работ используются программные средства:
1. MS Windows 95 (98, NT, 2000, XP).
2. MS Power Point.
3. MS Excel
Для промежуточного среза знаний проводится компьютерное тестирование.
Для выполнения разделов самостоятельной работы разработаны электронные сопроводительные материалы.
Рабочую программу составила ________ «___»
/Рогова М.В./
13. Дополнения и изменения в рабочей программе
Рабочая программа пересмотрена на заседании кафедры
«____»_________ 201 ___ года, протокол № _________
Зав. кафедрой _______________/_____________/
Внесенные изменения утверждены на заседании
УМКС/УМКН
«_____»_________ 201 __ года, протокол № ____
Председатель УМКН ________/______________/
8