Теория информации - Ухтинский государственный технический

Федеральное агентство по образованию
Ухтинский государственный технический университет
"УТВЕРЖДАЮ"
И.о. первого проректора
___________Н.С.Федотов
"____"_____________ 2010г.
РАБОЧАЯ ПРОГРАММА ДИСЦИПЛИНЫ
"ТЕОРИЯ ИНФОРМАЦИИ"
Направление подготовки: 230100 Информатика и вычислительная техника
Профиль: Автоматизированные системы обработки информации и управления
Квалификация выпускника: бакалавр
Форма обучения: очная
Факультет: Информационных технологий
Кафедра: Автоматизированные информационные системы
Всего
Вид учебной работы
З.Е.
часы
Аудиторные занятия (АЗ) (всего), в том
числе:
Лекции (ЛК)
Лабораторные работы (ЛР)
Практические занятия: (ПЗ)
Семинарские занятия (СЗ)
Текущий контроль (тестирование – т/ коллоквиум к) (ТК)
Консультации (К)
% интерактивных форм обучения от АЗ по
дисциплине
Самостоятельная работа (СР) (всего), в
том числе:
Курсовая работа: (КР)
Курсовой проект: (КП)
Расчетно-графические работы (РГР)
Контрольная работа (контр.р)
Научно-исследовательская работа (НИР)
Другие виды самостоятельной работы
Вид промежуточной аттестации (зачет, экзамен):
Общая трудоемкость дисциплины и
трудоемкость по семестрам:
1,5
54
1
0,5
36
18
0,08
3
2,47
87
1
2
17
18
Семестры
4
5
недели
17 18 17
3
6
7
8
18
17
12
36
18
1
экз
4
2010 г
144
1. Цели освоения дисциплины
освоение фундаментальных положений теории информации, различных аспектов
количественной меры информации объектов с дискретным и непрерывным множеством
состояний, информационных характеристик источников информации и каналов связи,
методов и средств кодирования информации как основы решения многих
теоретических проблем создания автоматизированных систем обработки информации и
управления.
2. Место дисциплины в структуре ООП ВПО
Дисциплина "Теория информации" относится к Математическому и естесственнонаучному циклу, дисциплина по выбору.
Перечень дисциплин с указанием разделов (тем), усвоение которых студентами
необходимо для изучения данной дисциплины:
 Теория вероятности
 Математическая статистика
 Теория сигналов
(Указывается цикл (раздел) ООП, к которому относится данная дисциплина (модуль).
Дается описание логической и содержательно-методической взаимосвязи с другими
частями ООП (дисциплинами, модулями, практиками). Формулируются (указываются)
требования к «входным» знаниям, умениям и компетенциям обучающегося, необходимым
при освоении данной дисциплины и приобретенным в результате освоения
предшествующих дисциплин (модулей).
Указываются те теоретические дисциплины и практики, для которых освоение данной
дисциплины (модуля) необходимо как предшествующее).
3. Требования к результатам освоения дисциплины:
Изучение дисциплины направлено на формирование следующих компетенций:
_____________________________________________________________________________
(Указываются компетенции обучающегося, формируемые в результате освоения
дисциплины (модуля)в соответствии с ФГОС ВПО
и дополнительные,
сформулированные разработчиком программы) ______________________________
В результате освоения дисциплины обучающийся должен:
ЗНАТЬ математические модели сигналов как средства передачи сообщений, способы
оценки переносимого им "количества информации", информационные характеристики
источников информации и каналов связи, теоретическое обоснование принципиальной
возможности кодирования и декодирования сообщений, обеспечивающих предельно
допустимую скорость передачи сообщений по каналу связи как при отсутствии, так и
при наличии помех, существующие методы и средства кодирования информации;
УМЕТЬ рассчитать энтропию (в том числе дифференциальную) как меру
неопределенности выбора источником информации определенного состояния,
определить количество информации, формируемое источником и передаваемое по
каналу связи, рассчитать информационные характеристики источника информации и
канала связи, применить необходимые методы эффективного и помехоустойчивого
кодирования информации;
ИМЕТЬ представление о системах передачи информации, о структуре, принципах
организации информационного обеспечения АСУ, способах защиты его от
несанкционированного доступа.
4. Структура и содержание дисциплины
4.1. Содержание разделов дисциплины:
№
п/п
1.
Наименование
раздела дисциплины
(модуля)
1 Введение
2.
Система передачи
информации.
3.
Количественная
оценка информации.
4.
Информационные
характеристики
источника
сообщений и канала
связи.
Содержание раздела
Задачи курса "Теория информации".Понятие
информации. Терминологические и
философские трактовки. Этапы обращения
информации.
Понятие сигнала, сообщения, виды сообщений.
Система передачи информации (СПИ):
источник сообщений, передающее устройство,
линия связи, приемное устройство. Назначение
кодирующего и декодирующего устройств,
модулятора и демодулятора. Понятие помехи,
источника помех, верности передачи сообщений.
Проблема эффективности СПИ.
Понятие энтропии дискретного источника
информации. Мера Хартли.
Мера неопределенности Шеннона-Хинчина.
Свойства энтропии дискретного источника
информации.
Условная энтропия и ее свойства.
Трудоемко
сть,
часы з.е.
2
2
2
2
Энтропия непрерывного источника информации
(дифференциальная энтропия). Свойства
дифференциальной энтропии.
Количество информации как мера снятой
неопределенности при передаче от дискретного
и непрерывного источников. Свойства
количества информации.
Эпсилон-энтропия случайной величины.
2
Информационные характеристики источника
дискретных сообщений.
Модели источника дискретных сообщений,
свойства эргодического источника сообщений,
цепи Маркова. Теорема об асимптотической
равномерности длинных последовательностей .
Избыточность, производительность источника
дискретных сообщений.
Информационные характеристики дискретных
каналов связи.
Модели дискретных каналов.
Скорость передачи информации по дискретному
каналу. Пропускная способность дискретного
канала с помехами и без помех. Коэффициент
использования канала.
Информационные характеристики источника
непрерывных сообщений и непрерывных каналов
связи.
Эпсилон-производительность непрерывного
источника сообщений.
Понятие гауссова канала, скорость передачи
4
2
4
2
5.
6.
7.
Согласование
информационных
характеристик
источника
сообщений и канала
связи.
Кодирование
информации при
передаче по
дискретному каналу
без помех.
Кодирование
информации при
передаче по
дискретному каналу
c помехами.
информации , пропускная способность
непрерывного канала.
Согласование физических свойств сигнала и
канала. Согласование статистических свойств
источника сообщений и канала связи. Теорема
Шеннона о кодировании для канала без помех.
Теорема Шеннона о кодировании для канала с
помехами. Теорема Шеннона о передаче
информации от непрерывного источника по
непрерывному каналу связи. Основные цели
кодирования информации при передаче ее по
каналу связи
Кодирование как процесс выражения
информации в цифровом виде. Технические
средства представления информации в
цифровом виде.
Эффективное кодирование: методы ШеннонаФано и Хаффмена. Требование префиксности
эффективных кодов. Недостатки системы
эффективного кодирования.
Разновидности помехоустойчивых кодов.
Блоковые коды: общие принципы
использования, понятие кодового растояния,
минимального кодового растояния, вектора
ошибки, пакета ошибок, длины пакета ошибок,
показатели качества корректирующего кода.
2
2
2
Построение циклических кодов.
Математическое введение к циклическим кодам.
Общие понятия и определения.
Выбор образующего многочлена по заданному
объему кода и заданной корректирующей
способности.
Класс кодов, предназначенных для исправления
независимых ошибок произвольной краиности
(БЧХ – коды).
2
Итеративные коды:
определение,классические итерактивные
коды, специальные двухстепенные коды.
Сверточные коды: определение, процесс
кодирования и декодирования, cверточные
коды для записи информации
2
2
итого:
34
0
4.2. Разделы дисциплины и виды занятий
№
п/п
1
Наименование раздела
дисциплины (модуля)
ЛК1
ЛР
ПЗ
СP
Используемый вид занятий при прохождении данного раздела помечается знаком “+”
ТК
СР
В соответствии с Типовым положением о вузе к видам учебной работы отнесены:
лекции, консультации, семинары, практические занятия, лабораторные работы,
контрольные
работы,
коллоквиумы,
самостоятельные
работы,
научноисследовательская работа, практики, курсовое проектирование (курсовая работа).
Высшее учебное заведение может устанавливать другие виды учебных занятий.
№
п/п
1.
5. Практические и семинарские занятия
Наименование
Содержание раздела
раздела дисциплины
Количественная
оценка информации
2.
3.
4.
5.
6.
Информационные
характеристики
источника
сообщений и канала
связи.
1 Согласование
информационных
характеристик
источника
сообщений и канала
связи.
7.
8.
2 Кодирование
Расчет энтропии дискретного источника
информации.
Определение энтропии источника непрерывных
сообщений. Расчет -энтропии.
Определение количества информации при
передаче от источников дискретных и
непрерывных сообщений.
Трудоемко
сть,
часы з.е.
2
2
2
Определение информационных характеристик
источника дискретных и непрерывных
сообщений.
2
Определение информационных характеристик
дискретных и непрерывных каналов связи.
2
Согласование физических свойств сигнала и
канала. Согласование статистических свойств
источника сообщений и канала связи.
1
Способы эффективного кодирования (коды
информации
при Шеннона-Фано, Хаффмена).
передаче
по
дискретному каналу
без помех.
Кодирование
Способы помехоустойчивого кодирования
информации
при (линейные, циклические, итеративные,
передаче
по сверточные коды).
дискретному каналу
c помехами.
2
итого:
18
5
6. Примерная тематика курсовых проектов (работ)
_____________________________________________________________________________
0
7. Образовательные технологии
(Указываются образовательные технологии, используемые при реализации
различных видов учебной работы.
В соответствии с требованиями ФГОС ВПО по направлению подготовки
реализация компетентностного подхода должна предусматривать широкое
использование в учебном процессе активных и интерактивных форм проведения занятий
(компьютерных симуляций, деловых и ролевых игр, разбор конкретных ситуаций,
психологические и иные тренинги) в сочетании с внеаудиторной работой с целью
формирования и развития профессиональных навыков обучающихся. В рамках учебных
курсов должны быть предусмотрены встречи с представителями российских и
зарубежных компаний, государственных и общественных организаций, мастер-классы
экспертов и специалистов.
Удельный вес занятий, проводимых в интерактивных формах, определяется главной
целью (миссией) программы, особенностью контингента обучающихся и содержанием
конкретных дисциплин, и в целом в учебном процессе они должны составлять для
программ бакалавров не менее 20 (30) % аудиторных занятий (определяется
требованиями ФГОС с учетом специфики ООП). Занятия лекционного типа для
соответствующих групп студентов не могут составлять более 40% аудиторных
занятий для программ бакалавров (определяется соответствующим ФГОС).
8. Оценочные средства для текущего контроля успеваемости, промежуточной
аттестации по итогам освоения дисциплины и учебно-методическое
обеспечение самостоятельной работы студентов
______________________________________________________________________
(Указываются темы эссе, рефератов, курсовых работ и др. Приводятся примеры
контрольных вопросов и заданий для проведения текущего контроля и промежуточной
аттестации по итогам освоения дисциплины, а также для контроля самостоятельной
работы обучающегося по отдельным разделам дисциплины).
9. Учебно-методическое и информационное обеспечение дисциплины (модуля)
9.1. Основная и дополнительная литература:
№
п/п
Автор и наименование,
выходные данные
Вид пособия
Год
издания
кол-во
экз.
1
2
3
4
5
1977
1
1989
10
1.
2.
Основная литература
Советов В.Я. Теория информации.
Учебное пособие
Санкт-Петербург, Изд. ЛГУ.
для студентов
спец. 230100
АИС
Дмитриев В.И. Прикладная теория
Учебное пособие
информации. Москва, Высш. школа.
для студентов
спец. 230100
АИС
Дополнительная литература
3.
Винер Н. Кибернетика.
1952
4.
Шеннон К. Работы по теории
информации и кибернетике. М. ИЛ.
1963
5
Воробьев Н.Н. Признаки делимости. М.:
1988
6
Наука,
Нечаев В.И. Элементы криптографии. М:
Высшая школа
1999
9.2. Программное обеспечение и Интернет-ресурсы _________________________
10. Материально-техническое обеспечение дисциплины "Теория информации".
Лекции проводятся в лекционной аудитории 218к, рассчитанной на 50 посадочных
мест, площадью 66,9 м2. Аудитория оборудована проектором, экраном, учебной доской,
ноутбуком. Лабораторные занятия проводятся в 204к - "Лаборатория новых
информационных технологий", площадь 48,5 м2, рассчитана на 10 посадочных мест.
Аудитория оборудована: 10 компьютеров на базе процессора Intel-P4, CPU 2.8 GHz, 256
МБ ОЗУ, НDD 80 Gb; 10 мониторов LG FLETRON F700P 17'; учебная доска.
11. Методические рекомендации по организации изучения дисциплины:
(Указываются рекомендуемые модули внутри дисциплины или междисциплинарные
модули, в составе которых она может входить, особенности организации изучения
дисциплины, в т.ч. самостоятельной работы)
Рабочая учебная программа по дисциплине "Сети и телекоммуникации" составлена
в соответствии с требованиями Федерального Государственного образовательного
стандарта ВПО с учетом рекомендаций ПрООП ВПО по направлению 230100 Информатика и вычислительная техника и учебного плана по профилю подготовки
Автоматизированные системы обработки информации и управления.
Автор(ы) (доц., к.т.н.).
___________________ (
)
Рецензент(ы) ______________________________ (
)
Рабочая учебная программа рассмотрена на заседании учебно-методического
совета университета протокол № от “ “ ________ 20___ г. и признана соответствующей
требования Федерального Государственного образовательного стандарта и учебного
плана по направлению 000000.00 "…………………………."
Председатель УМС
______________ Бабаевский П.Г.
Рабочая учебная программа рассмотрена методическим Советом факультета
№___ и признана соответствующей требования Федерального Государственного
образовательного стандарта и учебного плана по направлению 000000.00
"…………………………."
Декан факультета № ____
_______________ . (
Председатель методического Совета факультета № ____
____________ (
Программа согласована с УМУ университета ______________ Козлов Н.А.
)
)