МИНИСТЕРСТВО ОБРАЗОВАНИЯ И НАУКИ РОССИЙСКОЙ ФЕДЕРАЦИИ Саратовский государственный университет имени Н.Г. Чернышевского

МИНИСТЕРСТВО ОБРАЗОВАНИЯ И НАУКИ
РОССИЙСКОЙ ФЕДЕРАЦИИ
Саратовский государственный университет имени Н.Г. Чернышевского
Факультет компьютерных наук и информационных технологий
УТВЕРЖДАЮ
___________________________
"__" __________________20__ г.
Рабочая программа дисциплины
Нейронные сети
Специальность
090301 Компьютерная безопасность
Специализация
Математические методы защиты информации
Квалификация (степень) выпускника
Специалист
Форма обучения
очная
Саратов,
2012 год
1. Цели освоения дисциплины
Целями освоения дисциплины являются формирование навыков и
умений создания студентами математических моделей процессов и явлений с
использованием нейронных сетей, знакомство с моделями управления на
базе систем, использующих нейронные сети, изучение методов
формализации
процессов
и
явлений
в
понятийном
аппарате
нейроматематики.
2. Место дисциплины в структуре ООП бакалавриата
Данная учебная дисциплина входит в раздел «Профессиональный цикл.
Дисциплины по выбору» ФГОС-3.
Для изучения дисциплины необходимы компетенции, сформированные
в результате изучения дисциплины «Математическая логика и теория
алгоритмов», «Информатика». Обучающийся должен уметь строить
формальные описания реальных процессов и явлений на языке
математической логики в виде предикатных правил вывода, владеть
основными операциями векторной и матричной алгебры.
3. Компетенции обучающегося, формируемые в результате
освоения дисциплины
Данная дисциплина способствует формированию следующих
компетенций:
 способностью к работе в коллективе, кооперации с коллегами,
способностью в качестве руководителя подразделения, лидера группы
сотрудников формировать цели команды, принимать организационноуправленческие решения в ситуациях риска и нести за них
ответственность, предупреждать и конструктивно разрешать
конфликтные ситуации в процессе профессиональной деятельности
(ОК-6);
 способностью к логически правильному мышлению, обобщению,
анализу, критическому осмыслению информации, систематизации,
прогнозированию, постановке исследовательских задач и выбору путей
их решения на основании принципов научного познания (ОК-9);
 способностью выявлять естественнонаучную сущность проблем,
возникающих в ходе профессиональной деятельности, и применять
соответствующий
физико-математический
аппарат
для
их
формализации, анализа и выработки решения (ПК-1);
 способностью применять математический аппарат, в том числе с
использованием
вычислительной
техники,
для
решения
профессиональных задач (ПК-2);
 способностью применять методологию научных исследований в
профессиональной деятельности, в том числе в работе над
междисциплинарными и инновационными проектами (ПК-4);
 способностью
учитывать
современные
тенденции
развития
информатики и вычислительной техники, компьютерных технологий в
своей профессиональной деятельности (ПК-7);
 способностью формулировать результат проведенных исследований в
виде конкретных рекомендаций, выраженных в терминах предметной
области изучавшегося явления (ПК-10);
 способностью к самостоятельному построению алгоритма, проведению
его анализа и реализации в современных программных комплексах
(ПК-12);
В результате освоения дисциплины обучающийся должен знать
 основы построения моделей искусственных нейронных сетей;
 основные понятия и определения неклассических логик;
 способы задания операций над нечеткими числами;
 над нечеткими отношениями;
Уметь:
 строить математические модели в терминах нейроматематики;
 решать прикладные задачи методами нейроматематики
Владеть:
 языком нечетких формальных методов решения прикладных задач.
4. Структура и содержание дисциплины
Общая трудоемкость дисциплины составляет 3 зачетные единицы, 108
часов.
№
п/
п
Раздел дисциплины
1
2
3
4
5
6
Се
мес
тр
Неделя Виды учебной работы,
семестр
включая
а
самостоятельную
работу студентов и
трудоемкость (в
часах)
Формы текущего
контроля
успеваемости (по
неделям семестра)
Формы
промежуточной
аттестации (по
семестрам)
Введение в нейронные
сети
Основные теоремы
нейроинформатики
9
1
Ле:2
Ла:2
СР:2
9
2
Ле:2
Ла:2
СР:2 Тест №1
Основные понятия
теории нейронных
сетей
Постановка и пути
решения задачи
обучения нейронных
сетей
Стандартные
архитектуры
нейронных сетей
Градиентные методы
9
3-4
Ле:4
Ла:4
СР:4
9
5-6
Ле:4
Ла:4
СР:4 Тест №2
9
7-9
Ле:4
Ла:4
СР:6 Контрольная работа
№1 на 9 неделе
9
10-11
Ле:4
Ла:4
СР:6
7
8
9
обучения нейронных
сетей
Обучение без учителя
Ассоциативные
запоминающие
нейронные сети
Методы глобальной
оптимизации
10 Нейро-нечеткие
системы
9
12-13
Ле:4
Ла:4
СР:6
9
14-15
Ле:4
Ла:4
СР:4 Тест №3
9
16
Ле:2
Ла:2
СР:2 Контрольная работа
№2 на 16 неделе
9
17-18
Ле:4
Ла:4
СР:4
Промежуточная аттестация
Итого
Зачет
34
34
40
18
Раздел
«Введение в нейронные сети». История развития
нейроинформатики. Математические основы: векторные пространства,
матрицы и линейные преобразования векторов.
Лабораторная работа: реализация операций векторной и матричной
алгебры на языке программирования.
Самостоятельная работа: реферат на тему раздела.
Раздел «Основные теоремы нейроинформатики». Теорема
Колмогорова. Обобщенная теорема Стоуна (теорема Горбаня).
Лабораторная работа: доказательство лемм 1, 3, теоремы Колмогорова.
Самостоятельная работа: реферат на тему раздела.
Раздел «Основные понятия теории нейронных сетей». Связь
нейронов, операторная форма записи функционирования ИНС. Соединение
ИНС. Многослойные ИНС. Прямое произведение ИНС.
Лабораторная работа: реализация ИНС на языке программирования.
Самостоятельная работа: реферат на тему раздела.
Раздел «Постановка и пути решения задачи обучения нейронных
сетей». Частичная задача обучения. Классификация алгоритмов обучения.
Задача аппроксимации функции в стандартной постановке.
Лабораторная работа: реализация алгоритмов аппроксимации функций
на языке программирования.
Самостоятельная работа: реферат на тему раздела.
Раздел «Стандартные архитектуры нейронных сетей». Сеть из
одного нейрона. Слоистые архитектуры. Персептрон Розенблатта.
Радиальная нейронная сеть.
Лабораторная работа: реализация ИНС, описанных в разделе, а также
алгоритмов их обучения на языке программирования.
Самостоятельная работа: изучение работы программных моделей ИНС
на примерах, реферат по теме раздела.
Раздел «Градиентные методы обучения нейронных сетей». Методы
первого порядка. Эвристические методы обучения. Методы второго порядка.
Лабораторная работа: реализация метода обратного распространения
ошибки, метода «тяжелого шарика», метода метод Флетчера-Ривса, метода
сопряженных градиентов, метода QuiqProp, метода BFGS, метода
Левенберга-Марквардта (2-3 метода по выбору учащегося).
Самостоятельная работа: изучение процесса обучения ИНС выбранным
методом на наборе обучающих примеров.
Раздел «Обучение без учителя». Принцип «Победитель забирает все»
в модели сети Кохонена. Нейронная сеть встречного распространения.
Гибридная ИНС.
Лабораторная работа: реализация сети Кохонена, сети встречного
распространения, гибридной сети на языке программирования.
Самостоятельная работа: изучения реализованных архитектур на
обучающих примерах.
Раздел «Ассоциативные запоминающие нейронные сети». Сети с
обратными связями. Модель Хопфилда. Правило обучения Хебба в модели
Хопфилда. Модификации алгоритмов обучения ИНС Хопфилда.
Двунаправленная ассоциативная память. Применения ИНС Хопфилда в
задачах комбинаторной оптимизации.
Лабораторная работа: реализация ИНС Хопфилда, двунаправленной
ассоциативной памяти на языке программирования.
Самостоятельная работа: изучения реализованных архитектур на
обучающих примерах.
Раздел «Методы глобальной оптимизации». Метод рестартов.
Эволюционные алгоритмы. Метод имитации отжига металлов.
Лабораторная работа: реализация методов обучения описанных в
разделе для радиальной ИНС, для многослойной ИНС.
Самостоятельная работа: изучения реализованных алгоритмов
обучения.
Раздел «Нейро-нечеткие системы». Основные понятия нечеткой
логики. Нечеткие отношения. Нечеткие числа. Нечеткий вывод. Нейронечеткие системы. Обучение нейро-нечетких систем.
Лабораторная работа: реализация нечеткого вывода на языке
программирования.
Самостоятельная работа: изучения влияния параметров НН системы на
результат работы.
5. Образовательные технологии
Рекомендуемые образовательные технологии: интерактивные
доклады обучающихся по темам дисциплины (см. пункт 6.1), создание
прикладных программ и вычислительных моделей нейросетевых архитектур
средствами MATLAB, языков программирования высокого уровня их
демонстрация и обсуждение с обучающимися.
При проведении занятий планируется использование таких активных и
интерактивных форм занятий, как промежуточное тестирование,
мультимедийные презентации.
6. Учебно-методическое обеспечение самостоятельной работы
студентов. Оценочные средства для текущего контроля успеваемости,
промежуточной аттестации по итогам освоения дисциплины.
7.
Учебно-методическое
и
информационное
обеспечение
дисциплины
а) основная литература:
1. Рутковская Д., Пилиньский М., Рутковский Л. Нейронные сети,
генетические алгоритмы и нечеткие системы. – М., 2004.
2. http://www.machinelearning.ru.
Профессиональный
информационноаналитический
ресурс,
посвященный
машинному
обучению,
распознаванию образов и интеллектуальному анализу данных.
б) дополнительная литература:
3. Колмогоров А.Н. О представлении непрерывных функций нескольких
переменных в виде суперпозиции непрерывных функций одного
переменного. Доклад. АН СССР, 1957. Т. 114, No. 5. С. 953-956.
4. Уоссермен Ф. Нейрокомпьютерная техника : Теория и практика. М.: Мир.
1992.
5. Осовский С. Нейронные сети для обработки информации. – М.: «Финансы
и статистика», 2004.
6. Тархов Д. А. Нейронные Сети. Модели и алгоритмы. Кн. 18. – М.:
Радиотехника, 2005.
7. Головко В. А. Нейронные сети: обучение, организация и применение. –
М.: ИПРЖР, 2001.
8. Батыршин И.З. Основные операции нечеткой логики и их обобщения. –
Казань: Отечество, 2001. - 102 c. (ISBN 5-9222-0034-8).
9. Круглов В. В., Дли М. И., Голунов Р. Ю. Нечеткая логика и искусственные
нейронные сети: Учеб. пособие. –
М.: Издательство Физикоматематической литературы, 2001.
10.Судоплатов С.В., Овчинникова Е.В. Математическая логика и теория
алгоритмов: Учебник. - М.: ИНФРА-М; Новосибирск: Изд-во НГТУ, 2004.
11.http://ocrai.narod.ru - Распознавание образов и искусственный интеллект.
[Электронный ресурс]. – Режим доступа: http://ocrai.narod.ru (верно на
дату 20.09.2012), свободный. - Загл. с экрана.
12.http://ru.wikipedia.org/wiki/Искусственная_нейронная_сеть.
Искусственная
нейронная
сеть.
[Электронный
ресурс].
–
Режим
доступа
http://ru.wikipedia.org/wiki/Искусственная_нейронная_сеть.
(верно на дату
20.09.2012), свободный. - Загл. с экрана.
в) программное обеспечение и Интернет-ресурсы:
Среда разработки Microsoft Visual Studio 2010. Система компьютерных
расчетов Matlab. Сайт кафедры ТОКБиК с методическими материалами
http://www.sgu.ru/structure/faculties/computer_sciences/chairs/theor_compsafe.
8. Материально-техническое обеспечение дисциплины (модуля)
Мультимедийная лекционная аудитория. Компьютерный класс с
установленными средами разработки (Microsoft Visual Studio, MATLAB).
Программа составлена в соответствии с требованиями ФГОС ВПО с учетом
рекомендаций и Примерной ООП ВПО по специальности 090301
«Компьютерная безопасность» и специализации «Математические методы
защиты информации».
Автор
Ст. преподаватель кафедры теоретических
основ компьютерной безопасности и
криптографии
___________ И.И. Слеповичев
Программа одобрена на заседании кафедры теоретических основ
компьютерной безопасности и криптографии от «___» ________ 2012 года,
протокол № ____.
Заведующий кафедрой
теоретических основ компьютерной
безопасности и криптографии
профессор
Декан факультета КНиИТ,
доцент
___________ В.Н. Салий
___________ А. Г. Федорова