Теория искусственных нейронных сетей - Учебно

РОССИЙСКАЯ ФЕДЕРАЦИЯ
МИНИСТЕРСТВО ОБРАЗОВАНИЯ И НАУКИ
Государственное образовательное учреждение
высшего профессионального образования
ТЮМЕНСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ
«УТВЕРЖДАЮ»:
И.о. проректора-начальник
управления по научной работе
_______________________ Г.Ф. Ромашкина
__________ _____________ 2011 г.
Теория искусственных нейронных сетей
Учебно-методический комплекс. Рабочая программа
для аспирантов специальности 05.13.18 - математическое
моделирование, численные методы и комплексы программ
очной и заочной форм обучения
«ПОДГОТОВЛЕНО К ИЗДАНИЮ»:
Автор (ы) работы _____________________________/Шапцев В.А, Кугаевских А.В./
«______»___________2011 г.
Рассмотрено
на
заседании
кафедры
информационных
систем
«__»________2011г., протокол № ___. Соответствует требованиям к содержанию,
структуре и оформлению.
«РЕКОМЕНДОВАНО К ЭЛЕКТРОННОМУ ИЗДАНИЮ»:
Объем _________стр.
Зав. кафедрой ______________________________/Ивашко А.Г./
«______»___________ 2011 г.
Рассмотрено на заседании УМК Института математики, естественных наук и
информационных технологий «__»________2011г., протокол № ___.
Соответствует ФГТ к структуре основной профессиональной образовательной
программы послевузовского профессионального образования (аспирантура)
«СОГЛАСОВАНО»:
Председатель УМК ________________________/Глухих И.Н./
«______»_____________2011 г.
«СОГЛАСОВАНО»:
Нач. отдела аспирантуры
и докторантуры_____________М.Р. Сорокина
«______»_____________2011 г.
2011
1
РОССИЙСКАЯ ФЕДЕРАЦИЯ
МИНИСТЕРСТВО ОБРАЗОВАНИЯ И НАУКИ
Государственное образовательное учреждение
высшего профессионального образования
ТЮМЕНСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ
Институт математики, естественных наук и
информационных технологий
Кафедра информационных систем
Шапцев В. А.
Кугаевских А. В.
Теория искусственных нейронных сетей
Учебно-методический комплекс. Рабочая программа
для аспирантов специальности 05.13.18 - математическое
моделирование, численные методы и комплексы программ
очной и заочной форм обучения
Тюменский государственный университет
2011
2
Шапцев В.А., Кугаевских А.В. Теория искусственных
нейронных
сетей. Учебно-методический
комплекс.
Рабочая
программа для аспирантов специальности 05.13.18 - математическое
моделирование, численные методы и комплексы программ очной и
заочной форм обучения. Тюмень, 2011, 9 стр.
Рабочая программа составлена в соответствии с ФГТ к структуре
основной
профессиональной
образовательной
программы
послевузовского профессионального образования (аспирантура).
Рабочая программа дисциплины (модуля) опубликована на сайте
ТюмГУ: Теория искусственных нейронных сетей [электронный
ресурс] / Режим доступа: http://www.umk3.utmn.ru., свободный.
Рекомендовано к изданию кафедрой информационных систем.
Утверждено и.о. проректора-начальника управления по научной
работе Тюменского государственного университета.
ОТВЕТСТВЕННЫЙ РЕДАКТОР: Шапцев В.А., профессор, д.т.н.
© Тюменский государственный университет, 2011.
© Шапцев В.А., Кугаевских А.В., 2011.
3
1. Пояснительная записка
1.1. Цели и задачи дисциплины
Целью данной дисциплины является формирование у студентов
знаний в области применения моделей искусственных нейронных
сетей к различным задачам и принципов их построения.
Задачи: ознакомить студентов с современным состоянием
исследований в области построения искусственных нейронных сетей и
применения их к задачам анализа данных, дать основы для
самостоятельной разработки новых моделей ИНС.
1.2. Место дисциплины в структуре ООП
Для успешного освоения дисциплины требуются знания основ
объектно-ориентированного программирования и синтаксиса языков
программирования семейства C.
1.3. Требования к результатам освоения дисциплины
В результате освоения дисциплины выпускник должен
обладать следующими компетенциями: способность проводить
техническое
проектирование
(ПК-2);
способность
проводить
моделирование процессов и систем (ПК-5); способность к
проектированию базовых и прикладных информационных технологий
(ПК-11);
способность
разрабатывать
средства
реализации
информационных
технологий
(методические,
информационные,
математические, алгоритмические, технические и программные) (ПК12); способность использовать знание основных закономерностей
функционирования
биосферы
и
принципов
рационального
природопользования
для
решения
задач
профессиональной
деятельности (ПК-14); способность проводить сбор, анализ научнотехнической информации, отечественного и зарубежного опыта по
тематике исследования (ПК-23); способность участвовать в постановке
и проведении экспериментальных исследований (ПК-24); способность
обосновывать
правильность
выбранной модели,
сопоставляя
результаты экспериментальных данных и полученных решений (ПК-25);
готовность использовать математические методы обработки, анализа и
синтеза результатов профессиональных исследований (ПК-26);
способность оформлять полученные рабочие результаты в виде
презентаций, научно-технических отчетов, статей и докладов на научно4
технических конференциях (ПК-27); способность формировать новые
конкурентоспособные идеи и реализовывать их в проектах (ПК-28).
В результате освоения дисциплины обучающийся должен:
 знать: основные виды, особенности функционирования и
области применения искусственных нейронных сетей;
 уметь: проводить анализ предметной области и определять
задачи, для решения которых целесообразно использование
механизма ИНС; определять назначение, выбирать методы и
средства для построения ИНС;
 навыками разработки ИНС с использованием всех достижений
науки.
2. Трудоемкость дисциплины.
Семестр 3. Форма промежуточной аттестации зачет. Общая
трудоемкость дисциплины составляет 1 зачетную единицу 36 часов.
3. Тематический план.
1
1
2
3
4
5
6
7
8
9
2
Искусственные
нейронные сети (общие
понятия)
Многослойный
перцептрон
Сети свертки
Карты Кохонена
Генетические алгоритмы
Адаптивно-резонансная
теория
RBF-сети
Ассоциативные машины
Рекуррентные сети
8
6
форме
лаборатор
ные
занятия
самостоят
ельная
работа
из них в интеракт.
Тема
Виды учебной
работы и
самостоятельная
работа, в час.
лекции
№
Всего часов
Таблица 1. Тематический план
7
Формы
контроля
3
4
8
0,5
0,5
5
1
1
3
1
4
5
3,5
1
1
0,5
1
1
1
2
3
2
1
1
1
4,5
0,5
4
1
Опрос
4,5
4,5
4,5
0,5
0,5
0,5
4
4
4
1
1
1
Опрос
Опрос
Опрос
Опрос
Контрольн
ая работа
5
Итого:
36
из
них
часов
интерактивной форме
6
в
4
26
8
Контр. раб.
Зачет
8
Таблица 2. Планирование самостоятельной работы аспирантов
№
2
3
4
5
Темы
Многослойный
перцептрон
Сети свертки
Карты Кохонена
Генетические
алгоритмы
Виды СРС
обязательные
дополнительные
Проработка
лекций;
выполнение
заданий по
программам
практикумов.
изучение
литературы и
Интернета.
Проработка
лекций;
выполнение
заданий по
программам
практикумов.
Изучение
литературы и
Интернета
Проработка
лекций.
Выполнение
заданий по
программам
практикумов.
Изучение
литературы и
Интернета
Проработка
лекций.
Выполнение
заданий по
программам
практикумов.
Изучение
Объем
часов
Анализ
ситуаций
3
Анализ
ситуаций
2
Анализ
ситуаций
3
Анализ
ситуаций
2
6
6
7
8
9
Адаптивнорезонансная
теория
RBF-сети
Ассоциативные
машины
Рекуррентные
сети
литературы и
Интернета
Изучение
литературы и
Интернета
Изучение
литературы и
Интернета
Реферат.
Изучение
литературы и
Интернета
Изучение
литературы и
Интернета
Анализ
ситуаций
4
Анализ
ситуаций
4
Анализ
ситуаций
4
Анализ
ситуаций
4
ИТОГО:
26
4. Содержание дисциплины.
Тема 1. Понятие искусственных нейронных сетей. Области
применения и классификация ИНС. Современное состояние
исследований в данной области. Понятие формального нейрона.
Виды функций активации формального нейрона
Тема 2. Многослойный перцептрон. Общий принцип построения сети.
Алгоритм имитации отжига для обучения сети.
Тема 3. Сети свертки. Общий принцип построения сетей свертки.
Неокогнитрон. LeNet-5. Алгоритм конкурентного обучения.
Тема 4. Карты Кохонена.
Тема 5. Генетические алгоритмы (назначение, основные этапы,
классификация операторов кроссовера). Применение генетических
алгоритмов для настройки весов.
Тема 6. Адаптивно-резонансная теория. Сети ART-1, ART-2, ARTMAP.
Тема 7. RBF-сети.
Тема 8. Ассоциативные машины.
Тема 9. Реккурентные сети на базе многослойного перцептрона.
7
5.
Темы лабораторных работ.
5.1.
Многослойный перцептрон для распознавания звуков
5.2.
LeNet-5 для распознавания символов
5.3.
Неокогнитрон для распознавания символов
5.4.
Реализация предсказательной сети Кохонена
5.5.
Генетические алгоритмы для обучения ИНС
6. Учебно - методическое обеспечение самостоятельной работы
студентов. Оценочные средства для текущего контроля
успеваемости, промежуточной аттестации по итогам освоения
дисциплины.
Вопросы для контрольной работы
 Структура многослойного перцептрона
 Алгоритм обратного распространения ошибки
 Алгоритм имитации отжига
 Структура сети неокогнитрон
 Алгоритм конкурентного обучения
 Структура сети LeNet-5
Примерные темы рефератов
 Нестандартные алгоритмы обучения
 Специализированные модели ИНС
 Нестандартное применение моделей ИНС
 Применение ассоциативных машин
7. Образовательные технологии.
Предусмотрены интерактивные формы проведения занятий:
 компьютерное моделирование и анализ результатов;
 организация дискуссий и круглых столов.
8.
Учебно-методическое и информационное обеспечение
дисциплины (модуля).
8.1. Основная литература
 Jesse Russell. Искусственная нейронная сеть. М.: Изд-во VSD,
8
2012. – Книга на заказ: http://myshop.ru/shop/books/1211426.html?partner=240.
 Галушкин А.И., Симоров С.Н. Нейросетевые технологии в России
(1982-2010). М. 2012.
 Хайкин С. Нейронные сети. Полный курс. - Вильямс, 2006
 Осовский С. Нейронные сети для обработки информации. – М.
Финансы и статистика, 2002.
8.2. Дополнительная литература
 Рапопорт Г.Н., Герц А.Г. Биологический и искусственный
разум. Часть 1. Сознание, мышление и эмоции. - М.:
Либроком, 2011г.
 Рапопорт Г.Н., Герц А.Г. Биологический и искусственный
разум. Часть 2. Модели сознания. Может ли робот любить,
страдать и иметь другие эмоции? - М.: Либроком, 2011г.
 Шамис А.Л. Пути моделирования мышления. Активные
синергические нейронные сети, мышление и творчество,
формальные модели поведения и "распознавания с
пониманием". - КомКнига, 2006г.
8.3. Программное обеспечение и Интернет-ресурсы
 http://www.basegroup.ru/
8.4. Периодика
 Открытые системы.
 Программные продукты и системы.
9.
Технические
средства
и
материально-техническое
обеспечение дисциплины.
9.1.
Лекционная аудитория с проектором.
9.2.
Компьютерный класс.
9