АННОТАЦИЯ курса «Нейронные сети, генетические алгоритмы

АННОТАЦИЯ
курса «Нейронные сети, генетические алгоритмы»
Направления подготовки: 231000 Программная инженерия
профиль - Разработка программно-информационных систем
Квалификация выпускника — бакалавр
Дисциплина представляет собой систематизированный курс основ построения
нейрокомпьютеров. Дается детальный обзор и описание важнейших методов обучения
нейронных сетей различной структуры, а также задач, решаемых этими сетями.
Рассмотрены вопросы реализации нейронных сетей.
Целью дисциплины является систематизация знаний о возможностях и
особенностях применения нейрокомпьютерных алгоритмов и систем для обработки
информации.
Для изучения дисциплины студенты должны обладать компетенциями,
сформированными при изучении основной образовательной программы подготовки
бакалавра и базовой части профессионального цикла образовательной программы
подготовки магистра. Дисциплина является компонентом вариативной части и
предшествует преподаванию курсов: «Интеллектуальные системы», «Применение ВВС».
Содержание дисциплины
Все содержание дисциплины разбито на 8 модулей:
Модуль 1. Основные понятия нейрокомпьютерных систем. Модели нейронов
В модуле рассматривается:
Символьная и коннекционистская парадигмы искусственного интеллекта, понятие
искусственной нейронной сети (НС), история возникновения и перспективы развития НС,
отличия НС от традиционных вычислительных систем. Структура и функции различных
моделей нейрона: персептрон, сигмоидальный нейрон, адалайн, Паде-нейрон, нейрон с
квадратичным сумматором, сигма-пи нейроны, нейрон Хебба, стохастическая модель
нейрона, кубические модели нейронов.
Модуль 2. Особенности линейного и нелинейного разделения двух классов.
В модуле рассматривается:
Решение задачи линейного разделения двух классов методом центров масс, алгоритм
обучения персептрона, виды обучения, геометрическая интерпретация задачи разделения
двух классов. Решение задачи нелинейного разделения двух классов методом максимума
правдоподобия и многослойной сетью, реализация булевых функций посредством
нейронной сети.
Модуль 3. Виды нейронных сетей и способы организации их функционирования.
Характеристики многослойных сетей.
В модуле рассматривается:
Варианты многослойных сетей, режимы функционирования сетей, предобработка
входных данных сети, виды интерпретации ответов НС, задача аппроксимации функций и
оценка способности сети решить эту задачу. Многослойный персептрон, алгоритм
обратного распространения ошибки, подбор коэффициента обучения (одномерная
минимизация), методы инициализации весов сети.
Модуль 4. Градиентные алгоритмы обучения сети. Методы глобальной
оптимизации.
В модуле рассматривается:
Особенности задачи оптимизации, возникающей при обучении нейронных сетей;
алгоритмы выбора направления минимизации: алгоритм наискорейшего спуска, партанметоды, одношаговый квазиньютоновский метод и сопряженные градиенты. Алгоритм
имитации отжига, генетические алгоритмы, использование случайных возмущений в
обучении (метод виртуальных частиц).
Модуль 5. Радиальные нейронные сети. Рекуррентные сети как ассоциативные
запоминающие устройства
В модуле рассматривается:
Математические основы радиальных сетей и методы их обучения. Сравнение радиальных
и сигмоидальных нейронных сетей. Нейронная сеть Хопфилда как автоассоциативная
память, обучаемая с использованием метода Хебба и проекционного метода;
гетероассоциативная память на основе сети Хемминга и двунаправленная ассоциативная
память.
Модуль 6. Задачи комбинаторной оптимизации рекуррентными сетями.
Рекуррентные сети на базе персептрона.
В модуле рассматривается:
Решение задачи коммивояжера сетью Хопфилда и машиной Больцмана. Параметры
функции энергии нейронных сетей, обеспечивающие решение задачи коммивояжера.
Многослойные рекуррентные сети (персептронная\break сеть с обратной связью,
рекуррентная сеть Эльмана, сеть RTRN) и их использование для идентификации
динамических объектов.
Модуль 7. Самоорганизация (самообучение) нейронных сетей. Адаптивная
резонансная теория (АРТ)
В модуле рассматривается:
Метод динамических ядер в классификации без учителя, алгоритмы обучения сетей с
самоорганизацией и их применение к компрессии данных и прогнозированию.
Соотношение стабильности и пластичности при запоминании; архитектура, реализация,
обучение и характеристики сети АРТ (адаптивной резонансной теории).
Модуль 8. Нечеткие и гибридные нейронные сети. Контрастирование (редукция)
нейронной сети. Методы аппаратной реализации нейрокомпьютеров
В модуле рассматривается:
Математические основы нечетких систем, преимущества и алгоритмы обучения нечетких
нейронных сетей, нечеткие сети с генетической настройкой, экспертные системы на
основе гибридных НС. Методы оценки значимости параметров нейронной сети и сигналов
в ней; сокращение числа входов в линейном сумматоре методом "снизу-вверх", метод
исключения параметров "сверху-вниз" с ортогонализацией и бинаризация сумматора.
Рассматриваются электронные и оптические методы реализации нейрокомпьютеров.
Общая трудоемкость дисциплины:
Составляет 4 зачетные единицы.
Форма итогового контроля: экзамен.
В результате изучения дисциплины студент должен:
Знать: теоретические основы применения нечетких и гибридных нейронных сетей;.
методы аппаратной реализации нейрокомпьютеров, тенденции их развития; архитектуру
нейронных сетей;
Уметь: настраивать число нейронов в скрытых слоях сети;
применять семантику графических языков;
использовать на практике особенности линейного и нелинейного разделения
двух классов
Владеть:
определениями основных понятий нейрокомпьютерных систем;
терминологией задач комбинаторной оптимизации рекуррентными сетями;
способами решения задач оптимизации, возникающей при обучении
нейронных сетей;
алгоритмизацией выбора направления минимизации;
способностью применять генетические алгоритмы,
умением осуществлять оценку значимости параметров нейронной сети и
сигналов в ней.
Разработчик:
Д.т.н., профессор
Гагарина Л.Г.