НЕЧЕТКАЯ ЛОГИКА И НЕЙРОННЫЕ СЕТИ

Министерство образования и науки Российской Федерации
ТОМСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ
СИСТЕМ УПРАВЛЕНИЯ И РАДИОЭЛЕКТРОНИКИ (ТУСУР)
Н. В. Замятин
НЕЧЕТКАЯ ЛОГИКА
И НЕЙРОННЫЕ СЕТИ
Учебное пособие
Томск
«Эль Контент»
2014
УДК [004.827 + 004.032.26](075.8)
ББК 32.81я73
З-269
Рецензенты:
Ходашинский И. А., докт. техн. наук, профессор кафедры комплексной
информационной безопасности электронно-вычислительных систем ТУСУРа;
Ливенцов С. Н., докт. техн. наук, профессор, зав. кафедрой электроники
и автоматики физических установок Национального исследовательского Томского
политехнического университета.
Замятин Н. В.
З-269
Нечеткая логика и нейронные сети : учебное пособие / Н. В. Замятин. —
Томск : Эль Контент, 2014. — 146 с.
ISBN 978-5-4332-0190-3
Рассматриваются важнейшие положения теории нечетких множеств,
нечеткой логики и нейронных сетей. Приводятся основные определения
и понятия, описываются операции над нечеткими множествами, системы
нечеткого вывода. Приведены нечеткие отображения, нечеткие числа и основные математические операции над ними. Изложены основные положения нечеткой логики и нечетких высказываний, рассмотрены основные алгоритмы их обработки. В разделе «Нейронные сети» приведена классификация нейронных сетей, рассмотрены основные парадигмы, методы обучения нейронных сетей и примеры использования.
Предназначено для студентов, обучающихся по направлению «Бизнесинформатика», а также может быть полезно студентам других направлений
при изучении дисциплин, связанных с процессами управления и принятия
решений.
УДК [004.827 + 004.032.26](075.8)
ББК 32.81я73
ISBN 978-5-4332-0190-3
©
©
Замятин Н. В., 2014
Оформление.
ООО «Эль Контент», 2014
ОГЛАВЛЕНИЕ
Введение
4
1 Основы теории нечетких множеств
1.1 Четкие и нечеткие переменные и множества
1.2 Лингвистическая переменная . . . . . . . . . .
1.3 Функции принадлежности . . . . . . . . . . .
1.4 Нечеткая арифметика . . . . . . . . . . . . . . .
1.5 Основные операции на нечетких множествах
1.6 Нечеткие отношения . . . . . . . . . . . . . . .
1.7 Нечеткая импликация . . . . . . . . . . . . . .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
2 Нечеткий вывод и нечеткие модели
2.1 Структура и операции в нечетких моделях . . . . . . . . . . . .
2.2 Фаззификация. Дефаззификация результирующей функции
принадлежности . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
2.3 Свойства правил и нечетких моделей . . . . . . . . . . . . . . . .
2.4 База правил . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
2.5 Нормирование (масштабирование) входов и выходов нечеткой
модели . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
2.6 Нечеткая модель Мамдани . . . . . . . . . . . . . . . . . . . . . .
2.7 Нечеткая модель Такаги—Сугено . . . . . . . . . . . . . . . . . .
3 Нейронные сети
3.1 Введение в нейронные сети . . . . . . . . . .
3.2 Биологическая модель нейрона . . . . . . .
3.3 Искусственный (математический) нейрон .
3.4 Активационные функции нейронных сетей
3.5 Алгоритмы обучения нейронных сетей . . .
3.6 Нейронные сети прямого распространения
3.7 Сеть Хемминга . . . . . . . . . . . . . . . . .
3.8 Карты Кохонена . . . . . . . . . . . . . . . . .
3.9 ART-сети . . . . . . . . . . . . . . . . . . . . .
3.10 Сети Хопфилда . . . . . . . . . . . . . . . . .
3.11 Применение нейронных сетей . . . . . . . .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
7
7
15
19
28
34
45
48
. . . .
52
52
. . . .
. . . .
. . . .
67
71
77
. . . .
. . . .
. . . .
81
85
90
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
95
95
97
100
105
110
117
121
124
128
132
135
Заключение
139
Литература
141
Глоссарий
143
ВВЕДЕНИЕ
Понятие intelligence означает «рассуждать разумно». Искусственный интеллект (ИИ) занимается моделированием разумного поведения в искусственно созданных системах. Вычислительные машины оказались эффективными при работе
только с точными системами и не решили основных проблем областей знаний,
где описания предметных областей неточны и трудноформализуемы, в частности
в гуманистических областях. Существует принцип несовместимости: высокая точность несовместима с большой сложностью системы. Поэтому нужны эволюционные методы, такие, как нечеткая логика, нейронные сети, использующие алгоритмы для обучения с учителем или путем самоорганизации.
Нечеткая логика, предложенная американским математиком Лотфи Заде 35 лет
назад [1], позволяет описывать качественные, неточные знания об окружающем
мире, а также применять эти знания для получения новой информации.
Диапазон применения нечетких методов с каждым годом расширяется, охватывая такие области, как проектирование промышленных роботов и бытовых электроприборов, управление доменными печами и движением поездов метро, автоматическое распознавание речи и изображений. Нечеткая логика подобна и ближе к человеческому мышлению и рассуждениям, чем традиционные формальнологические системы, и может описывать и представлять сложные трудноформализуемые процессы.
Предложенный в середине 1970-х гг. Эбрахимом Мамдани алгоритм, основанный на нечетком логическом выводе, позволил избежать большого объема вычислений при управлении парогенератором.
В начале 1980-х гг. нечеткая логика и теория нечетких множеств получили
свое дальнейшее развитие в целом ряде программных средств поддержки принятия
решений и в экспертных системах анализа данных.
Нечеткая логика основана на классической логике, основным понятием которой является высказывание, означающее, что любое утверждение представляется истинным или ложным. В классической логике только два понятия — «истина»
или «ложь», что естественно для четкой математики, где все величины точные.
Однако существуют такие выражения, как «скорость большая» и поэтому необходимо пояснить, что означает значение «большая». В четкой логике это сделать
затруднительно, поэтому появилась нечеткая логика, которая близка к дискретной
математике.
Для обращения с неточно определенными величинами обычно применяется
теория вероятностей. Случайность связана с вероятностной неопределенностью,
Введение
5
касающейся принадлежности некоторого объекта к обычному множеству. Это различие между нечеткостью и случайностью приводит к тому, что математические
методы нечетких множеств совершенно не похожи на методы теории вероятностей. Они проще из-за того, что понятию вероятностной меры в теории вероятностей соответствует более простое понятие функции принадлежности в теории
нечетких множеств.
Подход на основе нечеткой логики является альтернативой количественным
методам анализа систем и дает приближенные, но эффективные способы описания поведения систем, очень сложных и плохо определенных настолько, что они
не поддаются точному математическому анализу. До работ Л. Заде подобная качественная информация, по существу, просто терялась, потому что было непонятно,
как ее использовать.
Когда человек сталкивается с неопределенностью реальной системы в процессе принятия решений, то он чаще всего сознательно (или бессознательно) игнорирует существование неопределенности, выбирает один наиболее существенный,
с его точки зрения, вид неопределенности, проводит дополнительные исследования системы или получает информацию другим путем.
С точки зрения интеллекта мозг человека состоит из двух полушарий — левого
и правого. Если правое полушарие предназначено для восприятии образов в целом, то левое для анализа этих образов. Поэтому можно привести такое грубое
сравнение: левое полушарие отвечает за точный анализ объектов (точная математика), правое за образный анализ (нечеткая математика или нечеткая логика). Новые идеи, изобретения, мысли рождаются в правом полушарии, а объективизация,
логическое обоснование, уточнение — это деятельность левого полушария [9].
Знания можно разделить на макрознания и микрознания. Микрознания хорошо
упорядочены, ими легко пользоваться, потому что они логически осмыслены. Но
прежде чем ими пользоваться, нужно руководствоваться здравым смыслом, который находится в правом полушарии. Вместе с тем человек обычно легко управляется с этими знаниями, иногда это выглядит, как интуиция. При решении сложных
трудноформализуемых задач человек опирается на знания и, отбрасывая множество решений, выбирает наиболее правильное.
Для организации этого субъективизма необходимо вводить нечеткость и соответствующие процедуры обработки этих нечеткостей. Английское слово fuzz, от
которого образовано прилагательное fuzzy, обозначает ворс, специальный термин,
определяющий свойство тканей. Если посмотреть на такую ткань, то она кажется
нечеткой и размытой. Поэтому термин fuzzy логично применить к понятиям нечеткой логики.
Первые нейросети появились в конце 50-х годов. В 1957 году Ф. Розенблатт создал систему, моделирующую человеческий глаз и его взаимодействие с мозгом, —
персептрон. Объединение нейронных сетей и нечеткой логики — это следующий
шаг в обработке информации. Возможности нейронных сетей могут усиливаться за
счет применения нечетких множеств и нечеткого вывода для оценивания функции
принадлежности элементов к множествам. Нечеткие операторы позволяют представить сложные системы с помощью переменных, значения которых определяются на интуитивном уровне. Другой подход состоит в формировании правил вывода
непосредственно в процессе обучения. Этим определяется взаимопроникновение
и дружественность нейронных моделей и систем, основанных на нечеткой логике.
6
Введение
Нейросетевая технология динамично развивается и находит применение в таких областях, как распознавание образов, диагностика сложных технических объектов (например, двигателя), экология и науки об окружающей среде (прогнозы погоды, построение математических моделей, диагностика различных заболеваний,
измерение уровня сахара в крови, идентификация личности), системах управления, геологии (прогнозирование наличия полезных ископаемых) и т. д. На данный
момент как в России, так и за рубежом накоплен опыт применения нейронных
сетей к различным задачам. Необходим единый подход к синтезу и обучению различного вида нейронных сетей применительно к решению широкого класса задач
моделирования технических и гуманистических объектов.
Соглашения, принятые в книге
Для улучшения восприятия материала в данной книге используются пиктограммы и специальное выделение важной информации.
.................................................................
Этот блок означает определение или новое понятие.
.................................................................
.................................................................
Этот блок означает внимание. Здесь выделена важная информация, требующая акцента на ней. Автор здесь может поделиться
с читателем опытом, чтобы помочь избежать некоторых ошибок.
.................................................................
.... . . . . . . . . . . . . . . . . . . . . .
Пример
.... . . . . . . . . . . . . . . . . . . . . .
Эта пиктограмма означает пример. В данном блоке автор может привести практический пример для пояснения и разбора основных моментов, отраженных в теоретическом материале.
.................................................................................
.... . . . . . . . . . . . . . . . . . . . . .
Выводы
.... . . . . . . . . . . . . . . . . . . . . .
Эта пиктограмма означает выводы. Здесь автор подводит итоги, обобщает изложенный материал или проводит анализ.
.................................................................................
.................................................................
Контрольные вопросы по главе
.................................................................
Глава 1
ОСНОВЫ ТЕОРИИ НЕЧЕТКИХ
МНОЖЕСТВ
1.1 Четкие и нечеткие переменные и множества
В окружающем мире некоторые величины сложно оценить с помощью измерительных устройств: красота, порядок, опасность, успех и т. п. Человек прибегает
к собственным «измерительным устройствам», позволяющим ему оценивать подобные величины и ситуации. Качественно оценивая действительность, люди выработали логические и интеллектуальные способности, которыми вычислительные
системы не обладают [6].
Нечеткие, качественные оценки позволяют значительно расширить методы математического моделирования, требующие точной информации о входных величинах и которые нужно рассматривать как дополнение к точным измерениям для
создания адекватных моделей действительности.
Для оценки параметров системы с использованием лингвистических значений, основанных на восприятиях человека, не требуется точных значений. Нечеткое представление очень перспективно и эффективно при обработке информации
в условиях неопределенности. Вместе с тем нечеткая логика основана на классической (четкой) логике и нечетких множествах.
Понятие четкой переменной
Понятие четких (определенных) множеств известно из классической логики.
Множество X всех чисел от 0 до 10 называется универсумом рассуждения. Подмножество A множества X всех действительных чисел от 5 до 8 будет A = [5, 8].
Характеристическая функция множества A ставит в соответствие число 1 или 0
каждому элементу в X , в зависимости от того, принадлежит данный элемент подмножеству A или нет (рис. 1.1). Элементы, которым поставлено соответствие 1,