Ясницкий ИНТЕЛЛЕКТУАЛЬНЫЕ СИСТЕМЫ Электронное издание Рекомендовано УМО по классическому университетскому образованию в качестве учебника для студентов высших учебных заведений, обучающихся по направлению ВПО 010300 «Фундаментальная информатика и информационные технологии» Москва Лаборатория знаний 2016 УДК 004.8 ББК 32.813я73 Я82 С е р и я о с н о в а н а в 2009 г. Р е ц е н з е н т ы: зав. кафедрой информационных технологий Пермского государственного национального исследовательского университета, д-р физ.-мат. наук, проф. <...> ISBN 978-5-00101-417-1 В учебнике приведена история становления научной области «искусственный интеллект». <...> Сигмоидная активационная функция и обобщенное дельтаправило . <...> Многослойный персептрон и алгоритм его обучения . <...> Алгоритм интеллектуального анализа данных методом нейросетевого математического моделирования. <...> Нейросетевые технологии и методы регрессионного анализа 194 9.4. <...> Нейросетевые технологии и метод математического моделирования . <...> . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 220 ПРЕДИСЛОВИЕ В последнее время руководители системы высшего профессионального образования уделяют внимание изучению методов создания интеллектуальных систем, включая в учебные программы вузов дисциплины под названиями: • «Интеллектуальные информационные системы»; • «Системы искусственного интеллекта»; • «Нейронные сети»; • «Интеллектуальные системы»; • «Интеллектуальные системы и технологии»; • «Интеллектуальные технологии»; • «Основы искусственного интеллекта»; • «Прикладные методы искусственного интеллекта»; • «Интеллектуальный анализ данных». <...> В ходе разработки и исследований нейросетевой системы диагностики заболеваний сердечно-сосудистой системы методами искусственного интеллекта выявлены новые медицинские знания, в результате чего, после обсуждений с авторитетными врачами-экспертами, сделан вывод3) о необходимости корректировки существующей практики профилактики и лечения <...>
Интеллектуальные_системы_учебник_—_Эл._изд..pdf
УДК 004.8
ББК 32.813я73
Я82
С е р и я о с н о в а н а в 2009 г.
Р е ц е н з е н т ы: зав. кафедрой информационных технологий
Пермского государственного национального исследовательского
университета,
д-р физ.-мат. наук, проф. Е. К. Хеннер;
зав. кафедрой прикладной математики и информатики
Пермского государственного национального исследовательского
университета,
д-р физ.-мат. наук, проф. С. В. Русаков;
профессор кафедры математического моделирования систем
и процессов
Пермского национального исследовательского политехнического
университета,
д-р техн. наук, проф. В. Ю. Столбов.
Ясницкий Л. Н.
Я82 Интеллектуальные системы [Электронный ресурс] : учебник /
Л. Н. Ясницкий.—Эл. изд.—Электрон. текстовые дан. (1 файл
pdf : 224 с.).—М. : Лаборатория знаний, 2016.—(Учебник
для высшей школы).—Систем. требования: Adobe Reader XI ;
экран 10".
ISBN 978-5-00101-417-1
В учебнике приведена история становления научной области «искусственный
интеллект». Освещены основные направления ее развития
и сферы применения; выполнено сопоставление трех основных стратегических
подходов к созданию интеллектуальных систем: технологии
экспертных систем, технологии нейронных сетей и технологии эволюционного
моделирования. Изложены теоретические основы и даны примеры
разработки интеллектуальных систем, а также примеры их применения для
интеллектуального анализа данных в промышленности, экономике, бизнесе,
психологии, социологии и других областях.
Книга является исчерпывающим руководством по освоению технологий
создания интеллектуальных нейросетевых систем и их применению для
решения широкого круга проблем, встречающихся во многих областях
деятельности современного человека.
Для студентов высших учебных заведений технического профиля.
УДК 004.8
ББК 32.813я73
Деривативное электронное издание на основе печатного аналога:
Интеллектуальные системы : учебник / Л. Н. Ясницкий.—М. : Лаборатория
знаний, 2016.—221 с. : ил.—(Учебник для высшей школы).—
ISBN 978-5-906828-73-6.
В оформлении обложки использован фрагмент иллюстрации Герда Альтмана с сайта pixabay.com
В соответствии со ст. 1299 и 1301 ГК РФ при устранении ограничений, установленных техническими
средствами защиты авторских прав, правообладатель вправе требовать от нарушителя возмещения
убытков или выплаты компенсации
ISBN 978-5-00101-417-1
○ Лаборатория знаний, 2016
c
Стр.3
ОГЛАВЛЕНИЕ
Предисловие. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
Благодарности . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
6
9
Глава 1. Прошлое и настоящее искусственного интеллекта и интеллектуальных
систем . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
1.1. Исторический очерк . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
1.2. Основные стратегии . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
1.3. Лидирующая научная отрасль . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
1.4. Основные сферы применения . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21
Контрольные вопросы и задания. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
Глава 2.Модели представления знаний . . . . . . . . . . . . . . . . . . . . . . . . . . 26
2.1. Данные и знания . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26
2.2. Продукционная модель . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27
2.3. Фреймовая модель . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30
2.4. Сетевая модель . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31
2.5. Логическая модель . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31
2.6. Синаптическая модель . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32
Контрольные вопросы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32
Глава 3. Экспертные системы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33
3.1. Предметные области . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33
3.2. Структура и режимы работы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33
3.3. Этапы и технология разработки . . . . . . . . . . . . . . . . . . . . . . . . . . . 35
3.4. Программный инструментарий . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38
3.5. Инженерия знаний . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40
Контрольные вопросы и задания. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41
Глава 4. Понятие о классической нейронной сети . . . . . . . . . . . . . . . 42
4.1.Мозг и компьютер. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42
4.2.Математический нейрон Мак-Каллока—Питтса . . . . . . . . . . . . 44
Контрольные вопросы и задания к § 4.2 . . . . . . . . . . . . . . . . . . 48
4.3. Персептрон Розенблатта и его обучение. . . . . . . . . . . . . . . . . . . 48
Контрольные вопросы и задания к § 4.3 . . . . . . . . . . . . . . . . . . 53
4.4. Распознавание букв . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 54
Контрольные вопросы и задания к § 4.4 . . . . . . . . . . . . . . . . . . 56
4.5. Сигмоидная активационная функция и обобщенное дельтаправило
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56
Контрольные вопросы и задания к § 4.5 . . . . . . . . . . . . . . . . . . 62
4.6. Ограниченность однослойного персептрона . . . . . . . . . . . . . . . . 63
Контрольные вопросы и задания к § 4.6 . . . . . . . . . . . . . . . . . . 66
4.7. Персептрон со скрытым слоем нейронов . . . . . . . . . . . . . . . . . . 67
Контрольные вопросы и задания к § 4.7 . . . . . . . . . . . . . . . . . . 69
4.8.Многослойный персептрон и алгоритм его обучения . . . . . . 69
Контрольные вопросы и задания к § 4.8 . . . . . . . . . . . . . . . . . . 75
Стр.4
4
Глава 5. Возможности и сферы применения нейронных сетей . . . 76
5.1. Возможности интеллектуального анализа данных . . . . . . . . . . 76
5.2. Диагностика заболеваний человека . . . . . . . . . . . . . . . . . . . . . . . . 78
Контрольные вопросы и задания к § 5.2 . . . . . . . . . . . . . . . . . . 83
5.3. Диагностика технических устройств . . . . . . . . . . . . . . . . . . . . . . . 83
Контрольные вопросы и задания к § 5.3 . . . . . . . . . . . . . . . . . . 87
5.4. Диагностика экономического состояния предприятий . . . . . . 88
5.5. Управление кибернетическим объектом. . . . . . . . . . . . . . . . . . . . 90
5.6. Прогнозирование политических событий . . . . . . . . . . . . . . . . . . 91
Контрольные вопросы и задания к § 5.6 . . . . . . . . . . . . . . . . . . 97
5.7. Выявление способности человека к бизнесу . . . . . . . . . . . . . . . 98
5.8. Выявление способности человека к научной деятельности . 101
5.9. Свойства нейронных сетей, унаследованные от мозга . . . . . . 106
Контрольные вопросы и задания к § 5.9 . . . . . . . . . . . . . . . . . . 109
5.10. Круг задач, решаемых при помощи нейронных сетей. . . . . . 110
Контрольные вопросы и задания к § 5.10 . . . . . . . . . . . . . . . . . 111
Глава 6. Оптимальное проектирование и обучение нейронных
сетей . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 112
6.1. Теоремы существования. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 112
6.2.Методы проектирования нейронных сетей. . . . . . . . . . . . . . . . . 115
Контрольные вопросы и задания к § 6.2 . . . . . . . . . . . . . . . . . . 119
6.3.Методы обучения нейронных сетей . . . . . . . . . . . . . . . . . . . . . . . 119
6.4. Генетические алгоритмы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 122
6.5. Дополнительные рекомендации по проектированию и обучению
персептронов . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 130
6.6. Алгоритм интеллектуального анализа данных методом нейросетевого
математического моделирования. . . . . . . . . . . . . . . . 141
Этап 1. Постановка задачи . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 142
Этап 2. Формирование примеров . . . . . . . . . . . . . . . . . . . . . . . . . . 142
Этап 3. Первоначальное проектирование сети. . . . . . . . . . . . . . 143
Этап 4. Обучение сети . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 143
Этап 5. Проверка и оптимизация сети. . . . . . . . . . . . . . . . . . . . . 145
Этап 6. Исследование предметной области—интеллектуальный
анализ данных . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 147
Контрольные вопросы и задания к § 6.6 . . . . . . . . . . . . . . . . . . 149
Глава 7. Неклассические нейронные сети . . . . . . . . . . . . . . . . . . . . . . . . 150
7.1. Сеть каскадной корреляции Фальмана—Либьера . . . . . . . . . . . 150
7.2. Радиально-базисные сети. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 154
7.3. Рекуррентные сети на базе персептрона . . . . . . . . . . . . . . . . . . . 159
7.4. Рекуррентная сеть Хопфилда . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 161
7.5. Самообучающиеся и гибридные сети . . . . . . . . . . . . . . . . . . . . . . 164
7.6. Интеллектуальный нейрон Вальцева . . . . . . . . . . . . . . . . . . . . . . . 169
Контрольные вопросы и задания . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 173
Глава 8. Компьютерное творчество . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 174
8.1. Философские аспекты творчества . . . . . . . . . . . . . . . . . . . . . . . . . 174
8.2. Творчество в музыкальной сфере. . . . . . . . . . . . . . . . . . . . . . . . . . 177
8.3. Творчество в поэзии . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 181
8.4. Творчество в науке . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 183
Контрольные вопросы и задания . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 188
О
г
л
ав
л
е
н
и
е
Стр.5
О
г
л
ав
л
е
н
и
е
5
Глава 9. Настоящее и будущее искусственного интеллекта и интеллектуальных
систем . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 190
9.1. Искусственный интеллект и интеллектуальные системы. . . . 190
9.2. Нейронные сети и экспертные системы . . . . . . . . . . . . . . . . . . . 191
9.3. Нейросетевые технологии и методы регрессионного анализа 194
9.4. Нейросетевые технологии и метод математического моделирования
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 197
9.5. Философские проблемы искусственного интеллекта. . . . . . . . 200
9.6. Прогнозы на будущее. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 202
Контрольные вопросы и задания . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 207
Список литературы. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 209
Приложение. Отзывы рецензентов . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 217
Рецензия 1 на книгу Л. Н. Ясницкого «Интеллектуальные системы»
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 217
Рецензия 2 на книгу Л. Н. Ясницкого «Интеллектуальные системы»
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 220
Стр.6