Ясницкий ИНТЕЛЛЕКТУАЛЬНЫЕ СИСТЕМЫ Электронное издание Рекомендовано УМО по классическому университетскому образованию в качестве учебника для студентов высших учебных заведений, обучающихся по направлению ВПО 010300 «Фундаментальная информатика и информационные технологии» Москва Лаборатория знаний 2016 УДК 004.8 ББК 32.813я73 Я82 С е р и я о с н о в а н а в 2009 г. Р е ц е н з е н т ы: зав. кафедрой информационных технологий Пермского государственного национального исследовательского университета, д-р физ.-мат. наук, проф. <...> ISBN 978-5-00101-417-1 В учебнике приведена история становления научной области «искусственный интеллект». <...> Сигмоидная активационная функция и обобщенное дельтаправило . <...> Многослойный персептрон и алгоритм его обучения . <...> Алгоритм интеллектуального анализа данных методом нейросетевого математического моделирования. <...> Нейросетевые технологии и методы регрессионного анализа 194 9.4. <...> Нейросетевые технологии и метод математического моделирования . <...> . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 220 ПРЕДИСЛОВИЕ В последнее время руководители системы высшего профессионального образования уделяют внимание изучению методов создания интеллектуальных систем, включая в учебные программы вузов дисциплины под названиями: • «Интеллектуальные информационные системы»; • «Системы искусственного интеллекта»; • «Нейронные сети»; • «Интеллектуальные системы»; • «Интеллектуальные системы и технологии»; • «Интеллектуальные технологии»; • «Основы искусственного интеллекта»; • «Прикладные методы искусственного интеллекта»; • «Интеллектуальный анализ данных». <...> В ходе разработки и исследований нейросетевой системы диагностики заболеваний сердечно-сосудистой системы методами искусственного интеллекта выявлены новые медицинские знания, в результате чего, после обсуждений с авторитетными врачами-экспертами, сделан вывод3) о необходимости корректировки существующей практики профилактики и лечения <...>
Интеллектуальные_системы.pdf
УДК 004.8
ББК 32.813я73
Я82
С е р и я о с н о в а н а в 2009 г.
Р е ц е н з е н т ы: зав. кафедрой информационных технологий
Пермского государственного национального исследовательского университета,
д-р физ.-мат. наук, проф. Е. К. Хеннер;
зав. кафедрой прикладной математики и информатики
Пермского государственного национального исследовательского университета,
д-р физ.-мат. наук, проф. С. В. Русаков;
профессор кафедры математического моделирования систем и процессов
Пермского национального исследовательского политехнического университета,
д-р техн. наук, проф. В. Ю. Столбов.
Ясницкий Л. Н.
Я82 Интеллектуальные системы : учебник / Л. Н. Ясницкий. — 2-е
изд., электрон. — М. : Лаборатория знаний, 2020. — 224 с. — (Учебник
для высшей школы). — Систем. требования: Adobe Reader XI ;
экран 10". — Загл. с титул. экрана. — Текст : электронный.
ISBN 978-5-00101-897-1
В учебнике приведена история становления научной области «искусственный
интеллект». Освещены основные направления ее развития
и сферы применения; выполнено сопоставление трех основных стратегических
подходов к созданию интеллектуальных систем: технологии
экспертных систем, технологии нейронных сетей и технологии эволюционного
моделирования. Изложены теоретические основы и даны примеры
разработки интеллектуальных систем, а также примеры их применения для
интеллектуального анализа данных в промышленности, экономике, бизнесе,
психологии, социологии и других областях.
Книга является исчерпывающим руководством по освоению технологий
создания интеллектуальных нейросетевых систем и их применению для
решения широкого круга проблем, встречающихся во многих областях
деятельности современного человека.
Для студентов высших учебных заведений технического профиля.
УДК 004.8
ББК 32.813я73
Деривативное издание на основе печатного аналога: Интеллектуальные
системы : учебник / Л. Н. Ясницкий. — М. : Лаборатория знаний, 2016. —
221 с. : ил. — (Учебник для высшей школы). — ISBN 978-5-906828-73-6.
В оформлении обложки использован фрагмент иллюстрации Герда Альтмана с сайта pixabay.com
В соответствии со ст. 1299 и 1301 ГК РФ при устранении ограничений, установленных техническими
средствами защиты авторских прав, правообладатель вправе требовать от нарушителя возмещения
убытков или выплаты компенсации
ISBN 978-5-00101-897-1
○c Лаборатория знаний, 2016
Стр.3
ОГЛАВЛЕНИЕ
Предисловие. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
Благодарности . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
6
9
Глава 1. Прошлое и настоящее искусственного интеллекта и интеллектуальных
систем . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
1.1. Исторический очерк . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
1.2. Основные стратегии . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
1.3. Лидирующая научная отрасль . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
1.4. Основные сферы применения . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21
Контрольные вопросы и задания. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
Глава 2. Модели представления знаний . . . . . . . . . . . . . . . . . . . . . . . . . . 26
2.1. Данные и знания . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26
2.2. Продукционная модель . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27
2.3. Фреймовая модель . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30
2.4. Сетевая модель . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31
2.5. Логическая модель . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31
2.6. Синаптическая модель . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32
Контрольные вопросы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32
Глава 3. Экспертные системы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33
3.1. Предметные области . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33
3.2. Структура и режимы работы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33
3.3. Этапы и технология разработки . . . . . . . . . . . . . . . . . . . . . . . . . . . 35
3.4. Программный инструментарий . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38
3.5. Инженерия знаний . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40
Контрольные вопросы и задания. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41
Глава 4. Понятие о классической нейронной сети . . . . . . . . . . . . . . . 42
4.1. Мозг и компьютер. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42
4.2. Математический нейрон Мак-Каллока—Питтса . . . . . . . . . . . . 44
Контрольные вопросы и задания к § 4.2 . . . . . . . . . . . . . . . . . . 48
4.3. Персептрон Розенблатта и его обучение . . . . . . . . . . . . . . . . . . . 48
Контрольные вопросы и задания к § 4.3 . . . . . . . . . . . . . . . . . . 53
4.4. Распознавание букв . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 54
Контрольные вопросы и задания к § 4.4 . . . . . . . . . . . . . . . . . . 56
4.5. Сигмоидная активационная функция и обобщенное дельтаправило
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56
Контрольные вопросы и задания к § 4.5 . . . . . . . . . . . . . . . . . . 62
4.6. Ограниченность однослойного персептрона . . . . . . . . . . . . . . . . 63
Контрольные вопросы и задания к § 4.6 . . . . . . . . . . . . . . . . . . 66
4.7. Персептрон со скрытым слоем нейронов . . . . . . . . . . . . . . . . . . 67
Контрольные вопросы и задания к § 4.7 . . . . . . . . . . . . . . . . . . 69
4.8. Многослойный персептрон и алгоритм его обучения . . . . . . 69
Контрольные вопросы и задания к § 4.8 . . . . . . . . . . . . . . . . . . 75
Стр.4
4 Оглавление
Глава 5. Возможности и сферы применения нейронных сетей . . . 76
5.1. Возможности интеллектуального анализа данных . . . . . . . . . . 76
5.2. Диагностика заболеваний человека . . . . . . . . . . . . . . . . . . . . . . . . 78
Контрольные вопросы и задания к § 5.2 . . . . . . . . . . . . . . . . . . 83
5.3. Диагностика технических устройств . . . . . . . . . . . . . . . . . . . . . . . 83
Контрольные вопросы и задания к § 5.3 . . . . . . . . . . . . . . . . . . 87
5.4. Диагностика экономического состояния предприятий . . . . . . 88
5.5. Управление кибернетическим объектом. . . . . . . . . . . . . . . . . . . . 90
5.6. Прогнозирование политических событий . . . . . . . . . . . . . . . . . . 91
Контрольные вопросы и задания к § 5.6 . . . . . . . . . . . . . . . . . . 97
5.7. Выявление способности человека к бизнесу . . . . . . . . . . . . . . . 98
5.8. Выявление способности человека к научной деятельности . 101
5.9. Свойства нейронных сетей, унаследованные от мозга . . . . . . 106
Контрольные вопросы и задания к § 5.9 . . . . . . . . . . . . . . . . . . 109
5.10. Круг задач, решаемых при помощи нейронных сетей. . . . . . 110
Контрольные вопросы и задания к § 5.10 . . . . . . . . . . . . . . . . . 111
Глава 6. Оптимальное проектирование и обучение нейронных
сетей . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 112
6.1. Теоремы существования. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 112
6.2. Методы проектирования нейронных сетей. . . . . . . . . . . . . . . . . 115
Контрольные вопросы и задания к § 6.2 . . . . . . . . . . . . . . . . . . 119
6.3. Методы обучения нейронных сетей . . . . . . . . . . . . . . . . . . . . . . . 119
6.4. Генетические алгоритмы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 122
6.5. Дополнительные рекомендации по проектированию и обучению
персептронов . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 130
6.6. Алгоритм интеллектуального анализа данных методом нейросетевого
математического моделирования. . . . . . . . . . . . . . . . 141
Этап 1. Постановка задачи . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 142
Этап 2. Формирование примеров . . . . . . . . . . . . . . . . . . . . . . . . . . 142
Этап 3. Первоначальное проектирование сети. . . . . . . . . . . . . . 143
Этап 4. Обучение сети . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 143
Этап 5. Проверка и оптимизация сети. . . . . . . . . . . . . . . . . . . . . 145
Этап 6. Исследование предметной области—интеллектуальный
анализ данных . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 147
Контрольные вопросы и задания к § 6.6 . . . . . . . . . . . . . . . . . . 149
Глава 7. Неклассические нейронные сети . . . . . . . . . . . . . . . . . . . . . . . . 150
7.1. Сеть каскадной корреляции Фальмана—Либьера . . . . . . . . . . . 150
7.2. Радиально-базисные сети. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 154
7.3. Рекуррентные сети на базе персептрона . . . . . . . . . . . . . . . . . . . 159
7.4. Рекуррентная сеть Хопфилда . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 161
7.5. Самообучающиеся и гибридные сети . . . . . . . . . . . . . . . . . . . . . . 164
7.6. Интеллектуальный нейрон Вальцева . . . . . . . . . . . . . . . . . . . . . . . 169
Контрольные вопросы и задания . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 173
Глава 8. Компьютерное творчество . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 174
8.1. Философские аспекты творчества . . . . . . . . . . . . . . . . . . . . . . . . . 174
8.2. Творчество в музыкальной сфере. . . . . . . . . . . . . . . . . . . . . . . . . . 177
8.3. Творчество в поэзии . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 181
8.4. Творчество в науке . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 183
Контрольные вопросы и задания . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 188
Стр.5
Оглавление
5
Глава 9. Настоящее и будущее искусственного интеллекта и интеллектуальных
систем . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 190
9.1. Искусственный интеллект и интеллектуальные системы. . . . 190
9.2. Нейронные сети и экспертные системы . . . . . . . . . . . . . . . . . . . 191
9.3. Нейросетевые технологии и методы регрессионного анализа 194
9.4. Нейросетевые технологии и метод математического моделирования
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 197
9.5. Философские проблемы искусственного интеллекта. . . . . . . . 200
9.6. Прогнозы на будущее. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 202
Контрольные вопросы и задания . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 207
Список литературы. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 209
Приложение. Отзывы рецензентов . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 217
Рецензия 1 на книгу Л. Н. Ясницкого «Интеллектуальные системы»
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 217
Рецензия 2 на книгу Л. Н. Ясницкого «Интеллектуальные системы»
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 220
Стр.6