Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика. - презентация

1 Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика и ее приложения» 7-9 октября, 2005г., Красноярск ПРИМЕНЕНИЕ НЕЙРОЭВОЛЮЦИОННОГО ПОДХОДА ДЛЯ РЕШЕНИЯ ЗАДАЧ КЛАССИФИКАЦИИ И АППРОКСИМАЦИИ Цой Ю.Р., Спицын В.Г. Кафедра вычислительной техники Томский политехнический университет

2 Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика и ее приложения» 7-9 октября, 2005г., Красноярск Содержание 1. Нейроэволюционный подход. 2. Плюсы и минусы нейроэволюционного подхода. 3. Обучение с учителем. 4. Неточная оценка нейронных сетей. 5. Задачи адаптивного поведения и управления. 6. Многоагентные системы. 7. Игровые стратегии. 8. Проект N.E.R.O. 9. Настройка клеточных автоматов. 10. Заключение.

3 Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика и ее приложения» 7-9 октября, 2005г., Красноярск 1. Нейроэволюционный подход (1/2) Применение эволюционных алгоритмов для настройки и обучения искусственных нейронных сетей (Gruau, 1994; Yao, 1999): -обучение НС при фиксированной структуре; -настройка структуры НС; -настройка параметров алгоритма обучения; -настройка параметров активационных функций; -фильтрация обучающих данных; -комбинирование вышеперечисленных задач.

4 Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика и ее приложения» 7-9 октября, 2005г., Красноярск 1. Нейроэволюционный подход (2/2) Некоторые названия: -Neurogenesis (D. Whitley); -EDNA – Evolutionary Design of Neural Architectures (K. Balakrishan & V. Honavar); -GANN – Genetic Algorithms to Neural Networks optimization (P. Koehn); -EANN – Evolutionary Artificial Neural Networks (X. Yao); -Neuroevolution (R. Miikkulainen).

5 Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика и ее приложения» 7-9 октября, 2005г., Красноярск 2. Плюсы и минусы нейроэволюционного (НЭ) подхода Плюсы: + упрощение использования нейросетевых технологий; + возможность автоматической настройки параметров НЭ алгоритма; + возможность использования любых активационных функций нейронов; + возможность оценки ИНС без информации о значении выходных сигналов сети. Минусы: - отсутствие гарантии сходимости эволюционного алгоритма; - утрата контроля над процессом поиска решения; - проблема конкурирующих решений (competing conventions problem, N. Radcliff, 1990; 1991).

6 Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика и ее приложения» 7-9 октября, 2005г., Красноярск 3. Обучение с учителем Название проблемы Ошибка, NEvA-2 Структура ИНС, NEvA-2, N H : N C Ошибка, Proben1 docs Структура ИНС, Proben1 docs, N H : N C cancer12,29885 %2,3 : 26,81,32 %6 : 48 cards111,6279 %1,1 : 100,113,37 %0 : 102 diabetes137,5 %1 : 16,11124,1 %4 : 24 gene131,694 %1,9 : 361,713,64 %0 : 360 glass119,4969 %1,5 : 53,832,7 %8 : 120 heart120,4348 %1 : 70,919,72 %8 : 296 horse120,5128 %1,429 : 169,2929,19 %4 : 244 mushroom14,08666 %1,2 : 2490 %0 : 250 soybean17,36842 %1,1 : 1560,29,06 %24 : > 2000 thyroid14,85185 %1,3 : 65,62,32 %24 : > 450 building10, ,1 : 43,30,780 : 42 flare10, ,2 : 73,10,520 : 72 классификация

7 Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика и ее приложения» 7-9 октября, 2005г., Красноярск 4. Неточная оценка нейронных сетей При использовании нейроэволюционного подхода для оценки ИНС необязательно использовать значения ее выходных сигналов. Достаточно использовать характеристику, отражающую внешнюю, качественную сторону функционирования НС. Следствие: Для обучения достаточно оценивать результат последовательности выходных сигналов НС. Отмеченные особенности позволяют: -упростить применение ИНС для решения задач, связанных с моделированием, адаптивным управлением и поведением; -расширить спектр задач, решаемых с использованием НС.

8 Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика и ее приложения» 7-9 октября, 2005г., Красноярск -балансировка шеста (шестов) – время балансирования (в тактах); -преследование жертвы – количество успешных преследований; -управление рукой-манипулятором – пройденное расстояние; -управление мобильным роботом Khepera – пройденное расстояние; -управление моделью ракеты – высота ракеты. 5. Задачи адаптивного поведения и управления ИНС Состояние объекта управления Состояние среды Действие

9 Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика и ее приложения» 7-9 октября, 2005г., Красноярск 6. Многоагентные системы (1/2) Эволюция ДействиеОценка Популяция агентов

10 Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика и ее приложения» 7-9 октября, 2005г., Красноярск 6. Многоагентные системы (2/2) жертва хищник Наследственность в эволюционирующей системе является источником корреляции между «соседними» поколениями. Таким образом, эволюция может рассматри- ваться как процесс с памятью. Глубина памяти зависит от давления отбора, интенсив- ности мутаций, стратегии формирования нового поколе- ния и других параметров эволюционных алгоритмов.

11 Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика и ее приложения» 7-9 октября, 2005г., Красноярск 7. Игровые стратегии Игры: го (на досках 5х5, 7х7), крестики-нолики. Го – возможно, самая сложная и глубокая игра с простыми правилами. Оценка нейронной сети – количество выигрышей в серии игр. Возможно использование конкурирующей ко- эволюции (competitive co-evolution) для самообучения НС, а также применение техники rowing eye.

12 Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика и ее приложения» 7-9 октября, 2005г., Красноярск 8. Проект N.E.R.O. (Neuro-Evolution of Robotic Operatives) (1/2) Используется алгоритм rtNEAT (real-time NeuroEvolution of Augmenting Topologies) Кеннета Стенли. Особенности: -Искусственный интеллект агентов представлен эволюционирующими в реальном времени нейронными сетями. -Игрок на специальном полигоне тренирует своих агентов для будущих боев. -Поведение агентов зависит от развития игровой ситуации. Агенты оцениваются в зависимости от схожести их поведения с «эталонным» поведением, заданном пользователем.

13 Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика и ее приложения» 7-9 октября, 2005г., Красноярск 8. Проект N.E.R.O. (Neuro-Evolution of Robotic Operatives) (2/2) Рисунки взяты с официального сайта проекта N.E.R.O.:

14 Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика и ее приложения» 7-9 октября, 2005г., Красноярск 9. Настройка клеточных автоматов (1/3) Клеточные автоматы (КА) - это децентрализованные, распределенные в пространстве системы, состоящие из большого числа идентичных простых компонент с локальной связанностью. Каждая клетка характеризуется состоянием, которое изменяется в зависимости от окрестности клетки заданного радиуса. Правила изменения состояний клеток задаются таблицей правил.

15 Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика и ее приложения» 7-9 октября, 2005г., Красноярск 9. Настройка клеточных автоматов (2/3) ИНС используется для аппроксимации таблицы правил клеточного автомата для решения задач моделирования. Оценка НС – степень схожести поведения КА, под управлением НС, с поведением «эталонного» КА. S1S1 S2S2 S3S3 S5S5 S4S4 S8S8 S7S7 S6S6 r = 1 S0S0 S0(t)S0(t) DSDS mSmS ИНС S 0 (t+1)

16 Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика и ее приложения» 7-9 октября, 2005г., Красноярск 9. Настройка клеточных автоматов (улучшение качества изображений) (3/3) I(x,y) D I (x,y) I avg ИНС I*(x,y) Рассматривается попиксель- ная обработка изображе- ний. Оценка ИНС зависит от ка- чества обработанного изображения. ИсходноеОбработанное Изображение

17 Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика и ее приложения» 7-9 октября, 2005г., Красноярск 10. Заключение (1/2) Нейроэволюционный подход: Удобство использования против отсутствия твердых гарантий на получение результата. Основные преимущества: -возможность использования неточных оценок работы НС; -адаптивность; -возможность использования одного алгоритма для решения широкого круга задач. Возможное решение многих проблем нейроэволюционного подхода: Разработка новых эволюционных операторов и способов представления информации.

18 Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика и ее приложения» 7-9 октября, 2005г., Красноярск 10. Заключение (2/2) «… Самыми плодотворными для развития наук являются области, оставленные в пренебрежении по той причине, что они были «ничьей территорией» между различными сложившимися науками.» Норберт Винер «Кибернетика, или Управление и связь в животном и машине»

19 Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода для решения задач классификации и аппроксимации» XIII Всероссийский семинар «Нейроинформатика и ее приложения» 7-9 октября, 2005г., Красноярск Спасибо за внимание!