Автор: студент группы С-83 Потапенко Владимир Москва 2012 г.

Искусственные нейронные сети 2 Искусственными нейронные сети (ИНС) - это вычислительные структуры, которые моделируют простые биологические процессы, ассоциируемые с процессами человеческого мозга. Элементарным преобразователем в данных сетях является искусственный нейрон или просто нейрон, названный так по аналогии с биологическим прототипом. Термин «нейронные сети» сформировался к середине 50-х годов XX века. Основные результаты в этой области связаны с именами : У. Маккалоха Д. Хебба Ф. Розенблатта М. Минского Дж. Хопфилда

Искусственные нейронные сети 3 Структура биологического нейрона сома ядро синапс аксон дендрит

Искусственные нейронные сети 4 Структура искусственного нейрона W1W1 ……Wi……Wn × × × f X1X1 XiXi XnXn b s y Математическая модель нейрона w i - вес (weight) синапса b - значение смещения (bias) s - результат суммирования (sum) x i - компонент входного вектора (входной сигнал) у – выходной сигнал нейрона n - число входов нейрона f - нелинейное преобразование (функция активации)

Искусственные нейронные сети 5 Математическая модель нейрона Синоптические связи бывают: возбуждающие (w > 0) тормозящие (w < 0) Описанный вычислительный элемент можно считать упрощенной математической моделью биологических нейронов. Чтобы подчеркнуть различие нейронов биологических и искусственных, вторые иногда называют нейроноподобными элементами или формальными нейронами.

Искусственные нейронные сети 6 Математическая модель нейрона Примеры функций активации f(s): Логистическая функция или сигмоид (нелинейная функция активации с насыщением) является одной из наиболее распространенной. Производная сигмоида: f = a f(s) [1-f(s)] Свойства логистической функции: Дифференцируема на всей оси абсцисс Усиливает слабые сигналы лучше, чем большие Предотвращает насыщение от больших сигналов

Искусственные нейронные сети 7 Классификация нейронных сетей и их свойства Нейронная сеть – это совокупность нейроподобных элементов, определенным образом соединенных друг с другом и с внешней средой с помощью связей, определяемых весовыми коэффициентами. В зависимости от функций, выполняемых нейронами в сети, можно выделить три их типа: входные нейроны выходные нейроны промежуточные нейроны

Искусственные нейронные сети 8 Классификация нейронных сетей и их свойства С точки зрения топологии можно выделить три основных типа нейронных сетей: полносвязные многослойные или слоистые слабосвязные (с локальными связями) 4 связи – окрестность фон Неймана 6 связей – окрестность Голея 8 связей – окрестность Мура

Искусственные нейронные сети 9 Классификация нейронных сетей и их свойства Известные нейронные сети можно разделить по типам структур нейронов на: гомогенные (однородные) гетерогенные Также различают нейронные сети: бинарные аналоговые Еще одна классификация делит нейронные сети на: синхронные асинхронные

Искусственные нейронные сети 10 Выбор структуры нейронной сети Выбор структуры нейронной сети осуществляется в соответствии с особенностями и сложностью задачи. Для решения отдельных типов задач уже существуют оптимальные конфигурации. Если же задача не может быть сведена ни к одному из известных типов, приходится решать сложную проблему синтеза новой конфигурации. При этом необходимо руководствоваться следующими основными правилами: возможности сети возрастают с увеличением числа нейронов сети, плотности связей между ними и числом слоев; введение обратных связей наряду с увеличением возможностей сети уменьшает динамическую устойчивость сети; сложность алгоритмов функционирования сети, введение нескольких типов синапсов способствует усилению мощности нейронной сети.

11 Искусственные нейронные сети