Лекция 7: Метод потенциальных функций Предположим, что требуется разделить два непересекающихся образа V1 и V2. Это значит, что в пространстве изображений существует, по крайней мере, одна функция, которая полностью разделяет множества, соответствующие образам V1 и V2. Эта функция должна принимать положительные значения в точках, соответствующих объектам, принадлежащим образу V1, и отрицательные в точках образа V2. В общем случае таких разделяющих функций может быть много, тем больше, чем компактней разделяемые множества. В процессе обучения требуется построить одну из этих функций, иногда в некотором смысле наилучшую..
Метод потенциальных функций связан со следующей процедурой. В процессе обучения с каждой точкой пространства изображений, соответствующей единичному объекту из обучающей последовательности, связывается функция, заданная на всем пространстве и зависящая от как от параметра. Такие функции называются потенциальными, так как они напоминают функции потенциала электрического поля вокруг точечного электрического заряда
(1) Обучающей последовательности объектов соответствует последовательность векторов в пространстве изображений с которыми связана последовательность,, … потенциальных функций, используемых для построения функций. По мере увеличения числа объектов в процессе обучения функция f должна стремиться к одной из разделяющих функций. В результате обучения могут быть построены потенциальные функции для каждого образа:
В качестве разделяющей функции f(X) можно выбрать функцию вида: (2) которая положительна для объектов одного образа и отрицательна для объектов другого. В качестве потенциальной функции рассмотрим функцию вида (3) где линейно независимая система функций; действительные числа, отличные от нуля для всех j = 1, 2, … ; точка, соответствующая i-му объекту из обучающей последовательности. В процессе обучения предъявляется обучающая последовательность и на каждом n-м такте обучения строится приближение характеризуется следующей основной рекуррентной процедурой: (4)
Разновидности алгоритмов потенциальных функций отличаются выбором значений и, которые являются фиксированными функциями номера n. Как правило,, а выбирается в виде: (5) где невозрастающие функции, причем (6) Коэффициенты представляют собой неотрицательную числовую последовательность, зависящую только от номера n. Кроме того, Например,
Разработано несколько вариантов алгоритмов потенциальных функций, различие между которыми состоит в выборе законов коррекции разделяющей функции от шага к шагу, т. е. в выборе коэффициентов. Приведем два основных алгоритма потенциальных функций. 1. Будем считать, что (нулевое приближение). Пусть в результате применения алгоритма после n-го шага построена разделяющая функция, а на (n+1)-м шаге предъявлено изображение, для которого известно действительное значение разделяющей функции. Тогда функция строится по следующему правилу: 2. Во втором алгоритме также принимается, что. Переход к следующему приближению, т. е. переход от функции к, осуществляется в результате следующей рекуррентной процедуры: где - произвольная положительная константа (7) (8)
Если в (3) принять и предположить, что может иметь только два значения 0 и 1, то в этом случае алгоритм потенциальных функций будет совпадать со схемой персептрона с индивидуальными порогами А-элементов и с коррекцией ошибок. Поэтому многие теоретические положения метода потенциальных функций могут быть успешно применены для анализа некоторых перцептронных схем. (9)