CC BY
146
Вычислительные технологии
Том 5, № 3, 2000
ОЦЕНКИ ПОГРЕШНОСТЕЙ СИГНАЛОВ В НЕЙРОННЫХ СЕТЯХ
М. Ю. СЕНАШОВА Институт вычислительного моделирования СО РАН
Красноярск, Россия e-mail: [email protected]
Neural networks with a layered structure formed by the layers of standard neurons are considered. Errors arising under the technical realization of networks, noise and damages are studied. Proceeding from the condition that the vector of the network output signals should be calculated with the given accuracy, allowable errors probable for the signals of each network element are determined. Two types of error assessment (guaranteed interval estimations and root-mean-square estimation of errors) are used. It is shown that the estimates of allowable errors can be obtained by a special process "back propagation of accuracy". This process consists in functioning of network with the same system of connections, but from outputs to inputs and with the replacement of elements on dual. This duality differs from the one used in the classical method of calculating estimation gradients (back propagation of errors).
Введение
Задача оценки точности вычислений актуальна с тех пор, как люди начали вычислять. Погрешности вычислений возникают из-за неточных входных данных, погрешностей, вносимых на отдельных этапах вычисления, погрешностей самих методов вычисления и др. Каждый раз, когда возникает новая область практики вычислений, вместе с ней появляется и необходимость оценивать погрешности этих вычислений.
Интерес к нейронным сетям переживает в настоящее время очередной подъем. Они являются удобным и достаточно простым инструментом для создания различных экспертных систем, решения задачи классификации, извлечения знаний из данных, управления в реальном времени и, кроме того, дают возможность высокопараллельных реализаций.
Рассматривая нейронную сеть как набор элементов, производящих некоторые вычисления над приходящими к ним данными, можно оценивать точность вычислений как для сети в целом, так и для каждого отдельного элемента. Для нейронной сети можно решать две задачи, относящиеся к оценке точности ее работы: прямую и обратную. Под прямой задачей понимается оценка погрешностей выходных сигналов сети, если заданы погрешности входных сигналов и погрешности элементов сети. В этом случае по сети пропускается конкретный набор реальных погрешностей и для них вычисляются конкретные
© М.Ю. Сенашова, 2000.
значения погрешностей выходных сигналов сети. При этом совершенно непонятно, как изменятся погрешности выходных сигналов, если немного изменить погрешности входных сигналов сети. Для каждого нового набора значений погрешностей входных сигналов требуется заново вычислять погрешности выходных сигналов сети. Наиболее близки к этой задаче методы оценки погрешностей счетно-решающих устройств на основе аналоговых элементов [1, 2].
Гораздо больший интерес представляет обратная задача. Под обратной задачей понимается оценка погрешностей внутренних сигналов сети, ее входных сигналов и весов синапсов по заданным погрешностям выходных сигналов сети. В этом случае задается интервал, в котором может изменяться допустимая погрешность выходных сигналов сети, и исходя из него вычисляются интервалы допустимых погрешностей внутренних и входных сигналов сети. При этом при любых значениях погрешностей из полученных интервалов погрешности выходных сигналов не превысят заданную. Ранее близкие идеи были использованы Дж. Уилкинсоном для анализа вычислительных алгоритмов линейной алгебры (Тьюринговская премия 1970 г.) [3].
В работе анализируются допустимые погрешности сигналов и параметров нейронной сети, решается обратная задача оценки погрешностей. Для ее решения создан метод обратного распространения точности. Он позволяет строить интервалы, в которых могут изменяться внутренние и входные сигналы сети при заданном интервале погрешностей выходных сигналов сети. При этом оценка допустимых погрешностей сигналов требует таких же вычислительных затрат, как и прямое функционирование нейронной сети.
1. Два базовых подхода к оценкам погрешности
Рассмотрим два подхода к решению задачи вычисления погрешностей сигналов сети. При первом подходе (гарантированные интервальные оценки) вычисляются допустимые интервалы для погрешностей сигналов сети такие, что погрешность вектора выходных сигналов гарантированно (с вероятностью 1) не превышает заданную. При втором подходе (среднеквадратические оценки погрешностей) вычисляются среднеквадратические отклонения погрешностей сигналов. При этом часто используется предположение о том, что погрешности различных сигналов являются независимыми случайными величинами.
Существует принципиальное различие между этими двумя типами оценок. Гарантированные интервальные оценки исходят из рассмотрения наихудших возможных случаев, сколь бы малой ни была их вероятность. Поэтому они, как правило, завышают реально имеющую место ошибку и слишком пессимистичны с практической точки зрения. Среднеквадратичные оценки, наоборот, стирают возможные большие уклонения и могут оказаться слишком оптимистичными.
Важное различие между двумя типами оценок демонстрируют следующие формулы сложения.
1. Формула сложения для интервальных оценок. (Подробнее об интервальной арифметике и анализе см. в [4].) Пусть для двух величин х, у определены гарантированные интервалы значений: х = Хо ± ах, у = уо ± ау. Тогда для их суммы имеем гарантированную оценку: х + у = Хо + уо ± (Ах + Ау), т. е. Ах+у = Ах + Ау.
2. Формула сложения для среднеквадратических оценок. Пусть для двух независимых величин х, у определены среднеквадратические уклонения ах, ау. Тогда ах+у = (аХ+о"У)1/2.
2. Структура сети
Предполагаем, что сеть имеет слоистую структуру. Это самоограничение позволит несколько сократить изложение, но не влияет на общность рассмотрения — исследование любой сети может быть формально сведено к изучению слоистых сетей.
Сеть слоистой структуры состоит из слоев стандартных нейронов, связанных между собой синапсами с весами, полученными при обучении. Причем сигналы передаются только в одном направлении, с предыдущего слоя на следующий. Под стандартным нейроном [5, 6] понимается набор элементов, состоящий из адаптивного сумматора, нелинейного преобразователя и точки ветвления (рис. 1).
Так как мы имеем дело с сетями слоистой структуры, состоящими из слоев стандартных нейронов, то выходные сигналы одного слоя являются входными сигналами другого слоя. В свою очередь, внутри самого стандартного нейрона выходной сигнал одного элемента (например, сумматора) является входным сигналом другого элемента (например, нелинейного преобразователя). Таким образом, можно проследить, начиная с выходных сигналов сети, от какого элемента сети пришел сигнал к данному элементу.
Стандартный нейрон является типичным участком любой нейронной сети. Поэтому достаточно выяснить, как вычисляются допустимые погрешности для элементов стандартного нейрона. В результате получим возможность вычислить допустимые погрешности для любого участка сети, двигаясь по сети от нейрона к нейрону.
Рис. 1. Стандартный нейрон.
3. Метод обратного распространения точности для гарантированных интервальных оценок
Рассмотрим обученную нейросеть с вычисленными весами синапсов. Считаем, что погрешности входных сигналов, внутренних сигналов сети и элементов отсутствуют. При векторе входных сигналов {х1П} получаем вектор выходных сигналов |у°и*}. Вектор |у°и*} и внутренние сигналы сети х^ будем называть точным вектором выходных сигналов и точными сигналами сети.
Возьмем теперь эту же сеть, но предположим, что все сигналы сети имеют некоторые погрешности. Пусть нам заданы допустимые погрешности вычислений для выходных сигналов сети. Для каждого элемента решим задачу: определить допустимые погрешности на входе элемента по заданным максимально допустимым погрешностям на его выходе. Если эту задачу решить для каждого элемента сети, то можно оценить допустимые погрешности для всех сигналов, проходящих через сеть, переходя по сети от элемента к элементу в обратном направлении (от выходов сети к ее входам). Этот процесс назовем обратным распространением точности. В ходе него движение сигналов происходит
от выходов ко входам, сигнал, проходящий по связи в обратном направлении, является допустимой погрешностью сигнала, проходящего по этой связи в прямом направлении. Перейдем непосредственно к оценке допустимых погрешностей сигналов элементов стандартного нейрона.
Последним элементом стандартного нейрона является точка ветвления, поэтому начинаем рассмотрение метода обратного распространения точности именно с нее.
Пусть точка ветвления имеет k выходов. Для каждого ее выхода задана допустимая погрешность е^ (i — номер выхода). Для того, чтобы удовлетворить всем этим ограничениям погрешности, необходимо и достаточно, чтобы входной сигнал точки ветвления имел погрешность е, не превышающую минимум погрешностей выходных сигналов точки ветвления:
е < ш1п(ег}к=1. (1)
Таким образом, при обратном распространении точности точка ветвления заменяется на двойственный элемент, выбирающий из поступающих сигналов е^ (т. е. погрешностей) минимальный (рис. 2).
Следующим элементом стандартного нейрона является нелинейный преобразователь. Предполагаем, что функция активации нелинейного преобразователя строго монотонна и дифференцируема. Пусть точный входной сигнал нелинейного преобразователя равен A, ^ — его функция активации, y = <^(A) — выходной сигнал и е1 — допустимая погрешность выходного сигнала. Вычислим максимальную погрешность е входного сигнала нелинейного преобразователя, т. е. найдем отрезок [A —е, A+е] такой, что для любого x £ [A — е, A+е] y = <^(x) отличается от y = <^(A) не более, чем на е1 : |y — y| < е1.
Ввиду строгой монотонности и дифференцируемости функции активации нелинейного преобразователя имеем:
е < е1/шах |^'(x)|, (2)
где x £ [^-1(y — е1), ^-1(y + е1)].
Пойдем традиционным путем, оценивая допустимую погрешность в линейном приближении: <^(A±е) ~ <^(A)±<^'(A) ■ е. По условию е1 > |^(A±е) — <^(A)| « |^'(A) ■ е|. Пользуясь этим неравенством, оцениваем е следующим образом:
е < е1 /|^'(A)|. (3)
В этом случае формула для вычисления допустимой погрешности более простая, но менее точная (рис. 3).
Получили погрешность, допустимую для входного сигнала нелинейного преобразователя, которая одновременно является допустимой погрешностью для выходного сигнала сумматора. Аналогично можем вычислить погрешность входного сигнала нелинейного преобразователя любого стандартного нейрона, если известна погрешность его выходного сигнала.
Перейдем к следующему элементу стандартного нейрона — адаптивному сумматору с n синапсами, являющимися его входами. Адаптивный сумматор — это сумматор, в котором входные сигналы x^ суммируются с весами а.
Каждый вход xi сумматора Е имеет некоторую погрешность е^ которая вносит свой вклад в допустимую погрешность е выходного сигнала сумматора. Эти погрешности могут иметь различные величины в зависимости от того, какой способ распределения допустимой погрешности выходного сигнала по входам сумматора мы выберем. Погрешности по входам сумматора могут распределяться равномерно, пропорционально и приоритетно.
Рис. 2. Элемент, двойственный точке ветвления.
Рис. 3. Элемент, двойственный нелинейному преобразователю.
Рассмотрим сначала равномерное распределение. Для этого полагаем, что на всех входах погрешности равны между собой (ei = e^i = 2, ..., n). Пусть A = ^™=i а • x — выходной сигнал сумматора без погрешностей. Тогда {A'} — множество выходных сигналов сумматора, получающихся, когда вектор входных сигналов сумматора пробегает вершины n-мерного куба с центром в точке (x1,x2, ..., xn) и ребром длины 2e1 : {A'} = ^n=1 а* • (x ± £i) = X)i=1 а • X + n=1 а* • (±£i) = A + Х)п=1 а* • e* • z*, где z* e {-1,1}. Нам требуется, чтобы все множество значений {A'} попало в интервал [A — e, A + e]. Для этого необходимо, чтобы max | ^П=1 а* • £г • z*| = ^П=1 || • ег < e , где максимум берется по всем z*. Из этого неравенства и сделанного выше предположения о ег получаем требуемую оценку для равномерного распределения ег по входам сумматора:
n
£г < e/£ |аг|. (4)
¿=1
При пропорциональном распределении погрешностей допустимая погрешность выходного сигнала сумматора делится сначала на число входов, а затем для каждого входа делится на соответствующий вес синапса, т. е. погрешности распределяются пропорционально весам синапсов. Формула расчета допустимой погрешности для каждого входа сумматора имеет вид
e* = e/(n • Ы), (5)
где e — допустимая погрешность выходного сигнала сумматора, n — число входов сумматора, а* — веса синапсов соответствующих входов сумматора. В этом случае для каждого входа сумматора погрешность e* имеет свое значение.
На рис. 4 показано вычисление допустимых погрешностей входных сигналов адаптивного сумматора для равномерного и пропорционального распределения.
ч—-
3
Рис. 4. Элемент, двойственный адаптивному сумматору. 1 — для равномерного распределения
n
£г = £/ S |а|, 2 — для пропорционального распределения е = е/(п • |). i=1
При приоритетном распределении погрешностей по входам сумматора сначала назначаются величины погрешностей е для тех входов, которые наиболее значимы по какому-
либо признаку. Причем назначенные погрешности е^, умноженные на а и просуммированные, должны быть меньше е, т. е. ^^ |а^| • е^ < е. Затем оставшуюся часть допустимой погрешности выходного сигнала сумматора (е — ^^ |а^| • е^) распределяют между оставшимися входами равномерно или пропорционально.
Аналогично можно вычислить допустимые погрешности для входных сигналов сумматора любого стандартного нейрона, если известны погрешности для выходного сигнала сумматора.
При обратном распространении точности имеет место специфическая двойственность — элементы сети заменяются на двойственные им. Однако эта двойственность отличается от той, с которой мы встречаемся при изучении обратного распространения ошибки для вычисления градиентов функции оценки. Так, если в обычном обратном распространении двойственным элементом к точке ветвления является простой сумматор, то при обратном распространении точности вместо него, как было показано, появляется элемент, вычисляющий минимум приходящих на него сигналов. Нелинейный преобразователь при обратном распространении точности заменяется двойственным ему элементом, умножающим сигнал на число. Но если при обратном распространении ошибки множителем является значение градиента, то в нашем случае сигнал умножается на величину, обратную производной от входного сигнала нелинейного преобразователя. Адаптивный сумматор также заменяется двойственным ему элементом. Этот элемент является своеобразной точкой ветвления. Однако в отличие от простой точки ветвления он сначала преобразует приходящий к нему сигнал в соответствии с выбранным распределением погрешностей по входам адаптивного сумматора, а затем передает полученные сигналы дальше.
В табл. 1 показаны элементы стандартного нейрона и двойственные им элементы для обратного распространения ошибки и обратного распространения точности.
Зная, как вычисляются допустимые погрешности для элементов стандартного нейрона, можно вычислить допустимые погрешности сигналов для всей сети. Рассмотрим участок сети, состоящий из сумматора Е0 и нелинейного преобразователя, результатом работы которого является выходной сигнал у, а также из сумматоров Е^ и нелинейных преобразователей, выходные сигналы которых являются входными сигналами сумматора Е0 (рис. 5). Иначе говоря, мы рассматриваем два последних слоя нейронной сети, состоящие из стандартных нейронов.
Если заданы допустимые погрешности для выходных сигналов сети, то можно вычислить допустимые погрешности для элементов стандартных нейронов последнего слоя сети. Когда вычислены допустимые погрешности всех входных сигналов последнего слоя сети, переходим к вычислению допустимых погрешностей предпоследнего слоя, и т. д. Переходя по сети в обратном направлении от слоя к слою, мы можем вычислить допустимые погрешности всех сигналов сети, в том числе допустимые погрешности входных сигналов.
Рассмотрим пример на рис. 6. Пусть дана сеть с тремя нейронами входного слоя, двумя нейронами скрытого слоя и одним нейроном выходного слоя. На рисунке показаны сигналы, проходящие по сети при данном векторе входных сигналов, и веса связей. Характеристическая функция нелинейных преобразователей имеет вид: <^(х) = х/(0.1 + |х|), где х — входной сигнал нелинейного преобразователя. Допустимая погрешность выходного сигнала сети 8 = 0.01. Допустимые погрешности входных сигналов сумматора вычисляются с использованием формулы для равномерного распределения допустимых погрешностей.
Вычислим допустимые погрешности для всех сигналов сети при данном векторе входных сигналов. Все вычисленные значения в этом примере округляются до четырех знаков после запятой:
Таблица 1
Поэлементное представление принципа двойственности для обратного распространения ошибки и обратного распространения точности
Рис. 5. Участок нейронной сети.
8 0.01 0.0165
ех = !—г-р-т =-= 0.0165, е2 = е3 =-= 0.0175;
1 |р'(Л)| 0.5949 ' 2 3 0.29 + 0.66 '
0.0175 0.0175 0.2178
е4 =-= 0.2178, е5 =-= 0.0989, е6 =-= 0.0793;
4 0.0797 ' 5 0.1778 ' 6 0.8 + 0.96 + 0.99
0.0989
е7 = п ол . п ~ , п 0 = 0.0533, ее = ед = ею = шт|еб, ег} = 0.0533; 0.34 + 0.7 + 0.8
0.0533 0.0533 0.0533
еи = —-= 0.0297, ех2 =-= 0.0052, е^ =-= 0.0005;
11 1.7361 ' 12 9.8029 ' 13 0.625 '
0.0297 0.0052
ем =-= 0.0329, ех5 =-= 0.0086;
14 0.56 + 0.01 + 0.33 ' 1 0.39 + 0.7 + 0.14
0.0005
е'б = 0.44 + 0.24 +0.34 =а°°05-
Рис. 6. Пример нейронной сети.
На рис. 7 показаны вычисленные допустимые погрешности всех сигналов сети для данного примера. Здесь е^ — верхние границы интервалов [—е^, е^], в которых могут изменяться допустимые погрешности сигналов сети.
4. Гарантированные интервальные оценки для элементов сети с собственными погрешностями
Мы рассмотрели, как изменяются погрешности сигналов при прохождении через элементы сети, не выделяя особо тот вклад, который вносят в погрешности сигналов сами элементы. Предположим теперь, что все элементы сети передают приходящие к ним сигналы с некоторыми погрешностями. Пусть собственные погрешности элементов известны и фиксированы. Выясним, как влияют собственные погрешности элементов на погрешности сигналов.
Рис. 7. Гарантированные интервальные оценки допустимых погрешностей сигналов сети.
Определим, как функционируют элементы стандартного нейрона, имеющие собственные погрешности, при прямой работе сети. Начнем вычисление допустимых погрешностей сигналов сети с учетом собственных погрешностей элементов с точки ветвления. Точка ветвления либо может вообще не иметь погрешности, либо имеет собственную погрешность е^. В последнем случае сигнал х при прохождении через точку ветвления будет изменяться следующим образом: х ± е^ (рис. 8).
Пусть точка ветвления имеет собственную погрешность е^. Предположим, что допустимые погрешности выходных сигналов точки ветвления равны е1, е2, ..., . Для увеличения точности вычислений необходимо накладывать на допустимые погрешности наиболее жесткие требования. Поэтому допустимая погрешность входного сигнала точки ветвления е не должна превышать минимум погрешностей выходных сигналов точки ветвления без ее собственной погрешности:
е < тт{е*}к=1 - е^. (6)
Следующий элемент стандартного нейрона — нелинейный преобразователь. Обозначим через е^ собственную погрешность нелинейного преобразователя, через А — точный входной сигнал нелинейного преобразователя, через ^ — строго монотонную и дифференцируемую функцию активации. Собственная погрешность может добавляться или к выходному сигналу нелинейного преобразователя: ^>(А ± е) ± е^, или к его входному сигналу: ^(А ± е ± е^) (рис. 9).
Пусть собственная погрешность нелинейного преобразователя е^ добавляется к его
Рис. 8. Точка ветвления с собственными погрешностями.
Рис. 9. Нелинейный преобразователь с собственными погрешностями.
выходному сигналу. Если погрешность выходного сигнала нелинейного преобразователя равняется то допустимая погрешность входного сигнала нелинейного преобразователя ввиду дифференцируемости и строгой монотонности функции активации имеет вид:
£ < (£1 - <%)/max |^'(x)|, (7)
где x £ [^-1(y — (£1 — %)), ^-1(y + (£1 — %))], У = ^(A), или в линейном приближении
£ < (£1 — £^)/|^'(A)|, (8)
где A — точный входной сигнал нелинейного преобразователя. При этом необходимо, чтобы £<^ не превышало £1.
Предположим теперь, что собственная погрешность нелинейного преобразователя добавляется к его входному сигналу. Пусть при обратном распространении точности погрешность выходного сигнала нелинейного преобразователя равняется £1. Рассмотрим наихудший вариант, когда входной сигнал нелинейного преобразователя находится в интервале [A — £ — £^,A + £ + £^]. В этом случае допустимая погрешность входного сигнала нелинейного преобразователя вычисляется следующим образом:
£ < £1/max |^'(x)| — (9)
где x £ [^-1(y — £1) — ^-1(y + £1) + %], y = <p(A).
Так как мы рассматриваем наихудший вариант, то выбираем следующее линейное приближение функции в точке A: <^(A ± (£ + £^)) ~ <^(A) ± <^'(A) • (£ + £^). По условию необходимо, чтобы £1 > |^(A ± (£ + £^)) — <^(A)| « (A) • (£ + £^)|. Отсюда получаем: (£ + £^) < £1/|^'(A)|, или
£ < £1/HA)|— %• (10)
И, наконец, перейдем к вычислению допустимых погрешностей входных сигналов сумматора. Собственная погрешность сумматора может добавляться двумя способами:
1 — погрешность прибавляется к выходному сигналу сумматора, т. е. при прохождении сигналов Xj через сумматор выходной сигнал сумматора будет иметь вид: ™=1 а • (xj ± £i) ± £s;
2 — погрешность сумматора распределяется по каждому входу: У]j==1 а • (xj ± £ ± £^). Считаем при этом, что погрешности равны между собой (рис. 10).
Рассмотрим первый вариант, при котором собственная погрешность сумматора добавляется к его выходному сигналу и допустимая погрешность выходного сигнала сумматора равняется £. Максимальный интервал, в котором может находиться общая погрешность выходного сигнала сумматора, равен [—£ — £ + £е]. Минимальный интервал для общей погрешности равен [—£ + ; £ — £^]. Для увеличения точности вычислений будем рассматривать минимальный интервал. Тогда формула для равномерного распределения допустимых погрешностей по входам сумматора имеет вид
п
£i < (£ — £e)/J] Ы- (11)
i=1
Х-| ± 8-| ■ Л2 ±82"
а-| 2 2/liaj ■ (х,- ± er)± e2
a 2
* a п „
Х-| ±8-| ±S2
хп ±8/ ±е2
a -I S"=1a±s/ ±8^
a 2 . v
<xn
Рис. 10. Адаптивный сумматор с собственными погрешностями.
Для пропорционального распределения допустимых погрешностей по входам сумматора получаем формулу
е < (е - еЕ)/(п • |а«|). (12)
Приоритетно погрешности входных сигналов сумматора распределяются тем же способом, который был описан выше, но с использованием формул (11) или (12).
Пусть теперь имеет место второй вариант, т. е. собственная погрешность сумматора пропорционально распределяется по его входам и допустимая погрешность выходного сигнала сумматора равняется е. Рассмотрим равномерное распределение допустимых погрешностей по входам сумматора. Пусть A = n=i ai • X — выходной сигнал сумматора без погрешностей. Тогда (A'j — выходные сигналы сумматора с учетом собственных погрешностей сумматора е^ и погрешностей входных сигналов е^
n n n n
(A'l = a • (Xi ± ei ± е*Е) = a • Xi + ^2 a • (±ei) + ai • (±е*Е) = i=i i=1 i=1 i=1
nn
= a + ai • ei • Zi + a • es • Z, i=i i=i
где zi £ {-1, 1}. Для того чтобы каждый элемент множества |A'} попал в интервал [A — е, A + е], необходимо выполнение следующего неравенства:
n n n n
max | ai • ei • z + ai • е^ • z| = |ai| • ei + |a»| • е^ < е, i=i i=i i=i i=i
где максимум берется по всем zi. Из этого неравенства, предполагая, что е,; равны между собой, получаем требуемую оценку для е^;:
nn
е < (е — е'Е |)/£ |ai(13)
i=i i=i
Перейдем к пропорциональному распределению допустимых погрешностей. Нам требуется, чтобы максимальный из возможных интервалов погрешностей каждого входного сигнала сумматора (т.е. интервал [—е.; — е^; е.; + е^]) не превышал интервал погрешности выходного сигнала сумматора, деленный на число входов и на модуль соответствующего веса синапса, т. е.
^ + е*Е < е/(n • |ai|).
Отсюда получаем, что погрешность непосредственно входного сигнала сумматора
е < е/(n •lai|) — е^. (14)
Приоритетно погрешности входных сигналов сумматора распределяются тем же способом, который был описан выше, но с использованием формул (13) или (14).
Мы получили формулы для вычисления допустимых погрешностей сигналов для любого участка сети с учетом того, что все элементы стандартного нейрона имеют собственные погрешности, которые вносят свой вклад в погрешность выходного сигнала этих элементов.
5. Анализ реализуемости сетей с собственными погрешностями элементов для гарантированных интервальных оценок
Ранее был рассмотрен метод обратного распространения точности с учетом собственных погрешностей элементов сети. Но этот метод может быть использован не для всех сетей. При применении метода может возникнуть ситуация, когда собственная погрешность элемента превышает погрешность сигнала, который должен выходить из этого элемента. Например, если собственная погрешность нелинейного преобразователя е^, которая добавляется к его выходному сигналу, превышает допустимую погрешность его выходного сигнала е^ то по формуле (8): е < (£1 — е^)/|^'(А)|, где е — погрешность входного сигнала нелинейного преобразователя, получаем отрицательную погрешность. Отрицательные погрешности в методе обратного распространения точности не имеют смысла, так как мы рассматриваем допустимую погрешность как верхнюю границу интервала, в котором может изменяться погрешность. То же самое можно сказать относительно точки ветвления и сумматора. В случае получения отрицательной погрешности метод обратного распространения точности применяться не может. В такой ситуации допустимые погрешности нужно распределять специальным образом.
Чтобы проверить, возможно ли вычислить допустимые погрешности для сети с заданными собственными погрешностями элементов, необходимо выполнить прямое функционирование сети для всех примеров из обучающей выборки. Если хотя бы для одного из примеров получившаяся погрешность выходного сигнала сети будет отличаться от точного выходного сигнала для этого примера более, чем на заданную допустимую погрешность то для сети с такими собственными погрешностями элементов нельзя распределить допустимые погрешности сигналов до конца. В каком-нибудь месте мы обязательно попадем в ситуацию, когда собственная погрешность элемента будет превышать допустимую погрешность его выходного сигнала. Причем такая ситуация будет возникать при любом способе распределения погрешностей.
Если же для всех примеров из обучающей выборки выходные сигналы сети с заданными собственными погрешностями отличаются от точных выходных сигналов не более, чем на то мы можем распределить допустимые погрешности вплоть до входных сигналов сети.
Определим, как вычислять допустимые погрешности сигналов, если это невозможно сделать напрямую, при помощи полученных выше формул.
Для точки ветвления и нелинейного преобразователя формулы вычисления допустимых погрешностей сигналов методом обратного распространения точности заданы жестко. Единственным элементом сети, который позволяет влиять на ситуацию, является сумматор. Для сумматора возможны три варианта распределения допустимых погрешностей по
его входам, в том числе приоритетное. При приоритетном распределении можно назначать погрешности для тех входов, для которых собственная погрешность элемента превышает погрешность выходного сигнала.
Если на каком-то из элементов (нелинейный преобразователь, точка ветвления или сумматор) собственная погрешность элемента превышает допустимую погрешность его выходного сигнала, то возвращаемся к тому сумматору, чьим входным сигналом является выходной сигнал данного элемента. Для этого сумматора распределяем допустимые погрешности по его входам таким образом, чтобы можно было вычислить допустимую погрешность входного сигнала того элемента, который нас интересует.
При этом желательно оптимально распределить допустимые погрешности по входам сумматора. Каждый входной сигнал сумматора одновременно является выходным сигналом элементов предыдущего слоя. Поэтому следует распределять допустимые погрешности входных сигналов сумматора так, чтобы они, по возможности, на одинаковую величину превышали собственные погрешности элементов предыдущего слоя. Остановимся подробно на том, как получить такое распределение допустимых погрешностей.
Рассмотрим участок сети между двумя сумматорами Е^ и Е, где Е^ и Е — сумматоры двух соседних слоев (рис. 11), причем выходной сигнал сумматора Е^ приходит на г-й вход сумматора Е. Пусть е — погрешность выходного сигнала сумматора Е, А — точный выходной сигнал сумматора и, одновременно, входной сигнал нелинейного преобразователя.
Собственные погрешности элементов, как было показано в предыдущем разделе, могут добавляться либо к входным сигналам элементов, либо к их выходным сигналам. Предположим сначала, что собственные погрешности элементов добавляются к выходным сигналам этих элементов, т. е. погрешность входного сигнала нелинейного преобразователя вычисляется по формуле (8): е < (е1 — е^)/|^'(А)|, а для точки ветвления погрешность входного сигнала определяется по формуле (6): е < тт{ег}к=1 — е^.
Для каждого входа сумматора Е вычислим такие допустимые погрешности, которые позволили бы провести вычисления допустимых погрешностей для точки ветвления, нелинейного преобразователя и сумматора Е^ предыдущего слоя. При этом допустимая погрешность выходного сигнала сумматора Е^ должна превышать его собственную погрешность. Это дает возможность вычислить допустимые погрешности для слоя, предшествующего сумматору Е^
Рис. 11. Участок сети между сумматорами двух соседних слоев.
Обозначим собственную погрешность сумматора Ej через е^, собственную погрешность нелинейного преобразователя через е^ и собственную погрешность точки ветвления через etv.
Погрешность epart, которая придет к i-му входу сумматора E при прямом функционировании сети, начиная от выходного сигнала сумматора Ej вычисляется по следующей формуле:
еГ = >'(A)| + % + etv. (15)
Затем вычисляем допустимые погрешности ej для входов сумматора E при пропорциональном и равномерном распределении. Если хотя бы для одного из этих распределений
part _
по каждому входу ej < ej, то можно продолжать вычисления для подходящего распределения входных сигналов, используя метод обратного распространения точности с учетом собственных погрешностей элементов сети. Если же для обоих распределений хотя бы
part
по одному входу ej > ej, то следует распределять допустимые погрешности по входам сумматора E следующим образом.
Если сумма с коэффициентами aj погрешностей epart меньше допустимой погрешности
n part n part
выходного сигнала (т. е. j=i |aj| ■ ej < е), то вычисляем разность |aj| ■ ej — е. Эту
разность — оставшуюся часть допустимой погрешности выходного сигнала сумматора е распределяем равномерно по всем входам, чтобы допустимые погрешности входов превышали погрешности элементов на одну и ту же величину Тогда У]j=1 |aj| ■ (epart + £) = е
n part n
и, следовательно, £ = (е — ¿Jj=1 |aj| ■ ej )/ ¿Jj=1 |aj|.
Допустимые погрешности входных сигналов сумматора будут равны ej = epart + Пусть теперь собственные погрешности элементов добавляются к их входным сигналам. Как было показано для соответствующего случая в разделе 4, допустимая погрешность е входного сигнала нелинейного преобразователя при этом вычисляется по формуле (10): е < e1/|^'(A)| — е^. Собственная погрешность сумматора Ej равна |aj| ■ е^.. До-
пустимая погрешность точки ветвления вычисляется, как и выше: е < min{ej}k=1 — etv. Тогда погрешности epart вычисляются по формуле
part
-
j=1
= | е^^ |«j| — е J ■ |^'(A)| + . (16)
Остальные вычисления для допустимых погрешностей ej входных сигналов сумматора E проводятся аналогично.
Мы выяснили, как вычисляются погрешности epart для элементов, находящихся между сумматорами двух соседних слоев, т.е. локальные погрешности epart. Вычисление локальных погрешностей не совсем удобно, так как при обнаружении элемента, чья собственная погрешность превышает допустимую погрешность его выходного сигнала, придется возвращаться через слой к сумматору, допустимые погрешности которого уже распределены. Нужно будет распределять их по-новому, с учетом этого найденного элемента. Каждый вновь найденный элемент будет вызывать такие "волны" пересчета уже распределенных допустимых погрешностей. Причем эти "волны" могут доходить вплоть до выходного слоя сети.
Этого неудобства можно избежать, если вычислять погрешности epart для всей сети
part
сразу. При этом погрешности ej насчитываются начиная с входного слоя сети, в направлении прямого функционирования. Когда вычислены погрешности epart для первого слоя сети по формулам (15) или (16), они суммируются своими сумматорами с соответствующими весами aj. Дальше вычисляются погрешности epart следующего слоя и т.д. После
part „ f
того, как вычислены погрешности е\ для всей сети, обратным распространением по сети вычисляются допустимые погрешности сигналов. При этом погрешности сигналов сети вычисляются один раз и не требуется делать пересчет.
Таким образом, мы рассмотрели как распределяются допустимые погрешности сигналов для сетей с собственными погрешностями элементов. Используется встречное рас-
part
пространение погрешностей е\ , которые насчитываются при прямом функционировании сети, и допустимых погрешностей сигналов, которые вычисляются в обратном направлении.
6. Среднеквадратические оценки погрешностей сигналов сети
Рассмотрим обученную нейросеть с вычисленными весами синапсов а^. Считаем, что погрешности входных сигналов, внутренних сигналов сети и элементов отсутствуют. При заданном векторе входных сигналов {xin} получаем вектор выходных сигналов {yout}. Вектор {yout} и внутренние сигналы сети xi будем называть точным вектором выходных сигналов и точными сигналами сети.
Рассмотрим теперь эту же сеть, но предположим, что все сигналы сети имеют некоторые погрешности. Пусть {у'} — вектор выходных сигналов, полученный при том же векторе входных сигналов {xin}, но с погрешностями внутренних сигналов сети.
Предполагаем, что внутри каждого слоя погрешности сигналов ei являются независимыми случайными величинами. Это предположение позволяет налагать менее жесткие требования при вычислении погрешностей сигналов.
Пусть нам задана 8 — допустимая погрешность выходных сигналов сети, т. е. вектор {у'} может отличаться от вектора {yout} не более, чем на 8. Будем считать 8 величиной среднеквадратического отклонения aout выходных сигналов сети {у'}.
Выясним, каким образом могут распределяться дисперсии сигналов при заданном aout, и вычислим среднеквадратические отклонения ai = л/Di, где Di — дисперсии сигналов, для всех сигналов сети такие, чтобы среднеквадратическое отклонение вектора выходных сигналов {у'} равнялось aout.
Зная среднеквадратическое отклонение выходных сигналов, мы можем вычислить дисперсию выходных сигналов Dout = a^ut, а затем, переходя от элемента к элементу в обратном порядке, вычислим дисперсии Di и среднеквадратические отклонения ai = VD для всех сигналов сети.
Выясним, как вычисляются среднеквадратические отклонения для входных сигналов точки ветвления, нелинейного преобразователя и сумматора, если нам известны средне-квадратические отклонения погрешностей выходных сигналов этих элементов.
Начнем с точки ветвления. Если дисперсии выходных сигналов точки ветвления Di, D2, ..., Dk при обратном распространении не равны между собой, то в качестве дисперсии входного сигнала точки ветвления выбирается
D = min{Di}ti. (17)
Следующий элемент стандартного нейрона — нелинейный преобразователь. Обозначим через а1 среднеквадратическое отклонение погрешности выходного сигнала нелинейного преобразователя, вычисленное при обратном распространении точности.
Пусть нелинейный преобразователь имеет строго монотонную и дифференцируемую функцию активации ^ и точный входной сигнал А. Рассмотрим линейное приближение функции активации ^ в точке А. Линейное приближение имеет вид: <^(А ± е) ~ <^(А) ± <^'(А)е. Найдем дисперсию величины <^(А ± е):
« В(р(А) ± р'(А)е) = В(р(А)) + В(±р'(А)е) = </(А)2о2.
С другой стороны, известно, что дисперсия выходного сигнала нелинейного преобразователя равна о"2 : а2 = ^'(А)2а2. Отсюда получаем
а = А (18)
Таким образом, вычислено среднеквадратическое отклонение погрешности входного сигнала нелинейного преобразователя для любого распределения погрешности входного сигнала е.
Перейдем теперь к сумматору. Среднеквадратическое отклонение погрешности входного сигнала нелинейного преобразователя о одновременно является среднеквадратическим отклонением погрешности выходного сигнала сумматора У]™=1 а • (ж ± е*) с погрешностями входных сигналов е*. Погрешность выходного сигнала сумматора равняется
n
, а ■ (±£i
i=1 i=1 i=1
У^ «г ■ (X ± £г) - ^ а ■ Xi = ^ « ■ (±^г),
En „
i=i « ■ x — точный выходной сигнал сумматора. Рассмотрим равномерное распределение допустимых погрешностей по входам сумматора.
Вычислим среднеквадратические отклонения аг входных сигналов сумматора. Рассмотрим для этого дисперсию погрешности выходного сигнала сумматора
n
« • (±= а2.
D ■ (±£i)
\г=1
Предположим дополнительно, что аг равны между собой:
/ n \ n n n
D ■ (±£i) =£ D(±« ■ « ■ De* = a2 J]
,г=1 /г=1 г=1 ¿=1
С другой стороны, мы знаем, что среднеквадратическое отклонение погрешности входного сигнала сумматора равно а2. Отсюда получаем
о* = ° - (19)
л/Ё
n 2 n=1 «
формулу для равномерного распределения среднеквадратических отклонений о* по входам сумматора.
Если теперь рассмотрим дисперсию обеих частей формулы (5) для пропорционального распределения погрешностей, то получим формулу для вычисления пропорционального распределения среднеквадратических отклонений погрешностей по входам сумматора:
2 / е \ о2
о*2 = В(е*) = В
п|«|/ n2«2
Отсюда
о = (20)
Кроме равномерного и пропорционального распределения среднеквадратических отклонений погрешностей по входам сумматора, может быть использовано приоритетное распределение среднеквадратических отклонений. Дисперсия погрешности выходного сигнала сумматора складывается из дисперсий погрешностей его входных сигналов, умноженных на квадраты соответствующих весов синапсов (т. е. а2 = ^2П=1 а2 ■ а2). При приоритетном распределении сначала назначаются дисперсии погрешностей для тех входов сумматора, которые наиболее значимы по какому-либо признаку. Сумма назначенных дисперсий, умноженных на соответствующие а2, должна быть меньше дисперсии погрешности выходного сигнала сумматора (т. е. ^2i а2 ■ а2 < а2). Оставшаяся часть а2 (а2 — ^2i а2 ■ а2) распределяется по остальным входам равномерно или пропорционально.
Зная, как вычисляются среднеквадратические отклонения погрешностей для всех элементов стандартного нейрона, можно вычислить среднеквадратические отклонения погрешностей сигналов для всей сети. При заданных среднеквадратических отклонениях погрешностей для выходных сигналов сети можно вычислить среднеквадратические отклонения погрешностей для последнего слоя сети. Когда вычислены среднеквадратиче-ские отклонения погрешностей всех входных сигналов последнего слоя сети, переходим к вычислению среднеквадратических отклонений погрешностей предпоследнего слоя и т. д.
Вернемся к сети, изображенной на рис. 6. Вычислим для этой сети среднеквадратиче-ские отклонения погрешностей ее сигналов при условии, что среднеквадратическое отклонение погрешностей вектора выходных сигналов сети = 0.01. Среднеквадратические отклонения погрешностей по входам сумматора вычисляются с использованием формулы для равномерного распределения среднеквадратических отклонений погрешностей. Считаем, что элементы сети не имеют собственных погрешностей.
Рис. 12. Среднеквадратические оценки погрешностей для сигналов сети.
Вычислим среднеквадратические отклонения для всех сигналов сети при данном векторе входных сигналов (все найденные значения в этом примере округляются до четырех
знаков после запятой):
о 1 = 0.0165, о 2 = о з = 0.032, 04 = 0.399, 05 = 0.1811, Об = 0.1575,
о7 = 0.1435, о8 = од = о1о = шт{о6, о7} = 0.1435, о11 = 0.08, о12 = 0.014, о13 = 0.0155, о14 = 0.1887, о15 = 0.077, о16 = 0.0042.
На рис. 12 показаны вычисленные среднеквадратические отклонения.
Таким образом, получены формулы вычисления среднеквадратических отклонений погрешностей сигналов сети при предположении, что погрешности являются независимыми случайными величинами.
7. Среднеквадратические оценки погрешностей для элементов сети с собственными погрешностями
Мы рассмотрели, как изменяются погрешности сигналов при прохождении через элементы сети, не выделяя особо тот вклад, который вносят собственные погрешности элементов. Предположим теперь, что не только сигналы имеют погрешности, но и все элементы сети передают приходящие к ним сигналы с некоторыми погрешностями. Пусть собственные погрешности элементов известны и фиксированы. Выясним, как влияют собственные погрешности элементов на погрешности сигналов.
Вычислим среднеквадратические отклонения входных сигналов точки ветвления, нелинейного преобразователя и сумматора, если известны среднеквадратические отклонения выходных сигналов и собственные погрешности этих элементов.
Начнем с точки ветвления. Пусть точка ветвления имеет собственную погрешность е^ и среднеквадратическое отклонение ее собственной погрешности равно о^. Собственная погрешность е^ добавляется к каждому сигналу, выходящему из точки ветвления.
Если вычисленные дисперсии выходных сигналов точки ветвления В1,В2, ..., В& не равны между собой, то в качестве дисперсии входного сигнала точки ветвления, с учетом собственной погрешности, выбирается минимум дисперсий выходных сигналов точки ветвления без дисперсии ее собственной погрешности:
В = ш1п{Вг}к=1 - о?у. (21)
Перейдем теперь к нелинейному преобразователю со строго монотонной и дифференцируемой функцией активации. Обозначим среднеквадратическое отклонение собственной погрешности нелинейного преобразователя через о^, а среднеквадратическое отклонение выходного сигнала нелинейного преобразователя через о1. Собственная погрешность нелинейного преобразователя е^ может добавляться либо к выходному сигналу нелинейного преобразователя: <^(А ± е) ± е^, либо к входному сигналу нелинейного преобразователя: <^(А ± е ± е<^). Рассмотрим оба варианта.
Пусть сначала погрешность е^ добавляется к выходному сигналу нелинейного преобразователя. Рассмотрим дисперсию
В((р(А ± е) ± е„) = В(р(А ± е)) + В(±е„) = о02„п + = о2.
Отсюда получаем, что дисперсия выходного сигнала нелинейного преобразователя без учета собственной погрешности элемента о^п = о2 — о2.
Среднеквадратическое отклонение для входного сигнала нелинейного преобразователя вычисляется, как указано выше. Но в качестве дисперсии выходного сигнала используется вычисленная дисперсия о0„п = о"2 — о2. Среднеквадратическое отклонение погрешности входного сигнала нелинейного преобразователя будет вычисляться по формуле
о = (22)
Пусть теперь собственная погрешность нелинейного преобразователя добавляется к его входному сигналу: ± е ± е^). Будем полагать, что погрешность входного сигнала имеет дисперсию В(±е ± е^) = о2 + о2.
Вычислим погрешность выходного сигнала нелинейного преобразователя, рассматривая линейное приближение ± е ± е^):
о2 = В ± е ± е^)) « В (р(А) + <^'(А) ■ (±е ± е„)) = ^'(А)2(о2 + о%). Отсюда получаем о2 + о2 = о2/^'(А)2, и тогда
о =*/^ — (23)
Далее вычислим среднеквадратические отклонения входных сигналов сумматора. Пусть среднеквадратическое отклонение выходного сигнала сумматора равно о, собственное среднеквадратическое отклонение погрешности сумматора равно оЕ. Собственная погрешность сумматора может добавляться либо к выходному сигналу сумматора: ^™=1 а» ■ (ж» ± е») ± еЕ, либо к каждому входу сумматора: У]™=1 а» ■ (ж» ± е» ± е^), полагаем при этом, что все е^ равны между собой.
Пусть сначала собственная погрешность добавляется к выходному сигналу сумматора. Вычислим среднеквадратическое отклонение погрешностей для входных сигналов сумматора. Рассмотрим для этого дисперсию погрешности выходного сигнала сумматора а» ■ (±е») ± еЕ.
Для равномерного распределения среднеквадратических отклонений по входам сумматора предполагаем, что о» равны между собой:
(п \ / п \ п
а» ■ (±е») ± еЕ = В К](±а» ■ е») + В(±еЕ) = о»2 ^ а2 + о|.
»=1 ) \г=1 / »=1
С другой стороны, мы знаем, что дисперсия погрешности выходного сигнала сумматора равна о2. Отсюда получаем
/ о2 — о2 , ,,
о» = V Ёйа • (24)
Для пропорционального распределения допустимых погрешностей по входам сумматора в случае добавления его собственной погрешности к выходному сигналу была получена формула (12). Рассмотрим дисперсию обеих частей этой формулы:
е е о2 2
о»2 = В(е») = В 1 . - 2 2
п ■ |а»| / п2а~
2_ _ Г» I е — еМ _ о2 + о2
Отсюда получаем
« = Л^гт- (25)
В разделе 6 было рассмотрено приоритетное распределение среднеквадратических отклонений погрешностей по входам сумматора. Для сумматора, собственная погрешность которого добавляется к выходному сигналу, приоритетное распределение аналогично полученному в разделе 6, но часть среднеквадратического отклонения погрешности выходного сигнала сумматора, оставшаяся после назначения среднеквадратических отклонений погрешностей по некоторым входам, распределяется по формулам (24) или (25).
Пусть теперь собственное среднеквадратическое отклонение сумматора добавляется к каждому входу сумматора: ^™=1 — • (х, ± е, ± еЬ). Вычислим среднеквадратическое отклонение погрешностей для входных сигналов сумматора. Рассмотрим для этого дисперсию
О (ЕП=1 • (±е, ± еЬ)) = а2.
Для равномерного распределения среднеквадратических отклонений погрешностей предполагаем, что а, равны между собой:
(п \ / п \ / п
]=]- • (±е, ± егЕП = О ( ]=]±- • £Ч + О ( Х1±- • 6
пп
= а2 а2 + а2 • (аЬ)2.
,= 1 ,= 1
С другой стороны, дисперсия выходного сигнала сумматора равна а2. Отсюда получаем
а /а2 - (аЬ)2 •ЕП=1 - (26)
а, = \1-^п 1 —---(26)
В разделе 4 была получена формула (14) для пропорционального распределения допустимых погрешностей сигналов по входам сумматора в случае добавления его собственной погрешности к входным сигналам сумматора. Рассмотрим дисперсию обеих частей этой формулы:
а2 = О(е,) = е-г - еЬ) = -2^ + К Г -
\и • — ) -2 • -2
Отсюда получаем формулу для пропорционального распределения среднеквадратических отклонений погрешностей:
а,-
а2 , ■ \ 2
2
2^ + (аЬ )2- (27)
-2-
Приоритетно среднеквадратические отклонения погрешностей входных сигналов сумматора распределяются тем же способом, что и в разделе 6. Но часть среднеквадратиче-ского отклонения погрешности выходного сигнала сумматора, оставшаяся после назначения среднеквадратических отклонений по некоторым входам, распределяется по формулам (26) или (27).
8. Анализ реализуемости сетей
с собственными погрешностями элементов для среднеквадратических оценок
Все соображения, изложенные выше о реализуемости метода обратного распространения точности для гарантированных интервальных оценок погрешностей сигналов сетей с собственными погрешностями элементов, справедливы и для метода обратного распространения точности для среднеквадратических оценок погрешностей с учетом собственных погрешностей элементов. Отличие состоит в способе вычисления промежуточных средне-квадратических оценок погрешностей ораг\
Как и выше, рассмотрим участок сети, изображенный на рис. 11. Для этого участка нам необходимо вычислить промежуточную среднеквадратическую оценку погрешности ораг*. Обозначим собственное среднеквадратическое отклонение погрешности сумматора Е» через о^, собственное среднеквадратическое отклонение погрешности нелинейного преобразователя через о<^ и собственное среднеквадратическое отклонение погрешности точки ветвления через о^.
Как было показано в разделе 7, собственные погрешности элементов могут добавляться либо к входным, либо к их выходным сигналам. Рассмотрим сначала вариант, когда собственные погрешности элементов добавляются к выходным сигналам этих элементов. В данном случае среднеквадратическое отклонение погрешности входного сигнала нелинейного преобразователя вычисляется по формуле (22): о = оотеп/|^'(А)|, где оотеп =
0"? — о
01 — общая погрешность выходного сигнала нелинейного преобразователя. Для точки ветвления среднеквадратическое отклонение погрешности входного сигнала определяется по формуле (21): D = minjD^^ — afv.
гл part
Среднеквадратическое отклонение погрешности о\ , которое придет к г-му входу сумматора Е при прямом функционировании сети, начиная от выходного сигнала сумматора Ei (см. рис. 11),
о.
part = х/4г ■ ^(A)2 + о2 + о2
tv
Среднеквадратические отклонения погрешностей opart придут к каждому входу сумматора Е. Если сумма квадратов среднеквадратических отклонений opart с коэффициентами а меньше квадрата среднеквадратического отклонения погрешности выходного
2 I part)2 , 2 i \r-\n 2 I part)2 2
2^i=i а2 ■ (о\ ) < о2 I, то вычисляем разность у Jj=1 а2 ■ (oj ) — о2.
Эту разность — оставшуюся часть о2 — распределяем равномерно по всем входам, чтобы среднеквадратические отклонения погрешностей входов превышали среднеквадрати-ческие отклонения собственных погрешностей элементов на одну и ту же величину £2. Тогда получаем следующую формулу:
]>>2 ■ (Kart)2 + е 2) = о
i=1
Отсюда имеем
\
о2-
i=1
n
а2 ■ (°part)2 ) ^a
2.
/ у ^i '
i=1
n
е
Среднеквадратические отклонения погрешностей по входам сумматора будут равны
* = v Kart) + е
Пусть теперь собственные погрешности элементов добавляются к входным сигналам этих элементов. В таком случае среднеквадратическое отклонение погрешности входного
сигнала нелинейного преобразователя вычисляется по формуле (23): a = \Ja2/^'(A)2 — a2, где ai — погрешность выходного сигнала нелинейного преобразователя. Для точки ветвления среднеквадратическое отклонение погрешности входного сигнала определяется, как и выше, по формуле (21).
гл part
Среднеквадратическое отклонение погрешности af в этом случае вычисляется по следующей формуле:
part
\
£«2 ■ (4,)2 + ■ ^'(A)2 + ff2
, a■
, i=1
Величины £ для вычисления среднеквадратических отклонений погрешностей входных сигналов af вычисляются, как показано выше.
part
Промежуточные среднеквадратические отклонения погрешностей af можно вычислять как для участков сети, так и для сети в целом.
Таким образом, мы получили формулы для вычисления среднеквадратических отклонений погрешностей сигналов нейронной сети с собственными погрешностями элементов.
n
9. Типы входных сигналов нейронных сетей
В методе обратного распространения точности приведены формулы для вычисления погрешностей сигналов сети. Эти формулы позволяют вычислить погрешности сигналов, полученных при прямом функционировании сети с одним примером из обучающей выборки в качестве входных сигналов сети. Вообще говоря, допустимые погрешности сигналов зависят от вида входных сигналов сети. Исходя из этого, для метода обратного распространения точности можно выделить четыре типа допустимых погрешностей:
1 — погрешности, вычисленные для одного примера;
2 — погрешности, вычисленные для всей обучающей выборки;
3 — погрешности, вычисленные для примеров, компоненты которых принадлежат области А, < х, < В,, г = 1, —, где — — размерность области, А,, В, — действительные числа;
4 — погрешности, вычисленные для примеров, компоненты которых принадлежат области ЕП=1 х2 < Л2, где К — действительное число.
Погрешности первого типа вычисляются по формулам, описанным в разделах 3-8. Чтобы вычислить погрешности второго типа, вычисляем погрешности для каждого примера из обучающей выборки. Затем в качестве допустимой погрешности для каждого элемента сети выбирается минимум допустимых погрешностей этого элемента, вычисленных для каждого примера из обучающей выборки.
Рассмотрим, как вычисляются допустимые погрешности третьего и четвертого типов. В формулах для вычисления допустимых погрешностей входной сигнал используется только у нелинейного преобразователя. Допустимые погрешности остальных элементов сети от входных сигналов не зависят. Поэтому для вычисления этих типов погрешностей следует выяснить, какие сигналы будут входными для нелинейных преобразователей, если
входные сигналы сети принадлежат области, которая является многомерным прямоугольником или шаром.
Для начала рассмотрим допустимые погрешности третьего типа, т. е. те допустимые погрешности элементов сети, которые получаются при входных сигналах, принадлежащих прямоугольной области. Нам известны интервалы, в которых изменяются входные сигналы сети. Требуется вычислить интервалы для входных сигналов каждого элемента сети. Будем вычислять их следующим образом. При прохождении интервалов через сумматор концы интервалов входных сигналов умножаются на соответствующие веса синапсов а» и затем складываются. Предположим, что функция активации нелинейного преобразователя дифференцируема и строго монотонна. Тогда в качестве концов интервала его выходного сигнала берутся значения характеристической функции нелинейного преобразователя от концов интервала входного сигнала. Точка ветвления посылает приходящий к ней интервал на входы следующих элементов. Таким образом, для каждого элемента сети мы можем вычислить интервал, в котором изменяются его входные сигналы. Нас интересуют интервалы, в которых изменяются входные сигналы нелинейных преобразователей. Для того, чтобы вычислить допустимые погрешности входного сигнала нелинейного преобразователя, необходимо вычислить максимум производной функции активации нелинейного преобразователя на интервале изменения его входных сигналов и затем разделить на эту величину допустимую погрешность выходного сигнала нелинейного преобразователя.
Таким образом вычисляются допустимые погрешности сигналов сети для прямоугольной области входных сигналов сети.
Приведем пример, в котором будем вычислять погрешности третьего типа. Воспользуемся нейросетью, изображенной на рис. 6. Нейросеть имеет такие же веса синапсов, но входные сигналы принадлежат прямоугольной области:
Л = [-0.78, 0.56], /2 = [0.33,0.82], /3 =[0.12, 0.64],
/4 = [-0.62, 0.57], /5 = [0.36, 0.91], /6 = [-0.59, 0.75], /7 = [0.41, 0.88], /в = [-0.24,0.67], /9 = [0.15, 0.74].
На рис. 13 изображены интервалы, в которых изменяются сигналы сети. Вычислим эти интервалы:
/10 = [-0.31,0.44], /11 = [-0.01, 0.003], /12 = [-0.21, -0.04],
/13 = [-0.22, 0.24], /14 = [0.03, 0.06], /15 = [-0.1, 0.08],
/16 = [0.18, 0.39], /17 = [-0.16, 0.06], /18 = [0.05, 0.25], /19 = [-0.53, 0.4], /20 = [-0.29, 0.38], /21 = [0.07, 0.7], /22 = [-0.84, 0.8], /23 = [-0.74,0.79], /24 = [0.41, 0.86],
/25 = [-0.67, 0.64], /26 = [-0.29, 0.27], /27 = [-0.71,0.76],
/28 = [-0.52, 0.55], /29 = [-0.85, -0.41], /30 = [-0.67, -0.33], /31 = [-2.23, 0.99], /32 = [-1.48,0.49], /33 = [-0.96; 0.9],
/34 = [-0.94, 0.83], /35 = [-0.26, 0.28], /36 = [-0.62,0.55], /37 = [-0.88, 0.83], /38 = [-0.9, 0.89].
Рис. 13. Интервалы изменения сигналов нейронной сети.
Мы можем вычислить максимум производной функции активации на интервале изменения входного сигнала нелинейного преобразователя:
тах ^¡3.21,16.61] = 0-07, тах ^[3.56,9.46] = 0-06, тах ^¡-3.41,7.66] = 0'07,
тах ^¡0.26,0.86] = 0-39, тах ^¡0.24,1.78] = °-4, тах ^¡0.11,0.42] = 0'45' Зная эти величины, можно найти допустимые погрешности третьего типа.
Выясним теперь, как вычисляются допустимые погрешности сигналов четвертого типа, т. е. погрешности, получающиеся, когда область входных сигналов сети является шаром.
Рассуждения, приведенные выше для допустимых погрешностей третьего типа, справедливы и для допустимых погрешностей четвертого типа. Отличие состоит в том, что шаровую область необходимо "развернуть" таким образом, чтобы получить интервалы, в которых изменяются входные сигналы элементов. Рассмотрим для этого квадраты выходных сигналов сумматоров входного слоя сети. Используя неравенство Коши, получаем
А2 = £'
<Е «2 -Е х2 < я2Е а
|А| < Я
.¿=1
¿=1
¿=1
г=1
\
£
г=1
а
где п — число входных сигналов сумматора. Получили интервалы, в которых изменяются выходные сигналы сумматоров входного слоя нейронной сети. Используя эти интервалы, можно вычислить интервалы, в которых изменяются входные сигналы элементов сети. Затем, как уже было описано выше, вычисляем допустимые погрешности входных сигналов нелинейных преобразователей.
2
10. Численные эксперименты
Для проведения численных экспериментов был сгенерирован ряд сетей слоистой структуры. Рассматривались сети различной архитектуры: с тремя, четырьмя и пятью слоями
стандартных нейронов. Для всех сетей были выбраны характеристические функции нели-
х
нейных преобразователей следующего вида: <^(х) =-:—г. Параметр с для каждого вида
с + |х|
архитектуры принимал значения 0.001, 0.01, 0.1, 0.3, 0.5, 0.7, 0.9. При каждом значении параметра с было сгенерировано по сто сетей. Веса синапсов и входные сигналы для каждой из ста сетей случайным образом генерировались из интервала. Заданная погрешность выходных сигналов всех сетей равнялась 0.01. Для каждой сети вычислялись гарантированные интервальные и среднеквадратические оценки погрешностей сигналов при заданной погрешности выходных сигналов сети. Для каждого значения параметра с вычислены математическое ожидание (МО) и дисперсия (Б) гарантированных интервальных и сред-неквадратических оценок погрешностей входных сигналов сети. Численные эксперименты показали, что для одного и того же значения параметра с характеристической функции у сетей с одинаковой архитектурой математическое ожидание гарантированных интервальных ошибок погрешностей входных сигналов сети в среднем на порядок меньше, чем математическое ожидание среднеквадратических оценок погрешностей.
В табл. 2, 3 приведены порядки допустимых погрешностей входных сигналов нейронных сетей для гарантированных интервальных (см. табл. 2) и среднеквадратических (см. табл. 3) оценок, полученные в ходе численных экспериментов.
При значении параметра с = 0.1 (наиболее часто используемом) порядок допустимых погрешностей входных сигналов сети для гарантированных интервальных оценок одинаков, а для среднеквадратических оценок на порядок больше порядка допустимой погрешности выходных сигналов сети. При с > 0.1 значения допустимых погрешностей входных сигналов сети достаточно малы для обоих типов оценок и тем меньше, чем больше число слоев сети. Чем ближе вид характеристической функции к пороговой (т. е. при значении параметра с < 0.1), тем больше величины допустимых погрешностей входных сигналов. Причем, чем больше слоев имеет сеть, тем больше величины допустимых погрешностей входных сигналов при одном и том же значении параметра.
Таблица 2
с = 0.001 с = 0.01 с = 0.1 с = 0.3 с = 0.5 с = 0.7 с = 0.9
Три слоя ЫС Б 10+4 10+ю 10+1 10+4 10-2 10-1 10-4 10-6 10-4 10-6 10-4 10-6 10-4 10-6
Четыре слоя ЫС Б 10+5 10+15 10+2 10+6 10-2 10-2 10-5 10-8 10-5 10-8 10-5 10-8 10-4 10-7
Пять слоев ЫС Б 10+7 10+17 10+3 10+7 10-3 10-3 10-6 10-10 10-7 10-13 10-7 10-11 10-6 10-10
Таблица 3
с = 0.001 с = 0.01 с = 0.1 с = 0.3 с = 0.5 с = 0.7 с = 0.9
Три слоя ЫС Б 10+5 10+12 10+2 10+6 10-1 10 10-3 10-4 10-3 10-4 10-3 10-5 10-3 10-4
Четыре слоя ЫС Б 10+7 10+17 10+3 10+9 10-1 10 10-4 10-6 10-4 10-7 10-4 10-6 10-3 10-5
Пять слоев ЫС Б 10+8 10+19 10+4 10+9 10-2 10-1 10-5 10-8 10-6 10-10 10-6 10-9 10-5 10-8
11. Замечания
Как метод обратного распространения точности для гарантированных интервальных оценок погрешностей, так и метод обратного распространения точности для среднеквадрати-ческих оценок погрешностей можно применять не только к сетям слоистой структуры, но и к циклическим и полносвязным сетям. Рассматривая такт функционирования сети как слой, "разворачиваем" циклические и полносвязные сети в сети слоистой структуры. Вычисляем оценки погрешностей для сигналов стандартных нейронов каждого слоя. Затем "сворачиваем" слоистую сеть в исходную. Так как каждый слой полученной сети на самом деле является тактом функционирования, то для каждого сигнала сети на разных тактах получаем разные оценки погрешности. В качестве погрешности для каждого сигнала сети выбирается минимум этих величин по всем тактам.
Метод обратного распространения точности может быть использован для создания технических реализаций нейронных сетей на основе уже обученной компьютерной модели нейронной сети. Выбрав точность, с которой должна работать техническая реализация нейронной сети, можно посчитать погрешности, допустимые для технических устройств (например, аналоговых), которые соответствуют элементам компьютерной модели нейронной сети. Кроме того, можно оценить допустимые погрешности входных сигналов сети, т. е. выяснить, в каких пределах можно варьировать входные данные, чтобы вектор выходных сигналов при этом изменился не более, чем на заданную величину.
Заключение
Решение задачи вычисления допустимых погрешностей для каждого сигнала сети методом обратного распространения точности весьма похоже на метод обратного распространения ошибки, но с другими правилами прохождения элементов. Метод позволяет формулировать требования к точности вычисления и реализации технических устройств, если известны требования к точности выходных сигналов сети.
Список литературы
[1] Лебедев А. Н., Смолов В. Б. и др. Проектирование и расчет вычислительных машин непрерывного действия. Машиностроение, М., 1966.
[2] Лебедев А. Н. Основы теории точности счетно-решающих устройств. Изд. ЛЭТИ им. В. И. Ленина, Л., 1964.
[3] Уилкинсон Дж. Некоторые замечания математика-вычислителя. В "Лекции лауреатов премии Тьюринга". Мир, М., 1993, 284-298.
[4] Калмыков С. А., Шокин Ю. И., Юлдашев З. Х. Методы интервального анализа. Изд-во Сиб. отд-ния АН СССР, Новосибирск, 1986.
[5] Горбань А. Н. Обучение нейронных сетей. СП ПараГраф, М., 1990.
[6] Горбань А. Н., РоссиЕв Д. А. Нейронные сети на персональном компьютере. Наука, Новосибирск, 1996.
[7] KlMURA T., SHIMA T. Synapse weight accuracy of analog neuro chip. Proc. Intern. Joint Conf. Neural Networks. Japan, 1993, 891-894.
[8] ANGUITA D., RIDELLA S., ROVETTA S. Limiting the effects of weight errors in feed forward networks using interval arithmetic. Proc. Intern. Conf. Neural Networks. USA, 1996, 414-417.
[9] Edwards P., MURRAY A. Modelling weight- and input-noise in MLP learning. Proc. Intern. Conf. Neural Networks. USA, 1996, 78-83.
[10] Барцев С. И., Гилев С. Е., Охонин В. А. Принцип двойственности в организации адаптивных систем обработки информации. В "Динамика химических и биологических систем". Наука, Новосибирск, 1989, 6-55.
[11] Rummelhart D.E., HINTON G.E., Williams R.J. Learning internal representation by error propagation. In "Parallel Distributed Proc.: Exploration in the Microstructure of Cognition". Vol. 1. MA: MIT Press, Greate Britain, 1986, 318-362.
Поступила в редакцию 25 февраля 1999 г.
