При разработке вычислительных средств, функционирующих в системе остаточных классов (СОК) возникает важная задача обеспечения достоверности всего потока информации. Обеспечение достоверности всего потока информации прямо и непосредственно связано с увеличением производительности нейрокомпьютера (НК), функционирующего в СОК.
В настоящее время при разработке нейронных сетей (НС), система остаточных классов привлекает все более пристальное внимание из – за ее способности поддерживать высокоскоростную арифметику при параллельной обработки данных.
Система остаточных классов представляет собой такую систему, в которой целое положительное число представляется в виде набора остатков по выбранным основаниям
А = (a1, a2,…, an), an º А (mod pn), n = 1, 2,…, k, (1)
где pn – основания системы остаточных классов.
Для каждого специального кода, обладающего способностью к обнаружению и коррекции ошибки, характерно наличие двух групп цифр – информационной и контрольной. В информационную группу входят цифры, составляющие числовое значение закодированной величины, а в контрольную – цифры, дополнительно вводимые для целей обнаружения и коррекции возможных искажений.
Корректирующие свойства кодов в остатках, как и любого другого кода, проявляется при введении избыточности. Пусть число А представлено остатками a1, a2,…, an по основаниям p1, p2,…, pn. Диапазон представления чисел по выбранным основаниям равен произведению этих оснований.
R = , (2)
где R – рабочий диапазон системы.
При введении избыточного основания pn+1, будем представлять числа и производить операции над числами, лежащими не в диапазоне [0, R), а в более широком диапазоне [0, P)
P = R× pn+1, (3)
где P– полный диапазон системы.
Таким образом, для того чтобы обнаружить наличие или отсутствие ошибки в числе А, надо сопоставить его с диапазоном R. При этом если оказалось А³ R, значит, имела место ошибка, по крайней мере, в одной цифре. Если же А < R, то либо ошибки нет, либо она носит более сложный характер.
С повышением интереса к машинной арифметики в СОК возникла возможность построения кодов на основе нейронной сети.
Нейронная сеть является совокупностью элементов (нейронов), соединенных некоторым образом так, чтобы между ними обеспечивалось взаимодействие и представляет собой высокопараллельную динамическую систему. Проблема исследования надежности нейронных сетей находится еще в самом начале своего развития. Ее решение окажет значительное воздействие на реализацию нейрокомпьютеров построенных по новым технологиям. Структура нейронных ЭВМ представляет собой массив процессоров. Это предъявляет особые требования к процедуре диагностики по крайней мере той части нейронных ЭВМ, которая представляет сеть нейронов.
В работе предлагается использование для коррекции ошибок в модулярном коде НС Хопфилда.
Модель Хопфилда занимает особое место в ряду нейросетевых моделей. В ней впервые удалось установить связь между нелинейными динамическими системами и нейронными сетями. Образы памяти сети соответствуют устойчивым предельным точкам динамической системы.
Как уже известно, персептрон относится к классу сетей с направленным потоком распространения информации и не содержит обратных связей. На этапе функционирования каждый нейрон выполняет свою функцию – передачу возбуждения другим нейронам – ровно один раз. Динамика состояний нейронов является безитерационной.
Несколько более сложной является динамика в сети Хопфилда. Нейронная сеть Хопфилда содержит обратные связи, по которым переданное возбуждение возвращается к нейронам, и они повторно выполняют свою функцию (рис.1). Характерная особенность такой системы состоит в том, что выходные сигналы нейронов являются одновременно входными сигналами сети, при этом возбуждающий вектор особо не выделяется. Нейродинамика в таких системах становится итерационной. Это свойство существенно расширяет множество типов нейросетевых архитектур, но одновременно приводит к появлению новых проблем. Обратные связи могут приводить к возникновению неустойчивостей. В нейронных сетях неустойчивость проявляется в блуждающей смене состояний нейронов, не приводящей к возникновению стационарных состояний.
Рис.1. Обобщенная структура нейронной сети Хопфилда
В модели Хопфилда предполагается условие симметричности связей
Wij=Wji, (4)
с нулевыми диагональными элементами Wii=0. Это условие имеет весьма отдаленное отношение к известным свойствам биологических сетей, в которых, наоборот, если один нейрон передает возбуждение другому, то тот, в большинстве случаев, непосредственно не связан с первым. Однако именно симметричность связей существенно влияет на устойчивость динамики.
Изменение состояния каждого нейрона в модели Хопфилда происходит по известному правилу для формальных нейронов. Поступающие на его входы сигналы xi в момент t взвешиваются с весами матрицы связей Wij и суммируются, определяя полный уровень силы входного сигнала:
Далее в момент t+1 нейрон изменяет состояние своего возбуждения в зависимости от уровня сигнала y и индивидуального порога каждого нейрона.
Изменение состояний возбуждения всех нейронов может происходить одновременно, в этом случае говорят о параллельной динамике.
Совокупность значений возбуждения всех нейронов в некоторый момент времени образует вектор состояния сети. Вектор состояния можно представить в пространстве состояний нейросети. Это пространство для сети с двумя уровнями возбуждения каждого нейрона, очевидно, представляет собой множество вершин гиперкуба размерности, равной числу нейронов N. Возможные наборы значений координат вершин гиперкуба (см. Рис.2) и определяют возможные значения вектора состояния.
Фаза обучения сети Хопфилда ориентирована на формирование таких значений весов, при которых в режиме функционирования задание начального состояния нейронов, близкого к одному из обучающих векторов х, при соблюдении зависимости.
, (5)
где N обозначает количество нейронов, N = n,
приводит к стабильному состоянию, в котором реакция нейронов y = x остается неизменной в любой момент времени. При правильно подобранных весах каждая поданная на вход выборка х генерируется на выходе саму себя, мгновенно приводя к искомому состоянию (зависимость (5)).
По завершении подбора весов сети их значения принимают конечное состояние, и сеть может использоваться в режиме распознавания
Рис. 2. Проекция 4-х мерного гиперкуба на плоскость
Ассоциативный характер памяти сети Хопфилда качественно отличает ее от обычной, адресной, компьютерной памяти. При использовании ассоциативной памяти доступ к информации производится непосредственно по ее содержанию, т.е. по частично известным искаженным фрагментам. Потеря части информации или ее информационное зашумление не приводит к катастрофическому ограничению доступа, если оставшейся информации достаточно для извлечения идеального образа.
Основываясь на свойствах нейронной сети Хопфилда, предлагается ее использование для коррекции ошибки в модулярном коде. Причем, за счет использования НС Хопфилда мы отступаем от избыточности кода представленного в СОК вводимой для целей обнаружения и коррекции возможных искажений. НС Хопфилда выполняет контроль кода, а при возникновении ошибки на входе будет исправлять ее за счет извлечения идеального образа.
Нейронная сеть Хопфилда может быть, применима для исправления не только одиночной ошибки, но и при некоторых условиях также двойных и тройных ошибок, обеспечивает реальную возможность повышения информационной надежности НК. Это обусловлено специфическими способностями нейронной сети.
Библиографический список
- Горденко Д.В., Резеньков Д.Н., Яйлаханов С.В. Высоконадежные комплексы и средства связи на нейросетевых элементах: монография /. – М.: Илекса, 2010. – 184 с.
- Ткачук Р.В., Горденко Д.В., Павлюк Д.Н., Малофей А.О. Активная безопасность на основе криптографического мультинейропроцессора обработки данных. // Известия высших учебных заведений. Северо-Кавказский регион. – Новочеркасск: РГУ, 2007. С.17-18.
- Калмыков И.А., Резеньков Д.Н., Горденко Д.В., Саркисов А.Б. Методы и алгоритмы реконфигурации непозиционных вычислительных структур для обеспечения отказоустойчивости спецпроцессов: монография /. – Ставрополь.: Фабула, 2014. – 180 с.
- Горденко Д.В., Токарева Г.В. Нейронная сеть для преобразования чисел, представленных в позиционном коде в систему остаточных классов. // Информационные системы и технологии как фактор развития экономики региона. 2013. С. 60-63.
- Горденко Д.В., Горденко Н.В. Неисправности в запоминающих устройствах и в нейронных сетях. // Культура и общество: история и современность. материалы II Всероссийской (с международным участием) научно-практической конференции. под редакцией: Колосовой О.Ю., Гударенко Р.Ф., Ряснянской Н.А., Красиковой Е.А.. 2013. С. 67-70.
- Горденко Д.В., Резеньков Д.Н. Сравнительный анализ метода контроля арифметических операций в системе остаточных классах. // Современные проблемы науки и образования. 2014. № 3. С. 148.
- Горденко Д.В. Перспективное развитие вычислительной техники на основе непозиционного нейрокомпьютера. // Исследования в области естественных наук. 2013. № 12 (24). С. 3.
- Горденко Д.В., Горденко Н.В. Локализация ошибок в устройствах цифровой обработки сигналов на основе алгебры полиномов.// Вестник СевКавГТИ. 2009. № 9. С. 56-61.
- Горденко Д.В., Трошков А.М., Кондрашов А.В., Токарева Г.В. Нейронная реализация локализации ошибок в модулярном коде на основе метода проекций. // Исследования в области естественных наук. 2013. № 10 (22). С. 2.