5. Вербализация нейронных сетей
После того, как сеть приведена к логически прозрачному виду, необходимо представить навык, заложенный в нейронную сеть, в понятном пользователю виде (вербализовать сеть). Это делается на основе графического визуального либо текстового представления структуры нейронной сети.
Вербализация проводится как процесс восстановления симптом-синдромной структуры понятий предметной области и требует непосредственного участия пользователя.
Входные сигналы сети являются входными симптомами, выходные сигналы нейронов первого слоя сети – синдромами первого уровня и одновременно входными симптомами для нейронов второго слоя, генерирующих синдромы второго уровня, и т.д. Пользователь, последовательно проходя слой за слоем, может на основе описания входных симптомов слоя и их группировки по нейронам давать некоторые осмысленные именования и интерпретации синдромов, генерируемым этим слоем.
В результате получаем осмысленный текст, описывающий дерево рассуждений в терминах некоторой проблемной области. Программа-нейроимитатор способна дать только некоторый полуфабрикат эмпирической теории – вербальное описание нейронной сети на естественном языке, где имена симптомом и синдромов будут сгенерированы программой автоматически и не привязаны к проблемной области. Пользователь, выполняя когнитивный анализ, должен заменить абстрактные имена на осмысленные.
6. Автоматическая генерация полуэмпирических теорий
Достаточно сложно предложить алгоритм, который автоматически бы получал наиболее логически прозрачную сеть из заданной. При разработке программного продукта, позволяющего приводить нейронные сети к логически прозрачному виду, надо либо давать в руки пользователю весь набор элементарных процедур по упрощению сети, либо строить автоматическую процедуру, производящую упрощение сети несколько раз с варьированием очередности применения методов упрощения и оценкой получаемых результатов для того, чтобы получить оптимальное решение.
Рассмотрим, какие имеются возможности для автоматизации. Во-первых, возможно автоматическое построение одной или нескольких наиболее логически прозрачных сетей, варьируя процедуры упрощения и оценивая альтернативные варианты. Во-вторых, автоматизируется генерация вербального описания нейронных сетей (полуэмпирических теорий), после чего пользователю остается только задача осмысления полученного текста и привязка к проблемной области. Ситуация, когда пользователь садится за компьютер, задает файл данных, нажимает одну единственную кнопку (или пункт меню) и получает текст, пригодный для вставки в дипломную работу/диссертацию/статью, пока что не возможна. Однако, такое пожелание обрисовывает идеал, к которому нужно стремиться, и показывает пути дальнейшего развития представленной технологии.
Рассмотрим ситуацию, когда можно провести автоматически еще некоторую работу по вербализации. Часто в число входных сигналов сети входят признаки, принимающие конечный набор дискретных значений. Если какой-либо нейрон входного слоя принимает только такие дискретнозначные признаки, то его выходной сигнал будет также принимать конечное множество дискретных значений, т.е. получается промежуточный дискретнозначный синдром. Автоматически можно сгенерировать набор правил, вычисляющих то или иное дискретное значение этого синдрома.
Если же нелинейный преобразователь входного нейрона приведен к пороговому виду, то даже в случае подачи на этот нейрон непрерывных входных сигналов также можно сгенерировать требования к значениям входных сигналов, приводящие к появлению нужного нам значения на выходе нейрона.
Идеи, изложенные в двух предыдущих абзацах, конечно же, распространяются не только на нейроны входного слоя, но и на нейроны следующих слоев. Иными словами, может появиться возможность генерации для некоторого синдрома набора ограничений, накладываемых на значения порождающих этот синдром симптомов, для того, чтобы синдром принял определенное значение.
7. Когнитологические аспекты
Принципиально, что для одной и той же таблицы данных и различных сетей (либо даже одной сети, но с разной начальной случайной генерацией исходных значений настраиваемых параметров) после обучения, упрощения и вербализации может получиться несколько различных логически прозрачных сетей и, соответственно, несколько полуэмпирических теорий решения задачи. Это не представляется недостатком. При вербализации некоторые синдромы достаточно осмысленны и естественны, другие, напротив, непонятны. Из набора логически прозрачных нейросетей можно отсеять несколько наиболее осмысленных синдромов, объединить их в новую нейронную сеть, при этом введя, если необходимо, некоторые дополнительные нейроны или синапсы для такого объединения. Полученная нейросеть после адаптации и упрощения может быть более понятна, чем любой из ее предков. Таким образом, неединственность полуэмпирических теорий может стать ценным инструментом в руках исследователей-когнитологов.
Можно рассмотреть еще одну возможность применения таких “наиболее осмысленных фрагментов” логически прозрачной нейронной сети. Выделим из сети фрагмент, генерирующий некоторый осмысленный синдром. Теперь для каждого примера в исходной таблице данных можно вычислить значение этого синдрома и добавить в таблицу новый столбец – осмысленный интегральный признак. После расширения признакового пространства можно попытаться сформировать новую нейронную сеть на расширенном наборе входных сигналов, обучить ее и привести к логически прозрачному виду. Использование интегрального синдрома в качестве входного сигнала должно привести к получению более простой нейросети. Из последней также можно выделить некоторый фрагмент и добавить в таблицу еще один (или несколько) интегральных синдромов.
Таким образом, можно получить набор нейронных сетей-экспертов, образующих некоторое дерево решения. Эта макросеть концептуально отличается от исходной сети. В исходной сети базовые признаки использовались только для генерации синдромов первого уровня, те, в свою очередь, – только для генерации синдромов второго уровня. В сети малых экспертов для построения синдрома любого уровня могут быть использованы все ранее сгенерированные синдромы и все базовые признаки.
Подобное использование всех предшествующих сигналов может быть реализовано в исходной слоистой сети только в том случае, если в нее ввести связи не только между соседними слоями. Иными словами, входные сигналы должны поступать не только на нейроны первого слоя, но и на нейроны всех остальных слоев. Выходы нейронов первого слоя должны передаваться как нейронам второго слоя, так и нейронам последующих слоев. Однако такое усложнение нейросети приводит к очень большому росту числа синапсов в ней, а это удлинняет время приведения такой сети к логически прозрачному виду. При этом не будет гарантироваться получение синдромов, которые будут более осмысленными по сравнению с синдромами, отобранными в ходе “ручной селекции” из нескольких сетей.
<предыдущая страница | следующая страница>