Технологии

Технологии

Конволюционные нейронные сети (CNN)
Этот тип искусственных нейронных сетей используется для узнавания объектов на фотографиях, рисунках или видео. Конволюционные (свёрточные) нейросети разработаны на основании принципов работы зрения живых организмов. Впервые эти принципы были выявлены в работах нобелевских лауреатов Дэвида Хьюбела и Торстена Визела, которые открыли факт чувствительности различных нервных клеток зрительной коры к линиям, имеющим разные углы наклона (ориентацию). Первые слои конволюционных сетей способны реагировать на линии с определенным углом наклона, а последующие - на все более характерные сочетания таких линий и совокупности признаков, выявленных предыдущими слоями. Чем больше слоёв нейросети проходит изображение, тем более сложные объекты могут распознаваться этой сетью. В конце сети могут быть фильтры (искусственные нейроны), которые активируются при предъявлении лица человека, лица человека определенного пола, возраста или лица какого-то конкретного человека, различных животных, автомобилей, видов улиц и вообще - чего угодно, то есть тех типов объектов, распознаванию которых нейросеть обучилась на больших коллекциях изображений этих объектов (датасетах).
Кортикоморфные нейронные сети (CorNN)
Кортикоморфные - подобные коре мозга искусственные нейронные сети были разработаны ОКАС для обеспечения быстрого обучения без необходимости предъявления нейросетям датасетов из тысяч и миллионов примеров. Кортикоморфные сети строятся как ламинарные (слоистые) структуры, состоящие из вертикально ориентированных колонок соединенных между собой искусственных нейронов с четкими функциональными ролями слоев и ядер. Иерархически соединенные между собой колонки нейронов образуют функциональные поля, обеспечивающие обработку данных различного уровня сложности в искусственном кортексе. В рамках кортикоморфных нейросетей обеспечивается запоминание объектов, их припоминание с учетом введенного ассоциативного основания (логика), самостоятельное продолжающееся ассоциирование, ветвление ассоциаций, торможение неправильного, забывание несущественного, различные виды системной реконсолидации памяти и другие когнитивные функции. Важным элементом кортикоморфных нейросетей являются кодирующие различные семантические объекты афферентно-инвариантные нейроны (модели пирамидальных клеток коры, их иногда называют «нейронами бабушки»), способные активироваться определенной структурой входов своего рецептивного поля, а также нейроны новизны и другие типы нейронов.
Рекуррентные нейронные сети (RNN)
Рекуррентные сети предназначены для анализа и прогнозирования последовательностей сигналов, например, таких, как тексты на естественных языках. Реакция рекуррентных сетей зависит как от текущих входных стимулов, так и от прошлых состояний сети. Некоторые виды рекуррентных нейросетей, такие, как LSTM-сети долгой краткосрочной памяти, специально приспособлены к анализу задач, в которых анализируемые события, например, определенные фразы или словосочетания, разделены различными временными промежутками. Для анализа текстов на естественных языках создаются сетевые ансамбли, включающие многослойные рекуррентные сети c двунаправленным кодированием, конкатенацию (склеивание разнонаправленных векторов) и механизмы внимания.
Модели нейронов с многофазной памятью
След памяти формируется в нервной клетке, проходя ряд стадий, от возникновения электрических потенциалов до формирования новых белковых рецепторов и структурной перестройки в результате включения генов в ядре клетки. В разработанных ОКАС искусственных нейронах моделируется процесс консолидации следа памяти, включающий в себя краткосрочные, среднесрочные и долгосрочные фазы формирования памяти, причем более короткие фазы служат основой для более долгосрочных. В нейронах ОКАС используются такие параметры, как частота потенциалов действия, аксональная фасилитация, выброс медиатора, события медиаторно-рецепторного соединения, постсинаптические потенциалы и синтез новых рецепторов медиатора при обучении. С каждой из фаз формирования памяти в искусственных нейронах связаны разные когнитивные способности нейросетей.
Кибергеномика
Для управления ростом и развитием больших искусственных нейронных сетей ОКАС разработана технология «кибергеномики» — программные алгоритмы, обеспечивающие формирование и изменение структуры сети посредством моделирования эффектов генетической экспрессии у живых организмов. Элементы искусственных нейронов (дендриты, сомы, аксоны, а также синапсы) создаются как наборы программных кибергенов, обеспечивающих их развертывание и структурные изменения. При необходимости, сигнальные события в нейросети могут обусловливать ее структурную перестройку, реализуя эффекты эпигенитического регулирования.
Программные средства разработки биоморфных нейросетей
Помимо использования библиотек глубокого обучения, таких, как Tensorflow, Caffe, Theano и PyTorch, ОКАС создал две свои собственные программные интегрированные среды разработки нейросетей (Neural IDE) - OCAS Cortiphica и OCAS Cognetica. Данные среды позволяют создавать различные модели нейронов, осуществлять визуализированную разработку нейросетевых архитектур с различными типами нейронов и связей между ними, обеспечивать функционирование созданных нейросетей, а также реализовать технологии роста и деградации нейросетей (кибергеномики). Разработанные ОКАС Neural IDE созданы как параллельные программные комплексы для суперкомпьютеров, позволяют создавать нейросети с десятками миллионов сом (тел), дендритов и аксонов (отростков) нейронов и обеспечивают возможность масштабирования программных мощностей за счет увеличения числа вычислительных узлов кластера.
Интеллектуальная собственность



Свидетельство о государственной регистрации программы для ЭВМ №2018662805 - Инструментальное средство разработки нейронных сетей
"OCAS Cognetica"



Свидетельство о государственной регистрации программы для ЭВМ №2018662806 - Интегрированная среда разработки нейронных сетей и кибергеномики "OCAS Cortiphica"



Свидетельство о государственной регистрации программы для ЭВМ №2018662807 - Диалоговая система "OCAS Assistant"



Свидетельство о государственной регистрации программы для ЭВМ №2018662899 - Система распознавания образов "OCAS Vision"



Свидетельство о государственной регистрации программы для ЭВМ №2019612690 - Программный комплекс формирования датасета для систем глубокого обучения "OCAS DeepData"