КАРТОЧКА ПРОЕКТА,
ПОДДЕРЖАННОГО РОССИЙСКИМ НАУЧНЫМ ФОНДОМ

Информация подготовлена на основании данных из Информационно-аналитической системы РНФ, содержательная часть представлена в авторской редакции. Все права принадлежат авторам, использование или перепечатка материалов допустима только с предварительного согласия авторов.

 

ОБЩИЕ СВЕДЕНИЯ


Номер 21-11-00280

НазваниеНовые нейроморфные подходы к реализации динамической памяти на основе концепции многомерного мозга и мемристивной электроники

РуководительМихайлов Алексей Николаевич, Кандидат физико-математических наук

Организация финансирования, регионфедеральное государственное автономное образовательное учреждение высшего образования "Национальный исследовательский Нижегородский государственный университет им. Н.И. Лобачевского", Нижегородская обл

Годы выполнения при поддержке РНФ 2021 - 2023 

КонкурсКонкурс 2021 года «Проведение фундаментальных научных исследований и поисковых научных исследований отдельными научными группами»

Область знания, основной код классификатора 01 - Математика, информатика и науки о системах, 01-202 - Интеллектуальный анализ данных и распознавание образов

Ключевые словаМногомерный мозг, нейроморфная память, большие данные, мемристор, нейронная сеть, искусственный интеллект, робототехника

Код ГРНТИ27.47.23, 47.09.48, 34.55.21


 

ИНФОРМАЦИЯ ИЗ ЗАЯВКИ


Аннотация
Настоящий проект направлен на исследование проблемы создания мемристивных сетевых архитектур для реализации ансамблей многомерных нейронов, позволяющих имитировать функции пространственной памяти гиппокампа человека. Данная архитектура, в частности, позволит использовать новые эффективные подходы к решению проблемы обработки больших данных в системах искусственного интеллекта и робототехнике нового поколения. Эта проблема существенно обостряется в последнее время, поскольку мир больших данных растет чрезвычайно быстро и является принципиально неполным. Это создает новые вызовы как фундаментального, так и прикладного характера, требующие развития новых методов и средств для обработки информации. Качество данных, отражаемое в их размерности, также непрерывно растет. Например, даже бюджетные современные фотоаппараты имеют разрешение (размерность) в несколько десятков мегапикселей. Таким образом, проблема поиска подходов к анализу сложных, гетерогенных данных является чрезвычайно актуальной в современной науке. Задача создания систем искусственного интеллекта, способных оперировать со сложными высокоразмерными данными, имеет многогранный характер. С одной стороны, необходимо развивать новые фундаментальные подходы, специализирующиеся на работе с данными высокой размерности, в частности искусственные нейронные сети. С другой стороны, данные подходы должны опираться на развитие электроники, предоставляющей новую элементную базу и, следовательно, аппаратные возможности для работы с многомерными данными. Недавно появившиеся ростки революционных идей в обеих областях позволяют надеяться на качественный прорыв в решении проблемы многомерных данных. В рамках заявляемого проекта впервые математическая проблема обработки сложных высокоразмерных данных в системах искусственного интеллекта будет спроецирована на новые подходы к реализации обучения и ассоциативной памяти в относительно простых нейросетевых архитектурах на основе мемристивных электронных устройств с богатой внутренней динамикой. Данные подходы впервые будут соотнесены с известной “революцией простоты в нейронауках”, что позволит в дальнейшем воспроизвести “в железе” сложные когнитивные явления в мозге и создаст предпосылки для построения в среднесрочной перспективе первого прототипа искусственного гиппокампа. Достижимость решения поставленной задачи обеспечивается обширным багажом знаний, накопленным как в мире, так и непосредственно исполнителями заявляемого проекта, в частности, по математическим моделям многомерного мозга и анализу многомерных данных, по результатам комплексных междисциплинарных исследований молекулярно-клеточных и сетевых механизмов, лежащих в основе функционирования мозга, по физике, технологии и многомасштабному моделированию мемристивных устройств, по проектированию информационно-вычислительных систем на их основе. Полученный научно-технический задел и имеющийся у коллектива исполнителей арсенал технологических, аналитических и теоретических методов позволяет планировать получение результатов мирового уровня по завершении выполнения проекта.

Ожидаемые результаты
Основным результатом проекта будет являться разработка базовых принципов и демонстрация прототипов динамической памяти на основе передовой мемристивной электроники с использованием новой биофизической концепции многомерного мозга, которая позволит в среднесрочной перспективе создать первый прототип искусственного гиппокампа. В частности, будет разработана система перспективных математических моделей, реализующих принципы многомерного мозга и нейромофной памяти, с учетом их возможной реализации на мемристивной элементной базе. Будут разработаны и реализованы в интегральном исполнении пассивные массивы кросс-бар металл-оксидных мемристивных микроустройств, пригодных для адаптивного программирования резистивного состояния и демонстрирующих синаптическую пластичность под действием спайкоподобной активности. Будут разработаны адекватные динамические модели мемристивных устройств, основанные на физике транспортных явлений и учитывающие внутренние источники шумов и флуктуаций. Будут разработаны и реализованы программно-аппаратные комплексы разного уровня сложности для управления резистивным состоянием мемристивных устройств в качестве синапсов искусственных нейронных сетей. Будет разработан набор модулей и библиотек компонентов искусственных нейронных сетей на базе мемристивных устройств для разного уровня структурно-функциональной иерархии, соответствующих выбранным схемотехническим, конструкторским и технологическим решениями. Будут разработаны математические и имитационные модели традиционных и спайковых сетевых архитектур на основе феноменологических моделей формальных, спайковых нейронов и динамических моделей мемристивных устройств, откалиброванных по экспериментальным данным. Будет аппаратно реализована классифицирующая искусственная нейронная сеть на основе формального многомерного нейрона с заданным количеством мемристивных связей. Будет продемонстрирован эффект динамической памяти в ансамбле импульсных нейронов с многомерными мемристивными связями. На основе полученных данных будет разработана виртуальная модель гиппокампа, адаптированная для анализа многомерных данных, например таких, как идентификация когнитивных карт, полученных мобильным роботом. Ожидаемые результаты будут соответствовать мировому уровню исследований, свидетельством чего будет служить их обнародование путем публикации не менее 9 статей в высокоимпактных журналах по тематике проекта (см. п. 1.9). По результатам выполнения проекта будет представлено не менее 10 докладов на международных и всероссийских научных конференциях. Практическая значимость запланированных результатов связана с бурным развитием искусственного интеллекта и связанной с этим трансформацией всех сфер человеческой жизни (от сферы финансов и информационной безопасности до робототехники, систем технического зрения и обработки естественного языка). Это порождает высочайший спрос как на новые абстрактные математические представления, снимающие ранее установленные ограничения, так и на создание масштабируемой и энергоэффективной элементной базы, которая позволит реализовать “в железе” ранее недоступные функциональные возможности электронных систем искусственного интеллекта.


 

ОТЧЁТНЫЕ МАТЕРИАЛЫ


Аннотация результатов, полученных в 2021 году
Настоящий проект направлен на исследование проблемы создания мемристивных сетевых архитектур для реализации ансамблей многомерных нейронов, позволяющих имитировать функции пространственной памяти гиппокампа человека. Данная архитектура, в частности, позволит использовать новые эффективные подходы к обработке больших данных в системах искусственного интеллекта и робототехнике нового поколения. В ходе отчетного этапа абстрактные принципы многомерного мозга, основанные на идее «благословения размерности» и накопленных знаниях об уникальных свойствах индивидуальных биологических нейронов, впервые спроецированы на конкретные подходы к реализации формальных и спайковых нейронов с мемристивными синапсами. Разработаны адекватные динамические модели мемристивных устройств, спроектированы и изготовлены мемристивные чипы и управляющие схемы, необходимые для первой аппаратной реализации мемристивного многомерного нейрона. Следующие работы были выполнены в соответствии с планом: разработаны перспективные математические модели, реализующие принципы многомерного мозга и нейромофной памяти на основе передовой мемристивной электроники; разработаны и реализованы в интегральном исполнении пассивные массивы металл-оксидных мемристивных микроустройств, необходимые для решения задач проекта на первом и последующих этапах; разработаны адекватные динамические модели мемристивных устройств, основанные на физике транспортных явлений, учитывающие шумы и флуктуации для конкретных реализованных конструктивных вариантов устройств; разработан и реализован программно-аппаратный комплекс для автоматизированного программирования резистивных состояний в линейках мемристивных устройств; В результате выполнения этих работ разработана система перспективных математических моделей, реализующих принципы многомерного мозга и нейроморфной памяти, которая предусматривает исследование как формального нейрона со статической функцией активации и с синапсами, веса которых программируются в соответствии с заданным алгоритмом настройки (дообучения), так и спайковых нейронов с динамическими синапсами, веса которых настраиваются автоматически на основе локальных правил или на основе естественного адаптивного отклика мемристивного устройства на спайкоподобную активность. Детальное моделирование выполнено для формального многомерного нейрона с учетом его возможной реализации на мемристивной элементной базе, в том числе с учетом стохастического характера, конечного разрешения и динамического диапазона резистивных состояний мемристивного устройства. Результаты численных экспериментов показали, что селективность многомерного нейрона, близкая к 100%, достигается при размерности входных данных более 30, но для задания весов в соответствии с математической моделью необходимо обеспечить разрешение не хуже 3 бит и точность не хуже 20% в динамическом диапазоне от единиц до сотен кОм. Оптимизированная топология и отобранные конструктивные варианты мемристивных структур «металл-оксид-металл» на основе стабилизированного иттрием диоксида циркония реализованы путем изготовления двух партий интегральных чипов с пассивными массивами кросс-бар мемристивных микроустройств, пригодных для адаптивного программирования резистивного состояния и демонстрирующих синаптическую пластичность под действием спайкоподобной активности. Разработаны адекватные динамические модели мемристивных устройств, основанные на физике транспортных явлений и учитывающие внутренние источники шумов и флуктуаций в соответствии с экспериментальными данными, полученными для конкретных реализованных мемристивных устройств. Разработан программно-аппаратный комплекс для автоматизированного программирования резистивных состояний в линейках 1×64 мемристивных устройств в качестве синапсов многомерного нейрона, который реализован в виде двухсторонней печатной платы с использованием многоканальных цифро-аналоговых преобразователей и силовых операционных усилителей для достижения необходимого значения тока через мемристор, суммирования токов с мемристоров в многоканальной схеме и реализации функции активации многомерного нейрона. Результаты тестирования программно-аппаратного комплекса свидетельствуют о работоспособности отдельных каналов схемы, позволяющей провести экспериментальную проверку модели формального многомерного нейрона на линейках мемристивных устройств. Все задачи, поставленные на отчетном этапе проекта, выполнены. Полученные результаты вносят важный вклад в достижение цели проекта и создают задел для первой в мире аппаратной реализации многомерного нейрона на биоподобной элементной базе. Сопоставление полученных результатов с имеющейся научно-технической информацией позволяет оценить уровень проводимых исследований как соответствующий лучшим мировым достижениям в области создания нейроморфных систем на основе мемристивных устройств. Информация о проекте в сети Интернет доступна на страницах руководителя и исполнителей проекта в системе Research Gate по адресу: https://www.researchgate.net/project/Memristive-High-Dimensional-Brain.

 

Публикации

1. - Восемь проектов учёных Университета Лобачевского получили гранты РНФ Официальный сайт Университета Лобачевского, Новости университета от 31.03.2021 (год публикации - ).

2. - Передовые исследования и разработки ННГУ были представлены на Балтийском форуме Официальный сайт Университета Лобачевского, Новости университета от 22.09.2021 (год публикации - ).

3. - Учёные ННГУ приняли участие в ведущем форуме по микроэлектронике Официальный сайт Университета Лобачевского, Новости университета от 13.10.2021 (год публикации - ).

4. Герасимова С.А., Белов А.И., Королев Д.С., Гусейнов Д.В., Лебедева А.В., Коряжкина М.Н., Михайлов А.Н., Казанцев В.Б., Писарчик А.Н. Stochastic Memristive Interface for Neural Signal Processing Sensors, Volume 21, Issue16, P. 5587 (год публикации - 2021).

5. Щаников С.А., Борданов И., Белов А.И.,Королев Д.С., Шамшин М.О., Грязнов Е.Г., Казанцев В.Б., Михайлов А.Н.,Макаров В.А. Memristive Concept of a High-Dimensional Neuron IEEE Proc. Third International Conference Neurotechnologies and Neurointerfaces (CNN)., pp. 96-99 (год публикации - 2021).