КАРТОЧКА ПРОЕКТА ФУНДАМЕНТАЛЬНЫХ И ПОИСКОВЫХ НАУЧНЫХ ИССЛЕДОВАНИЙ,
ПОДДЕРЖАННОГО РОССИЙСКИМ НАУЧНЫМ ФОНДОМ

Информация подготовлена на основании данных из Информационно-аналитической системы РНФ, содержательная часть представлена в авторской редакции. Все права принадлежат авторам, использование или перепечатка материалов допустима только с предварительного согласия авторов.

 

ОБЩИЕ СВЕДЕНИЯ


Номер 22-71-00074

НазваниеРазработка и исследование математических моделей спайковых нейронных сетей с нестационарными связями

РуководительСтасенко Сергей Викторович, Кандидат физико-математических наук

Организация финансирования, регион федеральное государственное автономное образовательное учреждение высшего образования "Национальный исследовательский Нижегородский государственный университет им. Н.И. Лобачевского", Нижегородская обл

Период выполнения при поддержке РНФ 07.2022 - 06.2024 

Конкурс№70 - Конкурс 2022 года «Проведение инициативных исследований молодыми учеными» Президентской программы исследовательских проектов, реализуемых ведущими учеными, в том числе молодыми учеными.

Область знания, основной код классификатора 01 - Математика, информатика и науки о системах, 01-205 - Математические модели в науках о живом

Ключевые словаНейродинамика, биофизика, математическое моделирование, спайковые нейронные сети, импульсные нейронные сети, синаптическая пластичность, нейросетевые алгоритмы, нейрон-глиальное взаимодействие, нейрон-матриксное взаимодействие

Код ГРНТИ27.35.43


 

ИНФОРМАЦИЯ ИЗ ЗАЯВКИ


Аннотация
Данный проект посвящен разработке математических моделей спайковых (импульсных) нейронных сетей с нестационарными связями, связанными с регуляцией синаптической передачи активной внеклеточной средой на основе экспериментальных данных; получению фундаментальных знаний о регуляции синаптической передачи и программная реализация разработанных моделей и алгоритмов. В проекте предполагается рассмотреть регуляторное воздействие активной внеклеточной среды, формируемой вокруг синапсов нейронов за счет активности глиальных клеток (астроцитов) и молекул внеклеточного матрикса мозга. Долгое время считалось, что основными клетками, участвующими в информационных процессах в мозге, являются нейроны, соединение между которыми образует химический синапс, что послужило формированию концепции двухчастного синапса [1]. Развитие экспериментальных методов исследования мозга способствовало открытию многообразия типов нейронов, и других элементов нейронных сетей мозга, не обладающих электрической возбудимостью, но косвенно участвующих в информационных процессах мозга за счет образования сложно связанных с нейронами сетей и структур, регулирующих нейрональную динамику. В частности, открытие влияния астроцитов на нейронную активность позволило говорить о сложности строения синаптических связей между нейронами и перейти от концепции «классического синапса», имеющего две активные компоненты - пре – и постсинаптические терминали, к концепции «трехчастного синапса» [2,3,4], состоящего, помимо пре – и постсинаптических терминалей, и из отростков астроцита. Развитие в последние годы исследований молекул внеклеточного матрикса мозга привело к пересмотру концепции «трехчастного синапса», путем введения в структуру синапса, помимо астроцита, молекул внеклеточного матрикса мозга (ВКМ), имеющих важное значение для поддержания гомеостаза нейронных сетей [5]. ВКМ может сохранять «следы» нейронной и глиальной активности, модулировать функции локальных рецепторов или ионных каналов и распространять сигналы диффузией молекул, концентрация которых зависит от активности протеаз. Полученные экспериментальные данные свидетельствуют об участии ВКМ в механизмах синаптической пластичности и глиального ремоделирования, тем самым становясь основой концепции «четырехчастного синапса»[5]. Также можно отметить повышенный интерес в использовании спайковых нейронных сетей (SNN) для задач обработки данных и распознавания образов [6–12]. Существенными недостатками спайковых нейронных сетей являются вычислительная неэффективность по сравнению с формальными нейронными сетями, так как приходится рассчитывать системы нелинейных дифференциальных уравнений высокого порядка, сложность использования методов и подходов глубокого обучения (многослойности) и невозможность использования классических подходов машинного обучения. В рамках проекта предлагается рассмотреть регуляции синаптической связи, опосредованные активной внеклеточной средой, формируемой вокруг синапсов нейронов за счет активности глиальных клеток (астроцитов) и молекул внеклеточного матрикса мозга. Введение данных регуляций позволит расширить концепцию двухчастного синапса, основанную на том, что единственными главными участниками процесса обработки, хранения и передачи информации в мозге являются нейроны и ввести механизмы динамической регуляции на разных временных масштабах (от секунд для глиальных клеток, до минут и часов для молекул внеклеточного матрикса мозга), выступающими новыми механизмами синаптической и гомеостатической пластичности и расширяющими концепцию двухчастного синапса до трех- и четырехчастного синапса. Мы предполагаем, что концепт активной внеклеточной среды позволит снабдить спайковую нейронную сеть дополнительной модальностью, что приведет к улучшению характеристик обучения и настройки таких сетей и потенциально разработать новые методы и подходы обучения спайковых нейронных сетей. [1]Pribram, K. H. (1971). Languages of the brain: Experimental paradoxes and principles in neuropsychology. [2] Araque, A., Parpura, V., Sanzgiri, R. P., & Haydon, P. G. (1998). Glutamate‐dependent astrocyte modulation of synaptic transmission between cultured hippocampal neurons. European Journal of Neuroscience, 10(6), 2129-2142. [3]Halassa M.M., Fellin T., Haydon P.G. The tripartite synapse: roles for gliotransmission in health and disease. // Trends Mol. Med. 2007. Т. 13. № 2. С. 54–63. [4]Perea G., Navarrete M., Araque A. Tripartite synapses: astrocytes process and control synaptic information // Trends Neurosci. 2009. Т. 32. № 8. С. 421–431. [5]Dityatev A., Rusakov D.A. Molecular signals of plasticity at the tetrapartite synapse. // Curr. Opin. Neurobiol. 2011. Т. 21. № 2. С. 353–359. [6]Diehl P.U., Cook M. Unsupervised learning of digit recognition using spike-timing-dependent plasticity // Front. Comput. Neurosci. 2015. Vol. 9. [7]Kheradpisheh S.R. et al. STDP-based spiking deep convolutional neural networks for object recognition // Neural Networks. 2018. [8]Lee C. et al. Training Deep Spiking Convolutional Neural Networks With STDP-Based Unsupervised Pre-training Followed by Supervised Fine-Tuning // Front. Neurosci. 2018. Vol. 12. [9]Lee C. et al. Deep Spiking Convolutional Neural Network Trained With Unsupervised Spike-Timing-Dependent Plasticity // IEEE Trans. Cogn. Dev. Syst. 2019. Vol. 11, № 3. P. 384–394. [10]Liu D., Yue S. Fast unsupervised learning for visual pattern recognition using spike timing dependent plasticity // Neurocomputing. 2017. Vol. 249. P. 212–224. [11]Tavanaei A., Maida A. Bio-inspired multi-layer spiking neural network extracts discriminative features from speech signals // Lecture Notes in Computer Science (including subseries Lecture Notes in Artificial Intelligence and Lecture Notes in Bioinformatics). 2017. [12]Srinivasan G., Panda P., Roy K. SpiLinC: Spiking Liquid-Ensemble Computing for Unsupervised Speech and Image Recognition // Front. Neurosci. 2018. Vol. 12.

Ожидаемые результаты
1.Будет разработана и исследована сетевая математическая модель регуляции нейронной активности посредством активности глиальных клеток (астроцитов). Ожидается, что такая регуляция будет определять появление пачечной активности нейронной сети. 2.Математическая модель, разработанная в пункте 2, будет расширена на основе экспериментальных данных (Dityatev A., 2011) введением регуляции порога генерации спайков внеклеточным матриксом мозга. Ожидается, что такая регуляция будет изменять динамику пачечной активности. 3.Будет разработана и исследована модель спайковой нейронной сети с трехчастным синапсом, реализующей фильтрацию шумового сигнала. Ожидается, что активация астроцита будет приводить к фильтрации сигнала и удалению шумовой компоненты с последующим воспроизведением паттерна активности сети с полезным сигналом (изображением). 4. Будет разработана и исследована модель спайковой нейронной сети с трехчастным синапсом, реализующей подавление сверхвозбудимости нейронов 5.Будет разработана и исследована модель спайковой нейронной сети с четырехчастным синапсом. Предполагается, что учет такой регуляции нейронной активности будет модулировать ритмогенез сети. Также возможно появление бистабильного состояния сети с асинхронной и синхронной активностью нейронов, что является важным механизмов в процессе обучения и памяти (Dityatev A., 2011). 6.Будет разработана и исследована модель спайковой нейронной сети, реализующей когнитивную функцию на примере распознавания изображений, с динамически управляемыми синапсами активной внеклеточной средой. Будут разработаны концептуальная схема и описание спайковой нейронной сети, построенной на основе ранее полученных результатов и реализующей распознавание изображений, проведены симуляции с получением результатов модели. 7.Будет разработана модель патологии мозга, моделирующая нарушение когнитивных функций, вызванное инфицированием глиальных клеток (астроцитов) вирусом SARS-CoV-2. Исследование влияния взаимодействий между нейронами, астроцитами и матриксом на уровне формирования паттернов активности и описания механизмов передачи и преобразования сигналов, построение модели и исследование эффектов нейроно-астроцитарной сети с учетом внеклеточного матрикса мозга предлагается впервые в данном проекте. Мы предполагаем, что концепт активной внеклеточной среды, формируемой активностью глиальных клеток и внеклеточным матриксом мозга, позволит снабдить спайковую нейронную сеть дополнительной модальностью, что приведет к улучшению характеристик обучения и настройки таких сетей и потенциально разработать новые методы и подходы обучения спайковых нейронных сетей для задач построения перспективных интеллектуальных систем анализа данных и построения «разумного» (сильного) искусственного интеллекта. Сформулированная задача, несомненно, является актуальной, а ее решение должно обеспечить достижение научных и научно-технических результатов мирового уровня в предметной области исследования.


 

ОТЧЁТНЫЕ МАТЕРИАЛЫ


Аннотация результатов, полученных в 2022 году
1.Была разработана вычислительно эффективная среднеполевая модель нейрон-глиального взаимодействия с учетом астроцитарной потенциации синаптической передачи, представляющая собой трехмерную систему обыкновенных дифференциальных уравнений. Исследование системы показало возможность наблюдения двух типов нейронной активности - тонической и пачечной, имеющих важное значение в функционировании мозга (в частности сенсорной системы). 2.На основе подхода среднего поля была разработана многомасштабная математическая модель, учитывающая модуляцию активности нейронов за счет комплексного влияния астроцитов и молекулярного внеклеточного матрикса. Было показано, что модель предсказывает несколько динамических эффектов гомеостатической пластичности нейронной активности во временной шкале от секунд до минут, в том числе координацию между возбуждением и торможением и очень медленные «гомеостатические» колебания нейронной активности, которые спонтанно генерируются благодаря когерентной активации астроцитов и ВКМ. В модели глиальные клетки формировали появление пачечной динамики нейронной активности, а ее модуляция, связанная с изменением периода и длительности берстов, определялась динамикой внеклеточного матрикса мозга. 3.Было получено, что при одновременной подаче шума и полезного сигнала в виде изображения на слой нейронов, происходит случайная активация нейронов и размытие изображения на растровой диаграмме нейронной активности. Активация астроцитов приводит к уменьшению зашумления нейронов и улучшению изображения на растровой диаграмме. Различные метрики качества изображения, включая MSE, UQI, RMSE, SAM, VIFP, PSNRB, были применены к растровым диаграммам и показали лучшую производительность в случаях, когда глиальные клетки (астроциты) были активированы. Таким образом, было показано, что астроциты осуществляют функцию фильтрации полезного сигнала, что является важным при восприятии внешнего сигнала рецептивным полем. 4.Была исследована математическая модель, состоящая из спайковой нейронной сети (SNN), взаимодействующей с астроцитами. Было проанализировано, как информационный контент в виде двумерного изображения может быть представлен SNN в виде пространственно-временного паттерна всплесков. Астроциты, сопровождающие каждый возбуждающий синапс, обеспечивают медленную модуляцию силы синаптической передачи. Было получено, что астроцитарная модуляция предотвращает вызванное стимуляцией гипервозбуждение SNN и непериодическую пачечную активность. Такая гомеостатическая астроцитарная регуляция активности нейронов позволяет восстановить изображение, подаваемое при стимуляции и утраченное на растровой диаграмме активности нейронов из-за непериодического возбуждения нейронов. С биологической точки зрения модель показывает, что астроциты могут действовать как дополнительный адаптивный механизм для регуляции нейронной активности, что имеет решающее значение для сенсорных представлений коры. 5.Разработана математическая модель астроцитарной регуляции непериодической пачечной активности спайковой нейронной сети. Модель рассматривает спайковую нейронную сеть со слоем глиальных клеток – астроцитов, регулирующих процесс возбуждения и торможения нейронной сети. Было показано, что активация астроцитов приводит к подавлению непериодической пачечной активности, вызванной внешним шумовым сигналом. Эта регуляция чрезвычайно важна для поддержания нормальной активности сети и устранения эксайтотоксичности (Davison 1989), которая может привести не только к нарушениям синаптических контактов, но и к гибели нейронов. 6. Была разработана новая модель нейронной сети, взаимодействующей с активным внеклеточным полем, имитирующим внеклеточный матрикс мозга. Модель основана на эффекте синаптического масштабирования, вызванного активностью ВКМ, что приводит к изменению синаптических весов. Выявлено, что слабое влияние ВКМ на активность нейронов приводит к пачечной динамике. И наоборот, сильное влияние ВКМ на активность нейронов приводит к более сильному уровню популяционной синхронизации и формированию более регулярной пачечной динамики, что, в свою очередь, также отражается в более высокой частоте возбуждения.

 

Публикации

1. Стасенко С., Казанцев В. Mean-field model of tetrapartite synapse IEEE Xplore, 2022 Fourth International Conference Neurotechnologies and Neurointerfaces (CNN), 180-184 (год публикации - 2022) https://doi.org/10.1109/CNN56452.2022.9912561

2. Стасенко С.В., Казанцев В.Б. Astrocytes Enhance Image Representation Encoded in Spiking Neural Network Studies in Computational Intelligence, In: Kryzhanovsky, B., Dunin-Barkowski, W., Redko, V., Tiumentsev, Y. (eds) Advances in Neural Computation, Machine Learning, and Cognitive Research VI. NEUROINFORMATICS 2022. Studies in Computational Intelligence, vol 1064. Springer, Cham.,200-205 (год публикации - 2023) https://doi.org/10.1007/978-3-031-19032-2_20

3. Стасенко С.В., Казанцев В.Б. Astrocyte regulation of non-periodic bursting activity of a spiking neural network Procedia Computer Science, том 212, стр. 243-253 (год публикации - 2022) https://doi.org/10.1016/j.procs.2022.11.008

4. Стасенко С.В., Казанцев В.Б. Information Encoding in Bursting Spiking Neural Network Modulated by Astrocytes Entropy, V.25, Issue 5 (год публикации - 2023) https://doi.org/10.3390/e25050745

5. Стасенко С.В., Казанцев В.Б. Bursting Dynamics of Spiking Neural Network Induced by Active Extracellular Medium Mathematics, V. 11, Issue 9 (год публикации - 2023) https://doi.org/10.3390/math11092109

6. Стасенко С.В., Казанцев В.Б. 3D model of bursting activity generation IEEE Xplore, 2022 Fourth International Conference Neurotechnologies and Neurointerfaces (CNN), 176-179 (год публикации - 2022) https://doi.org/10.1109/CNN56452.2022.9912507


Аннотация результатов, полученных в 2023 году
1.Была разработана и исследована новая модель спайковой нейронной сети с четырехчастным синапсом. Модель строилась с учетом результатов 1 этапа работ и включала спайковую нейронную сеть, построенную на основе нейронов модели Ижикевича, а также четырехчастные динамические синапсы, описываемые с использованием среднеполевого подхода и результатов 1 этапа работ. Четырехчастный синапс включал пре- и постсинаптические нейроны, астроцит и ВКМ. Предложенная модель важна для понимания роли астроцитов и внеклеточного матрикса (ВКМ) в динамике нейронной сети. Результаты моделирования модели показывают, что астроцитарная модуляция может привести к синхронизации нейронов, а активация ВКМ может привести к десинхронизации. Этот вывод согласуется с предыдущими исследованиями, показывающими, что астроциты могут усиливать синаптическую передачу и способствовать синхронизации, в то время как ВКМ может играть роль в гомеостатической регуляции активности нейронов (Dityatev А.Е., 2011). 2.Была разработана и исследована модель нейронной сети, реализующей информационную функцию с учетом результатов 1 этапа работ. С использованием результатов 1 этапа работ была разработана концепция гибридной модели искусственной нейронной сети, совмещенной с моделью динамического трехчастного синапса, реализованного на 1 этапе работ. За счет кратковременной синаптической пластичности Цодыкса-Маркрама и среднеполевой модели астроцитарной модуляции синаптической передачи был реализован эффект кратковременной памяти, наблюдаемый экспериментально. Для построения модели была использована сверточная нейронная сеть и система дифференциальных уравнений, описывающих фильтрацию выходных данных на одном из слоев сверточной нейронной сети. Предложенная архитектура нейронной сети была протестирована на задаче определения ранее запомненных и новых изображений, предъявляемых последовательно. Также она была сравнена с моделями, использующей только кратковременную синаптическую пластичность, и рекуррентной нейронной сетью на этой же задаче. С использованием метрики чувствительности (d-прайм) было показано, что разработанная архитектура нейронной сети с астроцитарной модуляцией достигает более высокой точности в классификации ранее запомненных и новых изображений. 3.Была разработана и исследована модель патологии мозга, вызванная инфицированием глиальных клеток (астроцитов) вирусом SARS-CoV-2. В экспериментальных исследованиях было получено, что в астроцитах, инфицированных SARS-CoV-2, нарушаются механизмы выделения глиатрансмиттера, участвующего в модуляции синаптических контактов нейронов (Crunfli, F. et. al, 2021). Модель была построена с учетом полученных результатов на 1 этапе работ. Для описания астроцитарной динамики был использован среднеполевой подход, используемый на 1 этапе работ для описания динамики трехчастного синапса. Было получено, что степень инфицирования астроцита будет влиять на регуляцию вероятности высвобождения нейронтрасмиттера через нарушение высвобождения из астроцита глиатрансмиттера (глутамата), что в свою очередь будет приводить к нарушению ритмогенеза нейронной сети, лежащего в основе функциональных состояний мозга.

 

Публикации

1. - Ученые Нижегородского университета им. Н.И.Лобачевского создали сверточную нейросеть с имитацией работы кратковременной памяти ICT.Moscow, - (год публикации - )

2. - Нейронная сеть с имитацией функций мозга ai-news.ru, - (год публикации - )

3. - Ученые Нижегородского университета им. Н.И.Лобачевского создали сверточную нейросеть с имитацией работы кратковременной памяти База знаний AI, - (год публикации - )

4. - Нейронная сеть с имитацией функций мозга XX2 век: открытия, технологии, тенденции, - (год публикации - )

5. - Ученые разработали нейронную сеть с имитацией функций мозга technovery, - (год публикации - )

6. - Ученые разработали нейронную сеть с имитацией функций мозга inscience, - (год публикации - )

7. - Нейронную сеть с имитацией функций мозга разработали ученые Поиск, - (год публикации - )

8. - Нейросеть с короткой памятью Стимул, - (год публикации - )

9. - УЧЕНЫЕ УНИВЕРСИТЕТА ЛОБАЧЕВСКОГО РАЗРАБОТАЛИ НЕЙРОННУЮ СЕТЬ С ИМИТАЦИЕЙ ФУНКЦИЙ МОЗГА Информация взята с портала «Научная Россия» (https://scientificrussia.ru/) Научная Россия, - (год публикации - )

10. - Российские биофизики создали математическую модель работы мозга Тасс, - (год публикации - )

11. - УЧЕНЫЕ ННГУ РАЗРАБОТАЛИ МАТЕМАТИЧЕСКУЮ МОДЕЛЬ РЕГУЛЯЦИИ НЕЙРОННОЙ АКТИВНОСТИ Информация взята с портала «Научная Россия» (https://scientificrussia.ru/) Научная Россия, - (год публикации - )

12. - Создана математическая модель нейронно-астроцитарного взаимодействия Нейроновости, - (год публикации - )

13. - Разработана математическая модель регуляции нейронной активности Поиск, - (год публикации - )

14. - Ученые разработали математическую модель регуляции нейронной активности Indicator, - (год публикации - )

15. - Разработана математическая модель регуляции нейронной активности inscience, - (год публикации - )

16. - Российские биофизики создали математическую модель работы мозга sb, - (год публикации - )

17. - Дайджест новостей №3 РНФ, - (год публикации - )

18. - НЕЙРОСЕТЬ НАУЧИЛИ КОПИРОВАТЬ КРАТКОВРЕМЕННУЮ ПАМЯТЬ ЧЕЛОВЕКА Наука.РФ, - (год публикации - )

19. Зимин И.А., Казанцев В.Б., Стасенко С.В. Artificial Neural Network Model with Astrocyte-Driven Short-Term Memory Biomimetics, Т. 8, 422 (год публикации - 2023) https://doi.org/10.3390/biomimetics8050422

20. Стасенко С.В. Mean-Field Model of Tripartite Synapse with Infected Glial Cells Proceedings - 5th International Conference "Neurotechnologies and Neurointerfaces", CNN 2023, стр. 78-81 (год публикации - 2023) https://doi.org/10.1109/CNN59923.2023.10275294

21. Стасенко С.В., Казанцев В.Б. Spiking Neural Network with Tetrapartite Synapse Studies in Computational Intelligence, Т.1120, стр. 83-92 (год публикации - 2023) https://doi.org/10.1007/978-3-031-44865-2_9

22. Зимин И.А., Стасенко С.В. Сверточная нейронная сеть с моделью динамического синапса Труды VIII Всероссийской конференции Нелинейная динамика в когнитивных исследованиях – 2023, стр. 58 (год публикации - 2023)

23. Стасенко С.В., Казанцев В.Б. Модель астроцитарной регуляции процессов возбуждения и торможения спайковой нейронной сети Труды XXVII научной конференции по радиофизике (Нижний Новгород, 15—25 мая 2023 г.). Нижний Новгород: ННГУ, 2023, стр. 505-507 (год публикации - 2023)

24. Зимин И. В., Стасенко С. В. Программа симуляции сверточной нейронной сети с динамическим трехчастным синапсом -, 2023667814 (год публикации - )

25. Лебедев А. А., Стасенко С. В. Программа выделения признакового описания изображений с помощью спайковой нейронной сети -, 2023667765 (год публикации - )


Возможность практического использования результатов
Результаты проекта могут быть использованы при разработке архитектур нейроморфных вычислительных систем.