КАРТОЧКА ПРОЕКТА ФУНДАМЕНТАЛЬНЫХ И ПОИСКОВЫХ НАУЧНЫХ ИССЛЕДОВАНИЙ,
ПОДДЕРЖАННОГО РОССИЙСКИМ НАУЧНЫМ ФОНДОМ

Информация подготовлена на основании данных из Информационно-аналитической системы РНФ, содержательная часть представлена в авторской редакции. Все права принадлежат авторам, использование или перепечатка материалов допустима только с предварительного согласия авторов.

 

ОБЩИЕ СВЕДЕНИЯ


Номер 22-71-00074

НазваниеРазработка и исследование математических моделей спайковых нейронных сетей с нестационарными связями

РуководительСтасенко Сергей Викторович, Кандидат физико-математических наук

Организация финансирования, регион федеральное государственное автономное образовательное учреждение высшего образования "Национальный исследовательский Нижегородский государственный университет им. Н.И. Лобачевского", Нижегородская обл

Период выполнения при поддержке РНФ 07.2022 - 06.2024 

Конкурс№70 - Конкурс 2022 года «Проведение инициативных исследований молодыми учеными» Президентской программы исследовательских проектов, реализуемых ведущими учеными, в том числе молодыми учеными.

Область знания, основной код классификатора 01 - Математика, информатика и науки о системах, 01-205 - Математические модели в науках о живом

Ключевые словаНейродинамика, биофизика, математическое моделирование, спайковые нейронные сети, импульсные нейронные сети, синаптическая пластичность, нейросетевые алгоритмы, нейрон-глиальное взаимодействие, нейрон-матриксное взаимодействие

Код ГРНТИ27.35.43


 

ИНФОРМАЦИЯ ИЗ ЗАЯВКИ


Аннотация
Данный проект посвящен разработке математических моделей спайковых (импульсных) нейронных сетей с нестационарными связями, связанными с регуляцией синаптической передачи активной внеклеточной средой на основе экспериментальных данных; получению фундаментальных знаний о регуляции синаптической передачи и программная реализация разработанных моделей и алгоритмов. В проекте предполагается рассмотреть регуляторное воздействие активной внеклеточной среды, формируемой вокруг синапсов нейронов за счет активности глиальных клеток (астроцитов) и молекул внеклеточного матрикса мозга. Долгое время считалось, что основными клетками, участвующими в информационных процессах в мозге, являются нейроны, соединение между которыми образует химический синапс, что послужило формированию концепции двухчастного синапса [1]. Развитие экспериментальных методов исследования мозга способствовало открытию многообразия типов нейронов, и других элементов нейронных сетей мозга, не обладающих электрической возбудимостью, но косвенно участвующих в информационных процессах мозга за счет образования сложно связанных с нейронами сетей и структур, регулирующих нейрональную динамику. В частности, открытие влияния астроцитов на нейронную активность позволило говорить о сложности строения синаптических связей между нейронами и перейти от концепции «классического синапса», имеющего две активные компоненты - пре – и постсинаптические терминали, к концепции «трехчастного синапса» [2,3,4], состоящего, помимо пре – и постсинаптических терминалей, и из отростков астроцита. Развитие в последние годы исследований молекул внеклеточного матрикса мозга привело к пересмотру концепции «трехчастного синапса», путем введения в структуру синапса, помимо астроцита, молекул внеклеточного матрикса мозга (ВКМ), имеющих важное значение для поддержания гомеостаза нейронных сетей [5]. ВКМ может сохранять «следы» нейронной и глиальной активности, модулировать функции локальных рецепторов или ионных каналов и распространять сигналы диффузией молекул, концентрация которых зависит от активности протеаз. Полученные экспериментальные данные свидетельствуют об участии ВКМ в механизмах синаптической пластичности и глиального ремоделирования, тем самым становясь основой концепции «четырехчастного синапса»[5]. Также можно отметить повышенный интерес в использовании спайковых нейронных сетей (SNN) для задач обработки данных и распознавания образов [6–12]. Существенными недостатками спайковых нейронных сетей являются вычислительная неэффективность по сравнению с формальными нейронными сетями, так как приходится рассчитывать системы нелинейных дифференциальных уравнений высокого порядка, сложность использования методов и подходов глубокого обучения (многослойности) и невозможность использования классических подходов машинного обучения. В рамках проекта предлагается рассмотреть регуляции синаптической связи, опосредованные активной внеклеточной средой, формируемой вокруг синапсов нейронов за счет активности глиальных клеток (астроцитов) и молекул внеклеточного матрикса мозга. Введение данных регуляций позволит расширить концепцию двухчастного синапса, основанную на том, что единственными главными участниками процесса обработки, хранения и передачи информации в мозге являются нейроны и ввести механизмы динамической регуляции на разных временных масштабах (от секунд для глиальных клеток, до минут и часов для молекул внеклеточного матрикса мозга), выступающими новыми механизмами синаптической и гомеостатической пластичности и расширяющими концепцию двухчастного синапса до трех- и четырехчастного синапса. Мы предполагаем, что концепт активной внеклеточной среды позволит снабдить спайковую нейронную сеть дополнительной модальностью, что приведет к улучшению характеристик обучения и настройки таких сетей и потенциально разработать новые методы и подходы обучения спайковых нейронных сетей. [1]Pribram, K. H. (1971). Languages of the brain: Experimental paradoxes and principles in neuropsychology. [2] Araque, A., Parpura, V., Sanzgiri, R. P., & Haydon, P. G. (1998). Glutamate‐dependent astrocyte modulation of synaptic transmission between cultured hippocampal neurons. European Journal of Neuroscience, 10(6), 2129-2142. [3]Halassa M.M., Fellin T., Haydon P.G. The tripartite synapse: roles for gliotransmission in health and disease. // Trends Mol. Med. 2007. Т. 13. № 2. С. 54–63. [4]Perea G., Navarrete M., Araque A. Tripartite synapses: astrocytes process and control synaptic information // Trends Neurosci. 2009. Т. 32. № 8. С. 421–431. [5]Dityatev A., Rusakov D.A. Molecular signals of plasticity at the tetrapartite synapse. // Curr. Opin. Neurobiol. 2011. Т. 21. № 2. С. 353–359. [6]Diehl P.U., Cook M. Unsupervised learning of digit recognition using spike-timing-dependent plasticity // Front. Comput. Neurosci. 2015. Vol. 9. [7]Kheradpisheh S.R. et al. STDP-based spiking deep convolutional neural networks for object recognition // Neural Networks. 2018. [8]Lee C. et al. Training Deep Spiking Convolutional Neural Networks With STDP-Based Unsupervised Pre-training Followed by Supervised Fine-Tuning // Front. Neurosci. 2018. Vol. 12. [9]Lee C. et al. Deep Spiking Convolutional Neural Network Trained With Unsupervised Spike-Timing-Dependent Plasticity // IEEE Trans. Cogn. Dev. Syst. 2019. Vol. 11, № 3. P. 384–394. [10]Liu D., Yue S. Fast unsupervised learning for visual pattern recognition using spike timing dependent plasticity // Neurocomputing. 2017. Vol. 249. P. 212–224. [11]Tavanaei A., Maida A. Bio-inspired multi-layer spiking neural network extracts discriminative features from speech signals // Lecture Notes in Computer Science (including subseries Lecture Notes in Artificial Intelligence and Lecture Notes in Bioinformatics). 2017. [12]Srinivasan G., Panda P., Roy K. SpiLinC: Spiking Liquid-Ensemble Computing for Unsupervised Speech and Image Recognition // Front. Neurosci. 2018. Vol. 12.

Ожидаемые результаты
1.Будет разработана и исследована сетевая математическая модель регуляции нейронной активности посредством активности глиальных клеток (астроцитов). Ожидается, что такая регуляция будет определять появление пачечной активности нейронной сети. 2.Математическая модель, разработанная в пункте 2, будет расширена на основе экспериментальных данных (Dityatev A., 2011) введением регуляции порога генерации спайков внеклеточным матриксом мозга. Ожидается, что такая регуляция будет изменять динамику пачечной активности. 3.Будет разработана и исследована модель спайковой нейронной сети с трехчастным синапсом, реализующей фильтрацию шумового сигнала. Ожидается, что активация астроцита будет приводить к фильтрации сигнала и удалению шумовой компоненты с последующим воспроизведением паттерна активности сети с полезным сигналом (изображением). 4. Будет разработана и исследована модель спайковой нейронной сети с трехчастным синапсом, реализующей подавление сверхвозбудимости нейронов 5.Будет разработана и исследована модель спайковой нейронной сети с четырехчастным синапсом. Предполагается, что учет такой регуляции нейронной активности будет модулировать ритмогенез сети. Также возможно появление бистабильного состояния сети с асинхронной и синхронной активностью нейронов, что является важным механизмов в процессе обучения и памяти (Dityatev A., 2011). 6.Будет разработана и исследована модель спайковой нейронной сети, реализующей когнитивную функцию на примере распознавания изображений, с динамически управляемыми синапсами активной внеклеточной средой. Будут разработаны концептуальная схема и описание спайковой нейронной сети, построенной на основе ранее полученных результатов и реализующей распознавание изображений, проведены симуляции с получением результатов модели. 7.Будет разработана модель патологии мозга, моделирующая нарушение когнитивных функций, вызванное инфицированием глиальных клеток (астроцитов) вирусом SARS-CoV-2. Исследование влияния взаимодействий между нейронами, астроцитами и матриксом на уровне формирования паттернов активности и описания механизмов передачи и преобразования сигналов, построение модели и исследование эффектов нейроно-астроцитарной сети с учетом внеклеточного матрикса мозга предлагается впервые в данном проекте. Мы предполагаем, что концепт активной внеклеточной среды, формируемой активностью глиальных клеток и внеклеточным матриксом мозга, позволит снабдить спайковую нейронную сеть дополнительной модальностью, что приведет к улучшению характеристик обучения и настройки таких сетей и потенциально разработать новые методы и подходы обучения спайковых нейронных сетей для задач построения перспективных интеллектуальных систем анализа данных и построения «разумного» (сильного) искусственного интеллекта. Сформулированная задача, несомненно, является актуальной, а ее решение должно обеспечить достижение научных и научно-технических результатов мирового уровня в предметной области исследования.


 

ОТЧЁТНЫЕ МАТЕРИАЛЫ


Аннотация результатов, полученных в 2022 году
1.Была разработана вычислительно эффективная среднеполевая модель нейрон-глиального взаимодействия с учетом астроцитарной потенциации синаптической передачи, представляющая собой трехмерную систему обыкновенных дифференциальных уравнений. Исследование системы показало возможность наблюдения двух типов нейронной активности - тонической и пачечной, имеющих важное значение в функционировании мозга (в частности сенсорной системы). 2.На основе подхода среднего поля была разработана многомасштабная математическая модель, учитывающая модуляцию активности нейронов за счет комплексного влияния астроцитов и молекулярного внеклеточного матрикса. Было показано, что модель предсказывает несколько динамических эффектов гомеостатической пластичности нейронной активности во временной шкале от секунд до минут, в том числе координацию между возбуждением и торможением и очень медленные «гомеостатические» колебания нейронной активности, которые спонтанно генерируются благодаря когерентной активации астроцитов и ВКМ. В модели глиальные клетки формировали появление пачечной динамики нейронной активности, а ее модуляция, связанная с изменением периода и длительности берстов, определялась динамикой внеклеточного матрикса мозга. 3.Было получено, что при одновременной подаче шума и полезного сигнала в виде изображения на слой нейронов, происходит случайная активация нейронов и размытие изображения на растровой диаграмме нейронной активности. Активация астроцитов приводит к уменьшению зашумления нейронов и улучшению изображения на растровой диаграмме. Различные метрики качества изображения, включая MSE, UQI, RMSE, SAM, VIFP, PSNRB, были применены к растровым диаграммам и показали лучшую производительность в случаях, когда глиальные клетки (астроциты) были активированы. Таким образом, было показано, что астроциты осуществляют функцию фильтрации полезного сигнала, что является важным при восприятии внешнего сигнала рецептивным полем. 4.Была исследована математическая модель, состоящая из спайковой нейронной сети (SNN), взаимодействующей с астроцитами. Было проанализировано, как информационный контент в виде двумерного изображения может быть представлен SNN в виде пространственно-временного паттерна всплесков. Астроциты, сопровождающие каждый возбуждающий синапс, обеспечивают медленную модуляцию силы синаптической передачи. Было получено, что астроцитарная модуляция предотвращает вызванное стимуляцией гипервозбуждение SNN и непериодическую пачечную активность. Такая гомеостатическая астроцитарная регуляция активности нейронов позволяет восстановить изображение, подаваемое при стимуляции и утраченное на растровой диаграмме активности нейронов из-за непериодического возбуждения нейронов. С биологической точки зрения модель показывает, что астроциты могут действовать как дополнительный адаптивный механизм для регуляции нейронной активности, что имеет решающее значение для сенсорных представлений коры. 5.Разработана математическая модель астроцитарной регуляции непериодической пачечной активности спайковой нейронной сети. Модель рассматривает спайковую нейронную сеть со слоем глиальных клеток – астроцитов, регулирующих процесс возбуждения и торможения нейронной сети. Было показано, что активация астроцитов приводит к подавлению непериодической пачечной активности, вызванной внешним шумовым сигналом. Эта регуляция чрезвычайно важна для поддержания нормальной активности сети и устранения эксайтотоксичности (Davison 1989), которая может привести не только к нарушениям синаптических контактов, но и к гибели нейронов. 6. Была разработана новая модель нейронной сети, взаимодействующей с активным внеклеточным полем, имитирующим внеклеточный матрикс мозга. Модель основана на эффекте синаптического масштабирования, вызванного активностью ВКМ, что приводит к изменению синаптических весов. Выявлено, что слабое влияние ВКМ на активность нейронов приводит к пачечной динамике. И наоборот, сильное влияние ВКМ на активность нейронов приводит к более сильному уровню популяционной синхронизации и формированию более регулярной пачечной динамики, что, в свою очередь, также отражается в более высокой частоте возбуждения.

 

Публикации

1. Стасенко С., Казанцев В. Mean-field model of tetrapartite synapse IEEE Xplore, 2022 Fourth International Conference Neurotechnologies and Neurointerfaces (CNN), 180-184 (год публикации - 2022) https://doi.org/10.1109/CNN56452.2022.9912561

2. Стасенко С.В., Казанцев В.Б. Astrocytes Enhance Image Representation Encoded in Spiking Neural Network Studies in Computational Intelligence, In: Kryzhanovsky, B., Dunin-Barkowski, W., Redko, V., Tiumentsev, Y. (eds) Advances in Neural Computation, Machine Learning, and Cognitive Research VI. NEUROINFORMATICS 2022. Studies in Computational Intelligence, vol 1064. Springer, Cham.,200-205 (год публикации - 2023) https://doi.org/10.1007/978-3-031-19032-2_20

3. Стасенко С.В., Казанцев В.Б. Astrocyte regulation of non-periodic bursting activity of a spiking neural network Procedia Computer Science, том 212, стр. 243-253 (год публикации - 2022) https://doi.org/10.1016/j.procs.2022.11.008

4. Стасенко С.В., Казанцев В.Б. Information Encoding in Bursting Spiking Neural Network Modulated by Astrocytes Entropy, V.25, Issue 5 (год публикации - 2023) https://doi.org/10.3390/e25050745

5. Стасенко С.В., Казанцев В.Б. Bursting Dynamics of Spiking Neural Network Induced by Active Extracellular Medium Mathematics, V. 11, Issue 9 (год публикации - 2023) https://doi.org/10.3390/math11092109

6. Стасенко С.В., Казанцев В.Б. 3D model of bursting activity generation IEEE Xplore, 2022 Fourth International Conference Neurotechnologies and Neurointerfaces (CNN), 176-179 (год публикации - 2022) https://doi.org/10.1109/CNN56452.2022.9912507