КАРТОЧКА ПРОЕКТА ФУНДАМЕНТАЛЬНЫХ И ПОИСКОВЫХ НАУЧНЫХ ИССЛЕДОВАНИЙ,
ПОДДЕРЖАННОГО РОССИЙСКИМ НАУЧНЫМ ФОНДОМ

Информация подготовлена на основании данных из Информационно-аналитической системы РНФ, содержательная часть представлена в авторской редакции. Все права принадлежат авторам, использование или перепечатка материалов допустима только с предварительного согласия авторов.

 

ОБЩИЕ СВЕДЕНИЯ


Номер проекта 23-11-00134

НазваниеРазработка новых технологий искусственного интеллекта на основе многомасштабных биологически релевантных моделей нейронных сетей мозга

Руководитель Казанцев Виктор Борисович, Доктор физико-математических наук

Организация финансирования, регион федеральное государственное автономное образовательное учреждение высшего образования "Московский физико-технический институт (национальный исследовательский университет)" , г Москва

Конкурс №80 - Конкурс 2023 года «Проведение фундаментальных научных исследований и поисковых научных исследований отдельными научными группами»

Область знания, основной код классификатора 01 - Математика, информатика и науки о системах; 01-201 - Искусственный интеллект и принятие решений

Ключевые слова спайковые нейронные сети, нейрон-астроцитарное взаимодействие, сложные системы, информация, машинное обучение, искусственный интеллект, многослойные сети

Код ГРНТИ28.23.37


 

ИНФОРМАЦИЯ ИЗ ЗАЯВКИ


Аннотация
Целью предлагаемого проекта является разработка новых технологий искусственного интеллекта на основе многомасштабных биологически релевантных моделей нейронных сетей. Считается, что биологическим правдоподобием обладают модели спайковых нейронных сетей, которые представляют собой нейроморфные системы, элементы которых - нейроны способны генерировать импульсы (спайки), а связи между элементами моделируют синаптические связи нейронов в мозге. С точки зрения нелинейной динамики, такие системы представляют собой сложные многомерные динамические системы, поведение которых определяется пространственной архитектурой соответствующей сети, характеристиками нелинейности и характерными временными масштабами процессов. Увеличивающийся в последние годы интерес исследователей и крупных промышленных корпораций к спайковым нейронным сетям определяется двумя основными моментами. Во-первых, такие сети являются наиболее приближенными к мозгу моделями при построении нового класса систем искусственного интеллекта, имитирующих работу мозга. Во-вторых, наличие собственной временной динамики (в отличие от традиционных моделей искусственных нейронных сетей персептронного типа) позволяет проектировать технические приложения, использующие динамические эффекты синхронизации, частотной и фазовой селективности при построении систем автоматического управления. В ходе проекта планируется разработать многослойные многомасштабные архитектуры спайковых нейронных сетей и алгоритмов их обучения, позволяющих решать задачи классификации, ассоциативного обучения и хранения информации. Ключевой особенностью принципов обучения в разрабатываемых нейронных системах является их биологическая обоснованность и отличие от известных алгоритмов, используемых в искусственных сетях. В предлагаемых нейронных архитектурах связи между элементами будут динамически перестраиваться в процессе реализации заданной функции в соответствии с экспериментально подтвержденным алгоритмом обучения в форме Хеббовской пластичности STDP (англ. Spike-Timing-Dependent Plasticity). Научная новизна предлагаемого проекта также определяется тем, что разработанные новые архитектуры нейронных сетей будут учитывать внеклеточные механизмы модуляции распространения сигналов в нейронных сетях, в частности за счет активности астроцитов и астроцит-опосредованной регуляции синаптической передачи сигнала между нейронами. Недавние исследования показывают, что астроциты, один из наиболее распространенных типов глиальных клеток, способны генерировать импульсы химической (кальциевой) активности в ответ на прохождение импульсных сигналов через нейронную сеть. Считается, что кальциевая активность в астроцитах участвует в биофизических механизмах двунаправленного взаимодействия между нейронами и астроцитами. Экспериментальные и теоретические исследования показали, что астроциты способны индуцировать пространственно-временную координацию сигнализации в нейронных сетях и вовлечены в процессы обучения и формирования как краткосрочной, так и долгосрочной памяти. Изучение роли астроцитарной регуляции нейронной активности в процессах генерации и обработки информации в головном мозге, а также в формировании когнитивных функций является одной из приоритетных междисциплинарных задач современной науки. Таким образом, объединение механизмов сигнализации спайковых нейронных сетей, биологически релеватных свойств динамической перестройки связей и учет эффектов астроцитарной модуляции распространения сигналов позволит создать новые высокоэффективные системы искусственного интеллекта, имитирующие принципы работы мозга.


 

ОТЧЁТНЫЕ МАТЕРИАЛЫ


 

Публикации

1. Стасенко С.В., Казанцев В.Б. Model of Astrocyte Regulation of Spike-Timing-Dependent Plasticity IEEE Xplore, 2023, pp. 86-89 (год публикации - 2023)
10.1109/CNN59923.2023.10275176

2. Стасенко С.В., Михайлов А.Н., Казанцев В.Б. Model of Neuromorphic Odorant-Recognition Network Biomimetics, 2023, Т. 8, № 3, С. 277 (год публикации - 2023)
10.3390/biomimetics8030277

3. Стасенко С.В., Казанцев В.Б. Covid Olfactory Dysfunction Model IEEE Xplore, 2023, pp. 82-85 (год публикации - 2023)
10.1109/CNN59923.2023.10275264


Аннотация результатов, полученных в 2024 году
На отчетном этапе проекта были разработаны биологически релевантные модели спайковых нейронных сетей с синаптической пластичностью и астроцитарной регуляцией синаптической передачи и пластичности. Было проведено исследование влияния классической пластичности Хебба (STDP) в тормозных синапсах на динамические режимы нейронной активности в присутствии астроцитарной регуляции. Было получено, что при отсутствии такой пластичности связи между этими нейронами переводят динамику сети в режим пачек, что наблюдается во многих экспериментальных нейробиологических исследованиях при изучении живых сетей в нейронных культурах. Было показано, что замена синаптической пластичности в тормозных синапсах мемристивной пластичностью позволяет наблюдать схожие эффекты в такой системе. Мемристивная пластичность, реализующая синаптическую пластичность в тормозных синапсах, приводит к сдвигу динамики сети в сторону асинхронного режима, также как и классическая пластичность Хебба. Было обнаружено, что учет астроцитарной регуляции в глутаматергических возбуждающих синапсах позволяет восстановить «нормальную» динамику пачек. Были определены условия и параметры влияния такой астроцитарной регуляции на динамику пачек. Для разработки алгоритмов обучения спайковых нейрон-астроцитарных многослойных сетей было исследовано влияние синаптической пластичности (STDP) на возбуждающих и тормозных синапсах на формирование признакового пространства входного изображения на возбуждающих и тормозных слоях нейронов спайковой нейронной сети. Была построена модель спайковой неронной сети с возбуждающими и тормозными слоями нейронов с адаптацией синаптических контактов за счет синаптической пластичности. Были рассмотрены различные конфигурации модели с синаптической пластичностью для задачи формирования признакового пространства входного изображения на возбуждающих и тормозных слоях нейронов, а также проведено их сравнение. Было показано, что синаптическая пластичность в тормозных синапсах ухудшает формирование признакового пространства изображения для задачи классификации. Также получены ограничения модели и выбрана лучшая конфигурация модели. Разработана модель STDP, предусматривающая влияние глии и внеклеточного матрикса, позволяющая эффективно устанавливать и поддерживать относительную фазу спайков в моделях нейронов Ходжкина-Хаксли, обеспечивая формирование необходимых спайковых паттернов. Была разработана новая модель сетевого взаимодействия между нейронами и астроцитами при наличии синаптической пластичности. Было изучено, как астроцитарная модуляция синаптической пластичности влияет на чувствительность синапсов к пространственно-временным паттернам. Было получено, что астроцитарная модуляция STDP усиливает синаптическую чувствительность к пространственно-временным паттернам, улучшая кодирование информации, необходимое для обучения и памяти. Эта модуляция также помогает поддерживать синаптический гомеостаз, предотвращая нестабильность сети. Точно контролируя высвобождение глиотрансмиттера, астроциты поддерживают временную и пространственную специфичность синаптической пластичности, способствуя сложным когнитивным функциям. Понимание этой связи между астроцитами и STDP открывает новые возможности для понимания обработки информации мозгом и стабильности нейронной сети. Было исследовано влияние астроцитарной регуляции на кодирование спайкойвой нейронной сетью 2D-изображений в виде пространственно-временного паттерна спайков. Было получено, что астроцитарная регуляция синаптической передачи в такой сети позволяет подавлять гипервозбуждение и формирование нерегулярной пачечной динамики в ответ на сенсорный стимул. Результаты исследований также были освещены в СМИ: https://neuronovosti.ru/v-nejronnuyu-set-udalos-vstroit-funktsiyu-tormozheniya/ https://nauka.tass.ru/nauka/20937523 https://scientificrussia.ru/articles/v-nejronnuu-set-udalos-vstroit-funkciu- tormozenia https://poisknews.ru/biofizika/funkcziya-tormozheniya-ee-udalos-vstroit-v-mo del-imitiruyushhuyu-sinaps-v-mozge-cheloveka/ https://iz.ru/1703273/mariia-nediuk/memristor-iks-neironnuiu-set-nauchili-im itirovat-rabotu-mozga https://nn.mk.ru/science/2024/06/07/robot-s-iskusstvennym-mozgom-vozmozhno-l i-eto.html https://indicator.ru/biology/v-neironnuyu-set-udalos-vstroit-funkciyu-tormoz heniya-29-05-2024.htm https://inscience.news/ru/article/russian-science/16089 https://xn--80aa3ak5a.xn--p1ai/news/neyronnuyu-set-obuchili-imitirovat-rabot u-mozga/ https://ai-news.ru/2024/06/memristor_iks_nejronnuu_set_nauchili_imitirovat_r abotu_mozga.html

 

Публикации

1. Ефимова Н.Д., Тюкин И.Ю., Казанцев В.Б. Spiking phase control in synaptically coupled Hodgkin–Huxley neurons Chaos, Solitons & Fractals, V. 185, p. 115060 (год публикации - 2024)
10.1016/j.chaos.2024.115060

2. Стасенко С.В., Михайлов А.Н., Федотов А.А., Смирнов В.А., Казанцев В.Б. Astrocyte control bursting mode of spiking neuron network with memristor-implemented plasticity Chaos, Solitons & Fractals, V. 181, p. 114648 (год публикации - 2024)
10.1016/j.chaos.2024.114648

3. Лебедев А.А., Казанцев В.Б., Стасенко С.В. Study of the influence of synaptic plasticity on the formation of a feature space by a spiking neural network Izvestiya VUZ. Applied Nonlinear Dynamics, V. 32, № 2, P. 253–267 (год публикации - 2024)
10.18500/0869-6632-003092

4. Стасенко С.В. Regulation of burst dynamics in the neuron-glial network with synaptic plasticity Izvestiya VUZ. Applied Nonlinear Dynamics, V. 32, № 5, P. 670-690 (год публикации - 2024)
10.18500/0869-6632-003122

5. Лебедев А.А., Леванова Т.А., Казанцев В.Б., Стасенко С.В. Study of the influence of astrocytic modulation of STDP on the sensitivity of synapses to spatiotemporal patterns IEEE Xplore, 2024, pp. 98-101 (год публикации - 2024)
10.1109/CNN63506.2024.10705852

6. Стасенко С.В., Казанцев В.Б. Astrocyte Controlled SNN Dynamic Induced by Sensor Input In: Balandin, D., Barkalov, K., Meyerov, I. (eds) Mathematical Modeling and Supercomputer Technologies. MMST 2023. Communications in Computer and Information Science, vol. 1914. Springer, Cham, V. 1914, pp. 294-301 (год публикации - 2024)
10.1007/978-3-031-52470-7_23


Аннотация результатов, полученных в 2025 году
На 3 этапе исследования были посвящены разработке и анализу биологически правдоподобных спайковых нейронных сетей (СНС) для реализации ассоциативной памяти и решения задач классификации. Основное внимание уделялось изучению влияния многослойной архитектуры на механизмы кодирования информации, а также сравнительному анализу предложенных моделей с существующими аналогами. Была доработана многослойная СНС на базе модели Ходжкина-Хаксли-Майнена (HHM). Архитектура сети включает четыре функциональных слоя: опорный осциллятор (RN), сенсорный слой (SN), слой интернейронов (IN) и слой контрольных нейронов (CN). Как было показано, такая конфигурация способна реализовать ассоциативную память с Хеббовской пластичностью. Исследование продемонстрировало, что предложенная многослойность позволяет эффективно разделять функции кодирования и обработки информации. Сенсорный слой осуществляет первичное фазовое кодирование относительно глобального ритма, задаваемого опорным нейроном RN. Слой интернейронов выполняет фазовое кодирование и «контекст-зависимую» фильтрацию путей распространения сигналов, где вход определяется знаком синаптической связи (возбуждающей или тормозной). Выходной слой CN реализует фазовый аналог векторно-матричного умножения, лежащего в основе ассоциативного извлечения паттерна. Критически важным результатом является демонстрация того, что фазовое кодирование на промежуточном слое может быть настроено так, что разность фаз между состояниями, индуцированными возбуждающим и тормозным входом, стабильно составляет половину периода при пренебрежимо малой дисперсии. Это обеспечивает робастное двоичное кодирование, устойчивое к вариациям амплитуды и частоты. Параметрический анализ межслойных взаимодействий (RN-SN, RN-SN-IN, IN-CN) позволил идентифицировать рабочие режимы, гарантирующие устойчивый режим захвата фазы и выполнение требуемых логических операций. В частности, для полного функционального контура RN-SN-IN-CN были найдены области параметров, в которых фаза выходного нейрона CN относительно RN корректно отражает результат булева умножения для всех возможных комбинаций знаков входных связей. Это подтверждает возможность реализации ассоциативного извлечения из памяти на основе исключительно фазовых соотношений в сети биологически правдоподобных осцилляторов. Апробация архитектуры была проведена на задачах восстановления искаженных бинарных образов и классификации изображений базы MNIST. Модель продемонстрировала способность к корректному восстановлению синтетических зашумленных паттернов, причем выходной фазовый паттерн после декодирования полностью соответствовал аналитическому решению, предоставляемому классической Хеббовской моделью. В экспериментах с изображениями MNIST, подвергнутыми искажениям до 60%, была показана высокая устойчивость модели. Корреляция Пирсона между восстановленным и целевым паттерном сохранялась на уровне около 90%, в то время как сходство с ближайшим неверным образом не превышало 50%. Это свидетельствует о существовании обширных и изолированных бассейнов притяжения в фазовом пространстве сети для хранимых образцов. Здесь важно отметить, что точность восстановления изображений почти никогда не достигает 100%. Это подтверждает, что ассоциативная память на основе классической сети Хопфилда, реализующая фундаментальные физиологические принципы обучения, эффективно хранит и восстанавливает изображения, но не работает как высокопроизводительный классификатор (например, сверточная нейронная сеть). Анализ вычислительной сложности подтвердил практическую реализуемость подхода, хотя и с большими временными затратами по сравнению с формальными нейросетями, что компенсируется нейробиологической релевантностью и потенциальной энергоэффективностью аналоговой реализации. Отдельно исследовалась модель СНС на нейронах Ижикевича, дополненная синаптической пластичностью STDP и механизмом адаптивной перестройки связей. Показано, что данный протокол приводит к консолидации следов памяти и формированию хаб-нейронов, стабилизирующих паттерны популяционной активности. Ключевым результатом является достижение режима консолидации памяти при определенных уровнях внутреннего шума, что на несколько порядков увеличивает время устойчивого хранения информации по сравнению с сетями, использующими только STDP. Была разработана и протестирована нейрон-астроцитарная сеть для классификации изображений. Модель включала слои возбуждающих и тормозных нейронов с латеральным торможением, синаптической пластичностью STDP, а также модуляцию синаптической передачи со стороны астроцитов. Результаты показали, что астроцитарная регуляция повышает точность классификации как на обучающей, так и на тестовой выборках, усиливая функциональную связь между возбуждающими и тормозными ансамблями. Было выявлено, что точность классификации изображений растет по мере увеличения влияния астроцитов на глутаматергические синапсы и постепенно достигает стационарного уровня. Проведенное сравнение предложенных моделей с существующими аналогами, включая сети Хопфилда, осцилляторные сети Курамото и стандартные СНС, выявило их конкурентные преимущества. Основным достоинством является высокая биологическая правдоподобность, обеспечиваемая использованием полной динамики HHM-нейронов и фазового кодирования с глобальной синхронизацией. Архитектура с «контекст-зависимой» фильтрацией на слое IN позволяет селективно активировать подмножества Хеббовской матрицы в зависимости от входного стимула, что минимизирует число путей передачи сигнала без потери информации. По максимальной ёмкости памяти и устойчивости к шуму модель превосходит классические осцилляторные сети и тривиальные СНС, приближаясь по последнему показателю к сверточным сетям, но за счет принципиально иного механизма формирования крупных аттракторов в фазовом пространстве. Модель с адаптивной перестройкой связей показала исключительную эффективность в консолидации памяти, значительно увеличивая ее надежность по сравнению со стандартными STDP-механизмами.

 

Возможность практического использования результатов
Разработанные в рамках проекта биологически релевантные модели нейронных сетей и нейроморфные вычислительные архитектуры формируют значительный научно-технологический задел для Российской Федерации в области энергоэффективного искусственного интеллекта. Результаты имеют непосредственный потенциал для коммерциализации в следующих направлениях: Создание новых технологий специализированных нейроморфных процессоров на основе апробированной мемристивной реализации STDP, в том числе предназначенных для обработки сенсорных данных (обоняние, зрение) в режиме реального времени с низким энергопотреблением. Это обеспечит технологический суверенитет в области специализированного аппаратного обеспечения для ИИ. В рамках усовершенствования продукции и сервисов могут быть использованы модели фазового кодирования и ассоциативной памяти. Они могут быть применены в том числе для создания новых алгоритмов распознавания образов и аномалий в задачах промышленного контроля, медицинской диагностики (включая анализ биомедицинских сигналов) и обработки естественного языка, повышая точность и эффективность существующих решений. Нейрон-астроцитарные сети представляют ценность для фармакологии и нейропротезирования, открывая пути к разработке новых методов цифровой терапии и диагностики нейродегенеративных заболеваний, что способствует улучшению качества жизни населения, что имеет ярко выраженный социально-экономический аспект. Таким образом, проект способствует импортозамещению критических технологий в сфере ИИ, создаёт основу для новых высокотехнологичных продуктов и вносит вклад в развитие цифровой медицины, обеспечивая социально-экономический рост страны.