КАРТОЧКА ПРОЕКТА ФУНДАМЕНТАЛЬНЫХ И ПОИСКОВЫХ НАУЧНЫХ ИССЛЕДОВАНИЙ,
ПОДДЕРЖАННОГО РОССИЙСКИМ НАУЧНЫМ ФОНДОМ

Информация подготовлена на основании данных из Информационно-аналитической системы РНФ, содержательная часть представлена в авторской редакции. Все права принадлежат авторам, использование или перепечатка материалов допустима только с предварительного согласия авторов.

 

ОБЩИЕ СВЕДЕНИЯ


Номер проекта 24-29-20168

НазваниеРазработка теоретических и практических основ асинхронных интерфейсов «мозг-компьютер» для распознавания моторики оператора путем классификации сигналов электроэнцефалограмм с применением сверточных нейронных сетей

Руководитель Журавлёв Дмитрий Владимирович, Кандидат технических наук

Организация финансирования, регион Федеральное государственное бюджетное образовательное учреждение высшего образования «Воронежский государственный технический университет» , Воронежская обл

Конкурс №90 - Конкурс 2024 года «Проведение фундаментальных научных исследований и поисковых научных исследований малыми отдельными научными группами» (региональный конкурс)

Область знания, основной код классификатора 09 - Инженерные науки; 09-607 - Теория человеко-машинных систем управления

Ключевые слова Сверточные нейронные сети, искусственные нейронные сети, параметризация, алгоритмы классификации, гиперпараметры, интерфейс «мозг-компьютер», асинхронный интерфейс, электроэнцефалограмма, обработка сигналов, многослойный персептрон

Код ГРНТИ28.23.37


 

ИНФОРМАЦИЯ ИЗ ЗАЯВКИ


Аннотация
Проект направлен создания научно-технического задела с комплексной доработкой программно-аппаратной составляющей асинхронных интерфейсов «мозг-компьютер» (ИМК). Реализация проекта заключается в исследованиях и разработке ряда решений, как в аппаратной части схемотехнической и конструкторско-технологической реализации интерфейса, так и программной составляющей, направленной на создание математических моделей и алгоритмов предобработки данных, формирования вторичных параметров на основе сигналов электроэнцефалограмм (ЭЭГ), а также аугментации для точного распознавания моторики в режиме онлайн при использовании глубоких искусственных нейронных сетей В настоящее время существующие интерфейсы «мозг-компьютер» базируются на методах анализа частотной области, временной области, частотно-временной области с применением различных нелинейных методов. Общий недостаток данных методов заключается в том, что обычный рядовой человек практически не способен умышленно управлять изменением частотных составляющих ЭЭГ сигналов по собственному желанию в установленный промежуток времени. Изменения частотной и временной областей ЭЭГ обычно происходят непроизвольно. Они связаны с реакцией мозга либо на внешние раздражители, либо на общее внутреннее состояние организма. Следовательно, добиться высокой достоверности принятия решений в интерфейсе «мозг-компьютер», основанного на результатах изменений ЭЭГ сигнала с помощью перечисленных выше методов не представляется возможным. Однако повышение достоверности принятия решений в интерфейсе «мозг-компьютер» (ИМК) вплоть до уровня 95% и выше может быть достигнуто благодаря применению методов реализации искусственных нейронных сетей (ИНС) для классификации сигналов ЭЭГ. В результате выполнения проекта планируется создание работоспособного лабораторного образца программно-аппаратного комплекса (ПАК) асинхронного ИМК для распознавания моторики оператора по сигналам ЭЭГ с точностью не хуже 90% в режиме реального времени. Для этого планируется исследование вариантов применения моделей и алгоритмов предобработки данных, формирования вторичных параметров для использования глубоких искусственных нейронных сетей. ПАК будет предназначен для классификации по ЭЭГ-сигналам, какой именно рукой правой или левой осуществляются движения оператора. Основные потребительские характеристики: наличие беспроводного канала связи устройства съема ЭЭГ-сигналов с устройством для обработки и классификации моторики (ЭВМ); распознавание моторики реальных движений правой/левой рукой оператора по записям ЭЭГ-сигналов в режиме офлайн; распознавание моторики реальных движений правой/левой рукой оператора по ЭЭГ-сигналам в режиме онлайн. Управление устройствами и системами на основе ИМК является актуальной научно-технической задачей, которая обусловлена необходимостью скрытно и эффективно передавать управляющую информацию посредством сигналов головного мозга без использования дополнительных манипуляторов. Следует отметить, что в настоящее время все большее внимание отечественных и зарубежных исследователей и разработчиков обращается на проблему разработки ИМК. Однако для реализации подобных интерфейсов необходимо решить задачи из разных областей науки: радиотехники, нейробиологии, математического моделирования и др. С точки зрения математического моделирования, или конечной обработки, нейроинтерфейс представляет собой источник дискретного цифрового сигнала, который необходимо классифицировать, для адекватного сопоставления действия компьютерной системы мыслям или действиям оператора. Суть научной новизны исследования будет состоять в разработке и применении моделей и алгоритмов предобработки данных и формировании вторичных параметров на основе сигналов ЭЭГ, а также аугментации для точного распознавания моторики в режиме онлайн при использовании глубоких искусственных нейронных сетей.


 

ОТЧЁТНЫЕ МАТЕРИАЛЫ


Аннотация результатов, полученных в 2024 году
Проведен аналитический обзор научных и информационных источников посвященных проблемам разработки интерфейсов «мозг-компьютер» (ИМК) и их составных частей. Проведены патентные исследования в данной области. Собран действующий макет интерфейса «мозг-компьютер» для проведения исследований. Проведено исследование переходов кожа-электрод в различных исполнениях. На основании проведенного исследования определены типы электродов максимально подходящие для применения в переносных малогабаритных ИМК. Проведено исследование различных схемотехнических вариантов построения активных резистивно-емкостных электродов. Выявлено оптимальное схемотехническое решение построения активных резистивно-емкостных электродов на основе операционных усилителей TLC272 для применения в неинвазивных переносных ИМК. Исследовано влияние локализации электродов, также их количества на точность классификации моторных образов. Также было исследовано влияние частотного диапазона регистрации электроэнцефалограмм (ЭЭГ) на точность классификации. Разработана единая методика настройки параметров интерфейсов «мозг-компьютер» для обеспечения единства измерений и максимально возможных значений точностей классификации моторных образов. Проведено исследование влияния трех алгоритмов машинного обучения (линейный дискриминантный анализ, метод опорных векторов, многослойный персептрон) на показатели точностей классификации. Сформированы оптимальные параметры настройки классификаторов. Проведено исследование эффективности использования различных моделей диффузионных нейронных сетей в задачах классификации моторных образов по сигналам ЭЭГ, показана их универсальность для работы дикторозависимыми и дикторонезависимыми наборами данных. Проведено исследование эффективности классификации моторных образов как реальных, так и воображаемых движений рук при помощи классификаторов, построенных на основе моделей диффузионных нейронных сетей TimeGrad, ScoreGrad и DVa. Проведено исследование нескольких классификаторов, базирующихся на разных математических подходах: линейный дискретный анализ (LDA), правило Хебба, многослойный персептрон (МСП) и свёрточная нейронная сеть (СНС), представляющая собой повторяющиеся части архитектуры, которые состоят из некоторого набора различных слоёв ResNet. Разработана архитектура СНС на основе архитектуры ResNet, наилучшим образом подходящая для нейроклассификатора ЭЭГ. Проведено исследование по определению оптимального числа нейронов ИНС в виде МСП. В процессе исследования был разработан метод определения оптимального числа нейронов в нейронных сетях. На основе архитектуры ResNet разработана модель бинарного классификатора, которая была реализована на языке Python в разработанном программном обеспечении. Проведено исследование по выявлению оптимальных методов оценок качества работы разработанного бинарного классификатора. Проведено исследование по применению различных оптимизаторов в задачах бинарной классификации ЭЭГ. Проведено исследование влияния следующих оптимизаторов на результаты классификаций: стохастический градиентный спуск (Stochastic Gradient Descent, SGD); Adaptive Momentum (ADAM); Метод сопряжённых градиентов; Алгоритм Бройдена-Флетчера-Голдфарба-Шанно (BFGS); Алгоритм Левенберга-Марквардта. С использованием собственного программного обеспечения написанного на языке Python был проведен ряд вычислительных экспериментов. Проведен расчет метрик «Accuracy», «Precision», «Recall», «F1» для различных архитектур классификаторов (ResNet, полносвязный персептрон, LDA, персептрон Розенблата). Наилучшие показатели метрик («Accuracy» 68,31%, «Precision» 67,08%, «Recall» 68,80%, «F1» 67,97%) продемонстрировал разработанный нейроклассификатор на основе архитектуры ResNet при использовании оптимизатора ADAM. Таким образом, было проведено комплексное исследование нейросетевых и алгоритмически детерминированных классификаторов, методов оптимизации первого и второго порядков. Лучшие показатели метрик, в частности, метрики «F1» удалось достичь с помощью макро слоев СНС, повторяющиеся части архитектуры, которые состоят из некоторого набора различных слоев, т. е. ResNet с шестнадцатью повторяющимися блоками при использовании оптимизатора первого порядка с адаптивной оптимизацией импульсов (ADAM). В результате проведенного исследования было установлено влияние применения различных вариантов исполнения нейронных сетей на результативность выполнения задач классификации сигналов ЭЭГ. Также был разработан нейроклассификатор на основе архитектуры ResNet для решения задач классификации объектов выделенных в ЭЭГ сигналах.

 

Публикации

1. Журавлёв Д.В., Голубинский А.Н. Разработка платы расширения системы регистрации электроэнцефалографической информации Cyton для интерфейса «мозг-компьютер» Журнал "Биомедицинская радиоэлектроника" (год публикации - 2025)

2. Журавлёв Д.В., Голубинский А.Н., Толстых А.А., Резниченко А.А. Разработка методики настройки параметров интерфейсов «мозг-компьютер» для проведения экспериментов по классификации моторных образов в программе OpenVIBE Журнал "Биомедицинская радиоэлектроника" (год публикации - 2025)

3. Журавлёв Д.В., Голубинский А.Н., Толстых А.А., Резниченко А.А. Исследование эффективности классификаторов моторных образов построенных с применением диффузионных моделей искусственных нейронных сетей Журнал "Биомедицинская радиоэлектроника" (год публикации - 2025)

4. Журавлёв Д.В., Голубинский А.Н. Теоретические и практические основы вариантов проектирования пассивных резистивно-емкостных электродов для использования в асинхронных нейрокомпьютерных интерфейсах Журнал "Биомедицинская радиоэлектроника" (год публикации - 2025)


Аннотация результатов, полученных в 2025 году
Разработаны и исследованы схемотехнические реализации активных емкостных электродов построенных на микросхемах: LMP7701, LMP7721 и ADA4528. Также отдельно разработан емкостный электрод для контура так называемой «правой ноги» (Driven Right Leg, DRL) активного типа на микросхеме LMP7701. Цель исследования состояла в проектировании активных резистивно-емкостных и емкостных электродов «сухого типа», комплексном исследовании вариантов их схемотехнической реализации, способов подключения к усилителям биопотенциалов, обеспечении минимизации шумовых характеристик для достижения качества регистрируемого электроэнцефалографического (ЭЭГ) сигнала не хуже чем при использовании регистрирующих электродов «влажного типа» (например, классических Ag/AgCl). Собраны действующие макеты различных вариантов исполнения электродов, проведены имитационное моделирование и натурные эксперименты. Проведена оценка влияния предварительного усиления полезного сигнала непосредственно в регистрирующих электродах на уровень вносимых искажений в полезный сигнал. Оценка проводилась по основным метрикам качества: коэффициент ослабления синфазных сигналов, отношение сигнал/шум, коэффициент шума и фактор шума. Предложен метод схемотехнической реализации активных емкостных электродов основанный на организации цепей обратной связи между выходами усилительных элементов электрода и кольцами сплошной металлизации на печатной плате, расположенными вокруг основной регистрирующей пластины электрода. Такой метод схемотехнической реализации обеспечивает стабилизацию работы электрода и улучшение метрик качества. При этом емкостные электроды обеспечивали качество передачи ЭЭГ сигнала на уровне классических Ag/AgCl электродов, но значительно превосходили классические электроды по удобству в эксплуатации. Оценка рассмотренных метрик качества была проведена не отдельно на разработанных электродах, а на всей системе «кожа-электрод-регистрирующая аппаратура». С помощью разработанного макета портативной нейрогарнитуры интерфейса «мозг-компьютер» (ИМК) проведена запись более трехсот сессий на различных операторах в различное время и с различными их психоэмоциональными состояниями. Это говорит о дикторонезависимости собранного набора данных. При построении нейроклассификатора в исследовании 2025 года предложена архитектура искусственных нейронных сетей (ИНС) на основе слоев внимания (attention layers). Проведено комплексное исследование результативности бинарной классификации данных ЭЭГ с применением новых архитектур на основе слоев внимания. Проведено сравнение новых архитектур с ранее рассмотренными архитектурами. Также была предложена и анализирована архитектура модели на основе «многоголового» внимания применительно к задачам классификации паттернов ЭЭГ. По результатам классификаций дана оценка эффективности сетей на основе слоёв внимания для классификации паттернов ЭЭГ. Для подтверждения правильности вычислительных экспериментов оценка была сформирована как для наборов данных полученных из сторонних открытых источников, так и для набора данных ЭЭГ, полученных при регистрации с помощью разработанного макета ИМК в различных модификациях. Наивысшие средние значения метрик (аccuracy = 95,04%; рrecision = 95,23%; recall = 96,81%; F1 = 96,01%) на валидационных выборках удалось получить для архитектуры классификатора построенного с применением свёрточной нейронной сети (СНС) ResNet на основе «многоголового» внимания. Модель на основе механизма внимания продемонстрировала значительное увеличение метрик в задачах классификации моторных образов по сигналам ЭЭГ. Среднее увеличение метрик по сравнению с классификаторами на основе других моделей составляет порядка 30 %, что позволяет сделать вывод об эффективности предложенной архитектуры. Далее в ходе исследования была получена оценка вычислительной сложности для различных классов рассматриваемых нейроклассификаторов. Получена теоретическая оценка в FLOPS для прямого и обратного проходов по вычислительному графу при вычислении градиентов. Практическая оценка получена путем измерения времени инференса модели, усредненного по нескольким сессиям измерений. Проведен анализ соотношения полученных теоретических и эмпирических оценок. Количественные значения FLOPS были рассчитаны для моделей на основе: многослойного персептрона; СНС ResNet; СНС ResNet на основе «многоголового» внимания. Полученная оценка позволила сделать выводы о возможности применения моделей в условиях ограниченности вычислительных ресурсов в портативных версиях ИМК без использования персонального компьютера для проведения вычислений. В ходе исследования была предложена экспериментальная методика анализа эффективности параметризатора в виде ИНС применительно к задачам классификации паттернов ЭЭГ. Методика основана на вычислении значимых карт класса и интегральных градиентов. В результате была проведена оценка эффективности параметризаторов для всех рассматриваемых архитектур. Наиболее оптимальная архитектура с точки зрения метрик и эффективности в вычислительном плане является архитектура СНС ResNet на основе «многоголового» внимания с уменьшенным количеством гиперпараметров. Таким образом, было получено теоретическое и эмпирическое обоснование выбора нейросетевого классификатора в задачах распознавания ЭЭГ сигналов. Так как архитектура СНС ResNet на основе «многоголового» внимания показала оптимальный результат в задачах классификации моторных образов по сигналам ЭЭГ, то она была использована в качестве исходной архитектуры для дальнейшей оптимизации с помощью генетического алгоритма (ГА). Разработанный ГА учитывает ранее полученные результаты и формализует их для автоматического выбора архитектур. Процесс выбора сопровождался построением траектории в пространстве архитектур для наглядной визуализации и объяснимости результатов. На протяжении 100 поколений производился поиск более оптимальной архитектуры. Для одного полного цикла поиска архитектуры (100 поколений, 10 потомков) пришлось обучить 1000 нейронных сетей. Эксперименты показали, что в среднем необходимо, около, 25-ти поколений для стабилизации решения (под стабилизацией понимается выход функции fitness (функции соответствия) на плато). Таким образом, использование ГА позволило улучшить предыдущие результаты классификации на 2-5 %. В результате проведенных исследований был разработан действующий макет портативного неинвазивного ИМК, сочетающего в себе передовые достижения в области радиотехники, математического моделирования и позволяющего проводить регистрацию ЭЭГ данных с помощью электродов «сухого типа», а также классификацию моторных образов по сигналам ЭЭГ со средней точностью 95% в офлайн режиме и 75% в онлайн режиме.

 

Публикации

1. Журавлев Д.В., Резниченко А.А., Голубинский А.Н., Толстых А.А. Исследование бинарных классификаторов, базирующихся на разных математических подходах при распознавании моторных образов двигательной активности в интерфейсе «мозг-компьютер» асинхронного типа Журнал радиоэлектроники, ИССЛЕДОВАНИЕ БИНАРНЫХ КЛАССИФИКАТОРОВ, БАЗИРУЮЩИХСЯ НА РАЗНЫХ МАТЕМАТИЧЕСКИХ ПОДХОДАХ ПРИ РАСПОЗНАВАНИИ МОТОРНЫХ ОБРАЗОВ ДВИГАТЕЛЬНОЙ АКТИВНОСТИ В ИНТЕРФЕЙСЕ «МОЗГ-КОМПЬЮТЕР» АСИНХРОННОГО ТИПА, Журавлев Д.В., Голубинский А.Н., Толстых А.А., Резниченко А.А., Журнал радиоэлектроники. 2025. № 11. (год публикации - 2025)
10.30898/1684-1719.2025.11.34

2. Журавлев Д.В., Голубинский А.Н., Летов Н.А. Разработка активных резистивно-емкостных электродов и исследование схемотехнических методов минимизации электродных шумов в системе регистрации ЭЭГ сигналов «Open BCI» Журнал радиоэлектроники, РАЗРАБОТКА АКТИВНЫХ РЕЗИСТИВНО-ЕМКОСТНЫХ ЭЛЕКТРОДОВ И ИССЛЕДОВАНИЕ СХЕМОТЕХНИЧЕСКИХ МЕТОДОВ МИНИМИЗАЦИИ ЭЛЕКТРОДНЫХ ШУМОВ В СИСТЕМЕ РЕГИСТРАЦИИ ЭЭГ СИГНАЛОВ «OPEN BCI» Журавлев Д.В., Голубинский А.Н., Летов Н.А. Журнал радиоэлектроники. 2025. № 11. (год публикации - 2025)
10.30898/1684-1719.2025.11.33

3. Журавлев Д.В. Система передачи буквенно-цифровой информации на основе частотно-временного анализа сигнала электроэнцефалограммы Журнал радиоэлектроники, СИСТЕМА ПЕРЕДАЧИ БУКВЕННО-ЦИФРОВОЙ ИНФОРМАЦИИ НА ОСНОВЕ ЧАСТОТНО-ВРЕМЕННОГО АНАЛИЗА СИГНАЛА ЭЛЕКТРОЭНЦЕФАЛОГРАММЫ Журавлев Д.В. Журнал радиоэлектроники. 2025. № 7. (год публикации - 2025)
10.30898/1684-1719.2025.7.15

4. Журавлёв Д.В., Голубинский А.Н., Резниченко А.А. Универсальный программно-аппаратный комплекс для управления роботизированными устройствами на основе принципов работы синхронного или асинхронного интерфейсов "мозг-компьютер" Журнал радиоэлектроники, УНИВЕРСАЛЬНЫЙ ПРОГРАММНО-АППАРАТНЫЙ КОМПЛЕКС ДЛЯ УПРАВЛЕНИЯ РОБОТИЗИРОВАННЫМИ УСТРОЙСТВАМИ НА ОСНОВЕ ПРИНЦИПОВ РАБОТЫ СИНХРОННОГО ИЛИ АСИНХРОННОГО ИНТЕРФЕЙСОВ "МОЗГ-КОМПЬЮТЕР" Журавлёв Д.В., Голубинский А.Н., Резниченко А.А. Журнал радиоэлектроники. 2025. № 1. (год публикации - 2025)
10.30898/1684-1719.2025.1.1

5. Журавлев Д.В., Голубинский А.Н., Летов Н.А. Разработка резистивно-емкостных электродов «сухого типа» для применения в носимых портативных интерфейсах «мозг-компьютер» Биомедицинская радиоэлектроника (год публикации - 2026)

6. Журавлев Д.В., Резниченко А.А., Голубинский А.Н., Толстых А.А. Исследование влияния алгоритмов оптимизации на точность классификации моторных образов по сигналам ЭЭГ при использовании бинарного классификатора, построенного на основе архитектуры свёрточной нейронной сети RESNET Биомедицинская радиоэлектроника (год публикации - 2026)


Возможность практического использования результатов
В результате выполнения проекта разработан работоспособный образец программно-аппаратного комплекса асинхронного ИМК для распознавания моторики оператора по сигналам ЭЭГ с точностью не хуже 95% в режиме офлайн и 75% в режиме онлайн. ПАК предназначен для классификации по ЭЭГ-сигналам, какой именно рукой правой или левой осуществляются движения оператора. Областями применения разрабатываемой продукции являются ИМК для: - создания экзоскелетов гражданского и военного назначения (организации здравоохранения и промышленности); - управления робототехническими комплексами военного, двойного и гражданского назначения (предприятия оборонно-промышленного комплекса и организации, выпускающие гражданскую продукцию); - операторов технического оборудования с целью управления функциональными устройствами без использования рук и ног; - компьютерных игр (компании игровой индустрии). Основные потребительские характеристики: наличие беспроводного канала связи устройства съема ЭЭГ-сигналов с устройством для обработки и классификации моторики (ЭВМ); распознавание моторики реальных движений правой/левой рукой оператора по записям ЭЭГ-сигналов в режиме офлайн; распознавание моторики реальных движений правой/левой рукой оператора по ЭЭГ-сигналам в режимах офлайн и онлайн.