Аннотация результатов, полученных в 2022 году
В ходе научных исследований за 2022 год нами были разработаны новые нейросетевые технологии на базе резервуарных вычислений (РВ), включающие методы энтропийного анализа, и показано применение этих технологий в важных отраслях, таких как медицина и «интернет вещей». Работа, в частности, базировалась на результатах предыдущего проекта РНФ №16-19-00135 (2019-2020 гг.), где нами была предложена архитектура резервуарной нейронной сети LogNNet и ряд аналоговых нейроморфных схем. Основные результаты: 1. Разработана методика по определению наиболее эффективных показателей крови (RBV - Routine Blood Values) в диагностике/прогнозе COVID-19 для резервуарной нейронной сети LogNNet. Наиболее важными RBV, которые влияют на диагностику заболевания из первого датасета, были средняя концентрация корпускулярного гемоглобина (MCHC), среднее содержание корпускулярного гемоглобина (MCH) и активированное парциальное протромбиновое время (aPTT). Модель LogNNet продемонстрировала высокую точность диагностики заболевания COVID-19 без знания симптомов или истории пациентов. Модель подходит для устройств с ограниченными аппаратными ресурсами (3-14 КБ ОЗУ), например, программно-аппаратной платформы Arduino, и перспективна для создания мобильных систем мониторинга здоровья в Интернете вещей. Предложенный метод позволит снизить нагрузку на сектор здравоохранения, улучшить понимание патогенеза COVID-19 через анализ ключевых параметров крови, и может способствовать процессу лечения. 2. Выявлены предикторы смертности от COVID-19 на основе показателей крови с использованием моделей машинного обучения. В качестве критерия классификации использовали квадрат метрики F1^2 = F1(класс 1)*F1 (класс 2), рассчитанный на основе значений для обоих классов. Было обнаружено, что наиболее успешным алгоритмом классификации оказался градиентный бустинг (значение F1^2 = 1) на основе гистограмм (Histogram-based Gradient Boosting, HGB), с использовнием 34-х показателей крови. Наиболее эффективными парами признаков оказались пары прокальцитонина с D-димером, СОЭ, прямым билирубином и ферритином. Модель HGB, работающая с этими парами признаков, правильно определила почти всех выживших и умерших пациентов (точность Precision > 0.98, полнота Recall > 0.98, F1^2 > 0.98). Принимая во внимание все результаты, мы предполагаем, что прокальцитонин и ферритин являются основными показателями крови в сочетании с которыми другие показатели дают высокую точность классификации. Модель HGB может быть успешно использована для выявления риска смерти от COVID-19. Для понимания принципа работы модели HGB при классификации пациентов с COVID-19, были построены 1D и 2D маски HGB модели. 3. Реализован метод повышающий точность классификации сети LogNNet. При увеличении длины входного вектора, за счет добавления квадратов основных компонентов, наблюдается небольшое увеличение точности классификации. При использовании базы SARS-CoV-2-RBV3 в случае однослойной сети наблюдается увеличение точности с 95% до 97%. Для базы SARS-CoV-2-RBV1 увеличение точности при удвоении входных данных менее заметно, наблюдаемое изменение составляет от 99.5% до 99.7%. 4. На базе интегро-порогового (leaky integrate-and-fire, LIF) нейрона-осциллятора с частотным кодированием, предложенного нами ранее мы разработали модель хаотического LIF нейрона-осциллятора. Для реализации хаотического осциллятора частотное кодирование спайков производится в цепи резистивной обратной связи с фильтром второго порядка. Мы разработали электронною схему хаотического LIF нейрона, в которой придерживались принципа отсутствия индуктивных связей и элементов, что дает возможность в будущем реализовать схему в полностью интегральном исполнении. Был проведен бифуркационный и энтропийный анализ схемы хаотического осциллятора, который показал соответствие механизмов развития хаоса по сценарию каскадов удвоения периодов. Мы продемонстрировали, что разработанный хаотический осциллятор интегро-порогового типа с частотным кодированием в цепи обратной связи можно использовать в резервуарных вычислениях, например, в сети LogNNet. 5. Разработана модель физического резервуара на основе релаксационных осцилляторов (цифровых генераторов) с эффектом синхронизации высокого порядка. В качестве взаимодействия между генераторами, была выбрана цифровая схема, которая математически близко соответствует термической связи между релаксационными осцилляторами, исследованной нами ранее (РНФ №16-19-00135) 6. Создан компактный, состоящий из 77 строчек кода алгоритм LogNNet, функционирующий на программно-аппаратной платформе Arduino, предназначенный для диагностики и прогнозирования заболевания COVID-19 по клиническим показателям крови. Преимуществом использования хаотического отображения в резервуаре можно считать снижение потребления оперативной памяти для работы нейронной сети, за счет эффекта детерминированности хаоса. Проведена реализация LogNNet на плате Arduino Nano 33 IoT с ограниченными вычислительными ресурсами. В ходе тестирования было выявлено, что разработанный алгоритм позволяет получить ту же точность, что и исходная компьютерная модель: 99.7%”. Подобные устройства и алгоритмы легко интегрируются в концепцию «Интернет вещей». 7. Впервые показано, что энтропия коротких временных рядов может быть аппроксимирована регрессионными методами машинного обучения (ML). Обученные модели распознавали участки хаоса и порядка на спутниковых изображениях, аппроксимируя алгоритмы перестановочной энтропии (PermEn), энтропии шаблонов (SampEn), энтропии сингулярного разложения (SvdEn) и энтропии нейронной сети (NNetEn). Для реализации задачи мы использовали 200 изображений поверхности Земли размером 256x256 пикселей, полученные со спутника Sentinel-2 в четырех различных диапазонах. С помощью кругового ядра пиксели изображения преобразовывались в ряды чисел, для которых высчитывалась энтропия. В качестве целевой метрики при подборе моделей использовался коэффициент детерминации R2. Наиболее точные результаты аппроксимации SvdEn показал алгоритм градиентного бустинга, для которого среднее значение R2 = 0.996 по результатам кросс-валидации. Уменьшение длины рядов за счет уменьшения радиуса ядра повышало точность модели: R2 увеличилось с 0.947 до 0.997 при уменьшении длины ряда с 113 до 5 элементов. Модель ML_SvdEn была обучена и протестирована с использованием синтетических данных. Были получены высокие результаты аппроксимации логистического отображения (коэффициент корреляции Пирсона 0.968) моделью, обученной на отображении Планка. Скорость работы моделей машинного обучения для ML_NNetEn, ML_PermEn, ML_SampEn оказалась выше, чем у исходного алгоритма, хотя модели ML_PermEn, ML_ SampEn показали не самую высокую точность. Наибольшее ускорение достигнуто для модели ML_NNetEn (несколько порядков величины). Таким образом, в результате этой работы показана возможность универсальной аппроксимации энтропии, вычисленной разными методами с помощью методов машинного обучения для рядов чисел длиной до 113 элементов. 8. Предложена методика трансформации 2D изображения в одномерную временную серию. Круговые ядра обладают вращательной симметрией и позволяют получать результат распределения 2D энтропии устойчивый к вращению изображения. 9. Разработана методика использование резервуарной нейронной сети LogNNet и нескольких стандартных алгоритмов классификации для автоматической маркировки отчетов Github.

Аннотация результатов, полученных в 2023 году
В ходе научных исследований за 2023 год нами были разработаны новые нейросетевые технологии на базе резервуарных вычислений (РВ), и показано их применение в важных отраслях, таких как медицина и «Интернет вещей» (IoT). Результаты опубликованы в рейтинговых журналах, цитируемых Scopus (‘Nonlinear Dynamics’ (1 статья), ‘Sensors’ (2 статьи), ‘Algorithms’ (1 статья), ‘AIP conference proceedings’ (2 статьи)), представлены на 2-x конференциях, получены права на 1 РИД, представлены в СМИ (26 источников). https://petrsu.ru/persons/1385/pages/15384/smi-o-laboratorii 1) Проведен обзор современных трендов развития приложений искусственного интеллекта в сфере «Интернета вещей», включающие интеллектуальные услуги здравоохранения, интеллектуальное распознавание объектов, интеллектуальный мониторинг окружающей среды и умное спасение при стихийных бедствиях. Завершен тематический специальный выпуск журнала Sensors “Artificial Neural Networks for IoT-Enabled Smart Applications”. 2) Оптимизирована нейронная сеть LogNNet, основанная на технологии «резервуарных вычислений с автогенерацией весовых коэффициентов». Основным преимуществом LogNNet является низкое потребление RAM памяти NMC (Number of Memory Cells). Автогенерация весов через конгруэнтный генератор позволяет не запоминать всю матрицу, а генерировать веса по мере их использования в процессе вычислений. Например, объем занимаемой памяти для модели LogNNet 100:50:20:3 сокращается до RAM(NMC2)~5.12 kB. 3) Разработан эффективный алгоритм отбора значимых признаков для LogNNet через оптимизацию гиперпараметров конгруэнтного генератора. 4) Предложена новая мера энтропии NNetEn и создана библиотека на языке Python для ее расчёта. Значение энтропии эквивалентно одной из метрик классификации стандартной базы MNIST-10. В случае упорядоченного ряда метрики классификации MNIST-10 низкие, и наоборот хаотический ряд приводит к повышенным метрикам классификации. Результаты показывают, что NNetEn является эффективным признаком временных рядов. В качестве практического применения проиллюстрирована классификация электроэнцефалографических (ЭЭГ) сигналов больных болезнью Альцгеймера (36 человек) и контрольной группы (29 здоровых людей). Продемонстрирован синергетический эффект повышения точности классификации при совместном применении традиционных мер энтропии и NNetEn. 5) Исследованы методы применения машинного обучения (алгоритмы классификации) на различных медицинских базах данных, таких как определение воспаления аппендицита, данные о легкой степени тяжести аппендицита, данные о ишемической болезни сердца по маркерам крови. Нейронная сеть LogNNet была успешно использована на этих базах и показала следующие целевые параметры, соответственно: 1) MCC = 1, LogNNet 12:12:7:2, RAM(NMC2)~0.6 kB; 2) MCC = 0.93, LogNNet 12:11:6:2, RAM(NMC2)~0.52 kB; 3) MCC = 0.65, LogNNet 13:15:10:2, RAM(NMC2)~1 kB. MCC - коэффициент корреляции Мэтьюса. 6) Исследована задача классификации отчетов Github с помощью LogNNet. Точность классификации LogNNet составила 70%, то есть на 6% меньше чем самая высокая точность стандартных алгоритмов, показанная Logistic Regression. Тем не менее, объем занимаемой памяти для модели LogNNet 100:50:20:3 составлял всего RAM(NMC2)~5.1 kB. 7) Исследована база данных EmoSurv, которая содержит информацию о эмоциональном состоянии человека по его манере печати текста на клавиатуре. Градация эмоций имеет 5 состояний: гнев, счастье, спокойствие, печаль и нейтральное состояние. Наилучшие показатели для модели LogNNet 15:50:10:5 показали точность MCC=0.37и RAM(NMC2)~2.7 kB. 8) Представлено новое дискретное отображение (ДО) для описания динамики генератора с хаотической импульсной позиционной модуляцией. Модельная схема имеет импульсный генератор, управляемый напряжением (PVCO) и контур обратной связи (FB) с порогом частотно-импульсного кодирования, который выполняет моностабильный мультивибратор. Модельная схема и ДО демонстрируют динамический хаос в широком диапазоне параметров управления. Переход к хаосу в ДО происходит скачком либо из фиксированной точки, либо из предельного цикла. Реализована экспериментальная схема генератора хаотических импульсов, в которой PVCO и мультивибратор построены на основе интегральной схемы IC NE555 и c микроконтроллером Arduino Uno в контуре FB. Построенное ДО можно считать сигмоидной модификацией известного отображения Бернулли. В отличие от отображения Бернулли наше отображение имеет гибкую настройку с пятью параметрами, а также выход на хаотический аттрактор с любой начальной точки. 9) Исследован метод трансферного обучения резервуарных сетей на примере предсказания хаотических временных рядов с помощью эхо-сетей (echo state networks). Для этого были сгенерированы два временных ряда с помощью уравнения Маки-Гласса с разными значениями параметров и обучены две модели (Модель 1 и Модель 2). Используя подход многозадачного трансферного обучения, была создана третья модель (Модель 3), выходные веса которой были вычислены на основе выходных весов первых двух моделей. Модель 3 предсказывала оба временных ряда с более высокой точностью (RMSE~0.2). 10) Разработана биоинспирированная модель датчика хаоса, для аппроксимации энтропии последовательности импульсов в нейродинамических системах. Принцип работы датчика основан на оценке нерегулярности временных серий с помощью персептрона. На вход однослойного персептрона подавались короткие серии длинной NL=50 элементов, содержащие временные интервалы между спайками, генерируемые моделью Хиндмарша-Роуза, а на выходе оценивалась энтропия этой последовательности. Для оценки точности аппроксимации энтропии использовалась база из 20000 коротких временных серий с различной динамикой, и рассчитывался коэффициент детерминации (R2), между показаниями персептрона (Sensor on Perceptron,(SPE)) и идеальным расчетом по алгоритму FuzzyEn (Sensor on FuzzyEn, (SFU)). В результате, после обучения совпадение показаний персептрона и FuzzyEn составляло R2~0.88. Таким образом, нами был впервые применен подход аппроксимации энтропии временного ряда с помощью машинного обучения. 11) Результаты работы по модели датчика хаоса использованы при регистрации импульсов потенциала действия из дорсального корешка L5 крысы, где показано что сенсор хаоса регистрирует различный тип спайковой активности в режимах стимуляции и покоя корешка (экспериментальные данные были взяты из открытых источников). 12) Показана возможность оценки синхронизации двух импульсных осцилляторов через вычисление Fuzzy энтропии взаимных осцилляций. Степень синхронизации имеет наиболее сильную отрицательную взаимную корреляцию с Fuzzy энтропией. 13) Применили HVG кодирование (граф горизонтальной видимости) к рядам аудиоинформации и показали, что полученные целочисленные ряды занимают меньше дискового пространства примерно в 4 раза и при этом с ними работает подход генерации признаков с помощью мел-спектрограмм с последующей классификацией аудиосэмплов. 14) Исследована база аудиофайлов в формате wav soerenab / AudioMNIST из облачной платформы для хостинга IT-проектов. Начальный набор данных состоял из аудиосэмплов (0.56 с) длиной 12000 и дискретизацией 22050 Гц, в которых произносятся (анг.) 50 различных вариантов каждой цифры от 0 до 9. Нейронная сеть LogNNet 20:38:19:10 использующая всего 20 признаков извлеченных из мел-спектрограмм классифицировала базу с точностью MCC~0.92. Занимаемая LogNNet память составляет всего RAM(NMC2)~4.18 кБ. 15) Исследован метод распознавания звуковых команд из датасета Google's Speech Commands Dataset v2 с помощью моделей машинного обучения. Для этого из исходного датасета было выбрано 2212 файлов с 13 командами. Для каждого файла были вычислены мел-спектровые коэффициенты, а также 1-я и 2-я производные этих коэффициентов с помощью дифференциального фильтра Савицкого-Голея. Точность классификации резервуарной сетью LogNNet 1000:30:26:13, использующая всего 1000 признаков составила MCC~0.27, при этом занимаемая модель память составляет всего ~8.8 кБ.