КАРТОЧКА ПРОЕКТА ФУНДАМЕНТАЛЬНЫХ И ПОИСКОВЫХ НАУЧНЫХ ИССЛЕДОВАНИЙ,
ПОДДЕРЖАННОГО РОССИЙСКИМ НАУЧНЫМ ФОНДОМ

Информация подготовлена на основании данных из Информационно-аналитической системы РНФ, содержательная часть представлена в авторской редакции. Все права принадлежат авторам, использование или перепечатка материалов допустима только с предварительного согласия авторов.

 

ОБЩИЕ СВЕДЕНИЯ


Номер проекта 25-71-10012

НазваниеТехнологии искусственного интеллекта для обеспечения безопасного цифрового пространства: адаптивные алгоритмы определения и реагирования на сложные угрозы социальной инженерии в условиях развития высокопроизводительных вычислений

Руководитель Плешакова Екатерина Сергеевна, Кандидат технических наук

Организация финансирования, регион федеральное государственное бюджетное образовательное учреждение высшего образования "МИРЭА - Российский технологический университет" , г Москва

Конкурс №111 - Конкурс 2025 года «Проведение исследований научными группами под руководством молодых ученых» Президентской программы исследовательских проектов, реализуемых ведущими учеными, в том числе молодыми учеными, приоритетного направления деятельности Российского научного фонда «Поддержка молодых ученых»

Область знания, основной код классификатора 01 - Математика, информатика и науки о системах; 01-201 - Искусственный интеллект и принятие решений

Ключевые слова Искусственный интеллект; кибербезопасность; социальная инженерия; сети Колмогорова-Арнольда; рекуррентные, капсульные нейронные сети; вейвлет-анализ; математические методы оптимизации; квантизация моделей; цифровая обработка сигналов; высокопроизводительные вычисления

Код ГРНТИ28.23.00


 

ИНФОРМАЦИЯ ИЗ ЗАЯВКИ


Аннотация
С экспоненциальным ростом угроз в цифровом пространстве возрастает потребность в разработке эффективных инструментов для обнаружения и противодействия, способных создать безопасную и комфортную цифровую среду. Одним из направлений обладающим существенным потенциалом является применение методов обработки естественного языка (NLP) и искусственного интеллекта (AI). Интеллектуальные системы, базирующиеся на машинном обучении, доказывают высокую эффективность в детектировании инцидентов и противодействии атакам социальной инженерии. Интеллектуальные системы позволяют анализировать текстовую и мультимодальную информацию, определяя аномальные паттерны поведения и прогнозируя потенциальные угрозы. Вместе с этим для обеспечения высокой точности, интерпретируемости и вычислительной эффективности таких систем целесообразна разработка новых алгоритмов, адаптируемых к сложным, трансформирующимся атакам. Прорывная тематика исследования может создать предпосылки для формирования новых научных направлений, а именно: квантизации моделей машинного обучения с использованием результатов функционального анализа, распараллеливания высокопроизводительных вычислений, гибридных и эффективных нейросетевых моделей обработки данных с приложениями в области обеспечении безопасности цифрового пространства. Использование сетей Колмогорова-Арнольда (KAN), опирающихся на теорему Колмогорова о суперпозиции многомерных функций, служит в качестве масштабного направления в области компактных, интерпретируемых и высокопроизводительных моделей. Стоит заметить, что их практическое применение в обеспечении безопасности цифрового пространства остается недостаточным из-за высокой вычислительной сложности и отсутствия адаптивных алгоритмов обучения. В проекте запланирована разработка гибридных нейросетевых моделей, объединяющих сети KAN с классическими методами машинного обучения, включая сверточные нейросети, трансформеры и методы математической оптимизации. Проект нацелен на решение важной прикладной научной задачи, такой как разработка интеллектуальной системы, стабильной к атакам социальной инженерии, реализующую баланс между точностью, вычислительной эффективностью и интерпретируемостью решений. В рамках реализации проекта будут разработаны адаптивные алгоритмы машинного обучения для идентификации атак социальной инженерии, высокопроизводительные вычислительные архитектуры на основе параллельных вычислений. Разработанные решения, в том числе гибридные модели интеллектуальной защиты, объединяющие преимущества сетей KAN и трансформеров, необходимы для эффективной обработки больших объемов данных. Дополнительно будут задействованы методы квантизации моделей на базе разложений тензоров и векторов, обеспечивающие оптимизацию вычислительных ресурсов, высокопроизводительную обработку данных. Вследствие применения данных методов будет достигнута эффективность нейросетевых решений. Среди научных задач следует отметить разработку методов индикации атак социальной инженерии, исследование различных подходов, архитектур и методов, сфокусированных на повышение эффективности интеллектуальных систем защиты, в том числе оптимизацию вычислений, адаптивные алгоритмы машинного обучения и квантизацию моделей. Помимо этого, участниками проекта будет продолжены исследования возможного повышения эффективности гибридных нейросетевых моделей обработки сигналов, использующих оконное преобразование Фурье, вейвлет-анализ, капсульные, сверточные, рекуррентные нейронные сети, численные и другие методы математической оптимизации нейросетевых структур, на базе полученных ранее результатов.

Ожидаемые результаты
В результате реализации проекта будет разработан программный комплекс интеллектуальной системы идентификации и предотвращения атак социальной инженерии на основе высокопроизводительных вычислений, способный выявлять скрытые аномалии и адаптироваться к динамически изменяющимся угрозам. Будут разработаны новые адаптивные алгоритмы машинного обучения, использующие гибридные нейросетевые архитектуры. Будет реализован комплекс методов индикации атак социальной инженерии, объединяющий идентификацию манипулятивных воздействий, анализ поведенческих паттернов пользователей и обнаружение генеративных подмен данных. Ожидаемые результаты проекта охватывают создание программного комплекса идентификации и предотвращения атак, обеспечение устойчивости ИИ-моделей к манипулятивным атакам, включая нейросетевые атаки и генеративные подмены данных. Будут представлены методы оптимизации вычислительных процессов с использованием адаптивных алгоритмов, это обеспечит повышение эффективности работы моделей в условиях ограниченных вычислительных ресурсов. Применение гибридных архитектур на основе сетей KAN и трансформеров сбалансирует точность, интерпретируемость и вычислительную эффективность. Проект нацелен на решение важной научной задачи, состоящей в разработке адаптивных алгоритмов машинного обучения и высокопроизводительных вычислительных архитектур, способных динамически реагировать на эволюционирующие угрозы в условиях экспоненциального роста вычислительных мощностей и усложнения атакующих технологий. В ходе реализации проекта будут получены следующие результаты: 1. Новая гибридная нейросетевая архитектура, сочетающая возможности сетей KAN, LSTM, BILSTM, GNN, CNN. Объединение сетей позволит увеличить точность идентификации атак социальной инженерии с использованием обработки мультимодальных данных и распределенного обучения (federated learning, FL). 2. Оптимизация вычислительных моделей за счет применения методов квантизации, разложения тензоров, сингулярного разложения и распределенных вычислений. Будет достигнуто существенное снижение затрат вычислительных ресурсов и инференс моделей без потери точности. 3. Интеллектуальный метод обработки больших объемов данных. Позволит повысить устойчивость системы к меняющимся атакам. Адаптивные алгоритмы обнаружения атак, позволят увеличить точность классификации угроз социальной инженерии, в том числе спуфинга, фишинга и генеративных подмен данных. 4. Алгоритмы цифровой обработки сигналов для повышения интерпретируемости моделей и улучшения устойчивости к неизвестным атакам. 5. Программный комплекс интеллектуальной системы идентификации и предотвращения атак социальной инженерии на основе высокопроизводительных вычислений. Научная значимость проекта состоит в расширении теоретической базы машинного обучения, разработке новых моделей и алгоритмов, обеспечивающих устойчивость интеллектуальных систем к сложным угрозам. Интегрирование высокопроизводительных вычислительных архитектур, включающих методы параллельных вычислений, квантизацию нейросетевых моделей и оптимизацию обработки больших данных, обеспечит повышение эффективности работы ИИ-систем. Полученные результаты будут соответствовать мировому уровню исследований в области искусственного интеллекта и кибербезопасности, внося вклад в развитие защищенного цифрового пространства. Практическая значимость проекта детерминирована возможностью применения результатов реализации проекта в различных сферах экономики и социальной деятельности. Разработанные в рамках проекта технологии могут получить распространение в системах кибербезопасности государственных и коммерческих организаций, финансового сектора, телекоммуникаций и социальных платформ для защиты данных. Внедрение интеллектуальных алгоритмов идентификации киберугроз обеспечит потенциал для совершенствования существующих технологий защиты персональных данных и корпоративных информационных систем. Предложенные в рамках проекта решения будут способствовать формированию безопасного цифрового пространства. Результатом интеллектуальной деятельности в части разработки прикладного решения будет программный комплекс, в котором выражают заинтересованность технологические партнеры кафедры индустриального программирования РТУ МИРЭА (см. письмо АО РКС вовложении). Проект предусматривает в конце срока реализации создание новой и эффективной технологии обеспечения безопасности цифрового пространства с возможностью использования в хозяйственной деятельности предприятий Российской Федерации. Дальнейшее развития проекта возможно за счет средств технологических партнеров и в рамках частно-государственного партнерства. Реализация проекта направлена, в том числе на развитие научной карьеры молодых ученых, расширение горизонтов планирования их научной работы, формирование исследовательских команд, которые впоследствии могут стать основой новых научных отделов, лабораторий, а именно: декомпозиция задач в проекте реализована таким образом, чтобы по итогам были созданы еще две группы молодых ученых с подтвержденной научной экспертизой мирового уровня в области технологий ИИ на базе лабораторий Финансового университета и РТУ МИРЭА.


 

ОТЧЁТНЫЕ МАТЕРИАЛЫ


Аннотация результатов, полученных в 2026 году
В отчетном периоде получены научные результаты, направленные на формирование математической, алгоритмической и программной основы интеллектуальной системы мониторинга цифрового пространства для выявления атак социальной инженерии и деструктивных информационных воздействий. Выполненные работы обеспечили переход от анализа отдельных цифровых сообщений к построению гибридной модели, учитывающей семантику текста, контекст взаимодействия, временную динамику воздействия, мультимодальные признаки и эмоционально-когнитивное состояние пользователя. Проведен анализ современных методов обнаружения атак социальной инженерии, фишинга, спуфинга, deepfake-контента, деструктивных сообщений и персонализированных манипулятивных воздействий. Рассмотрены методы обработки естественного языка, классические алгоритмы машинного обучения, глубокие нейросетевые модели, трансформерные архитектуры, рекуррентные и сверточные нейронные сети, механизмы внимания, сети Колмогорова–Арнольда и подходы к мультимодальному анализу данных. Показано, что традиционные правило-ориентированные и статистические методы обладают ограниченной устойчивостью к новым и модифицированным атакам, а современные нейросетевые и трансформерные модели требуют дальнейшего развития в направлении интерпретируемости, вычислительной эффективности и учета динамики манипулятивного воздействия. На этой основе обоснована необходимость разработки гибридных интеллектуальных архитектур, объединяющих последовательностную обработку, трансформерный анализ контекста, механизмы многодоменного внимания и KAN-блоки для моделирования нелинейных зависимостей. Сформулированы ключевые параметры и зависимости, характеризующие процессы выявления атак социальной инженерии. Атаки данного типа рассмотрены как сложные информационно-психологические воздействия, реализуемые через текстовые сообщения, аудио- и видеоконтент, подмену цифровой идентичности, фишинговые сценарии, спуфинг, deepfake-материалы и другие виды манипулятивного контента. В качестве значимых признаков определены лексико-семантические характеристики сообщения, признаки срочности, угрозы, давления, запроса на совершение действия, токсичности, деструктивного воздействия. Также отмечены контекстные, временные, мультимодальные и нейрофизиологические параметры. Установлены зависимости между содержанием сообщения, динамикой воздействия, признаками манипуляции, состоянием пользователя и итоговой вероятностной оценкой угрозы. Разработана математическая и алгоритмическая основа гибридной нейросетевой модели обработки текстовых и мультимодальных данных. В качестве базового алгоритмического ядра использована архитектура Hyb-TKAN. Модель предназначенная для многоклассовой классификации деструктивного цифрового контента. Hyb-TKAN объединяет BiLSTM для учета локальных последовательностных зависимостей, Transformer/RoBERTa для извлечения глобального контекста, Multi-Domain Dynamic Attention Network для анализа семантических, контекстных и временных взаимодействий признаков, а также Temporal-KAN/KAN-блоки для моделирования нелинейных зависимостей. Такой подход позволил формализовать связь между входным текстовым представлением, динамикой сообщения и выходной вероятностной оценкой класса угрозы. Для расширения модели в направлении оценки состояния пользователя использована концепция распознавания эмоциональной динамики по данным электроэнцефалографии. В рамках этого направления апробирована модель WS-KAN-EEGNet. Данная модель предназначенная для анализа эмоционально-когнитивных состояний. Показано, что фишинговые и манипулятивные сценарии могут изменять эмоциональное состояние пользователя, усиливая страх, срочность и давление, что повышает риск ошибочного действия. Для анализа таких состояний выделены ЭЭГ-признаки, признаки когнитивной нагрузки и временные траектории вероятностей эмоциональных состояний. Это позволило перейти от анализа отдельных сообщений к мультимодальному анализу, учитывающему цифровой контент, контекст воздействия и состояние пользователя как элемент системы защиты. Разработаны и протестированы начальные версии гибридных нейросетевых архитектур для анализа текстовых и нейрофизиологических данных. Для текстового канала апробирована архитектура Hyb-TKAN, ориентированная на выявление деструктивного контента и признаков манипулятивного воздействия. Для нейрофизиологического канала апробирована модель WS-KAN-EEGNet, позволяющая строить вероятностные траектории эмоциональных состояний пользователя по ЭЭГ-данным. Интеграция KAN-компонентов показала перспективность данного подхода для повышения качества классификации и интерпретируемости решений. Разработанная архитектура получила программную реализацию, подтвержденную свидетельством о государственной регистрации программы для ЭВМ «Мультиагентная система мониторинга цифрового пространства на основе гибридного нейросетевого трансформера KAN-BiLSTM». Сформирована база данных для обучения, валидации и тестирования гибридных нейросетевых моделей мониторинга цифрового пространства. База включает текстовые данные, аудио- и видеоматериалы, примеры фишинга, спуфинга, deepfake-видео, манипулятивного контента, а также числовые характеристики электромозговой активности. Данные снабжены связанной разметкой по типу атаки, уровню воздействия, используемым техникам социальной инженерии и физиологическим откликам. Сформированное признаковое пространство объединяет лингвистические, акустические, визуальные и нейрофизиологические параметры и служит основой для дальнейшего развития мультимодальных моделей обнаружения угроз. В отчетном периоде проведен анализ методов снижения вычислительной сложности гибридных нейросетевых моделей. Основной результат получен по направлению post-training quantization. Предложен метод DARE-Q, учитывающий энтропию остатка квантования и предназначенный для снижения битности весов нейросетевых моделей при контроле деградации качества. Разработан модуль DAREQuantLinear, который может быть интегрирован в стандартные transformer-пайплайны без изменения логики инференса и без специализированных вычислительных ядер. Исследованы эффективные параллельные вычислительные алгоритмы и предложен подход к их построению на основе объектных схем. Данный подход позволяет представить вычисления в виде графа операций, выделить независимые вычислительные блоки и оценить сложность алгоритма. Показано, что использование свойства ассоциативности сокращает число операций без изменения результата вычислений. Полученные результаты применимы для дальнейшей оптимизации вычислительных гибридных нейросетевых архитектур на многопроцессорных системах.

 

Публикации

1. Чечкин А.В., Плешакова Е.С., Гатауллин С.Т. A Hybrid Neural Network Transformer for Detecting and Classifying Destructive Content in Digital Space Algorithms, MDPI, Chechkin, A., Pleshakova, E., & Gataullin, S. (2025). A Hybrid Neural Network Transformer for Detecting and Classifying Destructive Content in Digital Space. Algorithms, 18(12), 735. https://doi.org/10.3390/a18120735 (год публикации - 2025)
https://doi.org/10.3390/a18120735

2. Крахмалев О.Н., Крахмалев Н.О., Кан Лян, Плешакова Е.С., Гатауллин С.Т. Efficient Parallel Computing Algorithms for Robotic Manipulator Kinematics Robotics, MDPI, Krakhmalev, O., Krakhmalev, N., Liang, K., Pleshakova, E., & Gataullin, S. (2025). Efficient Parallel Computing Algorithms for Robotic Manipulator Kinematics. Robotics, 14(11), 154. https://doi.org/10.3390/robotics14110154 (год публикации - 2025)
https://doi.org/10.3390/robotics14110154

3. Д. Б. Краснослободцева, А. В. Юдин АНАЛИЗ ЭФФЕКТИВНОСТИ НЕЙРОСЕТЕВЫХ АРХИТЕКТУР ДЛЯ ЗАЩИТЫ ПРОМЫШЛЕННЫХ СИСТЕМ ОТ ЦЕЛЕВЫХ АТАК СОЦИАЛЬНОЙ ИНЖЕНЕРИИ Computational Nanotechnology, Издательский дом "Юр-ВАК", Краснослободцева, Д. Б. Анализ эффективности нейросетевых архитектур для защиты промышленных систем от целевых атак социальной инженерии / Д. Б. Краснослободцева, А. В. Юдин // Computational Nanotechnology. – 2025. – Т. 12, № S5. – С. 95-109. – DOI 10.33693/2313-223X-2025-12-5-95-109. – EDN EQCDFD. (год публикации - 2025)
10.33693/2313-223X-2025-12-5-95-109

4. Плешакова Е.С., Осипов А.В., Юдин А.В., Гатауллин С.Т. EEG-based Emotion Dynamics Recognition using Hybrid AI Models for Cybersecurity MDPI, 14(4), 209 (год публикации - 2026)
10.3390/technologies14040209

5. Методы сжатия моделей ИИ: квантование остаточной энтропии с учетом распределения. AI Model Compression Methods: A Distribution-Aware Residual Entropy Quantization Tech Science Press (год публикации - 2026)
doi.org/10.32604/cmc.2026.079522