КАРТОЧКА ПРОЕКТА ФУНДАМЕНТАЛЬНЫХ И ПОИСКОВЫХ НАУЧНЫХ ИССЛЕДОВАНИЙ,
ПОДДЕРЖАННОГО РОССИЙСКИМ НАУЧНЫМ ФОНДОМ
Информация подготовлена на основании данных из Информационно-аналитической системы РНФ, содержательная часть представлена в авторской редакции. Все права принадлежат авторам, использование или перепечатка материалов допустима только с предварительного согласия авторов.
ОБЩИЕ СВЕДЕНИЯ
Номер проекта 25-71-10012
НазваниеТехнологии искусственного интеллекта для обеспечения безопасного цифрового пространства: адаптивные алгоритмы определения и реагирования на сложные угрозы социальной инженерии в условиях развития высокопроизводительных вычислений
Руководитель Плешакова Екатерина Сергеевна, Кандидат технических наук
Организация финансирования, регион федеральное государственное бюджетное образовательное учреждение высшего образования "МИРЭА - Российский технологический университет" , г Москва
Конкурс №111 - Конкурс 2025 года «Проведение исследований научными группами под руководством молодых ученых» Президентской программы исследовательских проектов, реализуемых ведущими учеными, в том числе молодыми учеными, приоритетного направления деятельности Российского научного фонда «Поддержка молодых ученых»
Область знания, основной код классификатора 01 - Математика, информатика и науки о системах; 01-201 - Искусственный интеллект и принятие решений
Ключевые слова Искусственный интеллект; кибербезопасность; социальная инженерия; сети Колмогорова-Арнольда; рекуррентные, капсульные нейронные сети; вейвлет-анализ; математические методы оптимизации; квантизация моделей; цифровая обработка сигналов; высокопроизводительные вычисления
Код ГРНТИ28.23.00
ИНФОРМАЦИЯ ИЗ ЗАЯВКИ
Аннотация
С экспоненциальным ростом угроз в цифровом пространстве возрастает потребность в разработке эффективных инструментов для обнаружения и противодействия, способных создать безопасную и комфортную цифровую среду. Одним из направлений обладающим существенным потенциалом является применение методов обработки естественного языка (NLP) и искусственного интеллекта (AI). Интеллектуальные системы, базирующиеся на машинном обучении, доказывают высокую эффективность в детектировании инцидентов и противодействии атакам социальной инженерии. Интеллектуальные системы позволяют анализировать текстовую и мультимодальную информацию, определяя аномальные паттерны поведения и прогнозируя потенциальные угрозы. Вместе с этим для обеспечения высокой точности, интерпретируемости и вычислительной эффективности таких систем целесообразна разработка новых алгоритмов, адаптируемых к сложным, трансформирующимся атакам.
Прорывная тематика исследования может создать предпосылки для формирования новых научных направлений, а именно: квантизации моделей машинного обучения с использованием результатов функционального анализа, распараллеливания высокопроизводительных вычислений, гибридных и эффективных нейросетевых моделей обработки данных с приложениями в области обеспечении безопасности цифрового пространства.
Использование сетей Колмогорова-Арнольда (KAN), опирающихся на теорему Колмогорова о суперпозиции многомерных функций, служит в качестве масштабного направления в области компактных, интерпретируемых и высокопроизводительных моделей. Стоит заметить, что их практическое применение в обеспечении безопасности цифрового пространства остается недостаточным из-за высокой вычислительной сложности и отсутствия адаптивных алгоритмов обучения. В проекте запланирована разработка гибридных нейросетевых моделей, объединяющих сети KAN с классическими методами машинного обучения, включая сверточные нейросети, трансформеры и методы математической оптимизации. Проект нацелен на решение важной прикладной научной задачи, такой как разработка интеллектуальной системы, стабильной к атакам социальной инженерии, реализующую баланс между точностью, вычислительной эффективностью и интерпретируемостью решений.
В рамках реализации проекта будут разработаны адаптивные алгоритмы машинного обучения для идентификации атак социальной инженерии, высокопроизводительные вычислительные архитектуры на основе параллельных вычислений. Разработанные решения, в том числе гибридные модели интеллектуальной защиты, объединяющие преимущества сетей KAN и трансформеров, необходимы для эффективной обработки больших объемов данных.
Дополнительно будут задействованы методы квантизации моделей на базе разложений тензоров и векторов, обеспечивающие оптимизацию вычислительных ресурсов, высокопроизводительную обработку данных. Вследствие применения данных методов будет достигнута эффективность нейросетевых решений. Среди научных задач следует отметить разработку методов индикации атак социальной инженерии, исследование различных подходов, архитектур и методов, сфокусированных на повышение эффективности интеллектуальных систем защиты, в том числе оптимизацию вычислений, адаптивные алгоритмы машинного обучения и квантизацию моделей.
Помимо этого, участниками проекта будет продолжены исследования возможного повышения эффективности гибридных нейросетевых моделей обработки сигналов, использующих оконное преобразование Фурье, вейвлет-анализ, капсульные, сверточные, рекуррентные нейронные сети, численные и другие методы математической оптимизации нейросетевых структур, на базе полученных ранее результатов.
Ожидаемые результаты
В результате реализации проекта будет разработан программный комплекс интеллектуальной системы идентификации и предотвращения атак социальной инженерии на основе высокопроизводительных вычислений, способный выявлять скрытые аномалии и адаптироваться к динамически изменяющимся угрозам. Будут разработаны новые адаптивные алгоритмы машинного обучения, использующие гибридные нейросетевые архитектуры. Будет реализован комплекс методов индикации атак социальной инженерии, объединяющий идентификацию манипулятивных воздействий, анализ поведенческих паттернов пользователей и обнаружение генеративных подмен данных.
Ожидаемые результаты проекта охватывают создание программного комплекса идентификации и предотвращения атак, обеспечение устойчивости ИИ-моделей к манипулятивным атакам, включая нейросетевые атаки и генеративные подмены данных. Будут представлены методы оптимизации вычислительных процессов с использованием адаптивных алгоритмов, это обеспечит повышение эффективности работы моделей в условиях ограниченных вычислительных ресурсов. Применение гибридных архитектур на основе сетей KAN и трансформеров сбалансирует точность, интерпретируемость и вычислительную эффективность. Проект нацелен на решение важной научной задачи, состоящей в разработке адаптивных алгоритмов машинного обучения и высокопроизводительных вычислительных архитектур, способных динамически реагировать на эволюционирующие угрозы в условиях экспоненциального роста вычислительных мощностей и усложнения атакующих технологий.
В ходе реализации проекта будут получены следующие результаты:
1. Новая гибридная нейросетевая архитектура, сочетающая возможности сетей KAN, LSTM, BILSTM, GNN, CNN. Объединение сетей позволит увеличить точность идентификации атак социальной инженерии с использованием обработки мультимодальных данных и распределенного обучения (federated learning, FL).
2. Оптимизация вычислительных моделей за счет применения методов квантизации, разложения тензоров, сингулярного разложения и распределенных вычислений. Будет достигнуто существенное снижение затрат вычислительных ресурсов и инференс моделей без потери точности.
3. Интеллектуальный метод обработки больших объемов данных. Позволит повысить устойчивость системы к меняющимся атакам. Адаптивные алгоритмы обнаружения атак, позволят увеличить точность классификации угроз социальной инженерии, в том числе спуфинга, фишинга и генеративных подмен данных.
4. Алгоритмы цифровой обработки сигналов для повышения интерпретируемости моделей и улучшения устойчивости к неизвестным атакам.
5. Программный комплекс интеллектуальной системы идентификации и предотвращения атак социальной инженерии на основе высокопроизводительных вычислений.
Научная значимость проекта состоит в расширении теоретической базы машинного обучения, разработке новых моделей и алгоритмов, обеспечивающих устойчивость интеллектуальных систем к сложным угрозам. Интегрирование высокопроизводительных вычислительных архитектур, включающих методы параллельных вычислений, квантизацию нейросетевых моделей и оптимизацию обработки больших данных, обеспечит повышение эффективности работы ИИ-систем. Полученные результаты будут соответствовать мировому уровню исследований в области искусственного интеллекта и кибербезопасности, внося вклад в развитие защищенного цифрового пространства.
Практическая значимость проекта детерминирована возможностью применения результатов реализации проекта в различных сферах экономики и социальной деятельности. Разработанные в рамках проекта технологии могут получить распространение в системах кибербезопасности государственных и коммерческих организаций, финансового сектора, телекоммуникаций и социальных платформ для защиты данных. Внедрение интеллектуальных алгоритмов идентификации киберугроз обеспечит потенциал для совершенствования существующих технологий защиты персональных данных и корпоративных информационных систем. Предложенные в рамках проекта решения будут способствовать формированию безопасного цифрового пространства. Результатом интеллектуальной деятельности в части разработки прикладного решения будет программный комплекс, в котором выражают заинтересованность технологические партнеры кафедры индустриального программирования РТУ МИРЭА (см. письмо АО РКС вовложении).
Проект предусматривает в конце срока реализации создание новой и эффективной технологии обеспечения безопасности цифрового пространства с возможностью использования в хозяйственной деятельности предприятий Российской Федерации. Дальнейшее развития проекта возможно за счет средств технологических партнеров и в рамках частно-государственного партнерства.
Реализация проекта направлена, в том числе на развитие научной карьеры молодых ученых, расширение горизонтов планирования их научной работы, формирование исследовательских команд, которые впоследствии могут стать основой новых научных отделов, лабораторий, а именно: декомпозиция задач в проекте реализована таким образом, чтобы по итогам были созданы еще две группы молодых ученых с подтвержденной научной экспертизой мирового уровня в области технологий ИИ на базе лабораторий Финансового университета и РТУ МИРЭА.