КАРТОЧКА ПРОЕКТА ФУНДАМЕНТАЛЬНЫХ И ПОИСКОВЫХ НАУЧНЫХ ИССЛЕДОВАНИЙ,
ПОДДЕРЖАННОГО РОССИЙСКИМ НАУЧНЫМ ФОНДОМ

Информация подготовлена на основании данных из Информационно-аналитической системы РНФ, содержательная часть представлена в авторской редакции. Все права принадлежат авторам, использование или перепечатка материалов допустима только с предварительного согласия авторов.

 

ОБЩИЕ СВЕДЕНИЯ

---

Номер 23-11-20024

НазваниеОбеспечение информационной безопасности и киберустойчивости систем комплексных очистных сооружений с использованием методов объяснимого искусственного интеллекта

РуководительСаенко Игорь Борисович, Доктор технических наук

Организация финансирования, регион Федеральное государственное бюджетное учреждение науки "Санкт-Петербургский Федеральный исследовательский центр Российской академии наук", г Санкт-Петербург

Период выполнения при поддержке РНФ

2023 г. - 2025 г.

Конкурс№77 - Конкурс 2023 года «Проведение фундаментальных научных исследований и поисковых научных исследований отдельными научными группами» (региональный конкурс).

Область знания, основной код классификатора 01 - Математика, информатика и науки о системах, 01-216 - Математические модели и методы защиты, преобразования и передачи информации

Ключевые словаинформационная безопасность, киберустойчивость, киберфизические системы, системы комплексных очистных сооружений, машинное обучение, искусственный интеллект, объяснимый искусственный интеллект, набор данных, анализ данных, экологический мониторинг, риски кибербезопасности, прогнозирование

Код ГРНТИ81.96.00

---

 

ИНФОРМАЦИЯ ИЗ ЗАЯВКИ

---

Аннотация
Объединение информационных и промышленных технологий расширяет поверхность кибератак для объектов критической инфраструктуры. Реализация таких атак может привести к непоправимым последствиям для здоровья населения и экономики Санкт-Петербурга, особенно это актуально для промышленных систем очистки питьевой воды. В условиях повышенной активности киберпреступников, а также угроз со стороны кибервойск, задача обеспечения защищенности таких систем как никогда актуальна. Целью проекта является повышение защищенности систем критической инфраструктуры города Санкт-Петербурга, а именно, систем очистки питьевой воды. Для ее достижения планируется объединить опыт научных исследований в области кибербезопасности, экологического мониторинга и анализа данных и решить научную проблему анализа и повышения защищенности систем очистки воды. Новизна предлагаемого исследования обеспечивается: Формированием уникального, приближенного к реальным данным, набора данных, описывающего нормальное и аномальное (в результате реализации успешных кибератак) функционирование процессов, связанных с очисткой воды, за счет использования стендов, аналогичных используемым в реальности промышленным системам очистки воды, а также реализации кибератак с целью сбора и/или искажения данных с сенсоров мониторинга процессов очистки. Хотя такие наборы существуют, они представлены зарубежными коллегами и содержат ограниченный набор данных, характеризующих нормальное поведение, а также данных мониторинга, собранных при проведении ограниченного набора атак. Разработка методики сбора данных позволит при необходимости его расширять, а также в динамике верифицировать результаты анализа защищенности и внедрения мер защиты. Разработкой новых моделей и методик выявления аномалий и кибератак, с использованием методов машинного обучения и объяснимого машинного обучения. Наличие собственного стенда позволит верифицировать результаты применения методов объяснимого машинного обучения. Разработкой новых моделей и методик атрибуции атакующих для выявления исполнителей кибератаки. Разработкой новых моделей и методик анализа потерь и оценки рисков кибербезопасности на основе объединения методов, применяемых в кибербезопасности и в экологическом мониторинге. Разработкой новых моделей и методик проактивного и реактивного реагирования на выявленные кибератаки. Для решения выявленной научной проблемы планируется решить задачи: разработка методики сбора данных системы комплексной очистки питьевой воды, а также сетевого трафика инфокоммуникационной инфраструктуры в условиях выполнения различных сценариев кибератак; разработка модели атак, актуальной для используемых в г. Санкт-Петербурге систем водоочистки; разработка сценариев атак и их проведение; формирование набора данных мониторинга поведения процессов, связанных с очисткой воды; разработка методик выявления аномалий и кибератак, с использованием методов объяснимого машинного обучения, позволяющих выявлять возможный источник аномалии, объяснить сделанные решения, а также выявлять новые виды атак; разработка методик атрибуции атакующих для выявления исполнителей/источников атаки; разработка методик анализа рисков кибербезопасности для систем очистки воды, учитывающих ущерб для экологии в случае успешных кибератак; разработка методик проактивного и реактивного реагирования на выявленные атаки для систем водоочистки. В такой постановке задача ставится впервые. Решение поставленной задачи позволит повысить защищенность комплексных очистных сооружений за счет применения методов объяснимого анализа данных, своевременного выявления и прогнозирования кибератак и аномалий и их последствий для экологии, выявления их причин и применения методов проактивного и реактивного реагирования. Внедрение разрабатываемой системы позволит сократить риски успешных кибератак на системы очистки воды и негативных последствий их реализации для жизни населения Санкт-Петербурга, что соответствует направлению из Стратегии НТР РФ Н1.

Ожидаемые результаты
Будут получены следующие результаты. 1. Методика сбора данных системы очистки питьевой воды, а также сетевого трафика инфокоммуникационной инфраструктуры в условиях выполнения и моделирования различных сценариев кибератак. Данный результат будет оригинальным для такого типа систем и соответствовать мировому уровню, т.к. подобные методики использовались для создания зарубежных современных наборов данных для систем очистки воды. В дальнейшем данная методика может быть адаптирована для использования для других типов автоматизированных систем управления, что определяет ее значимость. 2. Модель атак, актуальная для используемых в г. Санкт-Петербурге систем водоочистки и верифицированная на экспериментальных стендах, что определяет ее значимость для развития систем анализа, оценивания и обеспечения защищенности киберфизических систем. 3. Сценарии атак, согласно разработанной модели атак, включая их программную реализацию. 4. Набор данных для системы очистки воды, включая данные нормального и аномального (в том числе, в результате реализации успешных кибератак) поведения процессов, связанных с очисткой воды, за счет использования стендов, представляющих собой аналоги используемых в реальности промышленных систем, а также формирования сценариев и реализации кибератак с целью сбора данных с сенсоров мониторинга процессов очистки. Хотя такие наборы данных существуют, они представлены зарубежными коллегами и содержат ограниченный набор данных, характеризующих нормальное поведение, а также данных мониторинга, собранных при проведении ограниченного набора атак. Создание собственного набора данных позволит при необходимости его расширять, а также в динамике верифицировать результаты анализа защищенности и внедрения мер защиты. Данный результат соответствует мировому уровню и является значимым для развития систем анализа, оценивания и обеспечения защищенности систем автоматизированного управления российскими учеными, т.к. заместит зарубежные аналоги и превзойдет их с точки зрения соответствия системам, используемым в г. Санкт-Петербурге, полноты и доступа к стендам, что позволит при необходимости расширять набор, анализировать содержимое. 5. Модели и методики обнаружения атак и аномалий, разработанные с использованием методов машинного обучения и объяснимого машинного обучения, за счет чего будет обеспечено выявление возможного источника аномалий. В настоящее время использование методов объяснимого машинного обучения в кибербезопасности ограничено, в том числе ввиду сложности верификации результатов. Наличие собственного стенда позволит верифицировать результаты применения методов объяснимого машинного обучения, что определяет значимость данного результата и его соответствие мировому уровню. 6. Методика обнаружения атак и аномалий, обладающая способностью к выявлению новых видов атак. Для достижения этого результата также будут исследованы методы преобразования табличных данных в изображения, определены способы построения изображений для использования их в задачах обнаружения атак и аномалий. Такие методы только начинают развиваться и уже показали высокие результаты для отдельных задач, что определяет соответствие результата мировому уровню. 7. Методика обнаружения атак и аномалий, учитывающая различные конфигурации сенсоров систем комплексных очистных сооружений. Данный результат является оригинальным и значимым, т.к. существующие методики в большинстве случаев ограничены конфигурациями конкретных систем. Для достижения этого результата тоже будут исследованы методы преобразования табличных данных в изображения, определены способы построения изображений для использования их в задачах обнаружения атак и аномалий. 8. Модели и методики атрибуции атакующих для выявления исполнителей/источников кибератаки. Будут основаны на результатах работы методик объяснимого машинного обучения, с другой стороны, позволят повысить эффективность обнаружения новых атак и аномалий. 9. Модели и методика анализа рисков кибербезопасности, основанная на объединении методов, применяемых в кибербезопасности, и методов, применяемых в экологическом мониторинге. Для вычисления потенциального ущерба от кибератак будут использоваться методы оценки потерь, применяемые в экологии, что является отличием предлагаемой методики. Кроме того, отличием будет являться использование методик выявления аномалий, для последующего прогнозирования рисков, а также результатов работы методик атрибуции атакующих. 10. Модели и методика проактивного и реактивного реагирования на выявленные кибератаки для систем водоочистки, основанная на результатах анализа киберрисков. Значимость данной методики определяется возможными потерями в случае успешной реализации кибератак на такие системы. Соответствие мировому уровню определяется успешной реализацией угроз на такие системы в других странах и невозможностью предотвратить их существующими системами. Ожидаемые результаты проекта предназначены для обеспечения защищенности систем комплексной водоочистки. Они будут оригинальными; будут основываться на разработках исполнителей проекта, выполненных ранее и выполняемых в настоящее время, а также базироваться на современных достижениях в области средств и методов интеллектуального сбора и анализа данных, объяснимого машинного обучения, моделирования, принятия решений, защиты информации, и др. Основные результаты работы носят фундаментальный и исследовательский характер. Их значимость для г. Санкт-Петербурга определяется как возможностью применения для защиты таких критически важных объектов как системы комплексной очистки воды, успешные атаки на которые могут привести к техногенной катастрофе. Полученные наборы данных могут использоваться российскими учеными для других задач, связанных с анализом и моделированием процессов очистки воды. Кроме того, полученные результаты могут стать основой для разработки систем защиты от кибератак для других типов систем автоматизированного управления.

---

 

ОТЧЁТНЫЕ МАТЕРИАЛЫ

---