Лаборатория надежного, адаптивного и доверительного Искусственного Интеллекта

КАРТОЧКА ПРОЕКТА ФУНДАМЕНТАЛЬНЫХ И ПОИСКОВЫХ НАУЧНЫХ ИССЛЕДОВАНИЙ,
ПОДДЕРЖАННОГО РОССИЙСКИМ НАУЧНЫМ ФОНДОМ

Информация подготовлена на основании данных из Информационно-аналитической системы РНФ, содержательная часть представлена в авторской редакции. Все права принадлежат авторам, использование или перепечатка материалов допустима только с предварительного согласия авторов.

ОБЩИЕ СВЕДЕНИЯ

Номер проекта 25-71-30008

НазваниеЛаборатория надежного, адаптивного и доверительного Искусственного Интеллекта

Руководитель Тюкин Иван Юрьевич, Доктор технических наук

Организация финансирования, регион Автономная некоммерческая образовательная организация высшего образования «Сколковский институт науки и технологий» , г Москва

Конкурс №107 - Конкурс 2025 года по мероприятию «Проведение исследований научными лабораториями мирового уровня в рамках реализации приоритетов научно-технологического развития Российской Федерации» Президентской программы исследовательских проектов, реализуемых ведущими учеными, в том числе молодыми учеными

Область знания, основной код классификатора 01 - Математика, информатика и науки о системах; 01-201 - Искусственный интеллект и принятие решений

Ключевые слова искусственный интеллект; надежность, доверительность и адаптивность систем искусственного интеллекта; машинное обучение; генеративный искусственный интеллект; надежные алгоритмы для нейронных сетей; надежные нейронные сети на новых энерго-эффективных носителях

Код ГРНТИ28.23.02

ИНФОРМАЦИЯ ИЗ ЗАЯВКИ

Аннотация
Глобальной целью проекта является разработка целостного и комплексного подхода к проблеме надежного, адаптивного и доверительного искусственного интеллекта (ИИ) и созданию соответствующей теории, методов, алгоритмов, а также практических приложений основанных на разработанной строгой теории. Практическое апробирование новой теории, технологии, методов и алгоритмов, планируется на основе работы с нашими индустриальными партнерами а также в рамках софинансирования проекта (AIRI). Иными словами, разработка новых практических инструментов создания технически-доверительного надежного и безопасного ИИ является неотъемлемой частью предлагаемого проекта. Успешная реализация проекта создаст условия для широкого практического применения систем ИИ в таких критически важных и общественно-значимых сферах, как медицина, здравоохранение, право и безопасность. Важность и актуальность создания теории, методов и практики разработки надежных, адаптивных и достоверных систем ИИ обуславливается тем, что многие современные технологии и системы ИИ, включая нейроморфные технологии, имеют серьезные недостатки. К последним относятся: 1. Ненадежность, обусловленная нестабильностью ИИ, то есть, чувствительностью решений и предсказаний ИИ к малым возмущениям данных или модели 2. Неконтролируемые ошибки (неизбежно появляющиеся из-за статистической природы и неопределенности данных, неконтролируемого изменения среды и проч.), что требует решения проблемы гарантированного и эффективного устранения выявленных ошибок, без масштабных и дорогостоящих перенастроек 3. Отсутствие прозрачности (объяснимости) результатов и, как следствие, неизбежная склонность системы к «галлюцинациям» (т.е. ложным представлениям) и непредсказуемости 4. Непрактичность, а в некоторых случаях, и отсутствие гарантий точности и достоверности предсказаний ИИ при решении научных и технических задач, таких как моделирование сложных физических и социо-экономических процессов, в которых интересующие нас явления происходят одновременно в широком диапазоне пространственных и временных масштабов. Это создает значительные препятствия для расширения использования ИИ в важных социально-значимых областях, включая промышленность и науку, государственное управление, правоохранительные органы, здравоохранение. Неконтролируемые и необъяснимые ошибки и неустойчивость могут иметь значительные негативные юридические (например, автоматические решения, не поддающиеся объяснению) или угрожающие здоровью (такие как ложный диагноз) последствия. В связи с этим, первостепенное значение приобретает задача обеспечения технической доверительности и надежности ИИ и его функционирования в соответствии с замыслом разработчика. В дополнение, сегодняшняя геополитическая ситуация вызывает настоятельную необходимость в разработке отечественных программно-аппаратных средств, способных обеспечивать не только высокую производительность и функциональность, но и быть надежно защищенной доверенной системой. Это особенно важно при использовании аппаратного и программного обеспечения на стратегических промышленных объектах а также, в соответствующих системах управления и автоматизации, где недопустима малейшая утечка информации и неконтролируемые сбои. Для ответа на эти фундаментальные и практические вызовы требуется новое видение, теория и практика, позволяющие рассматривать проблему надежности и доверительности ИИ во всем ее многообразии (т.е. холистически) и в комплексе. Ответ на поставленные фундаментальные вопросы, как положительный, так и отрицательный, позволит выработать подходы и приблизить решение 18-й проблемы Смейла из списка математических проблем 21-го века о формализации и понимании пределов и границ возможности ИИ.

Ожидаемые результаты
Научная новизна проекта заключается в комплексном подходе к пониманию проблемы надежности, достоверности и адаптивности систем искусственного интеллекта (ИИ). Результатом выполнения проекта будет новый целостный подход к проблеме надежного, адаптивного и доверительного искусственного интеллекта (ИИ) и созданию соответствующей теории, методов, алгоритмов, а также практических приложений, основанных на разработанной строгой теории. Уникальное сочетание компетенций научного коллектива проекта в передовых методах анализа и создания современных систем искусственного интеллекта, с фокусом на достоверность и обоснованность, позволит получить как новые фундаментальные результаты (то есть методы, теории, алгоритмы и технологии создания доверенных, надежных и адаптивных систем искусственного интеллекта) так и новые решения прикладных задач в актуальных и общественно значимых областях, таких как медицина, транспорт и научные исследования (искусственный интеллект для науки).

ОТЧЁТНЫЕ МАТЕРИАЛЫ

Аннотация результатов, полученных в 2025 году
В первый год выполнения проекта были получены фундаментальные и прикладные результаты, направленные на повышение надёжности, устойчивости и доверия к современным системам искусственного интеллекта. Во-первых, было показано, что проблемы проверки устойчивости нейронных сетей не являются редкими исключениями. Напротив, существуют целые классы распределений данных, при которых формальная проверка надёжности ИИ становится вычислительно крайне сложной, особенно в задачах высокой размерности. Это выявляет фундаментальные ограничения существующих методов сертификации и подчёркивает необходимость учитывать размерность данных и адаптационные механизмы в практических ИИ-системах. Во-вторых, проведено комплексное исследование явления галлюцинаций в больших языковых моделях. Были проанализированы их причины — от архитектурных особенностей и качества данных до механизмов вывода. Показано, что галлюцинации остаются ключевым вызовом для надёжного применения генеративного ИИ, но их уровень можно существенно снизить за счёт простых и интерпретируемых архитектур, оценки внутренней неопределённости моделей и специализированных обучающих данных. Эти выводы подтверждены результатами на международных бенчмарках и в ряде прикладных задач, включая мультимодальный диалог и построение таксономий. В-третьих, получены важные теоретические результаты в области обучения по малому числу примеров. Введено новое понятие одношаговой разделимости, которое объясняет, почему и когда возможно обучение по одному примеру. Показано, что такие методы работают для гораздо более широких и практически значимых классов данных, чем считалось ранее, и что соответствующим свойствам можно обучаться на больших наборах данных. Кроме того, разработаны и экспериментально подтверждены модели для новых аппаратных вычислительных систем на основе мемристоров. Созданы физически обоснованные модели их поведения, согласующиеся с экспериментами, а также нейросетевые архитектуры, устойчивые к аппаратной стохастичности. Это открывает путь к энергоэффективным и надёжным нейроморфным вычислениям. Отдельно предложен физически информированный метод моделирования кинетики агрегации, который сочетает высокую точность, вычислительную эффективность и возможность априорной оценки ошибок. Метод позволяет выполнять долгосрочные прогнозы и надёжно работает в сложных режимах, где традиционные подходы дают сбои. Наконец, проведены прикладные исследования по созданию технически надёжных нейросетевых решений для медицины и анализа спутниковых данных. Разработанные модели ориентированы на работу в условиях ограниченных ресурсов и демонстрируют устойчивость, воспроизводимость и высокую практическую ценность. В совокупности результаты проекта показывают, что надёжный ИИ требует комплексного подхода и сочетания строгой теории, учёта физических и статистических ограничений, а также простых, хорошо интерпретируемых и адаптивных решений.

Публикации

1. Свиридов И., Бойко М., Шараев М. Predicting Task fMRI Contrasts from Resting-State fMRI Using Sparse 3D Convolutions Proceedings of the 2026 IEEE/CVF Winter Conference on Applications of Computer Vision (WACV) (год публикации - 2026)

2. Ян С., Ванг Д., Тюкин И.Ю. Theoretical Advances on Stochastic Configuration Networks IEEE Transactions on Neural Networks and Learning Systems (год публикации - 2025)
10.1109/TNNLS.2025.3608555

3. Клепач А., Нужин Е.Е., Цуканов А.А., Брильянтов Н.В. An effective control of large systems of active particles: An application to evacuation problem Communications in Nonlinear Science and Numerical Simulations (год публикации - 2025)

4. Рыков А., Панченко А. A simple strong sample-effective multimodal dialog system Data & Knowledge Engineering (год публикации - 2025)

5. Гастон-Бретон Р., Бузид А., Антипушина Е., Алтаи А.М., Арнемгад Ж., Коста Н., Саркади Б., Апати А., Харати Р., Шараев М., Дисдир К., Хамуди Р., Мабондзо А. Translational biomarkers of hypoxic brain injury uncovered in CSF secreting human choroid plexus organoids Fluids and Barriers of the CNS (год публикации - 2025)

6. Алсаханова Н., Бартенев П., Шараев М. Integrating Radiomics with Deep Learning Enhances Multiple Sclerosis Lesion Delineation Springer Studies in Computational Intelligence (BICA 2025 Proceedings) (год публикации - 2025)

7. Илларионова С., Беляков Н., Ивченко А., Рубин И., Виниченко Д., Сергиенко О., Бурнаев Е. Survey of Super-Resolution Techniques in Satellite Remote Sensing Observations Springer (год публикации - 2026)

8. Мухаммедова Ф. Тюкин И.Ю., Бриллиантов Н.В. Physics-informed neural networks for aggregation kinetics Journal of Inverse and Ill-Posed Problems (год публикации - 2025)

9. Палаи А., Дасгупта А., Али А., Каплун Д., Вознесенский А., Саркар Р. LGLD-Net: A Lightweight Global and Local feature-based Dual-stream Neural Network for Microscopic Medical Image Classification Lecture Notes in Network Systems Series. Proceedings of the International Conference on Information Technology and Applications (ICITA 2025) (год публикации - 2025)

10. Москворецкий В., Никишина И., Неминова И, Лобанова А., Панченко А., Биманн К. Large Language Models for Creation, Enrichment and Evaluation of Taxonomic Graphs Semantic Web (год публикации - 2025)