КАРТОЧКА ПРОЕКТА ФУНДАМЕНТАЛЬНЫХ И ПОИСКОВЫХ НАУЧНЫХ ИССЛЕДОВАНИЙ,
ПОДДЕРЖАННОГО РОССИЙСКИМ НАУЧНЫМ ФОНДОМ
Информация подготовлена на основании данных из Информационно-аналитической системы РНФ, содержательная часть представлена в авторской редакции. Все права принадлежат авторам, использование или перепечатка материалов допустима только с предварительного согласия авторов.
ОБЩИЕ СВЕДЕНИЯ
Номер проекта 24-28-01112
НазваниеРазработка концептуальной модели юридической ответственности в сфере искусственного интеллекта и робототехники
Руководитель Япрынцев Иван Михайлович, Кандидат юридических наук
Организация финансирования, регион федеральное государственное автономное образовательное учреждение высшего образования "Тюменский государственный университет" , Тюменская обл
Конкурс №89 - Конкурс 2023 года «Проведение фундаментальных научных исследований и поисковых научных исследований малыми отдельными научными группами»
Область знания, основной код классификатора 08 - Гуманитарные и социальные науки; 08-355 - Уголовное право. Криминология
Ключевые слова ответственность, искусственный интеллект, робототехника, IT, вред, деликтоспособность, уголовный закон, субъект, информационные технологии
Код ГРНТИ10.07.45
ИНФОРМАЦИЯ ИЗ ЗАЯВКИ
Аннотация
Стремительное развитие информационных технологий ставит перед обществом и государством серьезные вызовы. В Указе Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» отмечается, что к 2030 году в Российской Федерации должна функционировать гибкая система нормативно-правового регулирования в области искусственного интеллекта, в том числе гарантирующая безопасность населения и направленная на стимулирование развития технологий искусственного интеллекта.
В Распоряжении Правительства РФ от 19 августа 2020 г. № 2129-р «Об утверждении Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники на период до 2024 г.» указывается на отсутствие единых подходов к регулированию технологий искусственного интеллекта и робототехники, что связано с наличием ряда проблем, не имеющих однозначного решения. Среди таких концептуальных проблемных направлений регулирования выделяется, в частности, ответственность за причинение вреда с использованием систем искусственного интеллекта и робототехники. Подчеркивается необходимость дальнейшей проработки механизмов гражданско-правовой, уголовной и административной ответственности в случае причинения вреда системами искусственного интеллекта и робототехники, имеющими высокую степень автономности, при принятии ими решений.
Системы искусственного интеллекта стремятся имитировать принятие решений, умственную деятельность и выполнение задач, которые обычно требуют человеческой интеллектуальной деятельности. Роботы используются на производстве, в медицине, науке, аэрокосмической и автомобильной промышленности, а также в военных и других областях. В случае причинения вреда, возникает вопрос об установлении виновного субъекта, при этом в действующем законодательстве субъектом уголовной ответственности рассматривается только физическое лицо, что не соответствует современному развитию общественных отношений в сфере информационных технологий, особенно когда речь идет об автономных, самообучающихся системах.
Результаты проведенного исследования позволят выработать единую концепцию установления юридической ответственности в сфере искусственного интеллекта и робототехники в различных отраслях законодательства.
Научная новизна исследования заключается в комплексном исследовании вопросов установления юридической ответственности за вред, причиненный при использовании технологий искусственного интеллекта и робототехники, определении круга субъектов, подлежащих ответственности, в т.ч. рассмотрение возможности признания самообучающегося искусственного интеллекта (нейросети) субъектом правонарушений, а также в разработке правовой методики разграничения и установления пределов ответственности искусственного интеллекта и его создателя / пользователя.
ОТЧЁТНЫЕ МАТЕРИАЛЫ
Аннотация результатов, полученных в 2024 году
По итогам первого года реализации проекта научным коллективом выполнены следующие работы:
- проведен анализ отечественной и зарубежной научной литературы по вопросам юридической ответственности в сфере искусственного интеллекта и робототехники;
- исследованы категории «юридическая ответственность», «искусственный интеллект», «робот», «робототехника» в контексте юридической ответственности;
- проанализированы базовые характеристики искусственного интеллекта через призму его правосубъектности;
- проанализированы частноправовые и публично-правовые механизмы юридической ответственности в сфере искусственного интеллекта.
- проанализирована опубликованная судебная практика по противоправным деяниям, связанным с технологиями искусственного интеллекта и робототехники;
- проведена оценка экспертных мнений в рамках реализации опроса на тему «Искусственный интеллект и юридическая ответственность» (ссылка на опрос: https://forms.yandex.ru/u/6699331d5d2a062ec560f3ce/);
- организован круглый стол «Юридическая ответственность в условиях внедрения технологий искусственного интеллекта» (https://t.me/law_tyumen_forum/136 https://siberiaforum.utmn.ru/about-conference/program/);
- записан научный подкаста #61 Journal of Digital Technologies and Law на тему «Разработка концептуальной модели юридической ответственности в сфере ИИ и робототехники» (https://t.me/JournalDTL/1969);
- проведена апробация результатов исследования на всероссийский и международных научно-практических мероприятиях: Международный молодежный юридический форум «Law Afterknown: право за гранью обыденного» (г. Тюмень, 15.05.2024), Международный форум «Право будущего», конференция «Цифровое право – право будущего» (г. Москва, 18.06.2024), Международная научно-практическая конференция «Цифровые технологии и право» (г. Казань, 20.09.2024), Международный научно-практический форум «VI Сибирские правовые чтения. Право в эпоху искусственного интеллекта: современные вызовы и перспективные задачи» (г. Тюмень, 18.10.2024.).
Информация о ходе реализации гранта размещается на сайте Института государства и права Тюменского государственного университета: https://www.utmn.ru/igip/nauka/granty/rnf-2024-2025/
Результаты исследования представлены в подготовленных к опубликованию и опубликованных статьях в рецензируемых изданиях: Вестник Томского государственного университета (опубликована), Государство и право (опубликована), Вестник РУДН. Юридические науки (принята к опубликованию), Kutafin Law Review (принята к опубликованию), BRICS Law Journal (принята к опубликованию). Подготовлена коллективная монография «Юридическая ответственность в сфере искусственного интеллекта и робототехники: доктринальные и нормативные проблемы».
Научные результаты также сформулированы в предварительных выводах, ожидающих уточнения и дальнейшего развития в течение 2-го года реализации проекта:
- отсутствие единых определений и подходов к регулированию в этой области создает значительные сложности для разработки правовых норм, способных адекватно отвечать на вызовы, связанные с внедрением робототехнических систем и искусственного интеллекта в различные сферы жизни;
- различие между роботами и искусственным интеллектом является ключевым аспектом, который необходимо учитывать при создании правовой базы;
- необходим дифференцированный подход к установлению юридической ответственности, учитывающего степень автономности и характер взаимодействия роботов с человеком;
- необходимо выработать четкие правила регулирования и закрепить допустимые и недопустимые действия разработчиков и всех субъектов, принимающих участие в создании конкретного механизма, на каждом из циклов «жизни» искусственного интеллекта;
- юридической науке и практике предстоит решить множество юридических коллизий и нюансов, касающихся как правосубъектности систем искусственного интеллекта, так и возможной их деликтоспособности;
- модель взаимодействия «человек-ИИ» в контексте наделения последнего правосубъектностью и полноценным правовым статусом будет так или иначе носить квазисубъектный характер;
- форма объективации искусственного интеллекта обеспечивает разграничение его со смежными технологическими объектами, интеграцию в различные технологические и социальные контексты, определяя способ его существования и взаимодействия с окружающей средой, что необходимо для разработки норм, направленных на определения статуса ИИ в правовой действительности;
- синтез эффективного публично-правового регулирования и модернизированных частно-правовых механизмов ответственности формирует фундаментальную правовую основу для функционирования ИИ-технологий, способствуя устойчивому развитию инновационных технологий при одновременной минимизации рисков их деструктивного воздействия на социально-экономические отношения.
Публикации:
1) Зенин С. С. Искусственный интеллект как фактор трансформации правовой действительности: вопросы ответственности / С. С. Зенин, Л. В. Иванова // Вестник Томского государственного университета. – 2024. – № 502. – С. 183-187. – DOI 10.17223/15617793/502/19.
2) Зенин С.С., Япрынцев И.М., Иванова Л.В. Категория «юридическая ответственность» в контексте ее применения к системам искусственного интеллекта // Государство и право. 2024. № 11. С. 163–173.
3) Иванова Л.В., Аржиловский Д.Е., Калашников Н.А. Понятие и содержание робототехники в контексте юридической ответственности (принята к опубликованию в журнале Вестник РУДН. Юридические науки в 2025 г.).
4) Kalashnikov N., Khmelevskoi I., Yapryntsev I. AI through the prism of its legal personality: basic characteristics (принята к опубликованию в журнале Kutafin Law Review в 2025 г.).
5) Khmelevskoi I., Kalashnikov N. Responsibility in the field of artificial intelligence systems usage: features of private and public law regulation (принята к публикации в журнале BRICS Law Journal в 2025 г.).
Публикации
1. Зенин С.С., Япрынцев И.М., Иванова Л.В. Категория «юридическая ответственность» в контексте её применения к системам искусственного интеллекта Государство и право, Государство и право. 2024. № 11. С. 163–173 (год публикации - 2024)
2.
Зенин С.С., Иванова Л.В.
Искусственный интеллект как фактор трансформации правовой действительности: вопросы ответственности
Вестник Томского государственного университета, Вестник Томского государственного университета. № 502. С. 183-187. (год публикации - 2024)
10.17223/15617793/502/19
3.
Иванова Л.В., Аржиловсикий Д.Е., Калашников Н.А.
Понятие и содержание робототехники в контексте юридической ответственности
Вестник Российского университета дружбы народов. Серия: Юридические науки, Иванова, Л. В. Правовая характеристика робототехники в контексте юридической ответственности / Л. В. Иванова, Д. Е. Аржиловский, Н. А. Калашников // Вестник Российского университета дружбы народов. Серия: Юридические науки. – 2025. – Т. 29, № 2. – С. 509-523. – DOI 10.22363/2313-2337-2025-29-2-509-523. – EDN ZFUWHU. (год публикации - 2025)
10.22363/2313-2337-2025-29-2-509-523
4.
И.М. Япрынцев, Н.А. Калашников, И.Р. Хмелевской
AI through the prism of its legal personality: basic characteristics
Kutafin Law Review, Yapryntsev, I. M. AI through the Prism of Its Legal Personality: Basic Characteristics / I. M. Yapryntsev, I. R. Khmelevskoi, N. A. Kalashnikov // Kutafin Law Review. – 2025. – Vol. 12, No. 2. – P. 362-383. – DOI 10.17803/2713-0533.2025.2.32.362-383. – EDN UHCSLG. (год публикации - 2025)
10.17803/2713-0533.2025.2.32.362-383
5.
Хмелевской И.Р., Калашников Н.А.
Responsibility in the Field of Artificial Intelligence Systems Usage: Features of Private And Public Law Regulation
BRICS Law Journal, Khmelevskoi I.R., Kalashnikov N.A. Responsibility in the Field of Artificial Intelligence Systems Usage: Features of Private and Public Law Regulation. BRICS Law Journal. 2025;12(4):147-166. https://doi.org/10.21684/2412-2343-2025-12-4-147-166 (год публикации - 2025)
10.21684/2412-2343-2025-12-4-147-166
6. Япрынцев И.М., Иванова Л.В., Зенин С.С., Аржиловский Д.Е., Калашников Н.А., Хмелевской И.Р. Юридическая ответственность в сфере искусственного интеллекта и робототехники: доктринальные и нормативные проблемы Юридическая ответственность в сфере искусственного интеллекта и робототехники: доктринальные и нормативные проблемы: монография / [И. М. Япрынцев и др.]; Министерство науки и высшего образования Российской Федерации, Тюменский государственный университет, Институт государства и права. – Тюмень: ТюмГУ-Press, Юридическая ответственность в сфере искусственного интеллекта и робототехники : доктринальные и нормативные проблемы / И. М. Япрынцев, Л. В. Иванова, С. С. Зенин [и др.]. – Тюмень : ТюмГУ-Press, 2024. – 116 с. – ISBN 978-5-400-01815-2. – EDN RBVOQI. (год публикации - 2024)
Аннотация результатов, полученных в 2025 году
По итогам второго года реализации проекта научным коллективом выполнены следующие работы:
- реализован анализ нормативно-правового регулирования и правоприменительной практики в части принципов юридической ответственности в сфере ИИ и робототехники;
- проведено исследование доктринальных источников (зарубежных и отечественных) в части принципов юридической ответственности в сфере ИИ и робототехники;
- сформирована эволюционная модель развития принципов юридической ответственности в условиях использования систем искусственного интеллекта и робототехники;
- проведен анализ концептуальных основ и особенностей юридической ответственности в частноправовой сфере в связи с технологизацией общественных отношений;
- выявлена специфика юридической ответственности в уголовно-правовой сфере в силу влияния искусственного интеллекта;
- исследованы особенности юридической ответственности в сфере персональных данных под воздействием систем искусственного интеллекта на данную сферу;
- организован круглый стол «Концептуальная модель юридической ответственности в сфере робототехники» (https://www.utmn.ru/igip/nauka/nauchnye-meropriyatiya/konferentsii-forumy/yuridicheskaya-nauka-i-obrazovanie-v-epokhu-ii/kontseptualnaya-model-yuridicheskoy-otvetstvennosti-v-sfere-ii-i-robototekhniki/).
Результаты исследования представлены в подготовленных к опубликованию и опубликованных статьях в рецензируемых изданиях: Вестник Томского государственного университета (принята к опубликованию), BRICS Law Journal (принята к опубликованию). Подготовлена коллективная монография «Концептуализация юридической ответственности в сфере использования искусственного интеллекта и робототехники: доктринальные и нормативные решения».
Научные результаты представлены в следующих выводах, отражающих результат работы коллектива за второй год реализации научного проекта:
- впервые было представлено научное обоснование трансформации принципов юридической ответственности под воздействием внедрения искусственного интеллекта и робототехники, что предполагает выделение принципов, которые не подвергаются трансформационным изменениям; предложения в части содержательного изменения некоторых принципов юридической ответственности; введение новых принципов, на которых целесообразно основывать юридическую ответственность в сфере использования искусственного интеллекта и робототехники, что обеспечило развитие методологической рамки эволюционного развития института юридической ответственности;
- обоснованы специфические характеристики юридической ответственности в частноправовой сфере, которые связаны с использованием искусственного интеллекта и робототехники, которые основываются на осмыслении онтологического статуса систем искусственного интеллекта – через призму источника повышенной опасности, товара особо рода – а также в контексте процессуальной добросовестности, что позволило обозначить возможные направления в развитии частноправовой ответственности путем расширения сферы применения безвиновной ответственности в сочетании с уточнением критериев «бенефициарного владения» технологией;
- предложены доктринальные и нормативные направления развития института юридической ответственности в уголовно-правовой сфере, которые предопределены внедрением технологий искусственного интеллекта. На примере соучастия были сформированы доктринальные и регулятивные предложения с точки зрения дальнейшей эволюции данного института под воздействием искусственного интеллекта;
- проанализированы особенности развития института юридической ответственности в контексте защиты и охраны персональных данных, а также предложены варианты нормативного развития с учетом имеющихся наработок стран БРИКС, в том числе в контексте унификации регулятивных и технологических подходов в данной сфере;
- концептуально обоснована модель юридической ответственности в сфере искусственного интеллекта и робототехники, которая отражает:
1) различия в онтологическом статусе искусственного интеллекта и робототехники;
2) технологические и формально-юридические требования к таким технологиям, позволяющие обоснованно говорить об их правосубъектности;
3) новые доктринальные и формально-юридические характеристики юридической ответственности;
4) особенности публично-правовой и частноправовой ответственности в силу имплементации искусственного интеллекта и робототехники;
5) пределы распространения юридической ответственности в сфере использования систем искусственного интеллекта и робототехники в силу существующих технологических и социо-культурных ограничений.
Возможность практического использования результатов