Этика больших данных: трансформация моральных норм и ценностей

КАРТОЧКА ПРОЕКТА ФУНДАМЕНТАЛЬНЫХ И ПОИСКОВЫХ НАУЧНЫХ ИССЛЕДОВАНИЙ,
ПОДДЕРЖАННОГО РОССИЙСКИМ НАУЧНЫМ ФОНДОМ

Информация подготовлена на основании данных из Информационно-аналитической системы РНФ, содержательная часть представлена в авторской редакции. Все права принадлежат авторам, использование или перепечатка материалов допустима только с предварительного согласия авторов.

ОБЩИЕ СВЕДЕНИЯ

Номер проекта 23-28-01288

НазваниеЭтика больших данных: трансформация моральных норм и ценностей

Руководитель Коваль Екатерина Александровна, Доктор философских наук

Организация финансирования, регион федеральное государственное бюджетное образовательное учреждение высшего образования "Национальный исследовательский Мордовский государственный университет им. Н. П. Огарёва" , Республика Мордовия

Конкурс №78 - Конкурс 2022 года «Проведение фундаментальных научных исследований и поисковых научных исследований малыми отдельными научными группами»

Область знания, основной код классификатора 08 - Гуманитарные и социальные науки; 08-206 - Этика. Эстетика. Философия религии. Теология.

Ключевые слова моральные нормы, большие данные, деонтология, консенквенциализм, контрактарианизм, перфекционизм, этика заботы, принцип предосторожности

Код ГРНТИ02.51.11

ИНФОРМАЦИЯ ИЗ ЗАЯВКИ

Аннотация
В настоящее время наблюдается острая потребность в нормативном регулировании работы с новыми технологиями, включая оперирование такими процессами, как сбор, хранение, обработка, интерпретация и использование больших данных. Необходимость нормативного регулирования работы с большими данными и с технологиями, необходимыми для их обработки (как правило, представляющими собой автономные интеллектуальные системы ("слабый искусственный интеллект"), подтверждается нормативными установлениями Президента РФ. Так, Указом Президента РФ от 10 октября 2019 г. № 490 "О развитии искусственного интеллекта в Российской Федерации" утверждена Национальная стратегия развития искусственного интеллекта на период до 2030 года, в соответствии с которой требуется не только нормативно-правовое регулирование работы с данными, необходимыми для развития искусственного интеллекта, но и "разработка этических правил взаимодействия человека с искусственным интеллектом" (пп. ж п. 49 Стратегии). Однако формулировка необходимых нормативных установлений усложняется тем, что специалисты в сфере информационных технологий и специалисты, профессионально работающие с нормами морали и права (юристы, философы, социологи), используют разные подходы к пониманию проблемы и, фактически, "говорят" на разных профессиональных языках. Для решения задач по нормативному регулированию работы с большими данными необходимо исследовать степень влияния новых технологий на различные сферы жизни общества, которое живет в условиях непрерывного накопления больших данных. В частности, требуется переосмысление представлений об источниках моральной нормативности (волюнтаристские, коммуникативные, натуралистические), исследование трансформации отдельных моральных норм и ценностей (принцип предосторожности, принцип заботы, категорический императив и автономия личности, приватность, ответственность, доверие и т.п.) и основных нормативно-этических программ (деонтологические, консеквенциалистские, контрактарианистские, перфекционистские подходы) в мире больших данных, анализ процессов универсализуемости морали в быстро меняющихся условиях. Предполагаемые результаты проекта позволят: - описать и концептуализировать трансформации основных нормативно-этических программ и конкретных моральных норм и ценностей в условиях накопления больших данных; - определить параметры общего дискурса для специалистов, работающих с большими данными, и специалистов в области нормативного регулирования новых технологий; - представить проект этического кодекса специалиста в сфере больших данных, разработанного на основе результатов экспертного опроса с участием профессионалов, занимающихся сбором, хранением и использованием больших данных; - внедрить в программы дополнительного профессионального образования модуль «Этика больших данных» в МГУ им. Н.П. Огарева; - осуществить презентацию результатов проекта в форме научных публикаций (коллективная монография), не менее 8 публикаций за весь период реализации проекта, из них не менее 3 в изданиях, индексируемых в Scopus или в Web of Science) и докладов на международных и всероссийских научных конференциях.

ОТЧЁТНЫЕ МАТЕРИАЛЫ

Публикации

1. Коваль Е.А. Новые алгоритмы власти в мире алгоритмов. Рец. на кн.: Hasselbalch G. Data Ethics of Power: A Human Approach in the Big Data and AI Era. Cheltenham; Northampton, MA: Edward Elgar, 2021 Мониторинг общественного мнения: экономические и социальные перемены, № 5. С. 262-282 (год публикации - 2023)
10.14515/monitoring.2023.5.2463

2. Жадунова Н.В., Коваль Е.А., Мартынова М.Д., Скрипник А.П., Сычев А.А. От философии поступка к новой этике: история становления Саранского этического центра (материалы круглого стола) Этическая мысль, Т. 23. № 1. С. 123-139 (год публикации - 2023)
10.21146/2074-4870-2023-23-1-123-139

3. Коваль Е.А. Большие языковые модели и моральное зло Мир человека: нормативное измерение - 8.0. Анормальное: Сборник трудов конференции, Саратов, 08–10 июня 2023 года. Саратов: Саратовская государственная юридическая академия, С. 256-262 (год публикации - 2023)

4. Мартынова М.Д. Влияние цифровой реальности на состояние ценностного мира студенческой молодежи ЦИТИСЭ, № 3(37). С. 251-260 (год публикации - 2023)
10.15350/2409-7616.2023.3.21

5. Мартынова М.Д., Бачкова И.А. Трансформация моральных ценностей молодежи в поле цифровой коммуникации PRIMO ASPECTU, № 3 (55). С. 55-64 (год публикации - 2023)
10.35211/2500-2635-2023-3-55-55-64

6. Коваль Е.А. Большие данные и большие вызовы социальному воображаемому Социальные нормы и практики, № 3(9). С. 54-63 (год публикации - 2023)
10.24412/2713-1033-2023-3-54-63

7. Коваль Е.А., Ушкин С.Г. Огонь, вода и ChatGPT: новые вызовынаучному этосу Социодиггер, ТОМ 4. ВЫПУСК 5-6 (26) (год публикации - 2023)

8. Коваль Е.А. ЭМОЦИОНАЛЬНЫЙ ТЕХНОКРАТИЗМ: КАК БОЛЬШИЕ ДАННЫЕ ТРАНСФОРМИРУЮТ ЭМОЦИОНАЛЬНЫЕ РЕЖИМЫ? Революция и эволюция: модели развития в науке, культуре, социуме: Труды IV Международной научной конференции. Москва: Изд-во «Русское общество истории и философии науки», С. 265-269 (год публикации - 2023)

9. Мартынова М.Д. МОРАЛЬНЫЕ РИСКИ ИСПОЛЬЗОВАНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В ПРОЦЕДУРЕ РЕКРУТИНГА Гуманитарные и социально-экономические науки, № 6(133). С. 12-17 (год публикации - 2023)
10.18522/1997-2377-2023-133-6-12-17

10. Мартынова М.Д. Частный случай ценностного восприятия человеком искусственного интеллекта при найме на работу XV международная конференция «Теоретическая и прикладная этика: Традиции и перспективы – 2023. Разумность. Практичность. Человечность». Санкт-Петербургский Государственный Университет, 16-18 ноября 2023 г. Материалы конференции. СПб.: ООО «Сборка», С. 195-197 (год публикации - 2023)

11. Ушкин С.Г. Практики сбора персональных данных: три доминанты эмоционального восприятия XV международная конференция «Теоретическая и прикладная этика: Традиции и перспективы – 2023. Разумность. Практичность. Человечность». Санкт-Петербургский Государственный Университет, 16-18 ноября 2023 г. Материалы конференции. СПб.: ООО «Сборка», С.207-208 (год публикации - 2023)

12. Попов А.А. Технические стандарты в области больших данных и этика, могут ли они подружиться? XV международная конференция «Теоретическая и прикладная этика: Традиции и перспективы – 2023. Разумность. Практичность. Человечность». Санкт-Петербургский Государственный Университет, 16-18 ноября 2023 г. Материалы конференции. СПб.: ООО «Сборка», С. 201 (год публикации - 2023)

13. Ушкин С.Г. Левиафан 2.0: как Томас Гоббс предугадал революцию искусственного интеллекта и больших данных? Рец. на кн.: Runciman D. The Handover: How We Gave Control of Our Lives to Corporations, States and AIs. Profile Books, 2023 Мониторинг общественного мнения: экономические и социальные перемены, № 1. С. 276—283. (год публикации - 2024)
10.14515/monitoring.2024.1.2525

14. Коваль Е.А. Власть и этика больших данных XV международная конференция «Теоретическая и прикладная этика: Традиции и перспективы – 2023. Разумность. Практичность. Человечность». Санкт-Петербургский Государственный Университет, 16-18 ноября 2023 г. Материалы конференции. СПб.: ООО «Сборка», С.194-195 (год публикации - 2023)

15. Попов А.А. Технические и этические стандарты в сфере больших данных Гуманитарные и политико-правовые исследования, № 4(23). С. 67-77 (год публикации - 2023)
10.24411/2618-8120-2023-4-67-77

16. Ушкин С.Г., Коваль Е.А. Практики использования чат-ботов с искусственным интеллектом российскими подростками Социология науки и технологий, Том 15. № 4. С. 124-141 (год публикации - 2024)
10.24412/2079-0910-2024-4-24-41

17. Ушкин С.Г. Практики сбора персональных данных и их восприятие в общественном сознании Вестник Томского государственного университета. Философия. Социология. Политология, № 77. С. 251–261 (год публикации - 2024)
10.17223/1998863Х/77/21

18. Попов А.А. Систематизация корпоративных этических норм в сфере больших данных Социальные нормы и практики, № 3. С. 47-59 (год публикации - 2024)
10.24412/2713-1033-2024-3-47-59

19. Коваль Е.А., Ушкин С.Г. Кому нужна этика больших данных: разработчики и их руководители о необходимости создания профессионального этического кодекса Мониторинг общественного мнения: экономические и социальные перемены, No 5. С. 18—36 (год публикации - 2024)
10.14515/monitoring.2024.5.2596

20. Мартынова М.Д. Благополучие человека через призму больших данных: этические риски и вызовы Социальные нормы и практики, № 3. С. 35-46 (год публикации - 2024)
10.24412/2713-1033-2024-3-35-46

21. Мартынова М.Д. Роль человеческого фактора при использовании цифровых профилей студентов, построенных на основе Биг Дата PRIMO ASPECTU, № 3(59). С. 70-76 (год публикации - 2024)
10.35211/2500-2635-2024-3-59-70-76

22. Коваль Е.А., Мартынова М.Д. Трансформация моральных норм и ценностей в эпоху больших данных Этическая мысль, Т. 24. № 2. С. 105–119 (год публикации - 2024)
10.21146/2074-4870-2024-24-2-105-119

23. Коваль Е.А. Образы (не)человеческого будущего в мире больших данных Человек, Том 35. № 6. С. 90-107 (год публикации - 2024)
10.31857/S0236200724060063

24. Ушкин С.Г., Коваль Е.А., Мартынова М.Д. Цифровая безопасность подростков: социологический анализ Интеграция образования, Т. 29. № 1(118). С. 114-131 (год публикации - 2025)
10.15507/1991-9468.029.202501.114-131

25. Коваль Е.А., Ушкин С.Г., Мартынова М.Д., Попов А.А. Этика больших данных: человечность на входе – человечность на выходе Издательство Мордовского университета, Саранск, Саранск: Национальный исследовательский Мордовский государственный университет им. Н.П. Огарева, 2025. 148 с. (год публикации - 2025)

26. Коваль Е.А. Моделецентричный и датацентричный искусственный интеллект: этические риски и образы будущего Наука, технологии и ценности в неустойчивом мире: Сборник научных статей IV Конгресса Русского общества истории и философии науки, Москва, 27–29 сентября 2024 года. , Москва: Русское общество истории и философии науки, 2024. С. 387-390 (год публикации - 2024)

27. Коваль Е.А. Датаоптимизм, датапессимизм и датареализм: образы моральных рисков в образах будущего Социальные нормы и практики, № 3. С. 24-34. (год публикации - 2024)
10.24412/2713-1033-2024-3-24-34

28. Мартынова М.Д. Big Data и контексты конфиденциальности для подростков в цифровом пространстве ЦИТИСЭ, № 3(41). С. 398-408. (год публикации - 2024)

Аннотация результатов, полученных в 2024 году
В ходе реализации второго этапа проекта были определены основные моральные риски, актуальные для человека, живущего в условиях постоянного накопления больших данных: сужение пространства ценностно-нормативных конфликтов за счет повышения качества прогнозной аналитики, влекущее за собой автоматизированное подталкивание к добру, определяемому на основе обработки данных (рекомендательные системы, учебная аналитика, автоматизированный системы рекрутинга и пр.); сокращение автономии в процессе принятия морально значимых решений; потребность в самооправдании и разделении ответственности или попытки делегировать ответственность в полном объеме агенту искусственной социальности. Если обозначить модель моральных рисков как систему координат, началом которой является человек и его интересы, а оси показывают полюса наиболее проблемных с точки зрения морали взаимодействий естественной и искусственной социальности (доверие/недоверие; автономия/гиперподталкивание, уникальное/стереотипное в становлении личности), то наименее рискогенным для человека будет пространство пересечения зон доверия, автономии и уникального в становлении личности. Для того чтобы управление проектами, основанными на больших данных, было ориентировано на попадание в обозначенную зону в системе социотехнических координат, необходимы специальные регуляторные и дискурсивные механизмы и практики, к которым относятся принцип “хорошего законодательства” (законы о регулировании больших данных пишутся понятным языком, создаются условия для публичного обсуждения законопроектов, всем заинтересованным лицам предоставляется возможность участвовать в экспертизе законопроектов); организация пространства переговоров представителей разной культуры данных (датаоптимисты, датапессимисты и датареалисты); этическое регулирование профессиональной деятельности специалистов по большим данным. Ни правовое регулирование, ни корпоративные нормы и кодексы не могут обеспечить формирование представлений о профессиональной морали, специфике моральных дилемм и ценностно-нормативных конфликтов, возникающих в процессе осуществления профессиональной деятельности. Результаты эмпирических исследований показали, что специалисты по большим данным не имеют ярко выраженной потребности в разработке профессионального этического кодекса, что обусловлено скептическим отношением к такого рода документам, оцениваемым как декларации “всего хорошего против всего плохого”, которые неприменимы на практике. В то же время, профессионалы обозначают пул моральных проблем, возникающих в ходе работы с большими данными, и отмечают, что им нужен кодекс, но простой, лаконичный, удобный для использования и приносящий определенные преференции. С учетом обозначенных ожиданий специалистов по большим данным и с опорой на подход к этическому регулированию профессиональной деятельности В.И. Бакштановского и Ю.В. Согомонова был разработан проект кодекса этики специалиста по большим данным, имеющий модульную структуру, мировоззренческий и нормативный ярусы и раздел, обеспечивающий функционирование кодекса (моральные санкции). Проект кодекса представляет собой своеобразный “этический конструктор”, работа с которым основана, главным образом, на нравственном самоконтроле, способности отвечать на вопросы, связанные с осмыслением миссии профессии, взвешиванием мотивов перед совершением поступка, поиском баланса (когда это возможно) между корпоративными интересами и требованиями профессиональной морали, осознанием неотвратимости ответственности и необходимости заботы о минимизации моральных рисков человека в условиях развития больших данных и связанных с ними технологий. Механизмы самоконтроля и репутационных рисков представляются наиболее оптимальными на текущем этапе, поскольку профессиональное сообщество выразило резкое неприятие любых единоличных или коллегиальных органов (этическая комиссия, третейский суд и пр.), следящих за соблюдением этического кодекса. Несмотря на кажущуюся слабость нравственного самоконтроля (который не тождественен самостоятельности), это довольно эффективный способ самопонуждения к совершению морального поступка, особенно для профессионала. Репутационные риски тоже имеют хорошие перспективы: несмотря на то, что сообщество специалистов по данным разнородно и плохо структурировано, результаты исследования показывают, что они имеют потребность в доверительном отношении и к ним самим, и к тем технологиям, которые они разрабатывают и внедряют. Этика больших данных как самостоятельная область прикладной этики занимается рассмотрением общезначимых проблем, связанных с трансформацией моральных норм и ценностей в условиях развития больших данных и смежных технологий, однако имеющиеся в данной области разработки могут быть полезны и в профессиональной этике. Причем речь идет не только о специалистах по большим данным, но и о представителях иных профессий, которые уже сегодня или в ближайшем будущем будут работать с большими данными. Этика больших данных - это этика ответственного человека, который участвует в сборе, хранении, обработке, анализе больших данных, разрабатывает, внедряет, использует технологии, основанные на данных, наконец, испытывает воздействие больших данных, но не теряет при этом человеческого лица.

Публикации

Возможность практического использования результатов
Проект кодекса этики специалиста по большим данным может быть внедрен в работу организаций, специализирующихся на проектах, связанных с большими данными. Результаты проекта представляют собой научный задел для дальнейших исследований этики цифровых технологий, включая датацентричный искусственный интеллект.