КАРТОЧКА ПРОЕКТА ФУНДАМЕНТАЛЬНЫХ И ПОИСКОВЫХ НАУЧНЫХ ИССЛЕДОВАНИЙ,
ПОДДЕРЖАННОГО РОССИЙСКИМ НАУЧНЫМ ФОНДОМ

Информация подготовлена на основании данных из Информационно-аналитической системы РНФ, содержательная часть представлена в авторской редакции. Все права принадлежат авторам, использование или перепечатка материалов допустима только с предварительного согласия авторов.

 

ОБЩИЕ СВЕДЕНИЯ


Номер проекта 24-18-00432

НазваниеНейрофизиологические механизмы восприятия манипулятивной информации: факторы и стратегии устойчивости

Руководитель Зинченко Оксана Олеговна, Кандидат психологических наук

Организация финансирования, регион федеральное государственное автономное образовательное учреждение высшего образования "Национальный исследовательский университет "Высшая школа экономики" , г Москва

Конкурс №92 - Конкурс 2024 года «Проведение фундаментальных научных исследований и поисковых научных исследований отдельными научными группами»

Область знания, основной код классификатора 08 - Гуманитарные и социальные науки; 08-552 - Психофизиология, психогенетика, сравнительная психология, зоопсихология, эволюционная психология

Ключевые слова манипулятивная информация, дезинформация, фейк, дипфейк, восприятие, нейрофизиология, ЭЭГ, МЭГ, доверие, устойчивость, убеждение, социальные нормы

Код ГРНТИ15.21.35


 

ИНФОРМАЦИЯ ИЗ ЗАЯВКИ


Аннотация
Манипулятивная информация может содержать в себе ложную информацию (дезинформацию), созданную с целью ввести аудиторию в заблуждение, сформировать неверное представление и, соответственно, подтолкнуть к желаемым действиям или бездействию. В настоящее время ложная информация представляет особую опасность для социальной стабильности, противодействия эпидемиям, экономического развития и других сфер жизни. С помощью новых технологий качество манипулятивных материалов вышло на новый уровень — их реалистичность и эффективность воздействия значительно возросла, увеличились и скорость и масштаб распространения. Манипулятивные, в том числе фейковые материалы зачастую распространяются быстрее, чем подлинные новости, и люди склонны им доверять по ряду демографических факторов, таких как возраст уровень образования и политические взгляды, а также по таким психологическим факторам, как соответствие внутренним установкам, потребность в познании, склонность к конформизму и социальное влияние. Люди считают источники, которые соответствуют их взглядам в идеологическом плане, более достоверными и заслуживающими доверия, поэтому манипулятивная информация, соответствующая установкам больших масс людей, распространяется особенно быстро. Манипулятивная информация не всегда содержит прямую дезинформацию, она может быть преподнесена особыми средствами и техниками. Среди известных типов манипуляций — медиа фрейминг и его разновидности, создание заведомо позитивной или негативной рамки восприятия сообщения средствами языка, контекстом сообщения, коннотацией фраз и выражений и т.д. Могут быть использованы эмоциональные фразы и выражения, которым противостоят эвфемизмы, либо, наоборот, официальный, трудно воспринимаемый язык и канцеляризмы. Для изучения эффективного противодействия манипулятивной информации мы планируем использовать коррекцию, препятствующую негативному воздействию, в виде так называемых дисклеймеров, и изучить нейрофизиологические корреляты их восприятия. Полученные нейрофизиологические данные будут проанализированы в контексте социо-демографических и поведенческих данных участников, для выявления факторов доверия к фейкам и манипуляциям разного типа. Предлагаемый проект планирует исследовать, как внутренние установки и убеждения человека по актуальным вопросам современности могут быть искажены манипулятивным контентом. Иными словами, исследовательской группе необходимо изучить ключевые факторы доверия и влияния манипулятивной информации на индивида и протестировать механизмы противодействия ложному контенту для дальнейшей эксплуатации. Будет изучена нейрофизиологическая и когнитивная основа восприятия манипулятивной информации с использованием методов электроэнцефалографии (ЭЭГ) и магнитоэнцефалографии (МЭГ), регистрируемых во время представления манипулятивных материалов в сочетании с подробным исследованием индивидуальных особенностей испытуемых. Планируется исследовать данные в парадигме вызванных потенциалов (пр. P200, N400, FRN), а также провести анализ межсубъектных корреляций - метод исследования нейробиологических данных, который позволяет определить уровень корреляции между ЭЭГ/МЭГ сигналами испытуемых. Предлагаемый междисциплинарный проект позволит определить нейрофизиологические и поведенческие корреляты восприятия манипулятивной информации, включая дезинформацию, выявить индивидуальные факторы восприимчивости к доверию или устойчивости по отношению к фейкам и дипфейкам, изучить эффективность дисклеймеров как способа борьбы с манипулятивной информацией и разработать инструменты для тестирования эффективности технологий противодействия распространению ложной информации в ключевых сферах человеческой жизни.


 

ОТЧЁТНЫЕ МАТЕРИАЛЫ


Аннотация результатов, полученных в 2024 году
Манипулятивный контент в современном информационном пространстве представляет собой серьезный вызов для общества. Ежедневно мы сталкиваемся с различными формами манипуляций – от явной дезинформации до тонких манипулятивных стратегий в новостях, социальных сетях, рекламе и межличностном общении. Люди часто становятся уязвимыми к такому контенту из-за различных когнитивных искажений: мы склонны больше доверять авторитетным источникам, даже в случае, если они неправы, охотнее принимаем информацию, соответствующую нашим убеждениям, и можем некритично воспринимать сообщения, если они представлены в смягченной, эвфемистической форме. Наш междисциплинарный проект направлен на изучение факторов, влияющих на доверие к манипулятивному контенту, и поиск эффективных способов противодействия ему. В рамках проекта за 2024 год было проведено три взаимосвязанных исследования, каждое из которых рассматривало различные аспекты восприятия и обработки потенциально манипулятивной информации. В первом исследовании мы изучали восприятие аудио-дипфейков на примере темы вакцинации от коронавируса. С помощью технологий искусственного интеллекта были созданы имитации голосов двух публичных личностей с противоположными взглядами на вакцинацию: известного врача и общественного деятеля. В эксперименте приняли участие 61 человек с различным отношением к вакцинации. В ходе исследования регистрировалась мозговая активность (ЭЭГ) участников во время прослушивания дипфейков. Результаты показали, что участники обеих групп (как сторонники, так и противники вакцинации) воспринимали врача как более авторитетного и убедительного спикера. Его высказывания оценивались как более заслуживающие доверия и вызывали более сильное желание поделиться информацией. На уровне мозговой активности были обнаружены более выраженные нейронные реакции (компонент N400) у противников вакцинации при прослушивании неожиданных высказываний врача, что указывает на затрату дополнительных когнитивных ресурсов при обработке информации, не соответствующей ожиданиям. Второе исследование было посвящено эффективности различных видов дисклеймеров в нейтрализации ложной информации. Мы изучали влияние дисклеймеров разного типа (указывающих на правдивость или ложность информации) и от разных источников (авторитетных и неавторитетных) на доверие к контенту и желание им поделиться. Результаты показали, что дисклеймеры, подтверждающие правдивость информации, значительно повышают доверие к контенту независимо от авторитетности источника. При этом предупреждения о ложности информации эффективны только если исходят от авторитетного источника. Интересно, что уровень критического мышления участников не влиял на их оценку информации, но люди с более высоким уровнем конформизма оказались более восприимчивы к влиянию дисклеймеров, демонстрируя более выраженные изменения в уровне доверия и желании поделиться информацией. Третье исследование было направлено на изучение того, как использование эвфемизмов влияет на восприятие ситуаций, связанных с нарушением моральных норм. Участникам предъявлялись описания ситуаций с использованием прямых формулировок, эвфемизмов или не содержащих нарушений норм. Результаты показали, что эвфемизмы значительно снижают воспринимаемую серьезность нарушений по сравнению с прямыми формулировками. Это подтвердилось как на уровне сознательных оценок участников, так и на уровне мозговой активности: были обнаружены значимые различия в компоненте P600 вызванных потенциалов между эвфемизированными, неэвфемизированными и контрольными словами. Полученные результаты вносят важный вклад в понимание механизмов воздействия манипулятивного контента и могут быть использованы для разработки эффективных стратегий противодействия дезинформации. Наши исследования показывают, что восприятие информации зависит от множества факторов: статуса источника, формы подачи информации, личностных характеристик получателя. При этом даже люди с развитым критическим мышлением могут быть подвержены влиянию манипулятивных стратегий, что подчеркивает важность развития комплексных подходов к повышению информационной грамотности населения. Результаты проекта могут найти практическое применение в разработке образовательных программ по медиаграмотности, создании систем проверки информации и совершенствовании методов противодействия распространению дезинформации в цифровой среде. Медиа-материалы, описывающие результаты проекта: https://www.forbes.ru/mneniya/522743-biznes-bez-fejkov-kak-zasitit-nas-mozg-ot-dezinformacii https://style.rbc.ru/life/655c58659a7947feb2295734

 

Публикации

1. Косова Е.М., Андреев С.С., Сафонова А.Г., Зинченко О.О. Social norm compliance for newly introduced norms during COVID-19 pandemic IEEE (год публикации - 2024)
10.1109/CNN63506.2024.10705834

2. Монахова Э., Морозова А.Н., Городничева Ю.М., Зинченко О.О., Моисеева В.В., Ключарев В.А. ERP correlates of the semantic violations in the deepfakes containing disinformation regarding COVID-19: Pilot study IEEE (год публикации - 2024)
10.1109/CNN63506.2024.10705875

3. Морозова А.Н., Монахова Э., Городничева Ю.М., Зинченко О.О., Шестакова А.Н., Ключарев В.А. Event-Related Potentials in response to fake news correction: Pilot study IEEE (год публикации - 2024)
10.1109/CNN63506.2024.10705859


Аннотация результатов, полученных в 2025 году
Манипулятивный контент в современном информационном пространстве представляет собой серьёзный вызов для общества. Люди часто становятся уязвимыми к такому контенту из-за когнитивных искажений: мы склонны больше доверять авторитетным источникам, даже если они неправы, и охотнее принимаем информацию, соответствующую нашим убеждениям. Наш междисциплинарный проект направлен на изучение факторов, влияющих на доверие к манипулятивному контенту, и поиск эффективных способов противодействия ему. В рамках проекта за 2025 год было проведено пять взаимосвязанных исследований. В первом исследовании мы изучали восприятие аудиодипфейков на примере темы вакцинации. С помощью ИИ были созданы имитации голосов двух публичных личностей: известного врача и общественного деятеля. Результаты показали, что участники воспринимали врача как более авторитетного и убедительного спикера. На уровне мозговой активности были обнаружены более выраженные реакции (компонент N400) при прослушивании высказываний врача, противоречащих его публичной позиции. Участники с более высокой потребностью в познании оценивали спикеров более критично, демонстрируя большую устойчивость к манипулятивному воздействию. Второе исследование было посвящено изучению того, как характеристики достоверности врачей влияют на восприятие медицинской информации. Мы манипулировали экспертностью (стаж работы) и надёжностью (рейтинг пациентов). Участникам эксперимента предъявлялись медицинские утверждения с подсказками от врачей («Правда» или «Обман»). Результаты показали, что надёжность (рейтинг) оказывала более чем вдвое сильный эффект по сравнению с экспертностью. На уровне мозговой активности подсказки «Обман» от наиболее достоверных врачей вызывали более выраженную реакцию (компонент FRN), что интерпретируется как нарушение ожиданий. Уровень конформизма положительно коррелировал с готовностью менять мнение. Третье исследование было посвящено изучению нейронных механизмов когнитивного диссонанса. С использованием онлайн-ТМС с нейронавигацией проводилась стимуляция дорсолатеральной (dlPFC) и дорсомедиальной (dmPFC) префронтальной коры во время задачи на выбор между равноценными альтернативами. Результаты показали, что подавление активности dmPFC устраняло эффект изменения предпочтений после выбора, тогда как в контрольных условиях эффект сохранялся. Это подтверждает ключевую роль dmPFC в разрешении когнитивного диссонанса. Полученные данные имеют прямое отношение к восприятию дезинформации: когнитивный диссонанс возникает, когда человек узнаёт, что информация от авторитетного источника оказывается ложной. Четвёртое исследование было направлено на изучение эффективности дисклеймеров в нейтрализации ложной медицинской информации. Мы изучали влияние дисклеймеров разного типа («Правда»/«Обман») и от разных источников (авторитетных и неавторитетных) на доверие к контенту. Результаты показали, что дисклеймеры, подтверждающие правдивость информации, повышают доверие только если исходят от авторитетного источника. Предупреждения о ложности снижали доверие независимо от источника, но эффект был устойчивее для авторитетных источников. На уровне мозговой активности обнаружены различия в поздних компонентах (LPP), модулируемых авторитетностью источника. Пятое исследование было посвящено изучению восприятия аффективных и когнитивных манипуляций в медиаконтенте. С использованием айтрекинга участникам предъявлялись сообщения трёх типов: нейтральные, с аффективными манипуляциями и с когнитивными манипуляциями. Результаты показали, что манипулятивные сообщения вызывают сокращение амплитуды саккад и увеличение количества фиксаций. Участники с более высокой потребностью в познании демонстрировали более экономичное сканирование текста. Полученные результаты вносят вклад в понимание механизмов воздействия манипулятивного контента и демонстрируют физиологические корреляты восприятия манипулятивной информации. Люди склонны доверять источникам с высоким статусом, причём надёжность (рейтинги) может оказывать более сильное влияние, чем формальная экспертиза. Потребность в познании выступает защитным фактором против манипулятивного воздействия, тогда как конформизм повышает восприимчивость к влиянию авторитетных источников. Результаты проекта могут найти применение в разработке программ по медиаграмотности и совершенствовании методов противодействия дезинформации. Упоминания в медиа: https://www.hse.ru/news/development/1093783262.html – новость на сайте НИУ ВШЭ https://social.hse.ru/nk/news/1051523444.html – новость на сайте НИУ ВШЭ https://neuro.hse.ru/ilsn/news/1051162900.html – новость на сайте НИУ ВШЭ https://neuro.hse.ru/ilsn/news/1106335805.html – новость на сайте НИУ ВШЭ https://neuro.hse.ru/news/1105818294.html – новость на сайте НИУ ВШЭ https://rutube.ru/video/68ae161a262ba7c2bb509bd3bc1e962b/ – подкаст “Как мы реагируем на фейки”, Комсомольская Правда

 

Публикации

1. Морозова А.Н., Монахова Э., Городничева Ю.М., Зинченко О.О., Шестакова А.Н., Ключарев В.А. Time-Frequency Representations in response to true and fake news: Pilot study IEEE (год публикации - 2025)
10.1109/CNN67635.2025.11177522

2. Городничева Ю.М., Беким А., Ключарев В.А., Монахова Э., Менинг С.М., Морозова А.Н., Зинченко О.О. Uncertainty Reduction Through Affective and Cognitive Media Manipulations: An Eye-Tracking Pilot Study Across NFC Profile IEEE (год публикации - 2025)
10.1109/CNN67635.2025.11177516

3. Монахова Э., Морозова А.Н., Городничева Ю.М., Зинченко О.О., Менинг С.М., Рудненький Н.В., Ключарев В.А. Impact of Source Credibility on Medical Information Persuasiveness: A Pilot EEG Study IEEE (год публикации - 2025)
10.1109/CNN67635.2025.11177513

4. Давыдова А., Шеронова Ю.П., Косоногов В.В., Шестакова А.Н., Ключарев В.А., Моисеева В.В. Online Repetitive Transcranial Magnetic Stimulation of Dorsomedial and Dorsolateral Prefrontal Cortex in Cognition Decision Making, and Cognitive Dissonance JoVE (год публикации - 2025)
10.3791/67500