Общественная дискуссия по всему миру поляризировалась и стала токсичной, особенно в интернете. Некоторые страны пытаются бороться с этим явлением на законодательном уровне. Однако, криминализация речи не предотвратила её вреда, особенно в цифровом пространстве, где нет государственных границ. Не помогает и модерация контента, практикуемая компаниями-владельцами социальных сетей, пускай они и удаляют миллионы публикаций каждый день за нарушения закона и своих внутренних правил. Однако, существует другой способ улучшить дискуссии, который до сих пор в известной степени ускользал от внимания: контрспич. Он заслуживает большего внимания и изучения. В конце концов, в оффлайне, общественные нормы влияют на человеческую речь и поведение куда больше, чем закон или правоприменение. Речь идёт о неписаных, но мощных правилах, с помощью которых саморегулируются человеческие сообщества. Нормам поведения всегда обучали и поддерживали их в бесчисленных незадокументированных разговорах. В основном это делали люди, знакомые со своей аудиторией лично – родители, учителя, одноклассники, духовенство, соседи, – а отнюдь не правительства, компании или другие институты. Конечно, в интернете это работает не совсем так же, поскольку тот существенно изменил человеческое общение: 1) люди могут говорить и вести себя без тех же социальных ограничений, которые они ощущают оффлайн; 2) незнакомцы, даже самые разные, общаются друг с другом гораздо больше, чем когда-либо прежде; и 3) сетевые разговоры часто записываются, и их можно изучать.

Общение в большинстве социальных сетей регулируется их владельцами, и, в гораздо меньшей степени – правительствами, которые пытаются заставить компании подавлять определенные формы высказываний. В политических дебатах о том, как улучшить сетевые дискуссии, до сих пор обсуждали именно такие формы вертикального контроля. Тем не менее, тысячи людей незаметно взяли на себя функцию контрспикеров в интернете: они пытаются привнести в дискуссии свои нормы, реагируя на контент, который считают разжигающим ненависть, вредным или оскорбительным. Проект Dangerous Speech (DSP) ищет самые удачные ответы на вредоносный контент, особенно на тот, который увеличивает риск межгруппового насилия, который он называет опасной речью. Несколько лет назад они заметили как  действуют контраргументаторы. Команда начала поиски и постепенно нашла многих других. Некоторые действуют в одиночку, а многие контраргументируют хорошо скоординированными группами, насчитывающими тысячи человек. Их усилия – полностью низовая инициатива: все контраргументаторы действуют в качестве волонтёров, без оплаты. DSP изучил их и их усилия, проведя первое этнографическое исследование контраргументаторов, подробно написав том, чего они пытаются достичь, и каков реальный эффект их действий. В целом, цели их довольно схожи, а методы разительно различаются. По результатам этой работы, которая, по нашим сведениям, является самым большим корпусом исследований контрспича в мире, DSP создал этот инструментарий.

Контрспич – это практика ответа на высказывания, которые кажутся вредными или оскорбительными. Она может принимать различные формы, такие как опровержение, разоблачение или критика вредной речи, распространение альтернативных точек зрения, предоставление точной информации, а также эмпатия и понимание. Организации и исследователи используют разные определения контрречи. Ниже приведены репрезентативные примеры.

• Проект Dangerous Speech определяет контрспич как «любой прямой ответ на разжигающую ненависть или вредоносную речь, который спорит с ней». DSP различает контрспич и контрнарратив. Под последним подразумевается предложение взгляда, противоположного оппоненту, но без ответа на конкретный контент (например, пост или комментарий). Например, феминистическое эссе можно считать контрнарративом к мизогинии.
• Совет Европы аналогично различает контрспич и контрнарратив, который он называет «альтернативной речью». Согласно Совету, «в то время как контрспич является короткой и прямой реакцией на хейтспич, альтернативная речь обычно не оспаривает или прямо не относится к хейтспичу, а вместо этого меняет рамки дискуссии».
• Надин Строссен, защитник гражданских свобод и бывший президент Американской ассоциации гражданских свобод (ACLU), считает контрнарратив формой контрречи. Она описала контрспич как «краткий термин, обозначающий любую речь, которая стремится противодействовать или уменьшить потенциальные негативные последствия хейтспича или другой спорной речи. Чаще всего контрспич принимает форму попытки образовать или информировать, противостоя идеям и ценностям, отраженным в проблематичной речи».
• Лига Маннергейма по защите детей пишет, что «контрспич является противоположностью хейтспича». «Контрспич – это гуманное, эмпатичное высказывание. Цель контрречи – показать, что каждый человек ценен. В повседневных ситуациях контрспич принимает форму защиты дискриминируемых».
• Исследователи контрречи Джошуа Гарланд и его коллеги определяют его как «форму цивилизованного ответа на хейтспич, призванную предотвратить или остановить его, или поддержать его жертву; например, указав на логические ошибки в комментарии, разжигающем ненависть или апеллируя к фактам для опровержения дезинформации».

Хотя эти определения и разнятся, все они описывают контрспич как ответ на выражение ненависти, призванный ослабить её вредоносные эффекты. Вариации среди определений также важны. Например, ученые и практики разнятся во мнении о том, всегда ли контриспич вежлив. Некоторые утверждают, он может быть только таким; например, Лига Маннергейма по защите детей определяет его как «гуманное, эмпатичное выражение», а большинство других определений не включают такую квалификацию. Еще одно различие заключается в том, являются ли определения узкими (тогда они подразумевают некоторую связь между изначальной речью и ответом) или широкими (включающими в себя и контрречь, и контрнарратив/альтернативную речь).

Ответ на оскорбительную речь не является чем-то новым – люди давно, так или иначе, выражали свое несогласие с комментариями, которые они считали вредоносными. Однако, концепция контрречи как ответа на ненависть относительно недавняя.

«Контрспич» впервые появилась в печати как минимум в начале 1800-х годов, хотя во всех ранних случаях термин означал просто опровержение любой речи (не обязательно разжигающей ненависть или вредной). Например:

• «Речь и контрречь не сочетались друг с другом. Ораторы говорили мимо ушей друг друга» (Пишут в 1918 году в “The Independent”, Выпуск 95, еженедельном журнале, публиковавшемся в Нью-Йорке между 1848 и 1928 годами).
• «Первый из них содержит три речи о любви, одну от Лисия в поддержку мнения, что мальчик должен отдать предпочтение холодному и бесстрастному влюбленному, а не пламенному и страстному, и две от Сократа – первая дополнительная речь, в том же смысле, в котором такие речи были обычны в судах для защиты той же причины, что и предыдущая; другая, напротив, контрспич в поддержку страстного ухажера, так сурово обвиненного в первой» (Из Шлейермахера, Введения к диалогам Платона. 1836). Современное понимание контрречи гораздо моложе, и, как показано на рисунке ниже, получил своё распространение именно в последние годы.

Иллюстрация из Google Books Ngram Viewer – использование терминов в англоязычных книгах с 1820 по 2019 годы.

В Соединенных Штатах Америки концепция контрречи берет своё начало от судьи Верховного суда США Луиса Д. Брандейса, который написал в знаменитом эссе 1927 года, что лучшим средством против вредоносной речи должен быть ответ на нее, а не цензура. Хоть он и присоединился к остальным членам Суда, поддержав осуждение женщины из Калифорнии, которая помогла учредить Коммунистическую трудовую партию Америки, Брандейс заявил:

«Если у нас есть время разоблачить ложь и заблуждения дебатами, предотвратить зло образовательным процессом, то и решением проблемы должна быть свобода слова, а не его запрет.»

Американские адвокаты часто называют это доктриной контрречи, хотя сам Брандейс никогда не пользовался таким термином. Основываясь на ней и других похожих идеях, Верховный суд очень широко толкует положение Конституции США о свободе выражения мнений.

Контрнарратив представляет собой точку зрения или нарратив, который бросает вызов или противостоит другому взгляду на определенную тему, проблему или событие. Он предлагает альтернативную интерпретацию, анализ или понимание исторических событий, социальных вопросов, культурных норм или политических идеологий.

Контрнарративы часто разрабатываются маргинализированными группами или индивидами, которые бросают вызов господствующим идеям или убеждениям, поддерживающим стереотипы, угнетение или исключение. Они стремятся дать голос тем, кто часто остается неуслышанным или неправильно представленным в основных нарративах. Кампании контрнарратива также часто используются для борьбы с экстремизмом.

Иногда кампании создаются НКО или правительствами и принимают форму коротких видеороликов, рекламы или даже видеоигр, созданных для вирусного распространения среди целевой аудитории. Хорошим примером таких усилий контрнарратива являются анимационные видеоролики серии «Типичный Мухаммед», созданные одноименным НКО, которые представляют живущего в Соединенных Штатах сомалийского иммигранта. Они названы по имени главного героя роликов, нацеленных на борьбу с пропагандой экстремистов наподобии ИГИЛ. Такая пропаганда используется для индоктринации и вербовки мусульманской молодежи. Другие контрнарративы распространяются через массовые кампании, часто в социальных сетях вокруг общего хэштега. Одним из примеров такого рода ответа является кампания #MyFriend, запущенная в 2015 году активистом и бывшим политическим заключенным из Бирмы Вай Вай Ну. Хейтспич, направленная против мусульман в Мьянме, особенно в социальных сетях, привлекла внимание ученых и практиков в области прав человека. В 2018 году следователи Организации Объединенных Наций заявили, что социальные сети сыграли «решающую роль» в кампании преступлений против человечности и геноцида, в ходе которой армия Мьянмы убила более 10 000 мусульман-рохинджа.

Кампания #myfriend призывала жителей Мьянмы публиковать селфи с друзьями других религий и этнических групп вместе с хэштегами #myfriend и #friendshiphasnoboundaries с целью сокращения «всех форм дискриминации, ненависти, хейтспича и расизма на основе религии, этнической принадлежности, национальности, цвета кожи и пола» в Мьянме и поощрения «любви и дружбы» между группами. В Мьянме в это время прямое высказывание против правительства означало как минимум риск тюремного заключения. Кампания #myfriend была тонким, но ясным отрицанием государственного нарратива о том, что мусульмане-рохинджа представляют угрозу для Мьянмы и ее буддийского большинства.

Проект «Будущее свободы слова»

Проект «Будущее свободы слова» (FoFS) был запущен в 2020 году датским аналитическим центром Justitia, а начиная с 2023 года осуществляется совместно центром Justitia и Университетом Вандербильта.

Ценность свободы слова

Свобода слова является основой демократии; ни одно свободное и демократическое общество никогда не было установлено или не процветало без неё. Свобода выражения мнений легла в основу беспрецедентного научного, социального и политического прогресса, который принёс пользу отдельным лицам, сообществам, нациям и всему человечеству. Миллионы людей черпают безопасность, знания, да и cам смысл существования из права бросать вызов власти, подвергать сомнению релизиозный фундаментализм, разоблачать коррупцию и бороться с угнетением, фанатизмом и ненавистью.

Мы в FoFS верим, что крепкая и устойчивая культура свободы слова должна быть основой для будущего любого свободного, демократического общества. Мы убеждены, что, несмотря то, что быстрые технологические изменения, приносят новые вызовы и угрозы, свобода слова должна продолжать быть основополагающей идеей и фундаментальным правом для всех людей – независимо от расы, этнической принадлежности, религии, национальности, сексуальной ориентации, гендера или социального статуса.

Глобальное снижение свободы слова

Свобода слова снижается по всему миру уже больше десятилетия. Если оставить эту тенденцию без внимания, ухудшение свободы слова угрожает индивидуальной свободе, гражданскому обществу и демократическим институтам, а также прогрессу в науке и философии. Существует множество причин глобального снижения свободы слова, включая рост авторитаризма на всех континентах. Даже в открытых обществах демократичность и вирулентность речей в Сети всё чаще рассматривается как угроза, а не как предпосылка для хорошо функционирующего, свободного, толерантного и плюралистического общества. Угрозы – как реальные, так и мнимые – от хейтспича, экстремизма, терроризма и дезинформации привели к призывам к более строгому регулированию речи как со стороны авторитарных, так и демократических правительств, компаний-владельцев социальных сетей, отдельных лиц и НКО. В качестве одного из недавних примеров, коронавирус вызвал не только чрезвычайную ситуацию в области здравоохранения, но и пандемию цензуры: многие государства цензурировали в попытке подавить дезинформацию, в то время как другие использовали коронавирус как предлог для захвата ещё большей власти над прессой и интернетом. Такие меры оказывают давление как на ценность, так и на право на свободу слова, но также ставят перед защитниками свободы слова задачу пересмотреть, обновить и улучшить аргументы в пользу того, почему свобода слова имеет значение. Уроки истории крайне важны для понимания ценности свободы слова, но в цифровую эпоху, когда пропаганда и дезинформация могут мгновенно распространяться по всему миру, недостаточно полагаться только на проверенные временем аргументы свободы слова из прошлых эпох.

Что мы делаем

Для лучшего понимания и противодействия упадку свободы слова, FFS стремится ответить на три больших вопроса: Почему свобода слова пришла в упадок? Как мы можем лучше понять и концептуализировать пользу и вред от свободы слова? И как мы можем создать устойчивую глобальную культуру свободы слова, которая приносила бы пользу всем? Цели состоят в том, чтобы лучше понять, почему нам нужна свобода слова и лучше объяснить, почему свобода высказываний так фундаментальна. Мы также будем исследовать, как мы можем защитить свободу слова, одновременно решая юридические проблемы, связанные с дезинформацией, экстремизмом и речью ненависти.

Наша деятельность делится на три направления. (1) Посредством опросов и исследований мы будем измерять глобальные отношения к свободе слов; и анализировать, на реальных или мнимых угрозах основаны общие опасения и аргументы, используемые для оправдания ограничений свободы слов. (2) Защита и укрепелние уже существующих стандартов, необходимых для сопротивления глобальному авторитарному снижению свободы слова. (3) FFS предоставляет активистам, политикам, учёным и другим ключевым заинтересованным сторонам данные, аргументы и стандарты, которые повернуть вспять то, что FFS называет упадком свободы слова.

В конечном итоге, FFS стремится углубить экспертизу и создать мотивацию, которые нужны чтобы мотивировать активистов, убедить скептиков, сопротивляться автократам и содействовать становлению устойчивой глобальной культуре свободы слова.

Проект Dangerous Speech

Проект Dangerous Speech (DSP) – это непартийная, некоммерческая исследовательская группа, изучающая язык вражды: любую форму коммуникации, которая может увеличить риск того, что одна группа людей проявит насилие против другой группы. Мы пытаемся найти лучшие способы противодействия таким коммуникациям, защищая при этом свободу выражения мнений. Мы не не относимся к университету или какому-либо другому учреждению.

Наша миссия

Мы стремимся к миру, в котором нет места насилию, спровоцированного языком вражды, но в котором люди также имеют полную свободу выражения мнений. Мы даем людям возможность противостоять языку вражды и насилию, которое он провоцирует, проводя исследования, образование и политическую работу.

Что мы делаем

Проект Dangerous Speech (DSP) работает в основном в пяти областях:

1. Изучение языка вражды и его вреда и разработка полезных идей в этой сфере.

Мы собираем и анализируем исторические и современные примеры языка вражды со всего мира, чтобы лучше понять связь между речью и насилием. Опираясь на эти исследования, мы написали подробное практическое руководство для идентификации языка вражды и противодействия ему, как онлайн, так и оффлайн. Наш FAQ предоставляет тезисы по этой теме. Через нашу стипендиальную программу мы заказали подробные исследования и сбор данных об опасной речи от исследователей из ряда стран, поскольку такой анализ лучше всего проводится людьми, владеющими соответствующими языками и культурами.

2. Исследование и оценка ответов на язык вражды и другую вредоносную речь, включая хейтспич.

Для уменьшения эффектов языка вражды и других форм вредоносной речи, мы изучаем широкий спектр способов, зачастую инновационных и нестандартных, которыми люди и организации гражданского общества пользуются, чтобы отвечать на вредоносную речь конструктивными способами, включая контрспич. Мы собрали многих из этих новаторов вместе впервые, как в частном, так и в общественном поле. Это положило основу нашему исследованию и общей работе.

3. Адаптация, формулировка и распространение знаний о хейтспиче для дальнейшего использования ключевыми сообществами.

Насколько это возможно, мы передаем наши идеи людям, которые могут использовать их для изучения опасной речи и противодействия ей. Помимо наших общедоступных публикаций, мы также проводим тренинги и семинары для различных групп, включая активистов, образовательных работников, юристов, исследователей, студентов и сотрудников технологических компаний. Благодаря этим и другим усилиям, наша работа использовалась для изучения и/или противодействия опасной речи в таких разнообразных странах, как Нигерия, Шри-Ланка, Дания, Венгрия, Кения, Пакистан и Соединенные Штаты Америки.

4. Консультирование и критика людей, принимающих решения по управлению коммуникациями.

Как эксперты по тому, как речь порождает насилие, мы используем наши знания, чтобы консультировать представителей IT индутрии. Мы знаем как предвидеть, минимизировать и реагировать на вредоносный дискурс таким образом, чтобы предотвратить насилие, но не ограничивать свободу выражения. Мы консультируем ряд IT компаний по поводу их политики модерации. Опираясь на результаты наших исследований, мы отвечаем на вопросы о том, что делать с языком вражды, насилием против женщин, армиями государственных троллей, как модерировать контент во время выборов, как бороться с разжиганием ненависти в странах, подверженных угрозе межгруппового насилия.

5. Содействие и защита возможностей по исследованию сетевого контента

Мы твердо верим, что компании должны сотрудничать с внешними сторонами для исследования методов сокращения вредоносного поведения на своих платформах – и открыто публиковать результаты. В этой связи мы являемся учредителями Коалиции независимых технологических исследований, которая добивается того, чтобы обязать компании делиться своими данными для исследований в интересах общества, защищать исследователей, которые самостоятельно собирают данные компаний, и устанавливать лучшие практики этичных исследований, защищающих частную жизнь в интересах общества.

Первая фаза FoFS (2020-2023) стремилась исследовать и переломить тенденцию «рецессии свободы слова» и работать над созданием устойчивой культуры свободы слова. Проект достиг своих целей через исследовательскую и переговорную деятельность. Он сотрудничал с различными заинтересованными сторонами, такими как компании-владельцы социальных сетей, государства, международные институты и гражданское общество. FoFS ставил своей целью исследовать возможные причины этой рецессии, которая часто связывается с авторитарным популизмом и характерным для него подавлением свободомыслия, гражданского общества и независимой прессы.

Вторая фаза FoFS (2023-2026) основывается на выводах первой фазы и стремится создать понимание, в рамках которого свобода слова будет продвигаться и использоваться как средство для борьбы с негативными онлайн-явлениями. Сами по себе и совместно с ведущими учреждениями и организациями, мы разрабатываем меры по защите свободы слова (цифровые и аналоговые), для борьбы с ненавистью, дезинформацией и пропагандой. Вместо того чтобы отталкиваться от того факта, что экстремистская речь может нанести серьёзный вред, FoFS сосредотачивается на изучении и продвижении нерестриктивных способов использования свободы выражения мнений и доступа к информации для борьбы с ненавистью, дезинформацией и авторитарной пропагандой. Одним из результатов, предложенных FoFS, является настоящий инструментарий, который, как мы надеемся, позволит пользователям интернета, интернет-активистам и организациям гражданского общества использовать контрспич как главный механизм для решения проблем, возникающих в сетевой агоре идей и мнений. В этом контексте он сотрудничал с DSP, которые, опираясь на свой опыт и знания, разработали содержание этого инструментария, который, как мы надеемся, позволит пользователям лучше понять и использовать контрспич.

Далее, в сотрудничестве с Институтом Анализа Данных Вандербильта, FoFS разрабатывает приложение на основе искусственного интеллекта, которое позволит пользователям быстро реагировать хейтспич в интернете с помощью контрречи. Это приложение, работающее на больших языковых моделях (LLMs), таких как ChatGPT, позволит пользователям загружать обнаруженные в сети оскорбительные посты и генерировать ответ-контрспич, который при этом cохранил бы собственный стиль пользователя. Для настройки и персонализации приложения оно использует информацию от пользователя, такую как ценности пользователя и образцы его письма, а также настраиваемую коллекцию документов, содержащих стратегии ответа на речь ненависти. Кроме того, приложение будет иметь доступ к базе данных контекста хейтспича, такой как аббревиатуры и словарь, используемые экстремистскими группами, которые могли бы быть упущены при первоначальном изучении контента. После первоначальной настройки предпочтений пользователя, он может отправить оскорбительный пост, и приложение создаст ответ на этот пост.

Задачей является упрощение и помощь пользователям в процессе создания эффективных ответов, а не полная автоматизация контрречи. Этот проект создан в надежде облегчить бремя контраргументаторов в их борьбе с обильным хейтспичем, а также поддержать свободу слова.

Мы надеемся, что инструментарий и предстоящее приложение окажутся полезными для тех, кто работает или хочет работать над использованием контрречи для борьбы с онлайн-хейтспичем.

Это наиболее распространенный термин для нежелательного контента на английском языке, и вариации этого термина также используются на других языках. Хотя общепринятого определения хейтспича нет, все определения описывают его как контент, который унижает или атакует людей не как индивидуумов, а за то, что они принадлежат к какой-либо группе людей.

Следовательно, если ребенок говорит своей матери «я тебя ненавижу», это не хейтспич, потому что эмоция направлена на мать лично и на её личные права, а не на члена какой-либо группы. Также можно надеяться, что эмоция ребенка не настолько сильна или долговременна, чтобы квалифицироваться как ненависть, хотя также нет консенсуса о том, что именно означает «ненависть». «Хейтспич» очень редко кодифицируется или определяется в законе. Организация Объединенных Наций в своей Стратегии и плане действий по борьбе с речью ненависти предложила  очень широкое определение:

«любого рода коммуникацию в устной, письменной или поведенческой форме, которая носит враждебный характер или использует уничижительные или дискриминационные формулировки в отношении какого-либо лица или группы лиц по признаку того, кто они есть, или, иными словами, по признаку их религии, этнического происхождения, национальности, расы, цвета кожи, социального происхождения, пола и других факторов идентичности.»

В международном праве нет определения хейтспича. Организация Объединенных Наций отмечает, что «концепция все еще находится в стадии обсуждения».

Опасная речь – это любая форма выражения (включая речь, текст или изображения), которая увеличивает риск того, что ее аудитория одобрит или примет участие в насилии против членов другой группы. Некоторые контраргументаторы выбирают реагировать именно на опасную речь, поскольку она является более узкой, более объективно очерченной категорией, чем хейтспич. Вдобавок, они считают межгрупповое насилие наиболее опасным явлением, предотвращение которого особенно стоит усилий. Группа контраргументаторов #wearehere в Канаде, например, ищет именно опасную речь и реагирует на нее.

Идея опасной речи возникла после того, как DSP заметил поразительные сходства в риторике, которую лидеры используют для провоцирования насилия в совершенно разных странах, культурных и исторических контекстах. Одним из таких риторических признаков или повторяющихся шаблонов в опасной речи является обесчеловечивание, или отсылка к людям другой группы как к насекомым, презираемым или опасным животным, бактериям или раку. Однако одной риторики недостаточно, чтобы считать речь опасной; контекст, в котором она передается, имеет решающее значение.

Чтобы получить дополнительную информацию об #iamhere (к которому относится #wearehereCanada) см. раздел Примеры.

Оба эти термина обозначают ложь. Дезинформация распространяется людьми, знающими, что она ложная, а мисинформация распространяется людьми, ошибочно считающими ее истинной. Таким образом, одно и то же сообщение может быть и дезинформацией, и мисинформацией, в зависимости от ее распространителя. В любом случае, она может причинить значительный, измеримый вред. Один из выдающихся недавних примеров – утверждения, что COVID менее опасен, чем прививки против него. Под воздействием этого сообщения многие люди отказались от вакцинации, что привело ко множеству бессмысленных смертей. Другой пример –перед вторжением в Украину в феврале 2022 года Россия утверждала, одной из главных причин вторжения – то, что Украиной управляют нацисты. Ее президент, Владимир Зеленский, – еврей.

Контраргументаторы часто пытаются опровергнуть дез- и мис- информацию в надежде защитить людей от нее, убедив их, что она ложная. Самая крупная коллективная группа контрречи, #jagärhär («я здесь» на шведском), которая начала свою деятельность в 2016 году, часто мобилизует участников для борьбы с дезинформацией, содержащей мотивы ненависти. В одном случае в комментариях под статьей о том, что в Китае подтвердились несколько случаев заболевания бубонной чумой, Китай называли «заразной страной», а также множственными предположениями о том, что причиной болезни стала диета китайцев. В ответ члены #jagärhär оспаривали идею о том, что диета китайцев как-то особенно опасна, указывали на дезинформацию о чуме и называющие многие комментарии в ветке расистскими.

 > Для получения дополнительной информации о #iamhere см. раздел Примеры.

Террористический и насильственный экстремистский контент (TVEC) – это термин, используемый некоторыми государствами и IT компаниями для обозначения любого контента, который оправдывает или продвигает терроризм и пригоден для вербовки террористов. Министерство внутренних дел Новой Зеландии определяет TVEC как «разжигающий ненависть или нежелательный (незаконный) материал, пропагандирующий вредноносные экстремистские взгляды, такие как:

• Статьи, изображения, выступления или видео, пропагандирующие или поощряющие насилие.
• Веб-сайты, созданные террористическими или экстремистскими организациями.
• Видео террористических атак и любой другой контент, пропагандирующий насильственный экстремизм».

Чтобы противостоять контенту, который экстремистские группы используют для вербовки новых членов, часто прибегают к контрнарративу. В большинстве случаев, такие контрпропагандистские кампании устроены так, чтобы охватывать людей еще до того, как те столкнутся с TVEC в Интернете, и сделать их невосприимчивыми к вербовке. Одним из примеров являются мульфильмы с контрнарративом под названием «Типичный Мухаммед», главным героем которых является сомали0йский иммигрант в США. В одном примере Типичный Мухаммед спрашивает: «Как ты думаете, какой будет твоя должность, когда ты присоединишься к Исламскому государству?» Затем он отвечает на свой собственный вопрос: убивать, обезглавливать и терроризировать невинных людей, уничтожать объекты всемирного наследия, а также укреплять власть неизбираемых и развращенных людей. Он говорит: «Далеко не Диснейленд… не так, как в пропаганде?».

TVEC запрещен на большинстве онлайн-площадок, не говоря уже о большинстве юрисдикций, поэтому при планировании стратегий контрспича и контрпропаганды надо учитывать, что исходный контент, скорее всего, в какой-то момент будет удален.

Наиболее распространённой реакцией на вредоносный или нежелательный контент в сети – как и на любое другое оскорбление – является попытка избавиться от него – желательно, чужими руками. Однако некоторые люди делают наоборот – они привлекают к такому контенту внимание, широко его распространяя или буквально делая его более заметным или видимым. DSP назвал эту стратегию «усилением».

Те, кто в своей реакции на вредоносный контент прибегают к усилению, часто переносят разговоры между небольшим количеством людей на гораздо более крупную площадку (онлайн или оффлайн). Это кажется контринтуитивным: зачем добиваться большого охвата вредоносной или оскорбительной речи, когда конечная цель – уменьшить количество ненависти в сети?

Привлечение внимания большей аудитории к плохому контенту может быть образовательной тактикой – например, показывая мужчинам типы домогательств, с которыми сталкиваются женщины в сети. Усиление также может заставить людей задуматься о неудобных, важных истинах, которые они знают, но не любят признавать. Например, бразильский проект контрречи «Зеркала расизма» собрал расистские посты из социальных сетей и вывесил их большими буквами на билбордах. Белый бразилец, опрошенный сразу после того, как столкнулся с одним из билбордов, сказал, что люди его круга думают, что его страна не расистская, но билборд его в этом разубедил.

Во-вторых, когда сообщение предстает перед более широкой аудиторией, весьма вероятно, что по крайней мере некоторые члены этой новой аудитории не разделят те же нормы речи, что и его автор. Новая аудитория может реагировать контрспичем, чтобы отстоять свои собственные нормы.

> Дополнительную информацию о «Зеркалах расизма» см. в разделе «Примеры».

Некоторые контраргументаторы пользуются языком эмпатии, чтобы измененить тон интернет-дискуссий. Они выражают сочувствие тем, кто публикует хейтспич, чтобы попытаться достучаться до них и дать им почувствовать себя услышанными и понятыми. В конечном итоге, так можно повлиять на их поведение или даже убеждения. Например, Дилан Маррон, актер, писатель и блогер, связался с читателями, которые отправили ему злобные и враждебные сообщения, и пригласил их поговорить с ним по телефону. Некоторые из них согласились, и он провел с ними ряд разговоров, в которых был, по собственным словам, «радикально эмпатичен». Он представил эти усилия в серии подкастов и книге под одноименным названием «Беседы с людьми, которые меня ненавидят».

Контраргументаторы также используют язык эмпатии, чтобы говорить с жертвами сетевого хейтспича, и установить нормы цивилизованного общения на конкретных онлайн-площадках. Чтобы понять, наскротко кардинальные преобразования может вызвать эмпатичный контрспич, достаточно взглянуть на историю Меган Фелпс-Ропер, чьи убеждения и жизнь изменились благодаря контрспичу в интернете. Она вспоминает, что решающую роль сыграла именно эмпатичная интонация некоторых контраргументаторов, говоривших с ней. Они обращались к ней на личном уровне, обсуждая такие темы, как музыка и еда. Сама Фелпс-Ропер говорит:

«Я узнавала этих людей и начинала чувствовать, что становлюсь частью их сообщества, хотя они и не были близкими друзьями. Это не значит, что я отдавала себе отчет и думала: «Ой, я не хочу обижать этих людей», но у меня определенно возникло желание донести наше послание так, чтобы они услышали. Их мнение стало мне небезразлично.»

Фелпс-Ропер утверждает, что растущее чувство единения между нею и теми, кто отвечал ей, послужило основной причиной успеха их контрспича.

> Дополнительную информацию о Меган Фелпс-Ропер см. в разделе «Примеры»..

Образовательный контрспич происходит, когда люди напрямую отвечают на враждебное или вредоносное сообщение в сети так, чтобы предоставить говорящему или аудитории новую информацию, а не просто предать огласке их поведение и пристыдить их.

В интервью DSP с контраргументаторами многие отметили, что их основной целью является обучение людей (либо того, кто публикует хейтспич, либо же аудитории). Контраргументаторы могут исправлять разжигающую ненависть дезинформацию, объяснять, почему сообщения враждебны, или даже усиливать разжигающую ненависть речь как метод обучения других её существованию и необходимости вмешательства. Выдающимся примером этого подхода является шведская #jagärhär («Я здесь») и похожие движения контрспикеров в десятках других стран. Мина Деннерт, шведский журналист, основала #jagärhär в 2016 году, когда заметила внезапный всплеск ксенофобии и другой сетевой вражды. Она начала бороться с ней, а затем привлекла помощь других людей. Она описала первые дни: «Я разговаривала с людьми, подписанными на блогеров, разжигающих вражду, а также на сайты с фейками, и задавала им вопросы», стремясь давала им ссылки на проверенную информацию стремясь остановить риторику «мы-против-них» и помочь людям, которые были обмануты ложью, на самом деле напуганы ею, и подстрекаемы к ненависти к иммигрантам, мусульманам и женщинам. Я запустила группу, чтобы попросить поддержки своих друзей, поддержки в том, чтобы помогать мне освобождать людей от их страхов и ненависти».

> Дополнительную информацию об #iamhere см. в разделе «Примеры».

Некоторые контраргументаторы шутят в своих ответах. Они шутят по многим причинам. Во-первых, это привлекает читателей, поскольку большинство людей любят юмор. Так проще и контраргументаторам, особенно когда те отвечают на нападки в свой адрес. Хаснайн Казим, немецкий журналист, чьи родители иммигрировали в Германию из Пакистана, с детства сталкивался с нападками из-за своего имени и цвета кожи, а уже во взрослом возрасте получал потоки враждебных писем. Его шутливые ответы на хейтспич в электронных письмах стали для него своего рода механизмом психологической адаптации, который превратил боль в удовольствие. Когда он опубликовал некоторые из ответов в социальных сетях, то завоевал ярых поклонников, которые умоляли его написать книгу на эту тему. Он написал уже три. «Я часто стараюсь относиться ко всему этому с юмором, даже если мне не до смеха, когда я читаю письма», – пишет Казим, имея в виду письма с хейтспичем, которые он получает уже многие годы. «Юмор – это способ справиться со всей ненавистью, выдержать её, перенести». «Юмор – хорошее оружие против страха», продолжает он, и добавляет: «В идеале, юмор может послужить и оружием против отправителей писем с хейтспичем, особенно когда получается ударить по ним, разоблачить их или хотя бы заставить их задуматься. Так работает не всегда, но достаточно часто, чтобы стоило идти этим путем. Важно никогда не отвечать ненавистью в ответ. Иначе ты проиграл с самого начала».

Члены Reconquista Internet (RI), организованной группы контраргументаторов, основанной немецким комиком Яном Бёмерманном в 2018 году, также часто прибегают к юмору. Группа была создана для борьбы с хейтспичем, распространяемым другой группой – Reconquista Germanica (RG), «высокоорганизованной экстремистской группой, целью которой было вмешиваться в политические дебаты и продвигать правопопулистскую националистическую партию Alternative für Deutschland (AfD)». Поскольку члены группы RI сосредотачивались на конкретной группе противников, они иногда использовали юмор, чтобы раздражать членов RG. «Мы хотели испортить интернет людям, которые испортили его для нас», – сказал один из членов RG, смеясь. В одном примере он описал, как они засыпали Discord сервер группы RG немецкими идиомами, переведенными на английский, просто «потому что было смешно».

Юмор может заставить кого-то, кто публикует хейтспич, изменить своё мнение, особенно когда тот становятся объектом шутки. Вдобавок, юмор может привлекать внимание контрспикеров или делать контрспич приятным занятием, что, в дальнейшем, стимулирует их к дальнейшей деятельности.

> Дополнительную информацию о Хаснайне Казиме и Reconquista Internet см. в разделе «Примеры».

Онлайн-порицание часто используется для наказания как онлайн, так и оффлайн речи или других действий. Оно всегда подчеркивает несоответствие между нормами какой-то группы людей и поведением кого-то другого. Порицание высмеивает кого-то, зачастую на большой публичной площадке, и служит предупреждением для других о том, что может случиться с нарушителем.

Самый ранний известный пример порицания в интернете – случай с Джастиной Сакко.  Журналист Джон Ронсон рассказывает о нём в книге «Так ты опозорился на весь мир» (2015). В 2013 году Сакко, исполнительный директор по связям с общественностью, находясь в большой поездке, твитнула оскорбительные комментарии о людях из нескольких стран: например, что у англичан плохие зубы, а одному немцу не помешал бы дезодорант. Затем, перед долгим перелетом в Кейптаун, Сакко твитнула: «Еду в Африку. Надеюсь, не подцеплю СПИД. Шучу. Я же белая!» К моменту её приземления десятки тысяч людей гневно ответили на её твит, и она стала первой в мировом тренде в Твиттере. Некоторые указывали на её (возможно, умышленную) ошибку, и говорили, что белые тоже могут заразиться СПИДом. У многих негодование быстро превратилось в злорадство, и они с нетерпением ждали приземления самолета Сакко, чтобы они наблюдать за её осознанием собственного падения. «Всё, чего я хочу на Рождество, – это увидеть лицо @JustineSacco, когда её самолет приземлится, и она проверит свой почтовый ящик и голосовую почту», – написал один пользователь твиттера. Они даже наняли человека в Южной Африке, чтобы он пришел в аэропорт Кейптауна, сфотографировал Сакко и поделился фотографией с Твиттер-сообществом, которое быстро сформировалось вокруг хэштега #HasJustineLandedYet. Сакко вскоре уволили с работы, не говоря уже прочих ощутимых последствиях для её жизни. Многие другие тоже были уволены после того, как опозорились в сети.

#iamhere – это международная сеть коллективов контраргументаторов, основанная Миной Деннерт в Швеции в 2016 году. Она насчитывает более 150 000 членов и действует в 17 странах. Члены организации работают вместе через национальные группы в Facebook, чтобы писать, публиковать и усиливать свою контрречи. Они реагируют на комментарии к новостям, опубликованным в Facebook. При составлении контрспича члены следуют ряду правил, которые включают сохранение уважительного и не снисходительного тона. Также, они никогда не распространяют предрассудки или слухи. Для достижения своей миссии участники #iamhere находят в Facebook разжигающие ненависть комментарии к новостным статьям и общедоступным страницам, а затем пересылают их администраторам. Те выбирают небольшое число новостей, и группа объединяет усилия для борьбы с комментариями. Совместными усилиями участники публикуют и лайкают основанные на провереных фактах комментарии в соответствующих темах. Благодаря системе ранжирования Facebook, которая отдает приоритет комментариям в зависимости от реакций (лайков и ответов), им удается повысить заметность своих цивилизованных реакций и опустить ксенофобские высказывания протвников в конец ветки, сделав их незаметными.

Участники #iamhere говорят, что стараются усилить комментарии, которые логически аргументированы, хорошо написаны и основаны на фактах, независимо от того, написаны ли они участниками #iamhere или нет. Цель состоит в том, чтобы охватить более широкую аудиторию, в том числе тех, кто случайно просматривает ленты Facebook, и повлиять на их мнение по рассматриваемой теме. Эту убеждаемую группу часто называют «подвижной серединой», и #iamhere пытается повлиять на нее с помощью логичных контраргументов, основанных на фактах. Многие участники #iamhere также выступают против хейтспича, чтобы дать другим понять, что те не одиноки в борьбе с языком вражды.

Разделы комментариев создают впечатление, будто враждебно настроенных людей очень много, а ведь они не обязательно отражают мнение большинства. Показывая несогласие и способствуя более конструктивному диалогу, контраргументаторы дают возможность тем, кто, возможно, хранил молчание, выразить свою точку зрения и присоединиться к разговору в качестве коллег-противников. #iamhere процветает благодаря совместным усилиям и стратегическому использованию платформы Facebook для продвижения толерантности, понимания и привычки к апелляции к фактам. Своими самоотверженными действиями они стремятся создать такую виртуальную среду, в которой заглушается риторика вражды и преобладают голоса разума и сострадания.

Бразильская кампания «Зеркала расизма» служит ярким примером борьбы с ненавистью с помощьюстратегии усиления. В 2015 году журналистка Мария Джулия Коутиньо (широко известная под прозвищем Маджу) стала первой чернокожей ведущей прогноза погоды в бразильском новостном шоу в прайм-тайм Jornal Nacional. Этот исторический момент вызвал волну расизма в интернете: многие бразильцы обрушили потоки ненависти не только на Маджу, но и на других чернокожих бразильцев.

В ответ Criola, бразильская организация по защите гражданских прав женщин, объединила усилия с рекламной фирмой W3haus, чтобы разработать антирасистскую кампанию. Они решили противостоять этой проблеме, собирая яркие и грубые расистские комментарии. Эти оскорбительные заявления затем были напечатаны огромными буквами на рекламных щитах, стратегически размещенных в пяти бразильских городах в районах, откуда обидчики разместили комментарии в интернете. На каждом рекламном щите также была добавлена подпись «Виртуальный расизм, реальные последствия» (“Racismo virtual, consecuencias reales”).

«Стратегия кампании заключалась в том, чтобы убрать интернет-расизм из Интернета и разоблачить его на улицах, чтобы население (региона) могло осознать ущерб, причиненный этими виртуальными действиями», – сказала генеральный координатор Криолы Люсия Ксавьер.  Чтобы усилить посыл и содержание кампании, W3haus опубликовал видеоролики интервью с бразильцами по её поводу. Одно видео демонстрирует реакцию прохожих на улице, когда они сталкиваются с рекламными щитами. В этом видео белый мужчина средних лет заметил, что некоторые бразильцы склонны игнорировать существование расизма, но рекламный щит эффективно привлек внимание к этой насущной проблеме. В другом видео человек, стоящий за одним из расистских постов, стоял перед рекламным щитом со своим оскорбительным заявлением и размытой фотографией профиля и извинялся перед чернокожей женщиной. Эти видео были затем опубликованы в интернете, что расширило охват кампании далеко за пределы районов, где были расположены рекламные щиты, что широко распространило антирасистское послание.

Для Хаснайна Казима, немецкого журналиста, поднимающего такие темы, как политика в отношении беженцев и подъем правой популистской партии «Альтернатива для Германии» (AfD) в Германии, получать враждебные письма стало уже привычным делом. Хоть он и родился в Германии и вырос в небольшом городке, из-за его пакистанского имени и коричневой кожи, люди часто предполагают, что он иностранец, и отправляют ему яростные сообщения, в которых говорится, что он не имеет права комментировать дела Германии. Большинство нападают на него как на мусульманина (коим он не является) и делают враждебные, зачастую жестокие замечания в адрес мусульман и ислама в целом. Некоторые задают вопросы, на которые Казим отвечает, часто подробно. В отличие от большинства контрспикеров, которые отвечают на один хейтспич только один раз, он может часами убеждать кого-то в правильности ношения хиджаба или прелестях свободы слова, не гнушаясь иногда вступить в перепалку с особым азартом.

В 2016 году, подстегиваемый растущей ксенофобией, подобной той, что вдохновила Мину Деннерт на создание группы контрспикеров #iamhere, Казим решил: пора бороться с ненавистью. И не просто так, а с юмором. Он действительно ответил на сотни сообщений. Эта борьба, как он сам говорил, отнимала у него кучу времени и сил, но он видел в этом свою миссию – бросить вызов яду, который лился на него. «Меня пугает,» – писал он, – «ослабление сопротивления этой ненависти в немецком обществе.» В одном случае читатель, представившийся как “Christ2017”, спросил у Казима: «Вы едите свинину, мистер Казим?» «Нет,» – ответил Казим, – «Я предпочитаю слонятину и верблюжатину. Слонятину хорошо прожаренную, а верблюжатину с кровью.» «Ты хочешь быть немцем, но не ешь свинины?!» – без тени иронии спросил Christ2017, обозвав Казима исламистской свиньей. «Я не знал, что все немцы едят свинину. Спасибо за разъяснения, теперь я знаю: свинина – это немецкая Leitkultur! Горе тому, кого я встречу на очередном барбекю, и тот не запихнет себе в рот свиную колбасу, или даже, упаси господь, хуже худшего исламиста, вегетарианец!» – ответил Казим. На что Christ2017пригрозил ему: «Веди себя очень тихо, как подобает исламистскому гостю в нашей стране!»

В некоторых случаях, когда отправитель угроз случайно или намеренно раскрывал детали своей профессии, Казим сообщал об этом его работодателю. Один из таких случаев произошел в августе 2020 года, когда в электронном письме Казиму говорилось, что его нужно «сначала хорошенько выебать, потом вскрыть и подвесить за кишки», и что он «отвратительный, грязный иностранный паразит», осмелившийся «выступить против гордого немецкого народа». Автор оказался представителем немецкой фирмы и отправил электронное письмо со своего рабочего адреса. Казим нашел контактные данные его работодателя и переслал содержание электронного письма совету директоров компании, предупредив, что, если против него не будут приняты меры, он поднимает «большой скандал». Через некоторое время Казиму передали копию заявления об увольнении. Казим собрал множество полученных ими примеров враждебных писем вместе со своими ответами, и опубликовал их с обширными комментариями в книге под названием Post von Karlheinz («Письма из Карлхайнца») в 2018 году. Книга разошлась тиражом более 100 000 экземпляров. На момент написания статьи её ещё не перевели на английский или другие языки. С тех пор Казим опубликовал еще две книги, посвященные контрспичу, в том числе «Идите на них с ревом! …и хорошими аргументами» (Auf sie mit Gebrüll! … und mit Guten Argumenten) и «Мой халифат: секретный дневник о том, как я исламизировал Запад и сделал немцев лучше» (Mein Kalifat: Ein geheimes Tagebuch, wie ich das Abendland islamisierte und die Deutschen zu besseren Menschen machte).

Reconquista Internet (RI) была запущена в конце апреля 2018 года немецким телеведущим и комиком Яном Бёмерманном, который объявил об этом во время своего популярного сатирического новостного шоу Neo Magazin Royal. Бёмерманн поделился ссылкой на группу Discord в своем аккаунте в Твиттере. Он быстро привлёк ошеломляющие 8700 участников за первые три часа.

RI необычен тем, что был создан для ответов на контент из одного конкретного источника: Reconquista Germanica (RG), высокоорганизованной группы хейтспикеров. RG срывала политические дискуссии и продвигала правую популистскую националистическую партию «Альтернатива для Германии» (AfD).

Девиз RI гласит: «Мы не ПРОТИВ чего-либо. Мы ЗА любовь, разум и мирное сосуществование» (“Wir sind nicht GEGEN etwas. Wir sind FÜR Liebe und Vernunft und ein friedliches Miteinander”). Некоторые члены, тем не менее, придерживаются изначального призыва к действию, который звучал несколько по-другому: «Мы – придурки, которые портят удовольствие от Интернета придуркам, которые портят удовольствие от Интернета нам» (“Wir sind die Wichser, die den Wichsern, die uns den Spaß am Internet verderben, den Spaß am Internet verderben”). Для них «портить удовольствие» членам RG подразумевало под собой самые разные дейсвия, в том числе такие вещи, как проникновение на сервера Discord, принадлежащие RG, и наводнение их немецкими идиомами, переведенными на английский, просто «потому что нам было смешно», сказал один из участников движения. Однако, многие члены следуют завету «троллить с любовью», и избегают в своих комментариях  язвительности и враждебности. Джошуа Гарланд и его коллеги изучали влияние RI на онлайн-дискурс в Германии. Они собрали более 9 миллионов твитов, исходящих от RG и RI. Авторы разделили твиты на хейтспич, контрспич, и не содержащие ни того, ни другого. Из 135 500 «полностью законченных разговоров в Твиттере», произошедших между 2013 и 2018 годами, авторы обнаружили, что после появления RI интенсивность и доля хейтспича в высказываниях, очевидно снизились. Авторы отмечают, что «этот результат предполагает, что организованная контрречь помогла сбалансировать поляризованный и враждебный дискурс, хотя едва ли получится доказать причинно-следственную связь, учитывая сложную череду онлайн- и офлайн-событий и процессов в обществе в целом на протяжении всего этого времени» (стр. 109).

Когда Меган Фелпс-Ропер была еще ребенком, ее дедушка Фред Фелпс, проповедник, основавший крошечную баптистскую церковь Вестборо, пришел в ярость из-за того, что геи якобы собирались для секса в соседнем парке. В 1991 году он отправил членов церкви маршировать возлке парка с откровенно гомофобными плакатами. Протесты продолжались ежедневно, даже после того, как собрался контр-протест.

По мере того как Фелпс-Ропер росла, росла и новая характерная для церкви практика пикетирования. Она и ее большая семья протестовали по всей Америке, в том числе и на похоронах американских солдат, погибших в Ираке и Афганистане. Они продвигали таким образом учение Фреда Фелпса о том, что смерть любого американского солдата является наказанием от Бога против всей страны за потворство гомосексуальности. Будучи подростком, Фелпс-Ропер создала аккаунт в Твиттере, а в 2009 году начала использовать платформу для распространения характерного для Вестборо хейтспича. Число ее подписчиков стремительно росло, однако, многие спорили с ней и выступали против идей, которые она пыталась распространять. Её непреклонные взгляды постепенно изменились.

По словам Фелпс-Ропер, два вида сообщений сеяли в ней зерно сомнения. Во-первых, верующие и разбирающиеся в религии люди (в том числе раввин) ставили под сомнение интерпретацию Библии церковью Вестборо. Она говорит, что среди аргументов против её идей лучше всего работали те, который оставались в рамках библейского дискурса. «Атеистические аргументы были настолько далеки от того, что казалось мне допустимым, что они не работали», – сказала она. Скорее, достучались те, кто «принял мои убеждения, но затем попытался найти в них противоречия. Именно это открыло меня для остальных комментариев».[1]

Второй тип сообщений, повлиявший на Фелпс-Ропер, исходил от людей, которые вежливо обращались к ней и пытались установить с ней контакт на личном уровне, и обсуждли темы, не связанные с ее собственными твитами, например музыку и еду. Она подружилась с некоторыми из этих людей и считает чувство общности между ней и теми, кто её отвечал, основной причиной успеха контрспича. Контрспикеры сначала попытались с ней познакомиться, вместо того чтобы осуждать её убеждения и поведение за несоответствие нормам сообщества, частью которого она не была. Как только она почувствовала с ними чувство общности, их нормы начали иметь для нее значение. В ноябре 2012 года она ушла из церкви.

Вскоре после ухода из Вестборо Фелпс-Ропер решила продолжить работу в Твиттере. Но теперь вместо того, чтобы распространять хейтспич, она посвятила себя контрспичу. Сегодня она использует многие из тех же тактик, которые когда-то применялись против нее: использует фактические аргументы, пытается найти общий язык и признает человечность в других пользователях Твиттера.

В 2017 году она выступила на TED с руководством для контрспикеров, а в 2019 году опубликовала книгу о своем опыте под названием «Отписаться: мемуары о любви экстремизму и отказе от него».

[1] Личное интервью, 8 ноября 2017 г.