Генпрокурор штата Нью-Йорк Летиция Джеймс обратилась к компаниям-владельцам социальных сетей с призывом принять меры и удалить контент, разжигающий национальную ненависть.

Джеймс обратилась в Google (владеет YouTube), Meta (владеет Facebook и Instagram), X (бывший Twitter), TikTok, Reddit и Rumble. Владельцам каждой из вышеперечисленных соцсетей предстоит ответить на следующие вопросы генпрокурора:

• Какие действия они предприняли для реагирования на призывы к насилию против евреев и мусульман, а также религиозных организаций и учреждений;
• Какие действия они предприняли для устранения возможности использования их платформы для планирования, поощрения и распространения любых подобных насильственных действий;
• Пояснить внутреннюю политику компании, согласно которой алгоритм определяет, какой контент считается призывом к насилию и подлежит удалению;
• Пояснить политику кампании в отношении пользователей, которые публикуют такого рода контент (то есть, блокируют ли подобные аккаунты или просто временно приостанавливают возможность публиковать посты, фото, видео и комментарии).

– После невыразимых злодеяний ХАМАСа (имеется в виду теракт, совершенный в Израиле 7 октября – В.А.) злоумышленники стали широко использовать социальные сети для распространения ужасающих материалов, угроз и поощрения насилия, — сказала Джеймс. – Владельцы соцсетей несут ответственность за обеспечение безопасности своих пользователей и обязаны запретить распространение агрессивной риторики.

Много лет горячо обсуждают вопрос о том, кто несет ответственность за распространение антисемитизма, ненависти и экстремизма online – сами пользователи или владельцы социальных платформ, предоставляющие площадку для общения? Действительно ли соцсети являются отражением настроений общества или на самом деле они способствуют распространению опасного контента?

Естественно, что владельцы компаний утверждают, что в первую очередь сами пользователи несут ответственность за рост публикаций агрессивного содержания. И именно этот аргумент -«свободу слова» – они используют для того, чтобы снять с себя любую ответственность за распространение и обострение ненависти.

Но мой личный пример доказывает обратное. Практически сразу после 7 октября в моей ленте в Фейсбуке стали появляться посты от совершенно незнакомых мне людей или доселе неизвестных мне групп, которые восхищались террористами ХАМАС, аплодировали им, призывали к новым человеконенавистническим «подвигам». Как и полагается законопослушному пользователю, я регулярно отправляла репорт на эти посты, так как они разжигают национальную рознь и оправдывают терроризм. В ответ получала сгенерированное сообщение: мы рассмотрели вашу жалобу и пришли к выводу, что эти посты не нарушают правила нашей платформы. Как оказалось, точно такие же странные метаморфозы произошли с лентами многих моих друзей. А нашим несовершеннолетним детям в Инстаграм и Тик-Токе алгоритмы рекомендовали видео со сценами издевательств над израильтянами 7 октября и с антисемитскими призывами.

К сожалению, пособничество распространению антисемитского и экстремистского контента – тема не сегодняшнего и даже не вчерашнего дня. Еще в 2021 году некоммерческий Центр противодействия цифровой ненависти (CCDH) предупреждал о том, что руководство соцсетей крайне редко удаляют антисемитские сообщения. Согласно отчету Failure to Protect, больше всего такого контента было в Instagram, Twitter, Facebook, TikTok и YouTube. При этом по охвату аудитории лидировал YouTube – более 3,67 млн человек просмотрели антисемитские видео. Руководство соцсетей реагировало только на 1 из 6 жалоб о такого рода постах. В 2022 году ситуация не стала лучше: в 84% случаев алгоритм либо старательно не замечал экстремистские посты и видео, либо не считал их «нарушением».

В августе 2023 года ADL (Антидиффамационная лига) и Проект прозрачности технологий (TTP) опубликовали два новых доклада, демонстрирующих, как некоторые из крупнейших платформ социальных сетей и поисковых систем напрямую способствуют распространению антисемитизма, ненависти и экстремизма.

В ADL и TTP решили изучить, как крупнейшие соцсети способствуют – или препятствуют – распространению антисемитизма, ненависти и экстремизма, в некоторых случаях самостоятельно генерируя контент для своих пользователей. Для этого были созданы персонажи мужского и женского пола, а также профили пользователей-подростков (без указания пола, но с акцентом на возрастную категорию). Чтобы протестировать алгоритмы, каждый из этих «пользователей» искал термины, связанные с теориями заговора, а также с антисемитизмом и экстремизмом в четырех крупнейших социальных сетях – YouTube, Facebook, Instagram и X.

В первом исследовании «From Bad to Worse: Algorithmic Amplification of Antisemitism and Extremism» Facebook, Instagram и X дополнительно рекомендовали своим пользователям экстремальный, откровенно антисемитский и разжигающий ненависть контент. YouTube, впрочем, воздержался от таких рекомендаций, тем самым доказав, что распространение подобных публикаций – не проблема конкретного пользователя, а алгоритм платформы.

Во втором исследовании «From Bad to Worse: Auto-generating and Auto-completing Hate» проверялись функции поиска, каждая из которых упростила поиск ненавистнического контента благодаря автозаполнению терминов. В некоторых случаях платформы автоматически рекомендовали пользователям контент, разжигающий ненависть. Примечательно, что не было создано автоматического контента для поиска других потенциально оскорбительных тем, например, порнографии.

Один из примеров: Instagram (владелец – компания Meta) рекомендовал 14-летнему «пользователю» агрессивный антисемитский контент. Соцсеть «подсовывала» ему фото и видео, авторы которых утверждали, что «Израиль не должен существовать, эта земля принадлежит нам», распространяли теорию о «еврейском мировом господстве» и так далее.

– Конечно, нас шокировало, что такой гнусный антисемитский контент неоднократно появлялся в ленте Instagram у предполагаемого 14-летнего подростка, — сказала Кэти Пол, директор проекта Tech Transparency Project. – Владельцы компаний должны защитить, прежде всего, самых юных пользователей, а не способствовать разжиганию ненависти.

Между тем, после террористической атаки ХАМАС на Израиль 7 октября, количество антисемитских постов в соцсетях резко выросло. По данным «Jerusalem Post», Система мониторинга антисемитизма и кибербезопасности обнаружила, что в период с 7 по 10 октября в Интернете было опубликовано не менее 157 000 сообщений, призывающих к насилию против Израиля, сионистов и евреев. Это на 450% больше, чем четырьмя днями ранее, и на 360% больше по сравнению с тем же периодом в прошлом месяце. ADL сообщает, что за первые 18 часов после теракта в соцсетях было опубликовано на 488% больше, чем накануне, постов с призывами к насилию против Израиля, евреев и сионистов.

Israel Post классифицирует большинство постов как относящиеся к «новому антисемитизму», то есть отрицающих право государство Израиль на существование. 16% постов и видео относятся к так называемому «классическому антисемитизму», то есть, направлены против евреев в принципе. На 6% выросло количество постов, отрицающих Холокост.

Интересно, что больше всего пользователей, публикующих антисемитские посты, живут во Франции. На втором месте по количеству антисемитов и экстремистов – Нью-Йорк. И это всего лишь спустя несколько месяцев после публикации доклада ADL о том, что количество антисемитских инцидентов в США достигло самого высокого уровня: в 2022 году было зарегистрировано почти 3700 случаев.

ADL отслеживает антисемитские инциденты с 1979 года, основываясь на информации, предоставленной правоохранительными органами, местными СМИ, общественными лидерами и пострадавшими.

– В самый худший момент как бы сошлись антисемитизм бытовой и ненависть онлайн, – заявил Орен Сигал, вице-президент Центра экстремизма АДЛ.

С другой стороны, 7amleh, группа онлайн-мониторинга Арабского центра по развитию социальных сетей, обнаружила 260 постов и видео, содержащих антимусульманские высказывания. Больше всего такого контента опубликовано в X (Twitter).

Основываясь на полученных результатах исследований о распространении экстремистского контента в соцсетях, ADL предлагает изменить подход как руководствам платформ, так и правительству. Технологические компании должны исправить упущения в настройках алгоритмов и системах рекомендаций, чтобы избежать продвижения контента, разжигающего ненависть. Конгрессу, в свою очередь, предлагается обновить раздел 230 Communications Decency Act, чтобы иметь возможность привлекать компании к ответственности за влияние их алгоритмов на ненависть, преследования и экстремизм.

– Наши исследования показали, что руки у компаний не связаны. У владельцев социальных платформ есть выбор, какие приоритеты расставить, в том числе, когда дело доходит до настройки алгоритмов и усовершенствования конструктивных особенностей, чтобы либо усилить, либо обуздать антисемитизм и экстремизм, — сказала Яэль Эйзенстат, вице-президент ADL. – И, хотя не существует единого решения проблемы ненависти и антисемитизма, наши данные подчеркивают потенциал компаний и властей – они могут сделать гораздо больше для создания безопасной онлайн-среды.