Среди полумиллиона часов видео, загруженных на YouTube 20 марта 2017 года, был и шокирующий 18-секундный ролик, на котором вооружённый человек расстреливает троих людей — стоящих лицом к стене — на пыльной улице, предположительно, в Бенгази, Ливия.
Эта сцена по-настоящему шокирует, однако данное видео было похоже на многие другие, поступающие из зон конфликтов по всему миру.
Однако позже, 9 июня, появилось ещё одно видео, на котором тот же самый боевик руководит, по всей видимости, казнью четверых пленных, стоящих на коленях. Примерно через месяц, когда появилось новое видео казни 20 пленников, боевик — как сообщается, его зовут Махмуд аль-Верфелли — снова был в кадре и напрямую руководил казнью.
Ордер на арест Махмуда аль-Верфелли, выданный Международным уголовным судом в августе по обвинению в совершении в Ливии убийств, являющихся военным преступлением, стал переломным моментом в расследованиях, опирающихся на данные из открытых источников. Для тех из нас, кто всячески приветствует те новые возможности, которые цифровая эпоха предоставляет для обеспечения правосудия и привлечения преступников к ответственности, это сообщение стало важным подтверждением того, что контент, обнаруженный на Facebook и YouTube, можно использовать в качестве доказательств в суде.
Этот сравнительно новый путь к обеспечению правосудия рискует обернуться тупиком.
Лавинообразное увеличение объёмов информации, распространяемой через различные цифровые платформы за последние годы, предоставил исследователям в области прав человека беспрецедентную возможность изучать обстоятельства совершения тяжких нарушений, например, военных преступлений, зафиксированных, по всей видимости, на подобных видео.
Однако попытки опереться на эти материалы при проведении исследований встречают ряд серьёзных трудностей. Информация о том, где и когда была произведена съёмка, кто те люди, которые попали в кадр, часто является неверной. Попытки отследить цепочки, по которым передавалась эта информация, зачастую заканчиваются на той же платформе, на которой эти материалы были размещены. Кроме того, эти платформы используются не только для хранения материалов, но и как средства воздействия; зачастую через них намеренно распространяется дезинформация, разжигается ненависть или звучат призывы к применению насилия.
Уже в течение нескольких лет со стороны правительств и общественности звучат призывы к таким компаниям, как Facebook, Google и Twitter бороться с проявлениями ненависти, подстрекательством к насилию и вербовкой новых сторонников в ряды экстремистских групп. С этой целью названные платформы прибегают для обнаружения и удаления нежелательного контента к сочетанию программных алгоритмов и оценки, которую дают люди – при этом имеют место как чрезмерная бдительность, так и её недостаток: на основании определённых принципов недопустимым признаётся либо слишком многое, либо наоборот.
В июне Google объявил о четырёх шагах, направленных на борьбу с терроризмом в интернете, среди которых более тщательное обнаружение и быстрое удаление материалов, связанных с экстремизмом и терроризмом. Похоже, быстрое обнаружение и удаление действительно эффективно работает. К сожалению, мы знаем об этом из-за множества негативных последствий чрезмерной бдительности: под удаление попадают материалы, которые размещали или использовали журналисты, исследователи и организации, тщательно отбирающие материалы из зон конфликтов и кризисных ситуаций с правами человека; эти сведения могут использоваться для освещения событий в СМИ, в будущих судебных разбирательствах и как исторические данные.
Жертву или свидетеля преступления могут заставить замолчать; подобным же образом информация, имеющая ключевое значение для проведения эффективных расследований, может исчезнуть с интернет-ресурсов ещё до того, как какой-либо компетентный орган сможет сохранить её.
Исследователи уже столкнулись с этой угрозой. После того, как YouTube обновил свою систему обнаружения нежелательного контента, видео, на котором зафиксировано предполагаемое убийство аль-Вефелли четверых стоящих на коленях пленников, было поспешно удалено с YouTube, наряду с тысячами видео, запечатлевших конфликт в Сирии. Некоторым кураторам контента не без труда удалось оспорить обоснованность удалений на YouTube, в результате часть удалённых каналов и видео были вновь открыты для пользователей.
Тем не менее, невозможно узнать, сколько других материалов, размещённых правозащитниками или активистами, собирающими доказательства преступлений, уже потеряны или будут потеряны в будущем — в том числе тех, которые могли бы стать ключевыми доказательствами для стороны обвинения на судебных процессах. И хотя YouTube может хранить удалённые материалы на своих серверах, компания не может оценить доказательную или общественную ценность материалов, содержащихся в цифровом хранилище и недоступных для тех исследователей, которые могли бы дать необходимую оценку. Поскольку оспорить правомерность удаления контента могут только правообладатели или лица, разместившие его в сети, попытки отстаивать доступ к своему признанному нежелательным контенту ставят их в крайне невыгодное положение и даже создают угрозу их личной безопасности, так как от них требуется предоставить дополнительную информацию, выходить в интернет, регистрироваться и т.д. Те люди, которые размещают наиболее ценные материалы, способные содействовать восстановлению справедливости и привлечению виновных к ответственности, — мирные жители, находящиеся в осаде, гражданские журналисты, сталкивающиеся с угрозой своей жизни — часто меньше всего способны отстаивать правомерность размещения своих материалов.
Конечно, интернет-платформы не предназначены для обеспечения хранения доказательств, необходимых при расследовании военных преступлений. Разумеется, они не предназначены для борьбы с терроризмом или проявлениями ненависти. И тем не менее содействие в борьбе с подобными явлениями входит в число обязательств, принятых этими компаниями для блага всего общества.
И хотя системы удаления контента на YouTube совсем недавно упоминались в новостях в связи с ошибочным удалением материалов, представляющих общественный интерес, другие интернет-платформы также сталкиваются с настойчивыми призывами уменьшить резонанс, который вызывают некоторые экстремистские или унижающие человеческое достоинство материалы.
Поскольку общественное благо стало предметом обсуждения в цифровом пространстве, а новые системы призваны служить общественной пользе, крайне важно минимизировать угрозы, ставшие достоянием общественности после признания YouTube своей ошибки. Новая система обнаружения контента, призванная решить проблему, была внедрена без надлежащих консультаций с гражданским обществом, которое нуждается в платформах, подобных YouTube, для того чтобы получать информацию и обмениваться ею, что иногда сопряжено с серьёзным риском. Компания, в свою очередь, заявила, что будет работать с НКО, чтобы разграничить пропаганду насилия и материалы, достойные размещения в СМИ. Подобные консультации могут помочь выработать руководящие принципы для сотрудников, оценивающих контент, чтобы на законных основаниях использовать материалы (даже если на первый взгляд может показаться, что они поощряют насилие или ненависть), имеющие общественную ценность.
Противоречие между стремлением сохранить неограниченный доступ к информации и необходимостью предотвратить злоупотребления информационными каналами со стороны группировок, оправдывающих насилие и ненависть, нельзя с лёгкостью разрешить в ходе консультаций. Но более тесные контакты с исследователями по вопросам прав человека могут минимизировать ущерб и предотвратить возможную утрату доказательств. По мере того, как другие интернет-платформы также начинают решать подобные проблемы, отдельным консультациям предстоит пройти долгий путь, чтобы цифровая среда будущего – по всей видимости, отнюдь не безоблачная – содержала в себе стремление обеспечить правосудие и привлечь виновных к ответственности.
Текст: Скот Эдвардс, старший советник группы Amnesty International по реагированию на кризисные ситуации, профессор Школы Эллиота при Университете Джорджа Вашингтона.
