В связи с тем, что быстрое развитие технологий делает появление «роботов-убийц» всё реальнее и реальнее, Amnesty International призывает мировые державы поддержать проведение переговоров о принятии нового международного законодательства, запрещающего создание и применение полностью автономных систем вооружений.
В рамках Конвенции о запрещении или ограничении применения конкретных видов обычного оружия (или Конвенции о «негуманном» оружии, КНО) группа правительственных экспертов (ГПЭ) по летальным автономным системам вооружений проведёт встречу в Женеве в период с 27 по 31 августа 2018 года. Эта встреча станет ключевым моментом для государств всего мира, чтобы обсудить и наметить возможные ответы на те вызовы – этические, гуманитарные, вызовы в области прав человека и в области безопасности, – которые ставит перед человечеством появление полностью автономных систем вооружений.
«Роботы-убийцы – это больше не научная фантастика. Появление наделённых искусственным интеллектом беспилотников, автоматических пушек, которые могут сами выбирать себе цели – свидетельствует о том, что технологические прорывы в области создания вооружений намного опережают развитие соответствующего международного права. Мы постепенно скатываемся к ситуации, когда в будущем люди вообще могут быть отстранены от принятия решений о применении силы», - заявил Раши Абдул-Рахим, исследователь и советник Amnesty International по вопросам искусственного интеллекта и правам человека.
«Однако ещё не поздно поменять курс. Запрет полностью автономных систем вооружений может предотвратить реализацию поистине апокалиптических сценариев, например, новую высокотехнологичную гонку вооружений между мировыми сверхдержавами, которая приведёт к широкомасштабному распространению автономных систем вооружений. Мы призываем мировые государства, чьи представители соберутся в Женеве на этой неделе, к неотложным действиям, которых требует этот важнейший вопрос; необходимо определить круг мер, которые следует принять для устранения многочисленных угроз, связанных с появлением автономных вооружений».
Большинство государств на последнем заседании в рамках КНО в апреле 2018 года не раз подчёркивали важность сохранения человеком контроля над системами вооружений и вопросом о применении силы, а также поддержали разработку нового международного законодательства в области летальных автономных систем вооружений. Двадцать шесть государств высказались за полный запрет подобных вооружений, в том числе Австрия, Бразилия и Египет. Китай также призвал принять новый протокол КНО, запрещающий применение полностью автономных систем вооружений.
Целый ряд ключевых государств выступают против создания юридически обязательных запретов, в том числе те страны, которые уже, как известно, ведут разработку автоматических систем вооружений, в том числе Франция, Израиль, Россия, Южная Корея, США и Великобритания.
Amnesty International призывает выработать юридически обязательные стандарты для обеспечения того, чтобы люди по-прежнему оставались ключевым звеном при реализации «критически важных функций» систем вооружений, таких как идентификация, выбор и захват целей. Только так можно обеспечить соблюдение международного права и устранить этические опасения по поводу делегирования машинам полномочий решать вопросы жизни и смерти.
Эти вопросы обсуждались на предыдущих сессиях в рамках КНО в контексте использования подобных систем в боевых действиях. Amnesty International призывает государства учитывать также угрозы, связанные с применением систем автономных вооружений правоохранительным органами.
«До сих пор вероятность того, что автономные вооружения будут использоваться в полицейских операциях – со всеми вытекающими отсюда угрозами – по большей части игнорировалась. Однако дроны, способные стрелять электрошоковыми стрелами, распылять слезоточивый газ и перцовый аэрозоль, уже существуют. Недавно Израиль развернул полуавтономные летательные аппараты, способные распылять слезоточивый газ над участниками протестов в Газе, и скорее всего, в будущем мы увидим всё более активное применение подобных технологий правоохранительными органами», - подчеркнул Раши Абдул-Рахим.
«Использование полностью автономных систем вооружений правоохранительными органами в отсутствие эффективного и пристального контроля со стороны людей несовместимо с международным законодательством в области прав человека, и может привести к незаконным убийствам, травмам и другим нарушениям прав человека. Мы призываем государства предпринять конкретные шаги для того, чтобы остановить распространение этих опасных вооружений как на улицах городов, так и на полях сражений, пока не стало слишком поздно».
Amnesty International и её партнёры по кампании «Остановим роботов-убийц!» призывает ввести полный запрет на разработку, производство и использование полностью автономных систем вооружений в связи с угрозами соблюдению прав человека и гуманитарными рисками, которые связаны с подобными системами. Использование полностью автономных вооружений без полноценного и эффективного контроля со стороны человека может, по всей видимости, создать своего рода вакуум в вопросе о привлечении к ответственности, поскольку автономные системы в случае их использования смогут вырабатывать собственные суждения, относящиеся к применению смертельной силы.
И хотя пока неясно, насколько сложными могут быть будущие технологии, маловероятно, чтобы полностью автономные системы вооружений смогли воспроизвести весь спектр неотъемлемых человеческих характеристик, что необходимо для соблюдения международного права. Сюда входит способность анализировать намерения людей, побуждающие их действовать, оценивать и реагировать на зачастую быстроразвивающиеся и непредсказуемые ситуации, или принимать сложные решения о соразмерности и необходимости применения силы.
Государства вновь соберутся в ноябре для совещания Высоких договаривающихся сторон в рамках КНО, и будут иметь возможность договориться о начале переговоров по созданию юридически обязательного правового инструмента.
