Раши Абдул-Рахима, эксперт Amnesty International по вопросам контроля за оружием, торговлей средствами безопасности и правам человека, рассказал об опасностях, связанных с массовым применением США и другими государствами дронов - беспилотных летательных аппаратов с вооружением на борту.
Представьте себе: где-то в далёкой стране вспыхивает война, вокруг хаос и разрушения… а роботы, выглядящие как терминаторы, чья задача уничтожить живую силу противника, убивают и калечат мирных жителей.
Где-нибудь в другом месте мирные демонстранты выходят на улицу, чтобы потребовать соблюдения своих прав, но их разгоняют полицейские, похожие на робокопов, и вооружённые самоходные роботы, которые отслеживают каждое движение протестующих, стреляют в них и распыляют слезоточивый газ.
Эти сценарии могли бы лечь в основу голливудского блокбастера, но роботы, которые умеют выбирать цели, нападать, убивать и наносить травмы уже перестали быть научной фантастикой.
Роботы-убийцы - или как их называют официально - автономные летальные боевые комплексы - в первый раз стали предметом активного обсуждения большинства государств здесь в Женеве на четырёхдневной экспертной конференции, проходящей в рамках «Конвенции об ограничении обычных вооружений» ООН, которая завершилась на прошлой неделе.
Роботы-убийцы являются полностью автономным оружием, которое может само выбирать живые цели и стрелять по ним без контроля человека. Их обычно называют «летальными», поскольку проект предполагает их использование в качестве боевого оружия для убийства во время вооружённого конфликта. Компании в США, Великобритании, Германии, ОАЭ, Иордании и Южной Африке также разрабатывают «менее летальное» роботизированное оружие для охраны правопорядка, которое управляется удалённо или автоматически стреляет при прикосновении. Такие системы, по-видимому, могут стрелять гранатами со слезоточивым газом, резиновыми пулями и дротиками электрошокеров. В настоящий момент полностью автоматического оружия не существует, но стремительное развитие технологий приближает их появление.
Так например, британская фирма BAE Systems разработала прототип боевого беспилотника «Таранис», который совмещает в себе функции дрона и робота. «Таранис» разработан для выполнения межконтинентальных миссий на сверхзвуковых скоростях, невидимый для радаров и почти не требующий управления человеком. По имеющимся сведениям, у «Тараниса» есть два отсека для вооружения, которые могут нести бомбы или ракеты.
Также существует «Атлас», антропоморфный робот, изначально разработанный американской робототехнической компанией Boston Dynamics при финансировании и под контролем Управления перспективных научно-исследовательских проектов Министерства обороны США. Как написано на сайте Boston Dynamics, «Атлас» может передвигаться на двух ногах, а свободные верхние конечности могут поднимать и переносить предметы и взаимодействовать с окружающей средой. Даже при передвижении по самому сложному рельефу местности Атласу хватает сил и координации для того, чтобы карабкаться, используя руки и ноги, и для того чтобы проложить себе путь через загромождённое пространство. Многосуставчатые, сенсорные руки позволяют Атласу использовать инструменты, предназначенные для использования человеком». Несмотря на то что Атлас не вооружён, нетрудно представить себе подобное развитие событий.
Разработка крошечных «нано» роботов, которые используются по одиночке или группами, ещё больше усложняют уже и так запутанную картину технологического мира, в виду того что эти устройства в существующем правовом вакууме со временем скорее всего обретут вооружение.
С точки зрения прав человека, автономное летальное роботизированное оружие и оружие пониженной летальности по ряду причин вызывает крайнее беспокойство.
Во-первых, Amnesty International уверена, что применение оружия без полноценного и эффективного контроля со стороны человека увеличит вероятность незаконных убийств и увечий, как на поле боя, так и во время полицейских операций.
Во-вторых, несмотря на то что некоторые правительства и эксперты по технологиям доказывают, что автономные роботы-убийцы могут быть запрограммированы так, что будут соблюдать международное право, многим это кажется невероятным. Amnesty International уверена, что во время операций по обеспечению правопорядка летальные автономные боевые комплексы без полноценного человеческого контроля не смогут правильно оценить сложные ситуации и соблюсти соответствующие стандарты. Стандарты в сфере охраны правопорядка запрещают применение огнестрельного оружия, кроме как в случае защиты от непосредственной угрозы смерти или серьёзных увечий, и очень трудно представить механизм, подменяющий человеческую оценку, которая является критически важной при принятии решения о ведении огня на поражение.
Сходным образом и в ситуациях вооружённого конфликта мы уверены, что роботизированные боевые комплексы не смогут соблюдать законы и обычаи войны, в том числе требование делать различия между комбатантами и гражданским населением, чтобы принять необходимые меры предосторожности и свести к минимуму ущерб гражданским лицам, а также оценить соразмерность ответного удара.
И наконец, позволить роботам получить власть над вопросами жизни и смерти, значит поступиться фундаментальным моральным принципом. Для нас важнее, что это также нарушает право человека на жизнь и достоинство, поскольку можно сказать, что убийство людей машинами является крайней степенью унижения достоинства, и люди не должны превратиться лишь в объекты.
По этой и другим причинам Amnesty International уверена, что необходимо новое международное законодательство, регулирующее все вопросы, связанные с этой новой технологии вооружений. Мы уверены, что полный запрет на разработку, развёртывание и применение летальных автономных боевых комплексов является единственным реальным решением. Выжидательная позиция может привести к дальнейшему финансированию государствами разработки таких боевых комплексов и их стремительному распространению в новой гонке вооружений.
Правительства вновь соберутся для обсуждения вопроса роботов-убийц на ежегодной встрече Конвенции по обычным вооружениям в ноябре, и мы надеемся, что там будет начат соответствующие переговоры для введения нового всемирного запрета. Amnesty International, наши партнеры из НКО и эксперты, участвующие в кампании «Остановим роботов убийц», будут сотрудничать с правительствами стран для того, чтобы мы как цивилизация не скатились в научно-фантастическую антиутопию, где обезумевшие роботы-убийцы уничтожают всё живое.
