Давно ставшие научной фантастикой автономные системы вооружения, известные как «роботы-убийцы», готовы стать реальностью благодаря быстрому развитию искусственного интеллекта.
В ответ международные организации активизировали призывы ввести ограничения или даже прямые запреты на их использование. Генеральная Ассамблея ООН в ноябре приняла первую в истории резолюцию об этих системах вооружения, которые могут выбирать цели и поражать их без вмешательства человека.
Чтобы пролить свет на поднимаемые ими юридические и этические проблемы, the Gazette взяла интервью у Бонни Догерти, преподавателя права в Международной клинике по правам человека Гарвардской школы права (IHRC), которая присутствовала на некоторых заседаниях ООН. Догерти также является старшим научным сотрудником Отдела вооружений Хьюман Райтс Вотч. Это интервью было сокращено и отредактировано для большей длины и ясности.
Что именно представляют собой роботы-убийцы? В какой степени они реальность?
Роботы-убийцы, или автономные системы вооружения, если использовать более технический термин, — это системы, которые выбирают цель и стреляют по ней на основе данных датчиков, а не данных человека. Они уже некоторое время находятся в стадии разработки, но быстро становятся реальностью. Мы все больше обеспокоены ими, потому что системы вооружения, обладающие значительной автономией в отношении применения силы, уже используются на поле боя.
Что это? Где они использовались?
Это немного тонкая грань между тем, что считается роботом-убийцей, а что нет. Некоторые системы, которые использовались в Ливии, и другие, которые использовались в [этническом и территориальном конфликте между Арменией и Азербайджаном из-за] Нагорного Карабаха, демонстрируют значительную автономию в том смысле, что они могут действовать самостоятельно, чтобы идентифицировать цель и атаковать.
Их называют бродячими боеприпасами, и они все чаще используют автономность, которая позволяет им парить над полем боя и ждать атаки, пока они не почувствуют цель. Считаются ли системы роботами-убийцами, зависит от конкретных факторов, таких как степень контроля человека, но это оружие демонстрирует опасность автономии в военных технологиях.
Какие этические проблемы создают роботы-убийцы?
Этические проблемы очень серьезны. Делегирование решений о жизни и смерти машинам переходит красную черту для многих людей. Это дегуманизировало бы насилие и низвело бы людей до числовых значений.
Также существует серьезный риск предвзятости алгоритмов, когда возможна дискриминация людей по признаку расы, пола, инвалидности и так далее, потому что машины могут быть намеренно запрограммированы на поиск определенных критериев или могут непреднамеренно стать предвзятыми. Есть достаточно доказательств того, что искусственный интеллект может стать предвзятым. Мы, правозащитники, очень обеспокоены тем, что он используется в машинах, предназначенных для убийства.
Каковы юридические проблемы?
Существуют также очень серьезные юридические проблемы, такие как неспособность машин отличать солдат от гражданских лиц. У них будут особые проблемы с этим в условиях, когда комбатанты смешиваются с гражданскими лицами.
Даже если технология сможет решить эту проблему, им не хватает человеческого суждения. Это важно для так называемого теста соразмерности, когда вы взвешиваете, больше ли вреда гражданскому населению, чем военного преимущества.
Этот тест требует от человека принятия этического и юридического решения. Это суждение нельзя запрограммировать в машине, потому что на поле боя происходит бесконечное количество ситуаций. И вы не можете запрограммировать машину так, чтобы она справлялась с бесконечным количеством ситуаций.
Существует также обеспокоенность по поводу отсутствия подотчетности.
Мы очень обеспокоены тем, что использование автономных систем вооружения приводит к пробелу в подотчетности, потому что, очевидно, вы не можете привлечь к ответственности саму систему вооружения.
Также было бы юридически сложно и, возможно, несправедливо возлагать ответственность на оператора за действия системы, которая работала автономно.
Также существуют трудности с привлечением производителей оружия к ответственности в соответствии с гражданским законодательством. Среди государств, военных и других людей существует широкая обеспокоенность тем, что это автономное оружие может не попасть под ответственность.
Мы также считаем, что использование этих систем вооружения подорвало бы существующее международное уголовное право, создав брешь в его рамках; это создало бы нечто такое, что не охватывается существующим уголовным правом.
Предпринимались попытки запретить роботов-убийц, но пока они безуспешны. Почему это?
Есть определенные страны, которые выступают против любых действий по устранению озабоченностей, вызываемых этим оружием, в частности, Россия. Некоторые страны, такие как США, Великобритания и так далее, поддержали необязывающие правила. Мы считаем, что обязательный к исполнению договор — это единственный ответ на столь серьезные опасения.
Большинство стран, которые добиваются либо необязывающих правил, либо вообще никаких действий, находятся в процессе разработки технологии и явно не хотят отказываться от возможности использовать ее в будущем.
Может быть несколько причин, по которым было сложно запретить эти системы вооружений. Это системы вооружений, которые находятся в разработке, пока мы говорим, в отличие от наземных мин и кассетных боеприпасов, которые уже существовали некоторое время, когда они были запрещены. Мы могли бы показать документально подтвержденный вред, наносимый наземными минами и кассетными боеприпасами, и это фактор, побуждающий людей к действиям — когда вред уже есть.
В случае с ослепляющими лазерами это был упреждающий запрет [чтобы гарантировать, что они будут использоваться только на оптическом оборудовании, а не на военном персонале], так что это хорошая параллель для автономных систем вооружения, хотя эти системы вооружения представляют собой гораздо более широкую категорию. Сейчас также другой политический климат. Во всем мире гораздо более консервативный политический климат, что сделало разоружение более сложной задачей.
Недавно в ООН произошли последние изменения в десятилетних усилиях по запрещению этих систем вооружений.
Комитет по разоружению, Первый комитет Генеральной Ассамблеи ООН по разоружению и международной безопасности, принял в ноябре с большим отрывом — 164 государства «за» и пять государств «против» — резолюцию, призывающую генерального секретаря ООН собрать мнения государств и гражданского общества по автономным системам вооружений.
Хотя это кажется небольшим шагом, это важный шаг вперед. Это переносит центр обсуждения с Конвенции об обычных вооружениях (КОО) на Генеральную Ассамблею, где прогресс был очень медленным и был заблокирован Россией и другими государствами. Генеральная Ассамблея ООН (ГА ООН) включает в себя больше государств и действует на основе голосования, а не консенсуса.
Многие государства, более 100, заявили, что они поддерживают новый договор, который включает запреты и положения в отношении автономных систем вооружения. Это в сочетании с более широким использованием этих систем в реальном мире привело к активизации действий на дипломатическом фронте.
Генеральный секретарь сказал, что к 2026 году он хотел бы видеть новый договор. Международный договор, который будет принят Генеральной Ассамблеей ООН, может охватывать более широкий круг тем, таких как права человека, право, этика, а не ограничиваться только гуманитарным правом. Мы очень надеемся, что в ближайшие годы это изменит правила игры.
Что повлечет за собой международный запрет на автономные системы вооружения и насколько вероятно, что это произойдет в ближайшее время?
Мы призываем к заключению договора, состоящего из трех частей. Одна из них — запрет на автономные системы вооружения, которые не контролируются человеком. Мы также призываем к запрету автономных систем вооружения, нацеленных на людей, поскольку они вызывают обеспокоенность по поводу дискриминации и этических проблем. Третий аспект заключается в том, что мы призываем ввести правила для всех других автономных систем вооружения, гарантирующие, что они могут использоваться только в определенных географических или временных рамках. Мы с оптимизмом смотрим на то, что государства примут такой договор в ближайшие несколько лет.
