Автономные роботы - убийцы: "запретить нельзя развивать", где поставить запятую?

Привет. Дискуссии по вопросу автономного летального оружия продолжаются в мировом сообществе. Они будут «оружием террора, используемым террористами и государствами-изгоями против гражданского населения». В отличие от человеческих солдат, они будут следовать любым указаниям, каким бы злым они ни были», - говорит Тоби Уолш, профессор искусственного интеллекта в Университете Нового Южного Уэльса, Австралия.

«Это будет оружие массового уничтожения. Один программист и 3D-принтер могут делать то, что раньше делала армия людей. Они будут индустриализировать войну, изменяя скорость и продолжительность того, как мы можем сражаться. Они смогут убивать 24-7, и они будут убивать быстрее, чем люди могут действовать, чтобы защитить себя».

Правительства встречаются в ООН в Женеве в понедельник в пятый раз, чтобы обсудить, как и как регулировать смертоносные системы автономного оружия. Также известные как роботы-убийцы, эти корабли, танки, самолеты и пушки с ИИ могут сражаться с войнами будущего без какого-либо вмешательства человека.

Кампания «Остановите роботов-убийц» призывает к превентивному запрету, поскольку окно возможностей для заслуживающих доверия превентивных действий быстро закрывается, и гонка вооружений уже идет полным ходом.

«В 2015 году мы предупредили, что будет гонка вооружений для разработки летального автономного оружия», - говорит Уолш. «Мы можем видеть, что гонка началась. На каждом театре военных действий - в воздухе, на море, под водой и на суше - развиваются прототипы автономного оружия».

В преддверии встречи США утверждали, что вместо того, чтобы пытаться «стигматизировать или запрещать» законы, следует поощрять инновации и что использование этой технологии может фактически снизить риск жертв среди гражданского населения на войне. Однако, эксперты опасаются, что системы не смогут проводить различие между комбатантами и гражданскими лицами и действовать пропорционально угрозе.

Францию и Германию обвиняют в том, что они избегают жестких правил, говорящих, что Европа должна возглавлять движение по запрету. Группа неприсоединившихся государств, возглавляемая Венесуэлой, призывает к переговорам о новом международном праве для регулирования или запрещения роботов-убийц. Группа добивается общего согласия со стороны государств о том, что «все оружие, в том числе с автономными функциями, должно оставаться под постоянным контролем людей во все времена».

Новая глобальная гонка вооружений

Полностью автономное оружие еще не существует, но высокопоставленные военные чиновники заявили, что использование роботов будет широко распространено в войне в течение нескольких лет. В 12 странах, включая Китай, Францию, Израиль, Великобританию и США, развернуты или находятся в стадии разработки не менее 381 автономных систем вооружения и военной робототехники.

Автоматические системы, такие как Железный купол Израиля и механизированные часовые в корейской демилитаризованной зоне, уже развернуты, но не могут действовать полностью автономно. Исследование, проведенное Международной корпорацией данных, предполагает, что глобальные расходы на робототехнику удвоятся с 91,5 млрд. долл. США в 2016 году до 188 млрд. долл. США в 2020 году, в результате чего полная автономия будет ближе к реализации.

В США, лидере в исследованиях и разработках законов, назвали автономию краеугольным камнем плана по модернизации своей армии и обеспечению ее стратегического превосходства по всему миру. Согласно данным Стокгольмского международного института исследований проблем мира, это привело к тому, что другие крупные военные державы увеличили свои инвестиции в ИИ и робототехнику, а также в автономию.

«Мы сознаем, что участвуем в соревнованиях с такими странами, как Китай и Россия», - говорит Стивен Уокер, директор Агентства перспективных исследований США по вопросам обороны, который разрабатывает новые технологии и бюджет 2018 года которых был увеличен на 27% в прошлом году.

В настоящее время США работают над прототипом беспилотного самолета X-47B, который сможет приземляться и взлетать в экстремальных погодных условиях и заправляться в воздухе. Страна также завершила испытания автономного противолодочного судна Sea Hunter, которое может оставаться в море в течение нескольких месяцев без единого человека на борту и способно уничтожать другие подводные лодки и корабли. 

В Великобритании разрабатываются собственные беспилотные летательные аппараты, которые можно было бы использовать в будущем. Таранис, беспилотный авиационный боевой автомобиль, названный в честь кельтского бога грома, может избежать обнаружения радаров и летать в автономном режиме.

Между тем Россия собирает арсенал беспилотных машин как в воздухе, так и на земле; эксперты говорят, что страна рассматривает это как способ компенсировать свое отставание от США в обычных вооружениях. «Тот, кто возглавит работу в сфере ИИ, будет править миром», - сказал в прошлом году Владимир Путин, недавно переизбранный президент России. «Искусственный интеллект - это будущее не только для России, но и для всего человечества».

В России создан роботизированный танк «Нерехта», который может быть оснащен автоматом или гранатометом, а его полуавтономный танк Т-14 скоро будет полностью автономным. Калашников, российский производитель оружия, разработал полностью автоматизированную, крупнокалиберную пушку, которая использует искусственные нейронные сети для выбора целей.

Китай имеет различные аналогичные полуавтономные резервуары и разрабатывает самолеты и морские рои, но информация об этих проектах жестко охраняется. «Поскольку люди все еще готовятся к высокотехнологичной войне, старые и новые разработки переплетаются, чтобы стать новой формой скрытой сложной« гибридной войны», - писал Ван Вэйсин, китайский военный исследователь в прошлом году.

«Автономные боевые действия уже появляются. В то время как люди прячут голову в песок, пытаясь преодолеть разрыв между мировыми военными державами с точки зрения традиционного оружия, технологичная легкая война вот-вот выйдет на сцену».

Ящик Пандоры

Согласно Кампании «Остановить роботов-убийц», эти системы угрожают стать «третьей революцией в войне», после изобретения пороха и ядерных бомб, и как только ящик Пандоры откроется, его будет трудно закрыть.

«Неодушевленные машины не могут понимать или уважать ценность жизни, но у них будет возможность определить, когда ее уничтожить», - говорит Мэри Уорхем, координатор кампании. «Наша кампания полагает, что машинам никогда не должно быть разрешено брать ответственность по лишению человеческой жизни на поле битвы или в полицейской деятельности или при любых других обстоятельствах».

Сторонники запрета говорят, что полностью автономное оружие вряд ли сможет полностью соответствовать сложным и субъективным нормам международного гуманитарного права и прав человека, которые требуют человеческого понимания и суждения, а также сострадания.

Указывая на запрет 1997 года на противопехотные мины, который является одним из наиболее широко признанных договоров в области международного права, и запрет на кассетные боеприпасы, в котором насчитывается 120 подписчиков. 

Считается, что оружие искусственного интеллекта может приблизить мир к апокалипсису ближе, чем когда-либо прежде. «Представьте себе рои автономных танков и реактивных истребителей, встречающихся на границе, и один из них стреляет по ошибке или потому, что был взломан», - говорит Ноэль Шарки, профессор искусственного интеллекта и роботов в Университете Шеффилда, который впервые написал о реальности войны роботов в 2007 году.

Это может автоматически вызвать боевые действия, которые никто не мог предусмотреть. Мы даже не можем знать, как эти системы будут взаимодействовать в конфликте. Все может закончиться через несколько минут с массовым разрушением и гибелью людей.

Вопрос не праздный но, судя во всему, ограничение такого рода вооружений в международном масштабе не имеет никаких перспектив. Слишком напряженная обстановка и гонка ИИ вооружений будет продолжаться с новой силой. 

Подробней, фото1, фото2, фото3, фото4, фото5