Ватикан тревожат сверхмалые дроны-камикадзе, способные убивать противника

ЖЕНЕВА. На заседании группы по новейшим оружейным технологиям в Женеве, делегаты Ватикана выразили тревогу в связи с появлением нового оружия – стай крохотных дронов-камикадзе, способных отыскивать и убивать людей с помощью искусственного интеллекта, сообщает catholicnewsagency.

«Рои мини-дронов-камикадзе могут представлять страшную опасность для мирного гражданского населения», – говорится в заявлении Постоянной миссии Святого Престола при ООН и других международных организациях (Permanent Mission of the Holy See to the United Nations and Other International Organizations) в Женеве, Швейцария. «Это новое оружие может находить и уничтожать ложные цели в условиях городских боев, – подчеркивается в заявлении – Конкретная возможная проблема, которую видит наша делегация, возникает в связи с тем, что рои мини-дронов-камикадзе наделены автономными возможностями, а потому их использование в городской застройке несет высочайшую угрозу для гражданского населения. Такие системы способны действовать бесконтрольно, без непосредственного управления человеком, а потому вполне могут совершать ошибки при выявлении целей из-за программной «предвзятости» и ограниченности, поскольку их «способности к самообучению» строятся на ограниченных выборках вводных данных и перечнях признаков целей».

«Сама концепция роя автономных вооружений еще больше усугубляет этот риск, – указывает миссия в заявлении, – поскольку стохастический [случайный] характер действий роя может привести к чрезмерным неизбирательным потерям мирного населения, что полностью противоречит принципам МГП [международного гуманитарного права]».

Ватикан подчеркнул опасности нового оружия на заседании Группы правительственных экспертов по новым технологиям в области автономных систем оружия летального действия (АСОЛД, Lethal Autonomous Weapons Systems, LAWS), во Дворце Наций в Женеве. Группа обсуждает LAWS в свете Конвенции ООН о конкретных видах обычного оружия (Convention on Certain Conventional Weapons), которая запрещает оружие, причиняющее ненужные страдания и поражающее гражданское население неизбирательным образом.

Военные аналитики в последнее время также вынуждены уделять все больше внимания этическим аспектам использования роев смертоносных мини-дронов. Так, вдокладе 2020 года, поданном в Центр стратегических исследований сдерживания ВВС США (U.S. Air Force Center for Strategic Deterrence Studies), военный эксперт Закари Калленборн (Zachary Kallenborn) подчеркивает опасности использования подобных роев. В докладе они именуются «полностью автономными роями вооруженных дронов» (armed fully autonomous drone swarms, AFADS).

«Стаи дронов, как класс нового оружия, пока еще нет оснований считать оружием массового уничтожения (ОМУ), – указывает эксперт – Однако рои сверхмалых автономных дронов типа AFADS уже можно относить к таковым, поскольку они способны наносить массовый ущерб, причем рои AFADS в обозримом будущем по своей природе останутся мало избирательным оружием. Военным следует разрабатывать «этически безупречные системы целеуказания», позволяющие надежно различать военных и гражданских лиц».

В своем заявлении миссия Святого Престола подчеркивает непредсказуемость действий дронов LAWS, оснащаемых «системами самообучения и самопрограммирования». Она также отмечает растущую оппозицию в среде «работников и предпринимателей», которые по этическим соображениям противятся проектам «использования искусственного интеллекта в качестве оружия».

Святой Престол фактически сделал два заявления на собрании Группы правительственных экспертов, проходящем в период 3-13 августа. Так, в своемзаявлении от 4 августа он призвал к «осторожному и умеренному подходу» к разработке LAWS, дабы предотвратить «необратимые изменения в характере войн», поскольку такие изменения неизбежно «вынудят государства заняться пересмотром своих военных возможностей». Миссия заявила, что крайне важно поддерживать «значимый человеческий контроль над системами оружия». «Уникальная человеческая способность к моральным суждениям и принятию этических решений не может быть заменена сложным набором машинных алгоритмов, ее никак нельзя поручать машине или управляющей ей программе», - подчеркивается в заявлении.

В другом заявлении от 5 августа, миссия Ватикана отмечает, что применение роев дронов LAWS чревато «очень серьезными возможными последствиями для мира и стабильности». Делегация приветствовала шаги других сторон в плане «признания особой роли этики и человеческой личности, а также человечности в целом в дискуссиях о новых системах вооружений». «Наша делегация считает, что ради предотвращения нового витка гонки вооружений и возможного роста неравенства и напряженности в мире всем нам необходимо действовать решительно и безотлагательно», - заключает миссия Святого Престола.

Сергей Игнатов

https://www.sedmitza.ru/text/10028066.html