Введение

Быстрое развитие автономных систем вооружения в первой трети XXI века поставило перед международным сообществом экзистенциальный вопрос: до какой степени выбор между жизнью и смертью может быть делегирован машинам? Так как смертоносные автономные системы вооружения (САС) или Lethal Autonomous weapons systems (LAWS), использующие искусственный интеллект, могут радикально изменить способ принятия решений в вооружённых конфликтах.

Разработка и боевое применение САС вызывает определённый исследовательский интерес и в настоящее время опубликован целый ряд научных статей¹. Однако посвящены они преимущественно аспектам международного права, так как согласованного подхода к статусу САС на мировой арене нет. В первую очередь, эти разногласия существуют между группой стран, производящих летальное автономное вооружение и группой стран, покупающих или не имеющих его. Особое место в этом диалоге занимает Германия, которая сохраняет приверженность наложенным на неё военно-политическим ограничениям. При этом в военных кругах назрел запрос на повышение обороноспособности государства, тогда как гражданское общество намерено сохранить статус-кво. Решение этой проблемы находится, в том числе, в прямой зависимости от того, как понимать «автономные системы вооружений».

Когда говорят об существующих автономных системах вооружения, обычно подразумевают автономные или полуавтономные мобильные системы вооружения с дистанционным управлением. На сегодняшний день не существует единого, признанного на международном уровне определения САС. Одно из самых распространенных принадлежит Международному Комитету Красного Креста (МККК): это любая система вооружения, обладающая автономией в своих важнейших функциях, которая может выбирать и атаковать цели без вмешательства человека². Эти системы впервые появились в 1980-х годах; но технологическое развитие позволило увеличить дальность их действия, полезную нагрузку и включение технологий искусственного интеллекта (ИИ). Искусственный интеллект не является обязательным условием для функционирования автономных систем вооружения, но может их активировать. Искусственный интеллект также может использоваться в качестве вспомогательного средства в системах, которые напрямую управляются человеком³.

Остаётся спорным вопрос: означают ли автономные системы вооружения только полностью автономные системы с искусственным интеллектом или частично автоматизированные, то есть системы, в которых некоторые функции выполняются автономно, а другие контролируются людьми? Одна из граней дискуссии вращается, например, вокруг вопроса: являются ли крылатые ракеты разновидностью летальных автономных систем вооружения. Американские зенитный ракетный комплекс «Пэтриот», корабельная боевая система «Иджис» – всё это примеры летальных автономных систем вооружения⁴.

Именно на эти аспекты указали в открытом письме правительству ФРГ в 2021 году 62 известных немецких учёных, работающих в области информатики, исследующих робототехнику и искусственный интеллект. Они призвали к созданию «юридически обязательной международной нормативной базы для использования «автономности в системах вооружений»⁵.

Из четырёх крупнейших компаний ФРГ, производящих оружие, – «Хеклер и Кох» (Heckler & Koch), «Рейнметалл» (Rheinmetall), «ТиссенКрупп марине системс» (ThyssenKrupp Marine Systems) и «Краус-Маффай Вегманн» (Kraus-Maffei Wegmann) – только у «Рейнметалл» и «ТиссенКрупп марине системс» есть разведывательные или исследовательские беспилотные летательные аппараты разной степени автономности. В частности, «Рейнметалл», являющийся одним из ведущих мировых лидеров в сфере современных ПВО, производит беспилотную авиационную систему воздушной разведки и наблюдения ЛУНА (LUNA)⁶. Компания «ТиссенКрупп марине системс» разрабатывает и производит беспилотные военно-морские системы⁷. Одновременно в ФРГ существуют компании, специализирующиеся на производстве гражданских беспилотных летательных аппаратов. Например, «Квантум-системс» (Quantum-Systems), зарегистрированная в 2011 году, производит БПЛА «Вектор», с возможностями искусственного интеллекта⁸, а также компания «Германдронс» (Germandrones), которая выпускает серию аппаратов вертикального взлёта и посадки «Сонгбирд», используемые в разведывательных целях⁹. В то же время в США несколько компаний производят как летальные, так и не летальные автономные системы вооружений, в том числе барражирующие боеприпасы. Среди них «Локхид Мартин» (Lockheed Martin), «Боинг» (Boeing), «Киберлюкс» (Cyberlux) и «Рэйтион» (Raytheon).

Разница хорошо видна не только в объёмах производства, но и в поставках в зоны конфликтов. Например, американские поставки САС на Украину включают сотни атакующих барражирующих боеприпасов «Свитчблэйд», «Феникс Гост», разведывательные БПЛА «Киберлюкс-К8», «Альтиус-600», «Джамп-20», «Хорнет», «Пума», «Скан игл», «Пингвин». Помимо этого, США поставляют радары для БПЛА, тысячи авиационных ракет «Зуни», «Гидра-70»¹⁰. Немецкие поставки автономных систем включают нелетальные аппараты, за период 2022–2024 годы 50 надводных дронов, 288 разведывательных дронов «Вектор», 7 разведывательных дронов «Сонгбирд», 1 разведывательный комплекс «Луна НГ». К дальнейшей поставке планируется 187 разведывательных дронов «Вектор»¹¹.

Проблема международного консенсуса

В международном праве отсутствует документ, запрещающий использование САС с искусственным интеллектом в вооружённых конфликтах. Большинство международных договоров в области разоружения направлены на ограничение, а не на полное запрещение автономных систем вооружения с ИИ. Установленные ограничения касаются случаев приобретения, хранения, накопления САС, а также их исследования, испытаний и последующих передачи и применения.

Проблема автономных вооружений в широком смысле начала обсуждаться с момента его активного применения Соединёнными Штатами в Афганистане в 2001 году. В 2010 году Филип Алстон, являвшийся специальным докладчиком по вопросу о внесудебных казнях, казнях без надлежащего судебного разбирательства и произвольных казнях, поднял тему разработки «полностью автономных систем» в сфере военной и оборонной промышленности в докладе на 65-й сессии Генеральной Ассамблеи ООН. В 2013 году Кристоф Хейнс, занимавший ту же должность, опубликовал доклад с обсуждением проблем «летальной автономной робототехники»¹². Сразу после выпуска рекомендаций консультативного комитета по вопросам разоружения на 68-й сессии Генеральной Ассамблеи ООН, в 2014 году началось обсуждение автономных систем вооружений в рамках Конвенции о запрещении или ограничении применения конкретных видов обычного оружия, которые могут считаться наносящими чрезмерные повреждения или имеющими неизбирательное действие¹³.

С 2015 года МККК призывает государства установить согласованные на международном уровне ограничения для автономных систем вооружений, чтобы обеспечить защиту гражданского населения и соблюдение международного гуманитарного права. МККК предложил ряд рекомендаций по установлению новых юридически обязательных норм. Среди них прямой и недвусмысленный отказ от использования САС против людей из-за их непредсказуемости и неизбирательного действия. Порядок применения должен подлежать юридически обязательному ограничению видов целей, например, такими объектами, которые являются военными по своему характеру. Должна быть обеспечена возможность учёта мнения человека и контроля с его стороны при конкретном нападении. Ограничены ситуации применения САС, например, такими, в которых гражданские лица или объекты отсутствуют¹⁴.

Их ключевые положения сосредоточены на идее, что нормы международного гуманитарного права продолжают в полной мере применяться ко всем оружейным системам, в том числе к потенциальной разработке и применению смертоносных автономных систем вооружении; должна быть сохранена ответственность человека за решения о применении оружейных систем, поскольку ответственность не может быть переложена на машину, что должно учитываться на протяжении всего жизненного цикла оружейной системы. При определении качества и степени взаимодействия человека и машины следует учитывать ряд факторов, включая оперативный контекст, а также характеристики и возможности оружейной системы в целом; в соответствии с обязательствами государств по международному праву при изучении, разработке, приобретении или принятии на вооружение новых видов оружия, средств или методов ведения войны должно быть определено, подпадает ли их применение, при некоторых или при всех обстоятельствах, под запрещения, содержащиеся в каких-либо нормах международного права. В отношении применения искусственного интеллекта принципы подчёркивают, что дискуссии и любые потенциальные стратегические меры, принимаемые в контексте конвенции, не должны препятствовать прогрессу в области использования интеллектуальных автономных технологий или доступу к ним в мирных целях¹⁵.

Иной позиции придерживаются США. В 2012 году была выпущена директива Минобороны США № 3000.09-2012 (DoDD 3000.09), которая признаёт возможность использования летальных автономных и полуавтономных систем вооружения. Директива установила следующие руководящие принципы: автономные и полуавтономные системы вооружения должны быть спроектированы таким образом, чтобы командиры и операторы могли на должном уровне принимать решения о применении силы; системы должны выполнять боевые действия в сроки, соответствующие намерениям командира и оператора, и, если это невозможно, прекращать боевые действия или запрашивать дополнительную информацию у человека-оператора, прежде чем продолжать боевые действия. Полуавтономные оружейные системы (включая пилотируемые или беспилотные платформы, боеприпасы, которые функционируют как полуавтономные оружейные системы или как подкомпоненты полуавтономных оружейных систем) могут использоваться для применения смертоносной или не летальной, кинетической или некинетической силы¹⁶.

Как отмечает негосударственный Центр стратегических и международных исследований США, некоторые категории автономного оружия, такие как кибероружие и системы противоракетной обороны, уже широко используются США и их союзниками по всему миру. Ведомство также допускает возможность того, что будущий технологический прогресс и изменения в глобальной обстановке безопасности, в том числе на Украине, могут сделать новые типы автономного оружия желательными для использования. Управление перспективных исследовательских проектов Министерства обороны США (Defense Advanced Research Projects Agency, DARPA), отвечающее за разработку новых технологий, уже реализует программы по отработке вопросов группового применения беспилотных летательных аппаратов. К ним относятся программы, обеспечивающие устойчивость систем, обладающих искусственным интеллектом (Guaranteeing AI Robustness against Deception, GARD), автономных надводных и подводных объектов, наземных мобильных роботизированных платформ различного назначения¹⁷. Особое внимание в исследованиях Минобороны США уделяется искусственному интеллекту. Так в «Стратегии национальной обороны», составной частью которой является «Стратегия искусственного интеллекта», указывается, что ИИ «изменит общество и в итоге характер войны». Одним из основных направлений использования технологии ИИ в военной сфере является применение роботизированных средств как на поле боя, так и на удалении от него¹⁸.

В 2021–2024 годы группа правительственных экспертов продолжила работу по определению подходов к САС. Доклад сессии 2021 года по новым технологиям в сфере создания смертоносных автономных систем вооружений повторил принцип, согласно которому потенциальное применение оружейных систем, основанных на новых технологиях в сфере создания САС, должно осуществляться в соответствии с международным гуманитарным правом. Ответственность за применение средств или методов ведения войны, связанных с потенциальным использованием оружейных систем должны нести сами государства. А ответственность за решение о применении оружейных систем сохраняется за человеком, поскольку не может быть переложена на машину¹⁹.

Германские подходы к применению САС

«Особое мнение» каждой страны – участницы диалога о САС, как правило, определяется его местом в системе производства и на военно-политическом ландшафте. Позиция Германии в отношении военной сферы в значительной степени связана с ограничительными подходами Основного закона 1949 года, коалиционными соглашениями и политическими принципами федерального правительства в отношении экспорта вооружений. Государство нацелено на углубление оборонно-экономического сотрудничества в рамках Общей внешней политики и политики безопасности ЕС, укрепление европейской оборонно-промышленной базы и поддержку технологических компетенций²⁰. В отношении САС в ФРГ есть официальная точка зрения, которая предполагает отказ от летальных автономных систем вооружения. В то же время на протяжении 2018–2024 годов учёные, политики и военные ведут широкую дискуссию в бундестаге и СМИ о недостаточной последовательности ФРГ в отношении к САС.

Один из заметных экспертов в области автономных систем вооружения в ФРГ доктор Франк Зауэр, старший научный сотрудник Университета бундесвера в Мюнхене²¹, подчёркивает, что не существует конкретной системы оружия, которую можно было бы запретить. Речь может идти только об определении взаимоотношений между людьми и машинами в армии. По его мнению, есть несколько причин, почему регулирование автономных систем вооружения так сложно. Во-первых, автономное оружие не является отдельной категорией оружия. Автономия – это свойство, которое может быть встроено в разные системы. Лучше говорить об автоматизации систем вооружения, а не об автономных системах вооружения. Во-вторых, классический подход к контролю над вооружениями заключается в определении того, сколько оружия определённого типа может иметь страна. Но здесь этот подход не работает, так как трудно оценить программное обеспечение. Поэтому необходимы новые формы контроля над вооружениями, которые, например, учитывают контекст применения. В-третьих, эффект от автономных систем вооружения до сих пор был малозаметен, и их регулирование является превентивной мерой. Поэтому нужно сосредоточить регулирование на запретах других систем вооружения, таких как кассетные боеприпасы и противопехотные мины.

Во-вторых, урегулировать вопрос применения. В частности, полностью автономным системам обороны бундесвера может быть разрешено использование только для защиты от прямых атак неодушевленных военных объектов в условиях нехватки времени; устанавливать только стационарно, например на корабле или на земле, но не мобильно как самостоятельную систему вооружения²².

Точка зрения Ф. Зауэра отражает опасения бундесвера перед техническим превосходством США. ФРГ входит в число лидеров по производству вооружения, наряду с США и Россией, однако не производит летальные автономные системы вооружений. Согласно отчёту Комитета бундестага по образованию, исследованиям и оценке воздействия технологий, опубликованному в 2020 году и посвящённому автономным системам вооружений, Германия находится только на этапе развития боевых беспилотных систем, то есть на том же уровне, что и Великобритания, Греция, Испания, Южная Корея, Индия и Швеция. Тогда как собственное производство уже имеют США, Китай, Израиль, Пакистан, Северная Корея, ЮАР, Иран и Грузия²³.

Целью отчёта Комитета бундестага 2020 года была проработка технологических, военно-стратегических, международно-правовых, этических аспектов САС. Отчёт представил результаты мониторинга американских, израильских и российских технологий и использования автономных систем. Особенностью исследования стал акцент на американском производстве и опыте автономного боевого применения²⁴. Исследование подчеркнуло, что быстрое внедрение систем вооружения на базе искусственного интеллекта даст решающее военное преимущество, хотя и сопряжено с рисками и угрозами, например, с неконтролируемым распространением потенциально опасных технологий. Хотя в целом отчёт сохранил дискуссионную тональность, показав разнообразие трактовок понятия «автономные системы вооружения», в том числе в отношении человеческого контроля.

Заметное место в отчёте нашли сравнение подходов к применению САС у Германии и США. Например, американская позиция исходит из уменьшения участия человека, так как использование автономных функций позволило бы добиться большей точности и скорости, чем при человеческом контроле. Для Германии, не располагающей боевыми воздушными автономными системами, перспективными были названы беспилотные подводные аппараты, которые по мнению составителей отчёта имеют несравненно более высокое военно-стратегическое значение. Их распространение во всём мире растёт, и, хотя в Германии разработка подобных систем вооружения всё ещё находится на начальной стадии, военные задачи для неё становятся всё актуальнее. В качестве сравнения отчет назвал российский подводный беспилотник «Клавесин-2» и американский «Эхо Вояджер» (Echo Voyager), которые способны работать автономно. В отдалённом будущем США делают ставку на сложные беспилотные транспортные средства, способные действовать автономно, в том числе в районах, доступ к которым затруднён.

В октябре 2022 года тема летальных автономных систем вооружения в ФРГ приобрела новую остроту в связи с дискуссией о поставках вооружений на Украину. Фракция «Левых» (Die Linke) в бундестаге подала запрос федеральному правительству, к котором его позиция в отношении САС была названа «неоднозначной». Несмотря на то что в коалиционных соглашениях 2013, 2018 и 2021 годов чётко указано, что правительство намерено отказаться от автономных систем вооружений; в соглашении 2018 года содержится намерение «объявить САС вне закона во всем мире»; в 2021 году зафиксировано стремление отвергнуть смертоносные автономные системы вооружений и продвигать международный запрет, на практике в коалиционном соглашении говорится только о тех системах, которые «полностью выведены из-под контроля человека», что оставляет большой простор для толкования, поскольку степень, в которой система должна быть классифицирована как «полностью» автономная, можно интерпретировать по-разному. Также правительство было обвинено в том, что на совещании экспертов Конвенции ООН по обычным вооружениям в Женеве в марте 2022 года Германия отказалась подписать документ, предусматривающий «запрет автономных систем оружия, которые не являются достаточно предсказуемыми или контролируемыми для выполнения правовых требований»²⁵.

В сентябре 2022 года на запрос «Левых» был представлен ответ бундестага, который в целом повторил содержание отчёта «Автономные системы вооружения» 2020 года. По мнению федерального правительства, «для систем вооружения с автономными функциями всегда должен быть обеспечен контроль со стороны человека, чтобы гарантировать доступность таких систем вооружения». В отношении регулирования САС федеральное правительство обозначило следующий подход: государство обязуется не разрабатывать, не производить, не закупать и не развёртывать полностью автономные системы вооружений, которые неподконтрольны человеку²⁶.

Тема автономных систем вооружения была поднята в бундестаге ещё раз в апреле 2024 года. В этот раз особый интерес был вызван расширением внедрения искусственного интеллекта во все сферы, в том числе и в проекты НАТО. Правительство отрицало участие или финансовую долю Германии в международных военных проектах, которые связаны с разработкой автономных систем вооружения или технологиями на базе искусственного интеллекта. Однако финансирование Инновационного фонда НАТО (NIF) в 2023 и 2024 годах подтвердило – в объёме 12,9% капитала фонда. Также были названы суммы, выделенные в 2023–2025 годах на контракт с немецким консорциумом HIS, который должен предоставить инфраструктуру с искусственным интеллектом в рамках германо-испано-французской программы FCAS – 47 532 543 евро²⁷. Среди проектов консорциума, в том числе для бундесвера, есть беспилотные летающие системы с искусственным интеллектом.

Отставание ФРГ в области искусственного интеллекта и САС является предметом широкой научной дискуссии. В 2019 году вышло исследование «Обучающий искусственный интеллект в области контроля над вооружениями»²⁸, авторы которого всесторонне рассмотрели риски и потенциал ИИ в САС. Исследование в очередной раз указало на военно-техническое превосходство США, успех России и Китая, а также необходимость разработки совершенных систем вооружения, минимизирующих риск собственных жертв в военных действиях. По мнению авторов отчёта, один из существенных рисков состоит в том, что расширение областей применения ИИ, разработанного в гражданских целях, увеличивает вероятность его использования в системах вооружения, особенно если это касается ядерных технологий.

Заключение

Автономные системы вооружений, как и искусственный интеллект, уже стали реальностью, применяемой на поле боя. Правительство Германии, являющейся одним из мировых лидеров, в том числе в производстве вооружения, но при этом серьёзно отстающей в перспективной технологической отрасли, осознаёт необходимость изменения стратегии в отношении САС. Подталкивают к этому реалии современных вооружённых конфликтов, в которых активно задействованы, например, беспилотные аппараты, опыт боевого применения которых внимательно изучает США²⁹.