U.S. Policy of the Artificial Intelligence Using in the Interests of the Military
Table of contents
Share
Metrics
U.S. Policy of the Artificial Intelligence Using in the Interests of the Military
Annotation
PII
S207054760013351-3-1
DOI
10.18254/S207054760013351-3
Publication type
Article
Status
Published
Authors
Yaroslav Selyanin 
Occupation: Research Fellow
Affiliation: Institute of World·Economy and International Relations of the Russian Academy of Sciences
Address: Russian Federation, Moscow
Edition
Abstract

U.S. Government agencies pay close attention to the creation of artificial intelligence (AI). First of all, this applies to the armed forces, which are the main state actors in this area and have the full support of Congress. The article discusses the goals, objectives, and approaches of the U.S. armed forces to the organization of work in the area of AI creation. The article contains an overview of the main guidance documents. The author considers the United States views on the international regulation of the creation and use of systems using AI technologies, including weapons and military equipment.

Keywords
USA – artificial intelligence – machine learning – U.S. armed forces – the U.S. Public Policy in the Area of Science and Technology Development
Received
29.09.2020
Date of publication
30.12.2020
Number of purchasers
4
Views
139
Readers community rating
0.0 (0 votes)
Cite Download pdf

To download PDF you should sign in

1

Введение

 

11 февраля 2019 г. президент Дональд Трамп подписал указ «Поддержание американского лидерства в области искусственного интеллекта» (Executive Order 13859 – Maintaining American Leadership in Artificial Intelligence)1, и Соединённые Штаты получили, наконец, всеобъемлющую национальную стратегию в этой сфере. Этому предшествовали длительная подготовительная работа и продолжительные исследования, включавшие две «зимы искусственного интеллекта» в 1970-х и 1990-х годах – периоды, когда американское государство, в первую очередь в лице военных, теряло интерес к этой теме из-за краха попыток академических кругов и промышленности создать годный к внедрению и практическому использованию ИИ. Но в 2000-х годах произошёл резкий скачок в развитии технологий и появились коммерческие продукты на основе так называемого узкого ИИ, который доказал свою эффективность при решении конкретных задач (например, распознавание объектов на изображениях, распознавание речи и т.п.). Поэтому вооружённые силы США вновь обратили пристальное внимание на эту тематику.

1. Maintaining American Leadership in Artificial Intelligence: Executive Order 13859 of February 11, 2019 // Federal Register. URL: >>> (дата обращения: 06.02.2020).
2

Одним из индикаторов важности ИИ для силовых ведомств является тот факт, что два года подряд – в 2018 и 2019 гг. – машинное обучение (основной подход к созданию ИИ в настоящее время) было темой выпусков ежегодников «Новая волна» (The New Wave), публикуемых Агентством национальной безопасности США. В каждом номере рассматривается одна наиболее важная с точки зрения Агентства перспективная технология2.

2. Подробнее см.: Machine Learning // The Next Wave. Vol. 22. No. 1. 2018. URL: >>> (дата обращения: 12.04.2019); Machine Learning // The Next Wave. Vol. 22. No. 2. 2019. URL: >>> (дата обращения: 12.04.2019).
3

Главным лоббистом необходимости создания и использования государством (в первую очередь военными) искусственного интеллекта является глава Совета по инновациям Министерства обороны (Defense Innovation Board, DIB) Эрик Шмидт (Eric Schmidt). В недавнем прошлом он занимал пост главы корпорации «Гугл» (Google), а ныне является техническим консультантом и членом совета директоров материнской для неё компании «Алфабет» (Alphabet)3. С 2017 г. он продвигал идею использования машинного обучения и инструментов на основе ИИ для повышения качества обработки и анализа информации, имеющейся в распоряжении ВС США. Призывая государство активно включиться в работы по этой тематике, он указывал на опасность перехвата лидерства в этой сфере Китаем. В результате в 2019 г. Эрик Шмидт возглавил созданную Конгрессом Комиссию национальной безопасности по искусственному интеллекту (National Security Commission on Artificial Intelligence, NSCAI), чьей задачей является выявление проблем и определение дальнейшего направления государственных работ США в области ИИ4. Большое внимание Комиссия уделяет деятельности Министерства обороны и разведсообщества.

3. Eric Schmidt // Defense Innovation Board. URL: >>> (дата обращения: 25.01.2020).

4. Eric Schmidt // National Security Commission on Artificial Intelligence. URL: >>> (дата обращения: 28.01.2020).
4 Американские военные неоднократно применяли новые разработки в отношении противника, не способного адекватно ответить на них. При этом они не считались ни с расходами, ни с возможными потерями среди мирных жителей, ни с военной необходимостью. Поэтому наибольший интерес среди всех американских работ в области ИИ вызывает как раз деятельность Министерства обороны, которое является крупнейшим в США государственным игроком на этом поле.
5

Так, в целом объём несекретного запроса МО на работы в области ИИ в 2021 фин. г. составляет 841 млн долл., включая 459 млн долл для Управления перспективных исследований (Defense Advanced Research Projects Agency, DARPA) на НИОКР по ИИ и 290 млн для Объединённого центра искусственного интеллекта МО (Joint Artificial Intelligence Center, JAIC)5. Надо отметить, что в 2020 фин. г. запрос на нужды Управления был меньше на 50 млн долл., а на нужды Центра – на 48 млн долл.6 Для сравнения: лидер среди гражданских ведомств по финансированию работ в области ИИ – Национальный научный фонд – получил в 2020 фин. г. 518 млн долл., а запрос на 2021 фин. г. для него составляет 831 млн долл.7 Даже несмотря на очень существенное увеличение объёмов запроса, это всё равно меньше чем запрос Министерства обороны.

5. DOD Releases Fiscal Year 2021 Budget Proposal // U.S. Department of Defense. 2020. 10 February. URL: >>> (дата обращения: 31.03.2020).

6. President Trump’s FY 2021 Budget Commits to Double Investments in Key Industries of the Future // The White House. Official website. 2020. 11 February. URL: >>> (дата обращения: 31.03.2020).

7. NITRD Supplement to the President’s FY2021 Budget // The Networking and Information Technology Research and Development Program. 2020. 14 August. URL: >>> (дата обращения: 24.08.2020).
6 К работам военных по ИИ активно привлекаются технологические компании и учёные. При этом подробности работ традиционно не раскрываются или раскрываются неохотно. Однако анализ открытых документов позволяет судить об их общих целях, задачах и проблемах.
7

Подходы Пентагона к деятельности в области ИИ

 

12 февраля 2019 г., на следующий день после подписания Трампом упомянутого выше указа, Министерство обороны опубликовало краткое содержание своей стратегии в этой области (Summary of the 2018 Department of Defense Artificial Intelligence Strategy).

8

Необходимость её создания военные обосновывают тем, что «другие страны, особенно Китай и Россия, осуществляют значительные вложения в ИИ в интересах военных, включая и такие варианты применения, которые вызывают вопросы, связанные с международными нормами и правами человека. Эти инвестиции угрожают подорвать наше [американское.Я.С.] превосходство в технологиях и проведении операций, а также дестабилизируют свободный и открытый мировой порядок»8.

8. Summary of the 2018 Department of Defense Artificial Intelligence Strategy // U.S. Department of Defense. 2019. 12 February. URL: >>> (дата обращения: 25.01.2020).
9

Министерство обороны заявляет ориентированную на человека (human-centered) модель использования ИИ, декларируя заботу о личном составе и гражданских лицах. Однако за этим фасадом скрываются следующие прозаические цели:

10
  1. Повышение эффективности процесса принятия решений и действий ВС США, что также должно «способствовать соблюдению права вооружённых конфликтов (law of war)» посредством снижения риска жертв среди мирного населения и иного сопутствующего ущерба.
  2. Повышение эффективности защиты критической инфраструктуры американской финансовой системы, электросетей, избирательного процесса и медицинских систем от угроз из физического и киберпространства.
  3. Автоматизация выполнения трудоёмких задач по обработке данных (data-centric tasks), которые вручную выполняются личным составом с низкой эффективностью.
  4. Внедрение ИИ в масштабах всех вооружённых сил для решения широкого спектра задач. Для этого МО намерено повысить эффективность своей организационной структуры, определить стандарты в области ИИ, обеспечить подготовку и наём специалистов, внедрение новых моделей проведения операций и совместимость подходов МО к использованию ИИ с другими ведомствами, союзниками и партнёрами.
11 Работу по внедрению ИИ в вооружённых силах планируется строить на основе следующих «стратегических подходов»:
12
  1. Развёртывание средств на основе ИИ. Это должно повысить эффективность процесса принятия решений и проводимых операций, посредством (1) улучшения ситуационной осведомленности и качества принятых решений, (2) повышения защищённости вооружений и военной техники (ВВТ), (3) внедрения системы обеспечения технического обслуживания ВВТ и снабжения подразделений на основе прогнозирования их потребностей в этом, (4) оптимизации организации работы ВС. Приоритет предполагается отдавать системам, повышающим эффективность выполнения личным составом трудоёмкой рутинной умственной и физической работы.
  2. Децентрализация проведения экспериментальных работ в области ИИ. Авторы стратегии руководствуются предположением, что «наиболее революционные средства на основе ИИ будут возникать в результате проведения экспериментов самими пользователями в условиях, далеких от централизованных офисов и лабораторий»9. Поэтому для облегчения такой децентрализации предполагается создать набор «строительных блоков» и платформ в области ИИ, включая создание общей базы данных МО, инструментария, стандартов, облачных сервисов. Одновременно будет проводиться адаптация «существующих процессов к применению ИИ».
  3. Превращение МО в ведущего работодателя для специалистов в области ИИ. Министерство намерено проводить соответствующее обучение имеющегося личного состава и привлекать к сотрудничеству ведущих специалистов отрасли.
  4. Сотрудничество с коммерческими компаниями, научными кругами, иностранными партнёрами и союзниками. В частности предполагается привлекать ведущих учёных к проведению долгосрочных исследований оборонного характера в области ИИ, обеспечив им необходимое финансирование. Причём отдельно оговорено, что такое сотрудничество предполагается осуществлять без отрыва от преподавательской деятельности, дабы не ослаблять систему подготовки следующих поколений специалистов.
  5. Решение этических проблем применения технологий ИИ в военной сфере и вопросов их безопасности. Министерство обороны намерено: (1) сформулировать юридические и этические принципы использования ИИ; (2 финансировать научно-исследовательские и опытно-конструкторские работы (НИОКР) в области надёжного и безопасного ИИ (в том числе «объяснимого», что особенно важно, поскольку сегодня из-за особенностей фундаментальных принципов работы технологии сами разработчики не понимают логику даже хорошо работающего ИИ и не могут объяснить, почему система принимает то или иное решение), включая разработку методов проведения оценочных испытаний таких систем; (3) «искать возможности использования ИИ для уменьшения непреднамеренного вреда и сопутствующего ущерба посредством повышения ситуационной осведомлённости и усиления поддержки принятия решений». А также вести пропаганду своих подходов к использованию ИИ, этических принципов и методов обеспечения безопасности, «содействуя ответственному развитию и использованию ИИ другими странами»10.
9. Ibid.

10. Ibid.
13

Координацией работ государственных (военных и гражданских) и негосударственных структур в области ИИ в интересах вооружённых сил в рамках реализации стратегии занимается учреждённый в июне 2018 г. Объединенный центр искусственного интеллекта. Его создание было утверждено Конгрессом в рамках оборонного бюджета на 2019 фин. год11.

11. H.R.5515 - John S. McCain National Defense Authorization Act for Fiscal Year 2019. SEC. 234 // The official website for U.S. federal legislative information Congress.gov. URL: >>> (дата обращения: 11.02.2019).
14 Центр должен дополнять усилия Управления перспективных исследований МО, лабораторий Министерства обороны и других организаций. В его задачи входит:
15
  • обеспечение условий для использования ИИ в МО (реализация более централизованного хранения данных и обеспечение к ним доступа в масштабах всех вооружённых сил, создание необходимых инструменты, стандартов, облачных сервисов и т.п.);
  • постоянная техническая и организационная поддержка подразделений ВС по мере разработки и реализации новых проектов в области ИИ;
  • синхронизация деятельности разработчиков из разных подразделений вооружённых сил, чтобы «избежать дублирования и чрезмерных затрат»;
  • адаптация технологий ИИ сторонних разработчиков под задачи МО;
  • сбор и анализ опыта.
16 Все задачи в области ИИ, за которые отвечает Центр, делятся на два типа. В зависимости от этого варьируется степень вовлечённости Центра в их решение.
17

Над проектами для решения высокоприоритетных, неотложных задач в интересах всего МО (National Mission Initiatives, NMI) должны работать сводные группы из сотрудников Центра и специалистов других подразделений.

18

В рамках работ над проектами отдельных видов и родов ВС, узко заточенными под их специфические потребности (Component Mission Initiatives, CMI), действия Центра ограничатся оказанием технической и организационной поддержки.

19

Центр будет осуществлять надзор за системами с ИИ на протяжении всего их жизненного цикла, контролируя соответствие целей НИОКР интересам ВС. К участию в работах предполагается привлекать потенциальных пользователей таких продуктов – специалистов из подразделений, которым в дальнейшем предстоит эти системы эксплуатировать. Перспективные проекты будут внедряться в масштабах всего МО. В случае возникновения проблем для их решения будут привлекаться технологические компании, консалтинговые фирмы, научные круги, лаборатории Министерства обороны, иные государственные лаборатории, финансируемые государством научно-исследовательские центры (Federally Funded Research and Development Centers, FFRDC) и другие организации12.

12. Summary of the 2018 Department of Defense Artificial Intelligence Strategy.
20

Объединенный центр искусственного интеллекта будет координировать и другое важнейшее направление работы – внедрение принципов этического использования ИИ в вооружённых силах13.

13. DOD Adopts Ethical Principles for Artificial Intelligence // U.S. Department of Defense. 2020. 24 February. URL: >>> (дата обращения: 06.05.2020).
21

До принятия в 2018 г. стратегии МО в области ИИ вопросы этичного, ответственного и безопасного использования автономных и полуавтономных систем вооружений (ещё без упоминания ИИ) регулировались директивой МО № 3000.09 от 2012 г. с изменениями от 2017 г., которая требует, чтобы командиры и операторы могли «контролировать принятие решения о применении силы»14 такой системой, а методика испытаний гарантировала бы её штатное функционирование в реальных условиях.

14. DoD Directive 3000.09 // Federation of American Scientists. 2017. 8 May. URL: >>> (дата обращения: 22.04.2020).
22

С принятием своей стратегии в области ИИ Министерство обороны определило для себя два пути решения проблемы. Первый – проведение специальных НИОКР, включая поиск методов объяснения решений и действий ИИ (обеспечение «объяснимости» ИИ). Второй – убеждение окружающих в том, что все меры предосторожности максимально соблюдены, посредством обсуждения проблемы со всеми заинтересованными сторонами, пропаганды руководящих принципов военного ИИ «среди максимально широкой аудитории», включая личный состав МО, ИТ-компании, научные круги, союзников и партнёров, глобальное ИИ-сообщество15.

15. Summary of the 2018 Department of Defense Artificial Intelligence Strategy.
23

Первый путь долог, сложен и не гарантирует достижения успеха. Второй – пропагандистский – также не гарантирует решения проблемы, но «в умелых руках» позволяет убедить или заглушить голоса сомневающихся специалистов вне зависимости от сложности проблем и опасности их последствий. В рамках второго пути 24 февраля 2020 г. Министерство приняло список «этических принципов для использования ИИ», который был составлен на основе рекомендаций Совета министерства обороны по инновациям. Фундаментом для них стала «существующая система этики американских военных, основанная на Конституции США, разделе 10 Свода законов США «Вооружённые силы», праве вооружённых конфликтов, существующих международных договорах и давних нормах и ценностях»16. Этические принципы охватывают пять основных сфер:

16. DOD Adopts Ethical Principles for Artificial Intelligence.
24
  • Ответственность (responsible). Это значит, что личный состав ВС «будет проявлять надлежащий уровень рассудительности и осторожности, оставаясь при этом ответственным за разработку, развёртывание и использование возможностей ИИ».
  • Беспристрастность (equitable). Будут приняты меры для сведения «к минимуму непреднамеренной предвзятости ИИ».
  • Прослеживаемость (traceable). Личный состав будет «обладать надлежащим пониманием» особенностей работы, разработки и эксплуатации ИИ, включая «использование прозрачных и проверяемых методов, источников данных, процедур проектирования и документации».
  • Надёжность (reliable). Средства ВС, использующие ИИ, будут иметь строгую специализацию. Их безопасность, надёжность и эффективность будут «проверяться и гарантироваться в рамках этой специализации на протяжении всего жизненного цикла».
  • Управляемость (governable). МО будет разрабатывать специализированные средства с ИИ, гарантируя, что ведомство обладает всеми возможности по заблаговременному выявлению и предотвращению нештатных действий таких систем, а при необходимости способно экстренно остановить их работу17.
17. Ibid.
25

Как это будет реализовано на практике, покажет время. Однако прежде специалисты (в том числе из ВС США) отмечали, что ошибки ИИ могут привести к жертвам среди мирных жителей и ударам по своим войскам и союзникам. Теперь же, несмотря на мнение специалистов об отсутствии гарантий надёжности и точности работы таких систем, Министерство обороны заявляет о намерении использовать их как раз «для снижения риска жертв среди гражданского населения и другого сопутствующего ущерба и более точного соблюдения права вооружённых конфликтов за счёт повышения ситуационной осведомлённости» и качества принимаемых решений: «МО США продолжит действовать в соответствии с правом вооружённых конфликтов и будет демонстрировать ответственное использование ИИ в соответствии с ценностями нашей нации»18.

18. Summary of the 2018 Department of Defense Artificial Intelligence Strategy.
26

Говоря о стратегии Министерства обороны в области ИИ, нельзя не упомянуть его Облачную стратегию (DoD Cloud Strategy)19. Облачные технологии – это основа глобальной инфраструктуры ВС для обмена данными, важность которых для ИИ сложно переоценить. Облако необходимо для эффективного функционирования Объединённого центра искусственного интеллекта, а Облачная стратегия фактически является частью подготовки МО к широкому внедрению таких технологий. Военные намерены получить среду, включающую облако общего назначения и несколько специализированных. И хотя потребность в необлачных центрах хранения данных по-прежнему сохранится (поскольку облако не всегда применимо), их долю предполагается снижать. Данная работа имеет два аспекта – создание самой облачной инфраструктуры и работа по переносу в облако существующих приложений или созданию новых, сразу предназначенных для работы в облаке. Одной из проблем здесь является разрозненность и несвязанность ИТ-инфраструктуры (disparate and disjointed infrastructure), на которой должен строиться ИИ20.

19. DoD Cloud Strategy // U.S. Department of Defense. 2018. December. URL: >>> (дата обращения: 25.01.2020).

20. Ibid.
27

Другая проблема – дефицит военных и гражданских квалифицированных специалистов, необходимых для её создания, внедрения и эксплуатации. Поэтому, как и в случае с ИИ, первоначально требуется обеспечить личному составу базовый уровень понимания облачных технологий21.

21. Ibid.
28

Стоит отметить, что, несмотря на все технические проблемы, главным препятствием для внедрения ИИ и облачных технологий в МО является дефицит специалистов. Он отмечается по отрасли в целом, но в случае государственных структур, и в первую очередь Министерства обороны, является особенно сильным. Причём речь не только технических специалистах, которые должны непосредственно эксплуатировать системы. Возможно, более критичен такой дефицит на уровне командования, которое должно как минимум понимать возможности и ограничения систем, с одной стороны, не ожидая от них «чуда» и не требуя невозможного, с другой – не игнорируя их из-за своего непонимания технологий. Поэтому «задача состоит: (1) в формировании у высшего руководства (senior leaders) понимания возможностей ИИ в контексте обеспечения обороны, принципов организации работ и распределения ресурсов для внедрения таких технологий в практическое использование; (2) в получении руководителями среднего звена (mid-level leaders) знаний, необходимых для руководства проектами, распределения ресурсов и контроля выполнения работ; и (3) в получении техническим персоналом такого понимания технологий ИИ, которое необходимо для их успешного внедрения»22. Формы обучения будут варьироваться от «массовых открытых онлайн-курсов, электронных книг и онлайн-видео» до очных программ «под руководством экспертов по ИИ из промышленности и ведущих университетов США»23.

22. Summary of the 2018 Department of Defense Artificial Intelligence Strategy.

23. Ibid.
29

В конце 2019 г. Дональд Трамп подписал оборонный бюджет на 2020 фин. г. (National Defense Authorization Act for Fiscal Year 2020, NDAA-2020)24. Значительное внимание в документе уделено вопросам развития технологий ИИ и машинного обучения в США и мире, а также возникающим из-за этого потенциальным угрозам для национальной безопасности.

24. S.1790 – National Defense Authorization Act for Fiscal Year 2020 // Congress.gov. The official website for U.S. Federal Legislative Information. URL: >>> (дата обращения: 25.01.2020).
30

В целом Министерству обороны предписано обеспечить своевременное формулирование и обновление политики в сфере новых технологий, разработать политику и процедуру переноса данных и приложений вооружённых сил в облачное хранилище данных в соответствии с Облачной стратегией МО. А Комиссия национальной безопасности по искусственному интеллекту должна провести оценку вопросов стандартизации данных и обмена открытыми данными, предназначенными для обучения ИИ, между структурами, ответственными за обеспечение национальной безопасности США.

31 В контексте решения кадрового дефицита Министерству предписано обеспечить подготовку личного состава по таким направлениям, как разработка соответствующих технологий, программирование, возможные пути применения ИИ, влияние таких технологий на военную стратегию и доктрину, применение машинного обучения и нейронных сетей, этические вопросы, потенциальные уязвимости технологий ИИ, возможности таких технологий и риски от их использования. Предусмотрена возможность проведения вооружёнными силами ускоренного набора необходимых специалистов.
32 Очевидно, что политическое решение о широком внедрении ИИ в американских вооружённых силах принято и будет реализовываться независимо от реальной готовности к этому самих технологий.
33

Продвижение интересов США в области ИИ на международной арене

 

Несмотря на сомнения относительно готовности технологий ИИ к широкому внедрению из-за нерешённых проблем с безопасностью и конфиденциальностью (privacy)25, США пропагандируют необходимость снижения регуляторных барьеров для использования таких технологий. Если прежде официальные лица говорили о небезопасности ИИ и автономных систем (в том числе вооружённых), то теперь продвигается позиция, что реальных примеров, подтверждающих опасения экспертов пока нет, а значит нет и повода отказываться от преимуществ, которые должно обеспечить внедрение таких технологий. Заместитель помощника президента по технологической политике (Deputy Assistant to the President for Technology Policy) Майкл Крациос (Michael Kratsios) прямо заявил, что США не будут следовать международным ограничениям в области ИИ, «коренящимся в страхе перед наихудшими сценариями развития событий»26.

25. Селянин Я.В. Государственная политика США в области искусственного интеллекта: цели, задачи, перспективы реализации // Проблемы национальной стратегии. 2020. № 4 (61). С. 140–163. URL: >>> (дата обращения: 07.09.2020).

26. Michael Kratsios // The White House. URL: >>> (дата обращения: 14.05.2020);
34

Для укрепления своей позиции Белый дом ведёт на международном уровне активную работу по продвижению американских интересов в этой сфере, в первую очередь среди своих союзников и партнёров. В частности, Крациос возглавлял делегацию США в ходе министерских встреч «Группы семи» (G7) по вопросам инноваций и технологий (Innovation and Technology Ministerials) в 2017–2018 гг. По итогам встреч был принят ряд деклараций о важности для человечества и экономического роста как самого ИИ, так и повышения доверия таким технологиям. Участники встреч также выразили стремление «совместно, ответственно и этично» развивать эту отрасль.

35

В целом страны «Группы семи» полностью поддерживают взгляды США на развитие ИИ, включая вопросы: (1) обмена передовым опытом и специалистами; (2) обеспечения свободного потока информации (в том числе доступа к данным официальных структур других государств в интересах развития ИИ); (3) снижения барьеров для внедрения; (4) соблюдения этики применения; (5) обеспечения конфиденциальности и безопасности; (6) поддержки добровольных отраслевых международных технических стандартов27. Причём два года подряд декларации содержали тезисы (дословно совпадающие между собой) о «неприятии» стран-участниц к раздающимся требованиям о размещении цифровых данных пользователей на территории тех стран, где они проживают, и об открытии исходного кода программ, предназначенных для массового рынка28.

27. Annex 2: G7 Multistakeholder Exchange on Human Centric AI for Our Societies // University of Toronto. 2017. 26 September. URL: >>> (дата обращения: 12.05.2020); Annex B: G7 Innovation Ministers' Statement on Artificial Intelligence // University of Toronto. 2018. 28 March. URL: >>> (дата обращения: 12.05.2020).

28. G7 ICT and Industry Ministers' Declaration: Making the Next Production Revolution Inclusive, Open and Secure // University of Toronto. 2017. 26 September. URL: >>> (дата обращения: 12.05.2020).
36

В заявлении «Группы семи» 2019 г. тема ИИ снова была затронута в том ключе, что страны подтвердили важность и свою приверженность работе в этой сфере29.

29. Biarritz Strategy for an Open, Free and Secure Digital Transformation // Palais de l'Élysée. 2019. URL: >>> (дата обращения: 06.02.2020).
37

США также подписали документ о принципах ОЭСР в отношении развития ИИ (Recommendation of the Council on Artificial Intelligence)30. По словам Крациоса, эти принципы полностью согласуются с интересами и национальной стратегией США31. На конференции ОЭСР 2019 г. он также заявил, что осознавая наличие проблем, которые несут с собой новые технологии, США полагают, что нельзя останавливать прогресс из-за страха перед негативными последствиями и вводить какие-либо ограничения. Это «лишь отдаст наше [американское. – Я.С.] конкурентное преимущество авторитарным правительствам, которые не разделяют наших общих ценностей»32.

30. Recommendation of the Council on Artificial Intelligence // OECD. 2019. 22 May. URL: >>> (дата обращения: 12.05.2020).

31. Summary of the 2019 White House Summit on Artificial Intelligence in Government // The White House. 2019. 9 September. URL: >>> (дата обращения: 06.02.2020).

32. Kratsios M. Artificial Intelligence: Next Steps // Organisation for Economic Co-operation and Development. 2019. 22 May. URL: >>> (дата обращения: 14.05.2020).
38

Особой темой в контексте международно-правового регулирования технологий ИИ является вопрос применения смертоносных автономных систем (САС, Lethal Autonomous Weapons Systems, LAWS). Мнения международного сообщества здесь разделились, и в его решении нет прогресса. Один из наблюдателей даже выразил мнение, что «темпы дипломатии отстают от темпов технического прогресса».

39

Так, ряд государств-участников Конвенции ООН о конкретных видах обычного оружия (Convention on Certain Conventional Weapons, CCW) настаивает на необходимости полного запрета автономных систем вооружений, другие считают достаточным принятие норм регулирования или политических деклараций. Правительство США придерживается мнения, что «существующее международное гуманитарное право является достаточным для регулирования вопросов разработки или применения ИИ». А некоторые специалисты подкрепляют эту позицию мнением, что полный запрет или регулирование создания и применения таких систем будет замедлять «развитие других полезных военных (или коммерческих) технологий». Так, в рамках своего выступления в ООН один эксперт заявил, что попытка предугадать и предотвратить негативное развитие технологий может привести к отказу «от некоторых видов автоматизации, которые могли бы сделать войну более гуманной». По его мнению, в контексте военного применения ИИ, в первую очередь, необходимо понять, какова должна быть роль людей в принятии решений в военное время. При этом работу Группы правительственных экспертов (ГПЭ, Group of Governmental Experts, GGE) по вопросу летальных автономных систем вооружения США оценивают как безрезультатную33.

33. Artificial Intelligence and National Security // Congressional Research Service. 2019. 21 November. URL: >>> (дата обращения: 02.04.2020).
40

На этом фоне 21 мая 2018 г. состоялось первое в истории совместное заседание советов министерств обороны США и Великобритании по инновациям с целью оценки возможных областей сотрудничества. Обе страны проявляют большой интерес к использованию ИИ военными и разведслужбами. И обе входят в разведывательный альянс «Пять глаз», который рассматривается американцами как основной механизм для отработки сотрудничества в области ИИ со своими союзниками34.

34. Flagship AI Lab announced as Defence Secretary hosts first meet between British and American defence innovators // GOV.UK. 2018. 22 May. URL: >>> (дата обращения: 22.05.2018).
41

Можно констатировать, что пока на международном уровне идёт обсуждение возможности регулирования, западные военные не просто ведут практическую работу, но и налаживают сотрудничество в этой сфере.

42

Заключение

 

Американские вооружённые силы являются основным государственным игроком и главным бенефициаром государственного использования ИИ в США.

43 Несмотря на проведение работ в различных областях применения ИИ, основной задачей таких технологий в случае американских военных является создание систем обработки данных для информационно-аналитического обеспечения процесса принятия решений на всех уровнях. От таких систем ожидают того, что они позволят разгрузить личный состав от выполнения рутинных задач и использовать его на тех этапах работы, где уже требуются сильные стороны человеческого мозга, не доступные машинам. Руководство страны ожидает, что качество аналитики должно подняться на принципиально иной уровень относительно того, что могут обеспечить аналитики-люди.
44 Военные, как и другие государственные структуры США, в настоящее время сталкиваются в первую очередь с отсутствием понимания личным составом и руководством сути технологий ИИ, их возможностей и ограничений. Это в свою очередь обусловлено серьёзнейшим кадровым дефицитом, в том числе потому, что ведомства не могут обеспечить специалистам в области ИИ конкурентных условий по материальному вознаграждению за их работу. При этом ИТ-специалисты в случае поступления на службу или устройства на работу в такие ведомства будут вынуждены столкнуться с присущими этим структурам ограничениями.
45 По этим причинам, наибольший интерес в содержании стратегических документов в области ИИ этих ведомств представляет описание проблем, которые видят для себя военные, а не поставленные сверхамбициозные цели. Достижимость последних – в первую очередь речь о создании сильного искусственного интеллекта (то есть способного решать любые интеллектуальные задачи) – в настоящее время находится под большим вопросом. Более того, часть из них добавлена, по-видимому, с целью пиара и облегчения утверждения этих документов первыми лицами ведомств и государства, которые слабо разбираются в теме, но кого не могут оставить равнодушными описываемые потенциальные возможности ИИ. Участие ведущих специалистов ИТ-индустрии в различных консультативных советах не должно вводить в заблуждение относительно реализуемости стратегий в полном объёме, поскольку промышленность и научные круги заинтересованы в получении государственного финансирования. Ведь вне зависимости от достижения поставленных амбициозных целей эти средства будут направлены на исследования, результаты которых – и положительные, и отрицательные – будут в любом случае полезны участникам работ. В случае успеха – результаты можно будет использовать для создания коммерческих продуктов. Но даже в случае провала будет получен ценный опыт, да ещё и оплаченный (полностью или частично) государством. При этом нельзя впадать в другую крайность и списывать указанные стратегии со счетов как нереализуемые. Системная работа уже развёрнута, она имеет безоговорочную поддержку со стороны государства, научных кругов и промышленности, и у неё точно будут значимые результаты.
46

Особо стоит подчеркнуть, что заинтересованность в них со стороны американских военных (а также других силовых структур, в том числе из разведсообщества) сразу кардинально меняет правила игры: исследователи, сотрудничающие с данными ведомствами, уже перестают быть просто абстрактными учёными, продвигающими науку вперёд «ради светлого будущего всего человечества», как это часто подаётся. Учитывая реальные цели и действия силовых структур США, перед такими технологиями будут ставиться конкретные цели, не имеющие со «светлым будущим» ничего общего. Об этом, в частности, говорит намерение Соединённых Штатов повысить активность своей научно-технической разведки (S&TI) достижений противников в области ИИ35 (тут стоит вспомнить требование к российским учёным, ведущим работы по закрытым тематикам, публиковаться в открытых журналах и участвовать в международных конференциях) и одновременно усилить контрразведывательное обеспечение своих исследований в этой сфере (причём, проводимых не только по заказу военных или специальных служб)36.

35. The AIM Initiative. A strategy for augmenting intelligence using machines // Office of the Director of National Intelligence. 2019. 16 January. URL: >>> (дата обращения: 25.01.2020).

36. S.1790 – National Defense Authorization Act for Fiscal Year 2020. SEC. 5713 // Congress.gov. The official website for U.S. Federal Legislative Information. URL: >>> (дата обращения: 25.01.2020); Interim Report // National Security Commission on Artificial Intelligence. 2019. November. URL: >>> (дата обращения: 28.01.2020).
47 Кроме того, поддержка деятельности американского государства со стороны ключевых компаний-лидеров ИТ-индустрии, чьи первые лица сегодня фактически определяют государственную политику США в этой сфере, является очередным, хотя и далеко не первым, свидетельством того, что результаты анализа информации, собираемой поисковыми системами, социальными сетями, смартфонами и т.п., доступны силовым ведомствам США и активно ими используются.
48 Можно также констатировать, что Конгресс при любом президенте и любых отношениях между республиканцами и демократами обеспечит работам в области ИИ полную законодательную поддержку в виде выделения финансирования и принятия необходимых законов, которые придётся выполнять всем тем, кто подпадает под юрисдикцию США, и учитывать тем, кто считает, что не подпадает.

References

1. Maintaining American Leadership in Artificial Intelligence: Executive Order 13859 of February 11, 2019 // Federal Register. URL: https://www.federalregister.gov/documents/2019/02/14/2019-02544/maintaining-american-leadership-in-artificial-intelligence (data obrascheniya: 06.02.2020).

2. Podrobnee sm.: Machine Learning // The Next Wave. Vol. 22. No. 1. 2018. URL: https://www.nsa.gov/Portals/70/documents/resources/everyone/digital-media-center/publications/the-next-wave/TNW-22-1.pdf (data obrascheniya: 12.04.2019); Machine Learning // The Next Wave. Vol. 22. No. 2. 2019. URL: https://www.nsa.gov/Portals/70/documents/resources/everyone/digital-media-center/publications/the-next-wave/TNW_22-2.pdf (data obrascheniya: 12.04.2019).

3. Eric Schmidt // Defense Innovation Board. URL: https://innovation.defense.gov/Media/Biographies/Bio-Display/Article/1377390/eric-schmidt/ (data obrascheniya: 25.01.2020).

4. Eric Schmidt // National Security Commission on Artificial Intelligence. URL: https://www.nscai.gov/about/commissioners/schmidt (data obrascheniya: 28.01.2020).

5. DOD Releases Fiscal Year 2021 Budget Proposal // U.S. Department of Defense. 2020. 10 February. URL: https://www.defense.gov/Newsroom/Releases/Release/Article/2079489/dod-releases-fiscal-year-2021-budget-proposal/ (data obrascheniya: 31.03.2020).

6. President Trump’s FY 2021 Budget Commits to Double Investments in Key Industries of the Future // The White House. Official website. 2020. 11 February. URL: https://www.whitehouse.gov/briefings-statements/president-trumps-fy-2021-budget-commits-double-investments-key-industries-future/ (data obrascheniya: 31.03.2020).

7. NITRD Supplement to the President’s FY2021 Budget // The Networking and Information Technology Research and Development Program. 2020. 14 August. URL: https://www.nitrd.gov/pubs/FY2021-NITRD-Supplement.pdf (data obrascheniya: 24.08.2020).

8. Summary of the 2018 Department of Defense Artificial Intelligence Strategy // U.S. Department of Defense. 2019. 12 February. URL: https://media.defense.gov/2019/Feb/12/2002088963/-1/-1/1/SUMMARY-OF-DOD-AI-STRATEGY.PDF (data obrascheniya: 25.01.2020).

9. Ibid.

10. Ibid.

11. H.R.5515 - John S. McCain National Defense Authorization Act for Fiscal Year 2019. SEC. 234 // The official website for U.S. federal legislative information Congress.gov. URL: https://www.congress.gov/bill/115th-congress/house-bill/5515/text (data obrascheniya: 11.02.2019).

12. Summary of the 2018 Department of Defense Artificial Intelligence Strategy.

13. DOD Adopts Ethical Principles for Artificial Intelligence // U.S. Department of Defense. 2020. 24 February. URL: https://www.defense.gov/Newsroom/Releases/Release/Article/2091996/dod-adopts-ethical-principles-for-artificial-intelligence/ (data obrascheniya: 06.05.2020).

14. DoD Directive 3000.09 // Federation of American Scientists. 2017. 8 May. URL: https://fas.org/irp/doddir/dod/d3000_09.pdf (data obrascheniya: 22.04.2020).

15. Summary of the 2018 Department of Defense Artificial Intelligence Strategy.

16. DOD Adopts Ethical Principles for Artificial Intelligence.

17. Ibid.

18. Summary of the 2018 Department of Defense Artificial Intelligence Strategy.

19. DoD Cloud Strategy // U.S. Department of Defense. 2018. December. URL: https://media.defense.gov/2019/Feb/04/2002085866/-1/-1/1/DOD-CLOUD-STRATEGY.PDF (data obrascheniya: 25.01.2020).

20. Ibid.

21. Ibid.

22. Summary of the 2018 Department of Defense Artificial Intelligence Strategy.

23. Ibid.

24. S.1790 – National Defense Authorization Act for Fiscal Year 2020 // Congress.gov. The official website for U.S. Federal Legislative Information. URL: https://www.congress.gov/bill/116th-congress/senate-bill/1790/text (data obrascheniya: 25.01.2020).

25. Selyanin Ya.V. Gosudarstvennaya politika SShA v oblasti iskusstvennogo intellekta: tseli, zadachi, perspektivy realizatsii // Problemy natsional'noj strategii. 2020. № 4 (61). S. 140–163. URL: https://riss.ru/documents/1591/07.pdf (data obrascheniya: 07.09.2020).

26. Michael Kratsios // The White House. URL: https://www.whitehouse.gov/people/michael-kratsios/ (data obrascheniya: 14.05.2020); Selyanin Ya.V. Gosudarstvennaya politika SShA v oblasti iskusstvennogo intellekta: tseli, zadachi, perspektivy realizatsii.

27. Annex 2: G7 Multistakeholder Exchange on Human Centric AI for Our Societies // University of Toronto. 2017. 26 September. URL: http://www.g8.utoronto.ca/ict/2017-ict-annex2-AI.html (data obrascheniya: 12.05.2020); Annex B: G7 Innovation Ministers' Statement on Artificial Intelligence // University of Toronto. 2018. 28 March. URL: http://www.g8.utoronto.ca/employment/2018-labour-annex-b-en.html (data obrascheniya: 12.05.2020).

28. G7 ICT and Industry Ministers' Declaration: Making the Next Production Revolution Inclusive, Open and Secure // University of Toronto. 2017. 26 September. URL: http://www.g8.utoronto.ca/ict/2017-ict-declaration.html (data obrascheniya: 12.05.2020).

29. Biarritz Strategy for an Open, Free and Secure Digital Transformation // Palais de l'Élysée. 2019. URL: https://www.elysee.fr/admin/upload/default/0001/05/62a9221e66987d4e0d6ffcb058f3d2c649fc6d9d.pdf (data obrascheniya: 06.02.2020).

30. Recommendation of the Council on Artificial Intelligence // OECD. 2019. 22 May. URL: https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449 (data obrascheniya: 12.05.2020).

31. Summary of the 2019 White House Summit on Artificial Intelligence in Government // The White House. 2019. 9 September. URL: https://www.whitehouse.gov/wp-content/uploads/2019/09/Summary-of-White-House-Summit-on-AI-in-Government-September-2019.pdf (data obrascheniya: 06.02.2020).

32. Kratsios M. Artificial Intelligence: Next Steps // Organisation for Economic Co-operation and Development. 2019. 22 May. URL: https://www.oecd-forum.org/users/262053-michael-kratsios/posts/49175-artificial-intelligence-next-steps (data obrascheniya: 14.05.2020).

33. Artificial Intelligence and National Security // Congressional Research Service. 2019. 21 November. URL: https://crsreports.congress.gov/product/pdf/R/R45178 (data obrascheniya: 02.04.2020).

34. Flagship AI Lab announced as Defence Secretary hosts first meet between British and American defence innovators // GOV.UK. 2018. 22 May. URL: https://www.gov.uk/government/news/flagship-ai-lab-announced-as-defence-secretary-hosts-first-meet-between-british-and-american-defence-innovators (data obrascheniya: 22.05.2018).

35. The AIM Initiative. A strategy for augmenting intelligence using machines // Office of the Director of National Intelligence. 2019. 16 January. URL: https://www.dni.gov/files/ODNI/documents/AIM-Strategy.pdf (data obrascheniya: 25.01.2020).

36. S.1790 – National Defense Authorization Act for Fiscal Year 2020. SEC. 5713 // Congress.gov. The official website for U.S. Federal Legislative Information. URL: https://www.congress.gov/bill/116th-congress/senate-bill/1790/text (data obrascheniya: 25.01.2020); Interim Report // National Security Commission on Artificial Intelligence. 2019. November. URL: https://drive.google.com/file/d/153OrxnuGEjsUvlxWsFYauslwNeCEkvUb/view (data obrascheniya: 28.01.2020).