Введение

11 февраля 2019 г. президент Дональд Трамп подписал указ «Поддержание американского лидерства в области искусственного интеллекта» (Executive Order 13859 – Maintaining American Leadership in Artificial Intelligence)¹, и Соединённые Штаты получили, наконец, всеобъемлющую национальную стратегию в этой сфере. Этому предшествовали длительная подготовительная работа и продолжительные исследования, включавшие две «зимы искусственного интеллекта» в 1970-х и 1990-х годах – периоды, когда американское государство, в первую очередь в лице военных, теряло интерес к этой теме из-за краха попыток академических кругов и промышленности создать годный к внедрению и практическому использованию ИИ. Но в 2000-х годах произошёл резкий скачок в развитии технологий и появились коммерческие продукты на основе так называемого узкого ИИ, который доказал свою эффективность при решении конкретных задач (например, распознавание объектов на изображениях, распознавание речи и т.п.). Поэтому вооружённые силы США вновь обратили пристальное внимание на эту тематику.

Одним из индикаторов важности ИИ для силовых ведомств является тот факт, что два года подряд – в 2018 и 2019 гг. – машинное обучение (основной подход к созданию ИИ в настоящее время) было темой выпусков ежегодников «Новая волна» (The New Wave), публикуемых Агентством национальной безопасности США. В каждом номере рассматривается одна наиболее важная с точки зрения Агентства перспективная технология².

Главным лоббистом необходимости создания и использования государством (в первую очередь военными) искусственного интеллекта является глава Совета по инновациям Министерства обороны (Defense Innovation Board, DIB) Эрик Шмидт (Eric Schmidt). В недавнем прошлом он занимал пост главы корпорации «Гугл» (Google), а ныне является техническим консультантом и членом совета директоров материнской для неё компании «Алфабет» (Alphabet)³. С 2017 г. он продвигал идею использования машинного обучения и инструментов на основе ИИ для повышения качества обработки и анализа информации, имеющейся в распоряжении ВС США. Призывая государство активно включиться в работы по этой тематике, он указывал на опасность перехвата лидерства в этой сфере Китаем. В результате в 2019 г. Эрик Шмидт возглавил созданную Конгрессом Комиссию национальной безопасности по искусственному интеллекту (National Security Commission on Artificial Intelligence, NSCAI), чьей задачей является выявление проблем и определение дальнейшего направления государственных работ США в области ИИ⁴. Большое внимание Комиссия уделяет деятельности Министерства обороны и разведсообщества.

Так, в целом объём несекретного запроса МО на работы в области ИИ в 2021 фин. г. составляет 841 млн долл., включая 459 млн долл для Управления перспективных исследований (Defense Advanced Research Projects Agency, DARPA) на НИОКР по ИИ и 290 млн для Объединённого центра искусственного интеллекта МО (Joint Artificial Intelligence Center, JAIC)⁵. Надо отметить, что в 2020 фин. г. запрос на нужды Управления был меньше на 50 млн долл., а на нужды Центра – на 48 млн долл.⁶ Для сравнения: лидер среди гражданских ведомств по финансированию работ в области ИИ – Национальный научный фонд – получил в 2020 фин. г. 518 млн долл., а запрос на 2021 фин. г. для него составляет 831 млн долл.⁷ Даже несмотря на очень существенное увеличение объёмов запроса, это всё равно меньше чем запрос Министерства обороны.

Подходы Пентагона к деятельности в области ИИ

12 февраля 2019 г., на следующий день после подписания Трампом упомянутого выше указа, Министерство обороны опубликовало краткое содержание своей стратегии в этой области (Summary of the 2018 Department of Defense Artificial Intelligence Strategy).

Необходимость её создания военные обосновывают тем, что «другие страны, особенно Китай и Россия, осуществляют значительные вложения в ИИ в интересах военных, включая и такие варианты применения, которые вызывают вопросы, связанные с международными нормами и правами человека. Эти инвестиции угрожают подорвать наше [американское.– Я.С.] превосходство в технологиях и проведении операций, а также дестабилизируют свободный и открытый мировой порядок»⁸.

Министерство обороны заявляет ориентированную на человека (human-centered) модель использования ИИ, декларируя заботу о личном составе и гражданских лицах. Однако за этим фасадом скрываются следующие прозаические цели:

1. Повышение эффективности процесса принятия решений и действий ВС США, что также должно «способствовать соблюдению права вооружённых конфликтов (law of war)» посредством снижения риска жертв среди мирного населения и иного сопутствующего ущерба.
2. Повышение эффективности защиты критической инфраструктуры американской финансовой системы, электросетей, избирательного процесса и медицинских систем от угроз из физического и киберпространства.
3. Автоматизация выполнения трудоёмких задач по обработке данных (data-centric tasks), которые вручную выполняются личным составом с низкой эффективностью.
4. Внедрение ИИ в масштабах всех вооружённых сил для решения широкого спектра задач. Для этого МО намерено повысить эффективность своей организационной структуры, определить стандарты в области ИИ, обеспечить подготовку и наём специалистов, внедрение новых моделей проведения операций и совместимость подходов МО к использованию ИИ с другими ведомствами, союзниками и партнёрами.

1. Развёртывание средств на основе ИИ. Это должно повысить эффективность процесса принятия решений и проводимых операций, посредством (1) улучшения ситуационной осведомленности и качества принятых решений, (2) повышения защищённости вооружений и военной техники (ВВТ), (3) внедрения системы обеспечения технического обслуживания ВВТ и снабжения подразделений на основе прогнозирования их потребностей в этом, (4) оптимизации организации работы ВС. Приоритет предполагается отдавать системам, повышающим эффективность выполнения личным составом трудоёмкой рутинной умственной и физической работы.
2. Децентрализация проведения экспериментальных работ в области ИИ. Авторы стратегии руководствуются предположением, что «наиболее революционные средства на основе ИИ будут возникать в результате проведения экспериментов самими пользователями в условиях, далеких от централизованных офисов и лабораторий»⁹. Поэтому для облегчения такой децентрализации предполагается создать набор «строительных блоков» и платформ в области ИИ, включая создание общей базы данных МО, инструментария, стандартов, облачных сервисов. Одновременно будет проводиться адаптация «существующих процессов к применению ИИ».
3. Превращение МО в ведущего работодателя для специалистов в области ИИ. Министерство намерено проводить соответствующее обучение имеющегося личного состава и привлекать к сотрудничеству ведущих специалистов отрасли.
4. Сотрудничество с коммерческими компаниями, научными кругами, иностранными партнёрами и союзниками. В частности предполагается привлекать ведущих учёных к проведению долгосрочных исследований оборонного характера в области ИИ, обеспечив им необходимое финансирование. Причём отдельно оговорено, что такое сотрудничество предполагается осуществлять без отрыва от преподавательской деятельности, дабы не ослаблять систему подготовки следующих поколений специалистов.
5. Решение этических проблем применения технологий ИИ в военной сфере и вопросов их безопасности. Министерство обороны намерено: (1) сформулировать юридические и этические принципы использования ИИ; (2 финансировать научно-исследовательские и опытно-конструкторские работы (НИОКР) в области надёжного и безопасного ИИ (в том числе «объяснимого», что особенно важно, поскольку сегодня из-за особенностей фундаментальных принципов работы технологии сами разработчики не понимают логику даже хорошо работающего ИИ и не могут объяснить, почему система принимает то или иное решение), включая разработку методов проведения оценочных испытаний таких систем; (3) «искать возможности использования ИИ для уменьшения непреднамеренного вреда и сопутствующего ущерба посредством повышения ситуационной осведомлённости и усиления поддержки принятия решений». А также вести пропаганду своих подходов к использованию ИИ, этических принципов и методов обеспечения безопасности, «содействуя ответственному развитию и использованию ИИ другими странами»¹⁰.

Координацией работ государственных (военных и гражданских) и негосударственных структур в области ИИ в интересах вооружённых сил в рамках реализации стратегии занимается учреждённый в июне 2018 г. Объединенный центр искусственного интеллекта. Его создание было утверждено Конгрессом в рамках оборонного бюджета на 2019 фин. год¹¹.

• обеспечение условий для использования ИИ в МО (реализация более централизованного хранения данных и обеспечение к ним доступа в масштабах всех вооружённых сил, создание необходимых инструменты, стандартов, облачных сервисов и т.п.);
• постоянная техническая и организационная поддержка подразделений ВС по мере разработки и реализации новых проектов в области ИИ;
• синхронизация деятельности разработчиков из разных подразделений вооружённых сил, чтобы «избежать дублирования и чрезмерных затрат»;
• адаптация технологий ИИ сторонних разработчиков под задачи МО;
• сбор и анализ опыта.

Над проектами для решения высокоприоритетных, неотложных задач в интересах всего МО (National Mission Initiatives, NMI) должны работать сводные группы из сотрудников Центра и специалистов других подразделений.

В рамках работ над проектами отдельных видов и родов ВС, узко заточенными под их специфические потребности (Component Mission Initiatives, CMI), действия Центра ограничатся оказанием технической и организационной поддержки.

Центр будет осуществлять надзор за системами с ИИ на протяжении всего их жизненного цикла, контролируя соответствие целей НИОКР интересам ВС. К участию в работах предполагается привлекать потенциальных пользователей таких продуктов – специалистов из подразделений, которым в дальнейшем предстоит эти системы эксплуатировать. Перспективные проекты будут внедряться в масштабах всего МО. В случае возникновения проблем для их решения будут привлекаться технологические компании, консалтинговые фирмы, научные круги, лаборатории Министерства обороны, иные государственные лаборатории, финансируемые государством научно-исследовательские центры (Federally Funded Research and Development Centers, FFRDC) и другие организации¹².

Объединенный центр искусственного интеллекта будет координировать и другое важнейшее направление работы – внедрение принципов этического использования ИИ в вооружённых силах¹³.

До принятия в 2018 г. стратегии МО в области ИИ вопросы этичного, ответственного и безопасного использования автономных и полуавтономных систем вооружений (ещё без упоминания ИИ) регулировались директивой МО № 3000.09 от 2012 г. с изменениями от 2017 г., которая требует, чтобы командиры и операторы могли «контролировать принятие решения о применении силы»¹⁴ такой системой, а методика испытаний гарантировала бы её штатное функционирование в реальных условиях.

С принятием своей стратегии в области ИИ Министерство обороны определило для себя два пути решения проблемы. Первый – проведение специальных НИОКР, включая поиск методов объяснения решений и действий ИИ (обеспечение «объяснимости» ИИ). Второй – убеждение окружающих в том, что все меры предосторожности максимально соблюдены, посредством обсуждения проблемы со всеми заинтересованными сторонами, пропаганды руководящих принципов военного ИИ «среди максимально широкой аудитории», включая личный состав МО, ИТ-компании, научные круги, союзников и партнёров, глобальное ИИ-сообщество¹⁵.

Первый путь долог, сложен и не гарантирует достижения успеха. Второй – пропагандистский – также не гарантирует решения проблемы, но «в умелых руках» позволяет убедить или заглушить голоса сомневающихся специалистов вне зависимости от сложности проблем и опасности их последствий. В рамках второго пути 24 февраля 2020 г. Министерство приняло список «этических принципов для использования ИИ», который был составлен на основе рекомендаций Совета министерства обороны по инновациям. Фундаментом для них стала «существующая система этики американских военных, основанная на Конституции США, разделе 10 Свода законов США «Вооружённые силы», праве вооружённых конфликтов, существующих международных договорах и давних нормах и ценностях»¹⁶. Этические принципы охватывают пять основных сфер:

• Ответственность (responsible). Это значит, что личный состав ВС «будет проявлять надлежащий уровень рассудительности и осторожности, оставаясь при этом ответственным за разработку, развёртывание и использование возможностей ИИ».
• Беспристрастность (equitable). Будут приняты меры для сведения «к минимуму непреднамеренной предвзятости ИИ».
• Прослеживаемость (traceable). Личный состав будет «обладать надлежащим пониманием» особенностей работы, разработки и эксплуатации ИИ, включая «использование прозрачных и проверяемых методов, источников данных, процедур проектирования и документации».
• Надёжность (reliable). Средства ВС, использующие ИИ, будут иметь строгую специализацию. Их безопасность, надёжность и эффективность будут «проверяться и гарантироваться в рамках этой специализации на протяжении всего жизненного цикла».
• Управляемость (governable). МО будет разрабатывать специализированные средства с ИИ, гарантируя, что ведомство обладает всеми возможности по заблаговременному выявлению и предотвращению нештатных действий таких систем, а при необходимости способно экстренно остановить их работу¹⁷.

Как это будет реализовано на практике, покажет время. Однако прежде специалисты (в том числе из ВС США) отмечали, что ошибки ИИ могут привести к жертвам среди мирных жителей и ударам по своим войскам и союзникам. Теперь же, несмотря на мнение специалистов об отсутствии гарантий надёжности и точности работы таких систем, Министерство обороны заявляет о намерении использовать их как раз «для снижения риска жертв среди гражданского населения и другого сопутствующего ущерба и более точного соблюдения права вооружённых конфликтов за счёт повышения ситуационной осведомлённости» и качества принимаемых решений: «МО США продолжит действовать в соответствии с правом вооружённых конфликтов и будет демонстрировать ответственное использование ИИ в соответствии с ценностями нашей нации»¹⁸.

Говоря о стратегии Министерства обороны в области ИИ, нельзя не упомянуть его Облачную стратегию (DoD Cloud Strategy)¹⁹. Облачные технологии – это основа глобальной инфраструктуры ВС для обмена данными, важность которых для ИИ сложно переоценить. Облако необходимо для эффективного функционирования Объединённого центра искусственного интеллекта, а Облачная стратегия фактически является частью подготовки МО к широкому внедрению таких технологий. Военные намерены получить среду, включающую облако общего назначения и несколько специализированных. И хотя потребность в необлачных центрах хранения данных по-прежнему сохранится (поскольку облако не всегда применимо), их долю предполагается снижать. Данная работа имеет два аспекта – создание самой облачной инфраструктуры и работа по переносу в облако существующих приложений или созданию новых, сразу предназначенных для работы в облаке. Одной из проблем здесь является разрозненность и несвязанность ИТ-инфраструктуры (disparate and disjointed infrastructure), на которой должен строиться ИИ²⁰.

Другая проблема – дефицит военных и гражданских квалифицированных специалистов, необходимых для её создания, внедрения и эксплуатации. Поэтому, как и в случае с ИИ, первоначально требуется обеспечить личному составу базовый уровень понимания облачных технологий²¹.

Стоит отметить, что, несмотря на все технические проблемы, главным препятствием для внедрения ИИ и облачных технологий в МО является дефицит специалистов. Он отмечается по отрасли в целом, но в случае государственных структур, и в первую очередь Министерства обороны, является особенно сильным. Причём речь не только технических специалистах, которые должны непосредственно эксплуатировать системы. Возможно, более критичен такой дефицит на уровне командования, которое должно как минимум понимать возможности и ограничения систем, с одной стороны, не ожидая от них «чуда» и не требуя невозможного, с другой – не игнорируя их из-за своего непонимания технологий. Поэтому «задача состоит: (1) в формировании у высшего руководства (senior leaders) понимания возможностей ИИ в контексте обеспечения обороны, принципов организации работ и распределения ресурсов для внедрения таких технологий в практическое использование; (2) в получении руководителями среднего звена (mid-level leaders) знаний, необходимых для руководства проектами, распределения ресурсов и контроля выполнения работ; и (3) в получении техническим персоналом такого понимания технологий ИИ, которое необходимо для их успешного внедрения»²². Формы обучения будут варьироваться от «массовых открытых онлайн-курсов, электронных книг и онлайн-видео» до очных программ «под руководством экспертов по ИИ из промышленности и ведущих университетов США»²³.

В конце 2019 г. Дональд Трамп подписал оборонный бюджет на 2020 фин. г. (National Defense Authorization Act for Fiscal Year 2020, NDAA-2020)²⁴. Значительное внимание в документе уделено вопросам развития технологий ИИ и машинного обучения в США и мире, а также возникающим из-за этого потенциальным угрозам для национальной безопасности.

В целом Министерству обороны предписано обеспечить своевременное формулирование и обновление политики в сфере новых технологий, разработать политику и процедуру переноса данных и приложений вооружённых сил в облачное хранилище данных в соответствии с Облачной стратегией МО. А Комиссия национальной безопасности по искусственному интеллекту должна провести оценку вопросов стандартизации данных и обмена открытыми данными, предназначенными для обучения ИИ, между структурами, ответственными за обеспечение национальной безопасности США.

Продвижение интересов США в области ИИ на международной арене

Несмотря на сомнения относительно готовности технологий ИИ к широкому внедрению из-за нерешённых проблем с безопасностью и конфиденциальностью (privacy)²⁵, США пропагандируют необходимость снижения регуляторных барьеров для использования таких технологий. Если прежде официальные лица говорили о небезопасности ИИ и автономных систем (в том числе вооружённых), то теперь продвигается позиция, что реальных примеров, подтверждающих опасения экспертов пока нет, а значит нет и повода отказываться от преимуществ, которые должно обеспечить внедрение таких технологий. Заместитель помощника президента по технологической политике (Deputy Assistant to the President for Technology Policy) Майкл Крациос (Michael Kratsios) прямо заявил, что США не будут следовать международным ограничениям в области ИИ, «коренящимся в страхе перед наихудшими сценариями развития событий»²⁶.

Для укрепления своей позиции Белый дом ведёт на международном уровне активную работу по продвижению американских интересов в этой сфере, в первую очередь среди своих союзников и партнёров. В частности, Крациос возглавлял делегацию США в ходе министерских встреч «Группы семи» (G7) по вопросам инноваций и технологий (Innovation and Technology Ministerials) в 2017–2018 гг. По итогам встреч был принят ряд деклараций о важности для человечества и экономического роста как самого ИИ, так и повышения доверия таким технологиям. Участники встреч также выразили стремление «совместно, ответственно и этично» развивать эту отрасль.

В целом страны «Группы семи» полностью поддерживают взгляды США на развитие ИИ, включая вопросы: (1) обмена передовым опытом и специалистами; (2) обеспечения свободного потока информации (в том числе доступа к данным официальных структур других государств в интересах развития ИИ); (3) снижения барьеров для внедрения; (4) соблюдения этики применения; (5) обеспечения конфиденциальности и безопасности; (6) поддержки добровольных отраслевых международных технических стандартов²⁷. Причём два года подряд декларации содержали тезисы (дословно совпадающие между собой) о «неприятии» стран-участниц к раздающимся требованиям о размещении цифровых данных пользователей на территории тех стран, где они проживают, и об открытии исходного кода программ, предназначенных для массового рынка²⁸.

В заявлении «Группы семи» 2019 г. тема ИИ снова была затронута в том ключе, что страны подтвердили важность и свою приверженность работе в этой сфере²⁹.

США также подписали документ о принципах ОЭСР в отношении развития ИИ (Recommendation of the Council on Artificial Intelligence)³⁰. По словам Крациоса, эти принципы полностью согласуются с интересами и национальной стратегией США³¹. На конференции ОЭСР 2019 г. он также заявил, что осознавая наличие проблем, которые несут с собой новые технологии, США полагают, что нельзя останавливать прогресс из-за страха перед негативными последствиями и вводить какие-либо ограничения. Это «лишь отдаст наше [американское. – Я.С.] конкурентное преимущество авторитарным правительствам, которые не разделяют наших общих ценностей»³².

Особой темой в контексте международно-правового регулирования технологий ИИ является вопрос применения смертоносных автономных систем (САС, Lethal Autonomous Weapons Systems, LAWS). Мнения международного сообщества здесь разделились, и в его решении нет прогресса. Один из наблюдателей даже выразил мнение, что «темпы дипломатии отстают от темпов технического прогресса».

Так, ряд государств-участников Конвенции ООН о конкретных видах обычного оружия (Convention on Certain Conventional Weapons, CCW) настаивает на необходимости полного запрета автономных систем вооружений, другие считают достаточным принятие норм регулирования или политических деклараций. Правительство США придерживается мнения, что «существующее международное гуманитарное право является достаточным для регулирования вопросов разработки или применения ИИ». А некоторые специалисты подкрепляют эту позицию мнением, что полный запрет или регулирование создания и применения таких систем будет замедлять «развитие других полезных военных (или коммерческих) технологий». Так, в рамках своего выступления в ООН один эксперт заявил, что попытка предугадать и предотвратить негативное развитие технологий может привести к отказу «от некоторых видов автоматизации, которые могли бы сделать войну более гуманной». По его мнению, в контексте военного применения ИИ, в первую очередь, необходимо понять, какова должна быть роль людей в принятии решений в военное время. При этом работу Группы правительственных экспертов (ГПЭ, Group of Governmental Experts, GGE) по вопросу летальных автономных систем вооружения США оценивают как безрезультатную³³.

На этом фоне 21 мая 2018 г. состоялось первое в истории совместное заседание советов министерств обороны США и Великобритании по инновациям с целью оценки возможных областей сотрудничества. Обе страны проявляют большой интерес к использованию ИИ военными и разведслужбами. И обе входят в разведывательный альянс «Пять глаз», который рассматривается американцами как основной механизм для отработки сотрудничества в области ИИ со своими союзниками³⁴.

Можно констатировать, что пока на международном уровне идёт обсуждение возможности регулирования, западные военные не просто ведут практическую работу, но и налаживают сотрудничество в этой сфере.

Заключение

Американские вооружённые силы являются основным государственным игроком и главным бенефициаром государственного использования ИИ в США.

Особо стоит подчеркнуть, что заинтересованность в них со стороны американских военных (а также других силовых структур, в том числе из разведсообщества) сразу кардинально меняет правила игры: исследователи, сотрудничающие с данными ведомствами, уже перестают быть просто абстрактными учёными, продвигающими науку вперёд «ради светлого будущего всего человечества», как это часто подаётся. Учитывая реальные цели и действия силовых структур США, перед такими технологиями будут ставиться конкретные цели, не имеющие со «светлым будущим» ничего общего. Об этом, в частности, говорит намерение Соединённых Штатов повысить активность своей научно-технической разведки (S&TI) достижений противников в области ИИ³⁵ (тут стоит вспомнить требование к российским учёным, ведущим работы по закрытым тематикам, публиковаться в открытых журналах и участвовать в международных конференциях) и одновременно усилить контрразведывательное обеспечение своих исследований в этой сфере (причём, проводимых не только по заказу военных или специальных служб)³⁶.