Везде
Некоторые особенности подходов к пониманию искусственного интеллекта в России и США
Оглавление
Аннотация Оценить Содержание публикации
Библиография Комментарии
Поделиться
QR
Метрика
Некоторые особенности подходов к пониманию искусственного интеллекта в России и США
Аннотация
Код статьи
S207054760029534-4-1
DOI
10.18254/S207054760029534-4
Тип публикации
Статья
Статус публикации
Опубликовано
Авторы
Золотарёв Павел Семёнович 
ORCID: 0000-0003-1493-0455
Должность: Руководитель научного направления
Аффилиация: Институт США и Канады им. Г.А. Арбатова Российской академии наук (ИСКРАН)
Адрес: Российская Федерация, Москва
Выпуск
Выпуск № 6
Аннотация

В статье обращается внимание на то, что уже на начальной стадии появления искусственного интеллекта (ИИ) специалисты поднимают проблему защиты от потенциальных угроз, которые может создать ИИ. США проявляют инициативу на привлечение ведущих разработчиков ИИ к сотрудничеству в интересах превентивного реагирования на потенциальные угрозы. В то же время отсутствует единое понимание не только сути искусственного интеллекта, но и интеллекта. Показано, что существующие определения понятия «интеллект» позволяет утверждать, что он присущ любому живому организму. Показано, что интеллект обязательно включает в себя все составные части процесса управления, включая принятие решения. Но отмечено, что только человек приобрёл способность создавать новые формы и способы обмена информацией, что позволяет считать интеллект качеством, присущим только человеку. На этой основе предложено определение термина «искусственный интеллект». Рассмотрены существующие взгляды на три варианта ИИ в США и их классификацию по уровню автономности, в том числе в военной сфере. Отмечены различия в подходах с российской стороной. Обоснована необходимость первоочередной разработки превентивных мер защиты от потенциальных угроз для систем, которые обладают лишь отдельными свойствами ИИ. 

Ключевые слова
интеллект, искусственный интеллект, автоматические системы управления, ИИ на правилах, ИИ обучаемый, генеративный ИИ, автономные системы, угрозы, нормы поведения
Классификатор
Получено
15.12.2023
Дата публикации
29.12.2023
Всего подписок
7
Всего просмотров
277
Оценка читателей
0.0 (0 голосов)
Цитировать Скачать pdf
Доступ к дополнительным сервисам
Дополнительные сервисы только на эту статью
Преимущества сервисов
100 руб. / 1.0 SU
1

Введение

 

Если судить по публикациям, то искусственный интеллект (ИИ) уже присутствует в каждом доме и устройства с ИИ собирают школьные умельцы в перерывах между занятиями. Но и одновременно, высказываются обоснованные серьёзные опасения о том, что появление ИИ несёт угрозу человечеству не меньшую, а может быть, и большую чем ядерное оружие. Так, например, Генри Киссинджер и Грэм Аллисон призывают к принятию превентивных мер контроля за разработкой и распространением ИИ, беря за основу подходы, которые были выработаны мировым сообществом с появлением ядерного оружия1. Примечательно, что, по мнению авторов, «На данный момент существует всего две сверхдержавы в сфере искусственного интеллекта: США и Китай – единственные страны, обладающие талантами, исследовательскими институтами и массовыми вычислительными мощностями, необходимыми для обучения самых сложных моделей искусственного интеллекта». Отсюда и предложение о совместных договорённостях с Китаем о выработке мер, направленных на предотвращение потенциальных, но мало предсказуемых угроз, исходящих от ИИ.

1. Henry A. Kissinger and Graham Allison ? The Path to AI Arms Control America and China Must Work Together to Avert Catastrophe, October 13, 2023. Available at: >>>   (accessed 01.11.2023).
2

Надо отдать должное попыткам США выработать меры ответственного поведения в сфере ИИ. Авторы статьи обращают внимание на то, что крупные компании в сфере ИИ уже разработали свои рекомендации по оценке рисков развертывания ИИ и уменьшения ошибок. В Белом доме руководители семи крупных компаний в области ИИ дали «совместное обещание разработать руководящие принципы для обеспечения «безопасности, защищённости и доверия»2. Государственный департамент США подготавливает «Политическую декларацию об ответственном военном использовании искусственного интеллекта и автономии»3.

2. Ibidem.

3. U.S. Department of State, “Political Declaration on Responsible Military Use of Artificial Intelligence and Autonomy,” February 16, 2023. Available at: >>> (accessed 01.11.2023).
3 В первой половине декабря 2023 года Европарламент и Совет ЕС предварительно согласовали некоторые основные положения будущего закона об ИИ, который должен определить правила ввода в эксплуатацию ИИ, запреты на применение его в определённых сферах и ряд других положений. При этом уже проявились расхождения в некоторых подходах к ограничительным мерам между американскими и европейскими специалистами. Что вполне естественно, учитывая сложность проблемы.
4 Высокие темпы развития систем искусственного интеллекта привели к ситуации, когда ещё отсутствует общее понимание сути ИИ, а системы появляются. На первый взгляд в этом нет ничего удивительного. Точно так же не успевают за темпами развития правовые нормы поведения в тех или иных сферах. Однако применительно к ИИ отсутствие общего понимания сути может приводить к проявлению угроз ещё до появления систем ИИ.
5

Искусственный интеллект и человек

 

В настоящее время создание тех или иных устройств, в которых осуществляется выполнение некоторых управленческих функций без участия человека, преподносится как устройство с ИИ. Хотя, по сути, эти устройства остаются на уровне давно известных и используемых в различных сферах систем автоматического управления, то есть систем, работающих без участия человека. Несомненно, что современные системы автоматического управления стали обладать гораздо большими возможностями по функциям управления. Существующие информационные средства позволяют собирать и обрабатывать за единицу времени значительно большие, чем раньше, объёмы информации и реализовывать более сложные алгоритмы формирования управленческих решений. Тем не менее, закономерности и особенности их функционирования остаются в рамках теории автоматического управления4.

4. Д.П.Ким. Теория автоматического управления. Учебник и практикум для академического бакалавриата. Москва: Юрайт, 2015, biblio-online.ru Available at: >>> (accessed 01.11.2023).
6 Аналогично не заслужено приписывают ИИ системам, обрабатывающим большие объёмы данных и способным решать задачи распознавания образов (распознавания речи, визуальных объектов и т.д.).
7

Высказывается мнение, что ИИ – «это программно-аппаратный комплекс, который даёт новые свойства уже известным разработкам, позволяя им функционировать автономно, выполняя задачи быстрее и эффективнее человека»5. Близко к нему по сути и другое определение – «под искусственным (машинным) интеллектом понимается совокупность таких характеристик вычислительной машины, как объём хранящейся в ней информации, способность пополнять его посредством обучения, степень «понимания» языков программирования высокого уровня и структурного воплощения методов переработки информации и организации вычислительного процесса в целом»6.

5. А. Леонков. «Искусственный интеллект на службе Пентагона». Звезда, 20.07.2020. Available at: >>> (accessed 01.11.2023).

6. А. Зиберт, И. Веселов. «Применение вооруженными силами США искусственного интеллекта в киберпространстве». Available at: >>> (accessed 01.11.2023).
8

В Российской Федерации в Национальной стратегии развития искусственного интеллекта на период до 2030 года, утвержденной президентом РФ в октябре 2019 года, ИИ рассматривается как «комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека. Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе, в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений»7.

7. Указ президента Российской Федерации «О развитии искусственного интеллекта в Российской Федерации» от 10.10.2019 № 490. Available at: >>> (accessed 01.11.2023).
9 Общим для разных вариантов понятия ИИ является упоминание когнитивных функций человека.
10 Если обратится к понятию интеллекта, то здесь тоже существует множество определений, например:
11

Интеллект – ум, рассудок, мыслительная способность у человека8.

8. Словарь Ушакова. Available at: >>> (accessed 01.11.2023).
12

Интеллект – разум, способность мыслить, совокупность тех умственных функций, которые превращают восприятия в знания или критически пересматривают и анализируют уже имеющиеся знания9.

9. Этимологический словарь русского языка. Available at: >>> (accessed 01.11.2023).
13

Интеллект – большая или меньшая способность решать проблемы, иначе говоря способность понимать новое и сложное10.

10. Начала современного естествознания. Тезаурус. Available at: >>>  (accessed 01.11.2023).
14 Из множества этих и других вариантов понятия интеллекта можно выделить в качестве наиболее часто встречающихся свойств: анализ имеющихся знаний; понимание нового и сложного; решение проблем.
15 Если принять набор этих свойства в качестве признака интеллекта, то возникает вопрос об обоснованности привязки понятия интеллекта только к человеку. Перечисленный набор основных свойств интеллекта фактически представляет собой последовательность действий в процессе управления, которые свойственны не только человеку, но и всем представителям живого мира. Цель управления у них общая – выживание и продолжение жизни в изменяющейся внешней среде существования.
16 В качестве примера рассмотрим, что делает элементарная живая клетка:
17
  • Извлекает из окружающей среды с помощью химических реакций те вещества, которые ей необходимы для подержания жизни и выбрасывает во внешнюю среду те вещества, которые ей не нужны (шлаки).
  • Реагирует на изменения окружающей среды и в случае необходимости корректирует химические реакции, поддерживая получение необходимых для жизни веществ.
  • Запоминает полученные варианты химических реакций, применяемых при изменениях окружающей среды.
  • Создаёт подобную себе живую клетку, передав ей накопленную информацию (программы) о вариантах реакции на изменение окружающей среды.
  • Прекращает своё существование разложившись на отдельные вещества.
18 Первые два действия из перечисленных, назвали функцией обмена веществ или метаболизм. Вторых два действия, связанные с продолжением жизни, реализуются с помощью молекулы ДНК. Причём уровень «упаковки» информации в молекуле ДНК и продолжительность хранения без дополнительных затрат энергии пока остаются вне пределов технологических достижений человека в информационной сфере.
19 Живая клетка способна поддерживать своё существование; воспринимать информацию об изменении окружающей среды; адаптироваться к новым условиям и передавать зарождающейся клетке всю информацию для существования в изменяющейся окружающей среде.
20 Шлаки и продукты разложения умирающей клетки, попадая в окружающую среду, создают возможность для возникновения и развития других видов живых клеток.
21 Появление в окружающей среде других живых клеток как себе подобных, так и иного вида, приводит к развитию у них способности к взаимодействию с другими клетками. Как известно, дальнейшее продолжение процесса саморазвития и самоорганизации клеток в условиях планеты Земля привёл к последовательному появлению многоклеточных организмов, позвоночных и всего наблюдаемого животного мира, включая человека.
22 Однако ключевое отличие человека от других представителей животного мира состоит в приобретённой в ходе развития способности накапливать, обрабатывать и распространять информацию не только теми способами, которые предусмотрела природа.
23 Если не учитывать нарастающую способность человека развивать способы и формы обмена информацией, все живые организмы, начиная от элементарной живой клетки, обладают основными признаками интеллекта – способность анализировать информацию и решать возникающие проблемы. Однако только человек освоил новые, не данные природой, способы представления информации.
24 Примечательно, что развитие Человечества стало приобретать нарастающие высокие темпы именно с началом овладения новыми способами передачи, накопления, распространения и обработки информации. Глобализация и развитие информационных систем находятся в тесной взаимосвязи.
25 Таким образом, несмотря на то что все представители живого мира способны обмениваться и анализировать информацию, саморазвиваться и самоорганизовываться, но именно способность овладевать новыми способами информационного взаимодействия присуща только человеку, что дает основание связывать понятие «интеллект» только с человеком.
26 В связи с изложенным, можно предложить считать, что интеллект – способность человека воспринимать информацию во всех возможных формах её представления и решать возникающие проблемы.
27 В предложенном определении интеллекта не упоминается способность к саморазвитию и самоорганизации, ибо эти свойства даны природой.
28

Соответственно искусственный интеллект – способность создаваемых человеком для решения конкретных задач систем воспринимать информацию; выделять из общего объёма информации ту, которая позволяет найти решение сформулированной человеком задачи; находить это решение и саморазвитие системы на основе получения от человека оценок успешности ранее принятых решений.
29 При создании ИИ человек должен создавать условия для проявления свойств саморазвития и самоорганизации. Более того, от человека зависит эффективность ИИ, который должен быть способен находить решения на основе результатов обучения и накопленного опыта. Накопленный опыт становится таковым только после получения информации о правильности ранее принятого решения, а эту оценку окончательно может давать только тот, кто ставил задачу ИИ. Отсюда следует, что степень вовлечённости человека в процесс управления системы с ИИ и допустимое время эффективной работы системы без участия человека (автономность), взаимосвязаны.
30 Если же относится к пониманию ИИ как к средствам, позволяющим выполнять функции, которыми до сих пор обладал только человек, то получается, что создаваемые системы, которые содержат в себе только отдельные элементы, свойственные искусственному интеллекту, уже относят к искусственному интеллекту. В результате на эти системы могут появится определённые ограничивающие нормы только тогда, когда они появятся для систем ИИ. В то же время применение, в частности в системах военного назначения, систем распознавания образов, например, для обнаружения определённого типа целей, уже требует выработки определённых ограничений и правил применения. Задача распознавания образов вероятностная. Нет никаких гарантий, что устройство распознавания не примет трактор в поле за танк.
31 Кто должен нести ответственность за ошибку в поражении мирного объекта? Разработчик системы, не обеспечивший заданную надёжность идентификации цели, или военнослужащий, применяющий систему?
32 Ответы на подобного рода вопросы должны быть предусмотрены в настоящее время, а не тогда, когда появятся правовые нормы для ИИ.
33

Существующие взгляды на системы искусственного интеллекта в США

 

В Соединённых Штатах используется термин artificial intelligence (AI) адекватный ИИ Он отражает способность преобразовывать данные в решения. При этом выделяется три варианта ИИ:
34
  • ИИ основанный на правилах11;
  • ИИ основанный на обучении;
  • ИИ генеративный.
11. Игорь Фургель. Искусственный интеллект как система. Available at: >>> (accessed 01.11.2023).
35 Первый вариант ИИ, основанный на правилах, в российских подходах соответствует системам автоматического управления или автоматического регулирования и не относится к системам с искусственным интеллектом. По своей сути оба подхода равнозначны и основаны на детерминированности. Каждому возможному набору внешних данных, поступающих в систему, соответствует набор управляющих решений, вырабатываемых строго по заданному алгоритму. Тем не менее различие в терминологическом подходе, как показывают российско-американские научные дискуссии специалистов, приводит к недопониманию. Так, по мнению американских специалистов, некоторые российские системы военного назначения относятся к системам ИИ, и они считают, что их надо включать в вырабатываемые правила создания и использования ИИ. Соответственно, российская сторона считает, что для этого нет оснований, так как в этих системах нет никакого интеллекта.
36 Второй вариант ИИ, основанный на обучении, предусматривает анализ входных данных, получаемых решений и оценки принятых решений. Логика взаимосвязи между вариантами входных данных и правильным решением неизвестна. Цель анализа входных данных состоит в выявлении корреляционных связей и закономерностей между входными данными и верным решением. На этапе обучения вывод о верности решения делает человек. После накопления определённого опыта, когда на выходе вероятность получения верного решения достигает приемлемого для человека уровня, этап начального обучения может быть завершён и начат этап эксплуатации системы. Но на этапе эксплуатации системы продолжается процесс её самообучения. Но для этого система должна получать от человека оценку принимаемых решений. В этом случае точность интерполяции будет непрерывно повышаться.
37

Если вернуться к упомянутые ранее российским понятиям систем автоматического управления (регулирования) и дополнить их функцией самообучения, то они могут быть отнесены к системе ИИ. Но это будет логично только в том случае, если после обучения системы с началом эксплуатации уже не будут присутствовать в каждом цикле управления оценки результатов управленческих решений человеком. Однако не исключено, что по результатам эксплуатации системы может потребоваться дополнительная фаза обучения. Такая необходимость может возникнуть в случае снижения вероятности верного решения становится ниже допустимого уровня.
38 Третий вариант ИИ генеративный основан на использовании нейронных сетей и его качественное отличие состоит в способности после обучения не только интерполировать, но и экстраполировать за пределами данных, на которых он проходил обучение. Экстраполированный результат носит вероятностный характер. Экстраполированный результат может быть в большей степени ошибочным, чем близок к требуемому. Но преимущество генеративного ИИ состоит в способности находить решения. В результате генеративный ИИ может быть использован для поддержки решений, которые должен принимать человек в условиях большого объёма поступающей информации и недостатка времени. В зависимости от обстановки и степени обученности системы человек может либо принять предлагаемое ИИ решение, либо отвергнуть его.
39

Генеративный ИИ находится в ранней стадии развития, но области его применения просматриваются12 в широком диапазоне13, в том числе и в военной сфере.

12. Генеративный искусственный интеллект – главный тренд этого года. Коммерсант. Радио «Ъ FM» , 14.09.2023, 18.45 Available at: >>> (accessed 01.11.2023).

13. Генеративный искусственный интеллект: чем он является, чем нет, и чем он может быть полезен Организации Объединённых Наций. Available at: >>> (accessed 01.11.2023).
40 Применительно к генеративному ИИ расхождений в понимании сущности у российских и американских специалистов не расходится.
41 Рассматривая существующие в Соединённых Штатах подходы к ИИ необходимо выделить классификацию, основанную на оценке автономности системы. Как уже упоминалось, в США даже простейшие системы автоматического управления относят к ИИ. И в этом есть своя логика. Считается, что если эта простейшая система выполняет простейшие функции реагирования без участия человека, то есть абсолютно автономно, то это система с ИИ.
42

В зависимости от степени участия человека в работе системы различают 6 уровней автономии, но это деление на уровни автономности применяется для автономных транспортных средств в коммерческой сфере.
43 В военной сфере выделяют четыре уровня автономности систем ИИ.
44

Присутствие человека в цикле
45

46

В военных системах14 автономность последовательно развивалась от решения задач, связанных с движением, самонаведением на цель и затем с автоматизированным или автоматическим распознаванием цели. Общая тенденция такова, что количество систем с ИИ с высоким уровнем автономности будет увеличиваться15. Цель очевидная – повышать эффективность выполнения боевых задач с одновременным снижением людских потерь со своей стороны.

14. Military Applications of Artificial Intelligence. Ethical Concerns in an Uncertain World. Available at: >>>  (accessed 01.11.2023). 

15. The most useful military applications of ai in 2023 and beyond? Available at: >>>  (accessed 01.11.2023).
47

Заключение

 

Специалисты весьма озабочены потенциальными угрозами от использования ИИ в принципе. Однако использование ИИ в военных целях несет в себе гораздо больше угроз, чем его использование в мирных целях. Это уже отдельная тема, но прежде, чем к ней приступать важно уточнить нюансы понимания терминов в сфере ИИ. Напряжённые отношения с Соединёнными Штатами не бесконечны и вопросы контроля вооружений, включая сферы информационной, кибербезопасности и искусственного интеллекта придётся решать совместно. Приведённые в статье примеры расхождений в подходах российских и американских специалистов показывают, что они не столько противоречивы, сколько дополняют друг друга. Тем не менее представляется целесообразным начинать разрабатывать нормы использования систем, включающих в свой состав лишь отдельные элементы искусственного интеллекта. Особенно это важно для систем с высокой степенью автономности. Ждать норм поведения в целом для систем ИИ рискованно. К этому времени могут уже достичь опасного уровня угрозы от систем, в которых есть только элементы искусственного интеллекта.

Библиография

1. Henry A. Kissinger and Graham Allison? The Path to AI Arms Control America and China Must Work Together to Avert Catastrophe, October 13, 2023. Available at: https://www.foreignaffairs.com/united-states/henry-kissinger-path-artificial-intelligence-arms-control (accessed 01.11.2023).

2. Ibidem.

3. U.S. Department of State, “Political Declaration on Responsible Military Use of Artificial Intelligence and Autonomy,” February 16, 2023. Available at: https://www.state.gov/political-declaration-on-responsible-military-use-of-artificialintelligence-and-autonomy/ (accessed 01.11.2023).

4. Д.П.Ким. Теория автоматического управления. Учебник и практикум для академического бакалавриата. Москва: Юрайт, 2015, biblio-online.ru Available at: https://urss.ru/images/add_ru/202640-1.pdf (accessed 01.11.2023).

5. А. Леонков. «Искусственный интеллект на службе Пентагона». Звезда, 20.07.2020. Available at: https://zvezdaweekly.ru/news/2020761247-iLf27.html (accessed 01.11.2023).

6. А. Зиберт, И. Веселов. «Применение вооруженными силами США искусственного интеллекта в киберпространстве». Available at: https://zvo.ric.mil.ru/upload/site230/oubqEiryg8.pdf (accessed 01.11.2023).

7. Указ президента Российской Федерации «О развитии искусственного интеллекта в Российской Федерации» от 10.10.2019 № 490. Available at: http://static.kremlin.ru/media/events/files/ru/AH4x6HgKWANwVtMOfPDhcbRpvd1HCCsv.pdf (accessed 01.11.2023).

8. Словарь Ушакова. Available at: https://ushakovdictionary.ru/word.php?wordid=2133 (accessed 01.11.2023).

9. Этимологический словарь русского языка. Available at: https://vasmer.slovaronline.com/ (accessed 01.11.2023).

10. Начала современного естествознания. Тезаурус. Available at: http://es.niv.ru/doc/dictionary/beginnings-of-natural-science/fc/slovar-200.htm#zag-554 (accessed 01.11.2023).

11. Игорь Фургель. Искусственный интеллект как система. Available at: https://d-nb.info/1276877293/34 (accessed 01.11.2023).

12. Генеративный искусственный интеллект – главный тренд этого года. Коммерсант. Радио «Ъ FM», 14.09.2023, 18.45 Available at: https://www.kommersant.ru/doc/6212428 (accessed 01.11.2023).

13. Генеративный искусственный интеллект: чем он является, чем нет, и чем он может быть полезен Организации Объединённых Наций. Available at: https://www.un.org/ru/208165 (accessed 01.11.2023).

14. Military Applications of Artificial Intelligence. Ethical Concerns in an Uncertain World. Available at: https://www.rand.org/pubs/research_reports/RR3139-1.html (accessed 01.11.2023).

15. The most useful military applications of ai in 2023 and beyond? Available at: https://sdi.ai/blog/the-most-useful-military-applications-of-ai/ (accessed 01.11.2023).

Комментарии

Сообщения не найдены

Написать отзыв
Перевести