21 октября 2021 министры обороны стран НАТО согласовали первую стратегию НАТО в области искусственного интеллекта (ИИ).
Ниже представлено краткое описание стратегии НАТО в области ИИ
1. Искусственный интеллект (ИИ) меняет глобальную среду обороны и безопасности. Это дает беспрецедентную возможность укрепить наше технологическое превосходство, но также увеличит скорость угроз, с которыми мы сталкиваемся. Эта основополагающая технология, вероятно, повлияет на весь спектр мероприятий, проводимых Североатлантическим Альянсом в поддержку его трех основных задач: коллективной обороны, управления кризисами и совместной безопасности.
2. Чтобы сохранить технологическое превосходство НАТО, мы обязуемся сотрудничать между союзниками по любым вопросам, касающимся искусственного интеллекта для трансатлантической обороны и безопасности. НАТО и союзники могут помочь ускорить эти усилия, опираясь на существующие усилия, предпринимаемые несколькими органами НАТО и союзных государств.
3. Цель этой Стратегии состоит из четырех частей:
- Обеспечить основу для того, чтобы НАТО и союзники подавали пример и поощряли разработку и использование искусственного интеллекта ответственным образом в целях обороны и безопасности союзников;
- Ускорить и включить внедрение ИИ в процесс разработки и предоставления возможностей, повышая совместимость внутри Альянса, в том числе посредством предложений по вариантам использования ИИ, новым структурам и новым программам;
- Защищать и контролировать наши технологии искусственного интеллекта и способность к инновациям, учитывая соображения политики безопасности, такие как внедрение наших Принципов ответственного использования; и
Для выявления и защиты от угроз, связанных со злонамеренным использованием искусственного интеллекта государственными и негосударственными субъектами.
4. В будущем Альянс НАТО стремится интегрировать искусственный интеллект совместимым образом для поддержки своих трех основных задач. Такое использование будет осуществляться признанным и ответственным образом для поддержки миссии и на оперативном уровне в соответствии с международным правом. Признавая ведущую роль гражданского частного сектора и научных кругов в развитии искусственного интеллекта, эта Стратегия будет подкреплена: значительным сотрудничеством между НАТО, частным сектором* и научными кругами; квалифицированным персоналом НАТО, имеющим технические и политические компетенции в области искусственного интеллекта; надежной, актуальной и безопасной инфраструктурой данных; и соответствующими средствами киберзащиты.
5. В рамках создаваемого Катализатора оборонных инноваций для Северной Атлантики – или DIANA (Defence Innovation Accelerator for the North Atlantic) национальные испытательные центры искусственного интеллекта могли бы поддержать пожелания НАТО в области искусственного интеллекта. НАТО и союзники также будут проводить регулярные обсуждения на высоком уровне, привлекая технологические компании на стратегическом и политическом уровнях, чтобы получать информацию и помогать формировать развитие технологий, основанных на ИИ, создавая общее понимание возможностей и рисков, связанных с ИИ.
6. Кроме того, НАТО останется трансатлантическим форумом для ИИ в области обороны и безопасности, используя потенциал искусственного интеллекта и защищая от его (ИИ) злонамеренного использования государственными и негосударственными субъектами.
Принципы ответственного использования
7. В основе этой Стратегии лежат Принципы НАТО ответственного использования искусственного интеллекта в обороне, которые помогут направлять наши трансатлантические усилия в соответствии с нашими ценностями, нормами и международным правом. Принципы ответственного использования НАТО (далее — Принципы) основаны на существующих и широко признанных этических, юридических и политических обязательствах, в соответствии с которыми НАТО исторически действовала и будет продолжать действовать. Эти Принципы не затрагивают и не заменяют существующие обязательства, как национальные, так и международные.
8. Приведенные ниже принципы были разработаны на основе смежных подходов и соответствующей работы на соответствующих международных форумах. Эти принципы применимы ко всем типам приложений искусственного интеллекта. Они направлены на обеспечение согласованности действий как НАТО, так и союзников для обеспечения оперативной совместимости. Принципы будут основополагающими для обсуждения и принятия более подробных передовых практик в области ИИ и должны рассматриваться в качестве основы для союзников, поскольку они используют ИИ в контексте обороны и безопасности, учитывая, что у некоторых союзников уже есть собственные национальные принципы ответственного использования.
Принципы НАТО по ответственному использованию искусственного интеллекта в обороне
9. Союзники и НАТО обязуются гарантировать, что приложения искусственного интеллекта, которые они разрабатывают и рассматривают для развертывания, будут – на различных этапах их функционального цикла – соответствовать следующим шести принципам:
- A. Законность: Приложения ИИ будут разрабатываться и использоваться в соответствии с национальным и международным правом, включая международное гуманитарное право и права человека, в зависимости от обстоятельств.
- B. Ответственность и подотчетность: Приложения ИИ будут разрабатываться и использоваться с надлежащим уровнем осторожности; для обеспечения подотчетности должна применяться четкая ответственность человека.
- C. Объяснимость и отслеживаемость: приложения ИИ будут надлежащим образом понятны и прозрачны, в том числе за счет использования методологий анализа, использованием опредленных источников и соблюдением процедур. Это включает в себя механизмы проверки, оценки и валидации либо на уровне НАТО, либо на национальном уровне.
- D. Надежность: приложения с искусственным интеллектом будут иметь явные, четко определенные варианты использования. Сохранность, защищенность и надежность таких приложений будут подвергаться тестированию и заверению в рамках этих вариантов использования на протяжении всего цикла их использования, в том числе с помощью установленных НАТО и/или национальных процедур сертификации.
- E. Управляемость: приложения ИИ будут разрабатываться и использоваться в соответствии с их предназначенными функциями и будут обеспечивать: надлежащее взаимодействие человека и машины; способность обнаруживать и избегать непреднамеренных последствий; и способность предпринимать шаги, такие как отключение или деактивация систем, когда такие системы демонстрируют неконтролируемое поведение.
- F. Предотвращение последствий: Будут предприняты упреждающие шаги для минимизации любых непреднамеренных искажений при разработке и использовании приложений искусственного интеллекта и в используемых массивах данных.
Обеспечение безопасного и ответственного использования искусственного интеллекта членами НАТО
10. Чтобы обеспечить безопасное и ответственное использование искусственного интеллекта союзников, НАТО введет в действие свои Принципы ответственного использования. Эти принципы будут применяться на протяжении всег цикла использования возможностей искусственного интеллекта. Поэтому союзники и НАТО будут применять эти принципы на всех направлениях развития [ИИ].
11. Для дальнейшего информирования об этой работе Центр(ы) тестирования искусственного интеллекта НАТО разработает лучшие практики для союзников, которые будут включать содействие общей совместимости и усилиям по обеспечению информационной безопасности.
12. Поддерживая безопасное и ответственное использование искусственного интеллекта, НАТО и союзники будут сознательно применять на практике усилия по смягчению возможных последствий. Работа будет направлена и на то, чтобы свести к минимуму эти последствия в отношении индивидуальных черт, таких как пол, этническая принадлежность или личные качества.
13. НАТО проведет соответствующую оценку рисков и/или воздействия до развертывания возможностей искусственного интеллекта.
Сведение к минимуму возможностей вмешательства в приложения искусственного интеллекта союзников
14. Некоторые государственные и негосударственные субъекты, вероятно, будут стремиться использовать дефекты или ограничения в наших технологиях искусственного интеллекта. Союзники и НАТО должны стремиться защитить использование ИИ от такого вмешательства, манипуляций или саботажа в соответствии с Принципами надежности и Ответственного использования, возможно, используя приложения киберзащиты с поддержкой ИИ.
15. Союзники и НАТО должны разработать адекватные требования к сертификации безопасности для ИИ, такие как специальные рамки анализа угроз и индивидуальные аудиты безопасности для целей и программы ‘стресс-тестирования’.
16. ИИ может влиять на критическую инфраструктуру, возможности и ГО, включая те сферы, которые подпадают под семь базовых требований НАТО к устойчивости, создавая потенциальные уязвимости, такие как киберпространство, которые могут быть использованы определенными государственными и негосударственными субъектами.
17. Некоторые государственные и негосударственные субъекты могут также использовать возможности дезинформации в союзных обществах, создавая общественное недоверие к военному использованию ИИ. Союзники будут стремиться предотвращать и противодействовать любым подобным усилиям в контексте Принципов ответственного использования и использовать стратегические коммуникации там, где это уместно. НАТО будет поддерживать союзников по мере необходимости.
Стандарты
18. НАТО продолжит сотрудничать с соответствующими международными органами, устанавливающими стандарты в области искусственного интеллекта, чтобы помочь повысить согласованность военных и гражданских стандартов в отношении общих стандартов ИИ.
*В Стратегии термин ‘частный сектор» включает Крупные технологические компании, стартапы, частных предпринимателей, а также рисковый капитал (такой как венчурные фонды и фонды прямых инвестиций).
Источник:
https://www.nato.int/cps/en/natohq/official_texts_187617.htm?selectedLocale=uk
445
