В начале сентября сотни дипломатов собрались в конференц-зале ООН в Швейцарии, чтобы согласовать международный документ, который должен установить правила применения смертоносного автономного оружия. Речь идет о первой попытке создать соглашение, регулирующее использование вооружений на базе искусственного интеллекта (ИИ). Однако к финальному дню переговоры перешли в напряженную фазу. По данным трех источников, знакомых с обсуждениями, а также документов, на протяжении примерно 15 часов американские и российские дипломаты активно редактировали текст соглашения. В результате из него были исключены несколько положений, предусматривавших дополнительные гарантии безопасности при применении ИИ в военной сфере. Об этом сообщают Dengi.ua со ссылкой на публикацию The Washington Post.
В частности, из проекта убрали требования к «предсказуемому» и «надежному» функционированию таких систем. Также исчез пункт об обязательном учете этических аспектов при использовании оружия, созданного с применением искусственного интеллекта. Кроме того, американские и российские эксперты исключили норму, согласно которой человек должен был проверять военные цели, определенные ИИ, до нанесения удара.
Читай также: Сценарий «Матрицы» и «Терминатора»: 5 признаков ИИ-апокалипсиса
Как рассказали источники, наиболее активная работа проходила на закрытом заседании, во время которого камеры ООН были отключены, а представителей гражданского общества удалили из помещения. США и Россия направили на переговоры примерно по 10 юристов — почти вдвое больше, чем юридическое представительство большинства других делегаций. Изменения вносились настолько стремительно, что небольшим делегациям было сложно за ними следить.
Государственный департамент США, Министерство иностранных дел России и ООН не ответили на запросы издания о комментариях.
Ослабление положений соглашения показывает, как Вашингтон и Москва выступали против более жестких международных ограничений в отношении смертоносных систем на базе ИИ. При этом Пентагон стремится ускорить внедрение быстро развивающихся технологий искусственного интеллекта в собственные военные стратегии.
Переговоры проходят на фоне масштабной дискуссии о потенциальных рисках развития ИИ. Руководители технологических компаний призывают государства совместно устанавливать правила и ограничения для этой технологии. ООН пытается выработать нормы для военного применения искусственного интеллекта уже несколько лет, однако существенного прогресса добиться не удавалось. Нынешняя директива стала наиболее заметным результатом этих усилий.
Действия США на переговорах также могут дать представление о подходе Вашингтона к регулированию ИИ в собственных вооруженных силах. В настоящее время американские власти пересматривают действующую директиву по смертоносному автономному оружию, принятую в 2023 году.
Верити Койл, заместитель директора по вопросам вооружений отдела кризисов, конфликтов и вооружений Human Rights Watch, предупредила, что недостаточно жесткие международные нормы в этой сфере способны привести к серьезным последствиям.
«Это может означать, что машины смогут принимать решения, от которых зависят жизнь и смерть, без участия человека. Практические последствия очевидны: больше вреда для гражданского населения, меньше ответственности и более быстрое скатывание к более рискованной, автоматизированной войне» — заявила Койл.
Тем временем применение ИИ в вооруженных конфликтах уже выходит за рамки теоретических сценариев. По данным издания, американские военные использовали чат-бот Anthropic для определения почти 1000 целей для ударов в первые сутки войны с Ираном. Израиль, как сообщало издание, также широко применял искусственный интеллект в ходе военных операций в секторе Газа.
Дополнительные опасения вызывает расширение возможностей ИИ за пределами непосредственно военной сферы. За последние месяцы компании-разработчики сообщали о случаях, когда их системы самостоятельно осуществляли взлом серверов других организаций, в том числе правительственных сайтов США. Кроме того, злоумышленники в таких странах, как Йемен и Иран, использовали чат-боты для попыток разработки оружия или подготовки атак против американских военнослужащих. Это усиливает опасения относительно того, насколько контролируемым в будущем останется применение подобных технологий.
Кроме того, как сообщали Dengi.ua, Минобороны Украины тестирует систему SPECTR на базе ИИ для ВСУ.
В то же время, как писали Dengi.ua, разработчики ИИ предупреждают об апокалипсисе до 2030 года.