На початку вересня сотні дипломатів зібралися в конференц-залі ООН у Швейцарії, щоб узгодити міжнародний документ, який має встановити правила застосування смертоносної автономної зброї. Йдеться про першу спробу створити угоду, що регулює використання озброєння на базі штучного інтелекту (ШІ). Однак на останній день переговори перейшли у напружену фазу. За даними трьох джерел, обізнаних із ходом обговорень, а також документів, протягом приблизно 15 годин американські та російські дипломати активно редагували текст угоди. У результаті з нього було вилучено кілька положень, що передбачали додаткові гарантії безпеки під час застосування ШІ у військовій сфері. Про це повідомляють Dengi.ua з посиланням на публікацію The Washington Post.
Зокрема, з проєкту вилучили вимоги щодо «передбачуваного» та «надійного» функціонування таких систем. Також зник пункт про обов’язкове врахування етичних аспектів під час використання зброї, створеної із застосуванням штучного інтелекту. Крім того, американські та російські експерти виключили норму, згідно з якою людина мала перевіряти військові цілі, визначені ШІ, перед нанесенням удару.
Як розповіли джерела, найактивніша робота відбувалася на закритому засіданні, під час якого камери ООН були вимкнені, а представників громадянського суспільства вивели з приміщення. США та Росія направили на переговори приблизно по 10 юристів — майже вдвічі більше, ніж юридичне представництво більшості інших делегацій. Зміни вносилися настільки стрімко, що невеликим делегаціям було складно за ними стежити.
Державний департамент США, Міністерство закордонних справ Росії та ООН не відповіли на запити видання щодо коментарів.
Послаблення положень угоди свідчить про те, як Вашингтон і Москва виступали проти більш жорстких міжнародних обмежень щодо смертоносних систем на базі штучного інтелекту. При цьому Пентагон прагне прискорити впровадження технологій штучного інтелекту, що стрімко розвиваються, у власні військові стратегії.
Переговори відбуваються на тлі масштабної дискусії щодо потенційних ризиків розвитку ШІ. Керівники технологічних компаній закликають держави спільно встановлювати правила та обмеження для цієї технології. ООН уже кілька років намагається виробити норми щодо військового застосування штучного інтелекту, однак досягти істотного прогресу не вдавалося. Нинішня директива стала найпомітнішим результатом цих зусиль.
Дії США на переговорах також можуть дати уявлення про підхід Вашингтона до регулювання ШІ у власних збройних силах. Наразі американська влада переглядає чинну директиву щодо смертоносної автономної зброї, ухвалену у 2023 році.
Веріті Койл, заступниця директора з питань озброєнь відділу криз, конфліктів та озброєнь Human Rights Watch, попередила, що недостатньо жорсткі міжнародні норми в цій сфері можуть призвести до серйозних наслідків.
«Це може означати, що машини зможуть ухвалювати рішення, від яких залежать життя і смерть, без участі людини. Практичні наслідки очевидні: більше шкоди для цивільного населення, менше відповідальності та швидше кочення до більш ризикованої, автоматизованої війни», — заявила Койл.
Тим часом застосування ШІ у збройних конфліктах уже виходить за межі теоретичних сценаріїв. За даними видання, американські військові використовували чат-бот Anthropic для визначення майже 1000 цілей для ударів у першу добу війни з Іраном. Ізраїль, як повідомляло видання, також широко застосовував штучний інтелект під час військових операцій у секторі Газа.
Додаткові побоювання викликає розширення можливостей ШІ за межами безпосередньо військової сфери. За останні місяці компанії-розробники повідомляли про випадки, коли їхні системи самостійно здійснювали злом серверів інших організацій, зокрема урядових сайтів США. Крім того, зловмисники в таких країнах, як Ємен та Іран, використовували чат-боти для спроб розробки зброї або підготовки атак проти американських військовослужбовців. Це посилює побоювання щодо того, наскільки контрольованим у майбутньому залишиться застосування подібних технологій.
Крім того, як повідомляли Dengi.ua, Міноборони України тестує систему SPECTR на базі ШІ для ЗСУ.
Водночас, як писали Dengi.ua, розробники ШІ попереджають про апокаліпсис до 2030 року.
