Как рассказал в интервью израильский историк, философ и футуролог Юваль Ной Харари, искусственный интеллект (ИИ) способен привести к беспрецедентной концентрации власти, которая может оказаться значительно сильнее той, что возникала во время предыдущих технологических революций. Об этом сообщают Dengi.ua со ссылкой на публикацию «Зеркала недели».
По мнению Харари, в XXI веке важнейшим ресурсом становятся данные и инфраструктура, обеспечивающая работу систем ИИ. США и Китай уже ведут конкуренцию за контроль над технологиями, которые в перспективе способны влиять на работу целых государств.
Читай также: ИИ проверит платежи: какие операции теперь попадут под подозрение банка
Историк отметил, что современная власть все теснее связана с возможностью контролировать информацию. По его словам, нынешняя технологическая гонка идет не только между двумя крупнейшими державами, но и при участии нескольких крупных компаний, располагающих огромными массивами мировых данных и создающих все более совершенные модели искусственного интеллекта.
На масштаб влияния технологического бизнеса указывает и опрос YouGov: около 70% американцев считают влияние крупнейших технологических компаний чрезмерным. Респонденты также поддерживают более жесткое антимонопольное регулирование и усиление контроля за сбором персональной информации.
Опыт империй индустриальной эпохи
Харари провел параллель между нынешним развитием ИИ и промышленной революцией XIX века. В тот период технологическое преимущество отдельных государств помогало им формировать империи и устанавливать контроль над огромными территориями. Разрыв в возможностях производства вооружений и других технологий давал наиболее развитым странам серьезное преимущество.
В качестве примера философ привел Бельгию. После индустриализации страна смогла создать крупную колониальную империю в Африке на территории современной Демократической Республики Конго. В ту эпоху промышленное развитие и имперская мощь фактически были тесно связаны между собой.
Однако прежние империи не могли полностью переместить экономические ресурсы в свои центры. В Древнем Риме важнейшим ресурсом оставалась земля: египетские поля с пшеницей или оливковые рощи Иберии нельзя было физически перенести в Италию. Поэтому значительная часть экономического и политического влияния сохранялась непосредственно в провинциях.
Схожие ограничения существовали и в Британской империи. Хотя промышленное производство концентрировалось в Великобритании, природные ресурсы и предприятия в других регионах оставались на своих территориях. Нефтяные месторождения Ирака или каучуковые плантации Малайзии невозможно было перевезти в британскую метрополию.
ИИ способен изменить принцип концентрации власти
По мнению Харари, цифровые технологии принципиально отличаются от материальных ресурсов прошлого. При этом технически можно сосредоточить всю мировую информацию и весь код, управляющий всеми процессами, лишь в одной или двух странах.
Такая возможность, считает историк, создает совершенно новый уровень концентрации власти. Одна система искусственного интеллекта способна одновременно работать в разных странах мира, тогда как ее основная инфраструктура и управление могут находиться в одном технологическом центре.
Риск утраты технологического суверенитета
Отдельно Харари остановился на различиях между ИИ и традиционными видами вооружений. Исторически государство не могло дистанционно вернуть контроль над оружием после его продажи или передачи другой стороне. В качестве примера он привел Римскую империю: после продажи стального меча другому народу римляне уже не могли удаленно вывести его из строя. Аналогичным образом британские власти в XIX веке не имели возможности дистанционно отключить винтовки, которые торговцы поставляли афганским племенам.
С технологиями искусственного интеллекта ситуация может оказаться иной. Если государственные структуры, армии или промышленные предприятия будут использовать ИИ-системы, поставляемые из одного технологического центра, их разработчик потенциально сможет сохранить возможность удаленно ограничить или полностью прекратить работу этих систем.
Ранее администрация президента США Дональда Трампа временно отключала ведущие ИИ-модели, такие как Fable 5 и Mythos 5 компании Anthropic, якобы из-за угрозы национальной безопасности.
Кроме того, как подчеркнул футуролог, оружие на базе ИИ — это не то же самое, что пулеметы, поскольку оно интегрировано в целостную сеть. При этом такая особенность ставит новые вопросы о государственном суверенитете в условиях стремительного развития ИИ.
Харари считает, что в эпоху искусственного интеллекта понятие суверенитета станет гораздо сложнее, чем во времена индустриального развития. При определенной архитектуре системы в технологическом центре может сохраняться механизм принудительного отключения ИИ, который используется за пределами этого центра.
В результате государства могут столкнуться с необходимостью выбирать между технологической зависимостью от крупной «империи» и отказом от участия в глобальной гонке искусственного интеллекта.
При этом Харари не исключает появления альтернативы американским и китайским технологическим системам. По его словам, создать такую альтернативу возможно, однако времени на принятие решения остается немного, а тем, кто хочет это сделать, нужно действовать немедленно.
Как ранее сообщали Dengi.ua, в Китае набирает популярность тренд на аренду лиц для ИИ.
Кроме того, как писали Dengi.ua, по прогнозу Илона Маска, ИИ и гуманоидные роботы смогут производить столько товаров и услуг, что деньги могут больше не потребоваться.