Използването на AI от китайската армия предизвиква тревога в Силициевата долина

Използването на изкуствения интелект за водене на война от страна на Китай предизвиква тревога навсякъде - от Силициевата долина до Пентагона.

Бившият главен изпълнителен директор на Google Ерик Шмидт е сред тези, които изразяват загриженост, и в сряда вечерта той даде показания при изслушване в Камарата на представителите като ръководител на инициатива, която е насочена към ускоряване на приемането на изкуствения интелект от американската отбранителна институция.

В нов доклад от този месец се отбелязва, че САЩ трябва да препроектират армията си, за да отговорят на заплахата.

"Китай продължава да натрупва широк набор от усъвършенствани способности, предназначени специално за противодействие на традиционния американски начин на водене на война", се посочва в доклада. В него се описват 30-годишните усилия на Китай да изучава бойните операции на САЩ с намерението да успее да пробие военната им мощ, сега с помощта на изкуствения интелект. В него се твърди, че способността на една армия да използва ИИ по-бързо от своя враг ще бъде от ключово значение за нейната сила.

Йълбър Байрактари, един от авторите на доклада, заяви пред Bloomberg News, че целта му е да покаже на Министерството на отбраната, Конгреса и обществеността спешната необходимост от ускоряване на усилията за разработване на военни сили на САЩ, използващи изкуствен интелект. Въпреки това подобни усилия предизвикват опасения за надпревара във въоръжаването с ИИ, която в крайна сметка може да изостри всеки конфликт между САЩ и Китай.

По време на изслушването в Камарата на представителите Шмид предупреди, че Китай инвестира много повече в ИИ за отбрана, отколкото САЩ, в допълнение към "гражданско-военния синтез", при който китайските търговски дружества работят в тясно сътрудничество с военните. Той заяви, че САЩ са "малко по-напред" с няколко години в ключови области като ИИ и квантовите изчисления, но предупреди, че "има всички основания да се смята, че те имат повече хора, работещи по стратегически ИИ".

Някои американски технологични титани, сред които собственикът на Tesla Inc. Илон Мъск, призоваха за спиране на разработването на изкуствен интелект за военни цели поради нарастващите етични опасения относно опасния му потенциал, въпреки че лидерите на въоръжените сили на САЩ обещаха да не позволяват на автономните оръжия сами да избират човешки цели.

Това е в унисон с нарастващата загриженост за гражданските употреби на изкуствения интелект, включително от страна на някои от ръководителите на технологични компании, разработващи нови продукти, които могат както да дават убедителни отговори на въпроси, така и да разпространяват дезинформация и дълбоко фалшиви изображения.

Въпреки това много служители в Министерството на отбраната и в Конгреса твърдят, че ако САЩ не разработят бързо мощни оръжия с изкуствен интелект, рискуват да загубят потенциален бъдещ конфликт с Китай.

Представителите на американската отбрана наблюдават амбициите на Китай в областта на изкуствения интелект с особена предпазливост от 2017 г. насам, когато Китай разкри плана си да се превърне в световен лидер до 2030 г. През 2019 г. Китай представи нова военна концепция за внедряване на ИИ във всяка част от военните си операции. През 2017 г. Пентагонът започна собствени усилия за разработване и внедряване на ИИ за бойни сценарии.

Американските експерти в областта на отбраната се притесняват от потенциалното пресичане на червени линии - като например атаки с помощта на ИИ срещу сателити в космоса и ядрена архитектура - и че рискът от бърза ескалация остава недостатъчно проучен от САЩ и Китай предвид настоящия климат на враждебност.

Грегъри Алън, който миналата година напусна работата си като директор по стратегията и политиката в Съвместния център за изкуствен интелект на Пентагона, където ролята му включваше усилия за ускоряване на внедряването на ИИ в американската армия, припомни многобройните опити на американски служители в областта на отбраната да проведат това, което той нарича "военни диалози за намаляване на риска от ИИ" с китайските си колеги. По думите му нито един от тези контакти не е бил успешен.

"Китай отхвърли всички увертюри за разговори за военния изкуствен интелект", каза Алън за срива във военната дипломация между двете страни. "Това е наистина трагична ситуация."

Лиу Пенгю, говорител на китайското посолство във Вашингтон, не коментира директно предполагаемия отказ на Китай от двустранни предварителни разговори със САЩ за обсъждане на военния ИИ, но заяви, че Китай "приема много сериозно необходимостта от предотвратяване и управление на рисковете и предизвикателствата, свързани с ИИ, и работи активно за постигане на напредък в международното управление на ИИ".

Той заяви, че през 2021 г. Китай е представил документ на форум на ООН, в който се предлага регулиране на военните приложения на ИИ и насърчаване на тяхното отговорно развитие, и е готов да засили обмена и сътрудничеството "с всички страни" за справяне с рисковете, породени от военните приложения на ИИ.

Опитвайки се да ограничи амбициите на Китай в областта на ИИ, администрацията на Байдън наложи през октомври експортен контрол, целящ да предотврати продажбата на високотехнологични чипове на структури, действащи в Китай, включително на военните. Белият дом работи и по мярка, която изисква преглед на изходящите инвестиции в определени отрасли, особено в нововъзникващи технологии като ИИ и квантовите изчисления. Министерството на отбраната е поискало 1,8 млрд. долара за ИИ в бюджета за 2024 г., което е увеличение в сравнение с минали години.

Катлийн Хикс, заместник-министър на отбраната, заяви, че това финансиране "вероятно ще нарасне с течение на времето, тъй като ние ефективно включваме технологията в начина, по който работим".

"Изкуственият интелект е една от авангардните технологии на нашето време, така че, разбира се, виждаме, че КНР се опитва да го развива и използва", каза тя. Тя добави, че Министерството на отбраната "се грижи Америка да продължи да излиза напред", като внедрява ИИ в много повече аспекти на мисията си, включително осведоменост за бойното пространство, киберпространство, разузнаване, логистика и поддръжка на силите. Тя заяви, че САЩ се ангажират с отговорното му използване.

"Слаби" ангажименти

Подобни амбиции за автономни военни средства и инвестиции в тях тревожат генералния секретар на ООН Антонио Гутериш и групи на гражданското общество като Кампанията за спиране на роботите убийци - влиятелна коалиция от над 180 организации, сред които Amnesty International и Human Rights Watch. Коалицията настоява за нов международен закон за автономността на оръжейните системи и определя досегашните етични ангажименти на САЩ за отговорно военно използване на изкуствен интелект като "слаби".

Не всички са толкова сигурни като Хикс, че САЩ са напред в надпреварата за военния ИИ. Представителят на републиканците от Уисконсин Майк Галахър, който оглавява комисията по въпросите на Китайската комунистическа партия в Камарата на представителите, заяви пред Блумбърг, че САЩ са "рамо до рамо" с Китай по отношение на ИИ, който той определи като критична технология, която може да определи геополитическото господство през този век. Той иска да прекъсне притока на американски капитали към китайските компании за ИИ.

Австралийският институт за стратегическа политика, мозъчен тръст, фокусиран върху националната сигурност, обяви през март, че Китай има преднина в 37 от 44 критични технологии, включително изкуствения интелект. Макар да смята, че САЩ са напред в обработката на езиковите модели, той установи, че Китай е водещ в областта на алгоритмите на ИИ и машинното обучение, включително невронните мрежи.

На фона на силното съперничество някои в Силициевата долина не одобряват езика на "надпреварата във въоръжаването" с ИИ. Сара Шокър, учен, който ръководи изследователския екип за геополитически политики на OpenAI, заяви на среща на високо равнище за съвременните конфликти в университета Вандербилт този месец, че се притеснява, че терминът погрешно смесва икономическата конкуренция с отбраната и международната сигурност и може да предизвика паника и всяване на страх.

Байрактари твърди, че опасенията за военно използване на ИИ са прозорливи. Според него обаче конкуренцията с Китай "няма да изчезне".

"Тя ще бъде трайна, ще бъде изтощителна и вероятно екзистенциална", каза той.

Още по темата

Може ли изкуственият интелект да помогне на хората да се доверяват повече помежду си

Google представи новите възможности на своя изкуствен интелект Bard

Създателите на изкуствен интелект в Китай заобикалят санкциите на САЩ