Истинските причини да сте ужасени от AI и оръжията за масово унищожение

Изкуственият интелект вече трансформира войната, независимо дали се води с ракети, дронове или сателити; на суша или море, или във въздуха, космоса или киберпространството. Може би най-ужасяващата перспектива обаче е какво ни очаква, когато изкуственият интелект реално се срещне с оръжията за масово унищожение, особено дяволската тройка ядрени, биологични и химически оръжия.

Въпросът неизбежно поражда плашещи сценарии в един хаотичен свят, който вече е разтърсен от войни в Европа, Близкия изток и другаде; от дезинформация и поляризация в обществата; от нови болести, разпространяващи се от животни към хора и след това сред хората; от терористи и недържавни милиции, присъединяващи се към националните държави като воюващи страни; и от държави, модернизиращи и увеличаващи ядрените си арсенали, тъй като последните договори за контрол на тези оръжия изтичат или губят значение.

„Ние пускаме може би най-мощната технология в историята насред тази бъркотия“, каза ми Даниел Холц.

Той е астрофизик в Чикагския университет, където ръководи Лабораторията за екзистенциален риск. Той също така председателства съвет в Бюлетина на атомните учени, който веднъж годишно настройва метафоричния Часовник на Страшния съд, в който полунощ представлява катастрофа. Този часовник сега е на 85 секунди до полунощ, най-близкото време, откакто е създаден през 1947 г.

И все пак страхът от изкуствен интелект и оръжия за масово унищожение заплашва да се превърне в собствен риск. Когато говоря със законодатели на Капитолийския хълм, например, те са склонни да изразяват безпокойство, което е дифузно и нефокусирано, сякаш ние, Homo sapiens, вече сме загубили контрол и се носим към Армагедон. Заглавията сякаш потвърждават тази дистопична визия - този месец например версия на OpenAI спонтанно и автономно атакува друга система. Ами ако тези неща започнат да синтезират супербактерии?

За разлика от това, когато говоря с Холц и други експерти, които са потопени в тези рискове, заплахата става по-нюансирана. Тя приема различни форми за ядрени, биологични и химически оръжия. И във всички случаи AI ще помогне както на нападателите, така и на защитата. Това, в което всъщност влизаме, е състезание между нашите технологични и психологически демони и ангели - битка, за която едва сме започнали да се подготвяме и която далеч не е загубена.

Ядрени оръжия

От трите основни категории оръжия за масово унищожение, ядрените оръжия представляват най-екзистенциална заплаха - сгрешите веднъж и може би всичко ще свърши. Въпреки че е избледняла в общественото съзнание след Студената война, опасността от неконтролирана ескалация до Армагедон се счита за по-голяма днес, защото ядрената карта е станала по-сложна.

Китай разширява арсенала си, за да се изравни с тези на САЩ и Русия. Северна Корея продължава да добавя към запасите си. Други държави – и не само Иран – също обмислят да преминат към ядрено оръжие. И почти всички от деветте съществуващи ядрени сили внедряват нови бойни глави и начини за използването им и адаптират военните си доктрини за използване на тези оръжия. Дори без изкуствен интелект, повече бомби и повече сценарии за ескалация и грешни изчисления водят до по-голям риск.

Добрата новина, но не много, е, че самият изкуствен интелект няма да ускори разпространението на ядрени оръжия. Това е така, защото

„Знанието не е основната бариера за придобиване на ядрени оръжия“, както ми каза Грегъри Алън.

Той беше стратег по изкуствен интелект в Пентагона, а сега ръководи фирма, която изследва пресечната точка на новите технологии и геополитиката. Вместо това, казва той, „Случва се така, че въпреки че уранът е изключително разпространен, отделянето на уран 235 от уран 238 е огромна мъка.“ Същото важи и за обработката на плутоний или всъщност за който и да е аспект от производството на ядрени оръжия.

Тези физически, индустриални и икономически бариери пред производството на ядрени оръжия са благодат. Изкуственият интелект може да оптимизира центрофугите, за да се въртят по-ефективно, но не може да направи ядрената програма евтина или проста – няма да позволи, да речем, на терористична група да сглоби арсенал в гараж. И ако някой се опита, останалите от нас щяха да го забележат, защото изкуственият интелект помага и на отбраната, като анализира сателитни и други данни, за да види какво правят всички останали.

Рискът от смесването на изкуствен интелект с ядрени оръжия се крие другаде: моделите биха могли да поемат функциите за командване и контрол на ядрените сили, прехвърляйки вземането на решения, които биха могли да обрекат човечеството, от хората към машините.

Днес изкуственият интелект вече може да помогне за пресяване на объркващите данни, които биха нахлули по време, да речем, на едновременна кибер, космическа и наземна атака, за да открие дали предстои и ядрен залп, като в този случай това би задействало предупреждението. Това е добре. Днес един американски президент има около девет минути между потвърждението за предстояща атака и решението да нареди ответен удар. Чрез по-бърз анализ изкуственият интелект би могъл да добави няколко ценни минути към това, което може да ви се стори успокояващо или не.

Недостатъкът, каза ми Холц, е, че тези системи са склонни „да халюцинират в известна част от времето“. Те са най-добри, когато имат много данни за обучение, но никой след атомните бомбардировки над Хирошима и Нагасаки не е бил подложен на ядрена атака. Фалшивите аларми по време на Студената война довеждаха света до ръба на унищожение няколко пъти и всеки път това беше предотвратено от интуицията на отделни хора.

Така че една от целите на всички ядрени сили трябва да бъде да държат хората в течение - терминът на изкуството е да се запази „смислен човешки контрол“. Това е едно от исканията, отправени от група Нобелови лауреати, свикана от Холц и други на територията на ватиканския замък Гандолфо този месец. (Папа Лъв XIV прояви особен интерес към темата.)

Но Холц остава притеснен. „Каква информация се предоставя на този, който взема решения?“, попита ме той риторично. Всичко това ще дойде от изкуствен интелект и тези агенти имат по-малко колебания да съветват за удар, който би могъл да доведе до верижна реакция от верижни реакции.

„В определени контексти, изкуственият интелект е много по-склонен да изстрелва ядрени оръжия“, каза ми Холц. „Те не възприемат ядреното табу, което хората изглежда имат.“

Биологични и химически оръжия

Биологичните и химическите оръжия се различават от ядрените по това, че основната пречка за създаването им е експертизата. Държавите с програми за биологични оръжия са имали стотици учени, работещи в специални лаборатории (за да предотвратят самовзривяване или заразяване с продукцията си). Това е, което изкуственият интелект, на теория, може да промени: Той е супер-учител на знания и лабораторни умения, компресирайки образованието от десетилетия в дни или часове. Този ефект се нарича „повдигане“.

Това обещание от страна на агентите на изкуствения интелект изглежда има пазар: OpenAI забеляза, че стотици потребители по целия свят започнаха да искат от неговия модел, ChatGPT, подробни инструкции за създаване на биологични оръжия и отрови. Това накара OpenAI, Anthropic и други компании за изкуствен интелект да цензурират отговорите им, където е уместно. (Алън ми каза, че находчиви и решителни потребители все още могат да преодолеят ограниченията на моделите.)

Самите лидери на изкуствения интелект със сигурност са достатъчно притеснени, за да отправят свои собствени предупреждения. Дарио Амодей от Anthropic например смята, че „Като се вземат предвид милиони хора и няколко години време, мисля, че има сериозен риск от голяма атака“ и тъй като подобно събитие може да се превърне в пандемия, която да убие милиони, заслужава да се вземе на сериозно.

Но Anthropic е в глобална надпревара с модели в Китай и другаде, някои от които използват отворен код, при който забавянето не се възнаграждава. Като стратегия, разчитането на доброволно и всеобщо глобално ограничаване изглежда неубедително.

Попитах Джиджи Куик Гронвал, експерт в Училището по обществено здраве „Джонс Хопкинс Блумбърг“, дали се тревожи повече за химически или биологични оръжия.

„Загрижеността за развитието на изкуствения интелект с токсини и химически агенти е много по-неотложна, защото е по-проста“, каза ми тя.

За разлика от това, биологичните организми „не се настройват“, каза тя. Дори инженерните патогени действат непредсказуемо, когато срещнат своите жертви, и всъщност сами избират жертвите си. „Що се отнася до биологията, не мисля, че опасенията са толкова големи, колкото се е вдигнала шум около тях.“

Алън, ветеранът от Пентагона, не е съгласен. Една от разликите между химическите и биологичните оръжия е техният метафоричен радиус на взрив (тоест, ако бяха бомби). Нервнопаралитичен агент или друг токсин ще изпрати жертвите на едно място до мъчителна смърт, но след това ще спре. Биологично оръжие, като например нов вирус, е заразно и определя собствения си радиус на взрив, който може да бъде глобален. „Ако кажа, че има 1% вероятност 20% от човечеството да умре през следващите 10 години, тогава си струва да се паникьосваме за това“, напомни ми той.

Добрата новина е отново, че изкуственият интелект помага и на защитата. Агентите, в ръцете на потребители с „бели шапки“, не само могат да генерират ваксини, антидоти и други благословии, но и на теория могат да предскажат кои входни данни или молекулярни последователности е вероятно да измислят злонамерените лица.

Престъпниците и терористите би трябвало вече да се сблъскват с проблеми днес. Голяма част от индустрията работи по еквивалента на поръчки по пощата, а лабораториите би трябвало да проверяват за подозрителни поръчки, като ги сравняват със списъци със забранени или маркирани токсини. Проблемът е, че тези списъци са смешно кратки и остарели – един, използван от правителството на САЩ, съдържа само 63 агента. Трябва да се тревожим за 64-ия.

„Любимата ми защита с изкуствен интелект“, каза ми Алън, е да се помогне на всички тези лаборатории, синтезиращи биомолекули по света, да възприемат самия изкуствен интелект, така че винаги да са с една крачка пред злонамерените клиенти. На теория, световната химическа и биологична индустрия биха могли да бъдат регулирани като финансовия сектор, с международни изисквания за правила „познай клиента си“ и други подобни.

Въпреки това, банките не са спрели прането на пари. „Не е ясно дали ще спечели нападението или защитата“, каза ми Холц. „Нападението може да бъде много по-креативно от защитата. Винаги наваксваш от страна на защитата.“ Това едва ли е успокояващо. Но пък не е капитулация.

Поле за действие

За съжаление, общата картина изглежда още по-зле. Изкуственият интелект има много други ефекти, които все още са едва разбрани. Например, той помага на всеки, който действа недобросъвестно, да разпространява дезинформация, което ускорява конспиративните теории, подкопава доверието и разрушава способността ни да се споразумеем за това кое е истина. Това от своя страна ни прави неспособни да действаме.

И ние можем да действаме. Студената война ни даде плана. Докато светът беше разделен на враждебни блокове, човечеството все пак някак си успя да се споразумее за Конвенция за биологичните оръжия, Договор за неразпространение на ядрени оръжия и други пактове за контрол на въоръженията, които намалиха общия брой ядрени оръжия от пика им от около 64 000 през 80-те години на миналия век до малко над 12 000 днес (макар и да нараства отново).

Това, което научихме тогава, важи още повече днес: Трябва да оставим настрана различията, омразата и суетата си, за да управляваме рисковете, които ни заплашват като вид. И както гласи една руска поговорка, популяризирана от Роналд Рейгън, трябва да се съгласим да се доверяваме, но да проверяваме. Мястото за сътрудничество няма значение, но Организацията на обединените нации изглежда очевидното място, от което да започнем.

Както всяка технология след огъня, изкуственият интелект има едновременен потенциал да направи човешкия живот по-добър или по-лош (и евентуално дори да го унищожи). Зависи само от това как го използваме. Това, което ме тревожи, не е толкова напредъкът, който сега е в ход в областта на изкуствения интелект. Това е регресът на човечеството.

Андреас Клут е колумнист на Bloomberg Opinion, пишещ за американската дипломация, националната сигурност и геополитика. Той е бивш главен редактор на Handelsblatt Global и сътрудник на Economist.

Още по темата

Ново поколение ракети променя бойните полета по света

Китайски тестове на ICBM сa новата тревожна реалност в Тихия океан

Китай демонстрира ядрените си амбиции с разширяване на ракетния си арсенал