Паниката около AI черпи вдъхновение от средновековния миленаризъм

Масовите медии най-накрая настигнаха „Стражева кула“ – емблематичното издание на Свидетелите на Йехова – и насочиха вниманието към края на света. Джейкъб Коксън напусна работата си в гиганта в сферата на изкуствения интелект Anthropic, воден от отчаяние, и написа в Twitter, че хората в бранша вярват, че съществува над 10% вероятност технологията да унищожи човечеството през следващото десетилетие; Евън Хюбингър, настоящ ръководител в Anthropic, потвърди в Twitter, че „Джейкъб е прав“; и ето че статии и редакционни коментари за края на света заваляха като манна небесна.

Не съм компетентен да преценя дали цифрата от 10% има смисъл. Някои учени в областта на AI смятат, че това са истерични глупости, докато други са на мнение, че дори и оценката да е завишена, все пак съществува вероятност за Армагедон. На мен, като обикновен пишещ човек, ми се струва, че дори и да има само 1% шанс за пълно унищожение на човечеството, трябва да дръпнем спирачката. Уверенията на Доналд Тръмп, че „единственият контрол или „предпазни механизми“, от които AI се нуждае, е СИЛЕН И УМЕН (с висок коефициент на интелигентност!) ПРЕЗИДЕНТ“, не са достатъчно успокояващи.

Въпросът дали светът е пред своя край е само един от двата проблема, свързани с Армагедон, пред които сме изправени. Другият е това, което би могло да се нарече „мислене в духа на Армагедон“. Под „мислене в духа на Армагедон“ имам предвид нещо повече от прекомерно съсредоточаване върху края на света. (Ако наистина вярвате, че краят на света наближава, кой може да каже каква степен на съсредоточаване е прекомерна?) Имам предвид начин на мислене, който вижда космическа катастрофа, дебнеща зад всеки проблем, и който почти изпитва наслада от перспективата за окончателен съд.

Трансцендентално значение на социалните конфликти

Най-добрият начин да разберем това апокалиптично мислене е да прочетем класическия труд на Норман Кон за средновековния религиозен плам – „Стремежът към хилядолетието“ (The Pursuit of the Millennium, 1957 г.). Кон показва, че през цялото Средновековие европейските общества многократно са били обземани от хилиастичен екстаз – състояние, подхранвано отчасти от християнски текстове (и по-специално от нигата „Откровение“), а отчасти от социално недоволство и отчуждение, и водено от поредица странни пророци.

Тези пророци не представяха края на света като окончателен завършек. По-скоро го описваха като момент на велика разплата – свят, разтърсван от последната битка между доброто и злото, с Бог и ангелите Му от едната страна и Антихриста и други рогати зверове от другата; човечеството щеше да се раздели на спасени и прокълнати, като спасените щяха да живеят във вечно блаженство, освободени от проклятията на труда, болестите и смъртта, а прокълнатите щяха да се гърчат в адския огън. След като разпалваха въображението на последователите си със свещени видения, тези пророци редовно ги водеха към катастрофа – било то под формата на насилствени сблъсъци с властите, или чрез краткотрайни комуни, завършващи с крах.

Кон твърди, че големите тоталитарни движения на XX век – нацизмът и комунизмът – имат много общо със средновековния миленаризъм. И нацистите, и комунистите мислеха в категориите на екзистенциална борба между доброто и злото. И едните, и другите се доверяваха на пророци, способни да разчетат скрития смисъл на историята и да поведат последователите си към „обетованата земя“ – Хилядолетния райх според Хитлер или безкласовото общество според Ленин. 

„Онова, което отличава толкова категорично тези съвременни движения от обичайните политически партии в Европа – отбелязва Кон, – е именно начинът, по който те придават трансцендентално значение на социалните конфликти и стремежи; всъщност те ги обгръщат с цялата тайнственост и величие на финалната, есхатологична драма.“

Трудно е да се прочете това изречение, без човек да изтръпне. Защото двата най-големи световни центъра на икономическа и политическа власт – Силициевата долина и Вашингтон – са пълни с хора, които придават „трансцендентално значение на социалните конфликти и стремежи“. 

Новите пророци

Миленаристите, за които пише Кон, почти винаги са произлизали от маргинализираните слоеве на обществото – бедните, обезправените или хората с оскъдно образование, скитниците по периферията на средновековния свят. Това важи в същата степен и за XVIII и XIX век, когато сред видните миленаристи се откроява Джоана Сауткот – възрастна неомъжена жена от провинцията, която през 1814 г. обявява, че е Жената от Апокалипсиса, бременна със Спасител, който ще постави началото на края на света, и успява да привлече 100 000 последователи. Но мнозина от днешните велики пророци на новото хилядолетие в Силициевата долина или Вашингтон са сред най-богатите и най-образованите хора на планетата.

Още по темата

Есето на Дарио Амодей за AI е опасно противоречиво

Китай отхвърли предупрежденията за AI и обвини САЩ в насаждане на страх

Шефът на Anthropic: Време е AI индустрията да забави темпото

Водещият „търговец на Армагедон“ е Питър Тийл – възпитаник на Станфордския университет, шахматен вундеркинд и рисков инвеститор със състояние от около 35 милиарда долара. Той съвсем не прилича на Джоана Сауткот. Тийл е започнал да изнася лекции при закрити врати (чието съдържание обаче често изтича в публичното пространство) на тема Антихриста. 

В това има елемент на провокация – той дори намеква, че Грета Тунберг е Антихристът, – но същевременно има и сериозен смисъл. Тийл изглежда вярва, че светът в момента се намира в състояние на безпрецедентен смут заради технологичната революция. Прогресивистите като Тунберг са решени да запазят старата властова структура, като експлоатират страховете на хората от бъдещето („говорейки непрестанно за Армагедон и за слухове за войни“); задачата на технологичните революционери пък е да вървят напред, пренебрегвайки опасенията, и да въведат нова ера на изобилие. 

Тийл разполага и с добре подготвен комплекс в Нова Зеландия – за случай че тази стратегия на пренебрегване на рисковете се провали.

Този навик да се дели светът на спасени и прокълнати пронизва всичко, което Тийл прави. Той инвестира сериозни средства в изграждането на защити срещу външни заплахи (чрез компанията Palantir Technologies); в осигуряването на пътища за бягство от западащите обществени услуги за избрани малцина (включително чрез финансиране на студенти, които да напуснат университета); както и в удължаването на човешкия живот – в идеалния случай чрез премахване на смъртта. Всичко това напомня за света, описан от Кон, в който Бог и Дяволът водят своята последна битка, а светците изплуват от хаоса, за да заживеят живот на вечно плодородие.

Израснал в консервативно лутеранско семейство, Тийл говори необичайно открито за Армагедон. Но той съвсем не е единственият, който мисли по този начин. Изненадващо голям брой жители на Силициевата долина споделят склонността му да разглежда технологиите – и по-специално изкуствения интелект – в месиански план. Техният свят е разделен, ако не на светци и грешници, то на хора с висок коефициент на интелигентност, които разбират силата на технологиите, и на обикновени хора, които не я разбират. А и Тийл не е най-крайният сред тези пророци.

Улисани в идеята

В Долината може да се открие почти всяка безумна идея от историята на миленаризма: че настъпва нова ера на изобилие, която ще сложи край на нуждата от труд; че можем да живеем вечно, като прехвърлим съзнанието си в машини; че създаваме Бог под формата на свръхинтелект; че можем да придобием свръхчовешки способности, като усъвършенстваме телата си с машини; и – в по-мрачен план – че единственият ни шанс да избегнем предстоящия Потоп е да построим съвременни „Ноеви ковчези“ под формата на космически кораби. Настояването на Илон Мъск, че трябва да се превърнем в междупланетен вид, напомня за смесица между „Стар Трек“ и „Откровението на Йоан“.

Подобни аргументи могат да се чуят и във Вашингтон – понякога облечени в научен език (Тийл има повече от 16 съмишленици в администрацията на Тръмп), а понякога изразени чрез оригиналната си религиозна терминология. 

Пола Уайт-Кейн, която оглавява Службата по въпросите на вярата към Белия дом и е най-близкият духовен съветник на Тръмп, членува в движението „Мандатът на седемте планини“ (Seven Mountain Mandate) – миленаристка секта, базирана в Калифорния. Пийт Хегсет, министърът на отбраната, има татуировка на бицепса с надпис „Deus vult“ („Бог го иска“) и друга на гърдите, изобразяваща Йерусалимски кръст. Джей Ди Ванс – натрупал състояние в Силициевата долина под ръководството на Тийл и наскоро приел католицизма – заема междинна позиция между религиозното и научното крило на миленаристката армия на Тръмп.

Излишъкът от миленаризъм едва ли помага за решаването на ежедневните проблеми. 

Как биха могли политиците да се съсредоточат върху закърпването на дупките по пътищата, докато треперят при мисълта за края на света? И как да сключват сделки с отсрещната страна, щом вярват, че тя носи белега на Звяра?

Съществуват обаче и множество извънредни проблеми, които пристрастието към апокалиптичния начин на мислене би могло да направи фатални: противопоставянето между Иран и Израел в регион, превърнал се в средище на миленаризма; все по-отчаяните опити на Владимир Путин да задържи властта, представяни като цивилизационен сблъсък; както и главоломният възход на изкуствения интелект. 

Най-лошото, което обсебените от идеята за хилядолетното царство последователи, описани от Кон, са могли да сторят, е било да изпратят на кладата няколко хиляди души. Днешните проповедници на Апокалипсиса могат да предизвикат именно онова, за което непрестанно говорят.

Ейдриън Улдридж е глобален бизнес колумнист в Bloomberg Opinion. Бивш автор на Economist, той е автор на книгата "Аристокрацията на таланта: как меритокрацията създаде съвременния свят".

Още по темата

Най-голямата заплаха от AI е биологична, а не роботизирана

За Китай AI aрмагедон изглежда по различен начин

Между автоматизацията и контрола - къде е мястото на човека в ерата на AI

Обретен Обретенов: Трябва да регулираме науката зад AI, а не да го блокираме