Кой се страхува от големия лош AI

„Искам да кажа, че понякога получавате подобни усещания, за късна цивилизация“, каза Илон Мъск, главен изпълнителен директор на Tesla, на скорошно събитие за Cybertruck, неговото произведение на абсурдното автомобилно изкуство. „Апокалипсисът може да дойде всеки момент. И тук, в Tesla, имаме най-добрата технология за апокалипсиса."

В момента много се говори за края на дните. Още преди пандемията Covid-19 имаше истории за милиардери от Силициевата долина, които се подготвят за Армагедон като купуват бункери в Нова Зеландия. Но миналата година чувахме и четяхме все повече и повече от това, особено свързано с изкуствения интелект (AI).

Намирам го повече за очарователно, отколкото за тревожно, защото виждам есхатологичните мании като социални явления, а не като рационален анализ на това накъде сме се запътили. Все пак подобно мислене може да бъде опасно, когато се използва от политически опортюнисти. Най-малкото, това е разточително отвличане на вниманието от решимите проблеми точно пред нас. Истинският въпрос, който трябва да ни интересува, е защо катаклизмичните пророци понякога привличат много последователи. Разбирането на това може да ни помогне да избегнем пътищата, по които те могат да ни отведат.

Голямата тема на Страшния съд тази година беше екзистенциалният риск от бързо развиващата се AI технология. През 2023 г. изглежда всички експериментираха с ChatGPT и други сложни големи езикови модели, подхранвайки безпокойството не само за това как тези инструменти могат да унищожат работни места, но и за това как AI се приближава към самоосъзнаване и може някой ден да убие всички ни.

Много от рисковите капиталисти и инженерите зад тази технология са привърженици на движението за ефективен алтруизъм и припокриващи се философии, загрижени за бъдещето на човечеството. Не всички включват апокалипсис, но много го правят: един известен ефективен алтруист, основателят на FTX Сам Банкман-Фрийд, кроеше план да купи микронезийския остров Науру, където щеше да построи бункер, достатъчно голям, за да гарантира оцеляването на повечето от групата му. Това беше преди колапса на компанията за търговия с криптовалута и присъдата му за измама.

Дебатът относно безопасността на изкуствения интелект стоеше зад хаотичното отстраняване и възстановяване на Сам Алтман като главен изпълнителен директор на OpenAI, компанията зад ChatGPT, през ноември. Копайте по-дълбоко и ще влезете в невероятна заешка дупка от разцепления и съперничества, които в случая на OpenAI се свеждат до различия между две групи, „акселерационистите“ и „лонгтермистите“, според Емил П. Торес, бивш член на EA и хроникьор на фракциите.

Акселерационистите не вярват на екзистенциалната заплаха. Марк Андреесен, съосновател на фирмата за рисков капитал Andreesen Horowitz и самопровъзгласил се акселерационист, публикува дълъг техно-оптимистичен манифест през октомври, в който казва, че не вярва в утопия или апокалипсис. Вместо това акселерационистите виждат технологията като спасител на човечеството, а Андреесен очаква нашите потомци да живеят сред звездите.

Лонгтермистите са много по-притеснени, че AI може да се обърне срещу нас. Като водени от математиката ефективни алтруисти, чиято основна грижа е да повлияят положително на възможно най-много животи, те мразят идеята за унищожението на човечеството поради огромната стойност, която би била загубена, ако трилиони бъдещи потенциални животи останат неизживени. (Един много странен елемент от тяхното мислене обаче е, че такива бъдещи животи биха били ценни, дори ако са само цифрови аватари, произведени от AI.)

И не само технолозите са заразени с идеи за апокалипсис; през последните години имахме изобилие от политическа реторика, използваща езика на Армагедон. Речите на Доналд Тръмп са натруфени с образи на мрачни, подли лица и идеята, че той може да спаси добри хора от бедствие и да ги поведе към нова Велика Америка - след като изпълни справедливо отмъщение. В реч по случай Деня на ветераните тази година той каза: „Ние ви обещаваме, че ще изкореним комунистите, марксистите, фашистите и радикалните леви бандити, които живеят като паразити в границите на нашата страна.“

Такива видения имат квазитеологично качество и не са нови. Наистина, те са с нас от стотици, дори хиляди години.

Фундаменталната работа на историка Норман Кон от 1957 г. за апокалиптичните религиозни култове и революционери, The Pursuit of the Millennium, проследява произхода на подобни идеи до библейските книги на Даниил и Откровението и каталогизира експлозията им в Средновековна Европа. На страниците му виждате банди разбойници, водени от месиански отшелници, да се развиват в социални революционери. Тенденцията достигна своя връх с анабаптистите от Мюнстер, Германия, водени от Джон от Лайден през 1530 г., които вярваха, че църквата е зла и се стремяха да създадат свой собствен ритуал на кръщението, да премахнат частната собственост, да убият всеки, който откаже да смени вярата си – и да чакат да бъдат спасени в апокалипсиса.

Кон обхваща удивителен набор от групи, много от които са били наистина извън нормата (Една група, Адепти на свободния дух, се появява около средата на 13 век и продължава да се появява в различни форми повече от сто години. Те вярват, че въплъщават Бог, че наистина са Бог и следователно не са способни на грях. Това означава, че могат да вършат всичко - и някои от тях го правят в изключителна степен, без значение степента на разпуснатост, кражби или убийства). Разбира се, лудите идеи идват и си отиват през цялото време. Въпросът е защо някои излизат от периферията и привличат по-големи последователи и Кон прави отличен анализ на това.

Революционните движения сред бедните се появяват с нарастваща честота от края на 11-ти век нататък - период на катаклизъм, който е свидетел на разрушаването на феодалното селячество и ранната индустриализация на производството на плат и мед. Градовете се разширяват и привличат селски хора, които се превръщат в нискоквалифицирани градски работници, подложени на икономически цикли и откъснати от историческата си подкрепа на семействата и наемателските общности. Има нарастване на населението и повече търговия на дълги разстояния. Има дезориентация и нищета сред бедните.

Възникват всякакви протести и бунтове от страна на селяни и занаятчии, много от които с конкретни цели да подобрят живота на хората. Но има и радикални групи, които искат да свалят съществуващия ред, особено установената църква. Избиването на духовници е доста често срещана практика. Една крайна доктрина е възстановяването на Едем, егалитарно състояние на природата. Това е носталгия по едно митично минало - бихте могли да го наречете много ранен предшественик на визиите за Великобритания извън Европа или отново велика Америка.

Не мога да не видя паралели с елементи от нашето време. Уреденият живот на следвоенната индустриална ера на 20-ти век отстъпи място чрез глобализацията и технологичния напредък на днешната цифрова ера. Много хора са убедени, че някогашната надеждна заетост и социални помощи – осигурени от държавата или корпоративни помощи, например – са рухнали в несигурност. Мнозина също се борят с непознатата културна промяна. Има много „лоши усещания“.

Кон също описва голяма информационна експлозия, която подкопава авторитета на църквата, най-голямата и най-важната институция на Средновековието в цяла Европа. Библията и религиозните трактати се превеждат на разговорни езици, давайки на обикновените хора пряк достъп до тълкуване на истините, които ръководят живота им. Скитащи проповедници и търговци помагат за предаването на тази информация и в крайна сметка изобретяването на печатарството довежда до нейния взрив.

Подобно на много нови технологии, това поставя началото на голям напредък, като същевременно разпространява всякакъв вид безумни теории, измами, измами и тъмна духовна пропаганда. Връзката със съвремието ни е доста явна.

В The Revolt of the Public, публикувана за първи път през 2014 г., но актуализирана и преиздадена четири години по-късно и прясно актуална днес, бившият анализатор на ЦРУ Мартин Гури описва как Facebook, Twitter и други платформи промениха политиката по начини, които подпомогнаха възхода на съвременните популисти. Цифровата технология демократизира информацията и помогна на протестиращите да се обединят и дори да свалят правителства в Египет, например, но също така бързо подкопа авторитета на институциите на индустриалната епоха. Интернет и социалните медии дадоха възможност на всеки да провери фактите, да критикува и оспорва наративите на правителствата и основните медии в реално време. Освен това позволи да се видят, чуят и разпространят странни нови философии, съмнителни харизматици и екстремни политически или културни движения.

Притиснати от икономическа несигурност и претоварване с информация, не е трудно да разберем защо някои се обръщат към опростени истории за света, неговия морал или механизми, които предлагат да обяснят съдбата им в живота. Или защо някои може да са уязвими към магически обещания за спасение чрез победата над други групи и въображаеми сили на злото. Или как някои могат да бъдат съблазнени от видения за предстояща гибел.

Това са опасни трески на ума, които небрежните или безчувствени опортюнисти могат да развихрят в самовъзвеличаващи се култове или екстремистка лява или дясна политика. Такова мислене също ни кара да губим време и ресурси за измислени опасения. Най-големият проблем, който имам с ефективния алтруизъм или с фиксирането върху екзистенциалната заплаха от AI, подобен на Skynet, е, че те се превръщат в извинения да не се заемем с трудностите, които са точно пред нас: дезинформация, пристрастия и опасения за поверителността; разширяване на потреблението на енергия и производството на CO2; изоставени общности без инфраструктура и работни места.

През 2024 г. трябва да се насърчаваме взаимно да се съсредоточим върху тези непосредствени и разрешими проблеми. Няма време за губене, поддавайки се на мании.

Апокалипсис сега? Само ако го направим самите ние.

Пол Дж. Дейвис е колумнист в Bloomberg Opinion, отразяващ банкирането и финансите. Преди това е бил репортер за Wall Street Journal и Financial Times.

Още по темата

AI предлага на банките нови начини да повтарят стари грешки

Искате ли Марк Зукърбърг да наднича в гардероба ви

AI и Ozempic бяха най-успешните теми на европейския фондов пазар за 2023, за сметка на луксозния сектор

Възходът на изкуствения интелект означава, че промените ще се случват още по-бързо