Когато папата казва, че изкуственият интелект не е безпогрешен

Като индикатор за доверие, гледната точка на папа Лъв XIV е твърде мащабна, за да бъде игнорирана

5 June 2026 | 09:00

Автор: Джон Одърс
Редактор: Даниел Николов

Снимка: Bloomberg

Много хора, дори някои католици, намират доктрината за папската безпогрешност за трудна за преглъщане. Но папските енциклики – богословските есета, които папите издават, за да насочват епископите „в отношенията им със своите паства“ – са почти безпогрешни показатели за социално и икономическо доверие. Те не трябва да бъдат игнорирани.

Самият факт, че папа Лъв XIV избра да публикува есе от 40 000 думи миналата седмица, в което твърди, че изкуственият интелект трябва „да служи на човечеството, а не да концентрира власт“, показва, че въпросът е станал важен в обществото и сигнализира за приближаващ повратен момент.

Римокатолическата църква не е известна със своята адаптивност, но когато се опитва да се реформира, усетът ѝ за момента е впечатляващ. Вторият ватикански събор е славен пример. Свикан от папа Йоан XXIII през 1959 г., време на стабилен просперитет, той бележи началото на период на конвулсивна промяна. Първата му сесия, започнала през октомври 1962 г., се припокрива с Кубинската ракетна криза. Втората, на фона на Бийтълманията, е прекъсната от убийството на Кенеди. Към края ѝ през 1965 г., при Павел VI, революционните 60-те години на миналия век вече са в разгара си. Някак си Йоан бе забелязал наближаващия повратен момент.

Църквата се опитва да следва напътствията на Светия Дух. Изборът ѝ на момент може да се определя от приоритетите на всезнаещ Бог. Но не е необходимо да се призовава свръхестественото. Въпреки всичките си недостатъци, църквата е запазила мащаба и ролята си, като действа като уникално мощен измерител на общественото мнение. Свещениците действат като агенти сред населението, придобиват задълбочено разбиране за своите енориаши и общности и влагат своите възгледи в йерархия, която завършва с папата.

Папските енциклики, заключението на процеса, отговарят на най-големите проблеми на обществото. Всеки трябва да се вслуша в „Magnifica Humanitas“ (За защитата на човешката личност във времето на изкуствения интелект) на Лъв.

Енциклики в историята

С умишлена символика, тази енциклика се появява на годишнината от Rerum Novarum („За капитала и труда“) на Лъв XIII от 1891 г., която се обръща към „духа на революционната промяна“, провокиран от Позлатената епоха, и предлага да се изправи балансът в полза на работниците. Тя предвещава растежа на организираните работнически движения.

Питър Атуотър, икономист в университета "Уилям и Мери", който картографира влиянието на социалните настроения върху пазарите и икономиката, посочва теза на своята студентка Франческа Перейра, демонстрираща, че „известните папски енциклики често съвпадат с върхове и спадове в глобалното доверие“. Те се появяват, когато съотношението на Dow Industrials (който се покачва, когато хората са оптимисти) към златото (избирано, когато са песимистични) е на или близо до големи върхове и спадове. „Докато съотношението Dow към злато демонстрира обществен песимизъм и оптимизъм на пазарите, папските енциклики представляват моралния отговор на социалните настроения“, казва Перейра. Деветте най-известни енциклики от 1925 г. насам са дошли в моменти на висока несигурност или увереност.

Така, през 1930 г. в „Casti Connubii“ („За християнския брак“) се засилва противопоставянето на всички методи за контрол на раждаемостта и евгеника, когато връхната точка на доверието се превръща в глобална депресия. През 1968 г. в „Humanae Vitae“ („За регулирането на раждаемостта“) се повтаря това послание в разгара на сексуалната революция (и на върха на бичия пазар). Църквата е загубила този спор в обществото, но е трябвало да изрази несъгласие.

В „Caritas in Veritate“ през юни 2009 г. Бенедикт XVI призовава да се придържаме към обективната истина в най-мрачните моменти на Голямата рецесия, когато конспиративните теории бушуваха. „Fratelli Tutti“ на Франциск през 2020 г. призовава за братство и толерантност към имигрантите в най-мрачните дни на пандемията. Fides et Ratio, призивът на Йоан Павел II за себепознание, идва в края на 1998 г., точно когато оптимизмът за края на историята от 90-те години на миналия век е напът да експлодира.

Понтифексите не променят общественото настроение, нито пък доктрината. По-скоро те променят тона, за да се справят с проблемите на момента. „Вместо да бъдат съд за промяна в Църквата“, открива Перейра, „върховете и спадовете в доверието често вдъхновяват църковните лидери да отстояват позицията си по ключови доктринални учения.“ Като подписва писмото, папата изпраща ясен сигнал, че настроението в обществото е крайно и ще изисква реакция.

„Magnifica Humanitas“ трябва да се разглежда в контекста, в който Луиджи Манджоне, чийто процес по обвинения в убийството на главния изпълнителен директор на United Healthcare напредна миналата седмица, е възхваляван; студентите в елитни университети освиркват всяко споменаване на AI на церемониите по дипломирането им, а популярността на големия бизнес, дори в САЩ, е на най-ниското си ниво. Не е чудно, че папата се е почувствал задължен да каже нещо.

AI и общество

Лео има два основни проблема с AI - безотчетният начин, по който се управлява, и въздействието на технологията върху индивидите и чувството им за идентичност. И двете опасения отразяват широко разпространени тревоги.

Неговите аргументи поставят църквата в пряк конфликт с либертарианците от Силициевата долина. „Манифестът на технологичния оптимист“, агресивен текст на могъщия рисков капиталист Марк Андреесен, атакува всеки опит на правителството да забави развитието на AI. Той твърди:

"Изкуственият интелект е нашата алхимия, нашият философски камък – ние буквално караме пясъка да мисли. Вярваме, че изкуственият интелект е най-добре да се разглежда като универсален инструмент за решаване на проблеми. А ние имаме много проблеми за решаване. Вярваме, че изкуственият интелект може да спаси животи – ако му позволим. Забавянето на AI ще струва животи… Смъртните случаи, които са можели да бъдат предотвратени от AI, чието съществуване е било предотвратено, са форма на убийство."

Лео възразява, че неконтролираното технологично развитие може да доведе до „увеличаване на средствата без растеж на човечеството: да имаш повече, без да си повече“. Вместо да приеме AI като философски камък, той твърди:

"Технологията не е просто инструмент. Когато се превърне в стандарт, по който се оценява всичко, тя започва да диктува кое е важно и кое може да бъде изхвърлено, свеждайки творението до обект на експлоатация, а човешките същества до просто зъбни колелца в система, насочена към все по-голяма ефективност."

Лео също така бие тревога за концентрацията на власт в няколко доминиращи компании за AI. Подходът на правителствата към регулирането на ранните дни на интернет и социалните медии, основан на принципа „laisser-faire“, и спокойното отношение към антитръстовото законодателство оставиха малко компании, които могат да „определят условията за достъп“ и „да оформят самите възможности за участие“. Такава концентрирана власт, твърди той:

"Е склонна да става непрозрачна и да избягва обществения надзор, увеличавайки риска от изкривени форми на развитие, които пораждат нови зависимости, изключения, манипулации и неравенства."

Неговата намеса е навременна, тъй като плановете за първични публични предлагания тази година от SpaceX (която притежава xAI), разработчика на ChatGPT OpenAI и Anthropic, която контролира чатбота Claude, биха оставили дори акционерите без практическа възможност да обуздават или управляват собствените си компании.

Поучвайки се от грешките, направени със социалните медии, папата казва, че обществото трябва да оцени „дали силата на цифровите инфраструктури и алгоритми наистина насърчава участието и отговорността, защитава уязвимите, осигурява справедлив достъп до възможности и остава насочена към доброто на всички“. Facebook и Twitter не отговориха на това. И Лъв, както други, иска да защити уязвимите от чатботове с изкуствен интелект.

Изкуственият интелект и индивидът

Другият голям проблем за Лео е влиянието на изкуствения интелект върху, както той го определя в заглавието си, Великолепието на човечеството. Хората сега третират чатботовете с изкуствен интелект като хора с всички човешки качества, въпреки че изкуственият интелект:

"Не преживява преживявания, не притежава тяло, не чувства радост или болка, не узрява чрез взаимоотношения и не знае отвътре какво означава любов, работа, приятелство или отговорност. Нито пък има морална съвест."

Изкуственият интелект не е морално неутрален, казва той, и използването му никога не може да бъде чисто технически въпрос – и въпреки това е представен като обективен и симулира човешката комуникация. Той може да отслаби личната креативност и преценка и да създаде илюзията за връзка с реален личен субект. И е изложен на опасността неговите привидно неутрални и обективни съвети „в крайна сметка да отразят и засилят стереотипа или идеологическите пристрастия на техните дизайнери“.

С тези аргументи Лео отговаря на някои от ужасяващите истории, които вече са се появили, за това как чатботовете с изкуствен интелект могат да засилят това, което потребителят им иска да чуе, до степен да подтикнат тийнейджъри към самоубийство. Той също така продължава вечния морален дебат, който противопоставя църквата и последователите на философа Имануел Кант (чийто е категоричният императив, че никой човек не трябва да бъде третиран само като средство за постигане на цел) срещу утилитаризма – философията да се прави най-голямо добро за най-голям брой – вместо да се тревожи за всеки отделен човек.

„Ако човешкото същество се третира като нещо, което трябва да бъде усъвършенствано или надминато, става по-лесно да се приеме, че някои животи са по-малко полезни, по-малко желани или по-малко достойни“, казва той, в класическа репетиция на аргумента на Кант срещу утилитаристите. В името на прогреса той предупреждава:

„Необходимите жертви“ може да започнат да се оправдават, поставяйки тежестта върху най-уязвимите в преследване на предполагаема оптимизация на вида."

Не е необходимо да си католик или дори да вярваш в Бог, за да намериш този аргумент за изключително убедителен. Що се отнася до папата, има либертариански и утилитарни аргументи срещу това, което той казва, докато някои католици се оплакват, че като призовава за по-внимателно регулиране на AI, вместо да го забранява, не е отишъл достатъчно далеч.

Но като прави този аргумент сега, папата изразява загриженост, която е станала всеобхватна в обществото, и той е свършил работата си на религиозен лидер, като е подтикнал моралния дебат. Този дебат сега трябва да се засили.

Джон Одърс е старши редактор за пазари и колумнист на Bloomberg Opinion. Бивш главен пазарен коментатор във Financial Times, той е автор на „Страшният възход на пазарите“.