Папа Лъв XIV призова AI да бъде „обезоръжен“ в защита на човечеството

Папа Лъв XIV заяви, че изкуственият интелект трябва да бъде „обезоръжен“, за да защити човечеството от опасностите, включвайки се в разгорещения дебат относно степента, до която правителствата трябва да регулират технология, която променя света.

В знаково обръщение към Католическата църква, което включваше видео презентация с изображения от Индустриалната революция, Втората световна война и падането на Берлинската стена, папата призова за превръщането на изкуствения интелект в „по-приятелски за човека“. Той каза, че технологията трябва да бъде освободена от монополен контрол, като не се използва за постигане на геополитически или търговски печалби.

Обезоръжаването

„Обезоръжаването означава дискредитиране на допускането, че техническата мощ автоматично дава право на управление“, каза папата в понеделник в новата си енциклика (букв. папско писмо – бел. ред.) до вярващите. „Да ​​обезоръжиш не означава да отхвърлиш технологията, а да ѝ попречиш да доминира над човечеството.“

Като се обявява толкова публично за необходимостта от защита на хората в ерата на изкуствения интелект, първият американски папа в историята потенциално се поставя на път към нов сблъсък с президента на САЩ Доналд Тръмп, който подкрепя дерегулацията на бързо развиващата се технология, за да запази конкурентно предимство спрямо Китай.

70-годишният папа се присъединява към ожесточен дебат за това доколко трябва да бъдат ограничени моделите с изкуствен интелект на фона на опасения от потенциала им да причинят хаос в банковата система, да избират цели за военни атаки и в крайна сметка да заменят хората в огромни части от процеса на вземане на решения.

Публикуването на документа, наречен Magnifica humanitas, което на латински означава „великолепно човечество“, бележи най-значимия акт на папата, откакто стана глава на 1,4 милиарда католици в света преди година. Енцикликите, както са известни тези писма, са начин папите да предоставят морални насоки по най-големите предизвикателства на своето време, включително горещи теми като изменението на климата и миграцията.

Математик по образование, Лъв също така предупреди конкретно за опасностите от използването на компютри във войната и загубата на представа за моралните съображения, казвайки, че „никой алгоритъм не може да направи войната морално приемлива“.

Още по темата

В първата си година на престола папата предизвика Тръмп, AI и богатите

Посещението на папата в Африка беше за мир, диалог и социална справедливост

AI и конфликтите

„Изкуственият интелект не премахва присъщата нечовечност на конфликта, всъщност той може само да доведе до конфликт по-бързо и да го направи по-безличен“, каза папата. Той предупреди за възможността някои „да разглеждат въоръжения конфликт като ефективен начин за отклоняване на вниманието от вътрешните проблеми и циничен инструмент за справяне с трудностите“.

Коментарите му идват в момент, когато представянето на Mythos, инструмент за изкуствен интелект на компанията Anthropic, който може да идентифицира неизвестни недостатъци в AI системите, предизвика безпокойство по целия свят през последните месеци.

В биенето на тревога относно рисковете, свързани с нерегулирания AI, е показателно, че Ватикана отправи покана към съоснователя на Anthropic Кристофър Олах, експерт по машинно обучение. Създателят на популярния чатбот Claude се противопостави на администрацията на Тръмп относно използването на технологията на Anthropic за водене на война и наблюдение.

„Имаме нужда повече от света - религиозни общности, гражданско общество, учени, правителства - да направи това, което Негово Светейшество е направил тук: да приемат това сериозно, да се вгледат внимателно и да тласкат събитията в по-добра посока“, каза Олах в реч след обръщението на папата. „Имаме нужда от информирани критици, които ще кажат на лабораториите кога се проваляме. Имаме нужда от морални гласове, които стимулите не могат да заглушат“.

Вицепрезидентът на САЩ Джей Ди Ванс, преминал към католицизма, близък до милиардера от Силициевата долина Питър Тийл - ранен инвеститор в OpenAI - намекна за назряващото напрежение. Наскоро Лъв и Тръмп се скараха за противопоставянето на папата на войната в Иран.

„Мисля, че когато лидерът на най-голямата християнска деноминация в света говори по подобен въпрос, това със сигурност ще има известно влияние и съм сигурен, че ще съдържа много прозрения“, каза Ванс на брифинг за пресата на 19 май. „С някои от които вероятно ще се съглася, с други може би не.“

Тийл беше в Рим по-рано тази година за някои широко отразени лекции при закрити врати относно антихриста. В отговор съветникът на Ватикана отец Паоло Бенанти атакува либертарианските възгледи на Тийл в статия, наричайки ги „упорит акт на ерес“.

Влияние на AI върху ръста на заетостта:

Римокатолическата църква е все по-гласовита относно опасенията си за изкуствения интелект, като твърди, че мощният инструмент изисква правила за защита на човешкото достойнство и общото благо.

Още по темата

Тръмп срещу Папата: за сърцата, умовете и гласовете на католиците

Тръмп се нахвърли и върху папата, който обеща да продължи критиките за войната

Вдъхновението

За Лъв IV неговото явно вдъхновение е папа Лъв XIII, който е ръководил Църквата по време на първата индустриална революция и е написал енцикликата Rerum Novarum. Настоящият папа не само е избрал Лъв за свое име, за да почете своя предшественик от 19-ти век, но и прави пряка връзка между разрухата, която машинно задвижваното масово производство е причинило на работниците тогава, и това, което изкуственият интелект прави с работниците днес.

Папата „иска да се увери, че това, което се случва с изкуствения интелект, не се основава само на икономиката, не се основава само на това колко богати могат да станат група милиардери, и че има предпазни механизми за него и за това как се използва“, каза в интервю отец Томас Рийз, старши анализатор и католически учен.

От съобщения за чатботове, насочващи потребителите към самоубийство, до апокалиптичните прогнози за масова безработица, темата за изкуствения интелект е противоречива и емоционална. И все пак стилът на Лъв е по-сдържан от този на папа Франциск, който направи историческо обръщение към лидерите на Г-7 през 2024 г., в което ги предупреди да не губят контрол над изкуствения интелект.

„Днес, сред стоките, които са универсално предназначени за всички, трябва да включим и нови форми на собственост, като патенти, алгоритми, цифрови платформи, технологична инфраструктура и данни“, пише папата.

Опасността, казва той, е когато технологиите „започнат да диктуват кое е важно и кое може да бъде изхвърлено“, свеждайки „човешките същества до просто зъбни колела в система, насочена към все по-голяма ефективност“.

Още по темата

Ще успее ли вековната дипломация на Ватикана да играе роля между Украйна и Русия

Папа Лъв XIV наследи реформирана Банка на Ватикана, която печели пари

Накъде ще поеме католическата църква при папа Лъв XIV?