Mythos AI поражда страх и объркване сред световния финансов елит

Войната и енергийният шок от исторически мащаб представляват сериозни рискове за финансовата стабилност, с които е трудно да се съревновава.

И все пак все още непубликуваният AI модел на Anthropic, наречен Mythos, добави допълнителен елемент на тревога към разговорите сред властите, събрали се във Вашингтон в две институции, създадени преди осем десетилетия с цел да подпомагат глобалната икономическа хармония.

На пролетните срещи на Международния валутен фонд и Световната банка военният конфликт в Близкия изток беше основна тема на разговорите и принуди правителствата да извадят от нафталина плановете си за реакция при кризи, да се ангажират със сътрудничество, където е възможно, и да подкрепят потреблението с фискални и парични инструменти. По отношение на Mythos имаше много повече въпроси, отколкото отговори.

„Ако попадне в грешните ръце, резултатите могат да бъдат страшни“, заяви във вторник пред телевизия Bloomberg председателката на Европейската централна банка Кристин Лагард.

Тя имаше предвид разрушителния потенциал на Mythos и се присъедини към други централни банкери, министри на финансите, регулатори и инвестиционни шефове, които търсят информация за потенциални заплахи и предпазни мерки.

Общите характеристики на проблема бяха изнесени в публичното пространство от информация на Bloomberg News. Според нея министърът на финансите Скот Бесент е събрал лидерите на Уолстрийт, за да ги предупреди за предстоящ модел на изкуствен интелект, който може да доведе до нова ера на кибератаки, стартирани автономно от ботове.

„Уверен съм, че всички вече са съгласни и работят в една посока, за да изградят устойчивост“, заяви Бесент пред CNBC в сряда.

Извън САЩ обаче привидната спешност на тази среща допринесе за създаването на атмосфера на повишена тревога сред висшите държавни служители и банкерите. Някои от тях се опасяваха от технология, която би могла да пробие традиционните киберзащити, излагайки финансовата система на неизмерими заплахи.

„Би било разумно да се смята, че събитията в Персийския залив са най-новото предизвикателство за нас в този свят“, заяви управителят на Банката на Англия Андрю Бейли по време на събитие в Колумбийския университет в Ню Йорк в началото на тази седмица. Докато „не се събудите и не откриете, че Anthropic може би е намерила начин да пробие цялата киберсигурност и си помислите: „Какво ли съм направил погрешно в миналия си живот?“

Още по темата

Mythos на Anthropic е тревожен сигнал за всички, не само за банките

Mythos променя киберсигурността: открива узязвимости, пропускани с десетилетия

Основни въпроси

Предизвикателството, пред което са изправени Бейли и други водещи експерти по финансова стабилност, е, че те не знаят достатъчно за заплахите, за да разберат колко голям е напредъкът на Mythos в сравнение с нарастващите рискове за киберсигурността, за които предупреждават вече години наред.

Може ли Mythos да доведе до масово ограбване на банкови сметки, парализиране на международните платежни системи или да предизвика криза на доверието, която да разбие основата на финансовата система – доверието?

Дали това е сходно с рисковете от квантовите компютри, известна заплаха, която регулаторните органи вече проучват подробно, или ще се наложи изготвянето на нов план?

Тези въпроси витаеха из коридорите и конферентните зали на хотел „Уилард“ във Вашингтон, където Абрахам Линкълн е живял преди встъпването си в длъжност и където Институтът за международни финанси тази седмица беше домакин на високопоставени длъжностни лица и мениджъри.

Много от тях остават без отговор.

Mythos на Claude се фокусира върху софтуерното инженерство

До каква степен базираната в Сан Франциско компания Anthropic споделя подробности и достъп до Mythos с длъжностни лица и банки извън САЩ, не стана ясно веднага.

Американски лидер на европейска банка заяви, че те са получили обещание за брифинг. Ограниченият достъп може да направи част от световната финансова система неспособна да следва съветите на Международния валутен фонд да остане „на челно място“ в областта на киберсигурността.

Канадският министър на финансите Франсоа-Филип Шампан заяви, че Mythos „изисква цялото ни внимание“ и че иска да повдигне въпроса пред своите колеги.

„Имаме общ интерес да гарантираме устойчивостта на финансовата ни система“, каза той в интервю в сряда.

Технологичният екип на Министерството на финансите на САЩ се опитва да получи достъп до AI модела Mythos на Anthropic PBC, за да може да започне да търси уязвимости, съобщи тази седмица за Bloomberg източник, запознат със ситуацията.

Джон Уилямс, президент на Федералния резерв на Ню Йорк, заяви в четвъртък, че последните постижения „показаха, че възможностите на тези инструменти за изкуствен интелект – както за откриване на уязвимости, така и за възползване от тях – напредват много по-бързо, отколкото мнозина очакваха“.

Федералният резерв на Ню Йорк е ключов център за управление на глобалните финансови операции и наблюдение на рисковете за стабилността.

Още по темата

Anthropic съди правителството на САЩ заради етикета „риск за веригата на доставки“

Банките се отварят за AI: стартъпите печелят, гигантите изостават

Ролята на Съвета за финансова стабилност (FSB)

Заплахите за финансовата стабилност традиционно се координират чрез Съвета за финансова стабилност (FSB), чийто председател в момента е Андрю Бейли от Английската централна банка.

Но FSB до голяма степен остава на заден план по отношение на киберрисковете, тъй като някои от членовете му се колебаят да бъдат прозрачни в широка група, включваща държави като Китай. Това оставя цифровото пространство до голяма степен в ръцете на ограничени групи като Г-7.

На срещата на финансовите министри от Г-7 в сряда беше обсъдена необходимостта от международна институционална рамка за надзор върху регулирането на изкуствения интелект. Причината е, че никоя страна не може да се справи сама с рисковете, свързани с Mythos, посочват двама участници в разговорите.

Налице е подкрепа за проучване на темата, предвид експоненциалния растеж на рисковете и потенциално тежките им последствия, добави един от тях, макар че пътят напред не е ясен.

Към тревогите се прибавят и засилените геополитически рискове, които съпътстват апокалиптичния сценарий, при който технологията преминава от трансформиране на ефективността на финансовия сектор към унищожаване на неговата технологична инфраструктура. Конфликтът в Близкия изток увеличава опасенията от подкрепени от държавата хакерски атаки.

„Спешна необходимост“ за регулация

Както държавните служители, така и банкерите са наясно, че ако такава разрушителна технология за изкуствен интелект може да бъде създадена от американска компания, вероятно тя би могла да бъде разработена и от компания в по-враждебна държава, която няма да предупреди Уолстрийт за надвисващата заплаха.

„Възможностите на изкуствения интелект се развиват по-бързо, отколкото се изработват регулаторните рамки за контрол върху тях“, заяви Лайла Хаваджа, директор по проучванията в Gavekal Technologies, която следи технологичния сектор в САЩ и Китай. „Има спешна необходимост да се изградят предпазни мерки, преди тези модели да се вкоренят дълбоко в критични системи като финансовата.“

Търсенето на отговори тази седмица подчертава и пропастта между тези, които имат AI, и тези, които нямат, както и раздробяването на екосистемата на глобалната финансова стабилност. Европа е все по-загрижена за прекомерната си зависимост от чуждестранни технологични компании.

Официални лица се оплакват от подхода „всеки за себе си“, който все повече се промъква в глобалните разговори за финансите и може да попречи на ефективното споделяне на информация за рисковете в световен мащаб. Няколко европейски представители заявиха, че ще използват срещите тази седмица, за да насърчат американските си колеги да споделят всичко, което могат.

Елизабет Свантесон, министър на финансите на Швеция, заяви пред Bloomberg News, че в четвъртък ще се състои „среща за ранно предупреждение“ с централни банкери и министри, на която изкуственият интелект ще бъде една от темите.

„Моето послание ще бъде, че изкуственият интелект е фантастичен, но непредсказуемото лидерство в съчетание с него е опасно“, каза тя. Тя добави, че войната между САЩ и Израел и несигурността са доминиращите теми, наред с киберзаплахите.

Още по темата

Защо централните банки са толкова притеснени от новия AI модел на Anthropic

Изоставането в AI интеграцията рискува фалити на български фирми

Anthropic неволно разкри вътрешната система зад Claude Code