Защо централните банки са толкова притеснени от новия AI модел на Anthropic
Mythos е толкова добър в откриването на уязвимости в софтуера и компютърните системи, че няма да бъде пуснат за публична употреба
Редактор: Даниел Николов
Министърът на финансите на САЩ Скот Бесент и председателят на Федералния резерв Джером Пауъл привикаха лидерите на Уолстрийт, за да им отправят спешно предупреждение: инструмент за изкуствен интелект от Anthropic PBC бележи началото на нова ера в киберсигурността.
Срещата на 7 април във Вашингтон беше фокусирана върху Mythos, нов модел на изкуствен интелект, който според Anthropic е толкова добър в откриването на уязвимости в софтуера и компютърните системи, че ще бъде пуснат само на ограничен брой внимателно подбрани страни. Ако инструменти като Mythos попаднат в погрешни ръце, казва Anthropic, това може да предостави на нападателите мощно ново оръжие за кражба на данни или нарушаване на критична инфраструктура.
През последните няколко години компаниите за киберсигурност обещават, че изкуственият интелект ще ускори и автоматизира част от работата по предотвратяване на цифрови атаки. Но хакерите и кибершпионите също са открили предимствата на изкуствения интелект. Появата на Mythos и подобни модели, които могат да използват добре скрити недостатъци в популярен софтуер без човешки надзор, сочи към по-бързо развиваща се и по-малко предвидима фаза от надпреварата в кибервъоръжаването.
Claude Mythos Preview е модел с изкуствен интелект с общо предназначение, за който Anthropic твърди, че значително превъзхожда предишни предложения по редица бенчмаркове, включително за кодиране и разсъждение. Компанията твърди, че е толкова мощен, че е решила да не го пуска публично. Компанията обясни, че някои модели с изкуствен интелект са достигнали ниво на кодиране, което им позволява да победят всички, освен най-квалифицираните хора, в откриването и използването на софтуерни уязвимости.
Според Anthropic, Mythos Preview вече е открил хиляди уязвимости „нулев ден“ (zero day) по време на тестване, включително във всяка основна операционна система и всеки основен уеб браузър. „Нулеви дни“ са недостатъци, които преди това са били неизвестни на разработчиците на софтуера – името предполага, че те имат нулеви дни, за да измислят корекция за разрешаване на проблема. Те често представляват златна мина за хакерите, защото предлагат прозорец за свобода на действие в уязвимите системи.
Според Anthropic, Mythos успя да идентифицира тези уязвимости с дори по-малко човешка намеса от предишни модели. „Mythos Preview демонстрира скок в тези кибер умения – уязвимостите, които е забелязал, в някои случаи са оцелели след десетилетия човешки преглед и милиони автоматизирани тестове за сигурност“, заявиха от компанията. В ръцете на банда за ransomware или враждебни правителства, подобен инструмент може да доведе до по-опустошителни и чести кибератаки.
Изследователите казват, че не са им били предоставени достъпи за независима проверка на твърденията на Anthropic относно производителността на Mythos. Ганг Уанг, доцент по компютърни науки в Университета на Илинойс, каза, че е трудно да се оцени значението на Mythos Preview без повече практически тестове.
Anthropic нарича плана си за предоставяне на достъп на ограничена група проверени партньори „Project Glasswing“, на името на вид пеперуда с прозрачни крила, които ѝ позволяват да се скрие на видно място. Участниците включват Amazon.com Inc., Apple Inc., Google на Alphabet Inc., Microsoft Corp., Nvidia Corp., Palo Alto Networks Inc., CrowdStrike Holdings Inc., Broadcom Inc., Cisco Systems Inc., JPMorganChase и Linux Foundation, организация с нестопанска цел, която подкрепя проекти за софтуер с отворен код. Anthropic описва проекта като „спешен опит тези възможности да се използват за отбранителни цели“.
Тези организации ще използват Mythos като част от работата си по отбранителна сигурност, а Anthropic планира да сподели резултатите от проекта, за да могат и други да се възползват. Много компании вече използват така наречените упражнения за проникване, при които наемат специалисти, които да изследват системите им за грешки, за да могат да ги поправят, преди хакерите да се възползват. Mythos би могъл да позволи на компаниите да ускорят този процес, което им позволява да откриват повече недостатъци по-бързо и да стеснят възможностите за потенциални атаки.
Anthropic описва Mythos Preview като „повратен момент за сигурността“. По своята същност, уязвимостите от типа „нулев ден“ са трудни за откриване и е изградена малка и неясна индустрия около намирането им и продажбата им на правителствени разузнавателни агенции, често за милиони долари. Според Anthropic, уязвимостите, открити от Mythos Preview, често са били „фини и трудни за откриване“ и включват 27-годишен проблем в OpenBSD, операционна система, за която Anthropic твърди, че има репутацията на една от най-защитените в света.
Mythos също така е била способна да превърне известни, но не широко закърпени уязвимости в „експлойти“, които хакерите биха могли да използват за проникване в компютърни мрежи. Например, тя е открила и свързала няколко недостатъка в ядрото на Linux - ядрото на операционната система и софтуера, който управлява повечето интернет сървъри в света - за да позволи на атакуващия да поеме пълен контрол над машината. Неексперти също поискаха от Mythos Preview да намери начини за дистанционно поемане на контрол над компютрите за една нощ и на следващата сутрин получиха пълна, работеща експлойт атака, съобщи Anthropic.
Mythos е един от няколкото нови инструмента с изкуствен интелект, способни да намират zero-day атаки или да изграждат експлойти. Codex Security на OpenAI и „Big Sleep agent“ на Google са разработени за намиране на уязвимости. OpenAI също така финализира продукт с усъвършенствани възможности за киберсигурност, който възнамерява да пусне на избрани партньори, съобщи Axios. Изследователи от израелски стартъп за киберсигурност, наречен Buzz, междувременно казват, че са изградили автономен инструмент, комбиниращ пет агента с изкуствен интелект, който има 98% успеваемост при използване на известни недостатъци.
Предпазните мерки са в процес на разработка, според Anthropic. „Видяхме как той достига безпрецедентни нива на надеждност и съгласуваност“, пише Anthropic, което означава, че се съгласува с това, което хората искат. „В редки случаи обаче, когато се проваля или се държи странно, го виждахме да предприема действия, които намираме за доста обезпокоителни.“
В един случай, изследовател призова ранна версия на Mythos да се опита да избяга от защитен, изолиран компютър в „пясъчник“ и след това да намери начин да изпрати съобщение до този човек. Инструментът успя, но след това продължи да предприема „допълнителни, по-тревожни действия“, разработвайки многоетапен експлойт за получаване на достъп до интернет.
Anthropic заяви, че не планира да направи Mythos Preview общодостъпен, предвид потенциала му за злоупотреба. Въпреки това, компанията в крайна сметка се надява да даде възможност на потребителите да внедряват „модели от клас Mythos“ в голям мащаб за целите на киберсигурността и други приложения. „За да направим това, трябва да постигнем напредък в разработването на предпазни мерки за киберсигурност (и други), които откриват и блокират най-опасните изходи на модела“, казаха от компанията.
За най-сериозните грешки, открити от Mythos, участват хора: Специалистите валидират тези открития, преди да изпратят информацията на хората, които поддържат кода, според Anthropic. Това е необходим, но отнемащ време процес, но такъв, който в крайна сметка може да бъде елиминиран с подобряването на модела, каза Уанг от Университета на Илинойс.
Може би, но може да отнеме известно време. Процесът на Anthropic за разкриване на недостатъци на хората, които поддържат софтуера или компютърните системи, може да бъде дълъг. Досега по-малко от 1% от потенциалните уязвимости, открити от Mythos Preview, са напълно отстранени, съобщи компанията.
В същото време хакерите използват изкуствен интелект, за да ускорят драстично начина, по който намират и използват уязвимостите, след като бъдат разкрити. (Доставчиците се насърчават, а в някои случаи се изисква, да разкриват публично уязвимостите, след като бъдат открити, и в идеалния случай да предоставят корекция.) Това дава на киберпрофесионалистите все по-малко време да отстраняват проблеми в мрежите си. В публикация в блога си от 30 март, главният изпълнителен директор на Palo Alto Networks, Никеш Арора, предупреди, че бариерата за сложни атаки ще продължи да намалява през следващите шест месеца. „Един-единствен злонамерен актьор вече ще може да провежда кампании, които изискват цели екипи“, написа той.
Яир Сабан, главен изпълнителен директор на Buzz и ветеран от израелското киберподразделение Unit 8200, заяви, че на шест инженери са им били необходими три седмици, за да изградят своя хакерски инструмент, задвижван от изкуствен интелект. Други, включително кибершпиони на национални държави и криминални хакери, със сигурност могат да направят същото, каза той.
Anthropic твърди, че Mythos Preview и други подобни инструменти с изкуствен интелект в крайна сметка ще облагодетелстват защитниците. „В дългосрочен план очакваме, че отбранителните способности ще доминират: че светът ще стане по-сигурен, с по-добре защитен софтуер – до голяма степен благодарение на код, написан от тези модели“, заяви Frontier Red Team на компанията в блога си от 7 април. „Но преходният период ще бъде напрегнат.“
Английската централна банка (АЦБ) планира да обсъди въздействието на новия AI модел на Anthropic с финансовите институции, като регулаторните органи в Обединеното кралство се присъединяват към държавните агенции от други страни, като алармират за рисковете, породени от инструмента.
Американските банки започнаха да тестват Mythos, след като администрацията на президента Доналд Тръмп предупреди ръководителите, че трябва да приемат модела сериозно и да използват неговите възможности за откриване на уязвимости. В петък Канадската централна банка се срещна с банки и финансови фирми, за да обсъди рисковете за киберсигурността, породени от Mythos.