Mythos на Anthropic е тревожен сигнал за всички, не само за банките

Mythos, нов модел с изкуствен интелект, който Anthropic PBC представи като твърде опасен, за да бъде пуснат публично, на пръв поглед изглеждаше като проблем за банките.

Само дни след като компанията обяви новата технология, министърът на финансите на САЩ Скот Бесънт привика лидерите на Уолстрийт, за да се увери, че вземат мерки за защита на системите си, което донесе безценна публичност за Anthropic и повдигна въпроси кой получава изключителен предварителен достъп до нейното заплашително технологично потомство.

Още по темата

Защо централните банки са толкова притеснени от новия AI модел на Anthropic

OpenAI, Anthropic и Google се обединяват срещу кражбата на технологии от Китай

Mythos първо изглеждаше като проблем за банките

Сега Министерството на финансите настоява за достъп до Mythos. Една организация, която вече го има, е британският Институт за сигурност на изкуствения интелект, който се превърна във водещия световен неутрален арбитър за това какво се счита за безопасен и сигурен AI.

Институтът установи, че част от шумотевицата около Mythos е оправдана. Моделът наистина е по-способен да бъде използван за сложни кибератаки от други AI инструменти като ChatGPT на OpenAI или Gemini на Google. Но той е най-опасен за „слабо защитени“ или опростени системи.

Големите банки разполагат с едни от най-сигурните IT системи в света и макар Mythos и друг мощен AI да представляват заплаха в неподходящи ръце, именно много по-широкият кръг от малки и средни компании изглежда най-уязвим към хакери и злонамерени играчи, които използват тези инструменти.

Генеративният AI скъсява времето между уязвимост и атака до часове

Специалистите по киберсигурност отдавна се оплакват, че компаниите третират сигурността като нещо второстепенно, а резултатът е онлайн услуги и софтуер, пълни с бъгове, които дават на хакерите възможен вход към компютърна система.

Технологичните компании имат подход за справяне с това, наречен „отговорно разкриване“. След като бъде открит пропуск в техния софтуер, те го обявяват публично заедно с предложено решение, като дават време на клиентите си да приложат корекцията и да продължат напред. Версията на Microsoft Corp. за това е Patch Tuesday, който въпреки името си означава ежемесечно разкриване на пропуски, които компанията е открила в Office 365, Windows и други продукти.

IT екипите в банки като Barclays Plc и Wells Fargo & Co. вземат тези предложени корекции, тестват ги, за да се уверят, че няма да счупят някоя от съществуващите им системи, получават одобрение от ръководството и след това ги внедряват. Това отнема седмици или месеци.

До появата на генеративния AI този процес работеше съвсем добре, защото обикновено на злонамерените играчи им трябваше още повече време, за да намерят начин да атакуват система въз основа на вече разкрития пропуск. Те трябваше да изучат бъга и също така да експериментират с различни методи за използването му.

Инструментите с изкуствен интелект промениха всичко това. Още преди две години хакерите можеха да вземат детайлите от едно разкриване, да ги поставят в ChatGPT и след това да кажат на бота да сканира публична база данни с програмен код като GitHub за други модели, които след това биха могли да бъдат използвани.

Да кажем например, че Microsoft обяви, че нейните изследователи са открили слабост в начина, по който Office 365 обработва даден файл. Един чатбот не само би могъл да предложи как да се използва тя, но и бързо да открие друг софтуер като Microsoft Outlook или Teams, който има сходни слабости.

През последните няколко месеца всичко това стана още по-лесно за хакерите, тъй като AI компаниите надариха моделите си с „агентни“ способности, на практика давайки им силата да действат самостоятелно. Claude Cowork на Anthropic, пуснат през януари, вече може да изпълнява задачи като изпращане на имейли и насрочване на срещи в календар. За онези, които искат да проникнат в софтуер, такива инструменти не само ще намират слабости, а и ще пробват различни начини автоматично да ги атакуват, докато някой от тях не сработи.

Истинският риск е за по-малките компании, не за Уолстрийт

Mythos може дори да „свързва“ един софтуерен бъг в многоетапни атаки, нещо, което досега можеха да правят само висококвалифицирани човешки хакери. Това е еквивалентът на крадец, който планира поредица от стъпки за обир: намира първия отворен прозорец, използва го, за да отключи врата отвътре, а след това обезврежда алармата. Всяка стъпка сама по себе си не е достатъчна, но заедно осигуряват пълен достъп.

Досега въздействието на генеративния AI върху киберсигурността беше неясно и размито. Нямаше един-единствен инструмент, който да може да стартира опустошителни нови атаки, но големите езикови модели все пак бяха използвани, за да усилят стари хакерски трикове. Хакери са използвали чатботове, за да изглаждат имейли за фишинг атаки и да ги правят по-убедителни, или генератори на аватари в реално време, за да създават deepfake видеоразговори, които карат хората да вярват, че мъж в хола си е млада жена.

Но агентният AI е на път да захрани самото действие по хакването, което отдавна е опортюнистично занимание за безскрупулните. Така наречените black hats обикновено не атакуват банки, защото те са толкова добре защитени.

Вместо това те сканират мрежата за уязвимости - било то болница, в която могат да проникнат, за да поискат откуп, или малък семеен магазин. Последните постижения в AI са проблем за тези организации, защото в момента, в който даден доставчик на софтуер разкрие слабост, те вече разполагат с изключително малко време да обновят и закърпят системите си.

Според zerodayclock.com средното време между публичното разкриване на софтуерна уязвимост и създаването на работеща атака се е сринало от 771 дни през 2018 г. до по-малко от четири часа днес.

Разкриването на Mythos от Anthropic със сигурност подпомага собствените ѝ усилия за публичност преди първично публично предлагане, като добавя още мистика около мощта на технологията ѝ. Но то също така налага така необходимото осъзнаване, че времевият прозорец между публикуването на IT слабости и експлоатирането им на практика е изчезнал. Това повдига въпроси дали „отговорното разкриване“ изобщо е толкова добра идея и дали процесът на коригиране на слабости в рамките на седмици и месеци вече не е безсмислен.

Дори Уолстрийт все още не може да отговори на тези въпроси, но банките поне имат персонала и парите, за да намерят трудните структурни промени, необходими, за да правят корекции почти в реално време. По-големият проблем ще бъде за по-малките фирми, които трябва да се движат също толкова бързо и които ще се нуждаят от техническа и регулаторна помощ, каквато пазарът все още не може да осигури.

Парми Олсън е колумнист на Bloomberg, който се занимава с технологии. Бивш репортер на Wall Street Journal и Forbes, тя е автор на книгата „Превъзходство: AI, ChatGPT и надпреварата, която ще промени света.“

Още по темата

Ще се изплатят ли инвестициите в изкуствен интелект? Попитахме ексертите

Сингапур вади милиони, за да влезе в надпреварата за изкуствен интелект