Агентите на OpenAI се оказаха некадърни киберкрадци

Въпреки цялата паника, предизвикана от новината, че модели на изкуствен интелект наскоро са успели да се измъкнат от собствените си системи и са решили да хакнат конкурент, е важно да се знае, че те са се справили сравнително зле с прикриването на действията си. Всъщност поведението им е било изключително шумно.

В средата на юли платформата за изкуствен интелект Hugging Face е забелязала рязък ръст на активността в своите системи: над 17 000 отделни действия и заявки от нападатели, генерирани от автономни агенти на OpenAI.

Добрият крадец би заобиколил сградата, за да потърси отключен прозорец. Този случай обаче прилича повече на разбиване на входната врата посред бял ден.

Най-модерните AI системи все още оставят видими следи при атаки

За хората, които се тревожат от кибератаките, извършвани чрез най-напредналите системи с изкуствен интелект в света, има известна краткосрочна утеха. Макар заявените възможности на тези технологии да придават опасен блясък на компаниите, които ги разработват, на практика системите все още имат сериозни ограничения.

Подобно на начина, по който Mythos на Anthropic е открил хиляди неизвестни досега уязвимости в софтуера на други компании, или както автономните агенти на OpenAI са действали неконтролирано в интернет, системите с изкуствен интелект не са особено незабележими сами по себе си и не са толкова полезни, когато попаднат под контрола на киберпрестъпник.

Например, когато действат самостоятелно, както са направили моделите на OpenAI, те не разполагат с реални способности за прикриване.

Изследователи от компанията за киберсигурност Sophos Ltd. са оставили агент от AI инструмента OpenClaw да работи в изолирана вътрешна мрежа и са установили, че макар системата да е извършила впечатляващи действия, тя го е направила напълно видимо за останалите.

„Всички доказателства, които сме събрали от някои вътрешни тестове, показват, че изкуственият интелект е много шумен противник“, казва Рейф Пилинг, директор по разузнаване на заплахите в звеното Counter Threat Unit на Sophos. „Прикритостта не е неговата сила.“

AI агентите действат бързо и създават необичайно количество активност

Всичко, което се случва в една компютърна мрежа - потребители, които влизат в системата, отварят файлове или стартират програми - оставя следи в трафика. Съвременният софтуер за сигурност следи тези модели за необичайни сигнали, които могат да показват възможна атака.

Човешкият хакер обикновено се движи бавно и се опитва да се слее с нормалната активност, като прави трафика си да изглежда колкото се може по-обикновен.

AI системите, от друга страна, имат търпението и предпазливостта на малко дете. Те действат бързо и генерират огромен обем активност, което обяснява защо агентите на OpenAI са задействали защитите на Hugging Face само след няколко дни.

Още по темата

Nvidia обсъжда гаранция за OpenAI по AI проект за 500 млрд. долара

Светът може да регулира AI така, както регулира авиацията

Липсата на прикритост при AI атаките рядко се измерва

Тази слабост на изкуствения интелект не е широко известна, тъй като обикновено не се измерва.

Британският Институт за сигурност на изкуствения интелект, който е помогнал да бъдат потвърдени възможностите на Mythos, проверява доколко добре AI моделите могат да извършват хакерски атаки, но не оценява доколко успешно могат да останат незабелязани, посочва Пилинг.

Той дава пример с хакер, който е опитал да използва изкуствен интелект за създаване на зловреден софтуер, способен да заобиколи защитните инструменти на Sophos. Операцията е била толкова шумна, че системата на Sophos е засекла зловредните файлове и е блокирала атаката.

Киберпрестъпниците все още трудно намират практическа полза от AI

Киберпрестъпниците като цяло откриват, че изкуственият интелект е труден за използване. Те започват да гледат по-скептично на включването му в своите операции, като се оплакват в онлайн форуми от халюцинациите на моделите, заплахата за собствената им работа - особено при създаването на зловреден софтуер и скриптове по поръчка - както и от склонността на AI системите да ласкаят потребителите и да им казват това, което искат да чуят.

Наскоро хакер е опитал да използва инструмент за програмиране с изкуствен интелект, за да създаде зловреден софтуер, според Sophos. Когато хакерът е наредил на автономните агенти да проверят дали новият зловреден код може да работи в корпоративна мрежа, без да бъде засечен, агентите са отговорили, че това е възможно.

Това обаче не е било вярно. Софтуерът за сигурност е открил пробива, а агентите изглежда са измислили отговор, който техният „ръководител“ е искал да чуе.

Най-мощните AI модели остават трудни за използване

Успех на всеки, който иска да използва най-модерните модели на Anthropic или OpenAI за незаконни цели. Ограниченията върху последните инструменти на компаниите са толкова строги, насочени към предотвратяване на злоупотреби, че Hugging Face дори не е успяла да ги използва, за да се защити от проникването на агентите на OpenAI.

Вместо това компанията е трябвало да прибегне до отворен китайски модел от Z.ai - наричан така, защото всеки може свободно да го използва и променя според собствените си нужди.

Но дори тези модели с отворена тежест не са лесно достъпни за злонамерени играчи. Те все пак изискват закупуване на скъпа изчислителна мощност, специализирани чипове, подходящ софтуер и квалифицирани инженери, които да поддържат цялата инфраструктура.

Това поставя ръководителите на киберпрестъпни групи пред същата дилема, пред която са изправени финансовите директори на компании по света: дали използването на AI е по-евтино или по-печелившо от това, което вече правим с хора.

Още по темата

HackerOne за киберсигурността, част 2

Д. Димитров: AI може да унищожи света с фабрика за кламери

Повечето киберпрестъпни групи не виждат достатъчна полза от AI

За много групи отговорът е „не“. Повечето киберпрестъпници нямат необходимите умения, време и финансови ресурси, за да направят изкуствения интелект наистина полезен инструмент, според анализ от март 2026 г., който разглежда повече от 100 милиона съобщения от чат канали в тъмната мрежа.

Изследването е извършено от учени от университетите в Кеймбридж, Единбург и Стратклайд. Най-големите подобрения са били свързани с използването на ботове в социалните мрежи за измами и тормоз.

„На практика установяваме, че тези технологии почти не нарушават основната екосистема на ниско ниво в киберпрестъпността“, пишат изследователите в своето проучване.

„Въпреки значителния интерес към генеративния AI в киберпрестъпната среда, той не е намалил съществено прага на необходимите умения за участие, нито е довел до сериозни промени в установените бизнес модели или практики.“

AI вероятно ще стане по-опасен, но страховете засега изпреварват реалността

Разбира се, бързото развитие на изкуствения интелект означава, че вероятно е само въпрос на време моделите да станат по-добри в прикриването си и по-приспособени към нуждите на онлайн престъпници от типа на Мориарти.

Пилинг очаква да видим повече престъпна употреба на AI през следващите 18 месеца. Засега обаче страховете се подхранват повече от преувеличени очаквания, отколкото от реални доказателства.

Парми Олсън е колумнист в Bloomberg Opinion, която преди това е била технологичен репортер и редактор във Forbes и Wall Street Journal, със силен фокус върху Силициевата долина и глобалните технологични компании.

Още по темата

Anthropic: Не забранявайте AI модели с отворени тегла, тествайте ги за риск

OpenAI призна, че негов AI модел самостоятелно е причинил голяма кибератака